关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12770人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

冬天没必要买太多外套,有这3件够了

静儿时尚达人 浏览 13618

跻身世界第一梯队!这一行业,迎爆发风口

环球网资讯 浏览 977

泰国为何“硬刚”特朗普 非要把仗打到底?

上观新闻 浏览 6

五粮液能“平替”茅台?

虎嗅APP 浏览 17175

A股利好来了!多只医药股发布消息

上观新闻 浏览 7

车臣军官称曾距"瓦格纳"部队数百米:准备面对各种结果

环球网资讯 浏览 88161

日本宣布再向菲律宾海警提供2艘97米级舰艇

看看新闻Knews 浏览 14461

杨紫连续七年为李现庆生,没有避嫌只有坦荡

娱乐寡姐 浏览 994

外媒:北约讨论在日本设立联络处 马克龙表态反对

环球网资讯 浏览 16624

62岁张学友演唱会或暂停 摔倒后病情加重惹担心

叶公子 浏览 14719

持续“押注”,上海在打什么算盘?

城市进化论 浏览 16448

瓦格纳高层疑遭"团灭" 俄撤回在白俄的瓦格纳士兵

红星新闻 浏览 14844

货拉拉就女子跳车身亡事件致歉具体是怎么说的?

趣看热点 浏览 146839

埃迪-豪7次面对伯恩茅斯场均积分0.7分,仅比对阵曼城、红军更多

直播吧 浏览 1700

多国领导人到访 朝鲜迎来外交潮

上观新闻 浏览 1047

媒体:美军在中东遇袭3人阵亡却没动静 表现有点怂

上观新闻 浏览 12614

vivo S50系列手机侧边外观图公布,全系航空铝金属中框

IT之家 浏览 401

40℃高温让空调卖爆了,经销商也无奈:安装工人紧缺,下单要等四五天

时代财经 浏览 15602

高考忙坏了大厂大模型

新摘商业评论 浏览 17033

郑丽文"不谈统一"让人失望了 蔡正元的话一针见血

现代小青青慕慕 浏览 5881

VR 交互升级:Quest 3应用现支持手势和控制器混合操作

IT之家 浏览 12380
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1