关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12766人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

还在磨合纽卡夏窗花近2.8亿欧,英超开局仅1胜3平1负排第13

直播吧 浏览 1672

比亚迪"出海舰队"首船交付离港:能装7000台车,首航将赴欧洲

IT之家 浏览 12627

图卢兹vs梅斯:雷斯特、西迪贝首发,巴洛-图雷、哈比卜-迪亚洛出战

懂球帝 浏览 1015

冬天少不了一顶帽子!“贝雷帽”保暖又能凹造型

静儿时尚达人 浏览 13126

俄军前线攻势迅猛,泽连斯基急访欧洲三国要军援

环球网资讯 浏览 11189

亚冠激烈冲突!米内罗点球破门,10人互相推搡,柔佛门将贴脸怒吼

奥拜尔 浏览 769

俄外长:多国疑以雇佣兵为幌子向乌派遣职业军人

参考消息 浏览 15552

媒体:中国领导人去俄罗斯 不需要看任何国家脸色

环球网资讯 浏览 115160

张子枫主演的《我的姐姐》票房爆了,这是一个关于爱和牺牲的故事

趣看热点 浏览 26143

ChatGPT大升级+大降价,反应速度更快,允许更长文本

每日经济新闻 浏览 16206

陈凯歌带着姚晨参加《今夜有戏》,郭德纲为了活跃气氛调侃姚晨的嘴大

趣看热点 浏览 26731

联合国机构雇员被以屈打成招 被迫谎称与哈马斯有联系

环球网资讯 浏览 11452

浙大团队突破:AI实现多人脸精准生成

科技行者 浏览 950

拒绝被逆转,曼联本赛季英超领先后保持不败

懂球帝 浏览 680

瓦格纳集团车队调转方向返回营地 最新情况!

环球网资讯 浏览 15408

居里夫人笔记仍具放射性,需要在铅盒中保存1500年

趣看热点 浏览 25699

7天吸金36亿,合肥冲击“新能源汽车之都”,汽车产业高速发展伴随“阵痛”

红星资本局 浏览 862

吉利陈奇:L3全场景普及仍需时间,安全与成本平衡是行业关键

网易汽车 浏览 763

方寸间也能尽显时尚品味?系条丝巾试试

时装LOFFICIEL杂志 浏览 19406

到了秋天才知道,年纪大的女人要告别“小脚裤”,这样穿显瘦

静儿时尚达人 浏览 990

大湾区晚会太真实,多位明星假唱翻车

萌神木木 浏览 15419
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1