关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12762人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

路易斯:感到很失望,明年我不知道还会不会在这里

懂球帝 浏览 784

上海女生冬天不穿羽绒服,爱穿“大衣+旗袍”,时髦精致,好贵气

潮人志Fashion 浏览 13358

76岁天王施瓦辛格出事了!戴名表没申报被海关扣留,惨赔27万罚款

文艺圈娱乐号 浏览 12826

熊园:9月进出口均走高的背后

首席经济学家论坛 浏览 988

弹无虚发,凯恩德甲18次罚点全中

体坛周报 浏览 1440

德国央行行长扬言:得想想如何报复中国

澎湃新闻 浏览 7644

为什么你越保养,皮肤反而越没光?

时尚COSMO 浏览 939

你是不是也在漫游中国?

秦朔朋友圈 浏览 15027

柯以敏遭黑历史反噬 直播连麦被观众谩骂称要报警

扒虾侃娱 浏览 16370

小鹏汽车联席总裁顾宏地:预计公司今年将更快增长

界面新闻 浏览 12387

最帅比亚迪?宋L售18.98万元起

天天汽车 浏览 12902

130斤大狗被主人带去爬山减肥 结果被2个守山人抬下山

潇湘晨报 浏览 70303

迪丽热巴综艺又翻车了!被质疑故意格式化摄像机,诸多行为见人品

缘木不求娱 浏览 13240

盾安环境高溢价收购上海大创 亏损标的业绩承诺如何兑现

时代周报 浏览 10827

约98.8万,玛莎拉蒂Grecale Folgore售价曝光

能源未来 浏览 12977

“短发”在冬天太权威了,怎么穿都好看!

LinkFashion 浏览 2

“弯刀裤”今年秋冬爆火,怎么搭都时髦!

LinkFashion 浏览 914

这些"显眼包"直接盘活了初秋衣橱

《红秀GRAZIA》 浏览 14979

孙莉晒视频:小女儿长高许多 黄磊与儿子有爱互动

笑猫说说 浏览 19428

王健林限高措施已取消

YOUNG财经 浏览 1516

戏全被配角抢走!《大生意人》朱亚文向涵之出场,陈晓前10集白干

温柔娱公子 浏览 229
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1