关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12772人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

一边收监管“黄牌”,一边夺A股成交额冠军!北方稀土股价新高背后,关联交易存隐忧

时代周报 浏览 1074

香港闹市发现二战时期美军投射炸弹 耗时12个小时拆除

新民周刊 浏览 22688

富士展示“无镜头相机”:光学器件与AI算法重构图像

IT之家 浏览 658

运满满冷运完成B轮数亿元融资 平台冷藏车注册量超27万

网易科技报道 浏览 16304

点进来,查看欧阳娜娜、杨采钰的秋装进度!

创作者_WCD3 浏览 15127

女子网购“仅退款”后取走快递 律师解读

央广网 浏览 12713

勇士124-106轻取鹈鹕,库里11中2仅9分,穆迪8记三分

懂球帝 浏览 560

一天跌20%,怎么避开这类大坑

简七理财 浏览 10947

秦昊带9岁女游国外,米饭百元自叹国内物价廉

松林侃世界 浏览 971

图卢兹vs梅斯:雷斯特、西迪贝首发,巴洛-图雷、哈比卜-迪亚洛出战

懂球帝 浏览 1019

诺和诺德再现高层震荡!董事长等7名高管将集体离职,近一年市值蒸发超千亿美元

时代周报 浏览 902

五十多岁的女性秋季别瞎打扮,这3个技巧实用还时髦,快收藏

静儿时尚达人 浏览 708

裁判双标?任骏飞明显垫脚裁判毫无表示 周琦53秒造天津5次犯规

颜小白的篮球梦 浏览 12890

进球网:今晚不属于守门员 乔-戈麦斯几乎在每个失球时都犯错了

直播吧 浏览 19352

拼多多跨境电商平台Temu计划3月13日在澳大利亚、新西兰上线

IT之家 浏览 19351

瑟尔斯基被任命为乌武装部队总司令

央视新闻客户端 浏览 12719

名记:湖人没引进任何能让球队离总冠军更近一点的球员

直播吧 浏览 15261

湾区晚会近百万明星亮相!造型一个比一个认真,单依纯高定抢镜

萌神木木 浏览 1479

迪丽热巴综艺又翻车了!被质疑故意格式化摄像机,诸多行为见人品

缘木不求娱 浏览 13244

宁德时代:充电10分钟续航400公里快充电池年内量产

澎湃新闻 浏览 16399

全智贤与《暴风圈》剧方仍未发文道歉

韩小娱 浏览 1635
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1