关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12294人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

XREAL启用上海浦东全球总部,明年推出首款Android XR系统AR眼镜

IT之家 浏览 327

粉色这样搭配时髦又高级

慧慧时尚札记A 浏览 19143

夏日衣橱里的裙子,越长越时髦

巧百搭 浏览 15897

乌记者询问中方是否计划向乌克兰提供援助 外交部回应

上观新闻 浏览 91227

全新雷克萨斯GX550即将上市,约合人民币45万,配3.5T四驱+差速锁

小史谈车 浏览 12351

全球核武库变化趋势报告出炉 中国又"背锅"

枢密院十号 浏览 15867

腾讯集团高级副总裁郭凯天:坚持智能向善,构筑人与AI的信任机制

上游新闻 浏览 116

海外投资者争做基石!摩根大通:中国药企全球竞争力提升,投融资持续活跃

券商中国 浏览 351

莫斯科官员:今年的红场阅兵 有种我从未见过的紧张

中国新闻周刊 浏览 18091

泽连斯基称乌军正对俄军采取"反攻"行动 但拒透露细节

环球网 浏览 91634

俄总统助理:普京和特朗普会晤意愿依旧存在

每日经济新闻 浏览 340

CTA管理人展望:美国大选是CTA策略的大年

私募荟 浏览 12443

245万的房子被中介私自标价170万挂牌 浙江业主怒了

FM93浙江交通之声 浏览 6486

朝鲜举行盛大阅兵式 高清大图来了

新华社 浏览 614

回到梦的起点?德里克-罗斯曾就读于孟菲斯大学

直播吧 浏览 14686

美媒自揭赚钱套路:兜售高校排名“徽章”

环球网资讯 浏览 11983

科索沃北部再爆冲突!武契奇将会见西方国家代表

参考消息 浏览 15932

一场春节档,让人看到了62岁刘德华在内地的“窘困”

不八卦会死星人 浏览 12217

英媒:阿森纳与萨卡就续约基本达成一致,前者希望赛季结束前官宣

直播吧 浏览 18169

关婷娜十大惊艳片段,成熟女人的魅力

喜欢历史的阿繁 浏览 1018

托蒂:还没和斯帕莱蒂谈过去的事情,经过这么多年该放下了

懂球帝 浏览 299
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1