关闭广告

OpenAI组建新团队:收集公众意见以确保AI大模型"与人类价值观保持一致"

网易科技报道12295人阅读

1月17日消息,美国当地时间周二,人工智能领域的佼佼者OpenAI在其博客上宣布,他们正在组建一个名为“集体对齐”(Collective Alignment)的全新团队。

这个团队主要由研究人员和工程师构成,将专注于设计和实施收集公众意见的流程,以帮助训练和塑造其人工智能模型的行为,从而解决潜在的偏见和其他问题。

OpenAI在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

为了实现这一目标,OpenAI正积极招募来自不同技术背景的研究工程师加入这个新团队。他们表示:“我们将与外部顾问和其他团队紧密合作,包括开展试点工作,将原型整合到我们的模型中。我们需要来自不同领域的专家,共同助力这项工作的推进。”

这个“集体对齐”团队其实是OpenAI去年5月启动的公共项目的一个延伸。该项目旨在资助建立一个“民主程序”的实验,以确定人工智能系统应遵循的规则。OpenAI曾明确表示,该计划旨在资助个人、团队和组织开发概念验证,以回答有关人工智能护栏和治理的问题。

研究工程师、OpenAI新团队创始成员泰纳·埃伦杜(Tyna E

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

王健林限高已解除,虚惊一场?

财视传播 浏览 965

美媒:“第一视角”功能无人机频现俄乌战场

国际在线 浏览 14228

施魏因斯泰格社媒:加油曼联!真是一场精彩的比赛

懂球帝 浏览 439

汇聚超千项前沿成果,第八届长三角科技成果交易博览会开幕

蓝鲸新闻 浏览 548

细节优化,2025款大众高尔夫GTI实车图像曝光

天天汽车 浏览 12111

越级空间 长安启源A06上市售10.99万元起

网易汽车 浏览 25

赵伟:“四中”前瞻:新“五年”的新期待

首席经济学家论坛 浏览 425

多项功能优化,护卫舰07将开启新一轮OTA升级

天天汽车 浏览 11930

Netflix 不打算为苹果 Vision Pro 适配,用户只能通过浏览器使用

IT之家 浏览 12033

得州与美政府武装对峙 特朗普呼吁“兵援得州”

红星新闻 浏览 12028

在美流浪博士校友:他当年是拿到李政道奖学金去的美国

上游新闻 浏览 73498

何小鹏晒与黄仁勋合影:小鹏汽车与英伟达更深入合作将开始

雷递 浏览 13891

秋天,穿成大女人更高级!

LinkFashion 浏览 14519

不满国安糟糕战绩,工体北看台球迷连唱三首歌表达抗议

懂球帝 浏览 365

中国色特别策划 | 故宫建筑与阙羽重光

时尚COSMO 浏览 115

乌镇大佬聚会现场有好多人 被瘦下来的郝蕾惊艳了

娱乐圈笔娱君 浏览 416

国家电网:最大限度开发利用风电太阳能发电等新能源

澎湃新闻 浏览 27444

网曝友商要特斯拉降低中国员工工资 从1.3w降到5341元

深蓝财经 浏览 18825

拜登:越南邀我访问 还想将关系提升为与中国同等地位

北京日报客户端 浏览 84238

钟丽缇3个女儿太会长,大女儿性感,二女儿高级,小女儿最像妈

不八卦会死星人 浏览 12207

乔-科尔:波特根本就没得到足够的支持,西汉姆对他有所怀疑

懂球帝 浏览 998
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1