关闭广告

OpenAI ChatGPT自动切换严格模型处理情感话题,用户却不知情

IT之家1277人阅读

IT之家 9 月 29 日消息,当用户提交情感化或个性化提示词时,OpenAI 旗下的 ChatGPT 会自动切换到限制性更强的语言模型,但这一过程不会通知用户。


目前,OpenAI 正在 ChatGPT 中测试一款全新的“安全路由系统”,该系统可根据对话主题自动将交流内容导向不同模型。ChatGPT 负责人尼克・特利(Nick Turley)表示,只要对话涉及“敏感或情感类主题”,该系统就会启动干预。

在实际应用中,ChatGPT 会将用户提示词临时转交至更严格的模型进行处理,例如 GPT-5,或是专用模型“gpt-5-chat-safety”。特利指出,这种模型切换仅针对单条消息触发,且只有当用户专门就此向模型提问时,切换行为才会显露出痕迹。

IT之家注意到,OpenAI 早在 9 月的一篇博客文章中就首次披露了这类基于情感的路由机制,并将其描述为针对“严重心理困扰”场景的防护措施。而特利此次的最新表态则将该机制的适用范围扩大到所有涉及敏感或情感领域的对话。

莱克斯(Lex)对这套新路由系统开展的技术评估显示,即便是无害的

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

明明家世显赫,却凭实力成为世界冠军

梁蜱爱玩车 浏览 813

“强制接管”, 西方这是明抢了?

观察者网 浏览 791

韩寒,认真搞钱!

华商韬略 浏览 12049

杨立昆、李飞飞等提出空间超感知范式,用预测未来代替暴力记忆

DeepTech深科技 浏览 425

包工头把交警儿子做进工资表冒领工地工资:我欠儿子钱

大风新闻 浏览 845

《消失的她》原型讲述如何自救,智斗恶人前夫

萌神木木 浏览 15653

女网红拉姆被前夫烧伤细节曝光,汽油直接淋遍其全身

趣看热点 浏览 26414

磁浮底盘/全铝车身 凯迪拉克新CT6上市28.99万起

网易汽车 浏览 654

新能源车用途再次拓展 反向给电网充电能赚差价

车市红点 浏览 12130

49 岁马伊琍公布喜讯,终于等到这一天

动物奇奇怪怪 浏览 477

立陶宛宣布关闭与白俄罗斯边境 卢卡申科回应

环球网资讯 浏览 532

高市早苗称想去参拜靖国神社 专家:欲获反华势力支持

环球网资讯 浏览 29896

国星宇航“星算”计划 02 组星座发布

IT之家 浏览 849

三年打入越南Top 5,这家纸巾厂的出海秘诀是什么?

虎嗅APP 浏览 764

前淄博队员再讨薪:欠薪至今未发,华昆方面不愿沟通

趣看热点 浏览 25399

有图无真相?沙特空中球场网传渲染图与官方图片不一致

懂球帝 浏览 633

对话张明霞:闪光的她,有趣的灵魂表里如一

网易汽车 浏览 11825

霍建华酒后和女粉合影满脸通红 不修边幅满眼迷醉

盖饭娱乐官方号 浏览 19150

业内独家无孔真全面屏!努比亚Z80 Ultra获认证:支持90W快充

快科技 浏览 1232

台媒曝窦靖童疑结婚!无名指戴戒指,赴台与男人吃饭,曾辟谣婚讯

文艺圈娱乐号 浏览 12731

上海市委原常委朱芝松被公诉 曾长期从事军品工作

极目新闻 浏览 29191
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1