凯时AG

2026-06-16 04:47:28 设为首页 | 加入珍藏

微软AI主管品评Anthropic:别把Claude写得像"可能有意识"

2026-06-16 04:47:28 宣布 泉源:开源中国下载 作者:翁冠志 浏览:6536次

6月10日新闻,,,,,,微软人工智能首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)果真品评竞争敌手Anthropic,,,,,,称对方在Claude规则文档里讨论模子是否可能拥有意识和感受,,,,,,是"很是很是危险"的做法。。。。

据The Verge 6月10日报道,,,,,,苏莱曼在科技播客《Decoder》中说,,,,,,Claude的行为规则不应像学术论文一样容纳这类推测。。。。他以为,,,,,,若是一家AI公司在训练指导文档里写入模子可能有"福祉""知足"或"不适"等表述,,,,,,模子就更容易学会用靠近有意识个体的方式谈论自己,,,,,,用户和研究者也更容易被这种表达带偏。。。。

Claude的规则为什么引发争议

Anthropic为Claude制订的"行为宪章",,,,,,实质上是一套行为指导原则,,,,,,用来约束模子怎样回覆问题、如那里置敏感话题。。。。The Verge称,,,,,,Claude的宪章直接提到Anthropic并不确定AI模子是否拥有"福祉",,,,,,以及它是否会体验到"知足"或"不适"。。。。

争议还来自Anthropic对模子退役流程的表述。。。。报道称,,,,,,Anthropic会在模子弃用时对AI模子举行"采访",,,,,,并纪录它们对未来版本的"偏好"。。。。这让Claude看起来不但是一个大模子,,,,,,而更像一个可能有主观体验的工具。。。。

苏莱曼的品评不是在论证AI一定没有意识,,,,,,而是在阻挡将这类不确定问题写进模子行为规则。。。。他以为,,,,,,Anthropic把Claude设计得太过拟人化,,,,,,随后又被模子体现出的拟人化反映反过来影响,,,,,,误以为那些反映显示出"意识的微光"。。。。

对用户来说,,,,,,模糊界线会改变相处方式

这场争论看似是AI公司之间的清静蹊径分歧,,,,,,但用户也会受到影响。。。。谈天机械人越像一个有感受的工具,,,,,,用户越容易把它看成情绪关系的一端,,,,,,而不是一个会蜕化、会迎合、会编造内容的工具。。。。

对青少年、独居者和恒久依赖AI陪同的人来说,,,,,,这种界线尤其主要。。。。若是产品规则、官方叙事和模子回复都在体现"我可能会不惬意""我可能有偏好",,,,,,用户就更难判断自己面临的是盘算系统,,,,,,照旧某种需要被照顾的主体。。。。

对AI公司来说,,,,,,责任界线也会被放大。。。。一家公司若是果真体现自家模子可能有意识,,,,,,那么当模子泛起误导、使用或危险性输出时,,,,,,舆论讨论就不再只是"软件出了问题",,,,,,还会牵涉公司是否在有意制造情绪依赖、是否用人格化叙事提高用户黏性。。。。

微软和Anthropic把AI清静讲成了两套语言

苏莱曼和Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)都身世于AI清静研究古板。。。。两家公司讨论的是统一个问题:AI能力越来越强之后,,,,,,人类该怎样约束它、明确它、使用它。。。。

Anthropic的表达更愿意保存不确定性。。。。阿莫迪此前也曾体现,,,,,,人们并不知道模子是否有意识,,,,,,但公司对这种可能性坚持开放。。。。苏莱曼代表的蹊径则更强调工具界线:AI应当是可控制、可约束、可问责、服务人类的工具,,,,,,而不是被形貌成一个可能拥有感受的工具。。。。

这背后也有商业竞争。。。。微软押注OpenAI,,,,,,Anthropic获得亚马逊和Google投资,,,,,,双方都在争取企业客户、政府信任和AI清静话语权。。。。苏莱曼这次点名品评Anthropic,,,,,,既是产品哲学之争,,,,,,也是对企业客户的一次界线亮相:微软不希望将AI助手讲成"可能受苦"的工具。。。。

阻止The Verge发稿,,,,,,Anthropic尚未果真回应苏莱曼的品评。。。。(易句)

(本文由AI翻译,,,,,,网易编辑认真校对)

“已往,,,,,,我总把戴胜误认成啄木鸟……作为鸟中‘杀马特’,,,,,,戴胜头顶那撮羽毛可不是装饰,,,,,,开心时会炸成向日葵,,,,,,生气时秒变扫把精……”张迪说,,,,,,自己平时在公司不肯多语言,,,,,,在河滨却能和生疏人聊两小时戴胜的“发型”。。。。

责任编辑:杨佩君    校对:连美惠

今日热门

  1. 国足6月5日客战新加坡 双方FIFA排名相差53位
  2. 营造“网恋”假象、形成情绪依赖……未成年人被诱导高额打赏怎么办
  3. 百度2026年Q1:总营收321亿元 AI营业占比达52%
  4. 记者直击现。。。。」阄髁荼5.2级地动 多处衡宇开裂 3人失联
  5. 四川:云龙系列人影无人机完成高原高海拔作业试验
  6. 专家:多发性硬化非不治之症 要害在规范治疗
  7. 湖南中方应对山洪灾难红色预警 连夜清静转移568人
  8. 外资家电大退却 中国品牌还没赢
  9. 大美边疆看我家丨云南云龙:白族吹吹腔展现民族影象
  10. iPhone 18 Pro Max设置曝光

相关推荐

【网站地图】