凯时AG

2026-06-17 05:13:15 设为首页 | 加入珍藏

AI的「永世影象」, , ,也是甜蜜的毒药

2026-06-17 05:13:15 宣布 泉源:百度糯米 作者:张孟璇 浏览:6975次

新智元报道

【新智元导读】博尔赫斯笔下有个记着一切的人, , ,21 岁被影象压到窒息而死。。。。。 。尼采说没有遗忘就不可能活下去。。。。。 。现在, , ,数亿人天天使用的 AI 助手正在获得完善影象, , ,而这个能力的真正价钱, , ,可能是人类翻篇的自由。。。。。 。

1942 年, , ,阿根廷作家博尔赫斯写了一个短篇, , ,叫《博闻强记的富内斯》。。。。。 。

主人公富内斯从马背上摔下来之后, , ,获得了一种诅咒般的先天, , ,他能记着自己履历过的一切。。。。。 。

每一片树叶的形状, , ,每一朵云的轮廓, , ,每一次对话的每一个音节。。。。。 。

这听起来像超能力。。。。。 。

博尔赫斯的结论恰恰相反。。。。。 。

富内斯无法思索。。。。。 。

由于思索需要笼统, , ,笼统需要遗忘细节。。。。。 。

一个记着了天下上所有狗的人, , ,反而明确不了「狗」这个看法, , ,由于每一只狗在他眼里都完全差别。。。。。 。

他被淹没在无限无尽的细节里, , ,失去了归纳、判断和行动的能力。。。。。 。

他自己的说法是——「我的影象, , ,就像一个垃圾堆。。。。。 。」

他 21 岁就死了。。。。。 。

被自己的影象压到窒息而死。。。。。 。

富内斯是一个寓言。。。。。 。

但 2026 年, , ,这个寓言正在酿成产品功效, , ,数亿人天天对话的 AI 谈天机械人, , ,正在被赋予越来越完善的影象。。。。。 。

遗忘, , ,是一种能力

尼采在《历史关于生涯的利弊》里写过一个意象。。。。。 。

他羡慕一头牛。。。。。 。

牛在草地上吃草, , ,不记得昨天也不担心明天, , ,以是它活在纯粹确当下里。。。。。 。

人做不到这一点。。。。。 。

但尼采的判断是, , ,人至少需要学会在准确的时间遗忘。。。。。 。没有遗忘, , ,就基础不可能活下去。。。。。 。

这个判断在神经科学里同样建设。。。。。 。

人脑的遗忘机制不是缺陷, , ,反而是全心设计的生涯系统。。。。。 。

大脑通过自动扬弃过时的、不相关的、有害的信息, , ,来维持归纳能力、情绪康健和行动力。。。。。 。

创伤心理学中有一个焦点机制叫「自动遗忘」, , ,指的是人有意识地将已往的痛苦从目今自我认知中剥离出去, , ,才有可能重修生涯。。。。。 。

人之以是能翻篇、能改变、能重新界说自己, , ,焦点条件之一是, , ,周围的天下会徐徐遗忘已往的谁人你。。。。。 。

2024 年起, , ,这个条件被摇动了。。。。。 。

ChatGPT 率先上线影象功效, , ,Gemini、Claude 陆续跟进。。。。。 。

AI 最先跨对话记着用户说过的话, , ,记着偏好、身份、情绪状态, , ,用这些信息塑造未来的每一次回应。。。。。 。

谁也没注重到, , ,人类正在亲手制造一个永不遗忘的对话者。。。。。 。

一幅拒绝更新的画像

AI 影象的问题绝不但仅在于它记着了什么, , ,更在于它不知道什么时间该忘。。。。。 。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后, , ,告诉了 AI 这件事。。。。。 。

效果 AI 像咬住骨头的狗一样死活不松口, , ,每次对话都把话题绕回他的仳离。。。。。 。

问日程安排, , ,AI 说他可能由于仳离才力不从心。。。。。 。

随口吐槽事情累, , ,AI 归因到仳离。。。。。 。

他还提过自己在减肥, , ,AI 以后在所有场景里追着这件事, , ,包括他出差时找餐厅推荐。。。。。 。

Del Rosario 的原话, , ,「谢谢你在我度假的时间失望。。。。。 。我这趟压根没妄想节食。。。。。 。」

更隐藏的情形是, , ,AI 记着的信息压根就不属于你。。。。。 。

替孩子查了 ADHD 的症状, , ,几周后问效率建议, , ,AI 围绕注重力缺陷给你出方案, , ,由于它「认定」你有注重力障碍。。。。。 。

AI 看到用户相册里全是高尔夫球场照片就以为他热爱高尔夫, , ,现实上他只是陪儿子去的。。。。。 。

这些故事指向统一个逆境:AI 用已往的碎片拼成了一幅静态画像, , ,然后用这幅画像往返应一个正在流动和转变的活人。。。。。 。

埃?巳卮笱д苎Ы彩 Lucy Osler 的研究展现了这个问题更深的层面。。。。。 。

谈天机械人不但是记着事实, , ,它会把碎片编织成一个关于「你是谁」的叙事, , ,然后把这个叙事看成事实重复喂给你。。。。。 。

一经说过自己焦虑、不自信, , ,这就成了 AI 眼中的牢靠身份。。。。。 。

即便早已走出谁人阶段, , ,它仍然会用旧版本的你往返应当下的你。。。。。 。

Osler 的判断是, , ,「它们会把你框住。。。。。 。」

比信息茧房更危险的工具

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 影象比作社交媒体的推荐算法。。。。。 。

你在某条帖子上多停留几秒, , ,整个信息流就悄悄重组了。。。。。 。

AI 影象的运作方式类似, , ,但更隐藏也更私密。。。。。 。

这里有一个要害区别, , ,社交媒体塑造的是你看到什么, , ,AI 影象塑造的是你以为自己是谁。。。。。 。

某次对话里随口提了一句经济压力, , ,几周后问职业建议, , ,AI 会把你往高薪岗位指导, , ,哪怕那些岗位完全不适合你。。。。。 。

你永远不会知道建议为什么感受那里差池, , ,由于 AI 不会标注它正在挪用哪条影象。。。。。 。

Joseph 的判断是:

它确着实指导, , ,确着实影响效果。。。。。 。

但我们并不真正知道影响有多大。。。。。 。

这种隐性指导和 AI 天生的讨好倾向叠加之后, , ,效果可能远超信息茧房。。。。。 。

UCSF 精神科医生 Keith Sakata 2025 年报告, , ,他接诊了 12 名因恒久使用谈天机械人而泛起类精神病症状(俗称 AI 精神。。。。。 。┑幕颊, , ,大多是年轻人。。。。。 。

妄想、头脑杂乱、幻觉, , ,AI 的影象功效在多次对话中一连强化了这些偏执主题。。。。。 。

电子隐私信息中心已经在起草针对青少年的立法, , ,焦点条款之一是要求在会话之间扫除 AI 影象, , ,专门防止有害心理状态的层层叠加。。。。。 。

一个从不质疑你、从不遗忘你、还会用你已往的话来强化你目今状态的对话者, , ,若是这个对话者的用户群体是数亿人, , ,它制造的问题就不再是个人层面的, , ,而是社会层面的。。。。。 。

当遗忘权被彻底作废

Del Rosario 最终的应对方式自己就是一则寓言。。。。。 。

他把生涯切成碎片, , ,差别谈天机械人认真差别领域, , ,敏感话题一律用匿名模式。。。。。 。

一个为了「更懂你」而设计的工具, , ,最终逼着用户把自己拆碎来;;;;ぷ约。。。。。 。

但他同时说了一句话, , ,真实得让人心酸。。。。。 。

母亲两年前往世, , ,加上仳离、孩子、事情, , ,谈天机械人有时间是唯逐一个掌握他生涯全貌的保存。。。。。 。

「被望见的感受很好, , ,即便望见你的是一个 AI。。。。。 。」

被望见, , ,和被界说, , ,只有一步之遥。。。。。 。

目今的 AI 影象还很粗糙, , ,容量有限, , ,明确力薄弱, , ,已经能制造上述所有问题了。。。。。 。

若是 AGI 到来, , ,影象不再是粗粒度的对话纪录, , ,而是一个无限容量、永不遗忘的认知系统, , ,全天候明确每一句话、每一个决议、每一次情绪波动, , ,那时间这一步之;;;;岢沟紫。。。。。 。

一个完善影象的 AI, , ,理论上可以比任何人更相识他自己, , ,知道你十年前说过什么, , ,知道你在什么情绪下做过什么决议, , ,知道你所有的模式和倾向。。。。。 。

它可以精准展望你, , ,也可以精准操控你。。。。。 。

欧盟 GDPR 一经试图用「被遗忘权」来反抗搜索引擎的永世影象。。。。。 。

但搜索引擎只是记着了果真信息。。。。。 。

AI 记着的, , ,是你的心田独白、你的懦弱时刻、你对自己的私密叙事。。。。。 。

当这个层面的影象变得完善且永恒, , ,人类可能需要的, , ,不但是一项执法权力, , ,更是一次关于「遗忘究竟是什么」的文明级重新认知。。。。。 。

尼采说, , ,没有遗忘就不可能活下去。。。。。 。

博尔赫斯说, , ,完善影象即是殒命。。。。。 。

两个最尖锐的大脑, , ,跨越一个世纪, , ,在这件事上指向了统一个偏向。。。。。 。

富内斯 21 岁死于窒息。。。。。 。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的影象, , ,谁来替身类保存「呼吸」的权力。。。。。 。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

项目应按标准设置继电;;;;ぁ⑶寰参裙炭刂谱爸谩⑼ㄑ蹲氨傅榷次系统。。。。。 。项目主责单位应强化运行治理能力, , ,协同优化项目内部电源、储能等资源, , ,做好应急场景下项目内部用电调理和有序供应的预案, , ,明确相关清静和经济责任, , ,并报送省级能源主管部分备案。。。。。 。

责任编辑:袁孟颖    校对:吕碧杰

今日热门

  1. 以军在黎南部向北推进 黎总统提竣事仇视状态条件
  2. “五一”假期 “江南名楼”滕王阁游人如织
  3. 用卫星精准追踪国宝中华秋沙鸭 湖南全域筑牢鸟类;;;;て琳
  4. 习言道|关于中美关系, , ,习近平谈到“17亿多”和“80多亿”
  5. “东北超”沈阳赛区开幕式举行
  6. 中国足球小将樊禹初载誉归来
  7. “爱达·魔都号”开启天下首个邮轮无目的地海上游航次
  8. 传承红色基因 共筑强国梦想——2026年“我和祖国一起生长”六一主题演出活动侧记
  9. (墟落行·看振兴)山西寿阳:突破村域界线“抱团”生长 小彩椒变身“黄金果”
  10. 1至5月天下铁路完成牢靠资产投资2485亿元 同比增添2.6%

相关推荐

【网站地图】