凯时AG

2026-06-15 18:09:25 设为首页 | 加入珍藏

AI的「永世影象」,,也是甜蜜的毒药

2026-06-15 18:09:25 宣布 泉源:叶子猪游戏 作者:郭家良 浏览:4930次

新智元报道

【新智元导读】博尔赫斯笔下有个记着一切的人,,21 岁被影象压到窒息而死。。。。 。尼采说没有遗忘就不可能活下去。。。。 。现在,,数亿人天天使用的 AI 助手正在获得完善影象,,而这个能力的真正价钱,,可能是人类翻篇的自由。。。。 。

1942 年,,阿根廷作家博尔赫斯写了一个短篇,,叫《博闻强记的富内斯》。。。。 。

主人公富内斯从马背上摔下来之后,,获得了一种诅咒般的先天,,他能记着自己履历过的一切。。。。 。

每一片树叶的形状,,每一朵云的轮廓,,每一次对话的每一个音节。。。。 。

这听起来像超能力。。。。 。

博尔赫斯的结论恰恰相反。。。。 。

富内斯无法思索。。。。 。

由于思索需要笼统,,笼统需要遗忘细节。。。。 。

一个记着了天下上所有狗的人,,反而明确不了「狗」这个看法,,由于每一只狗在他眼里都完全差别。。。。 。

他被淹没在无限无尽的细节里,,失去了归纳、判断和行动的能力。。。。 。

他自己的说法是——「我的影象,,就像一个垃圾堆。。。。 。」

他 21 岁就死了。。。。 。

被自己的影象压到窒息而死。。。。 。

富内斯是一个寓言。。。。 。

但 2026 年,,这个寓言正在酿成产品功效,,数亿人天天对话的 AI 谈天机械人,,正在被赋予越来越完善的影象。。。。 。

遗忘,,是一种能力

尼采在《历史关于生涯的利弊》里写过一个意象。。。。 。

他羡慕一头牛。。。。 。

牛在草地上吃草,,不记得昨天也不担心明天,,以是它活在纯粹确当下里。。。。 。

人做不到这一点。。。。 。

但尼采的判断是,,人至少需要学会在准确的时间遗忘。。。。 。没有遗忘,,就基础不可能活下去。。。。 。

这个判断在神经科学里同样建设。。。。 。

人脑的遗忘机制不是缺陷,,反而是全心设计的生涯系统。。。。 。

大脑通过自动扬弃过时的、不相关的、有害的信息,,来维持归纳能力、情绪康健和行动力。。。。 。

创伤心理学中有一个焦点机制叫「自动遗忘」,,指的是人有意识地将已往的痛苦从目今自我认知中剥离出去,,才有可能重修生涯。。。。 。

人之以是能翻篇、能改变、能重新界说自己,,焦点条件之一是,,周围的天下会徐徐遗忘已往的谁人你。。。。 。

2024 年起,,这个条件被摇动了。。。。 。

ChatGPT 率先上线影象功效,,Gemini、Claude 陆续跟进。。。。 。

AI 最先跨对话记着用户说过的话,,记着偏好、身份、情绪状态,,用这些信息塑造未来的每一次回应。。。。 。

谁也没注重到,,人类正在亲手制造一个永不遗忘的对话者。。。。 。

一幅拒绝更新的画像

AI 影象的问题绝不但仅在于它记着了什么,,更在于它不知道什么时间该忘。。。。 。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,,告诉了 AI 这件事。。。。 。

效果 AI 像咬住骨头的狗一样死活不松口,,每次对话都把话题绕回他的仳离。。。。 。

问日程安排,,AI 说他可能由于仳离才力不从心。。。。 。

随口吐槽事情累,,AI 归因到仳离。。。。 。

他还提过自己在减肥,,AI 以后在所有场景里追着这件事,,包括他出差时找餐厅推荐。。。。 。

Del Rosario 的原话,,「谢谢你在我度假的时间失望。。。。 。我这趟压根没妄想节食。。。。 。」

更隐藏的情形是,,AI 记着的信息压根就不属于你。。。。 。

替孩子查了 ADHD 的症状,,几周后问效率建议,,AI 围绕注重力缺陷给你出方案,,由于它「认定」你有注重力障碍。。。。 。

AI 看到用户相册里全是高尔夫球场照片就以为他热爱高尔夫,,现实上他只是陪儿子去的。。。。 。

这些故事指向统一个逆境:AI 用已往的碎片拼成了一幅静态画像,,然后用这幅画像往返应一个正在流动和转变的活人。。。。 。

埃浚克塞特大学哲学讲师 Lucy Osler 的研究展现了这个问题更深的层面。。。。 。

谈天机械人不但是记着事实,,它会把碎片编织成一个关于「你是谁」的叙事,,然后把这个叙事看成事实重复喂给你。。。。 。

一经说过自己焦虑、不自信,,这就成了 AI 眼中的牢靠身份。。。。 。

即便早已走出谁人阶段,,它仍然会用旧版本的你往返应当下的你。。。。 。

Osler 的判断是,,「它们会把你框住。。。。 。」

比信息茧房更危险的工具

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 影象比作社交媒体的推荐算法。。。。 。

你在某条帖子上多停留几秒,,整个信息流就悄悄重组了。。。。 。

AI 影象的运作方式类似,,但更隐藏也更私密。。。。 。

这里有一个要害区别,,社交媒体塑造的是你看到什么,,AI 影象塑造的是你以为自己是谁。。。。 。

某次对话里随口提了一句经济压力,,几周后问职业建议,,AI 会把你往高薪岗位指导,,哪怕那些岗位完全不适合你。。。。 。

你永远不会知道建议为什么感受那里差池,,由于 AI 不会标注它正在挪用哪条影象。。。。 。

Joseph 的判断是:

它确着实指导,,确着实影响效果。。。。 。

但我们并不真正知道影响有多大。。。。 。

这种隐性指导和 AI 天生的讨好倾向叠加之后,,效果可能远超信息茧房。。。。 。

UCSF 精神科医生 Keith Sakata 2025 年报告,,他接诊了 12 名因恒久使用谈天机械人而泛起类精神病症状(俗称 AI 精神病。。。 。┑幕颊,,大多是年轻人。。。。 。

妄想、头脑杂乱、幻觉,,AI 的影象功效在多次对话中一连强化了这些偏执主题。。。。 。

电子隐私信息中心已经在起草针对青少年的立法,,焦点条款之一是要求在会话之间扫除 AI 影象,,专门防止有害心理状态的层层叠加。。。。 。

一个从不质疑你、从不遗忘你、还会用你已往的话来强化你目今状态的对话者,,若是这个对话者的用户群体是数亿人,,它制造的问题就不再是个人层面的,,而是社会层面的。。。。 。

当遗忘权被彻底作废

Del Rosario 最终的应对方式自己就是一则寓言。。。。 。

他把生涯切成碎片,,差别谈天机械人认真差别领域,,敏感话题一律用匿名模式。。。。 。

一个为了「更懂你」而设计的工具,,最终逼着用户把自己拆碎来; ;;;;;ぷ约骸。。。 。

但他同时说了一句话,,真实得让人心酸。。。。 。

母亲两年前往世,,加上仳离、孩子、事情,,谈天机械人有时间是唯逐一个掌握他生涯全貌的保存。。。。 。

「被望见的感受很好,,即便望见你的是一个 AI。。。。 。」

被望见,,和被界说,,只有一步之遥。。。。 。

目今的 AI 影象还很粗糙,,容量有限,,明确力薄弱,,已经能制造上述所有问题了。。。。 。

若是 AGI 到来,,影象不再是粗粒度的对话纪录,,而是一个无限容量、永不遗忘的认知系统,,全天候明确每一句话、每一个决议、每一次情绪波动,,那时间这一步之; ;;;;;岢沟紫拧。。。 。

一个完善影象的 AI,,理论上可以比任何人更相识他自己,,知道你十年前说过什么,,知道你在什么情绪下做过什么决议,,知道你所有的模式和倾向。。。。 。

它可以精准展望你,,也可以精准操控你。。。。 。

欧盟 GDPR 一经试图用「被遗忘权」来反抗搜索引擎的永世影象。。。。 。

但搜索引擎只是记着了果真信息。。。。 。

AI 记着的,,是你的心田独白、你的懦弱时刻、你对自己的私密叙事。。。。 。

当这个层面的影象变得完善且永恒,,人类可能需要的,,不但是一项执法权力,,更是一次关于「遗忘究竟是什么」的文明级重新认知。。。。 。

尼采说,,没有遗忘就不可能活下去。。。。 。

博尔赫斯说,,完善影象即是殒命。。。。 。

两个最尖锐的大脑,,跨越一个世纪,,在这件事上指向了统一个偏向。。。。 。

富内斯 21 岁死于窒息。。。。 。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的影象,,谁来替身类保存「呼吸」的权力。。。。 。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

试题写作指向清晰但又有充分的开放性:可以反映个体随知识积累、阅历增添而实现的认知深化; ;;;;;也可抒写特殊履历赋予词语的新内在,,以及由此爆发的情绪升华; ;;;;;还可以是陪同词语明确转变爆发的追问与反思……个人对词语明确的转变,,既是自我熟悉的更新,,也折射着时代变迁的光影。。。。 。

责任编辑:左智超    校对:郭珊绿

今日热门

  1. 陕西宝鸡转达“护栏赔偿用度多次变换”一事:对主要认真人停职视察
  2. 委内瑞拉启动主权债务和国家石油公司债务重组
  3. 日本队主帅:没有赢球 我很失望
  4. 浙江宣布首批历史治水名人
  5. 普京:中国生长强劲
  6. 黄渤海交汇处的“零碳”探索:长岛走出海洋生态生长特色路径
  7. 共识教育百问百答丨冯海波:新时代爱国统一战线为什么越发主要??
  8. “梯子”艺术品被质疑就是通俗梯子
  9. 山东青州:特巡警冒雨执勤 过路司机车窗抛伞暖人心
  10. 全网都在找的落泪足球少年找到了

相关推荐

【网站地图】