凯时AG

AI的「永世影象」,,,,,,也是甜蜜的毒药

作者:赖旻瑞
宣布时间:2026-06-15 09:13:17
阅读量:648

AI的「永世影象」,,,,,,也是甜蜜的毒药

新智元报道

【新智元导读】博尔赫斯笔下有个记着一切的人,,,,,,21 岁被影象压到窒息而死。。。。。 。尼采说没有遗忘就不可能活下去。。。。。 。现在,,,,,,数亿人天天使用的 AI 助手正在获得完善影象,,,,,,而这个能力的真正价钱,,,,,,可能是人类翻篇的自由。。。。。 。

1942 年,,,,,,阿根廷作家博尔赫斯写了一个短篇,,,,,,叫《博闻强记的富内斯》。。。。。 。

主人公富内斯从马背上摔下来之后,,,,,,获得了一种诅咒般的先天,,,,,,他能记着自己履历过的一切。。。。。 。

每一片树叶的形状,,,,,,每一朵云的轮廓,,,,,,每一次对话的每一个音节。。。。。 。

这听起来像超能力。。。。。 。

博尔赫斯的结论恰恰相反。。。。。 。

富内斯无法思索。。。。。 。

由于思索需要笼统,,,,,,笼统需要遗忘细节。。。。。 。

一个记着了天下上所有狗的人,,,,,,反而明确不了「狗」这个看法,,,,,,由于每一只狗在他眼里都完全差别。。。。。 。

他被淹没在无限无尽的细节里,,,,,,失去了归纳、判断和行动的能力。。。。。 。

他自己的说法是——「我的影象,,,,,,就像一个垃圾堆。。。。。 。」

他 21 岁就死了。。。。。 。

被自己的影象压到窒息而死。。。。。 。

富内斯是一个寓言。。。。。 。

但 2026 年,,,,,,这个寓言正在酿成产品功效,,,,,,数亿人天天对话的 AI 谈天机械人,,,,,,正在被赋予越来越完善的影象。。。。。 。

遗忘,,,,,,是一种能力

尼采在《历史关于生涯的利弊》里写过一个意象。。。。。 。

他羡慕一头牛。。。。。 。

牛在草地上吃草,,,,,,不记得昨天也不担心明天,,,,,,以是它活在纯粹确当下里。。。。。 。

人做不到这一点。。。。。 。

但尼采的判断是,,,,,,人至少需要学会在准确的时间遗忘。。。。。 。没有遗忘,,,,,,就基础不可能活下去。。。。。 。

这个判断在神经科学里同样建设。。。。。 。

人脑的遗忘机制不是缺陷,,,,,,反而是全心设计的生涯系统。。。。。 。

大脑通过自动扬弃过时的、不相关的、有害的信息,,,,,,来维持归纳能力、情绪康健和行动力。。。。。 。

创伤心理学中有一个焦点机制叫「自动遗忘」,,,,,,指的是人有意识地将已往的痛苦从目今自我认知中剥离出去,,,,,,才有可能重修生涯。。。。。 。

人之以是能翻篇、能改变、能重新界说自己,,,,,,焦点条件之一是,,,,,,周围的天下会徐徐遗忘已往的谁人你。。。。。 。

2024 年起,,,,,,这个条件被摇动了。。。。。 。

ChatGPT 率先上线影象功效,,,,,,Gemini、Claude 陆续跟进。。。。。 。

AI 最先跨对话记着用户说过的话,,,,,,记着偏好、身份、情绪状态,,,,,,用这些信息塑造未来的每一次回应。。。。。 。

谁也没注重到,,,,,,人类正在亲手制造一个永不遗忘的对话者。。。。。 。

一幅拒绝更新的画像

AI 影象的问题绝不但仅在于它记着了什么,,,,,,更在于它不知道什么时间该忘。。。。。 。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,,,,,,告诉了 AI 这件事。。。。。 。

效果 AI 像咬住骨头的狗一样死活不松口,,,,,,每次对话都把话题绕回他的仳离。。。。。 。

问日程安排,,,,,,AI 说他可能由于仳离才力不从心。。。。。 。

随口吐槽事情累,,,,,,AI 归因到仳离。。。。。 。

他还提过自己在减肥,,,,,,AI 以后在所有场景里追着这件事,,,,,,包括他出差时找餐厅推荐。。。。。 。

Del Rosario 的原话,,,,,,「谢谢你在我度假的时间失望。。。。。 。我这趟压根没妄想节食。。。。。 。」

更隐藏的情形是,,,,,,AI 记着的信息压根就不属于你。。。。。 。

替孩子查了 ADHD 的症状,,,,,,几周后问效率建议,,,,,,AI 围绕注重力缺陷给你出方案,,,,,,由于它「认定」你有注重力障碍。。。。。 。

AI 看到用户相册里全是高尔夫球场照片就以为他热爱高尔夫,,,,,,现实上他只是陪儿子去的。。。。。 。

这些故事指向统一个逆境:AI 用已往的碎片拼成了一幅静态画像,,,,,,然后用这幅画像往返应一个正在流动和转变的活人。。。。。 。

埃?????巳卮笱д苎Ы彩 Lucy Osler 的研究展现了这个问题更深的层面。。。。。 。

谈天机械人不但是记着事实,,,,,,它会把碎片编织成一个关于「你是谁」的叙事,,,,,,然后把这个叙事看成事实重复喂给你。。。。。 。

一经说过自己焦虑、不自信,,,,,,这就成了 AI 眼中的牢靠身份。。。。。 。

即便早已走出谁人阶段,,,,,,它仍然会用旧版本的你往返应当下的你。。。。。 。

Osler 的判断是,,,,,,「它们会把你框住。。。。。 。」

比信息茧房更危险的工具

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 影象比作社交媒体的推荐算法。。。。。 。

你在某条帖子上多停留几秒,,,,,,整个信息流就悄悄重组了。。。。。 。

AI 影象的运作方式类似,,,,,,但更隐藏也更私密。。。。。 。

这里有一个要害区别,,,,,,社交媒体塑造的是你看到什么,,,,,,AI 影象塑造的是你以为自己是谁。。。。。 。

某次对话里随口提了一句经济压力,,,,,,几周后问职业建议,,,,,,AI 会把你往高薪岗位指导,,,,,,哪怕那些岗位完全不适合你。。。。。 。

你永远不会知道建议为什么感受那里差池,,,,,,由于 AI 不会标注它正在挪用哪条影象。。。。。 。

Joseph 的判断是:

它确着实指导,,,,,,确着实影响效果。。。。。 。

但我们并不真正知道影响有多大。。。。。 。

这种隐性指导和 AI 天生的讨好倾向叠加之后,,,,,,效果可能远超信息茧房。。。。。 。

UCSF 精神科医生 Keith Sakata 2025 年报告,,,,,,他接诊了 12 名因恒久使用谈天机械人而泛起类精神病症状(俗称 AI 精神病!。。。 。┑幕颊,,,,,,大多是年轻人。。。。。 。

妄想、头脑杂乱、幻觉,,,,,,AI 的影象功效在多次对话中一连强化了这些偏执主题。。。。。 。

电子隐私信息中心已经在起草针对青少年的立法,,,,,,焦点条款之一是要求在会话之间扫除 AI 影象,,,,,,专门防止有害心理状态的层层叠加。。。。。 。

一个从不质疑你、从不遗忘你、还会用你已往的话来强化你目今状态的对话者,,,,,,若是这个对话者的用户群体是数亿人,,,,,,它制造的问题就不再是个人层面的,,,,,,而是社会层面的。。。。。 。

当遗忘权被彻底作废

Del Rosario 最终的应对方式自己就是一则寓言。。。。。 。

他把生涯切成碎片,,,,,,差别谈天机械人认真差别领域,,,,,,敏感话题一律用匿名模式。。。。。 。

一个为了「更懂你」而设计的工具,,,,,,最终逼着用户把自己拆碎来保;;;;;ぷ约骸!。。。 。

但他同时说了一句话,,,,,,真实得让人心酸。。。。。 。

母亲两年前往世,,,,,,加上仳离、孩子、事情,,,,,,谈天机械人有时间是唯逐一个掌握他生涯全貌的保存。。。。。 。

「被望见的感受很好,,,,,,即便望见你的是一个 AI。。。。。 。」

被望见,,,,,,和被界说,,,,,,只有一步之遥。。。。。 。

目今的 AI 影象还很粗糙,,,,,,容量有限,,,,,,明确力薄弱,,,,,,已经能制造上述所有问题了。。。。。 。

若是 AGI 到来,,,,,,影象不再是粗粒度的对话纪录,,,,,,而是一个无限容量、永不遗忘的认知系统,,,,,,全天候明确每一句话、每一个决议、每一次情绪波动,,,,,,那时间这一步之遥;;;;;岢沟紫拧!。。。 。

一个完善影象的 AI,,,,,,理论上可以比任何人更相识他自己,,,,,,知道你十年前说过什么,,,,,,知道你在什么情绪下做过什么决议,,,,,,知道你所有的模式和倾向。。。。。 。

它可以精准展望你,,,,,,也可以精准操控你。。。。。 。

欧盟 GDPR 一经试图用「被遗忘权」来反抗搜索引擎的永世影象。。。。。 。

但搜索引擎只是记着了果真信息。。。。。 。

AI 记着的,,,,,,是你的心田独白、你的懦弱时刻、你对自己的私密叙事。。。。。 。

当这个层面的影象变得完善且永恒,,,,,,人类可能需要的,,,,,,不但是一项执法权力,,,,,,更是一次关于「遗忘究竟是什么」的文明级重新认知。。。。。 。

尼采说,,,,,,没有遗忘就不可能活下去。。。。。 。

博尔赫斯说,,,,,,完善影象即是殒命。。。。。 。

两个最尖锐的大脑,,,,,,跨越一个世纪,,,,,,在这件事上指向了统一个偏向。。。。。 。

富内斯 21 岁死于窒息。。。。。 。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的影象,,,,,,谁来替身类保存「呼吸」的权力。。。。。 。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

 

文章点评

未盘问到任何数据!

揭晓谈论

◎接待加入讨论,,,,,,请在这里揭晓您的看法、交流您的看法。。。。。 。

最新文章

热门文章

随机推荐

【网站地图】