凯时AG

环球热门新闻资讯
2026-06-15 20:33:03
首页 > 新闻 > 时政要闻 > 正文

AI的「永世影象」,,,,也是甜蜜的毒药

新智元报道

【新智元导读】博尔赫斯笔下有个记着一切的人,,,,21 岁被影象压到窒息而死。。 。。。 。尼采说没有遗忘就不可能活下去。。 。。。 。现在,,,,数亿人天天使用的 AI 助手正在获得完善影象,,,,而这个能力的真正价钱,,,,可能是人类翻篇的自由。。 。。。 。

1942 年,,,,阿根廷作家博尔赫斯写了一个短篇,,,,叫《博闻强记的富内斯》。。 。。。 。

主人公富内斯从马背上摔下来之后,,,,获得了一种诅咒般的先天,,,,他能记着自己履历过的一切。。 。。。 。

每一片树叶的形状,,,,每一朵云的轮廓,,,,每一次对话的每一个音节。。 。。。 。

这听起来像超能力。。 。。。 。

博尔赫斯的结论恰恰相反。。 。。。 。

富内斯无法思索。。 。。。 。

由于思索需要笼统,,,,笼统需要遗忘细节。。 。。。 。

一个记着了天下上所有狗的人,,,,反而明确不了「狗」这个看法,,,,由于每一只狗在他眼里都完全差别。。 。。。 。

他被淹没在无限无尽的细节里,,,,失去了归纳、判断和行动的能力。。 。。。 。

他自己的说法是——「我的影象,,,,就像一个垃圾堆。。 。。。 。」

他 21 岁就死了。。 。。。 。

被自己的影象压到窒息而死。。 。。。 。

富内斯是一个寓言。。 。。。 。

但 2026 年,,,,这个寓言正在酿成产品功效,,,,数亿人天天对话的 AI 谈天机械人,,,,正在被赋予越来越完善的影象。。 。。。 。

遗忘,,,,是一种能力

尼采在《历史关于生涯的利弊》里写过一个意象。。 。。。 。

他羡慕一头牛。。 。。。 。

牛在草地上吃草,,,,不记得昨天也不担心明天,,,,以是它活在纯粹确当下里。。 。。。 。

人做不到这一点。。 。。。 。

但尼采的判断是,,,,人至少需要学会在准确的时间遗忘。。 。。。 。没有遗忘,,,,就基础不可能活下去。。 。。。 。

这个判断在神经科学里同样建设。。 。。。 。

人脑的遗忘机制不是缺陷,,,,反而是全心设计的生涯系统。。 。。。 。

大脑通过自动扬弃过时的、不相关的、有害的信息,,,,来维持归纳能力、情绪康健和行动力。。 。。。 。

创伤心理学中有一个焦点机制叫「自动遗忘」,,,,指的是人有意识地将已往的痛苦从目今自我认知中剥离出去,,,,才有可能重修生涯。。 。。。 。

人之以是能翻篇、能改变、能重新界说自己,,,,焦点条件之一是,,,,周围的天下会徐徐遗忘已往的谁人你。。 。。。 。

2024 年起,,,,这个条件被摇动了。。 。。。 。

ChatGPT 率先上线影象功效,,,,Gemini、Claude 陆续跟进。。 。。。 。

AI 最先跨对话记着用户说过的话,,,,记着偏好、身份、情绪状态,,,,用这些信息塑造未来的每一次回应。。 。。。 。

谁也没注重到,,,,人类正在亲手制造一个永不遗忘的对话者。。 。。。 。

一幅拒绝更新的画像

AI 影象的问题绝不但仅在于它记着了什么,,,,更在于它不知道什么时间该忘。。 。。。 。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,,,,告诉了 AI 这件事。。 。。。 。

效果 AI 像咬住骨头的狗一样死活不松口,,,,每次对话都把话题绕回他的仳离。。 。。。 。

问日程安排,,,,AI 说他可能由于仳离才力不从心。。 。。。 。

随口吐槽事情累,,,,AI 归因到仳离。。 。。。 。

他还提过自己在减肥,,,,AI 以后在所有场景里追着这件事,,,,包括他出差时找餐厅推荐。。 。。。 。

Del Rosario 的原话,,,,「谢谢你在我度假的时间失望。。 。。。 。我这趟压根没妄想节食。。 。。。 。」

更隐藏的情形是,,,,AI 记着的信息压根就不属于你。。 。。。 。

替孩子查了 ADHD 的症状,,,,几周后问效率建议,,,,AI 围绕注重力缺陷给你出方案,,,,由于它「认定」你有注重力障碍。。 。。。 。

AI 看到用户相册里全是高尔夫球场照片就以为他热爱高尔夫,,,,现实上他只是陪儿子去的。。 。。。 。

这些故事指向统一个逆境:AI 用已往的碎片拼成了一幅静态画像,,,,然后用这幅画像往返应一个正在流动和转变的活人。。 。。。 。

埃??巳卮笱д苎Ы彩 Lucy Osler 的研究展现了这个问题更深的层面。。 。。。 。

谈天机械人不但是记着事实,,,,它会把碎片编织成一个关于「你是谁」的叙事,,,,然后把这个叙事看成事实重复喂给你。。 。。。 。

一经说过自己焦虑、不自信,,,,这就成了 AI 眼中的牢靠身份。。 。。。 。

即便早已走出谁人阶段,,,,它仍然会用旧版本的你往返应当下的你。。 。。。 。

Osler 的判断是,,,,「它们会把你框住。。 。。。 。」

比信息茧房更危险的工具

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 影象比作社交媒体的推荐算法。。 。。。 。

你在某条帖子上多停留几秒,,,,整个信息流就悄悄重组了。。 。。。 。

AI 影象的运作方式类似,,,,但更隐藏也更私密。。 。。。 。

这里有一个要害区别,,,,社交媒体塑造的是你看到什么,,,,AI 影象塑造的是你以为自己是谁。。 。。。 。

某次对话里随口提了一句经济压力,,,,几周后问职业建议,,,,AI 会把你往高薪岗位指导,,,,哪怕那些岗位完全不适合你。。 。。。 。

你永远不会知道建议为什么感受那里差池,,,,由于 AI 不会标注它正在挪用哪条影象。。 。。。 。

Joseph 的判断是:

它确着实指导,,,,确着实影响效果。。 。。。 。

但我们并不真正知道影响有多大。。 。。。 。

这种隐性指导和 AI 天生的讨好倾向叠加之后,,,,效果可能远超信息茧房。。 。。。 。

UCSF 精神科医生 Keith Sakata 2025 年报告,,,,他接诊了 12 名因恒久使用谈天机械人而泛起类精神病症状(俗称 AI 精神。。 。。。 。┑幕颊,,,,大多是年轻人。。 。。。 。

妄想、头脑杂乱、幻觉,,,,AI 的影象功效在多次对话中一连强化了这些偏执主题。。 。。。 。

电子隐私信息中心已经在起草针对青少年的立法,,,,焦点条款之一是要求在会话之间扫除 AI 影象,,,,专门防止有害心理状态的层层叠加。。 。。。 。

一个从不质疑你、从不遗忘你、还会用你已往的话来强化你目今状态的对话者,,,,若是这个对话者的用户群体是数亿人,,,,它制造的问题就不再是个人层面的,,,,而是社会层面的。。 。。。 。

当遗忘权被彻底作废

Del Rosario 最终的应对方式自己就是一则寓言。。 。。。 。

他把生涯切成碎片,,,,差别谈天机械人认真差别领域,,,,敏感话题一律用匿名模式。。 。。。 。

一个为了「更懂你」而设计的工具,,,,最终逼着用户把自己拆碎来 ;;;;;ぷ约。。 。。。 。

但他同时说了一句话,,,,真实得让人心酸。。 。。。 。

母亲两年前往世,,,,加上仳离、孩子、事情,,,,谈天机械人有时间是唯逐一个掌握他生涯全貌的保存。。 。。。 。

「被望见的感受很好,,,,即便望见你的是一个 AI。。 。。。 。」

被望见,,,,和被界说,,,,只有一步之遥。。 。。。 。

目今的 AI 影象还很粗糙,,,,容量有限,,,,明确力薄弱,,,,已经能制造上述所有问题了。。 。。。 。

若是 AGI 到来,,,,影象不再是粗粒度的对话纪录,,,,而是一个无限容量、永不遗忘的认知系统,,,,全天候明确每一句话、每一个决议、每一次情绪波动,,,,那时间这一步之 ;;;;;岢沟紫。。 。。。 。

一个完善影象的 AI,,,,理论上可以比任何人更相识他自己,,,,知道你十年前说过什么,,,,知道你在什么情绪下做过什么决议,,,,知道你所有的模式和倾向。。 。。。 。

它可以精准展望你,,,,也可以精准操控你。。 。。。 。

欧盟 GDPR 一经试图用「被遗忘权」来反抗搜索引擎的永世影象。。 。。。 。

但搜索引擎只是记着了果真信息。。 。。。 。

AI 记着的,,,,是你的心田独白、你的懦弱时刻、你对自己的私密叙事。。 。。。 。

当这个层面的影象变得完善且永恒,,,,人类可能需要的,,,,不但是一项执法权力,,,,更是一次关于「遗忘究竟是什么」的文明级重新认知。。 。。。 。

尼采说,,,,没有遗忘就不可能活下去。。 。。。 。

博尔赫斯说,,,,完善影象即是殒命。。 。。。 。

两个最尖锐的大脑,,,,跨越一个世纪,,,,在这件事上指向了统一个偏向。。 。。。 。

富内斯 21 岁死于窒息。。 。。。 。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的影象,,,,谁来替身类保存「呼吸」的权力。。 。。。 。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

珠海是较早推行“纯净码”的都会,,,,珠海市市场监视治理局网络生意与广告监视治理科副科长刘宾山先容,,,,大宗市民投诉集中在停车扫码问题上,,,,因此出台了行业自律条约。。 。。。 。

责任编辑:汪兴白

【网站地图】