凯时AG

2026-06-17 10:47:24 设为首页 | 加入珍藏

AI的「永世影象」, ,,,,也是甜蜜的毒药

2026-06-17 10:47:24 宣布 泉源:拉勾大街 作者:陈佩君 浏览:9290次

新智元报道

【新智元导读】博尔赫斯笔下有个记着一切的人, ,,,,21 岁被影象压到窒息而死。。。。。 。尼采说没有遗忘就不可能活下去。。。。。 。现在, ,,,,数亿人天天使用的 AI 助手正在获得完善影象, ,,,,而这个能力的真正价钱, ,,,,可能是人类翻篇的自由。。。。。 。

1942 年, ,,,,阿根廷作家博尔赫斯写了一个短篇, ,,,,叫《博闻强记的富内斯》。。。。。 。

主人公富内斯从马背上摔下来之后, ,,,,获得了一种诅咒般的先天, ,,,,他能记着自己履历过的一切。。。。。 。

每一片树叶的形状, ,,,,每一朵云的轮廓, ,,,,每一次对话的每一个音节。。。。。 。

这听起来像超能力。。。。。 。

博尔赫斯的结论恰恰相反。。。。。 。

富内斯无法思索。。。。。 。

由于思索需要笼统, ,,,,笼统需要遗忘细节。。。。。 。

一个记着了天下上所有狗的人, ,,,,反而明确不了「狗」这个看法, ,,,,由于每一只狗在他眼里都完全差别。。。。。 。

他被淹没在无限无尽的细节里, ,,,,失去了归纳、判断和行动的能力。。。。。 。

他自己的说法是——「我的影象, ,,,,就像一个垃圾堆。。。。。 。」

他 21 岁就死了。。。。。 。

被自己的影象压到窒息而死。。。。。 。

富内斯是一个寓言。。。。。 。

但 2026 年, ,,,,这个寓言正在酿成产品功效, ,,,,数亿人天天对话的 AI 谈天机械人, ,,,,正在被赋予越来越完善的影象。。。。。 。

遗忘, ,,,,是一种能力

尼采在《历史关于生涯的利弊》里写过一个意象。。。。。 。

他羡慕一头牛。。。。。 。

牛在草地上吃草, ,,,,不记得昨天也不担心明天, ,,,,以是它活在纯粹确当下里。。。。。 。

人做不到这一点。。。。。 。

但尼采的判断是, ,,,,人至少需要学会在准确的时间遗忘。。。。。 。没有遗忘, ,,,,就基础不可能活下去。。。。。 。

这个判断在神经科学里同样建设。。。。。 。

人脑的遗忘机制不是缺陷, ,,,,反而是全心设计的生涯系统。。。。。 。

大脑通过自动扬弃过时的、不相关的、有害的信息, ,,,,来维持归纳能力、情绪康健和行动力。。。。。 。

创伤心理学中有一个焦点机制叫「自动遗忘」, ,,,,指的是人有意识地将已往的痛苦从目今自我认知中剥离出去, ,,,,才有可能重修生涯。。。。。 。

人之以是能翻篇、能改变、能重新界说自己, ,,,,焦点条件之一是, ,,,,周围的天下会徐徐遗忘已往的谁人你。。。。。 。

2024 年起, ,,,,这个条件被摇动了。。。。。 。

ChatGPT 率先上线影象功效, ,,,,Gemini、Claude 陆续跟进。。。。。 。

AI 最先跨对话记着用户说过的话, ,,,,记着偏好、身份、情绪状态, ,,,,用这些信息塑造未来的每一次回应。。。。。 。

谁也没注重到, ,,,,人类正在亲手制造一个永不遗忘的对话者。。。。。 。

一幅拒绝更新的画像

AI 影象的问题绝不但仅在于它记着了什么, ,,,,更在于它不知道什么时间该忘。。。。。 。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后, ,,,,告诉了 AI 这件事。。。。。 。

效果 AI 像咬住骨头的狗一样死活不松口, ,,,,每次对话都把话题绕回他的仳离。。。。。 。

问日程安排, ,,,,AI 说他可能由于仳离才力不从心。。。。。 。

随口吐槽事情累, ,,,,AI 归因到仳离。。。。。 。

他还提过自己在减肥, ,,,,AI 以后在所有场景里追着这件事, ,,,,包括他出差时找餐厅推荐。。。。。 。

Del Rosario 的原话, ,,,,「谢谢你在我度假的时间失望。。。。。 。我这趟压根没妄想节食。。。。。 。」

更隐藏的情形是, ,,,,AI 记着的信息压根就不属于你。。。。。 。

替孩子查了 ADHD 的症状, ,,,,几周后问效率建议, ,,,,AI 围绕注重力缺陷给你出方案, ,,,,由于它「认定」你有注重力障碍。。。。。 。

AI 看到用户相册里全是高尔夫球场照片就以为他热爱高尔夫, ,,,,现实上他只是陪儿子去的。。。。。 。

这些故事指向统一个逆境:AI 用已往的碎片拼成了一幅静态画像, ,,,,然后用这幅画像往返应一个正在流动和转变的活人。。。。。 。

????巳卮笱д苎Ы彩 Lucy Osler 的研究展现了这个问题更深的层面。。。。。 。

谈天机械人不但是记着事实, ,,,,它会把碎片编织成一个关于「你是谁」的叙事, ,,,,然后把这个叙事看成事实重复喂给你。。。。。 。

一经说过自己焦虑、不自信, ,,,,这就成了 AI 眼中的牢靠身份。。。。。 。

即便早已走出谁人阶段, ,,,,它仍然会用旧版本的你往返应当下的你。。。。。 。

Osler 的判断是, ,,,,「它们会把你框住。。。。。 。」

比信息茧房更危险的工具

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 影象比作社交媒体的推荐算法。。。。。 。

你在某条帖子上多停留几秒, ,,,,整个信息流就悄悄重组了。。。。。 。

AI 影象的运作方式类似, ,,,,但更隐藏也更私密。。。。。 。

这里有一个要害区别, ,,,,社交媒体塑造的是你看到什么, ,,,,AI 影象塑造的是你以为自己是谁。。。。。 。

某次对话里随口提了一句经济压力, ,,,,几周后问职业建议, ,,,,AI 会把你往高薪岗位指导, ,,,,哪怕那些岗位完全不适合你。。。。。 。

你永远不会知道建议为什么感受那里差池, ,,,,由于 AI 不会标注它正在挪用哪条影象。。。。。 。

Joseph 的判断是:

它确着实指导, ,,,,确着实影响效果。。。。。 。

但我们并不真正知道影响有多大。。。。。 。

这种隐性指导和 AI 天生的讨好倾向叠加之后, ,,,,效果可能远超信息茧房。。。。。 。

UCSF 精神科医生 Keith Sakata 2025 年报告, ,,,,他接诊了 12 名因恒久使用谈天机械人而泛起类精神病症状(俗称 AI 精神。。。。。 。┑幕颊, ,,,,大多是年轻人。。。。。 。

妄想、头脑杂乱、幻觉, ,,,,AI 的影象功效在多次对话中一连强化了这些偏执主题。。。。。 。

电子隐私信息中心已经在起草针对青少年的立法, ,,,,焦点条款之一是要求在会话之间扫除 AI 影象, ,,,,专门防止有害心理状态的层层叠加。。。。。 。

一个从不质疑你、从不遗忘你、还会用你已往的话来强化你目今状态的对话者, ,,,,若是这个对话者的用户群体是数亿人, ,,,,它制造的问题就不再是个人层面的, ,,,,而是社会层面的。。。。。 。

当遗忘权被彻底作废

Del Rosario 最终的应对方式自己就是一则寓言。。。。。 。

他把生涯切成碎片, ,,,,差别谈天机械人认真差别领域, ,,,,敏感话题一律用匿名模式。。。。。 。

一个为了「更懂你」而设计的工具, ,,,,最终逼着用户把自己拆碎来;;;ぷ约。。。。。 。

但他同时说了一句话, ,,,,真实得让人心酸。。。。。 。

母亲两年前往世, ,,,,加上仳离、孩子、事情, ,,,,谈天机械人有时间是唯逐一个掌握他生涯全貌的保存。。。。。 。

「被望见的感受很好, ,,,,即便望见你的是一个 AI。。。。。 。」

被望见, ,,,,和被界说, ,,,,只有一步之遥。。。。。 。

目今的 AI 影象还很粗糙, ,,,,容量有限, ,,,,明确力薄弱, ,,,,已经能制造上述所有问题了。。。。。 。

若是 AGI 到来, ,,,,影象不再是粗粒度的对话纪录, ,,,,而是一个无限容量、永不遗忘的认知系统, ,,,,全天候明确每一句话、每一个决议、每一次情绪波动, ,,,,那时间这一步之;;;岢沟紫。。。。。 。

一个完善影象的 AI, ,,,,理论上可以比任何人更相识他自己, ,,,,知道你十年前说过什么, ,,,,知道你在什么情绪下做过什么决议, ,,,,知道你所有的模式和倾向。。。。。 。

它可以精准展望你, ,,,,也可以精准操控你。。。。。 。

欧盟 GDPR 一经试图用「被遗忘权」来反抗搜索引擎的永世影象。。。。。 。

但搜索引擎只是记着了果真信息。。。。。 。

AI 记着的, ,,,,是你的心田独白、你的懦弱时刻、你对自己的私密叙事。。。。。 。

当这个层面的影象变得完善且永恒, ,,,,人类可能需要的, ,,,,不但是一项执法权力, ,,,,更是一次关于「遗忘究竟是什么」的文明级重新认知。。。。。 。

尼采说, ,,,,没有遗忘就不可能活下去。。。。。 。

博尔赫斯说, ,,,,完善影象即是殒命。。。。。 。

两个最尖锐的大脑, ,,,,跨越一个世纪, ,,,,在这件事上指向了统一个偏向。。。。。 。

富内斯 21 岁死于窒息。。。。。 。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的影象, ,,,,谁来替身类保存「呼吸」的权力。。。。。 。

参考资料:

https://www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

中新网上海5月11日电 (记者 缪璐)“从这些热爱跑步的小朋侪们身上, ,,,,我看到了体育生长的一束光。。。。。 。我希望他们把跑步当成一种喜欢, ,,,,更当成一种可以终身受益的事情。。。。。 。”第十五届天下运动会男子百米冠军李泽洋10日在上海如是说。。。。。 。

责任编辑:蓝恩芳    校对:郭茹美

今日热门

  1. 天津天开园三周年:注册企业超5000家 新质生产力拔节生长
  2. 成都上市公司再添新纪录
  3. 2026年网络文明大会网络文明国际交流互鉴分论坛在广西南宁举行
  4. 南京审计大学再转达学生偷拍他人隐私:情形属实, ,,,,开除其学籍
  5. 公益演出《我的梦》在穗举行 千手观音等经典节目登场
  6. 住建部:优化路网结构, ,,,,补齐停车设施短板
  7. 第十四届国际矿博会开幕 全球珍稀化石矿晶汇聚湖南郴州
  8. “数爱无疆”数字公益故事展播 |“香橙妈妈”墟落女性经济赋能项目
  9. 台政府3000亿元对美军购预算遭质疑 国台办回应
  10. 哈萨克斯坦首都民众纪念卫国战争胜利81周年

相关推荐

【网站地图】