6月3日新闻,,,,,据路透社报道,,,,,Meta超等智能实验室(Superintelligence Labs)副总裁斯特凡·卡斯里尔(Stephane Kasriel)向美国员工发出内部备忘录,,,,,宣布为一项争议性数据收罗妄想新增控制选项:员工每次可暂停收罗最长30分钟,,,,,也可申请永世宽免。。。。。
这项妄想上月启动,,,,,Meta在事情电脑上安排追踪软件,,,,,纪录鼠标移动、点击和键盘输入,,,,,用来训练能自主完成办公使命的AI智能体。。。。。员工一连数周向治理层表达不满,,,,,有人直接称之为"员工数据榨取工厂"。。。。。备忘录回应了这些反弹,,,,,但妄想自己没有被作废。。。。。
收罗的不是谈天内容,,,,,是操作行为自己
此前至公司用内部数据训练AI引发的争议,,,,,大多集中在员工谈天纪录被拿去喂模子,,,,,那是内容层面的隐私问题。。。。。Meta这次走得更远:它收罗的是操作历程自己。。。。。目的很明确:让AI智能体学会真实的办公行动序列,,,,,包括翻开软件、填写表单、切换窗口、处理邮件,,,,,而不但仅是明确文本指令。。。。。怎样点击菜单、用哪个快捷键、在哪个页面停留了几秒,,,,,都可能成为训练质料。。。。。对员工来说,,,,,被纪录的不是"说了什么",,,,,而是"怎么事情的"。。。。。
卡斯里尔在备忘录中还提到,,,,,团队已优化追踪软件以镌汰对电池续航的影响。。。。。此前有员工投诉该软件占用带宽,,,,,导致家庭网络流量上升,,,,,这说明收罗规模不但笼罩办公室装备,,,,,也延伸到了远程办公场景。。。。。
员工数据成了原质料,,,,,提供者没有对等控制权
产品逻辑是清晰的:AI智能体要从"听懂指令"进化到"会做操作",,,,,需要大宗真实办公场景的鼠标键盘序列作为训练样本。。。。。文本数据能教模子明确使命,,,,,但要真正点开浏览器、登录系统、操作表格,,,,,必需有行为级别的数据。。。。。问题出在授权机制上,,,,,最初的方案是默认收罗,,,,,退出路径不明;;;;;员工反弹后才有了暂停和宽免选项,,,,,但妄想自己仍在运行,,,,,收罗与被收罗之间的权力落差并没有被弥合。。。。。路透社指出,,,,,这一做法在欧盟可能面临更严酷的羁系审阅,,,,,欧盟对事情场合数据网络有恒久的GDPR审查历史。。。。。
不但是Meta内部的问题
受影响的群体很详细:Meta的美国员工,,,,,尤其是远程办公的工程师和产品运营职员。。。。。他们面临的不是"AI会不会取代我"这种远期焦虑,,,,,而是一件正在爆发的事:我今天的鼠标移动正在被纪录,,,,,用于训练一个可能替换我部分事情的系统。。。。。Meta此前称这些数据不会用于绩效评估、只用于模子训练,,,,,并称已设置敏感内容;;;;;げ椒,,,,,但没有详细说明哪些内容会被扫除在收罗之外。。。。。
若是这套方案未来被外部化,,,,,好比Meta向企业客户销售AI智能体时要求客户员工也接受行为收罗,,,,,这个问题的界线将远远凌驾Meta自家办公室。。。。。(易句)
(本文由AI翻译,,,,,网易编辑认真校对)
4月尾召开的中央政治局聚会提出,,,,,周全实验“人工智能+”行动,,,,,生长智能经济新形态,,,,,完善人工智能治理。。。。。