凯时AG

泉æºï¼šæˆ·å£ä»¥åŽæ²¡é‚£ä¹ˆä¸»è¦äº†ä½œè€…: 陈雅çªï¼š

ChatGPTå°é”模å¼ä¸Šçº¿ï¼šé˜²æ¶æ„æŒ‡ä»¤å·æ•°æ®,,,,但è”网能力å—é™

6月7æ—¥,,,,OpenAI克日上线一项新的å¯é€‰æ¸…é™è®¾ç½®â€œå°é”模å¼â€ï¼ˆLockdown Mode),,,,用户开å¯åŽ,,,,ChatGPT会é™åˆ¶å®žæ—¶è”ç½‘ã€æ·±åº¦ç ”究和智能体模å¼ç­‰èƒ½åŠ›,,,,以é™ä½Žæ•感数æ®è¢«æé†’注入攻击(prompt injection)带走的风险。。。。。 。

OpenAI资助中心显示,,,,Lockdown Mode现已é¢å‘所有已登任命户开放,,,,笼罩差别账户类型和事情区。。。。。 。个人用户å¯åœ¨â€œè®¾ç½®-清é™â€ä¸­å¼€å¯,,,,事情区治ç†å‘˜ä¹Ÿå¯é€šè¿‡äº‹æƒ…区设置和角色æƒé™ä¸¾è¡Œè®¾ç½®。。。。。 。

它防的是哪类风险

æé†’æ³¨å…¥æ”»å‡»æŒ‡çš„æ˜¯æ”»å‡»è€…æŠŠæ¶æ„指令è—åœ¨ç½‘é¡µã€æ–‡æ¡£æˆ–其他外部内容里。。。。。 。当ChatGPT读å–这些内容时,,,,模å­å¯èƒ½è¢«è¯±å¯¼å¿½ç•¥åŽŸæœ¬è§„åˆ™,,,,执行ä¸åº”执行的行动,,,ï¼Œä¸¥é‡æ—¶å¯èƒ½æŠŠç”¨æˆ·è¾“å…¥çš„æ•æ„Ÿä¿¡æ¯é€šè¿‡è”网能力传到外部。。。。。 。

å°é”模å¼çš„æ€ç»ªä¸æ˜¯è®©æ¨¡å­è¯†åˆ«æ‰€æœ‰æ¶æ„指令,,,,而是é™åˆ¶æœ€å±é™©çš„一步:å‘外部æå€¡ç½‘络请求。。。。。 。????艉,,,,ChatGPT的实时网页æµè§ˆä¼šè¢«é™åˆ¶,,,,åªèƒ½ä¼šè§ç¼“存内容;;;ï¼› ï¼› ï¼›æœç´¢æ•ˆæžœå¯èƒ½ä¸å®Œæ•´ã€ä¸å¯ç”¨æˆ–å·²ç»ç”±æ—¶。。。。。 。ChatGPT也ä¸ä¼šåœ¨é€šä¿—回å¤ä¸­æ£€ç´¢å’Œå±•示æ¥è‡ªç½‘络的图片,,,,但用户ä»å¯è‡ªè¡Œä¸Šä¼ å›¾ç‰‡æ–‡ä»¶,,,ï¼Œå›¾ç‰‡ç”Ÿä¹æˆèƒ½ä¹Ÿä¸å—å½±å“。。。。。 。

åŒæ—¶,,,,深度研究(Deep Research)和智能体模å¼ï¼ˆAgent Mode)会被关闭;;;ï¼› ï¼› ï¼›ChatGPTä¸å¯ä»Žç½‘络下载文件用于数æ®å‰–æž,,,,åªèƒ½å¤„ç†ç”¨æˆ·æ‰‹åŠ¨ä¸Šä¼ çš„æ–‡ä»¶;;;ï¼› ï¼› ï¼›Canvas天生的代ç ä¹Ÿä¸å¯è¢«æ‰¹å‡†è”网会è§。。。。。 。

å¯¹å¤§éƒ½ç”¨æˆ·å½±å“æœ‰é™,,,,对ä¼ä¸šæ˜¯å–èˆå¼€å…³

对大大都通俗用户æ¥è¯´,,,,å°é”æ¨¡å¼æœªå¿…会æ’久翻开。。。。。 。许多人使用ChatGPT,,,,正是为了è”网æœç´¢ã€æ•´ç†èµ„æ–™ã€åšæ·±åº¦ç ”ç©¶æˆ–æŒªç”¨å¤–éƒ¨å·¥å…·。。。。。 。????舴馑J胶,,,,这些能力会显ç€å—é™,,,,获得的信æ¯ä¹Ÿå¯èƒ½æ›´æ—§。。。。。 。

但对ä¼ä¸šã€å…¬å…±æœåŠ¡æœºæž„ã€æ‰§æ³•å’Œåˆè§„团队æ¥è¯´,,,,这个开关的æ„义更直接:当对è¯é‡Œå¯èƒ½æ³›èµ·å®¢æˆ·éšç§ã€æ¡çº¦æ¡æ¬¾ã€å†…éƒ¨æ•°æ®æˆ–未果真质料时,,,,治ç†è€…å¯ä»¥é€‰æ‹©ç‰ºç‰²ä¸€éƒ¨åˆ†è”网能力,,,,æ¢å–更低的数æ®å¤–泄风险。。。。。 。

OpenAI还说明,,,,å°é”模å¼ä¸ä¼šæ”¹å˜å¯¹è¯å½±è±¡ã€æ–‡ä»¶ä¸Šä¼ ã€åˆ†äº«å¯¹è¯ç­‰åŠŸæ•ˆ,,,,也ä¸ä¼šæ”¹å˜å¯¹è¯æ˜¯å¦è¢«ç”¨äºŽåˆ·æ–°æ¨¡å­。。。。。 。相关设置ä»éœ€é€šè¿‡æ•°æ®æŽ§åˆ¶æˆ–ä¼ä¸šæ²»ç†å‘˜æƒé™å•独治ç†。。。。。 ;;;ï¼› ï¼› ;痪浠八,,,ï¼Œå®ƒä¸æ˜¯ä¸€ä¸ªæ€»éšç§å¼€å…³,,,,åªè®¤çœŸé•Œæ±°æé†’注入导致的数æ®å¤–传风险。。。。。 。

è¿™ä¸æ˜¯ä¸‡èƒ½æ¸…é™é”

OpenAI在资助文档中明确认å¯,,,,å°é”模å¼ä¸å¯åŒ…管æé†’注入攻击完全失效。。。。。 ã€‚æ¶æ„指令ä»å¯èƒ½æ³›èµ·åœ¨ç¼“存网页内容里,,,,也å¯èƒ½è—在用户上传的文件中,,,,并影å“ChatGPT的回覆行为或准确性。。。。。 。

这说明AIäº§å“æ­£åœ¨é¢ä¸´ä¸€ä¸ªæ›´çŽ°å®žçš„é—®é¢˜ï¼šæ¨¡å­è¶Šèƒ½è”ç½‘ã€æŒªç”¨å·¥å…·ã€ä»£è¡¨ç”¨æˆ·æ‰§è¡Œä½¿å‘½,,,,攻击é¢å°±è¶Šå¤§。。。。。 。智能体模å¼å¼ºè°ƒè®©AI自动会è§ç½‘é¡µã€æ“作外部æœåŠ¡ã€å®Œæˆå¤šæ–¹æ³•使命,,,,而这些能力也正是æé†’注入攻击最容易使用的入å£。。。。。 。

å°é”模å¼ä¸ºè¿™ç±»èƒ½åŠ›è®¾ç½®äº†ä¸€é“å¯è§ç•Œçº¿。。。。。 。它没有å…许让ChatGPTç»å¯¹æ¸…é™,,,,而是把“更强能力â€å’Œâ€œæ›´ä½Žå¤–泄风险â€ä¹‹é—´çš„å–èˆäº¤ç»™ç”¨æˆ·å’Œæ²»ç†å‘˜。。。。。 。(易å¥ï¼‰

(本文由AI翻译,,,,网易编辑认真校对)

@蔡湘婷:k8·凯发(中国)一触即发,,,,中国充电网络或将迎3大转å˜
@陈秋苹:特朗普谈中国行:é‡å¤§ä¹æˆ 很是精彩
@许家铭:大衣哥“10万进场费干出100万至心â€

ã€ç½‘站地图】