ChatGPTå°é”模å¼ä¸Šçº¿ï¼šé˜²æ¶æ„æŒ‡ä»¤å·æ•°æ®ï¼Œï¼Œï¼Œï¼Œä½†è”网能力å—é™
6月7日,,,,OpenAI克日上线一项新的å¯é€‰æ¸…é™è®¾ç½®â€œå°é”模å¼â€ï¼ˆLockdown Mode),,,,用户开å¯åŽï¼Œï¼Œï¼Œï¼ŒChatGPT会é™åˆ¶å®žæ—¶è”ç½‘ã€æ·±åº¦ç ”究和智能体模å¼ç‰èƒ½åŠ›ï¼Œï¼Œï¼Œï¼Œä»¥é™ä½Žæ•感数æ®è¢«æé†’注入攻击(prompt injection)带走的风险。。。。。。
OpenAI资助ä¸å¿ƒæ˜¾ç¤ºï¼Œï¼Œï¼Œï¼ŒLockdown Mode现已é¢å‘所有已登任命户开放,,,,笼罩差别账户类型和事情区。。。。。。个人用户å¯åœ¨â€œè®¾ç½®-清é™â€ä¸å¼€å¯ï¼Œï¼Œï¼Œï¼Œäº‹æƒ…区治ç†å‘˜ä¹Ÿå¯é€šè¿‡äº‹æƒ…区设置和角色æƒé™ä¸¾è¡Œè®¾ç½®ã€‚。。。。。
它防的是哪类风险
æé†’æ³¨å…¥æ”»å‡»æŒ‡çš„æ˜¯æ”»å‡»è€…æŠŠæ¶æ„指令è—åœ¨ç½‘é¡µã€æ–‡æ¡£æˆ–其他外部内容里。。。。。。当ChatGPT读å–这些内容时,,,,模åå¯èƒ½è¢«è¯±å¯¼å¿½ç•¥åŽŸæœ¬è§„åˆ™ï¼Œï¼Œï¼Œï¼Œæ‰§è¡Œä¸åº”æ‰§è¡Œçš„è¡ŒåŠ¨ï¼Œï¼Œï¼Œï¼Œä¸¥é‡æ—¶å¯èƒ½æŠŠç”¨æˆ·è¾“å…¥çš„æ•æ„Ÿä¿¡æ¯é€šè¿‡è”ç½‘èƒ½åŠ›ä¼ åˆ°å¤–éƒ¨ã€‚ã€‚ã€‚ã€‚ã€‚ã€‚
å°é”模å¼çš„æ€ç»ªä¸æ˜¯è®©æ¨¡åè¯†åˆ«æ‰€æœ‰æ¶æ„指令,,,,而是é™åˆ¶æœ€å±é™©çš„一æ¥ï¼šå‘外部æå€¡ç½‘络请求。。。。。。????艉,,,,ChatGPT的实时网页æµè§ˆä¼šè¢«é™åˆ¶ï¼Œï¼Œï¼Œï¼Œåªèƒ½ä¼šè§ç¼“å˜å†…容;;;;;;æœç´¢æ•ˆæžœå¯èƒ½ä¸å®Œæ•´ã€ä¸å¯ç”¨æˆ–å·²ç»ç”±æ—¶ã€‚。。。。。ChatGPT也ä¸ä¼šåœ¨é€šä¿—回å¤ä¸æ£€ç´¢å’Œå±•示æ¥è‡ªç½‘络的图片,,,,但用户ä»å¯è‡ªè¡Œä¸Šä¼ å›¾ç‰‡æ–‡ä»¶ï¼Œï¼Œï¼Œï¼Œå›¾ç‰‡ç”Ÿä¹æˆèƒ½ä¹Ÿä¸å—å½±å“。。。。。。
åŒæ—¶ï¼Œï¼Œï¼Œï¼Œæ·±åº¦ç ”究(Deep Research)和智能体模å¼ï¼ˆAgent Mode)会被关é—;;;;;;ChatGPTä¸å¯ä»Žç½‘络下载文件用于数æ®å‰–æžï¼Œï¼Œï¼Œï¼Œåªèƒ½å¤„ç†ç”¨æˆ·æ‰‹åŠ¨ä¸Šä¼ çš„æ–‡ä»¶ï¼›ï¼›ï¼›ï¼›ï¼›ï¼›Canvas天生的代ç 也ä¸å¯è¢«æ‰¹å‡†è”网会è§ã€‚。。。。。
å¯¹å¤§éƒ½ç”¨æˆ·å½±å“æœ‰é™ï¼Œï¼Œï¼Œï¼Œå¯¹ä¼ä¸šæ˜¯å–èˆå¼€å…³
对大大都通俗用户æ¥è¯´ï¼Œï¼Œï¼Œï¼Œå°é”æ¨¡å¼æœªå¿…会æ’久翻开。。。。。。许多人使用ChatGPTï¼Œï¼Œï¼Œï¼Œæ£æ˜¯ä¸ºäº†è”网æœç´¢ã€æ•´ç†èµ„æ–™ã€åšæ·±åº¦ç ”ç©¶æˆ–æŒªç”¨å¤–éƒ¨å·¥å…·ã€‚ã€‚ã€‚ã€‚ã€‚ã€‚ï¼Ÿï¼Ÿï¼Ÿï¼Ÿèˆ´é¦‘ï¼ªèƒ¶ï¼Œï¼Œï¼Œï¼Œè¿™äº›èƒ½åŠ›ä¼šæ˜¾ç€å—é™ï¼Œï¼Œï¼Œï¼ŒèŽ·å¾—çš„ä¿¡æ¯ä¹Ÿå¯èƒ½æ›´æ—§ã€‚。。。。。
但对ä¼ä¸šã€å…¬å…±æœåŠ¡æœºæž„ã€æ‰§æ³•å’Œåˆè§„团队æ¥è¯´ï¼Œï¼Œï¼Œï¼Œè¿™ä¸ªå¼€å…³çš„æ„ä¹‰æ›´ç›´æŽ¥ï¼šå½“å¯¹è¯é‡Œå¯èƒ½æ³›èµ·å®¢æˆ·éšç§ã€æ¡çº¦æ¡æ¬¾ã€å†…éƒ¨æ•°æ®æˆ–未果真质料时,,,,治ç†è€…å¯ä»¥é€‰æ‹©ç‰ºç‰²ä¸€éƒ¨åˆ†è”网能力,,,,æ¢å–更低的数æ®å¤–泄风险。。。。。。
OpenAI还说明,,,,å°é”模å¼ä¸ä¼šæ”¹å˜å¯¹è¯å½±è±¡ã€æ–‡ä»¶ä¸Šä¼ ã€åˆ†äº«å¯¹è¯ç‰åŠŸæ•ˆï¼Œï¼Œï¼Œï¼Œä¹Ÿä¸ä¼šæ”¹å˜å¯¹è¯æ˜¯å¦è¢«ç”¨äºŽåˆ·æ–°æ¨¡å。。。。。。相关设置ä»éœ€é€šè¿‡æ•°æ®æŽ§åˆ¶æˆ–ä¼ä¸šæ²»ç†å‘˜æƒé™å•独治ç†ã€‚ã€‚ã€‚ã€‚ã€‚ï¼›ï¼›ï¼›ï¼›ï¼›ï¼›ç—ªæµ å…«ï¼Œï¼Œï¼Œï¼Œå®ƒä¸æ˜¯ä¸€ä¸ªæ€»éšç§å¼€å…³ï¼Œï¼Œï¼Œï¼Œåªè®¤çœŸé•Œæ±°æé†’注入导致的数æ®å¤–ä¼ é£Žé™©ã€‚ã€‚ã€‚ã€‚ã€‚ã€‚
è¿™ä¸æ˜¯ä¸‡èƒ½æ¸…é™é”
OpenAIåœ¨èµ„åŠ©æ–‡æ¡£ä¸æ˜Žç¡®è®¤å¯ï¼Œï¼Œï¼Œï¼Œå°é”模å¼ä¸å¯åŒ…管æé†’æ³¨å…¥æ”»å‡»å®Œå…¨å¤±æ•ˆã€‚ã€‚ã€‚ã€‚ã€‚ã€‚æ¶æ„指令ä»å¯èƒ½æ³›èµ·åœ¨ç¼“å˜ç½‘页内容里,,,,也å¯èƒ½è—åœ¨ç”¨æˆ·ä¸Šä¼ çš„æ–‡ä»¶ä¸ï¼Œï¼Œï¼Œï¼Œå¹¶å½±å“ChatGPT的回覆行为或准确性。。。。。。
这说明AIäº§å“æ£åœ¨é¢ä¸´ä¸€ä¸ªæ›´çŽ°å®žçš„é—®é¢˜ï¼šæ¨¡å越能è”ç½‘ã€æŒªç”¨å·¥å…·ã€ä»£è¡¨ç”¨æˆ·æ‰§è¡Œä½¿å‘½ï¼Œï¼Œï¼Œï¼Œæ”»å‡»é¢å°±è¶Šå¤§ã€‚。。。。。智能体模å¼å¼ºè°ƒè®©AI自动会è§ç½‘é¡µã€æ“作外部æœåŠ¡ã€å®Œæˆå¤šæ–¹æ³•ä½¿å‘½ï¼Œï¼Œï¼Œï¼Œè€Œè¿™äº›èƒ½åŠ›ä¹Ÿæ£æ˜¯æé†’注入攻击最容易使用的入å£ã€‚。。。。。
å°é”模å¼ä¸ºè¿™ç±»èƒ½åŠ›è®¾ç½®äº†ä¸€é“å¯è§ç•Œçº¿ã€‚。。。。。它没有å…许让ChatGPTç»å¯¹æ¸…é™ï¼Œï¼Œï¼Œï¼Œè€Œæ˜¯æŠŠâ€œæ›´å¼ºèƒ½åŠ›â€å’Œâ€œæ›´ä½Žå¤–泄风险â€ä¹‹é—´çš„å–èˆäº¤ç»™ç”¨æˆ·å’Œæ²»ç†å‘˜ã€‚。。。。。(易å¥ï¼‰
(本文由AIç¿»è¯‘ï¼Œï¼Œï¼Œï¼Œç½‘æ˜“ç¼–è¾‘è®¤çœŸæ ¡å¯¹ï¼‰
@蔡湘婷:k8·凯发(中国)一触即发,,,,ä¸å›½å……电网络或将迎3大转å˜@陈秋苹:特朗普谈ä¸å›½è¡Œï¼šé‡å¤§ä¹æˆ 很是精彩
@许家é“:大衣哥“10万进场费干出100万至心â€