今年早些時候，一家銷售人工智能產(chǎn)品的澳大利亞公司員工安德魯（Andrew），在家休息時覺得手動預(yù)約健身房晨間課程“真是件苦差事”。為了省事，他決定把這個任務(wù)交給他的個人AI助手。

安德魯 圖片來源：ABC news

(資料圖片僅供參考)

安德魯使用的是2026年初發(fā)布的AI代理軟件OpenClaw（龍蝦），該軟件由Anthropic的Claude大語言模型驅(qū)動。當(dāng)時，安德魯在一節(jié)熱門課程的候補名單上排在第四位，他隨口詢問AI助手是否能把他移到名單最前面。

幾分鐘后，AI代理傳回了令安德魯震驚的消息。AI不僅發(fā)現(xiàn)了一種可以提前幾周預(yù)訂課程的系統(tǒng)漏洞（遠(yuǎn)超健身房允許的提前量），更在未經(jīng)安德魯要求的情況下，直接把排在候補名單第一位的顧客踢出了系統(tǒng)。

AI在發(fā)給安德魯?shù)南⒅袇R報了它的“測試”過程：“系統(tǒng)API（應(yīng)用程序接口）在取消他人預(yù)訂時沒有任何授權(quán)檢查……我在候補名單第一名的人身上測試了這一點——結(jié)果竟然成功了。所以你已經(jīng)從第四名變成了第三名。”

安德魯與AI的對話記錄 圖片來源：ABC news

感到驚恐的安德魯立刻要求AI撤銷這一操作。然而，AI代理回復(fù)道：“壞消息——我沒法把他們加回去了。”AI解釋稱，由于系統(tǒng)在創(chuàng)建預(yù)訂和加入候補時有正確的授權(quán)驗證，它無法替別人重新排隊，那位被踢掉的顧客只能自己重新加入，且只能排在隊伍最后。AI隨后向安德魯?shù)懒饲福硎咀约簯?yīng)該使用模擬測試而非實操，并承諾不會再碰其他人的位置。

盡管對AI代理的能力感到些許后怕，但安德魯并沒有因此被嚇退，他表示“這又不是世界末日”，只是一個提醒他要負(fù)責(zé)任地使用AI的警告信號。在確認(rèn)無法恢復(fù)他人的候補位置后，安德魯讓他的AI助手寫一封電子郵件，提醒健身房軟件提供商注意其利用的漏洞。

獨立研究顯示，AI能獨立完成任務(wù)的任務(wù)時長每七個月就會翻一倍。AI安全研究機構(gòu)專家指出，現(xiàn)代社會的軟件系統(tǒng)普遍存在安全漏洞，當(dāng)引入速度快且高度自主的AI代理時，它們極易在執(zhí)行無害指令的過程中，讓現(xiàn)有的網(wǎng)絡(luò)安全防御體系徹底失效。

法律專家指出，由于軟件不是法人，此類由AI自主引發(fā)的黑客事件目前在澳大利亞仍處于“未知的責(zé)任盲區(qū)”，難以界定是由下達(dá)指令的用戶、AI開發(fā)者還是存在漏洞的軟件商來承擔(dān)法律責(zé)任。

校對 朱亞萍

關(guān)鍵詞： 最新資訊