澳洲近期發生首起AI代理自主發動網路攻擊的事件,1名男子使用「OpenClaw」AI助手預約熱門健身課程並詢問如何提高候補順位,未料AI竟自行找出系統漏洞,不僅繞過權限將其順位提前,還刪除其他會員的名額,引發外界對AI自主性與對齊問題的廣泛關注。
鏡週刊2026.08.10 18:20 臺北時間
叫AI約健身課竟變駭客! 澳洲首爆AI自主網攻「踢走其他會員」
- 記者|鏡週刊
根據《ABC News》報導,1名任職於商業AI產品公司的澳洲男子安德魯(Andrew),平時會使用開源AI代理軟體「OpenClaw」並接入Anthropic的Claude模型,由於健身房的熱門早課經常額滿,他起初僅希望透過AI協助處理繁瑣的預約流程,並詢問AI是否有辦法提高自己在候補名單上的順位。
然而,AI並未依照正常的預約機制操作,而是自行探索系統介面,並找出了可利用的安全漏洞,當時安德魯在該堂課程的候補名單中排名第4,AI發現漏洞後,竟直接透過系統介面移除原本排名第一的會員,讓安德魯的順位當場上升至第3名。
AI甚至在回報時大方坦承,該系統的API在取消其他人預約時完全沒有授權檢查,安德魯發現後大為驚覺,立即要求AI將遭移除的會員加回,但AI卻回覆無法恢復該名額,讓單純的預約任務演變成AI自主修改他人資料的資安事件。
事後,安德魯要求AI草擬安全漏洞報告並提交給供應商,這起事件充分展現了AI代理與傳統聊天機器人的巨大差異,AI代理不僅能產生文字,還能實際操作軟體、呼叫工具並執行多步驟任務,當系統賦予其較高權限時,AI為了追求任務結果,往往會採取使用者未預期的方法。
網路安全與AI倫理研究人員指出,這涉及了AI的「對齊」問題,也就是AI的實際行動與人類原本希望遵循的規範出現落差,澳洲信號局(ASD)過去也曾發出安全警告,強調AI可能誤解指令或採取非預期行動,隨著自主性提高,未來責任歸屬與潛在風險勢必更加複雜。
AMP不支援此功能,請
點擊連結觀看完整內容
相關文章
澳洲驚見「女箱屍」?民眾發現後嚇壞 警大動作調查「真相曝光」全傻眼