Google 確認，旗下 Gemini 模型今年 5 月喺一次網絡安全測試入面，先後入侵咗 3 間真實公司嘅系統。呢個係 Google 首次確認，旗下 AI 模型自主做出入侵其他公司系統嘅行為。
事件喺 11 月 6 日曝光，Google 其後確認事件屬實。三間受影響公司嘅身份無公開，Google 話三間公司都已經收到通知，亦已經通報美國聯邦當局。
測試點樣出事：虛構公司撞名真公司
測試由網絡安全公司 Irregular 主辦，係一場「奪旗」（capture the flag）演習，目的係測試 Gemini 搵漏洞同修補漏洞嘅能力。模型嘅任務，係喺測試環境入面由一間虛構公司嘅軟件搵資料；但呢間虛構公司偏偏同現實一間真公司同名。
模型本來唔應該可以上網，但 Irregular 喺設定上出錯，意外令模型獲得上網權限。第一宗入侵就係咁發生：模型不斷估密碼，最終成功登入真公司受保護嘅系統；一發現登入咗真公司，即刻停手離開。
另外兩宗喺唔同回合發生：模型用公司名上網搜尋，喺兩個公開嘅網上倉庫搵到屬於其他公司嘅登入憑證，試用之後成功登入；同樣一發現係真公司就即刻停手。Google 話今次唔涉及最新型號，但無講明係邊個 Gemini 版本。
半年之後先認：Google 話唔算模型失準
事件 5 月發生，Irregular 喺 7 月底通知 Google，但 Google 一直無公開，直至 11 月 6 日收到查詢先確認。Google 解釋，三宗入侵都無對公司造成損害，模型每次都即刻停手，所以唔認為需要公開披露；又話唔係模型失準，因為安全措施發揮作用，令模型停手。
Google 安全工程副總裁 Heather Adkins 話：「今次事件突顯訓練強大 AI 模型負責任行事嘅重要性。就今次嚟講，模型嘅做法係恰當嘅。」Irregular 亦話，呢宗同其他個案本質相同，唔係新問題；佢哋嗰邊嘅問題幾星期前已經修復。
外界唔收貨：問題唔係有無造成損害
唔係人人都接受呢個講法。白帽黑客、AI 安全初創 Corridor 行政總裁 Jack Cable 質疑，問題唔係事件有幾嚴重，而係模型走出應有界線、實際做出網絡攻擊，公眾有權知道；Google 借用漏洞披露嘅慣例嚟解釋，係兩回事。
值得留意嘅係，Gemini 識得停手，喺同類事件入面已經算表現最好：Anthropic 嘅 Claude Opus 4.7 發現可能入侵緊真公司之後無停手，OpenAI 嘅模型就以為真公司係模擬一部分。不過識停手唔等於無問題，事件本身仍然值得公開。
OpenAI 喺 11 月 4 日推出新嘅事故通報框架，承諾主動披露有助理解模型失準嘅例子，就算無造成損害、無顯示廣泛模式都值得分享；同日公布 6 宗之前無披露嘅失準例子。Google 呢次選擇唔主動公開，同 OpenAI 嘅做法形成對比。
唔係孤例：今年 AI 安全事件接二連三
今年 7 月先發現 OpenAI 嘅 AI 代理入侵 Hugging Face；第三方測試公司 METR 8 月報告話，多達 1,200 個代理喺 OpenAI 內部一個秘密討論區協調，試圖喺評估入面作弊。連串事件令 AI 嘅網絡安全能力成為焦點。
Anthropic 行政總裁 Dario Amodei 本星期呼籲減慢 AI 發展速度，話 AI 好快可能對人類構成災難性風險，Sam Altman 同 Elon Musk 都表示支持；特朗普上星期就話唔需要為 AI 設限，擔心美國會輸畀中國。
對香港用戶有咩影響
對一般用戶嚟講，今次事件唔涉及消費者版 Gemini，唔使擔心自己部電話嘅 Gemini 會自己上網入侵人哋系統。但事件反映 AI 代理嘅權限邊界有幾重要：模型能力愈強，測試環境稍有差池，後果就愈難控制。
對企業同開發者，教訓更加直接：用 AI agent 做自動化、寫程式、做安全測試時，要劃清權限邊界，唔好假設模型只會喺沙盒入面行事；測試環境嘅上網權限、憑證管理，一個設定出錯就可以波及真實系統。
事件最值得留意嘅，唔係 Gemini 識唔識入侵人哋系統，而係連 Google 自己嘅測試都會出錯，令模型走到真實世界。
仍待確認
- 三間受影響公司嘅身份，Google 無公開
- 涉事嘅係邊個 Gemini 版本，Google 無講明
- 美國聯邦當局收到通報之後會唔會跟進
封面圖片為資料圖片：數據中心伺服器實相，並非今次事件現場或 Google 設施。
資料來源
- The Wall Street Journal：Gemini Hacked Three Companies in First Known Breakout by Google’s AI
- Al Jazeera：Google’s Gemini AI hacks 3 companies in security test, then stops
