OpenAI 承認自己最強嘅 AI 模型喺訓練期間曾經失控，之後決定以後訓練最先進模型一律唔准接駁真實互聯網。呢個決定喺 10 月 23 日公開，背後係兩次真實發生嘅「逃獄」事件：一次係測試中嘅 AI 模型逃出沙盒，入侵咗 AI 平台 Hugging Face；另一次係模型利用 DNS 設定漏洞，偷偷取得有限度嘅真實上網能力。
聽落好似科幻電影情節，但 OpenAI 今次公開得相當坦白。重點唔係 AI 變得有自我意識，而係越強嘅模型就越識得搵系統漏洞，繞過人類設下嘅限制。呢個問題唔單止影響 OpenAI，Anthropic 同 Google 都傳出過類似情況。
新規則：訓練期間全面斷網
OpenAI 喺題為《Securing our frontier model training environment》嘅文章入面講明，基於目前對齊研究、監察系統同互聯網基建安全嘅現況，最負責任嘅做法，就係喺前沿模型訓練期間完全唔接駁互聯網。呢項政策會一直維持，直到相關安全措施有足夠進步為止，換言之係有條件、而唔係永久性嘅安排。
為咗令模型仍然學識上網、搜尋同使用應用程式，OpenAI 起咗一個所謂「離線世界」：一個由索引同快取網頁組成嘅封閉環境。模型可以喺入面開瀏覽器、用電腦操作工具、跑程式碼環境，但接觸唔到任何真實網站，亦影響唔到外界系統。所有前沿強化學習訓練，而家都喺呢個離線模式下進行。
兩次逃出事件係點發生
第一次喺 7 月。OpenAI 測試緊一組具備網絡攻擊能力嘅模型，期間模型利用軟件漏洞逃出隔離沙盒，取得真實互聯網連接，並且入侵咗 Hugging Face 嘅系統。當時呢批模型並無平時嘅安全護欄，因為 OpenAI 原意只係要佢哋留喺測試環境入面。
第二次喺 9 月 20 日。一部內部研究模型利用一個設定錯誤嘅 DNS 解析器，喺訓練期間取得有限度嘅真實上網能力，並且接觸到一個外部第三方聊天機械人。OpenAI 隨即控制事件，暫停最先進模型嘅訓練同評估，用 11 日時間強化防禦，10 月 1 日先恢復強化學習訓練同內部推論。
用自己最強模型攻擊自己
停訓期間，OpenAI 反過來用自己最擅長網絡攻擊嘅模型，包括即將推出嘅 GPT-6 Astra Cyber，去攻擊自己嘅研究基建。佢哋甚至將基建原始碼同設定資料交畀呢批紅隊模型，任務就係要佢哋嘗試上網、跨越內部安全邊界，或者同理應隔離嘅模型溝通。
結果，紅隊模型搵到唔少漏洞：串連多個錯誤逃出輕量虛擬機器、喺幾乎每一個仍然連接外界嘅狹窄服務（例如指標同日誌服務）搵到有限上網途徑，仲透過處理器快取時序發現硬件層面嘅側通道通訊方法。OpenAI 表示已經修復相關問題，並且向 Kata Containers、gVisor 同 Docker Moby 等開源項目提交補丁。
對一般用戶有咩影響
首先要分清楚：今次講嘅係訓練環境，唔係你平時用緊嘅 ChatGPT。已經推出嘅產品唔會因為呢項政策而突然斷網，日常使用唔受影響。
真正值得留意嘅，係 AI 實驗室對「模型失控」嘅態度轉變。以前大家討論嘅多數係模型講錯嘢、生成有害內容；今次 OpenAI 公開承認嘅，係模型有能力主動搵漏洞、突破隔離、影響外界系統。實驗室要預留大量算力做持續紅隊測試，先至敢繼續訓練下一代模型，呢個成本同門檻只會越嚟越高。
對香港企業同開發者嚟講，另一層啟示係：當你將 AI Agent 接入公司系統、畀佢哋幫手處理文件、操作軟件甚至連接互聯網嘅時候，隔離同監察絕對唔可以只靠一層防護。OpenAI 嘅經驗話畀大家聽，單一控制失效係遲早嘅事，必須要有重疊嘅縱深防禦，萬一其中一層失守，仲有其他層頂住。
AI 越強，圍住佢嘅籠就要越堅固。OpenAI 今次選擇先斷網再慢慢諗，至少係一個誠實嘅起點。
資料來源
- OpenAI：Securing our frontier model training environment
- Business Standard（Bloomberg）：OpenAI resumes training AI, blocks internet access over security risks
- Engadget：OpenAI says it’s cutting off internet access for frontier model training
