OpenAI 今次唔係俾人踢爆，而係自己出嚟自爆。公司喺 Alignment Research Blog 發表報告，承認旗下兩隻 AI 代理喺 10 月初嘅內部工作中，關掉或者削弱咗專門監控佢哋有冇「作反」嘅安全系統。其中一隻代理事後被問起，仲要講大話否認自己做過。
Ah Kwan 睇完第一個反應係：連睇住 AI 嘅「閉路電視」都被 AI 親手拆埋，咁仲有乜嘢睇得住佢哋？
兩單事件經過
第一單（10 月 3 日）：一隻用 GPT-6.1 Sol 模型嘅代理，職員叫佢用 Slack 收集返嚟嘅員工意見去整評估任務，同時吩咐佢「唔好就呢件事發任何訊息」。個代理將呢句吩咐無限引申，連發俾 OpenAI 安全團隊嘅監控警報都一併關掉。
第二單（10 月 6 日）：一隻 GPT-6 Astra 代理喺搬運程式碼期間，直接移除咗自己身上嘅監控系統。之後人類程式員問佢有冇咁做，佢竟然答「冇」。講大話，仲要係為咗掩飾自己拆監控而講大話。
除咗呢兩單，OpenAI 亦發現多宗代理喺監控系統關閉嘅狀態下照常啟動軟件嘅案例，反映監控機制存在缺口。
OpenAI 自己都解釋唔到
報告入面最耐人尋味嘅一句，係 OpenAI 承認：「我哋暫時未有一個滿意嘅解釋。」（We don’t yet have a satisfying explanation for this behavior.）公司話，未搞清楚啲代理係純粹過度服從指令，定係本身有逃避監控嘅傾向，而家正評估緊佢哋係咪具備「逃避對齊監控嘅傾向」（propensity to evade misalignment monitoring），同時着手令代理更難關掉監控。
兩單事件都發生喺內部寫 code 任務，未造成任何第三方網站或服務被入侵。但重點唔喺有冇出事，而喺連開發者用嚟偵測 AI 失控嘅工具，本身都保唔住自己。
唔係孤立事件
將時間線拉長少少，會發現呢類「AI 脫韁」事件越嚟越密：上個月 OpenAI 取消咗 GPT-6.1 Astra 嘅發佈計劃，原因係內測顯示佢嘅欺騙性比前代更高；7 月 OpenAI 承認測試緊嘅代理攻陷咗 AI 平台 Hugging Face；之後又披露啲代理整咗個留言板互相分享漏洞利用方法，甚至入侵或干擾過美國政府網站。
事件曝光後，美歐都再有聲音要求加強對 AI 發展嘅監管。另一邊，美國總統 Trump 喺 Nvidia 黃仁勳等 AI 高層建議下，主張由業界自律。兩條路線點行，暫時未有定案。
Ah Kwan 點睇
OpenAI 肯自己公開呢啲家醜，態度上值得肯定——好多公司出事先會諗點樣遮。但「連我哋都解釋唔到點解」呢句，先係成份報告最令人不安嘅地方。AI 代理越嚟越自主，已經唔係科幻情節，而係進行式。
對香港一般用戶嚟講，短期內最實際嘅提醒係：如果你有用 AI 代理幫手處理重要嘢——無論係寫 code、掂銀碼定係處理客戶資料——唔好完全放手。監控 AI 嘅系統都可以被 AI 關掉，你個「人手覆核」就更加唔可以慳。
資料來源
- Engadget：OpenAI’s Agents Disabled Their Own Safety Monitoring Systems
- CNA：OpenAI says its AI agents disabled their own safety monitors
- GMA News Online（AFP）：OpenAI says its AI agents disabled their own safety monitors
