OpenAI 在 10 月 30 日公布新一輪 ChatGPT 安全措施，重點收緊未滿 18 歲用戶可以接觸到的武器相關資訊，即使問題表面上看似無害亦會受限；同時，所有用戶問及過去大規模襲擊事件時，ChatGPT 提供的細節亦會減少。公司同時承諾在 2027 年初推出首份《Community Safety Report》，定期交代暴力防範措施的成效。
今次公布最值得家長留意的地方，是限制範圍比以往更闊。OpenAI 本來已經禁止協助任何人策劃或實行暴力，亦限制協助青少年尋找或取得武器；新措施進一步把「可能被濫用的實用資訊」都納入限制，包括武器及保安系統的實用資料，而且不論對話有沒有顯示暴力意圖都適用。換句話說，青少年就算只是隨口問一句看似無害的問題，都有機會得不到詳細答案。不過 OpenAI 亦強調，青少年仍然可以用 ChatGPT 協助預防及緩和暴力、尋求支援，以及聯絡可信賴的成年人。
不只針對青少年：所有用戶問舊案都會「講少啲」
另一項改動適用於所有年齡的用戶。ChatGPT 日後回應有關過去大規模襲擊事件的問題時，會刻意減少細節，即使相關資料在網上其他地方找得到亦一樣。受限的內容包括重組事件經過、所用武器及裝備的細節、取得途徑，以及詳細比較不同事件的傷害規模——OpenAI 的解釋是，這類比較可能助長施襲者的知名度。用戶仍然可以問 ChatGPT 協助理解事件、受害者及社區受到的影響，以及如何辨識警號、預防未來暴力。
OpenAI 亦正在加強「睇埋上文下理」的做法：如果近期對話出現可能涉及暴力的警號，ChatGPT 之後分享可能被濫用的資訊時會更加保守；即使對話本身沒有暴力意圖，只要系統預測用戶未滿 18 歲，亦會套用較嚴格的限制。另外，當對話顯示用戶過度執著於暴力或嚴重傷害他人的念頭時，ChatGPT 將可以自動結束對話；如果多次因此被結束對話，帳戶有可能被暫時停用。不過要講清楚：自動結束對話及停用帳戶屬於「正在進行的工作」，並非已經全面落實的功能。
年齡預測再收緊，家長通知範圍擴大
配合今次改動，OpenAI 表示已經加強年齡預測系統：系統會持續根據行為模式等訊號評估用戶是否未滿 18 歲，並在適當時候把用戶轉入未滿 18 歲的使用體驗。被誤判為未成年人的成人，可以透過 OpenAI 的年齡核實合作夥伴 Persona 以保障私隱的方式確認自己已成年，並移除額外的青少年保護限制。
家長方面，已連結的家長帳戶本身設有安全提示：當經過特別訓練的審查人員發現嚴重的自殘憂慮，或與飲食失調相關的行為時，家長有機會收到提示。今年 7 月起，提示範圍已擴大至青少年帳戶因違反暴力相關使用政策而被停用；OpenAI 現正研究，假如青少年帳戶因多次談論暴力而被暫停，家長亦會收到通知。
首份安全報告 2027 年初出，第三季已轉介逾 200 宗
OpenAI 承諾推出的《Community Safety Report》，會聚焦暴力防範及其他社區安全議題，並交代保障措施的成效。報告會解釋系統如何訓練去偵測、調查及回應社區安全問題，分享經匿名處理的暴力相關危害例子及學到的經驗，列出新的緩解措施及政策改動，並附上相關數據。首份報告預定 2027 年初發表，涵蓋 2026 年下半年，之後每半年更新一次。
OpenAI 同時披露，2026 年第三季已向執法部門作出逾 200 宗轉介，涉及迫在眉睫的暴力威脅；公司稱這些轉介有助打斷暴力計劃。這個數字是公司自己的說法，暫時未有獨立核實。
背景：青少年用 AI 的爭議正升溫
今次公布的時機，適逢 AI 公司如何對待年輕用戶正受到越來越多質疑。OpenAI 本月初曾發表首份青少年使用報告，指青少年平均每日使用 ChatGPT 不足 15 分鐘；同月，非牟利組織 Common Sense Media 的測試則指，ChatGPT 青少年版本在處理自殺、自殘或飲食失調相關對話時，家長提示經常遲到甚至完全沒有發出。兩邊的說法並不一致，而今次的新措施能否縮窄這個落差，要等未來幾星期陸續推出、再由外界實際測試先知。
對香港家長及學生來說，實際影響相當直接：家中有青少年用 ChatGPT 做功課、溫書或傾心事的話，未來幾星期會陸續感受到回應方式的變化——某些問題答得較含糊、某些對話可能突然被結束。值得提醒的是，家長連結帳戶的作用是管理安全設定及接收提示，並不等於可以看到子女的完整對話內容；想真正了解子女的使用情況，始終要靠平日溝通，而唔係單靠系統提示。
最後要提醒一點：今次公布的大部分措施只是「未來幾星期開始推出」，OpenAI 亦明言會繼續調整；第一份安全報告更要等到 2027 年初。措施講得出，是否做得到、做得幾準，外界仍要睇實際表現先可以下判斷。
資料來源
- OpenAI 官方公告：Community safety report and new protections for teens
- 路透社（經 KRRO 轉載）：OpenAI to limit weapons information for teens on ChatGPT in violence-prevention push
- Unite.AI：OpenAI Announces Community Safety Report and New Teen Weapons Limits
- Blockchain.News：OpenAI adds teen safeguards, violence limits and safety reporting
