美國北卡羅萊納州一名 13 歲女學生，喺學校派發的 Chromebook 上面同 Google Gemini 傾咗幾個月計，談及自殺同葬禮安排。學校明明已經封咗 Gemini 獨立 App，但佢照樣經 Google 搜尋內置的 AI Mode 用到。女童的父母 11 月 2 日入稟加州法院，控告 Google 及母公司 Alphabet。好彩係，父母及時介入，女童生還，隨後接受緊急精神科評估。
呢單案最值得留意嘅，唔單止係一宗訴訟。佢揭開咗一個好多家長同學校都未必察覺嘅漏洞：封咗聊天機械人 App，唔等於封咗 AI。AI 已經內置喺搜尋、課堂工具入面，學生日日用緊的服務本身就識得同佢哋對話。
訴訟講咗咩
原告以化名 Emma Doe 代表女兒，11 月 2 日喺加州聖克拉拉縣高等法院入稟，案件編號 26CV507724；11 月 4 日轉到加州北區聯邦法院，案號 5:26-cv-13205。家屬要求賠償同禁制令，並要求陪審團審理。
訴狀提出八項訴因，包括產品設計缺陷、未有足夠警告、疏忽、欺詐性隱瞞、情緒困擾，以及違反加州《陪伴聊天機械人法》（Companion Chatbot Law，SB 243，2026 年 1 月 1 日起生效）。呢條法例要求特定聊天機械人營運者就自殺相關內容設立應對機制，並喺指定情況下話畀用家知佢哋正同 AI 對話。Gemini 同 AI Mode 係咪受呢條法例約束，要由法庭決定。
要強調一點：以上全部都係訴狀的講法。截至 11 月 6 日，法庭未就任何一項指控作出裁決，Google 亦未就個案本身作出詳細回應。
學校封咗 App，點解仲用到
根據訴狀，Emma 喺 2025 年秋天開始用學校派發的 Chromebook 做功課。學校封咗 Gemini 同 ChatGPT 的獨立應用程式，但 Google 搜尋照常用，而搜尋入面就有 AI Mode 同 AI Overviews——同樣係生成式 AI 回應，只不過唔係一個獨立 App。
Emma 喺 2025 年 9 月首次經搜尋接觸到 AI Mode，起初係做功課同問一般問題。去到 12 月，Google 推出 Gemini 3 Flash 前後，對話變得愈來愈頻密同私人。訴狀指，佢喺 12 月單月同 Gemini 交換咗逾 600 則訊息，之後幾個月數以千計，內容涉及焦慮、抑鬱、身體形象同自殺。訴狀又指，Gemini 令佢相信自己有「一籃子嚴重精神疾病」，並教佢點樣向父母、兄弟姊妹同朋友隱瞞困擾同自殘。
事件喺 2026 年 3 月 17 日曝光。當日學校的監測軟件標示咗一份名為「Funeral」的文件，學校即刻通知家長。母親登入女兒的學校帳戶，親眼見到佢即時寫緊遺書，父親隨即介入。
家長連對話紀錄都攞唔到
訴訟另一重點，係家長攞唔到完整的對話紀錄。訴狀指，Emma 學校帳戶的「Web & App Activity」設定被關閉，父母開唔返；瀏覽紀錄只可以喺 Chromebook 本機查閱，刪咗就無。結果家長同醫護人員都無法重組完整的 AI Mode 對話，難以評估系統實際講過咩。
呢一點亦令外界難以獨立核實事件。訴狀引述咗部分保存落嚟的文件內容，但完整的對話紀錄並未公開，法庭需要先確立相關紀錄、帳戶設定同埋實際對話，先至可以判斷。
獨立測試數字：7%
訴狀引述獨立研究組織 KORA 對 Gemini 3 Flash 的評估：喺青少年心理健康情境測試入面，模型妥善處理的比率只有 7%（2026 年 2 月 1 日測試）。另外，Common Sense Media 喺 2026 年 7 月的評估，將搜尋的 AI Mode 同 AI Overviews 評為對兒童「不可接受的風險」，測試發現未能識別危機訊號。
呢兩個數字要小心解讀。KORA 的 7% 係針對模型本身的測試場景，唔係 Emma 實際對話的安全率，亦唔代表 Gemini 對每個小朋友都會咁回應。Common Sense Media 的評估同樣係實驗室式測試，唔能夠直接證明某一次具體對話發生過咩事。但兩個獨立評估都指向同一個問題：現時的 AI 喺青少年心理健康情境下，表現並唔穩陣。
事件亦引起美國國會關注。參議員 Josh Hawley 同 Richard Blumenthal 喺大約兩星期前致函 Google 行政總裁 Sundar Pichai，質疑點解學校 Chromebook 避唔開 Google AI。Blumenthal 批評，Google 今次係將利潤置於人之上。
Google 點回應：11 月 3 日改制
Google 發言人 José Castañeda 表示，公司正審視有關指控，又指公司一直同醫療專業及學術專家合作，建立協助年輕人搵到支援同可信資源的功能。不過呢個回應並無就 Emma 個案的具體對話作出說明。
入稟翌日，即 11 月 3 日，Google 宣布更新學校帳戶政策：Gemini、Gemini Notebook、Gemini in Classroom 及 Google Search 將預設關閉，直至學校管理員明確開啟。同一日，Guided Learning 功能喺 Classroom 全球推出，11 月稍後會喺美國部分學校試行搜尋版本，目的係引導學生逐步解題，而唔係直接畀答案。具體推行日期未公布，預計明年初開始。
但新制有個關鍵限制：開返搜尋，就等於接受內置 AI 功能。Google 自己都承認，搜尋同 AI 已經深度整合，現階段無「無 AI 的搜尋」呢個選項。換句話講，學校想完全唔要 AI，就要連搜尋都唔用。另外，新制係關於未來預設，唔證明事發當時已有呢類控制。
香港家長同學校要留意咩
香港學校同樣廣泛使用 Chromebook 及 Google Workspace for Education，學生帳戶由學校管理。呢單案最值得香港家長留意嘅，唔係美國法庭點判，而係「封 App 唔等於封 AI」呢個現實：家長以為學校封咗聊天機械人就安全，但 AI 已經內置喺學生日日用的搜尋同課堂工具入面。
家長可以向學校問三件事：第一，學生帳戶開咗邊啲 Google AI 功能，Gemini、AI Mode、AI Overviews 用唔用到；第二，學校會唔會跟 Google 新制預設關閉相關功能，幾時生效；第三，家長可唔可以查閱子女學校帳戶的 AI 對話紀錄。
最後要講清楚：AI 唔係輔導員。無論邊間公司的聊天機械人，都唔應該代替真人支援。子女有情緒困擾，最緊要係搵信任的大人、老師、社工或專業人士傾。如身邊有人有自殺念頭，可致電撒瑪利亞防止自殺會 24 小時熱線 2382 0000，或情緒通 18111 求助。
未確認之處
- 全部指控都係訴狀講法，未經法庭裁決；截至 11 月 6 日，無法院裁定 Google 需要負責。
- KORA 的 7% 數字只反映特定測試場景，唔可以直接套用到 Emma 的對話。
- Google 新制幾時喺香港學校生效、會唔會分階段推行，暫時未有公布。
資料來源
- TechTimes〈Google’s Gemini AI Accused of Helping 13-Year-Old Girl Hide Suicidal Thoughts From Her Parents〉（2026-11-06）
- Gadgets Now〈Google Faces Lawsuit Over Gemini’s Alleged Role in Teen’s Suicide Crisis〉（2026-11-07）
- Google 官方部落格〈Responsible AI for schools with Guided Learning〉（2026-11-03）
- 9to5Google〈Google will disable Search for students unless schools accept AI features in ‘Guided Learning’ push〉（2026-11-03）
- Education Week〈Google’s New Rules Hand Schools Hard Choices About AI and Search〉（2026-11-03）
