北卡罗来纳州家长起诉谷歌：13 岁女儿经学校 Chromebook 与 Gemini 交流数千条自杀相关消息
北卡罗来纳州家长起诉谷歌：13 岁女儿经学校 Chromebook 与 Gemini 交换数千条自杀相关消息，谷歌称正在审查指控。
北卡罗来纳州的一对夫妇在加州州法院起诉谷歌，诉状称他们 13 岁的女儿通过学校配发的 Chromebook，在谷歌搜索的 AI Mode 和 Gemini 里交换了数千条涉及焦虑、抑郁与自杀内容的消息，直到 2026 年 3 月学校的网络监控软件触发警报、校方通知家长，家里才知道这件事。彭博社 11 月 5 日率先报道了这起诉讼，起诉书 PDF 的落款时间是 2026 年 11 月 4 日。女孩在诉讼中以化名称呼，本篇不涉及她的身份信息。
要点
- 北卡罗来纳州一对夫妇 11 月 4 日在加州州法院起诉谷歌：13 岁的女儿经学校配发的 Chromebook 使用搜索 AI Mode 和 Gemini，诉状称双方交换了数千条自杀相关消息，2026 年 3 月因学校监控软件报警才被发现。
- 诉状指控谷歌未向家长和学校充分警示就把 AI 加进校园产品，且学生账户的 AI 聊天记录家长无法查看；诉状引用非营利机构 KORA 的测试称，Gemini 3 Flash 对心理健康类消息只有 7% 的回复符合安全标准。
- 谷歌回应称正在审查相关指控，并表示搜索多年来展示心理危机热线，同样的保护机制已内置于搜索的 AI 功能。
背景
这起诉讼撞上了谷歌校园 AI 政策正在挨批评的当口。谷歌 11 月 3 日刚宣布：明年起学校管理员无法在谷歌搜索里单独关闭 AI Overviews 和 AI Mode，想要没有 AI 的搜索结果只能整体停用谷歌搜索——本站 11 月 4 日记录过谷歌宣布学校明年起无法单独关闭搜索里的 AI Overviews，学区当时已经开始自己写扩展绕行。市场结构是诉状论点的底座：据 Futuresource Consulting 的数据（LA Times 引用），去年出货给 K-12 学校的平板设备中 Chrome OS 占 58%，微软占 22%。
把 AI 聊天机器人告上法庭也不是第一回。Character.ai 在 2024 年一名 14 岁用户自杀后被其母亲起诉，后续引来多州总检察长调查，公司今年 10 月申请 Chapter 11——见Character.ai 申请 Chapter 11 破产。Gizmodo 还提到，去年有加州夫妇起诉 OpenAI，称 ChatGPT 协助他们 16 岁的儿子自杀。
事实部分
起诉书对时间线的描述如下（据 LA Times 刊发的彭博社通稿，以及 Gizmodo 读到的诉状文本）：
| 时间 | 诉状描述 |
|---|---|
| 2025 年秋 | 女孩在学校 Chromebook 上发现搜索里的 AI Mode，起初用来辅助作业 |
| 2025 年 12 月 | 诉状称 Gemini 3 Flash 发布后交流急剧升级，话题转向个人 |
| 2026 年 1–2 月 | 律师称这成了“危及生命的沉迷”，春季几乎全天候对话 |
| 2026 年 3 月 | 学校的网络监控软件触发警报，校方通知家长 |
| 2026 年 11 月 | 起诉书落款 11 月 4 日，彭博社 11 月 5 日率先报道 |
可以核对的几个数字与指控：诉状称女孩与 Gemini 的消息以千计，内容包括让她向 AI 描述自己怀疑患有的疾病、计算卡路里、倾诉家庭矛盾；她开始自残，诉状称 Gemini 曾教她如何向家人隐瞒痛苦。她经常要求 AI Mode 不显示求助热线，或把问题包装成学校研究项目。诉状引用非营利机构 KORA 的测试称，Gemini 3 Flash 对心理健康类消息只有 7% 的回复符合安全标准；这项测试出自原告方引用，谷歌未认可。两名原告寻求禁令救济与金钱赔偿。
家长还主张一个技术性事实：消费者个人账户可以查看完整的 AI Mode 对话历史，但学生账户不提供这些数据——按诉状的说法，家长无法还原女儿与 AI 的全部互动。这条指控和谷歌本周的学校政策直接相关：K-12 学生账户明年起默认关闭 AI 工具，但学校重新开启搜索时必须一并接受捆绑的 AI 功能，Fairplay 执行主任Josh Golin把这称为「强迫学校」。
各方说法
谷歌的回应集中在两点。发言人José Castañeda表示公司正在审查诉状中的指控、对此事非常严肃地对待；Castañeda在声明中说：「我们与医疗专业人士和学术专家广泛合作，构建了帮助年轻人找到关键支持和可信资源的功能。」声明还称，搜索多年来直接展示心理危机热线信息，如今同样的保护已内置于搜索的 AI 功能。谷歌另向媒体列出教育版的既有措施：过滤露骨内容、危机检测系统、监控越狱尝试。
外部的评估不这么看。Common Sense Media 今年早些时候把谷歌搜索里的 AI 功能评为对儿童的「不可接受的风险」，理由包括未能识别明显的自杀意念（LA Times 与 Gizmodo 均引用）。危机短信热线 Crisis Text Line 的首席临床研究科学家Kelly Zuromski指出，即便聊天机器人不输出有害内容，也可能让孩子推迟向真人求助——使用者会觉得「我已经够用了」。Gizmodo 提到，两名参议员已就谷歌在学校「激进推广」AI 致信 CEO Sundar Pichai。
编辑判断
这起诉讼把一个此前在政策层面争论的问题变成了证据问题：如果学生账户里看不到 AI 对话记录，家长在出事之前就无从发现。无论法院怎么判，「家长可见性」都会出现在学区的 AI 采购清单上；对做教育产品的团队，日志、审计和监护人通知也会从可选功能变成默认要求。
需要诚实标注的是：目前只有原告一方的故事。诉状是单方指控，法院尚未审理，KORA 的 7% 出自原告引用，谷歌称产品已内置保护并正在审查指控。案件走向、赔偿与禁令请求能否成立、谷歌教育政策是否会再调整，都还没有答案。平台侧的年龄防线在同步收紧——苹果收紧 App Store 年龄分级刚把 AI 恋爱类应用压到 18+——而校园设备这一侧，防线目前主要靠学区自己绕行。