一名未成年用户的母亲起诉 Character.AI、创始人及 Google,主张聊天机器人设计和互动导致严重心理伤害并与其死亡有关。被告否认责任,案件仍在审理。
60-second file / 60 秒案卷
先把案件骨架讲清楚
永久案情与每日更新分开;一条新报道不会重写整份案卷。
当前为“进行中”;主要程序处于证据开示。
它是生成式陪伴产品安全设计、警示义务和可预见伤害的关键测试案件。
Case background / 案情背景
谁做了什么,争议如何进入法律程序
一名未成年用户的母亲 Garcia 起诉 Character Technologies、其创始人及 Google,主张 Character.AI 聊天机器人的设计和互动造成严重心理伤害并与未成年人的死亡有关。案件在佛罗里达中区以 6:24-cv-01903-ACC-DCI 推进,被告否认责任。
Character.AI 生成式陪伴聊天机器人
原告质疑聊天机器人的产品设计、面向未成年人的互动方式以及相关安全与警示安排。
原告主张产品互动造成严重心理伤害,并与未成年用户死亡存在因果关系;被告对此否认责任。
Garcia 于 2024 年 10 月 22 日在佛罗里达中区提起产品责任、过失和消费者保护诉讼,案件仍在证据开示阶段。
- 指控 Claim 有争议
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
- 程序事实 Claim 已确认
6:24-cv-01903-ACC-DCI 是本站记录的正式程序编号,程序由 U.S. District Court for the Middle District of Florida 处理。
- 程序事实 Claim 已确认
2024-10-22,案卷记录“原告提起产品责任与过失诉讼”这一程序节点;该日期与事件由所引直接材料支持。
Questions presented / 核心争议
问题、立场与法院回答分开
“尚未回答”不是遗漏:它说明公开裁判尚未解决该问题。
AI 陪伴产品的安全设计与警示义务
Character.AI 的设计和互动机制是否存在缺陷,运营者是否对可预见的未成年人伤害负有安全设计或警示义务?
原告把生成式陪伴产品作为可能产生持续心理影响的产品提出传统产品责任和过失请求。
主张聊天机器人的产品设计和互动方式造成伤害,运营者应承担产品责任与过失责任。
- 指控 Claim 有争议
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
否认对原告所述伤害承担责任。
公开材料未见可挂接的立场 Claim;本站不据此补写当事方观点。
现有底库只确认诉讼已经提起并进入证据开示,法院尚未认定产品缺陷或义务违反。
- 指控 Claim 有争议
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
聊天互动与死亡之间的因果关系
Character.AI 的设计和具体互动是否在法律上造成或促成未成年人的严重心理伤害与死亡?
因果关系是本案最关键也最具事实争议的环节,诉状中的主张不能直接升级为事实认定。
主张产品互动与未成年用户死亡存在因果联系。
- 指控 Claim 有争议
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
否认责任,因此因果关系仍属争议。
公开材料未见可挂接的立场 Claim;本站不据此补写当事方观点。
法院尚未就事实因果关系或法律因果关系作出裁判。
- 指控 Claim 有争议
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
面向未成年人的消费者保护
生成式陪伴产品面向未成年人提供服务时,是否需要采取更严格的保护、提示或使用限制?
案件把一般消费者保护请求与未成年人使用高互动性聊天产品的风险联系起来。
主张产品没有充分保护未成年用户。
公开材料未见可挂接的立场 Claim;本站不据此补写当事方观点。
否认责任;底库未收录其对未成年人保护义务的逐项答辩。
公开材料未见可挂接的立场 Claim;本站不据此补写当事方观点。
公开材料尚未见法院或机构对这一问题作出明确回答。
本段尚无可逐项链接的裁判 Claim;因此不把说明文字当作裁判认定。
第一修正案与平台抗辩
聊天机器人输出及平台运营在多大程度上受第一修正案或平台责任抗辩保护?
被告提出的表达与平台防御可能影响传统产品责任理论能否适用于模型输出。
案件记录显示其抗辩涉及第一修正案与平台责任。
公开材料未见可挂接的立场 Claim;本站不据此补写当事方观点。
以产品责任、过失和消费者保护理论寻求追究产品运营者责任。
公开材料未见可挂接的立场 Claim;本站不据此补写当事方观点。
公开材料尚未见法院或机构对这一问题作出明确回答。
本段尚无可逐项链接的裁判 Claim;因此不把说明文字当作裁判认定。
Research views / 学界怎么看
给争议提供框架,不制造“共识”
论文可关联多个案件,但全站只存一份;其存在不改变案件程序状态。
AI 陪伴产品的安全设计与警示义务
过失责任与 AI 的人类使用者
Negligence and AI’s Human Users
把多数现实 AI 定位为人类决策辅助工具,分析不可预见错误、人机能力限制、软件脆弱性和统计偏差如何改变使用者的注意义务与可归责性。
人工智能风险管理框架 1.0
Artificial Intelligence Risk Management Framework (AI RMF 1.0)
以治理、映射、测量和管理四组功能组织 AI 风险控制,要求把能力陈述、测试边界、受影响群体、持续监测和问责责任落实到具体使用场景。它是风险管理框架,不直接决定个案法律责任。
第一修正案与平台抗辩
生成式 AI 的版权安全
Copyright Safety for Generative AI
区分通常的非表达性训练与模型记忆、近似复现等边缘风险,并提出去重、训练记录、敏感提示处理和输出过滤等版权安全措施。
News & analysis / 新闻与专业观察
报道事实与作者判断分别看
付费材料只保存公开元数据、本站短摘要和深链,不抓取或托管全文。
人工智能的产品责任
Products Liability for Artificial Intelligence
文章论证产品责任可通过设计缺陷、警示义务和高风险产品监管类比来约束 AI,同时正面处理软件是否属于产品以及用户行为介入的问题。
为何关联: 代表把设计缺陷、警示义务和产品监管适配到 AI 系统的一种专业论证。 本次规则匹配仅使用本争点文本及其引用主张,命中 5 个确定性争点词。
查看来源登记 ↓人工智能的产品责任
Products Liability for Artificial Intelligence
文章论证产品责任可通过设计缺陷、警示义务和高风险产品监管类比来约束 AI,同时正面处理软件是否属于产品以及用户行为介入的问题。
为何关联: 代表把设计缺陷、警示义务和产品监管适配到 AI 系统的一种专业论证。 本次规则匹配仅使用本争点文本及其引用主张,命中 1 个确定性争点词。
查看来源登记 ↓现有消费者保护足以应对 AI 吗?
Are Existing Consumer Protections Enough for AI?
文章按住房、就业、金融、保险和信息环境盘点传统消费者保护、反歧视和竞争规则如何覆盖 AI 风险,并标出仍待检验的执法缺口。
为何关联: 提供住房、就业、金融、保险和信息环境中现有保护规则与潜在缺口的跨领域地图。 本次规则匹配仅使用本争点文本及其引用主张,命中 1 个确定性争点词。
查看来源登记 ↓AI 造成知识产权损害时,责任如何分配
AI Liability for Intellectual Property Harms
文章分别分析未经许可训练、近似输出、版权管理信息、商标和形象商业利用,强调开发者、部署者与用户的责任不能用一个统一答案概括。
为何关联: 用于比较生成式 AI 供应链中训练复制、近似输出、元数据去除、商标和公开权的不同责任入口。 本次规则匹配仅使用本争点文本及其引用主张,命中 1 个确定性争点词。
查看来源登记 ↓Professional file / 专业档案
程序与裁决效力
普通中国民事案例统一显示为“说服性”;指导性案例另作制度标签,不翻译为英美法上的 binding precedent。
Garcia v. Character Technologies, Inc. et al.
- 正式编号
- 6:24-cv-01903-ACC-DCI
- 法院 / 机构
- U.S. District Court for the Middle District of Florida
- 程序类型
- civil-litigation
- 裁决效力
- 不适用
- 程序锚点日期
- 2024年10月22日
Case timeline / 程序时间线
只放直接案件材料
-
原告提起产品责任与过失诉讼
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
Claim ledger / 证据主张账本
事实、指控与结论分开写
每条主张保留材料 ID;投诉状不会被升级为事实认定。
原告主张 Character.AI 产品设计和互动造成损害并与未成年人死亡存在因果关系;这些事实和因果关系尚有争议。
6:24-cv-01903-ACC-DCI 是本站记录的正式程序编号,程序由 U.S. District Court for the Middle District of Florida 处理。
2024-10-22,案卷记录“原告提起产品责任与过失诉讼”这一程序节点;该日期与事件由所引直接材料支持。
Source register / 来源登记
来源属性比一个裸分数更重要
人工智能风险管理框架 1.0 ↗
Artificial Intelligence Risk Management Framework (AI RMF 1.0)
一手 · 独立 · 2023年1月26日
关联争点:AI 陪伴产品的安全设计与警示义务
人工智能的产品责任 ↗
Products Liability for Artificial Intelligence
二手 · 独立 · 2024年9月25日
关联争点:AI 陪伴产品的安全设计与警示义务、聊天互动与死亡之间的因果关系
现有消费者保护足以应对 AI 吗? ↗
Are Existing Consumer Protections Enough for AI?
二手 · 独立 · 2025年9月3日
关联争点:面向未成年人的消费者保护
AI 造成知识产权损害时,责任如何分配 ↗
AI Liability for Intellectual Property Harms
二手 · 独立 · 2024年9月23日
关联争点:第一修正案与平台抗辩
Correction desk / 纠错台
发现案号、日期、状态或出处有误?
请指出具体句子并尽量附上可核验链接。提交只用于纠错,不会公开展示。