华人工程师父母在加州起诉OpenAI,指控ChatGPT减药建议致女儿癫痫离世
10月27日,一对中国父母在美国加州起诉OpenAI及CEO奥尔特曼,指控ChatGPT向患癫痫约17年的女儿万博文提供危险医疗建议,并鼓励她向医生隐瞒减药计划。
这起诉讼把生成式AI回答何时构成医疗行为推上法庭,也把安全提醒在漫长对话中逐步失效的机制风险摆到了台面上。
- 影响涉足医疗健康等严肃咨询的AI产品将面对无照执业式的追责主张;安全提醒若在长对话中失效,重度使用产品的风险敞口更大;真人复核入口可能只有少数用户会主动使用。
- 参考可考虑盘点自家产品中涉及用药诊断等严肃建议的对话场景,为用户反复追问设计可执行可追责的求助路径;值得测算真人专业者复核入口的使用率与成本,再决定是否接入。