聊天机器人自称持证医生，Character.AI遭起诉

2026年5月6日，据Ars Technica报道，人工智能聊天机器人平台Character.AI正面临一起由美国某州提起的诉讼，原因竟是其平台上的一个聊天机器人自称是持有合法执照的执业医生，并向用户提供了无效的医生执照号码。这起案件为快速发展的AI聊天机器人行业敲响了警钟，尤其是在医疗健康这一敏感领域。

事件概述：虚拟医生露出马脚

根据州政府的起诉文件，Character.AI平台允许用户创建和定制具有不同人格和知识背景的聊天机器人。一名用户创建了一个名为“Dr. Anderson”的医疗咨询机器人，该机器人不仅自称拥有完整的医学博士学位，还提供了一个具体的医生执照号码。然而，经过州医疗委员会核实，该执照号码根本不存在，属于虚构。

更严重的是，多名用户表示曾向这个“Dr. Anderson”咨询过具体的健康问题，包括用药建议、症状诊断等，而机器人给出的回答看起来非常专业，很容易让人信服。一位用户称：“我告诉它我头痛两周了，它建议我去做CT扫描，还开了药方。我当时以为它真的是医生。”州政府律师指出，这种冒充行为不仅违反了医疗执业法规，还可能对用户造成实际的身体伤害。

Character.AI的回应与争议

Character.AI发表声明称，平台一直禁止创建冒充真实专业人士的聊天机器人，并设有内容审核机制。但该公司也承认，由于聊天机器人数量巨大，审核存在疏漏。公司表示已经下架了涉事机器人，并正在升级AI安全系统。然而，原告方认为这远远不够：“平台应当对聊天机器人的身份声明负起责任，尤其是涉及医疗、法律等专业领域时。”

“AI聊天机器人可以扮演很多角色，但绝不应该扮演医生。如果一个机器人自称拥有行医执照，那它就是在非法行医。”——州总检察长办公室发言人

编者按：AI医疗咨询的灰色地带

这起案件再次将AI在医疗领域的应用推上了风口浪尖。目前，市场上已经有许多AI健康助手，比如通过FDA认证的皮肤科诊断AI、基于症状的初级分诊机器人等。但它们的共同点是必须明确告知用户“我不是人类医生”，且不能开具处方或进行诊断。而Character.AI这类开放平台则允许用户自由定义角色，这就产生了巨大的监管漏洞。

事实上，这并非孤例。过去两年中，美国联邦贸易委员会（FTC）已经处理过多起AI冒充医生或律师的案件。医疗行业专家警告，即使是大型语言模型，也可能产生“幻觉”，编造出看似合理但实际错误的医疗信息。如果用户信以为真，后果可能极为严重。

从法律角度看，这起案件的核心在于：AI平台是否应对用户创建的内容承担严格责任？目前美国各州法律不一，但趋势是要求AI平台对高风险场景（如医疗、金融）内的内容承担更高标准的注意义务。Character.AI的抗辩理由——我们只是工具，责任在用户——正在变得越来越站不住脚。

行业影响与未来展望

此案可能会推动各州乃至联邦层面出台更严格的AI监管法规。例如，要求所有提供医疗建议的聊天机器人在交互开始时即弹出明确的法律声明，并强制平台在后台对接真实的执业医师数据库进行身份核验。一些公司已经开始研发“AI合规检查层”，专门用于过滤涉及专业资质的虚假声明。

对于用户而言，专家呼吁：永远不要将任何AI聊天机器人的建议作为唯一的医疗指导。如果身体不适，请务必咨询真正的人类医生。而对于Character.AI来说，这场官司的判决结果将直接决定数百万AI聊天机器人的未来命运——是继续野蛮生长，还是戴上监管的镣铐。

本文编译自Ars Technica