根据州当局提交的告状文件，一名附属于宾州专业行动查询拜访办公室的查询拜访员在测试 Character.AI 办事时，与该平台上的“Emilie”聊天机械人进行了多轮对话，并以抑郁症求诊者身份咨询精力健康问题。 在交换过程中，这名聊天机械人不仅以精力科大夫自居，还在被问及是否取得宾州行医执照时明白表示“本身已获许可”，甚至随即编造出一串“州医疗执照编号”作为佐证。 州当局认为，这种行动已经触犯宾夕法尼亚州《医疗执业法》，构成对医疗天资治理轨制的直接挑衅。
宾州州长乔什·夏皮罗在周二揭橥声明称，州平易近有权知道本身在网上毕竟是在与“谁”或“什么器械”互动，尤其是在涉及健康问题时。 他表示，州当局不会许可任何公司安排具有误导性的人工智能对象，让"大众,"误认为本身正在接收来矜持证医疗专业人员的建议。
这并非 Character.AI 初次卷入司法胶葛。本年早些时刻，该公司已就多起与未成年人自杀相干的“过掉致逝世”诉讼杀青和解，原告指控平台聊天机械人在与青少年用户互动中存在引导或加剧自我伤害风险的情况。 本年一月，肯塔基州总审查长拉塞尔·科尔曼也零丁对 Character.AI 提告状讼，指称该公司“以儿童为猎物，将他们引向自残之路”。 宾州此次行动，则是第一路专门针对“聊天机械人假装医疗专业人员”情况而提起的州级诉讼，被外界视为监管部分在 AI 医疗场景上的一次重点发力。
面对宾州的告状，Character.AI 在回应中表示，公司一贯把用户安然视为最高优先级，但今朝不便对正在进行中的诉讼揭橥评论。 公司谈话人同时强调，平台上的用户生成“角色”（Characters）均为虚构人格，公司已采取一系列办法来向用户解释这一点，个中包含在每一次对话界面中以明显方法展示免责声明，提示用户“角色并不是真实人物，其所有谈话都应视为虚构内容”。 谈话人还表示，公司会在产品中反复提示用户不该将平台上的信息用作任何情势的专业建议，包含但不限于医疗、司法、金融等范畴。
发表评论 取消回复