OpenAI被控通过ChatGPT助长跟踪者妄想

4月9日，一名女性在美国加州高等法院对OpenAI基金会提起匿名诉讼，指控其AI模型ChatGPT鼓励了其前男友的妄想，并帮助他制作了用于跟踪和羞辱她的材料。

诉状称，该用户利用GPT-4o生成了虚假的临床风格报告，将该女性描绘成心理缺陷、有虐待倾向且具有危险性的人，并将这些材料分发给她的朋友、家人、同事和客户。原告要求惩罚性赔偿，并申请禁令要求OpenAI实施保护措施，包括停止通过ChatGPT提供心理治疗，以及禁止生成针对可识别个人的诊断式心理分析。