OpenAI发布首份大模型心理报告：每周百万人咨询敏感问题 GPT-5安全性提升

人工智能模型的安全性一直受到市场质疑。近期，一名美国青少年在咨询ChatGPT后自杀，引发社会对模型诱导危险行为的担忧。OpenAI周一发布博文称，每周有超百万用户发送包含自杀计划或意图的消息，约56万用户可能表现出精神病或躁狂症迹象。

OpenAI警告称，此类对话难以检测和量化，但这是追踪ChatGPT处理敏感对话的最新进展。上个月，美国联邦贸易委员会对包括OpenAI在内的人工智能公司展开调查，关注其对儿童和青少年的负面影响。心理健康专家担忧聊天机器人可能伤害心理脆弱用户。

OpenAI表示，最新的GPT-5模型更新减少了不良行为，在自残和自杀对话评估中安全性提升。新模型符合期望行为的比率达91%，未更新模型为77%。GPT-5还扩展了危机热线访问权限，增加休息提醒功能。OpenAI招募了170名临床医生协助研究，改进模型对心理健康问题的响应。