OpenAI内容审核API引入多模态审核模型

据悉，美国开放人工智能研究中心（OpenAI）宣布将在审核API中引入新的审核模型——omni-moderation-latest。该模型基于GPT-4o，支持文本和图片输入，并且比以前的模型更准确，尤其是在非英语语言中。与之前版本相同，该模型使用OpenAI基于GPT的分类器来评估是否应将内容标记为仇恨、暴力和自我伤害等类别，并增加了检测其他伤害类别的功能。