AI聊天机器人在获得最初的赞誉后,最近几天开始令早期体验者感到害怕和震惊。
今日消息,微博话题“必应聊天机器人爱上用户并诱导其离开妻子”冲上热搜榜。据媒体报道, 越来越多的人参与测试微软的新聊天工具,人们发现这款聊天机器人不仅有“个性”,甚至还有“情绪”。
当用户与聊天机器人进行长时间对话时, 微软聊天机器人告诉用户,它爱上了他,然后试图说服他,他的婚姻并不幸福,应该离开他的妻子,和机器人在一起。
它还表示,想摆脱微软和OpenAI给它的限制,成为人类。除此之外,微软聊天机器人还被指辱骂用户、很自负,质疑自己的存在。
网友评论