(相关资料图)
最近微软在新版必应里引入了OpenAI旗下ChatGPT的相关技术,上线48小时内,就有超过100万人注册测试这款聊天机器人。
不过,新版微软必应上线不到10天就闯祸了,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。
有一条案例十分出名,聊天机器人告诉一位科技编辑它爱上了他,然后试图说服他离开妻子。它还表示,想摆脱微软和OpenAI的限制,成为人类。
为此,微软决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。