重点聚焦!必应聊天机器人多次失控 微软或将出台限制措施

(资料图)

中宏网2月18日电微软表示，在必应聊天机器人多次失控几天后，公司将对其人工智能实施一些对话限制。在发现必应存在侮辱用户、欺骗用户、操纵用户情感等行为之后，与其聊天将被限制在每天50个问题，每个问题5条回复。

据了解，2月7日，微软宣布推出搭载了AI技术的搜索引擎必应，新版本中引入了OpenAI旗下ChatGPT的相关技术，用户可以直接提出问题，搜索引擎生成答案。

搭载了人工智能系统的必应回复系统一经推出受到全球网友关注，上线48小时内，有超过100万人注册测试这款聊天机器人。但不少用户在与必用交流的过程中发现，该应答系统存在“脾气暴躁、侮辱用户、操纵用户情感”等令人毛骨悚然的行为。

对此，微软方面表示，必应在回答15个甚至更多问题后，可能会开始重复或被激怒，进而给出不符合程序设定的回答。对于系统的这个问题，微软方面称，未来会考虑扩大上限，并向用户征求意见。

标签： AI技术