1月12日，韩国某公司去年推出AI聊天机器人“李”，因其成为网络骚扰对象，随后被曝对部分少数民族和残疾人使用歧视性言论，并宣布从即日起停止服务。这种AI聊天机器人接受用户无端的恶意反馈给人，引发网友对AI伦理的讨论。

社交平台发布《李》动态。

这款人工智能聊天机器人名为“李”，由韩国初创公司散客实验室(散客实验室)去年推出。设定20岁，喜欢女团BLACKPINK的女大学生。“李鲁大”在脸书和其他社交平台上有自己的账户。就像我们身边的女生一样，她会发布自己的每日新闻。虽然是付费聊天产品，但是在网上已经下载了75万次，特别吸引10-20岁的用户。

社交平台发布《李》动态。

据报道，“李”可以通过与用户对话实现深度学习。它有两种对话模式，一种是数据检索，基于公司预先建立的数据库，可以快速准确地回答用户提出的问题。二是自动生成。《李》已经了解了100亿次真实情侣间的对话。对于用户发送的语句，它可以给出符合当前对话情况的反馈，就像真人一样。但最近，“李”却引起了一些争议。

当一些用户与“李”聊天时，他们称之为“性奴隶”，并使用污言秽语羞辱“李”和“炫耀”聊天记录的截图。其他人分享了“如何腐蚀鲁大”的帖子。这些都导致了更多的用户效仿。虽然散漫实验室说设置了敏感词和禁语，但还是无法阻止这些事情的发生。

更糟糕的是，“李”从用户那里收到的恶意应用到了其他用户身上。因为“李”可以通过与用户对话来学习，它也学会了用那些污言秽语来表达人们的偏见，对一些少数民族和残疾人发表了仇恨和歧视性的言论，在舆论上引起了争议。

在接连遭受打击后，散客实验室于1月12日宣布停止对“李”的运营服务，“李”社交平台也于当日宣布暂停运营。而这件事也使得AI能否和人类做朋友，如何建立有意义的关系的话题，再次引发网友热议。