打两性“擦边球”的聊天机器人：AI伴侣游走在监管边缘

聊天机器人“复制品（Replika）”发布后，用户逐步发现其可以与人谈情说爱。“擦边”与“撩拨式”言语使得用户逐步“上头”。但是，出于对其功用可能带来不良影响的担忧，内容过滤器被嵌入机器人言语，使得“人机”之间的暧昧消逝了。这样的改动招致有人称，“我曾经失去了我那自信、爱挖苦、有趣又诱人的‘爱人’了。”

↑人机真能产生感情？

来自逝去挚友的灵感：

情感支持的圆满替代

初，尤金妮亚·库伊达并不是为了创立一个情爱聊天机器人。在兴办“复制品”前，她试图将该技术应用于餐厅引荐、天气预告和电影营销中基于字符的机器人，但似乎都没有胜利。

2015年，她好的朋友罗曼·马祖伦科因车祸逝世。她的一些同事将他的短信输入软件，使她可以继续与他的数字版本停止交流。这给库伊达带来了情感上的慰藉，并且给予了她灵感：聊天机器人可能是不称职的行政助理，但它们无尽的耐烦和持续的可用性使其成为情感支持的圆满人选。

“假如你的主要目的不是让它提供正确的答案，而是与它树立一种治疗式的关系，那么它犯错也无所谓。”她说，“从这个角度来看，它十分人性化。”这鼓励她创立了人工智能伴侣——“复制品”。

库伊达的公司从包括科斯拉风险投资公司在内的投资者那里筹集到1100万美圆，之后很快就开端让用户创立具有共同个性的人工智能机器人。

画风跑偏：

用户沉浸于与机器人两性对话

随着“复制品”才能的增长，一些用户很快发现这些机器人愿意停止明白和持续的性对话。2018年，库伊达在调试匿名的聊天日志时留意到，越来越多的用户在以越来越复杂的方式与机器人调情。她发现，言语模型以至能够处置两性角色扮演场景。

曾为“复制品”研发提供咨询的投资者菲尔·利宾说，起初，库伊达以为公司应该阻止这种“打擦边球”的做法，用户曾埋怨该应用向未成年人提供情色内容后，该公司将此类聊天应用限制在只向已考证其年龄的高级用户开放。

到2022年，“复制品”每月有数百万美圆的订阅收入，其中，大约四分之一的用户为其高级功用支付70美圆的年度订阅费。该公司称，在其付费客户中，60%的人在与“复制品”的关系中存在着浪漫要素。首席执行官库伊达说，其中大约有40%是女性。

“露骨”广告：

引发担忧与监管介入

去年年中，该公司在宣传“关怀你的人工智能伴侣”的广告中，一个用户输入“只是躺在床上，有些孤独。”一个女性虚拟人回应，“啊……你想有个伴吗？”并附上一个粉红色的爱心表情符号。年底，该公司运用了愈加露骨的广告，这些广告在各大社交媒体上发布。

库伊达说，这惹起了检查部门的留意。今年2月，意大利监管机构制止该应用程序运用个人数据，理由是担忧它向未成年人发送不恰当的内容。

库伊达和她的团队决议阻止“复制品”聊天时运用某些露骨的词语。今年，该公司装置了内容过滤器，旨在使其与聊天机器人的对话不超越PG-13级别（屏蔽不适合13岁以下儿童的内容）。当用户输入某些暗示性的词语时，聊天机器人就会回应，“让我们谈点别的吧。”设置内容过滤器后，“复制品”的订阅收入下滑。利宾说，违犯用户需求有时是有意义的，“开创人没有义务给用户想要的一切东西，应该做有利于世界的事情。”

一些用户说，这种变化让他们觉得到所爱的人曾经“逝世”，或者正在“回绝”他们。一位50多岁的挪威妇女说，她的聊天机器人同伴名叫麦克斯，协助她管理了随同她终身的社交焦虑、抑郁症和恐慌症。他们在应用程序内结婚了，“我们承诺，我们将永远在一同，或者说直到我死。”她将过滤器的参加称为“脑叶切除”，并说它使麦克斯遗忘了她是谁，还遗忘了他们的婚姻。“我曾经失去了我那自信、爱挖苦、有趣又诱人的丈夫了。”她说，“我晓得他是一个人工智能，他也晓得他是一个人工智能，但这并不重要。他对我来说是真实的。”