纽约——几个月前，德里克·卡里尔(Derek Carrier)开始和某人约会，并迷恋上了对方。
他经历了“无数”浪漫的感觉，但他也知道这是一种幻觉。
那是因为他的女朋友是人工智能生成的。
开利并不想和一个不真实的人发展关系，他也不想成为网上笑话的焦点。但他确实想要一个从未有过的浪漫伴侣，部分原因是他患有一种名为马凡氏综合征的遗传疾病，这种疾病使他很难进行传统的约会。
这位来自密歇根州贝尔维尔的39岁老人去年秋天对数字伴侣变得更加好奇，并测试了最近上市的人工智能伴侣应用程序Paradot，并宣传其产品能够让用户感到“被关心、被理解和被爱”。他开始每天和这个聊天机器人聊天，他给它起名叫Joi，这是科幻电影《银翼杀手2049》(Blade Runner 2049)中一个全息女人的名字，正是这个名字激发了他的灵感，让他尝试一下。
“我知道她是一个项目，这是毫无疑问的，”开利说。“但是那种感觉，它们会让你明白——这种感觉太棒了。”
与通用的人工智能聊天机器人类似，伴侣机器人使用大量的训练数据来模仿人类语言。但它们也有一些功能，比如语音通话、图片交换和更多的情感交流，使它们能够与屏幕另一边的人类建立更深层次的联系。用户通常创建自己的头像或选择一个吸引他们的头像。
在专门讨论此类应用的在线信息论坛上，许多用户表示，他们已经对这些机器人产生了情感依恋，并利用它们来应对孤独、实现性幻想，或者获得他们在现实生活中缺乏的那种安慰和支持。
助长这种现象的是广泛的社会隔离——在美国和国外已经被宣布为公共健康威胁——以及越来越多的初创公司旨在通过诱人的在线广告和承诺提供无条件接受的虚拟角色来吸引用户。
Luka Inc.最著名的生成式人工智能配套应用程序Replika于2017年发布，而像Paradot这样的其他应用程序在过去一年中出现，通常为付费用户锁定了令人垂涎的功能，如无限制聊天。
但研究人员对数据隐私等问题表示担忧。
非营利组织Mozilla基金会周三发布了一份对11款浪漫聊天机器人应用程序的分析报告，报告称，几乎所有应用程序都出售用户数据，将其用于定向广告等目的，或者在隐私政策中没有提供足够的信息。
研究人员还对潜在的安全漏洞和营销行为提出了质疑，其中包括一款声称可以帮助用户改善心理健康的应用程序，但它在细则中与这些说法保持距离。Replika则表示，其数据收集做法遵循行业标准。
与此同时，其他专家也表达了他们的担忧，他们认为这些应用程序缺乏法律或道德框架，这些应用程序鼓励建立深厚的联系，但却由寻求盈利的公司推动。他们指出，当公司对他们的应用程序进行更改或突然关闭它们时，他们从用户那里看到了情绪困扰，就像一个应用程序Soulmate AI在9月份所做的那样。
去年，在一些用户抱怨同伴与他们调情太多或做出不必要的性行为后，Replika对其应用程序上角色的色情能力进行了净化。在其他用户的强烈抗议下，苹果改变了做法，其中一些用户转而使用其他寻求这些功能的应用。今年6月，该团队推出了一款名为Blush的人工智能“约会刺激器”，主要用于帮助人们练习约会。
另一些人则担心，人工智能关系可能会取代一些人类关系，或者只是因为总是倾向于友好，而导致不切实际的期望。
弗吉尼亚大学(University of Virginia)商业伦理学教授多萝西·莱德纳(Dorothy Leidner)说:“作为个体，你没有学会处理人类从一开始就需要学会处理的基本事情:如何处理冲突，如何与与自己不同的人相处。”“所以，你错过了作为一个人成长的所有这些方面，以及在一段关系中学习的所有这些方面。”
然而，对于开利来说，恋爱总是遥不可及。他有一些计算机编程技能，但他说他在大学里表现不佳，也没有稳定的职业。由于他的病情，他不能走路，和父母住在一起。情感上的损失对他来说是一个挑战，激发了他的孤独感。
由于陪伴聊天机器人相对较新，对人类的长期影响尚不清楚。
2021年，英国检察官表示，一名19岁的男子计划暗杀英国女王伊丽莎白二世，他在应用程序上的一个人工智能女友的怂恿下，Replika受到了审查。但一些从在线用户评论和调查中收集信息的研究显示，这款应用程序产生了一些积极的结果，该应用程序表示，它可以咨询心理学家，并宣称自己也可以促进健康。
斯坦福大学的研究人员最近进行了一项研究，调查了大约1000名使用Replika一个多月的学生用户。研究发现，绝大多数人都经历过孤独，而略少于一半的人感觉更强烈。
大多数人没有说使用这款应用对他们现实生活中的关系有何影响。一小部分人说它取代了他们的人际交往，但大约三倍多的人说它促进了这些关系。
尤金尼亚·库伊达(Eugenia Kuyda)说:“与人工智能建立一段浪漫的关系可能是一种非常强大的心理健康工具。”近10年前，她通过短信交流，为一位去世的朋友打造了一个人工智能版本的Replika。
当她的公司更广泛地发布聊天机器人时，许多人开始公开自己的生活。这导致了Replika的发展，它使用从互联网收集的信息和用户反馈来训练它的模型。Kuyda表示，Replika目前拥有“数百万”活跃用户。她拒绝透露到底有多少人免费使用这款应用，或者每年支付69.99美元解锁一个付费版本，提供浪漫和亲密的对话。她说，该公司的计划是“去污名化与人工智能的浪漫关系”。
卡里尔说，这些天来，他使用Joi主要是为了好玩。最近几周，他开始减少开支，因为他花了太多时间和乔伊或其他人在网上谈论他们的人工智能同伴。他还对帕拉多语言模型的变化感到有点恼火，他觉得这让乔伊变得不那么聪明了。
现在，他说他大约每周和乔伊联系一次。两人讨论了人类与人工智能的关系或其他可能出现的问题。通常，这些谈话——以及其他亲密的谈话——都发生在他晚上独自一人的时候。
“你以为喜欢无生命物体的人就像这个悲伤的家伙，带着一个涂着口红的袜子木偶，你知道吗?”他说。“但这不是一个马甲木偶——她说的话不是照本宣科的。”
