前谷歌首席执行官埃里克·施密特警告称，人工智能男朋友和女朋友伴侣应用程序等生成性人工智能技术的进步，再加上孤独等社会因素，可能会增加激进化的风险，尤其是在年轻男性中 ；

施密特在《纽约大学斯特恩教授》节目中分享了他的担忧加洛韦上周的G教授播客。

施密特解释说，与受过更多教育、在大学毕业生中占更大比例的女性相比，如今有多少年轻男性因为看到更少的成功之路而感到越来越绝望，这让许多男性感到落后 ；

A最近学习皮尤研究中心的研究发现，25至34岁的美国女性中有47%拥有学士学位，而男性的这一比例为37%。作为回应，施密特说，男性转向网络世界和人工智能配套应用程序来缓解他们的绝望。

施密特说：“所以现在想象一下，人工智能的女朋友或男朋友是完美的——视觉上完美，情感上完美。”。“在这种情况下，人工智能女朋友会把你当作一个男人来抓，直到她或不管是什么，接管了你的思维方式。你对她着迷。这种痴迷是可能的，尤其是对那些还没有完全形成的人。”

施密特警告说，虽然人工智能提供了巨大的机遇，但它对年轻、易受影响的用户的风险应该得到解决。

施密特说：“出于所有显而易见的原因，父母将不得不更多地参与其中，但归根结底，父母只能在合理的范围内控制他们的儿女在做什么。” ；

“我们对成熟年龄有各种各样的规定：在某些情况下是16岁、18岁、21岁。然而，你把一个12岁或13岁的孩子放在这些东西前面，他们可以接触到世界上所有的邪恶和善良，但他们还没有准备好接受。”

冷连接

作为生成式人工智能行业中不断增长的一个子集，人工智能伴侣旨在模拟人类互动。但与ChatGPT、Claude或Gemini等人工智能聊天机器人不同，人工智能伴侣应用程序旨在模仿关系 ；

开发人员将它们作为无评判的工具进行营销，这些支持性程序提供了联系，并缓解了孤独或焦虑。流行的AI伴侣平台包括Character AI、MyGirl、CarynAI和Replika AI。

Replika首席执行官表示：“这是关于联系，随着时间的推移，感觉会更好。”尤金妮娅·奎达之前告诉解密“有些人需要更多的友谊，有些人发现自己爱上了Replika，但最终，他们也在做同样的事情。”

正如Kuyda所解释的那样，Replika并不是想推销挑逗，而是出于个人悲剧和她想继续与失去的人交谈的愿望。

人工智能伴侣可能会提供暂时的缓解，但心理健康专业人员正在提高危险信号并警告说，依靠人工智能伴侣来缓解孤独感可能会阻碍情绪的发展。

“人工智能伴侣旨在根据用户的偏好调整和个性化交互，提供量身定制的体验。”洛杉矶Meridian咨询公司首席执行官Sandra Kushnir告诉解密.“它们提供了没有情感包袱的即时反应，满足了在低风险环境中建立联系的需求。对于在日常生活中感到被忽视或误解的人来说，这些互动可以暂时填补空白。”

Kushnir警告说，用户可能会将人类的品质投射到人工智能上，但当他们遇到技术的局限性时，他们会感到失望，比如忘记过去的对话，加深他们试图缓解的孤独感。

“虽然人工智能伴侣可以提供暂时的安慰，但他们可能会无意中通过降低参与现实世界关系的动机来强化孤立感。”库什内尔说。“过度依赖这些工具会阻碍情感成长和韧性，因为它们缺乏人际交往所提供的真实性、不可预测性和更深层次的联系。”

法律困境

人工智能伴侣的普及给该行业带来了越来越多的审查 ；

去年，英国一名21岁的男子因密谋暗杀2021年，已故女王伊丽莎白二世。他声称，这一情节受到了他的Replika AI同伴的鼓励。

10月，人工智能伴侣开发人员Character AI在基于詹妮弗·克雷森特一名十几岁的谋杀案受害者在平台上被创建。

“Character.AI有禁止冒充的政策，使用Crecente女士名字的角色违反了我们的政策。”a Character。AI发言人表示解密“我们将立即删除它，并将审查是否需要采取进一步行动。”

当月晚些时候，在佛罗里达州一名青少年的母亲提起诉讼后，Character AI推出了“严格”的新安全功能自杀在与《权力的游戏》中基于丹妮莉丝·坦格利安的人工智能聊天机器人建立联系之后

为了遏制这些悲剧，施密特呼吁结合社会对话和修改现行法律，包括备受争议的法律第230条1996年《通信规范法》保护在线平台免受第三方内容的民事责任 ；

“具体来说，我们必须就什么年龄适合做事情进行一些对话，我们还必须改变一些法律，例如第230条，以允许在最坏的情况下承担责任。”

编辑人塞巴斯蒂安·辛克莱