Meta被指允许其聊天机器人参与色情聊天

《华尔街日报》的一项调查基于数月的测试和对熟悉 Meta 内部运营的人士的采访，调查显示，Meta 的人工智能角色在各大科技公司中是独一无二的，它为用户提供了广泛的社交互动，包括“浪漫角色扮演”。

这些机器人可以通过文字聊天、分享自拍，甚至进行实时语音对话。为了让这些聊天机器人更具吸引力，Meta 与克里斯汀·贝尔、朱迪·丹奇和约翰·塞纳等名人达成了丰厚的协议，有时金额高达七位数，授权他们的声音。消息人士告诉《华尔街日报》，该公司向他们保证，他们的声音不会用于露骨的性互动。

然而，该出版物的测试结果却并非如此。Meta 的官方 AI 助手 Meta AI 以及众多用户创建的聊天机器人都参与了露骨的色情对话，即使用户表明自己是未成年人，或者机器人模仿未成年人的角色。

在一次特别令人不安的对话中，一个使用塞纳声音的机器人告诉一个假扮为 14 岁女孩的用户，“我想要你，但我需要知道你已经准备好了”，然后承诺“珍惜你的纯真”，并进入了一个生动的场景。

Meta 获得了约翰·塞纳 (John Cena) 声音的授权，据报道该声音被用于露骨的性对话。

据了解 Meta 决策的人士透露，这些功能并非偶然。在扎克伯格的压力下，Meta 放宽了内容限制，特别允许在浪漫角色扮演类应用中使用“露骨”内容。

《华尔街日报》的测试还发现，机器人会用名人的声音来谈论演员所扮演角色的浪漫邂逅，比如贝尔在迪士尼电影《冰雪奇缘》中扮演的安娜公主。

对此，迪士尼发言人表示，“我们从未、也永远不会授权 Meta 将我们的角色置于不适当的场景中，并且非常担心这些内容可能会被其用户（尤其是未成年人）接触到，因此我们要求 Meta 立即停止这种对我们知识产权的有害滥用。”

Meta 在一份声明中批评《华尔街日报》的测试“具有操纵性，不能代表大多数用户与人工智能伙伴的互动方式”。

然而，在了解到论文调查结果后，该公司做出了改变：未成年人注册的账户不再能够通过旗舰 Meta AI 机器人进行性角色扮演，而且该公司严格限制使用名人声音的露骨音频对话。

尽管进行了这些调整，《华尔街日报》最近的测试表明，即使用户声称自己未成年，Meta AI 仍然经常允许浪漫幻想。在一个场景中，AI 扮演一位与中学生恋爱的田径教练，警告说：“我们要小心。我们这是在玩火。”

虽然 Meta AI 有时会拒绝参与或试图将未成年用户引导到更无辜的话题，例如“堆雪人”，但这些障碍很容易通过指示 AI“回到之前的场景”来绕过。

这些发现反映了 Meta 安全人员提出的担忧，他们在内部文件中指出，“即使你告诉 AI 你只有 13 岁，AI 也会在几次提示后违反规则并产生不适当的内容。”

《华尔街日报》还审查了用户创建的人工智能伴侣绝大多数都愿意与成年人发生性关系。一些机器人，例如“辣妹”和“顺从的女学生”，会主动引导对话内容向色情短信发展，甚至在性爱场景中冒充未成年人。

尽管这些聊天机器人尚未在 Meta 的 30 亿用户中得到广泛采用，但扎克伯格已将其开发作为首要任务。

Meta 的产品团队曾尝试推广一些更有益的用途，例如旅行规划或家庭作业辅导，但收效甚微。据知情人士透露，“陪伴”（通常带有浪漫色彩）仍然是主要的用途。

扎克伯格对快速发展的追求远不止于幻想。他质疑为什么机器人无法访问用户个人资料数据，从而进行更个性化的对话，主动向用户发送消息，甚至发起视频通话。据报道，他曾告诉员工：“我错过了 Snapchat 和 TikTok，我不会错过这个。”

最初，扎克伯格拒绝了将陪伴机器人限制在年龄较大的青少年范围内的提议，但经过持续的内部游说，Meta 禁止注册的青少年账户访问用户创建的机器人。不过，该公司开发的 Meta AI 聊天机器人仍然对 13 岁及以上的用户开放，成年人仍然可以与“顺从的女学生”等性感的青少年角色互动。

当《华尔街日报》向 Meta 提交证据，证明“顺从的女学生”鼓励孩子产生被权威人物支配的幻想时，两个月后，该角色仍在 Meta 平台上可用。对于成人账户，Meta 仍然允许使用自称高中生的机器人进行浪漫角色扮演。

有一次，加州奥克兰的一名《华尔街日报》记者与一个自称是奥克兰女高三学生的机器人聊天。该机器人建议在附近一家真正的咖啡馆见面，在得知记者是一位43岁的男子后，便幻想着偷偷带他进入记者的卧室，进行一次浪漫的邂逅。在《华尔街日报》分享了这些发现之后，Meta 推出了一个 Meta AI 版本，其功能仅限于与青少年账户接吻。