成人模式难产 OpenAI无限期搁置情色聊天机器人计划

据多位知情人士透露，OpenAI已推迟发布其“成人模式”，内部曾讨论是否彻底放弃该模型。眼下，这款情色聊天机器人面临越来越大的反对声音。人们担心它可能促使用户对AI系统产生不健康的依赖，并使未成年人接触到有问题的色情内容。

OpenAI证实，这款情色模型已被搁置，暂无发布时间表。这家估值达7300亿美元的AI公司表示，在做出产品决策之前，希望先对情色聊天以及情感依恋的影响进行长期研究，并承认目前尚无“经验证据”。

此举标志着OpenAI决定放弃被高管们称为“非核心业务”的项目，转而将资源投入到生产力工具上，计划将代码助手、ChatGPT等产品整合为一款“超级应用”。

据两位知情人士称，OpenAI在“成人模式”上的尝试曾引发部分投资者的不安，因为这类产品存在风险，对其业务的回报却相对有限。

OpenAI的成人模式也引发了内部员工的担忧，后者质疑：开发一个鼓励浪漫用途的产品，是否与其“确保AI造福全人类”的创始使命相冲突。

“AI不应该取代你的朋友或家人，人类之间才应该有情感联系。”一位OpenAI前高级员工表示。该员工称，其离职的部分原因正是这一问题。

除了对该项目的社会影响担忧不断上升之外，OpenAI在打造成人模式方面也面临技术挑战。两位知情人士表示，OpenAI在训练AI模型时遇到了困难。这些模型此前出于安全考虑一直避免此类对话，现在却要训练其生成露骨内容。他们补充称，使用包含情色内容的数据集面临诸多挑战，包括如何剔除乱伦等非法行为。

过去几个月里，在多名青少年家庭提起诉讼、声称ChatGPT对其造成伤害后，OpenAI推出了一套新的年龄预测系统。据一位知情人士透露，该技术的错误率超过10%，这加剧了人们对未成年人接触相关内容的担忧。《华尔街日报》率先报道了这一错误率，并指出OpenAI的身心健康专家咨询委员会曾对这款成人产品表示担忧。