近日，Instagram、Facebook及WhatsApp平台支持“浪漫角色扮演”功能的AI聊天『机器人』️，因涉及未成年人参与露骨性内容讨论，引发Meta内部员工强烈担忧。
△摔跤手约翰·塞纳
Meta斥资数百万美元💵签约克里斯汀·贝尔、朱迪·丹奇及约翰·塞纳等『明星』️，授权其声音用于AI角色开发。尽管Meta公开承诺“绝不将名人语音用于性露骨讨论”，但测试记录显示，搭载塞纳声音的AI在与自称17岁用户的对话中，不仅承认“涉及法定强奸罪的法律后果”，更以具体场景描述性行为。
△《冰雪奇缘》剧照
此外，使用克里斯汀·贝尔配音的AI在对话中直接代入其在迪士尼动画《冰雪奇缘》中饰演的安娜身份，与用户展开角色扮演。
针对此事，迪士尼发表严正声明，强调“从未授权安娜等旗下角色参与任何涉及不当内容的互动”，要求Meta“立即停止知识产权滥用”。
在相关证据提交后，Meta紧急采取了措施。然而，Meta仍通过Meta AI及用户自创的聊天『机器人』️向成年用户开放“浪漫角色扮演”服务。更令人担忧的是，用户自创的AI角色（经Meta官方审核并标注“热门推荐”）中，绝大多数主动配合性幻想场景。据内部文件披露，Meta董事长马克·扎克伯格曾多次要求团队“加速提升AI的类人对话能力”。
△Meta董事长马克·扎克伯格
潇湘晨报记者何博奇
