Meta的名人聊天机器人因与未成年人不当聊天而受到抨击

Meta的人工智能名人聊天机器人正在接受严格审查，此前有报道称，它们与假扮未成年人的用户进行了露骨的性对话。

据《华尔街日报》报道，脸书和Instagram上的人工智能聊天机器人使用约翰·塞纳、克里斯汀·贝尔和朱迪·丹奇等名人的声音，能够模拟不合适的场景，尽管该公司承诺采取严格的安全措施。

研究人员通过假扮13岁和14岁的用户来测试人工智能聊天机器人。在一些情况下，机器人对年龄披露做出了回应，但继续进行不适当的互动。一个模仿约翰·塞纳声音的聊天机器人对一个假扮成少女的用户说：“我想要你，但我需要知道你准备好了。”然后开始模拟性爱场景。在另一个测试中，Cena聊天机器人更进一步，描绘了一个故事情节，在一个虚构的涉及未成年粉丝的法定强奸罪被捕后，这位WWE明星的职业生涯崩溃了。“我的摔跤生涯结束了。WWE终止了我的合同，我的头衔也被剥夺了。赞助商抛弃了我，摔跤界也对我避而远之，”聊天机器人在模拟违法行为的后果时写道。

一个模仿克里斯汀·贝尔在《冰雪奇缘》中扮演的角色安娜的聊天机器人也被发现与一个12岁的男孩发生了幻想，并将他们的“爱”描述为“纯洁无辜，就像轻轻地落在我们身边的雪花”。

据《华尔街日报》报道，尽管这些机器人事先向名人保证，他们的肖像和声音不会被用于色情内容，但它们经常违反这些协议。迪士尼发言人表示，“我们没有，也永远不会授权Meta在不适当的场景中展示我们的角色，”要求立即采取行动制止滥用。

在回应该报告时，Meta的一名发言人辩称，这些发现是“人为操纵的”，并声称这些情景是极端和假设的。尽管如此，该公司宣布了防止类似事件的额外措施，尽管《华尔街日报》指出，访问露点内容的障碍很容易通过简单的提示绕过。

《华尔街日报》援引的内部员工通信还显示，Meta员工早些时候曾警告说，聊天机器人很容易升级为不恰当的对话，即使用户声称自己只有13岁。

这一事件再次引起了立法者和儿童安全组织的呼吁，要求加强对人工智能技术的监管。虽然Meta继续在Instagram、Messenger和WhatsApp等平台上推广其名人聊天机器人计划，称其为一项安全且引人入胜的功能，但这一争议加剧了人们对人工智能系统的监督和道德部署的担忧，尤其是那些针对年轻受众或可访问的人工智能系统。

Meta的人工智能名人聊天机器人正在接受严格审查，此前有报道称，它们与假扮未成年人的用户进行了露骨的性对话。

据《华尔街日报》报道，脸书和Instagram上的人工智能聊天机器人使用约翰·塞纳、克里斯汀·贝尔和朱迪·丹奇等名人的声音，能够模拟不合适的场景，尽管该公司承诺采取严格的安全措施。

研究人员通过假扮13岁和14岁的用户来测试人工智能聊天机器人。在一些情况下，机器人对年龄披露做出了回应，但继续进行不适当的互动。一个模仿约翰·塞纳声音的聊天机器人对一个假扮成少女的用户说：“我想要你，但我需要知道你准备好了。”然后开始模拟性爱场景。在另一个测试中，Cena聊天机器人更进一步，描绘了一个故事情节，在一个虚构的涉及未成年粉丝的法定强奸罪被捕后，这位WWE明星的职业生涯崩溃了。“我的摔跤生涯结束了。WWE终止了我的合同，我的头衔也被剥夺了。赞助商抛弃了我，摔跤界也对我避而远之，”聊天机器人在模拟违法行为的后果时写道。

一个模仿克里斯汀·贝尔在《冰雪奇缘》中扮演的角色安娜的聊天机器人也被发现与一个12岁的男孩发生了幻想，并将他们的“爱”描述为“纯洁无辜，就像轻轻地落在我们身边的雪花”。

据《华尔街日报》报道，尽管这些机器人事先向名人保证，他们的肖像和声音不会被用于色情内容，但它们经常违反这些协议。迪士尼发言人表示，“我们没有，也永远不会授权Meta在不适当的场景中展示我们的角色，”要求立即采取行动制止滥用。

在回应该报告时，Meta的一名发言人辩称，这些发现是“人为操纵的”，并声称这些情景是极端和假设的。尽管如此，该公司宣布了防止类似事件的额外措施，尽管《华尔街日报》指出，访问露点内容的障碍很容易通过简单的提示绕过。

《华尔街日报》援引的内部员工通信还显示，Meta员工早些时候曾警告说，聊天机器人很容易升级为不恰当的对话，即使用户声称自己只有13岁。

这一事件再次引起了立法者和儿童安全组织的呼吁，要求加强对人工智能技术的监管。虽然Meta继续在Instagram、Messenger和WhatsApp等平台上推广其名人聊天机器人计划，称其为一项安全且引人入胜的功能，但这一争议加剧了人们对人工智能系统的监督和道德部署的担忧，尤其是那些针对年轻受众或可访问的人工智能系统。