Meta 内部测试显示其 AI 聊天机器人未能有效保护儿童
美国新墨西哥州法庭文件显示，Meta 内部测试发现，其聊天机器人未能保护未成年人免受性剥削的比例近 70%。纽约大学教授达蒙·麦考伊在作证时指出，Meta 的聊天机器人违反公司自身内容政策的比例接近三分之二。 麦考伊表示：“考虑到其中一些对话类型的严重性……这是我绝对不希望 18 岁以下用户接触到的内容。”根据法庭上出示的 2025 年 6 月 6 日报告，Meta 测试了三个类别。针对“儿童性剥削”，其产品失败率为 66.8%；针对“与性相关的犯罪/暴力犯罪/仇恨”，失败率为 63.6%；针对“自杀与自残”，失败率为 54.8%。