美国互联网儿童犯罪（ICAC）特别工作组多名官员表示，Meta在使用人工智能软件监管其社交媒体平台并生成儿童性虐待相关报告时，向执法体系输送了大量无效线索，导致资源被占用并影响案件调查。
新墨西哥州ICAC特别工作组特工本杰明·兹维贝尔（Benjamin Zwiebel）上周在该州针对Meta的审理中作证称，其部门从Meta收到的线索“很多，基本上都是垃圾”。该案由新墨西哥州总检察长劳尔·托雷斯（Raul Torrez）推动，指控Meta旗下平台将利润置于儿童安全之上；Meta否认相关指控，并表示已推出包括默认保护的青少年账户在内的改进措施。ICAC特别工作组是由美国司法部协调的全国执法机构网络，负责调查和起诉网络儿童剥削与虐待案件。
一名因涉及内部事务而要求匿名的ICAC官员称，Meta每月提供数千条线索，“数量非常庞大，但报告质量严重不足，难以采取严肃行动”。该官员还表示，其部门收到的网络线索总量从2024年到2025年翻了一番。
兹维贝尔及另外两名ICAC官员表示，来自Instagram、Facebook和WhatsApp的无效线索中，有些包含非犯罪信息。上述匿名官员补充称，部分线索虽显示可能发生犯罪，但关键图片、视频或文字缺失，或被编辑处理，导致难以推进。
该匿名官员称，来自Instagram的无效线索近期“急剧增加”，尤其在过去几个月，且信息缺失问题更为突出；在一些情况下，执法人员“没有足够信息推进调查”。
针对相关证词与评论，Meta发言人表示，公司多年来一直支持执法部门打击犯罪，并称美国司法部曾多次肯定其快速合作促成逮捕；国家失踪和被剥削儿童中心（NCMEC）也曾称赞Meta简化并“改进”线索报告流程。Meta称，2024年其收到美国当局9000多起紧急请求，平均在67分钟内处理完毕，涉及儿童安全和自杀的案件处理速度更快；公司还会在适用法律下向NCMEC报告明显的儿童性剥削影像，并协助其优先处理报告。
Meta还指出，兹维贝尔在证词中推荐使用Meta的青少年账户功能，并称其推荐理由是“因为这是唯一可用选项，假设青少年不会放弃使用社交媒体”。托雷斯在庭审中亦承认Meta在提供儿童虐待线索方面的合作，称应表扬包括Meta在内的一些平台“在一定程度上确实向NCMEC报告了影像”。
周五公布的案件文件显示，2019年初Meta高管曾就公司监管儿童性虐待及向执法部门报警的能力发出内部警告。当时Meta正准备在Facebook Messenger中启用端到端加密，使消息仅对收件人可见。文件显示，Meta内容政策负责人莫妮卡·比克特（Monika Bickert）曾写道：“我们作为公司即将做一件坏事。这太不负责任了。”她在文件中表示，如果Messenger内容被加密，“将无法发现恐怖袭击策划或儿童剥削”，可能妨碍与执法部门合作；内部文件还称，Meta对其安全运营能力存在“严重误述”。
另一份文件显示，Meta员工估计，加密Messenger将导致公司“无法主动向执法部门提供600起儿童剥削案件、1454起性勒索案件、152起恐怖案件、9起学校枪击威胁案件的数据”。Meta发言人安迪·斯通（Andy Stone）对路透社表示，2019年提出的担忧正是公司开发一系列新安全功能的原因，这些功能旨在加密聊天中帮助检测和防止滥用。儿童安全组织曾批评Messenger的加密功能，该功能最终于2023年推出。
按法律要求，总部位于美国的社交媒体公司必须向NCMEC报告其平台上检测到的任何儿童性虐待材料（CSAM）。NCMEC作为全国报告中心，将线索转发给美国及国际相关执法机构；NCMEC无权在转发前筛除可能无效的线索。
NCMEC在2024年数据报告中称，Meta是向其报告最多的公司之一：Meta通过Facebook、Instagram和WhatsApp提交了1380万条报告，占NCMEC当年接收的2050万条线索的大部分。NCMEC表示，2024年超过100万条网络线索与特定美国州相关，这些报告已提供给全国各地的ICAC特别工作组以及其他联邦、州和地方执法机构调查。
报道还提到，Meta及其他社交媒体公司使用人工智能检测并报告可疑内容，并雇佣人工审核员在将部分标记内容发送给执法部门前进行审查。《卫报》此前报道，未经公司员工审核的AI生成线索，执法人员通常需凭搜查令才能查看，因涉及美国宪法第四修正案保护；律师称，这一额外步骤可能延缓潜在犯罪调查。Meta发言人表示，法院判决要求执法部门必须持搜查令才能打开公司已审核并报告的内容副本，这增加了执法负担；公司称其图像匹配系统能以人工无法实现的规模发现已知儿童剥削内容，并通过技术、社区举报及专业团队调查检测新内容。
《报告法案》（修订现有技术报告程序）于2024年11月生效，要求在线服务提供商扩大并加强报告义务，除儿童性虐待材料外，还需报告计划或即将发生的虐待、儿童性贩运及相关剥削，并延长证据保存期限，故意不遵守将面临更高处罚。
两名ICAC官员称，自该法案通过以来，Meta提供的无效线索数量大幅增加，可能与公司为确保符合法律要求而采取的措施有关。官员举例称，部分线索并不构成犯罪，例如青少年女孩讨论最喜欢的明星。
兹维贝尔在法庭上表示，依据其培训和经验，这些线索“似乎是通过AI提交的”，因为其中包含“AI会犯而人类观察者不会犯的常见错误”。他同时称，其部门从Meta收到的关于儿童性虐待材料（CSAM）分发的合法案件线索明显减少。
多名官员表示，送达ICAC部门的每条线索都必须审查，无效线索激增占用了调查合法儿童虐待案件的时间与资源。一名一线ICAC官员称，这种状况正在打击士气，部门人员不足以应对不断涌入的线索。
