Meta周四表示,已开始在旗下平台推出更先进的内容执法系统,并计划在条件成熟时降低对第三方供应商在内容审核方面的依赖。
公司介绍,这些系统将用于发现和删除涉及恐怖主义、儿童剥削、毒品、欺诈和诈骗等违规内容。Meta称,在新系统持续优于当前内容执法方法后,将在其应用程序中更广泛部署,同时相应减少外部供应商在相关任务中的角色。
根据Meta发布的博客文章,新系统将与人工审核团队并行运作。公司表示,仍将保留人工审核,但会将更适合技术处理的工作交由系统完成,例如对暴力内容的重复审核,或应对非法毒品销售、诈骗等“对抗性行为者”不断变换策略的领域。
Meta认为,新系统有望在多个方面提升内容执法表现,包括更准确地发现更多违规行为、更有效地防范诈骗、更快速地响应现实世界事件,并减少所谓“过度执法”的情况。
Meta披露的早期测试结果显示,新系统在识别成人性招揽内容方面的检测量约为人工审核团队的两倍,同时错误率降低了60%以上。公司称,该系统还能识别并拦截更多冒充名人及其他高知名度人士的账户,并通过监测新地点登录、密码更改、资料编辑等信号,帮助阻止账户被接管。

此外,Meta表示,这些系统每天能够识别并减缓约5000起诈骗尝试,相关行为主要涉及诱骗用户泄露登录信息。
在角色分工方面,Meta在博客中指出,专家将负责设计、训练、监督和评估这些系统,衡量其性能,并处理最复杂、影响最大的决策。公司强调,人类将在最高风险和最关键的决策中继续发挥核心作用,例如处理账户禁用申诉以及决定是否向执法机构报告等事项。
上述举措出台之际,Meta在过去一年左右已逐步放宽部分内容审核规则。当时唐纳德·特朗普第二次就任总统。去年,Meta结束了第三方事实核查项目,转而采用类似X的社区注释模式;同时取消了对“主流话题”的限制,并表示鼓励用户以“个性化”方式处理政治内容。
这一进展也发生在Meta及其他大型科技公司面临多起诉讼之时,相关案件试图追究社交媒体平台对儿童和年轻用户造成伤害的责任。
除内容执法系统外,Meta周四还宣布推出Meta AI支持助手,为用户提供全天候24小时支持。该助手正面向全球用户在iOS和Android平台的Facebook和Instagram应用,以及桌面版Facebook和Instagram的帮助中心逐步上线。