法院裁决与新一轮争论
美国法院近日认定，多家平台提供商未能充分保护儿童，引发关于社交媒体年龄门槛的激烈讨论。来自高校、儿童权利组织和非营利机构的国际专家团队认为，简单的禁令并不是正确方向。他们在《科学》（Science）杂志上呼吁，为13岁及以上的儿童和青少年制定全新的数字安全策略。
在这次问答中，慕尼黑工业大学（TUM）的桑德拉·科尔特西（Sandra Cortesi）教授和乌尔斯·加塞尔（Urs Gasser）教授，讨论了人工智能可以在智能手机上发挥什么作用、同龄人支持为何关键，以及为什么应让儿童参与塑造自己的数字学习环境。
法院判罚意味着什么？
问： 在美国，Meta 和谷歌刚刚因未能充分保护其社交媒体和视频平台上的儿童和青少年而被判处巨额罚款。结合你们工作组的研究，这些裁决有何意义？
加塞尔： 这些判决可能是一个重要转折点，因为它们强调，数字世界中儿童的安全不仅是“内容是否有害”的问题，更是“平台如何被设计”的问题。法院审视了平台的结构、功能可能带来的风险，以及在这些风险是可预见且未被妥善应对时，企业是否应承担责任。
这正是我们建议的核心：从一开始就以儿童和青少年的安全、主动权和福祉为目标来设计数字空间。以美国正在审理的案件为例，这意味着要去除可能诱发成瘾的设计功能，并加入防止成年人滥用的保护机制。
为什么反对简单的年龄禁令？
问： 很多国家已经禁止一定年龄以下的儿童使用社交媒体，或计划这样做。你们为什么不赞成这种做法？
加塞尔： 我们并不是反对监管本身。法律框架是必不可少的。但我们认为，政策制定者不能只画一条“禁止线”，而应要求平台提供商以儿童友好的方式设计产品和服务。这比一刀切禁令更复杂，却更有前景。
真正的目标是让儿童和青少年学会自主、负责任地使用媒体，并从中获得积极影响，而不是单纯把他们排除在外。
利用人工智能提升平台安全
问： 你们建议通过人工智能让平台更安全，具体怎么做？
科尔特西： 除了直接禁止明显有害的功能外，新工具还可以帮助年龄稍大的儿童和青少年在适龄范围内更自主地行动。人工智能可以在他们处于风险情境时识别并适时介入。
例如，人工智能可能会提示：“我注意到你最近浏览了很多关于减肥的帖子，并与三位持相同观点的人互动。我想向你推荐三篇持不同观点的内容。”
又比如，当系统识别到青少年正在拍摄大量暴露皮肤的自拍时，可以弹出提醒：“你确定要拍这张自拍吗？想一想你打算如何使用它。”
同样，如果一个通常只与成年人互动的账号联系了儿童，人工智能可以推断对方可能是成年人，并发出相应警告。
隐私与本地处理
问： 这听起来需要大量收集个人信息。如何保护隐私？
科尔特西： 关键是，这类分析应完全在用户设备本地完成，而不是把数据传回平台运营方。即便在隐私得到技术保障的前提下，理想状态仍然是家庭成员坐下来共同讨论：我们希望怎样的媒体使用方式？可以把它看作“数字世界的饮食计划”。
随后，设备或平台应清晰展示所有可开启或关闭的选项，以帮助实现这个家庭共同制定的目标。
例如，有人可能会说：“我主要想看到积极向上的内容。”如果人工智能发现其使用行为偏离了这一方向，就可以提供支持。年龄更大的青少年则可能选择：“我想有三个月完全自主的体验，不希望人工智能监控或干预。”
在家庭层面，我们认为这种基于对话和协商的方式，比简单的禁令更有效。一方面，它能增强信任和自我效能感；另一方面，许多儿童和青少年已经非常熟悉如何绕过父母在手机上设置的限制。当然，并不是所有家庭都有时间或专业知识做这些规划，因此，平台提供保护性的默认设置仍然非常重要。
无法完全避免的风险：如何应对？
问： 即便有良好的设置和法律要求，年轻人仍可能接触到令人不安的内容或数字暴力。遇到这种情况时应该怎么办？
加塞尔： 研究表明，对年龄较大的儿童和青少年来说，能够匿名举报相关内容和事件并获得即时支持非常关键。很多时候，他们会感到羞耻或自责。
因此，举报不能被搁置数周不理，而应迅速得到理解和帮助。理想情况下，回应者中也包括同龄人，比如有人会说：“我理解你，我也经历过类似的事情。”
一些国家已经建立了这样的支持服务，由经过培训的年轻人在专业人士的支持下担任联络人。我们认为，这类服务应成为标准配置，而不是例外。
让儿童参与设计：不仅是企业的责任
问： 你们还建议，不仅企业要让儿童和青少年参与产品设计，学校也应承担更多责任。为什么？
科尔特西： 许多年轻人表示，他们在数字世界中感到不舒适或不快乐，对未来充满担忧，觉得自己无法掌控生活。学校如果能真正让儿童和青少年参与进来，就有巨大的机会：一方面向他们展示，数字未来并非只有风险；另一方面增强他们的自我效能感。
信息传递的方式不应是：“我们来告诉你数字世界如何运作。”而应是：“作为学校，我们有很多需要向你们学习的地方，因为我们可能并不了解所有工具，而你们恰好非常熟悉。与此同时，作为成年人，我们也能贡献社会价值观和经验。让我们一起设计学习内容。”
这种共同创作的过程，将大大提升儿童和青少年的数字安全感和参与感。
