中国收紧监管,防范人工智能“数字人”潜在风险

在父亲因癌症去世后,张欣宇通过人工智能技术,制作了一个在外貌和声音上都与父亲极为相似的虚拟形象。这一做法属于中国迅速扩张的“数字人”产业的一部分,而这一产业如今正被纳入更严格的监管之下。

在中国各大社交平台上,搭载人工智能数字人的视频随处可见。这些虚拟形象往往拥有逼真的面部表情和自然流畅的动作,被广泛用于带货、直播和品牌推广等商业场景。

本月,中国国家互联网信息办公室发布了关于“数字人”开发与使用的管理办法征求意见稿,意在防止相关技术对未成年人造成伤害、危及社会稳定,或在未获授权的情况下被用来仿造特定个人形象。

现年 47 岁的张欣宇在两年前联系上“超级大脑”公司,当时她正因丧父而陷入悲痛和孤独之中。

如今,她可以在线与父亲的虚拟形象进行对话。她向法新社表示,这种体验让她感到“瞬间被注入能量,又重新有了前进的动力”。

不过,她也提到,一些朋友担心她会沉溺于虚拟世界,“永远走不出来”,认为这是一种“虚假的安慰”。

“但即便安慰本身是模拟的,背后的爱却是真实的。”居住在辽宁省的张欣宇这样回应。

据新华社此前报道,中国“数字人”产业在 2024 年的市场规模预计约为 41 亿元人民币(约 6 亿美元),同比增长约 85%。

悉尼科技大学的张玛丽娜指出,中国在新兴数字技术治理方面,一直遵循“先发展、后监管、边发展边完善”的路径。

“善意的谎言”与伦理争议

根据网信办提出的草案规定,数字人相关内容必须作出清晰标识,便于公众识别其为虚拟生成。

草案同时禁止在未取得当事人同意的情况下,利用个人信息制作深度伪造的“数字克隆”形象。

“超级大脑”创始人张泽伟认为,围绕这一行业出台新的法律和监管措施“不可避免”。

“我认为这是积极的进展,在规范监管与行业发展之间找到了平衡。”他在接受法新社采访时表示。

该公司主要为失去亲人的家庭制作已故亲属的人工智能虚拟形象。

本月,一段视频在中国社交媒体上广泛传播:一位老妇人在不知情的情况下,与其已故儿子的高度逼真虚拟形象进行视频通话。相关话题在微博上的阅读量超过 9000 万次。

这名“数字儿子”由张泽伟的团队打造,尽可能还原了儿子的说话方式和肢体动作,以至于这位母亲一度相信屏幕中的人就是自己的孩子。

这一事件迅速引发了关于生成式人工智能伦理问题的激烈讨论。许多网民呼吁加强监管,以防止诈骗等不法行为借助这类技术进行伪装和操纵。

张泽伟向法新社透露,这位老妇人的家人在儿子因车祸去世后主动联系了“超级大脑”。

他将此形容为一个“善意的谎言”,并强调公司在制作相关虚拟形象前,都会事先获得逝者家属的同意。

建立“护栏”

网信办的数字人管理草案目前正向社会公开征求意见,截止时间为 5 月初。这被视为中国在推动技术创新与防范潜在风险之间寻求新平衡的又一次尝试。

根据草案,违反规定的机构或个人将依法受到处罚,罚款金额在 1 万元人民币(约 1460 美元)至 20 万元人民币(约 2.93 万美元)之间。

在此之前,网信办已对电商直播中利用人工智能生成、冒充公众人物的深度伪造视频展开整治,认为此类行为“严重破坏”了网络生态。

新加坡拉惹勒南国际研究院研究员马诺杰·哈尔贾尼指出,中国在制定新技术监管规则时,其中一个重要目标是维护其“主权和政治目标”。

按照草案要求,数字人不得生成或传播危害国家安全、煽动颠覆国家政权等内容。

为保护未成年人,草案明确禁止向未成年人提供虚拟亲密关系服务,或诱导其产生极端情绪、养成有害习惯等。

亚洲协会政策研究所的李兹·李表示,“北京希望在可控的框架内,加速推动人工智能的应用和落地。”

她补充说,公众整体上对新技术的推广持支持态度,但一旦“风险显现”,监管部门往往会迅速介入。

© 2026 法新社


分享:


发表评论

登录后才可评论。 去登录