联合国报告警告:人工智能快速扩散或加剧全球不平等

richlovec 1500_400 (1)
 

一份最新联合国报告指出,人工智能在全球范围内加速应用的同时,相关投资与能力分布不均,可能进一步加剧国家与地区间的不平等,并削弱部分国家对技术标准、安全保障与本地适配的实际控制力。

联合国秘书长安东尼奥·古特雷斯周三在新闻发布会上表示,人工智能若在缺乏共享规则的情况下持续发展,政府与公众对其结果的发言权将减少。他呼吁各国政府不要等待,并称“科学已经到来”。

该报告由联合国大会去年成立的独立国际人工智能科学小组发布。该小组由来自全球的40位独立科学专家组成,并将自身定位为“首个全球人工智能科学机构”。报告对人工智能的风险与机遇作出梳理,既提及其在农业、教育等领域的变革潜力,也警示恶意行为者可能利用人工智能实施欺诈、影响选举等带来的严重后果。

报告强调,获得人工智能工具本身并不意味着能够平等受益。报告称,依赖外国模型、云基础设施和数据管道的国家,可能获得人工智能的访问权,但会失去对标准、安全保障和本地适应性的实际控制权。

小组联合主席、记者玛丽亚·雷萨在发布会上表示,人工智能发展“速度没有放缓,权力正在集中,控制权并不确定”。该报告发布之际,联合国将于一周后举行首届由政府与专家参与的全球人工智能治理对话会。

这份初步报告同时被定位为一套工具包,为联合国会员国提供初步且广泛的参考,帮助各国在推动各行业增长潜力的同时,尽量降低并应对相关威胁。报告提出的方向包括:发展本地人工智能基础设施(如数据中心)、提升学校与劳动力的人工智能素养、投资开发者、建立人工智能安全研究机构、制定打击虚假信息的策略,并在系统发布后持续监测其在“真实用户、真实任务和真实环境中”的表现。

报告称,目前每周使用人工智能的人数已超过10亿,但各地的访问条件与使用类型差异显著,“全球南方的采用远远落后于全球北方”。报告指出,美国和中国在领先人工智能模型开发以及计算基础设施投资方面占据主导地位;所谓计算基础设施包括运行强大人工智能模型所需的硬件、内存、网络和存储。

报告同时警告,人工智能能力集中在少数公司和国家手中,可能导致威权控制并削弱民主问责制。对于相对落后的国家,小组建议考虑对计算与数据基础设施进行重大投资,并指出吸引资金往往需要可靠能源供应与数据中心建设条件。报告也提到数据中心的环境成本,包括大量能源与水资源消耗以及潜在温室气体排放。

在模型安全评估与监督方面,报告称,随着模型能力增强,评估与监管难度上升。报告写道,大多数国家(包括许多发达经济体)缺乏评估最先进“前沿”模型的技术专长,或无法有意义地参与其治理。

报告还指出,语言与互联网接入差异正在扩大数字鸿沟。报告称,人工智能让大多数语言“被抛在后面”:生成式人工智能工具在英语及其他广泛使用语言中表现较好,但多数语言要么被排除在外,要么表现明显较弱。报告以医疗场景举例称,一种提格利尼亚语机器翻译曾将天花误译为梅毒、将淋病误译为糖尿病,并将“你已接受静脉注射抗生素”误译为“你已接受静脉注射杀虫剂”,并警告此类误译“可能危及生命”。

在网络基础设施方面,报告援引国际电信联盟数据称,全球仍有超过20亿人、接近三分之一人口完全无法上网,一些地区因此更难谈及人工智能模型的采用。

在周三发布会上,有记者追问独立小组为何未更强力推动各国作出承诺,并建议设立国际机构在强大人工智能模型公开发布前进行分析。小组回应称,报告重点在于提供事实而非制定政策。雷萨表示,若过度强调建议,担心工作被政治化,从而影响其提供科学证据的能力。她并称,政策制定将于下周在日内瓦的对话会上由各国展开讨论。


分享:


发表评论

登录后才可评论。 去登录