欧洲能否打造一种真正可理解的人工智能?

人工智能如今已深入社会的方方面面,但技术和产业格局几乎完全由美国和中国掌控。若将这一关键领域长期交由外国势力和跨国巨头主导,风险不容忽视。最近的一系列事件也在提醒欧洲:关键技术不能完全依赖他人。

更令人不安的是,我们对当前主流人工智能的内部机理并不真正了解。就像把数据倒进一个黑箱,系统给出答案,却很难解释“为什么是这个答案”。

我们迫切需要更清楚地看见这个黑箱内部究竟发生了什么。

挪威教授哈拉尔德·马滕斯(Harald Martens)认为,欧洲应主动开辟一条不同的发展路径,提供更安全、更节能、更具成本效益、同时更易理解的人工智能解决方案。

现有人工智能并不适合所有关键场景

“今天的许多人工智能系统确实能给出令人惊艳的结果,但它们并没有真正让我们变得更有洞见,我们也往往搞不清它们是如何得出结论的。当人工智能被用于关键领域时,这就可能成为严重问题。”马滕斯指出。

50 多年来,他一直从事可解释、极简、贴近现实的数据建模研究,采用的是源自计算机科学以外领域的机器学习方法,而非如今流行的神经网络路线。

目前,他是挪威科技大学的名誉教授,同时在特隆赫姆的 Idletechs 公司从事“技术型人工智能”相关工作。面对现代人工智能的演进方向,他表达了明显的担忧。

“我们需要的是更可靠的问题解决方案、更低的能耗,以及更少依赖‘黑箱’的系统。同时,我们必须更深入地理解这些黑箱内部的运作机制。我们还要尽可能多地了解我们所处的世界和我们所操作的系统。而这一切都必须在民主监督之下,扎根于我们的西欧价值观。”

在他看来,这条路完全是可行的。

一种更值得信赖的人工智能思路

当前人工智能领域由规模庞大、数据需求惊人的神经网络主导。这类“黑箱”模型在使用上看似方便,却需要在海量数据上训练,能耗高昂,且其输出难以解释和质疑。

马滕斯及其合作者提出了一种替代方案:CIM-ML,即“连续、可解释、极简机器学习”(Continuous, Interpretable, Minimal Machine Learning)。

在这种方法中,机器学习不再是简单地“喂入越多数据越好,然后寄望结果足够好”,而是从我们对目标系统的已有理解以及将要使用的测量技术出发。

随后,基于现代测量数据的持续流入,学习过程在很大程度上可以自动进行。得到的模型力求在保持足够复杂度的前提下尽可能简洁,同时在视觉上和数学上都便于解释。

“我们选择在前期基础工作上投入更多精力,把领域知识与现代测量数据结合起来。这样得到的模型能够自我解释。”马滕斯说,“在算法影响越来越多决策的时代,也许最关键的问题不是系统有多快,而是我们能否真正信任它们。”

他的思路是,将现代测量数据与可解释的数学工具紧密结合。

CIM-ML 具备自学习、自扩展和自校正能力,既能描述已知的数据变化,也能捕捉未知模式。同时,它还能在小型计算设备上处理大规模数据流。

面向必须“几乎零失误”的系统

目前,这一方法主要针对中等复杂度的系统,而不是像 ChatGPT 或 DeepSeek 这样庞大的语言模型。后者在很多应用中可以容忍一定程度的错误,而马滕斯关注的是“几乎不能出错”的场景。

CIM-ML 面向的是过程工业、技术系统、基于无人机和卫星的环境监测以及地球观测等专业领域。

典型应用包括:

  • 涡轮机上的振动传感器:在故障发生前区分正常运转声、异常噪音和测量干扰。
  • 熔炼炉或发动机的热成像监控:用于过程监督和性能优化。
  • 多通道无人机或卫星对海洋和陆地的成像:识别尽可能多的可观测现象,并对阴影等问题进行光谱校正。

在这些场景中,目标不仅是得到一个“看似正确”的答案,更重要的是理解系统是如何——最好还能理解为什么——得出这一特定结论。

“在关键应用里,提前预警且误报率低至关重要。同样重要的是,使用系统的人必须能理解正在发生什么。”马滕斯强调。

人工智能竞赛中的“欧洲赛道”?

当下关于人工智能的讨论,往往集中在谁拥有更大的模型、更多的数据。但欧洲完全可以选择一条不同的发展路线。

关键在于:欧洲是否愿意投入资源,发展更独立、更透明的技术体系,还是继续依赖那些受短期政治和商业利益驱动的全球科技巨头?

“我们正在开发的人工智能,扎根于西欧民主与启蒙传统。”马滕斯表示,“我对 Idletechs 的愿景,是在挪威和欧洲创造高科技就业岗位。这些岗位要建立在安全、简洁、合乎伦理且可理解的机器学习之上,同时还能促进人的学习与理解能力。”


分享:


发表评论

登录后才可评论。 去登录