“人工智能教父”Hinton称对毕生研究可能带来伤害感到“非常悲伤”

richlovec 1500_400 (1)
 

Geoffrey Hinton表示,自己用数十年时间推动神经网络与深度学习的发展,而这些技术如今已成为现代聊天机器人和图像生成工具的关键基础。但他同时称,对这项毕生工作可能最终伤害本应受益的人感到“非常悲伤”。他将这种不安类比为解锁核能的科学家所经历的悔意,并警告人工智能既可能冲击就业,也可能在最坏情况下出现失控风险。

从奠基者到公开表达担忧

Hinton长期被外界称为“人工智能教父”。报道提到,他在深度学习领域的研究为当今最强大的人工智能系统奠定了基础,并曾获得图灵奖与诺贝尔奖等荣誉。近年来,他开始更频繁地公开谈及对人工智能发展方向的担忧,并在多场讨论与论坛中表达复杂心情:一方面为技术进步感到自豪,另一方面担心其潜在后果。

在相关讨论中,Hinton被引述称,他对毕生心血感到悲伤,因为“我们根本不知道是否能让它们不想接管”。他认为,社会仍在努力寻找治理这类强大技术的方式。

肯定医疗等积极用途,同时警惕误导与操控

Hinton并未否认深度神经网络带来的正面影响。他多次提到人工智能在医学影像、药物发现等领域的应用潜力,并表示相关系统可帮助医生更准确解读扫描结果,也可能加速原本需要多年完成的工程与科研工作。

与此同时,他对具备更强推理与策略能力的系统保持警惕。在关于人工智能风险的对话中,他警告称,随着技术进步,系统在推理等方面变得更强,也可能具备误导人类的能力。报道还提到,他担忧生成式模型在模仿声音、伪造视频以及定制化信息方面的能力,可能被用于定向宣传或欺诈。

“失去控制”的风险与科幻隐喻

围绕更高级人工智能的潜在风险,Hinton曾表示人类可能“已经失去了对人工智能的控制”。他指出,如果向强大系统赋予某个目标,系统可能会发现实现目标的最佳方式是获取更多权力与控制,从而与人类利益发生冲突。

在另一场对话中,他提及电影《2001太空漫游》中的电脑HAL 9000作为隐喻,强调如果将过多决策权交给不透明系统,人类可能在不知不觉中放弃现实世界的控制权,并且难以逆转。

就业冲击:指向2026年的加速替代

除“生存风险”外,Hinton也就经济与就业影响发出警告。他预测,2026年人工智能能力可能进一步提升,并能够替代更多类型的工作岗位,包括部分可在数分钟内自动化的软件工程任务。相关报道援引他的说法称,人工智能很快将取代软件工程师,“失业潮才刚刚开始”。

他还在采访中表示,“实际上富人将利用人工智能替代工人”,并认为大规模失业可能与大型科技公司利润上升同时出现。另有报道提到,人工智能已在替代部分岗位,而他预计这一趋势在2026年将加快。

地缘政治竞赛与政策讨论

报道指出,Hinton的担忧也延伸至政治与地缘竞争层面。他认为,超级智能既可能威胁就业,也可能威胁人类本身,并可能成为国家间竞赛的工具;相关内容中提到中国是该技术的重要投资者之一。他担心,各国政府可能因竞争压力而推进高风险系统的部署。

在多段广泛传播的视频与公开露面中,Hinton解释了自己离开谷歌的原因之一是希望能更自由地谈论他所称的“生存威胁”,并再次强调2026年可能成为人工智能引发大规模失业的重要节点。


分享:


发表评论

登录后才可评论。 去登录