4月30日，麻省理工学院施瓦茨曼计算学院主办的“计算的社会与伦理责任”（SERC）项目举办了一场全天的研究研讨会，聚焦人工智能如何塑造世界及其对社会的影响。

此次研讨会涵盖了SERC最新种子基金获得者的研究报告，主题涉及空气污染预测、负责任的计算机视觉应用等；还设有关于人工智能对齐和教育中AI应用的专题讨论，以及康奈尔大学计算机科学与信息科学教授Jon Kleinberg博士的主题演讲。活动中，学生研究者们展示了他们作为SERC学者一年来的项目成果。

SERC联合副院长、哲学教授Brian Hedden表示：“MIT在如何让AI和计算成为造福人类的积极力量方面有许多令人振奋的研究，看到社区对这些前沿工作的浓厚兴趣令人鼓舞。”

另一位联合副院长、管理学教授Nikos Trichakis指出：“随着计算和AI日益融入社会各个层面，SERC的使命是确保伦理思考与技术进步同步发展。今年的研讨会展示了MIT范围广泛的相关工作，也为社区深入探讨塑造计算未来的责任提供了平台。”

使AI与人类价值观对齐——以及这些价值观为何

AI对齐与道德融合的挑战在于如何将“人类价值观”植入这项强大且快速发展的技术中。谁来决定哪些价值观和理性应纳入伦理框架？在从用户到机器的转换过程中，如何避免价值观的扭曲？

EECS副教授Dylan Hadfield-Menell主持的跨学科小组讨论中，谷歌DeepMind哲学家兼研究科学家Iason Gabriel以法官为例说明：“我们希望法官具备良好品格，同时能合理解释规则。AI不应被视为完美无缺，而应按照我们的道德价值观，用其特质进行合理判断。”

政治学助理教授Bailey Flanigan强调，AI对齐的核心问题是“首先要解决谁有权治理不同类型AI系统的根本问题”。

政治学副教授Bernado Zacka补充道，面对AI的快速发展和复杂的制度设计，“理解我们所替代系统中蕴含的智慧及其运作原因，是当前最紧迫的问题之一”。

尽管部署压力巨大，专家们对AI对齐的未来持乐观态度，强调人类因素在塑造AI系统中的关键作用。

AI的辅助还是替代？

随着各级学生开始使用AI，如何在保持学术严谨的同时，合理引入AI工具成为焦点。MIT教师与Gemini for Education负责人Marta McAlister在教育与AI专题讨论中分享了AI在课堂的应用及其支持学习的方式。

MIT临时AI教学使用委员会联合主席、EECS教授Eric Klopfer和Samuel Madden关注的核心问题是：AI是被用来减轻学生负担，还是帮助构建知识框架？

Madden教授指出，学习过程中的认知挣扎是通过反复尝试和失败实现的。“现在学生遇到难题，第一反应是求助AI，这意味着他们没有真正掌握所评估的技能。”教师如何保持适度挑战，防止学生过度依赖AI，是关键所在。

Klopfer教授则建议从整体课程设计入手，适当删减内容，避免不断增加负担，确保学习内容保持适度难度。

教学系统实验室主任Justin Reich指出，尽管青少年知道AI存在弊端，但这并未阻止他们使用AI。通过让学生参与AI使用的讨论，促进师生间反思交流，有助于学生更理性地选择使用AI的方式和理由。

MIT媒体实验室的Pat Pataranutaporn教授强调，AI不是单一工具，应根据不同目标设计，促进创造力和批判性思维。评价标准不应仅仅是答案的正确性，更应关注学生真正的学习意义。

模拟人类推理是否等同于真实理解？

康奈尔大学Jon Kleinberg教授的主题演讲《AI的世界模型与我们的世界》探讨了AI系统模型与人类认知不匹配时可能导致的失败。

他以国际象棋为例，现代棋类引擎虽能达到超人水平，但与人类搭档时，其策略往往难以被人类理解，导致协作困惑。Kleinberg用《指环王》中甘道夫将重要任务交给一群冒险者的故事类比，说明缺乏指导时团队陷入混乱。

“人机协作的风险在于，当人类接手时，算法已知下一步动作，但人类却无法预测。”他说。

这些比喻揭示了AI通过预测模拟和模式识别来模仿人类推理，与人类基于经验的直觉理解之间的差异。尽管如此，若最终结果仍是胜利，是否还需过多纠结过程？

此次研讨会强调了在快速发展的计算与AI领域中，人文伦理与技术创新必须携手并进，确保技术真正服务于人类社会的长远利益。