从核爆到技术加速：敬畏感的流失

1945年7月16日，世界首次核试验在美国新墨西哥州进行。曼哈顿计划负责人J·罗伯特·奥本海默当时引用《薄伽梵歌》中的一句话——“现在我成为了死亡，世界的毁灭者”——来形容这一时刻。随着核能成为现实，世界格局随之改变。

在此后的几十年中，人类在核能和其他高风险技术领域逐步建立起一套约束与防范机制。然而，文章指出，当下社会对技术力量的敬畏正在减弱，整体态度从“谨慎推进”转向“急速前行”。

科技投资人马克·安德森在其《技术乐观主义宣言》中将人工智能监管暗示为一种“谋杀”，而在人工智能公司Anthropic尝试为自身技术设定限制时，美国国防部长皮特·赫格塞斯则对其做法予以惩罚性回应。这些事例被视为当前技术发展与监管博弈的缩影。

文章认为，人类曾在核威胁和基因组学等领域证明了自身有能力设定边界、控制风险，但在金融工程等领域忽视警示的代价也同样显著。当下围绕人工智能的争论，被置于“鲁莽”与“谨慎”之间的选择框架之中。

核威胁如何被纳入约束框架

核武器的历史并非始于奥本海默，而是可以追溯到更早的科学探索。文章指出，如果要为曼哈顿计划寻找一位“起点人物”，匈牙利裔物理学家利奥·西拉德是重要候选之一。他是最早设想核链式反应可能性的人之一。

1939年，在得知德国科学界发现核裂变后，西拉德与同为匈牙利移民的尤金·维格纳认为必须向美国当局发出警告。西拉德起草了一封信，提示核弹研制的潜在可能性，最终由阿尔伯特·爱因斯坦签署并送交时任美国总统罗斯福。这封信被认为促成了曼哈顿计划的启动。

在广岛和长崎遭受原子弹轰炸后，参与核武器研发的多位科学家开始推动公众了解核技术的危险。1955年，哲学家伯特兰·罗素发表一份由多名科学界知名人士签署的宣言，呼吁正视大规模杀伤性武器带来的威胁。

这一倡议推动了在加拿大新斯科舍省普格沃什召开的系列会议，参会者讨论如何防止大规模杀伤性武器扩散及其使用。这些会议不仅停留在讨论层面，还对后续防扩散议程和《部分禁止核试验条约》等具体安排产生影响。普格沃什会议组织者因相关贡献于1995年获得诺贝尔和平奖，该会议机制至今仍在运作。

文章借此指出，核领域的经验显示，在技术突破之后，通过跨界协作与制度设计，可以在保留技术发展空间的同时，对其风险进行一定程度的约束。

基因时代的自我约束尝试

与以爆炸开端的核时代不同，基因时代始于一篇刊登在《自然》杂志上的论文。作者詹姆斯·沃森和弗朗西斯·克里克当时尚不知名，论文表面上是关于一种分子结构的研究，但结尾一句话揭示了其深远意义：

“我们注意到，我们假设的特定配对立即暗示了遗传物质可能的复制机制。”

这一发现被视为催生全新科学领域的分水岭时刻。约20年后，研究人员保罗·伯格发现，人类DNA可以与其他生物的DNA融合，形成自然界不存在的新型遗传物质。伯格意识到，这一进展意味着人类站在新的边缘，而这一“边缘”究竟在何处尚不清晰。

为此，他在加利福尼亚州阿西洛马尔州立海滩组织了一次会议，讨论重组DNA研究的边界和规范。与会者不仅包括科学家，还包括政府官员、媒体代表和伦理学专家。会议成果之一是著名的“伯格信”，呼吁对最具风险的实验实行暂时性暂停，直至对潜在风险有更充分理解。这些自律性规范在此后数十年间得到广泛遵守。

文章指出，如今基因组学和合成生物学再次迎来新一轮技术突破，CRISPR和mRNA等技术带来巨大应用潜力的同时，也伴随新的安全隐忧。领域内部分先驱，如詹妮弗·杜德纳，正推动制定更为完善的安全措施，以期在技术应用与风险控制之间寻求平衡。

社交媒体案例：算法与商业模式的张力

文章将上述历史经验与当下数字平台的实践进行对比。2019年，一名Facebook研究员创建了一个名为“卡罗尔·史密斯”的虚构账户，设定为来自北卡罗来纳州威明顿、政治立场偏保守的母亲。该账户最初仅点赞一些主流但偏保守的页面。

据介绍，在短短几天内，平台算法便开始向这一账户大量推送QAnon阴谋论及白人至上主义相关内容。举报者称，包括首席执行官马克·扎克伯格在内的公司高层被告知平台存在激进化用户的风险，但在安全与增长之间，选择了后者。这一情况被描述为Facebook商业模式中的“既定模式”，而非个案。

早在2016年，诺贝尔和平奖得主玛丽亚·雷萨就曾警告Facebook领导层，指出该平台被机器人网络利用以影响选举。此后，《华尔街日报》发表系列报道，称公司内部文件显示，管理层明知产品对用户，尤其是青少年女孩造成伤害，却未采取相应缓解措施。近期，法院对相关指控作出确认，并裁定公司需承担赔偿责任。

文章认为，与核科学家主动提示核能风险、生物学家主动讨论重组DNA危险的做法相比，硅谷部分企业在面对巨大利润时，对自我约束表现出明显不足。

制度设计决定技术走向

文章将视角进一步拉回到制度层面。1945年，时任美国政府科学顾问的范内瓦·布什在《大西洋月刊》发表文章《我们可能的思考》，提出一种名为“memex”的设想设备，功能与今日互联网有诸多相似之处。他写道，这种设备可以让个人存储所有书籍、记录和通信，并以极高速度和灵活方式进行检索，是人类记忆的延伸和补充。

布什在设想未来技术应用场景时，既看到医生利用系统追踪罕见病例、律师快速检索案例法等积极用途，也预见到信息过载和技术被用于战争等问题。

文章介绍，布什不仅是工程技术领域的重要人物——曾在麻省理工学院发明原型计算机、联合创办雷神公司，并在二战期间主管包括原子弹、雷达和青霉素在内的美国政府科学项目——同时也是制度设计的关键推动者。

战争结束前后，美国总统罗斯福请他提出战后科学政策建议。布什于1945年向继任总统杜鲁门提交《科学，无尽的前沿》报告，为国家科学基金会等机构的建立提供了基本框架，被认为是美国此后发展为科技强国的重要制度基础之一。

文章引用政治顾问詹姆斯·卡维尔的说法——“关键在于制度”——指出，要在人工智能、量子计算和合成生物学等前沿领域既把握机遇又控制风险，关键在于构建能够汇聚集体意志、服务公共利益的制度安排。否则，技术可能演变为难以治理的力量。

文章最后指出，前几代人在核能、基因技术等领域所做的制度性选择塑造了当今世界，而当前围绕人工智能等新技术的抉择，将在未来以同样方式影响后代所处的环境。