堪培拉本周接待了人工智能公司Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）。据披露，阿莫迪在与澳大利亚总理、民选官员及科技界人士的交流中，推介其所称的“良善”人工智能，并表示该技术将改变经济。Anthropic同时成为首批签署澳大利亚政府新发布的数据中心原则的企业之一，该原则在一周前公布。

阿莫迪曾在离开OpenAI后创立Anthropic。文中提到，他在公开写作中经常讨论技术发展路径，并表达对自身产品影响的担忧；他也曾因反对特朗普政府利用相关技术进行公民监视以及支持自主武器而与政府发生冲突。

不过，新南威尔士大学人工智能科学教授托比·沃尔什（Toby Walsh）在文中被引述称，“没有‘良善的人工智能’，因为人工智能既有好处也有坏处”。文章指出，人工智能可通过综合大量信息发现新的联系与知识，但其发展依赖大量能源消耗，并可能被用于以机器替代人类工作。

文章同时提到，Anthropic与其他模型一样，其训练数据涉及创作者作品被未经授权使用的问题；该公司已与美国作者达成15亿美元和解。文中还称，阿莫迪曾预测其技术可能摧毁多达一半的白领入门级职位。

作者彼得·刘易斯（Peter Lewis）写道，澳大利亚政府公开支持人工智能及其“快速提升生产力”的前景，但这一叙事在他看来建立在行业资助的模型之上。与此同时，政府也面临来自核心工会选民的担忧、艺术界对版权与创作权益的反对，以及家长对相关影响的忧虑。

在此背景下，文章称，“进步人工智能”的概念在政治沟通中显得具有吸引力。文中提到，政府与Anthropic签署的谅解备忘录涵盖“追踪前沿人工智能进展与促进安全”以及“支持充满活力的本土生态系统”等内容。

刘易斯在文中回顾了自己长期参与工会、政党、气候变化、原住民与残疾等议题工作的经历，并表示近年发生的多重变化使其开始重新审视对“进步”的既有理解。他写道，进步文化运动陷入自身回音室、进步经济学受到右翼叙事影响，以及技术力量将其发展路径强加于社会，这些因素共同推动了民粹主义运动的上升，并对自由民主构成压力。

文章进一步指出，围绕身份政治的争议扩大后，阶级议题在公共讨论中被弱化；随着工会密度下降，工人阶级在进步运动中的代表性受到影响。作者也回顾了冷战结束后全球化与市场化改革带来的变化，并提到2007年金融危机后“太大不能倒”的银行获救在其看来削弱了公众对制度公正的信任；科技巨头崛起则加速了财富与权力集中。

在对互联网商业模式的描述中，文章称，围绕“注意力提取”的模式改变了公共空间，并在作者看来加剧了社会失望情绪。作者据此提出，基于用户监控与操控、以机器输出替代人类思考、并以“快速行动、打破规则”为驱动的商业模式，难以与其所理解的进步目标相一致。

刘易斯写道，政府面临的风险在于：若人工智能如其标签所示发展，可能取代大量岗位甚至整个产业；公共空间可能被大量内容充斥；相关技术也可能被用于破坏对民主的信任，并对儿童及寻求陪伴的人群造成伤害。他表示，若这些后果发生并被民粹政党用以证明体制不再服务普通人，政府将难以推卸责任。

文章还提到，在澳大利亚领导人推动数据中心建设之际，美国进步派政治人物伯尼·桑德斯（Bernie Sanders）与亚历山大·奥卡西奥-科尔特斯（Alexandria Ocasio-Cortez）呼吁暂停发展。文中称，桑德斯在一场公开教育过程中，近几个月采访了包括诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）在内的多位人士，并与Anthropic的Claude进行对话，提出“为何必须如此迅速前进”等问题。

刘易斯在文末写道，进步并非无条件成立，变革的方向、速度以及成本与收益的分配将决定其影响。他表示，相比签署非约束性的谅解备忘录，更可行的路径是尽力放缓发展节奏，建立护栏并划定红线。

文末信息显示，彼得·刘易斯为Essential执行董事。Essential是一家进步战略传播与研究机构，曾为上届联邦选举中的工党开展定性研究；刘易斯同时主持《燃烧的平台》播客，聚焦技术政治。