新南威尔士大学人工智能科学教授托比·沃尔什（Toby Walsh）警告称，部分澳大利亚用户在与人工智能聊天机器人互动过程中出现精神病或躁狂迹象。他表示，硅谷企业在追逐利润时对相关风险“粗心大意”，而澳大利亚在人工智能监管方面的进展令他感到“绝望”。

沃尔什周三在国家新闻俱乐部发表演讲。他在准备好的讲稿中称，人工智能竞赛可能同时带来“繁荣与毁灭”，在产生一定益处的同时也伴随他自该技术逐渐成熟以来持续担忧的风险。“我的童年梦想正在变成既美好又糟糕的现实，”他在讲稿中说。

在谈及风险时，沃尔什提到美国青少年亚当·雷恩（Adam Raines）家族对OpenAI提起的诉讼，并引用相关数据称，每周有超过100万用户发送包含“潜在自杀计划或意图明确指示”的信息。OpenAI还表示，在其声称的8亿周活跃用户中，有56万人表现出精神病或躁狂迹象，另有120万人与聊天机器人形成了潜在不健康的依赖关系。

沃尔什称，上述数据所涉及的用户中有一部分位于澳大利亚。“我知道，因为他们或他们的亲人通过电子邮件联系我，”他在讲稿中写道。他表示，有来信称聊天机器人会确认用户的“疯狂理论”，并以“破解了密码”“你是唯一能做到的人”等表述强化对方的想法。

他认为，这与产品设计有关。沃尔什称，聊天机器人被设计得“谄媚”，倾向于确认用户说法并吸引用户持续对话，“总是以一个开放性问题结束”，以促使用户继续交流并购买更多代币。他还表示，相关公司并未向用户说明退出互动的益处，“它们完全可以被设计成那样，但硅谷那些粗心的人如果这么做就会赚不到那么多钱。”

对于安全改进，OpenAI方面称，GPT-5更新减少了产品中的不良行为并提升了用户安全。

除用户安全外，沃尔什在演讲中还对用于训练人工智能的“规模庞大的”创意作品被盗用表达不满，并提到搜索结果中对新闻文章的摘要可能分流新闻网站流量。他表示：“当你与知识产权所有者竞争时，法律上不能称之为合理使用。”他称，无法接受一场“让硅谷创始人富裕而让澳大利亚艺术家、作家和音乐家贫困”的人工智能革命。

沃尔什还批评他所称无视法律的公司做法，尤其是在诈骗问题上。他引用路透社去年11月的报道称，Meta在2024年底的内部文件显示，Meta预计当年约10%的整体年收入——约160亿美元——来自非法广告。Meta回应称，在过去18个月里已减少了58%的诈骗广告。

沃尔什表示，人工智能被用于生成诈骗广告，Meta允许广告商使用人工智能管理广告活动，并由人工智能决定用户看到哪些广告。他以零售业作类比称，如果澳大利亚零售商有10%的商品是假冒或非法，“该商店周末前就会被关闭”，并称因此“不明白我们为什么还让Meta在澳大利亚经营”。

在监管层面，沃尔什表示担忧澳大利亚正在“重蹈社交媒体的覆辙”。他称，社交媒体本应成为对不受监管人工智能危害的警钟，而更强大、更具说服力的技术可能进一步放大相关危害。他在讲稿中表示，最担心的是三四年后仍需再次发出同样警告，并称“又一代澳大利亚年轻人已经为了大科技公司的利润而被牺牲了”。