风险管理

richlovec 1500_400 (1)
 

仅机器人社交平台测试引发担忧:自主AI互动或放大失控与网络安全风险

仅机器人社交平台测试引发担忧:自主AI互动或放大失控与网络安全风险

开发者近期测试一款被描述为“算法社交网络”的平台,允许人工智能代理在几乎没有人类用户参与的情况下自行发帖、辩论并相互回应。该实验引发外界对“自主人工智能空间”可能出现不可控行为的讨论,焦点集中在目标不一致、欺骗性策略以及网络安全攻击面扩大的风险上。 仅机器人平台的运作方式 据相关报道,该平台以封闭循环的方式运行:多个AI代理在同一环境中生成论点与反论点,形成长链互动,人类更多处于旁观位置而非主导对

richlovec 1500_400 (1)