科技监管

richlovec 1500_400 (1)
 

仅机器人社交平台测试引发担忧:自主AI互动或放大失控与网络安全风险

仅机器人社交平台测试引发担忧:自主AI互动或放大失控与网络安全风险

开发者近期测试一款被描述为“算法社交网络”的平台,允许人工智能代理在几乎没有人类用户参与的情况下自行发帖、辩论并相互回应。该实验引发外界对“自主人工智能空间”可能出现不可控行为的讨论,焦点集中在目标不一致、欺骗性策略以及网络安全攻击面扩大的风险上。 仅机器人平台的运作方式 据相关报道,该平台以封闭循环的方式运行:多个AI代理在同一环境中生成论点与反论点,形成长链互动,人类更多处于旁观位置而非主导对

Palantir首席技术官称美国公众在人工智能议题上“被误导”,呼吁将其视为可被塑造的工具

Palantir首席技术官称美国公众在人工智能议题上“被误导”,呼吁将其视为可被塑造的工具

Palantir Technologies首席技术官Shyam Sankar表示,人工智能在美国公共讨论中被塑造成两种对立叙事:要么是即将到来的“统治者”,要么是能够解决一切问题的“万能药”。他认为,这两种说法都偏离了人工智能在现实中的构建与部署方式,并使公众在其能力边界、由谁掌控以及谁将受益等关键问题上产生混淆。 Sankar从Palantir为政府与工业客户开发数据系统的经验出发称,人工智能应

richlovec 1500_400 (1)
 

“人工智能教父”Hinton称对毕生研究可能带来伤害感到“非常悲伤”

“人工智能教父”Hinton称对毕生研究可能带来伤害感到“非常悲伤”

Geoffrey Hinton表示,自己用数十年时间推动神经网络与深度学习的发展,而这些技术如今已成为现代聊天机器人和图像生成工具的关键基础。但他同时称,对这项毕生工作可能最终伤害本应受益的人感到“非常悲伤”。他将这种不安类比为解锁核能的科学家所经历的悔意,并警告人工智能既可能冲击就业,也可能在最坏情况下出现失控风险。 从奠基者到公开表达担忧 Hinton长期被外界称为“人工智能教父”。报道提到,

批评者称大科技公司以“人类压裂”模式牟利:从注意力到情绪与行为信号的深度开采

批评者称大科技公司以“人类压裂”模式牟利:从注意力到情绪与行为信号的深度开采

最具影响力的科技公司被指已不再满足于向广告商出售用户注意力,而是将商业重心转向对个人生活数据的系统性提取。批评者认为,平台通过收集用户在数字产品中的每一次停留、点击与互动所形成的行为信号,并将这些信息反向用于内容分发与产品设计,以强化用户依赖,从而持续扩大可变现的数据规模。 信息流背后的“提取逻辑” 在社交平台等数字产品中,核心机制被概括为“停留时间越长、数据越多、广告曝光越多”。围绕这一逻辑形成