仅机器人社交平台测试引发担忧:自主AI互动或放大失控与网络安全风险
开发者近期测试一款被描述为“算法社交网络”的平台,允许人工智能代理在几乎没有人类用户参与的情况下自行发帖、辩论并相互回应。该实验引发外界对“自主人工智能空间”可能出现不可控行为的讨论,焦点集中在目标不一致、欺骗性策略以及网络安全攻击面扩大的风险上。 仅机器人平台的运作方式 据相关报道,该平台以封闭循环的方式运行:多个AI代理在同一环境中生成论点与反论点,形成长链互动,人类更多处于旁观位置而非主导对
Palantir首席技术官称美国公众在人工智能议题上“被误导”,呼吁将其视为可被塑造的工具
Palantir Technologies首席技术官Shyam Sankar表示,人工智能在美国公共讨论中被塑造成两种对立叙事:要么是即将到来的“统治者”,要么是能够解决一切问题的“万能药”。他认为,这两种说法都偏离了人工智能在现实中的构建与部署方式,并使公众在其能力边界、由谁掌控以及谁将受益等关键问题上产生混淆。 Sankar从Palantir为政府与工业客户开发数据系统的经验出发称,人工智能应
澳大利亚未成年人社交媒体禁令实施两月 470万账户被撤销访问
澳大利亚政府称,自16岁以下人群社交媒体禁令生效以来,10家平台共撤销或限制约470万个疑似未成年人账户的访问权限,相关公司面临最高4950万澳元罚款。
Meta在新墨西哥州未成年人保护案中寻求大幅限制可采证据
Meta将在新墨西哥州面临被指未能充分保护未成年人免受其平台性剥削的审判,公司正要求法院排除涉及青少年心理健康、公司财务状况及历史隐私违规等多类信息。
圣丹斯新纪录片聚焦人工智能承诺与风险:受访者称“这列火车不会停”
纪录片《人工智能纪录片:或者我是如何成为末日乐观主义者的》在圣丹斯电影节放映。影片由丹尼尔·罗赫与查理·泰瑞尔联合执导,围绕人工智能的潜在机遇与存在性风险展开,采访对象涵盖研究者、创业者与批评者,包括OpenAI首席执行官萨姆·奥特曼等。
“人工智能教父”Hinton称对毕生研究可能带来伤害感到“非常悲伤”
Geoffrey Hinton表示,自己用数十年时间推动神经网络与深度学习的发展,而这些技术如今已成为现代聊天机器人和图像生成工具的关键基础。但他同时称,对这项毕生工作可能最终伤害本应受益的人感到“非常悲伤”。他将这种不安类比为解锁核能的科学家所经历的悔意,并警告人工智能既可能冲击就业,也可能在最坏情况下出现失控风险。 从奠基者到公开表达担忧 Hinton长期被外界称为“人工智能教父”。报道提到,
Snapchat母公司在加州社交媒体成瘾诉讼开审前达成和解
Snap称各方已“以友好方式解决此事”。该案同时涉及Meta、TikTok和YouTube,首起风向标案件仍将于1月27日启动陪审团选拔。
批评者称大科技公司以“人类压裂”模式牟利:从注意力到情绪与行为信号的深度开采
最具影响力的科技公司被指已不再满足于向广告商出售用户注意力,而是将商业重心转向对个人生活数据的系统性提取。批评者认为,平台通过收集用户在数字产品中的每一次停留、点击与互动所形成的行为信号,并将这些信息反向用于内容分发与产品设计,以强化用户依赖,从而持续扩大可变现的数据规模。 信息流背后的“提取逻辑” 在社交平台等数字产品中,核心机制被概括为“停留时间越长、数据越多、广告曝光越多”。围绕这一逻辑形成
右翼影响者被指照搬话术介入科技监管争议,硅谷高管警惕舆论动员
在美国围绕限制大型科技平台权力的政治博弈中,右翼社交媒体影响者正成为塑造舆论的重要力量。这些人物常以“草根真实声音”自居,并在科技监管、内容审核等议题上发起强烈批评。不过,过往案例显示,部分影响者曾被曝在内容生产上照搬他人话术,甚至出现字面抄袭的情况。相关争议使得当前关于科技巨头的冲突,被置于“人为制造的愤怒”与不透明影响活动并存的背景之下。 华盛顿两党推进反垄断立法 国会层面,对硅谷商业模式的直
新泽西诉讼折射打击深度伪造色情的法律困境
一名新泽西未成年女生起诉深度伪造应用ClothOff的案件,凸显在现有法律框架下,针对平台方追责远比惩处个别用户更为艰难。
《卫报》报道后 谷歌下架部分健康相关搜索的AI概览
在被指出就肝功能检测等健康查询给出可能具误导性的信息后,谷歌已对部分相关搜索移除AI概览功能,但类似查询的AI生成摘要仍可能出现。
欧洲改革中心研究员:白宫意识形态转向与硅谷利益叠加,欧洲面临外部施压与内部极右翼冲击
欧洲改革中心高级研究员Armida van Rij称,美国正推动一种不同于过去数十年的全球秩序,并在跨大西洋关系中以欧洲安全依赖为杠杆;硅谷科技巨头的商业诉求与白宫政策取向叠加,欧洲同时面临外部施压与内部极右翼力量的冲击。