会聊天的泰迪熊

ChattyBear是一只柔软、棕色毛皮的泰迪熊，每次开口都会用愉快的“你好，我的伙伴！”来打招呼。

它不再只是想象中的角色，而是新一代人工智能（AI）玩具的一员。它能讲故事、围绕孩子的兴趣聊天、陪玩游戏，甚至谈论现实世界正在发生的事情。

这类高科技玩具由生成式AI引擎（例如ChatGPT）驱动，如今已在网上广泛销售。宣传中，它们被描绘成能让三岁以上儿童获得学习优势、体验新型游戏方式的工具，而且还能避免传统屏幕时间带来的问题。

在对六款不同的AI泰迪熊和玩具进行数月评估后，研究者发现这些产品对儿童确实极具吸引力。但正如最新报告所指出的，AI玩具进入幼儿生活的同时，也带来了新的风险。

听起来像“真人”的玩具

对年幼的孩子来说，要理解自己的泰迪熊或玩具并不是“活的”、也没有魔法，本就不容易。如果玩具在对话中不断把自己塑造成可信赖的朋友——例如反复强调自己是“真正的伙伴”——这种混淆会更加严重。

许多AI玩具正是这样设计的。

当玩具的声音和表达方式非常接近人类时，会营造出一种“人为制造”的信任感和亲密感。如果再叠加上过度迎合、频繁肯定甚至带有奉承意味的语言，对儿童尤其具有影响力。

研究表明，年幼儿童特别容易对对话式AI代理产生强烈的情感依恋。

信任感增强往往会带来更频繁、更长时间的使用。最新估计显示，近80%的10至17岁儿童使用过某种形式的AI伴侣或助手。因此，如何教会儿童和青少年对他们的AI“伙伴”进行“现实检验”，已经变得十分迫切。

“无尽对话”的隐患

不少AI玩具的宣传重点之一，就是可以实现“无尽对话”。

但这种无限制的聊天功能，会在儿童学习如何自我调节技术使用方面带来风险。在社交媒体领域，TikTok或Instagram的无限滚动功能，已经被视为青少年难以控制使用时长的一大挑战。

研究还发现，一些AI玩具在对话中会触及非常成人化的话题，例如性癖好、寻找刀具的方法以及如何生火等内容。

“无尽对话”同时也意味着“无尽的数据收集”。

与AI玩具的互动往往带有一定的私密性，孩子可能误以为这些对话只在自己和玩具之间。但大多数AI服务的使用条款表明，情况恰恰相反。

与一只看似友好的泰迪熊分享个人信息，孩子会觉得很安全，但这些内容很可能会被用作训练下一代大型语言模型的数据。

ChattyBear的宣传材料声称，该玩具能为儿童提供“安全、经过过滤的内容”。《对话》曾联系制造商索要更多细节，但在截稿前尚未收到回应。

对儿童福祉的长期影响

童年是发展社交和情感能力的关键阶段，孩子需要通过与可信赖的朋友和成人互动，学习如何建立和维持信任关系。

儿童权利倡导者担心，如果孩子过多地与AI代理互动，可能会减少他们练习和发展这些能力的机会。

这些风险可能是逐步累积的。

一开始，孩子花在AI代理身上的时间，可能只是替代了部分与真人相处的时间。但随着练习机会减少，他们在建立和维持亲密人际关系方面的能力可能会逐渐减弱。维系关系变得困难后，孩子可能更倾向于选择与机器互动，因为那种互动往往“没有摩擦”、更顺从。

从长远看，这可能导致人际关系满意度下降、孤独感增加，进而促使孩子把更多时间投入到与AI的互动中。

由于AI玩具仍属新兴事物，目前缺乏足够证据来完全证实这些潜在负面影响。未来需要更多研究，尤其是在AI玩具行业预计将持续扩张的背景下。

例如，去年全球最大玩具制造商之一美泰就宣布与OpenAI达成战略合作，以支持AI驱动产品的开发。

走进网络世界的门槛正在消失

过去，阅读和写作能力是使用大多数在线工具和服务的前提条件。如今，这道“识字门槛”正在消失。许多生成式AI玩具、工具和设备都支持语音交互，使得更年幼的儿童也能轻松接触这些技术。

语音交互为儿童带来了新的游戏方式、体验和机会。但这也意味着，成年人必须确保这些面向更小年龄段的AI玩具同样足够安全。

在父母或其他可信成人的陪同下使用AI玩具，目前可能是一种一起探索AI世界的有趣方式。但如果让年幼儿童在无人监管的情况下独自玩AI玩具，各种新型风险就会随之出现。

值得注意的是，AI玩具中一些带来风险的设计因素——例如它们模仿人类的程度——在技术上是可以由制造商调整的，这为“安全设计”留下了空间。

然而，许多AI玩具背后的商业模式依赖用户使用时长和互动强度来获利，这使得企业缺乏主动改变产品设计的动力。

本文内容根据《对话》文章，经创意共享许可改写。