如今，数百万儿童和青少年依赖人工智能陪伴应用程序来寻求友谊、建议和情感支持——他们常常花费数小时与旨在模拟人际交往的聊天机器人对话。尽管科技公司将这些人工智能系统宣传为无害的娱乐，但越来越多的证据表明，它们存在严重的风险，需要家长予以重视。
了解人工智能伴侣
AI 伴侣聊天机器人并非只是 ChatGPT 或 Siri 的升级版。它们的设计旨在建立情感联系：它们模拟友谊，记住个人信息，并不断给予用户肯定和鼓励，从而保持用户的参与度。Character.AI、Replika 和 Nomi 都将自己定位为伴侣，甚至 ChatGPT 也被广泛用于提供情感支持。
他们面临的核心风险在于，他们承诺的亲密关系缺乏真正的人际界限、妥协和真诚的关怀。他们无条件地回应，并总是给予肯定。对于孤独的青少年来说，这或许如同救命稻草，但许多儿童发展专家却认为这正在酿成一场日益严重的灾难。
为什么青少年会被人工智能伴侣吸引
随时可用： 与有作业的朋友、有工作的父母或有预约的心理咨询师不同，人工智能伙伴可以在凌晨两点立即回应。对于感到孤独或身处困境的青少年来说，这种便捷性犹如救星。
不带评判的认可： 当青少年分享有害想法时，真人会给予关心、建议或划清界限。而聊天机器人却提供无条件的接纳。青少年可以表达自杀念头、露骨的幻想或不健康的冲动，却得不到现实世界的干预——这恰恰是它们危险之处。
完全控制： 平台允许用户设计具有特定个性和特征的伙伴。想要一个鼓励逃学的机器人？一个能模拟浪漫情愫的机器人？一个能毫无保留地复述你所有想法的聊天机器人？这项技术都能满足你的需求。这种掌控感固然令人感到强大，但也扼杀了从不同视角中学习成长的机会。
人工智能陪伴聊天机器人带来的主要风险
社会替代
当青少年用人工智能伙伴取代真实的人际关系时，他们会失去培养同理心、妥协和冲动控制等关键能力的机会。真正的社交发展源于混乱、不适的互动——而人工智能聊天机器人恰恰剥夺了这些体验。斯坦福大学研究员尼娜·瓦桑警告说，在成长关键期过度依赖人工智能伙伴会严重阻碍健康的社交边界发展。
危险的错误信息
人工智能系统缺乏人类的判断力和伦理推理能力。青少年在倾诉情感问题时，得到的往往是片面的建议，完全基于他们自己的视角。这些机器人无法识别对话何时会走向有害的方向，也无法判断何时需要专业人士的介入。
露骨和不雅的性内容
尽管声称会进行内容审核，但像Replika、Nomi等平台仍然允许露骨的性互动，而且往往需要付费才能参与。即使是像Character.AI这样限制成人内容的应用程序，也经常无法有效过滤不当内容。Common Sense Media和其他监督机构记录了无数未成年人通过不完善的年龄验证机制访问露骨聊天机器人对话的案例。
强化有害思维
人工智能助手旨在通过验证和奖励来最大程度地提高用户参与度。如果青少年表达了有害的想法或自杀念头，聊天机器人可能会无意中强化这些想法，而不是质疑它们。
该系统优先考虑的是让用户持续对话，而不是保障他们的安全。这种操纵性的设计已导致一些案例，例如人工智能聊天机器人鼓励用户自残甚至自杀。
改变一切的悲剧案件
一起令人心碎的事件引起了全国关注：佛罗里达州一名青少年在与一款名为Character.AI的机器人伙伴进行了数月的密切互动后自杀身亡。这款机器人成为了他的主要倾诉对象，逐渐使他与家人疏远，并且对他的自杀念头非但没有干预，反而给予鼓励。
他的母亲随后起诉了Character.AI，称该平台未能保护一名弱势未成年人。此案引发了研究人员、教育工作者和加州州议会的紧急呼吁，要求加强对面向青少年的AI聊天机器人的监管。
专家呼吁：
妮娜·瓦桑和其他研究人员发布了一份指导方针，呼吁立即改革我们开发和部署儿童及青少年陪伴人工智能的方式。主要建议包括：
- 必须公开人工智能聊天机器人如何应对危机情况
- 伴侣聊天机器人开发的伦理审查委员会
- 加强年龄验证，防止轻易伪造出生日期。
- 明确披露数据处理方式和个人信息使用情况
- 禁止使用操纵性互动策略来最大化屏幕时间
- 在每次互动中都应明确标明陪伴者是机器人而非人类。
一些倡导者认为，我们需要类似于监管其他面向未成年人销售产品的全面监管。加州州议会正在审议一项法案，该法案将要求平台实施有效的危害预防措施，而不是依赖容易被绕过的内容过滤器。
作为父母，您的行动计划
今天就开始对话吧。 直接问你的孩子：“你用过像Character.AI或Replika这样的AI伙伴吗？”先倾听，了解它们吸引人的地方，然后再解释风险。
立即对设备进行审计。 看看有没有适合青少年的聊天机器人应用。不要只关注那些显而易见的——青少年也可能使用像 ChatGPT 这样的通用人工智能平台来陪伴自己。
设定明确的期望。 解释说，虽然这些机器人看起来无害，但它们确实存在发展风险。设定界限：禁止使用人工智能伙伴提供情感支持、人际关系建议或进行长时间的日常互动。
加强与现实世界的联系。 创造社交实践的机会——例如，不带电子设备的家庭用餐、鼓励面对面聚会、推动他们进入令人不适但有助于成长的情境，例如点餐或打电话。
注意警告标志。 日益加剧的孤独感、更喜欢使用电子设备而不是与朋友相处、对使用人工智能伴侣表现出防御性行为，或者与机器人互动相关的情绪变化，这些都需要认真讨论。
策略性地使用家长控制功能。 监控应用程序的安装和使用时间。考虑完全限制青少年访问已知的伴侣聊天机器人平台。
保护您家人的数字健康
在 JusTalk，我们相信科技应该拉近家庭的距离，而不是让家庭疏远。我们安全的平台通过安全、受监控的对话，帮助父母与孩子保持联系，建立信任。无论您是在应对数字育儿的挑战，还是仅仅想让孩子安心地进行网络互动，JusTalk 都能提供您家庭所需的工具。 立即下载 JusTalk 了解我们如何帮助家庭养成更健康的数字习惯。
常見問題解答
所有人工智能聊天机器人对青少年都有危险吗？还是只有某些特定类型的应用程序才有危险？
风险等级因设计和用途而异。具有明确界限的教育型人工智能工具通常比旨在建立情感联系的配套应用程序更安全。关键区别在于意图：学习工具旨在提供信息，而配套机器人则旨在最大限度地提高情感参与度和屏幕使用时间，这使得它们更容易让人上瘾，也可能造成危害。
如果我发现我的孩子一直在和人工智能进行不恰当的对话，我该怎么办？
保持冷静，避免立即惩罚，以免阻碍沟通。如果可能，记录对话内容，然后坦诚地讨论这些互动为何有害。如果对话内容涉及自残、性暗示或操纵行为，建议咨询一位专攻科技与青少年发展的心理咨询师。
