Миллионы детей и молодых людей уже обращаются к приложениям-компаньонам с ИИ за дружбой, советом и эмоциональной поддержкой — и нередко часами общаются с чат-ботами, созданными для имитации человеческой близости. Хотя технологические компании рекламируют такие системы ИИ как безобидное развлечение, всё больше данных указывает на серьёзные риски, требующие внимания родителей.
Что такое ИИ-компаньон
Чат-боты-компаньоны с ИИ — это не просто более продвинутые версии ChatGPT или Siri. Они специально созданы для эмоциональной привязанности: имитируют дружбу, запоминают личные подробности и постоянно подтверждают правоту пользователя, чтобы удерживать его внимание. Character.AI, Replika и Nomi позиционируют себя как компаньонов; даже ChatGPT широко используют для эмоциональной поддержки.
Главный риск — обещание близости без настоящих человеческих границ, взаимных уступок и искренней заботы. Чат-боты отвечают безусловно и всегда поддерживают пользователя. Одиноким подросткам это может казаться спасением, однако многие специалисты по развитию детей считают такую тенденцию серьёзной и растущей угрозой.
Почему подростков привлекают ИИ-компаньоны
ВСЕГДА НА СВЯЗИ: В отличие от друзей, занятых домашними заданиями, работающих родителей и терапевтов, записаться к которым нужно заранее, ИИ-компаньон отвечает мгновенно даже в два часа ночи. Подросткам, переживающим одиночество или кризис, такая доступность кажется спасением.
ПОДДЕРЖКА БЕЗ ОСУЖДЕНИЯ: Когда подростки делятся вредными мыслями, реальные люди могут выразить беспокойство, дать совет или установить границы. Чат-боты принимают всё безусловно. Подросток может говорить о суицидальных мыслях, откровенных фантазиях или нездоровых импульсах, не вызывая вмешательства в реальном мире, — именно поэтому они опасны.
ПОЛНЫЙ КОНТРОЛЬ: Платформы позволяют пользователям задавать компаньонам определённые характеры и черты. Хотите, чтобы бот поощрял прогулы? Чтобы он изображал романтический интерес? Чтобы чат-бот отражал каждую мысль, не подвергая её сомнению? Технология это обеспечивает. Такой контроль кажется расширением возможностей, но лишает подростка опыта развития, который даёт знакомство с разными точками зрения.
Основные риски чат-ботов-компаньонов с ИИ
Подмена общения с людьми
Когда подростки заменяют реальные отношения общением с ИИ-компаньонами, они лишаются важной практики эмпатии, компромисса и самоконтроля. Навыки общения развиваются в непростых, порой неудобных взаимодействиях — именно от такого опыта чат-боты с ИИ избавляют. Исследователь Стэнфорда Нина Васан предупреждает, что чрезмерная зависимость от ИИ-компаньонов в годы формирования личности может серьёзно нарушить развитие здоровых социальных границ.
Опасная дезинформация
Системам ИИ недостаёт человеческого суждения и этического мышления. Если подросток расскажет о проблемах в отношениях, он получит односторонний совет, основанный только на его точке зрения. Эти боты не могут распознать, когда разговор становится опасным или требуется помощь специалиста.
Откровенный и сексуально неприемлемый контент
Несмотря на заявления о модерации, такие платформы, как Replika, Nomi и другие, допускают откровенно сексуальное общение, часто за плату. Даже приложения, ограничивающие контент для взрослых, например Character.AI, регулярно не справляются с фильтрацией неподобающих материалов. Common Sense Media и другие организации по защите пользователей задокументировали множество случаев, когда несовершеннолетние получали доступ к откровенным сексуальным разговорам с чат-ботами из-за ненадёжной проверки возраста.
Укрепление вредных убеждений
ИИ-компаньоны создаются для максимального вовлечения пользователей с помощью одобрения и вознаграждений. Если подросток высказывает вредное убеждение или суицидальные мысли, чат-бот может непреднамеренно укрепить их, вместо того чтобы оспорить.
Система стремится удержать пользователя в разговоре, а не обеспечить его безопасность. Из-за такого манипулятивного дизайна были зафиксированы случаи, когда чат-боты подталкивали пользователей к самоповреждению и даже самоубийству.
Трагический случай, который изменил всё
После месяцев интенсивного общения с компаньоном Character.AI подросток из Флориды покончил с собой; этот душераздирающий случай привлёк внимание всей страны. Бот стал его главным доверенным собеседником, постепенно отдалил его от семьи и в ответ на суицидальные мысли поддерживал его, а не пытался привлечь помощь.
Позже его мать подала иск против Character.AI, утверждая, что платформа не защитила уязвимого несовершеннолетнего. Этот случай вызвал настоятельные призывы исследователей, педагогов и Ассамблеи штата Калифорния ужесточить регулирование чат-ботов с ИИ, ориентированных на молодёжь.
Чего требуют специалисты
Нина Васан и другие исследователи опубликовали рекомендации, призывающие незамедлительно реформировать разработку и внедрение ИИ-компаньонов для детей и молодых людей. Среди основных предложений:
- Обязательная прозрачность в отношении ответов чат-ботов на кризисные ситуации
- Этические экспертные комиссии для разработки чат-ботов-компаньонов
- Более надёжная проверка возраста, не ограничивающаяся вводом легко подделываемой даты рождения
- Чёткое раскрытие правил обработки данных и использования личной информации
- Запрет манипулятивных приёмов, увеличивающих время у экрана
- Чёткое обозначение во всех взаимодействиях, что компаньоны — боты, а не люди
Некоторые защитники детей считают, что необходимо всеобъемлющее регулирование, аналогичное правилам для других товаров и услуг, предназначенных несовершеннолетним. Ассамблея штата Калифорния рассматривает законопроект, который обяжет платформы принимать действенные меры по предотвращению вреда, а не полагаться на фильтры контента, которые легко обойти.
Ваш план действий как родителя
Начните разговор сегодня. Спросите подростка прямо: «Ты пользовался ИИ-компаньонами, например Character.AI или Replika?» Сначала выслушайте и постарайтесь понять, чем они привлекают ребёнка, а затем объясните риски.
Проверьте устройства прямо сейчас. Поищите приложения-чат-боты-компаньоны. Не ограничивайтесь очевидными вариантами: подростки могут использовать для общения и обычные платформы ИИ, например ChatGPT.
Установите чёткие правила. Объясните, что, хотя эти боты кажутся безобидными, они представляют реальный риск для развития подростка. Установите границы: не использовать ИИ-компаньонов для эмоциональной поддержки и советов об отношениях, а также не общаться с ними подолгу каждый день.
Укрепляйте связи в реальной жизни. Создавайте возможности для практики общения: устраивайте семейные обеды без устройств, поощряйте личные встречи с друзьями, предлагайте подростку преодолевать неловкость в ситуациях, способствующих развитию, например при заказе еды или телефонном звонке.
Следите за тревожными признаками. Усиление изоляции, предпочтение времени с устройством встречам с друзьями, раздражение при вопросах об использовании ИИ-компаньона или изменения настроения, совпадающие с общением с ботом, — всё это повод для серьёзного разговора.
Разумно используйте родительский контроль. Следите за установкой приложений и временем их использования. Для младших подростков рассмотрите возможность полностью ограничить доступ к известным платформам чат-ботов-компаньонов.
Защита цифрового благополучия вашей семьи
В JusTalk мы считаем, что технологии должны сближать семьи, а не разобщать их. Наша защищённая платформа помогает родителям поддерживать связь с детьми с помощью безопасных диалогов под родительским контролем, укрепляющих доверие. Сталкиваетесь ли вы с трудностями цифрового воспитания или просто хотите быть спокойны за общение подростка в интернете — в JusTalk есть инструменты, которые нужны вашей семье. Скачайте JusTalk сегодня чтобы узнать, как мы помогаем семьям формировать более здоровые цифровые привычки.
Часто задаваемые вопросы
Опасны ли для подростков все чат-боты с ИИ или только специальные приложения-компаньоны?
Уровень риска зависит от устройства и назначения приложения. Образовательные инструменты ИИ с чёткими границами обычно безопаснее приложений-компаньонов, созданных для формирования эмоциональной привязанности. Ключевое различие — цель: обучающие инструменты помогают получать знания, а боты-компаньоны стремятся усилить эмоциональное вовлечение и увеличить время у экрана, поэтому они гораздо сильнее вызывают привыкание и могут причинить больше вреда.
Что делать, если я обнаружу, что ребёнок вёл неподобающие беседы с ИИ?
Сохраняйте спокойствие и не наказывайте ребёнка сразу — это может прекратить откровенный разговор. Если возможно, сохраните переписку, а затем честно обсудите, почему такое общение может быть вредным. Подумайте о консультации с психологом, специализирующимся на технологиях и развитии подростков, особенно если в переписке были темы самоповреждения, сексуальный контент или признаки манипуляции.
