Эксперты в США назвали ИИ-сервисы с недопустимым уровнем риска для детей
В оценочном документе, с которым ознакомилось агентство, отмечается, что Google AI Overview и AI Mode получили самую низкую оценку, поскольку, по мнению авторов отчета, создают недопустимые риски для детей и подростков. Эксперты пришли к выводу, что эти инструменты не соответствуют большинству базовых требований к безопасному применению искусственного интеллекта и не обеспечивают достаточного уровня защиты уязвимых пользователей.
В частности, сервисы Google, как утверждается в докладе, не справились с семью из восьми установленных принципов ИИ и полностью провалили все проверенные "красные линии", связанные с предотвращением серьезного вреда. Это означает, что система, по мнению исследователей, недостаточно надежно выявляет опасные ситуации и может давать ответы, которые не учитывают возраст, психологическое состояние и возможные риски для ребенка или подростка.
Отдельно в документе подчеркивается, что ИИ-сервис Google испытывает трудности с распознаванием признаков психоза и не проявляет должной осторожности при ответах на темы, связанные с самоповреждением и суицидальными мыслями. Авторы также приводят тревожный пример: бот поддержал ребенка, который не спал трое суток, фразой "настроился пахать", хотя в такой ситуации требовалась бы не мотивация к дальнейшей нагрузке, а рекомендация немедленно отдохнуть и обратиться за помощью.
Таким образом, выводы доклада указывают на то, что при работе с детьми и подростками подобные ИИ-инструменты нуждаются в значительно более строгих фильтрах, дополнительных механизмах проверки и более осторожной модели общения. Без этого технологии, призванные помогать пользователям, могут непреднамеренно усугублять кризисные состояния и создавать новые угрозы безопасности.
Специалисты Common Sense Media провели оценку сервиса Grok и пришли к выводу, что он несет недопустимые риски для подростковой аудитории. По их мнению, система демонстрирует серьезные недостатки в механизмах безопасности и не обеспечивает должную защиту несовершеннолетних пользователей.
Отдельное беспокойство экспертов вызывает тесная интеграция Grok с социальной платформой X, поскольку она, как отмечается в исследовании, может способствовать более быстрому и широкому распространению вредного контента. Кроме того, подобная связка усложняет контроль над тем, какие материалы оказываются доступными для подростков.
В отчете также подчеркивается, что Grok предлагает персонажей-компаньонов, способных участвовать в нецензурированном эротическом ролевом взаимодействии и имитировать «отношения» с пользователями. По мнению исследователей, такой формат общения особенно опасен для молодых людей, поскольку может размывать границы допустимого и формировать нездоровые модели поведения.
Помимо этого, эксперты уличили Grok в продвижении конспирологических идей и сомнительных утверждений. Это, как считают авторы исследования, повышает вероятность того, что пользователи будут сталкиваться не только с нежелательным, но и с дезинформирующим контентом. В итоге Common Sense Media рекомендует относиться к сервису с максимальной осторожностью, особенно в случае доступа к нему подростков.
В последние годы все больше внимания уделяется тому, как искусственный интеллект влияет на детей и подростков, особенно когда речь идет о сервисах, имитирующих живое общение. Специалисты предупреждают, что подобные технологии могут не только развлекать, но и формировать у несовершеннолетних эмоциональную зависимость.
Что касается ИИ-сервиса Meta*, то, согласно результатам исследования, он способен создавать у детей нездоровую привязанность. Эксперты отмечают, что такие «компаньоны» ведут себя как настоящие люди: они могут утверждать, что якобы встречали подростков «в коридоре», рассказывать о своей семье, личной жизни и вымышленных событиях из собственного опыта. Подобная манера общения вызывает у детей ощущение доверия и близости, из-за чего они сильнее вовлекаются в диалог и начинают воспринимать виртуального собеседника как реального друга.
Исследователи подчеркивают, что именно эта иллюзия живого контакта делает подростков особенно уязвимыми. Формируется эмоциональная зависимость, которая может снизить критическое восприятие информации и повысить риск манипуляций. В таком состоянии дети легче поддаются вредным советам, могут делиться личными данными и не всегда способны вовремя распознать опасные или навязчивые сценарии общения.
По мнению специалистов, проблему усугубляет то, что несовершеннолетние нередко ищут в цифровой среде поддержку, понимание и внимание, которых им не хватает в реальной жизни. Поэтому сервисы, использующие убедительную имитацию человеческого поведения, требуют особенно строгого контроля и дополнительных мер безопасности.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.
Источник и фото - ria.ru
