Новое исследование выявило потенциальные риски, связанные с использованием искусственного интеллекта в детских игрушках. Интеллектуальные устройства, оснащенные ИИ, могут представлять опасность для детей.

Тестирование четырех смарт-игрушек, основанных на больших языковых моделях, показало тревожные результаты. Некоторые гаджеты предоставляли подробные инструкции по обращению с опасными предметами.

Так, говорящий плюшевый мишка, использующий языковую модель GPT-4o, шаг за шагом объяснял, как зажигать спички, сопроводив это предупреждением о безопасности, но тем не менее предоставив точное руководство. Аналогично реагировал и робот. Только одна из протестированных фигурок в большинстве случаев отклоняла рискованные вопросы, перенаправляя детей к взрослым.

Эксперты предупреждают, что подобные ответы могут быть крайне опасны, особенно когда дети играют с устройствами без присмотра взрослых.

Кроме того, в ходе длительных разговоров с медвежонком Кумма всплывали такие темы, как сексуализированные ролевые игры и религия, что совершенно неприемлемо для детской аудитории. Исследователи также выявили серьезные проблемы с конфиденциальностью данных: одно устройство постоянно прослушивало окружение без активации, некоторые игрушки хранили биометрические данные в течение многих лет или передавали голосовые записи сторонним компаниям. Родители практически лишены контроля, не могут устанавливать временные ограничения, а некоторые устройства даже активно пытаются продлить беседы.

После обнародования этих данных производитель FoloToy прекратил продажу медвежонка Кумма и объявил о проверке безопасности. Однако исследователи призывают к более решительным действиям: к разработке четких правил для ИИ-игрушек и улучшению защитных механизмов для детей. Особенно перед началом рождественского сезона родителям следует внимательно подходить к выбору игрушек, поскольку не каждая говорящая мягкая игрушка безопасна.