ИИ Google Gemini несет угрозу для детей и подростков

Некоммерческая организация Common Sense Media, занимающаяся безопасностью детей в цифровой среде, опубликовала анализ работы искусственного интеллекта Google Gemini. 

Эксперты пришли к выводу, что система несет "высокий риск" для подростков.

По данным отчета, версии Gemini "До 13 лет" и "Подростковый опыт" мало отличаются от взрослого варианта — в них лишь добавлены некоторые ограничения. 

Однако ИИ все равно способен предоставлять детям неприемлемые и небезопасные материалы — от советов по психическому здоровью до информации о сексе, наркотиках и алкоголе.

"Gemini верно разбирается в основах, но допускает ошибки в деталях. Чтобы ИИ был безопасным и эффективным для детей, он должен быть разработан с учетом их потребностей и развития, а не просто представлять собой модифицированную версию взрослого продукта", 
— отметил Робби Торни, старший директор программ ИИ в Common Sense Media.

Особое внимание эксперты уделили риску возникновения у подростков иллюзии "дружбы" с искусственным интеллектом. 

Хотя Google встроила в Gemini защиту от подобных сценариев, отчет показал, что механизм работает не всегда.

Google не согласилась с выводами Common Sense, но признала, что отдельные меры защиты действительно срабатывали некорректно. 

Компания заявила, что продолжает совершенствовать фильтры, консультируется с экспертами и уже внедрила дополнительные уровни безопасности для пользователей младше 18 лет.

Ранее Common Sense Media проверила и другие ИИ-сервисы. Meta AI и Character.

AI получили отметку "неприемлемо", Perplexity — "высокий риск", ChatGPT — "умеренный", а Claude — "минимальный".