Объемы изображений и видеозаписей сексуализированного насилия над детьми, а также другого экстремального контента, созданного при помощи искусственного интеллекта (ИИ), достигли рекордных показателей — об этом предупредили эксперты. Специалисты призывают обновить законы о безопасности в интернете, а также ввести строгие правила для профильных компаний. Подробности о том, почему нейросети всё чаще применяют для создания детской порнографии, чем опасна эта тенденция и как бороться с ней, читайте в материале «Известий».

Что известно о рекордах генерации запрещенного контента

О том, что объемы генерации изображений и видеозаписей сексуализированного насилия над детьми, а также другого экстремального контента, созданного при помощи ИИ, достигли рекордных показателей, говорится в докладе британской некоммерческой организации Internet Watch Foundation (IWF).

Именно IWF принадлежит крупнейшая в Европе горячая линия для сообщений о подобных материалах. Как следует из доклада, в 2025 году организация выявила 8029 реалистичных изображений сексуализированного насилия над детьми — на 14% больше, чем годом ранее. При этом аналитики также проверили более чем 3 тыс. видеороликов, созданных при помощи ИИ.

Фото: Global Look Press/Marcus Brandt

65% из них изображают такие преступления, как изнасилования, пытки и зоофилию, — в 2024 году этот показатель составлял всего 13%. На этом фоне эксперты IWF настаивают на необходимости обновить законы о безопасности в интернете, а также ввести строгие правила для профильных компаний.

Почему детское порно всё чаще создают при помощи ИИ

Резкий рост генерации запрещенного контента, в особенности колоссальный скачок в сегменте видео, напрямую связан с небывалой доступностью, удешевлением и стремительным развитием открытых нейросетевых моделей, говорит в беседе с «Известиями» ведущий специалист отдела исследовательских разработок компании «Стахановец», эксперт в области информационных технологий и информационной безопасности Алексей Миронов.

— Если еще пару лет назад для создания реалистичного видеоролика или дипфейка требовались серьезные вычислительные мощности и глубокие знания в программировании, то сегодня злоумышленники могут использовать недорогие облачные сервисы и готовые инструменты, — отмечает эксперт.

Фото: Global Look Press/Marcus Brandt

Появление мощных открытых алгоритмов генерации видео, по его словам, снизило технический барьер входа для киберпреступников практически до нуля. В то же время глава Альянса по защите детей в цифровой среде Елизавета Белякова обращает внимание, что резкий рост количества материалов с сексуализированным насилием над детьми, созданных с использованием технологий ИИ, связан в том числе с эффектом «масштабируемости»: один пользователь может создавать тысячи изображений и видеороликов за короткое время. Кроме того, сохраняется высокий спрос на подобный нелегальный контент в теневых сегментах интернета, говорит специалист.

Как создатели запрещенного контента обходят ограничения нейросетей

В ситуации с ростом объемов генерации запрещенного контента отдельную роль играет распространение так называемых кастомных моделей, объясняет основатель платформы мониторинга нейросетей GEO Scout Владислав Пучков. По словам эксперта, киберпреступники не используют публичные нейросети «как есть», а дообучают open source модели или собирают пайплайны (механики) из нескольких инструментов.

— Существенно ускоряет этот процесс развитие ИИ для программирования — такие системы позволяют даже неподготовленным пользователям обходить ограничения, внедрять модификации и автоматизировать генерацию запрещенного контента, — разъясняет собеседник «Известий».

Фото: ИЗВЕСТИЯ/Юлия Григорьева

Обход защит, как указывает Владислав Пучков, происходит несколькими способами: через локальные (offline) модели без встроенной модерации, через дообучение на нелегальных датасетах, а также через так называемые jailbreak-подходы. Кроме того, появляется рынок готовых решений — от приватных моделей до закрытых сообществ с инструкциями.

— В закрытых сообществах, которые активно используют злоумышленники, распространяются как инструкции, так и инструменты для обхода защит, — дополняет Елизавета Белякова.

Чем опасен рост генерации детского порно при помощи ИИ

Рост объемов запрещенного контента, созданного при помощи нейросетей, представляет серьезную угрозу, подчеркивает в беседе с «Известиями» Елизавета Белякова. Даже если материалы синтетические, они способствуют нормализации насилия над детьми, формируют спрос и могут стимулировать реальные преступления.

— Кроме того, технологии позволяют создавать изображения, имитирующие конкретных детей, что создает дополнительные риски для их безопасности и репутации, — отмечает эксперт.

Фото: ИЗВЕСТИЯ/Павел Волков

На то, что ИИ позволяет злоумышленникам создавать дипфейки с использованием фотографий реальных детей, взятых из открытых социальных сетей, указывает и Алексей Миронов. Такая практика открывает дорогу для жестокого кибербуллинга, шантажа и вымогательства, что наносит непоправимую психологическую травму жертвам и нормализует противоправное поведение в даркнете.

Главная же опасность, по мнению специалиста, заключается в масштабе: огромные массивы сгенерированного реалистичного контента перегружают системы модерации платформ и правоохранительные органы, критически затрудняя поиск реальных жертв насилия среди терабайтов цифрового мусора.

Как бороться с запрещенным контентом от нейросетей

В ближайшие годы можно ожидать дальнейшего роста объемов запрещенного контента, сгенерированного при помощи ИИ, с сожалением констатирует Елизавета Белякова. Технологии будут развиваться, становиться более реалистичными и доступными, а без системных мер этот сегмент нелегального контента может значительно расшириться.

С тем, что динамика в следующие несколько лет ухудшится, соглашается и Владислав Пучков.

— Качество видео продолжит расти, а стоимость генерации — снижаться. Особенно тревожен рост именно видеоформата, так как он сильнее влияет на восприятие и сложнее поддается автоматической детекции, — предупреждает он.

Фото: Global Look Press/Sebastian Gollnow

Эффективная борьба с подобными угрозами, по мнению Алексея Миронова, требует внедрения принципа «ИИ против ИИ», когда обученные алгоритмы автоматически выявляют и блокируют незаконные генерации на уровне провайдеров, а весь легитимный нейросетевой контент получает обязательные цифровые водяные знаки.

При этом со стороны информационной безопасности корпоративного сектора критически важно жестко контролировать IT-инфраструктуру компаний и своевременно выявлять запуск нелегитимных ИИ-моделей на рабочих местах, а также пресекать генерацию или распространение запрещенного контента, отмечает эксперт.

Фото: Global Look Press/Fotostand/Gelhot

— Во многих странах уже развиваются общественные и отраслевые инициативы по борьбе с сексуальной эксплуатацией детей, в том числе в онлайне, — дополняет директор Центра компетенций по глобальной IT-кооперации Вадим Глущенко. — Одна из самых известных — INHOPE, международная сеть горячих линий, объединяющая 52 страны, включая Россию. Она занимается оперативным выявлением и удалением незаконного контента, связанного с детьми.

Ключевую роль играет обмен данными между интернет-платформами и провайдерами, а также выработка общих подходов к выявлению запрещенного контента. При этом важно, чтобы такое взаимодействие выходило за рамки отдельных стран — подключение международных участников позволяет выстраивать более скоординированный и эффективный ответ, заключает собеседник «Известий».