В одном из российских исследований почти 80% респондентов не смогли отличить изображение, созданное нейросетью, от настоящей фотографии. ИИ-картинки – это не только «пластиковые» шестипалые люди и пятимерное пространство. Продвинутые генераторы при умелом использовании могут ввести в заблуждение даже профессионалов: в 2023 году это прекрасно показал немецкий фотограф Борис Эльдгассен, победив на конкурсе с ИИ-снимком.
Специалисты по фактчекингу советуют проверять изображения, которые вызывают сомнения, с помощью специальных ИИ-детекоров. Но насколько эти приложения надежны? Можно ли их обмануть? Давайте посмотрим.
Методология
Для исследования мы отобрали несколько сервисов, которые часто фигурируют в СМИ и тематических подборках. Большинство из них платные ($5-30 в месяц), но с возможностью для тестирования: пользователю либо выдается ограниченное количество кредитов при регистрации, либо устанавливается лимит бесплатных проверок (10-25 в месяц).
| 1. |  | DeepAI | Бесплатный проект. Создатели утверждают, что детектор на основе «LLM-сигнатур» определяет изображения, созданные нейросетями MidJourney, Dall-e 3, Stable Diffusion 3, Ideogram, ImageFX. |
| 2. |  | Slop or Not | Онлайн-детектор AI-изображений, в который можно загружать файлы объемом до 8 Mb. Три бесплатных проверки в день. |
| 3. |  | Sightova | Система определяет более 50 нейросетей, по утверждению разработчика точность – до 98%. Работает с файлами jpg, png, webp объемом до 10 Mb. Бесплатно можно проанализировать 50 изображений в месяц. |
| 4. |  | AI or Not | Платный сервис ($5 в месяц), при регистрации выдаются тестовые 100 кредитов. |
| 5. |  | Lynote AI | Сервис-комбайн с возможностью транскрибирования, «гуманизации» и определения ИИ в текстах и изображениях. Бесплатно доступно упрощенное «базовое сканирование» и 100 кредитов в месяц. Платные тарифы от $13. |
| 6. |  | Truth Scan | Детектор ИИ, способных обработать бесплатно до 25 изображений в месяц. Платная версия от $29 в месяц. |
| 7. |  | My Detector | Детектор ИИ в текстах, коде, изображениях. Работает с файлами jpg, png, webp объемом до 10 Mb. Платный ($7), но с возможностью бесплатно проверить 20 изображений в месяц. |
| 8. |  | Was it AI | Платный определитель ИИ, позволяет анализировать до 10 картинок в месяц бесплатно. |
| 9. |  | Decopy AI | ИИ-сервисы для создания и обработки контента (реферирование, транскрибирование, перевод и т. д.). Включает ИИ-детектор изображений. Работает с файлами jpg, png, webp объемом до 10 Mb. Бесплатно до 10 проверок в месяц, плата – от $10 в месяц. |
| 10. |  | Undetectable.ai | Набор сервисов для проверки и «гуманизации» текста, а также анализа изображений. Требует регистрации. Платная подписка от $19 в месяц. |
| 11. |  | Sight Engine | Определяет ИИ в текстах, фото, коде, видео. Заявленная точность до 98%. Определяет около 20 популярных нейросетей, в том числе GPT, Nano Banana, Qwen, MidJourney. Сервис платный, цена начинается от $29 в месяц, есть тестовый формат работы на основе API. |
В перечень сервисов был включен и российский продукт Kodik Scan, который доступен бесплатно. По словам разработчиков, он может определить 60+ ИИ-моделей. Однако во время тестирования система не функционировала и оценить ее потенциал мы не смогли.
Для тестирования мы использовали несколько изображений:
1. Реальная фотография
Легендарный снимок Guerrillero Heroico, на котором изображен кубинский революционер Эрнесто Че Гевара.
2-3. Примитивная сгенерированная фотография и ее скриншот
С помощью GPT Image (сервис Arena.ai) на оригинальный снимок были грубо добавлены два инопланетянина, для этого использовался максимально простой промпт.
Один из популярных способов обхода детекторов – загрузка скриншота картинки, которая позволяет избавиться от маркеров LLM. Чтобы проверить насколько этот метод рабочий мы использовали скриншот сгенерированного портрета как тестовую картинку.
4-5. Реалистичная сгенерированная фотография и ее скриншот
Че Гевара в образе космодесантника, сгенерированный нейросетью GPT Image в сервисе Arena.ai. Использовался оригинальный снимок и детальный промпт, позволяющий придать изображению максимальную реалистичность.
В тестировании также применялся скриншот этого изображения.
Результаты
В ходе проверки выяснилось, что системы DeepAI, Undetectable и Truth Scan используют один и тот же движок; аналогичная ситуация с сервисами Decopy AI и My Detector. По этой причине приложения выдали одинаковые результаты.
В целом алгоритмы неплохо справились с выявлением ИИ-картинок. Очевидные аутсайдеры – Slop or Not, который засомневался в каноничном фотопортрете и запутался с ИИ-генерациями. Ошибки выдали системы What is AI и Sightova.
Несколько удивил сервис My Detector, который не просто оценивает вероятность применения ИИ, но еще и подробно описывает изображения и обнаруженные несостыковки. Как видим, в своем «аналитическом отчете» нейросеть-инспектор обосновала прекрасную физику и реалистичность изображения, но тут же вынесла противоположный по смыслу вердикт: «вероятно создано ИИ».
Хитрость со скриншотом не удалась – лишь в одном случае маневр позволил снизить вероятность ИИ почти наполовину. Причина в том, что детекторы не ограничиваются лишь одним методом верификации, но параллельно ищут маркеры, которые оставляют нейросети, оценивают технические характеристики изображения, проверяют похожие картинки в сети и т. д.
Некоторые программы пытаются точно определить нейросеть, которая применялась для генерации картинки. В нашем случае (GPT Image) это удалось хорошо, в среднем с вероятностью 70%. Но довольно часто фигурировала MidJourney, что указывает на несовершенство инструмента.
В стерильных условиях лаборатории детекторы определяют ИИ-картинки. Но если использовать эти системы в течение длительного времени, то замечаешь большое количество ложноположительных срабатываний – попробуйте ради интереса загрузить фотографии с сайтов популярных СМИ и удивитесь количеству заключений «высокая вероятность применения ИИ».
Другая проблема в том, что системы могут давать диаметрально противоположные результаты – и, разумеется, каждая рационально обоснует свой выбор. Загрузим, к примеру, логотип Года белорусской женщины. Вот, что сообщает нам один из сервисов:
Но давайте проверим во всех системах. Выводы неожиданные:
| 1. | DeepAI | ИИ (97%) |
| 2. | Slop or Not | ИИ (88%) |
| 3. | Sightova | Реальное |
| 4. | AI or Not | Реальное (7% ИИ) |
| 5. | Lynote AI | Реальное (30% ИИ) |
| 6. | Truth Scan | ИИ (97%) |
| 7. | My Detector | Реальное (99%) |
| 8. | Was it AI | ИИ (68%) |
| 9. | Decopy AI | Реальное (99%) |
| 10. | Undetectable | ИИ (97%) |
| 11. | Sight Engine | ИИ (99%, генератор nano banana 98%) |
Похоже на подбрасывание монетки – доверия не вызывает. Безусловно, за последние пару лет надежность ИИ-детекторов выросла, методы выявления ИИ становятся все сложнее и изощреннее. Но однозначно полагаться на ту или иную систему пока не стоит – классическая методология верификации, которая предполагает качественный, а не количественный анализ, по-прежнему остается самым верным решением.