Pangram: детектор ИИ-текста ловит нейросети в словах, но бессилен перед картинками

Pangram — сервис, который анализирует текст и выносит вердикт: написан человеком или сгенерирован языковой моделью. На англоязычных материалах инструмент демонстрирует высокую точность, уверенно отделяя живой абзац от гладкого, но безжизненного потока слов типичного чат-бота. Он не понимает смысла и не проверяет фактов — он изучает ритм фраз, длину предложений, частотность слов и характерные для моделей статистические закономерности. Именно стиль, а не содержание, выдаёт машину.

Такой детектор превращается в практический инструмент для редакций, преподавателей, приёмных комиссий и модераторов, которым приходится разгребать растущие горы однотипных текстов. Возможность быстро отсеять машинную генерацию воспринимается как возвращение контроля над собственным вниманием и рабочим временем. Чувство понятное: несколько лет автоматический текст заполнял ленты, письма и заявки, а противодействие выглядело безнадёжным.

Однако с текстами всё относительно благополучно по сравнению с изображениями, и здесь начинаются сложности. Детекторы текста опираются на статистику и потому ошибаются на людях, чей стиль выбивается из усреднённой нормы. Фиксировались ложные срабатывания на работах тех, для кого английский не родной: аккуратные, шаблонные по структуре эссе легко принимались за машинные. Разработчик одной из крупнейших языковых моделей в своё время свернул собственный классификатор, признав его ненадёжность. Обвинение в машинном авторстве способно стоить студенту диплома, а специалисту репутации, поэтому процент уверенности детектора не равен доказательству.

С изображениями ситуация ещё туманнее. Надёжных визуальных детекторов, которые по одному взгляду отличают сгенерированную картинку от фотографии, практически нет. Работающие подходы опираются не на разглядывание пикселей, а на криптографические метаданные и водяные знаки, встраиваемые в момент генерации. Такие следы исчезают при пересохранении, кадрировании или обычном скриншоте, а значит, исчезает и вся доказательная база. Инструмент, заточенный под слова, в этом сюжете оказывается бесполезен.

Отсюда практический вывод: детектор стоит воспринимать как повод для разговора, а не как приговор. Его сигнал полезен внутри редакции, школы или сообщества, где заранее согласованы правила и известны последствия. Как аргумент в споре с незнакомцем он почти бессилен.

Наблюдение первое: ценность подобных сервисов растёт не от точности процентов, а от прозрачности происхождения контента. Метаданные о том, где и чем создан файл, надёжнее любых догадок о стиле, но фиксировать их нужно на входе, а не восстанавливать задним числом.

Наблюдение второе: сам факт существования детектора меняет поведение. Люди начинают писать конкретнее, убирать шаблонные обороты и рубленые перечисления, чтобы их не приняли за машину. Это неожиданный побочный эффект: инструмент охоты за нейросетями постепенно учит людей писать лучше.