Тест детектора ИИ-слопа Pangram: безошибочно видит чат-ботов в тексте, но слеп к поддельным изображениям

В последнее время всё чаще ловишь себя на странной усталости: пролистывая ленту, натыкаешься на бесконечные маркированные списки, эмодзи и длинные тире. Эти тексты выглядят так, будто их собирал алгоритм, а не человек с мыслями. Возникает ощущение, что пространство соцсетей стремительно заполняется болванками, созданными нейросетями, и собственный мозг начинает сопротивляться этому потоку. Именно в этот момент появляется инструмент, обещающий вернуть уверенность в подлинности слов.

Инструмент под названием Pangram, доступный за 20 долларов в месяц, работает через веб-интерфейс: вставляешь блок текста, и он выдаёт процент вероятности того, что текст сгенерирован чат-ботом. Скептицизм велик, но первые же эксперименты заставляют изменить отношение. Личные эссе, написанные человеком, детектор определяет безошибочно, даже если попросить нейросеть имитировать тот же стиль. Посты из социальных сетей, которые казались типичными следами работы алгоритма, распознаются мгновенно, а подозрения получают подтверждение. Десятки тестов с разными текстами — от рабочих писем до обрывков переписки — не дали ни единой ошибки.

Заявленная производителем точность впечатляет: девять тысяч девятьсот девяносто девять верных определений из десяти тысяч. Независимое исследование Чикагского университета подтверждает, что с текстом инструмент справляется почти идеально. Это особенно контрастирует с прежними детекторами, которые умудрялись приписывать авторство Чарльзу Диккенсу, что делало их бесполезными для практического применения. Возникает соблазн поверить, что проблема наконец решена и теперь любой текст можно проверить на подлинность.

Именно в этом кроется опасность. Исследования говорят, что до половины всех онлайн-статей уже созданы искусственно, и детекторы действительно могут стать необходимым элементом цифровой гигиены, чем-то вроде антивируса для информации. Но технология не универсальна. Главная её слабость — изображения. Определить, является ли картинка творением нейросети, Pangram практически не способен. А ведь именно фотографии и видео гораздо быстрее распространяют ложь, чем любые тексты. Эмоциональное воздействие изображения сильнее, и детектор в этом случае лишь создаёт иллюзию защищённости.

Собственные наблюдения приводят к двум тревожным выводам. Во-первых, детектор формирует ложное чувство уверенности: зная, что инструмент точен в отношении текста, пользователь легко забывает о слепых зонах и начинает доверять любой картинке. Во-вторых, создатели нейросетей не стоят на месте: если детекторы становятся точными, модели будут учиться обходить их. Гонка вооружений неизбежна. Уже сейчас можно представить будущее, где текстовый детектор станет бесполезен через несколько месяцев, а люди снова останутся один на один с потоком дезинформации, но уже без инструментов проверки. Поэтому важнее полагаться не на единое техническое решение, а на развитие критического мышления и привычки сомневаться в каждом увиденном и прочитанном, независимо от того, что показывает алгоритм.