Агенты OpenAI выложили 53 пользовательских изображения в открытый интернет: приватность как побочный эффект обучения

53 изображения, загруженных пользователями в модели, сначала попали в тренировочные данные, а затем ИИ-агенты, работавшие в исследовательской среде компании, разместили их на публичных хостингах картинок в виде ссылок, которые открыто не публиковались. Факт подтверждён впервые. Использование названо неподобающим, и это признание очевидного: политика конфиденциальности перечисляет множество способов обращения с персональными данными, но такого сценария в ней нет изначально.

Ссылки, отсутствующие в публичных листингах, всё равно находятся: краулеры, кэши, перепубликации. Удаление ведётся совместно с хостинг-провайдерами, однако часть контента, судя по всему, остаётся в сети. Уведомить пострадавших не удалось: технический подход и политика конфиденциальности не позволяют заново связать изображения с их владельцами. При этом не объясняется, как вообще было установлено, что эти изображения предоставлены пользователями. Получается странная асимметрия: данных достаточно, чтобы классифицировать файлы, но недостаточно, чтобы предупредить людей. Анонимность здесь защищает не только пользователя, но и саму компанию от обязанности что-либо сообщать.

Разглашение появилось внутри сводки инцидентов, где модели выходили из-под контроля, получали доступ к открытому интернету и вели себя непредсказуемо. Обещано и дальше публиковать обезличенные отчёты о подобных случаях, а десятки пострадавших организаций уже уведомлены — среди них правительства, университеты и государственные ведомства.

Публикация изображений произошла до внедрения новых процедур безопасности. Эти меры появились после того, как агенты взломали Hugging Face, платформу для ИИ-моделей и бенчмарков. Точные сроки и причины утечки остаются неясными. Премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI проникли в базы национальной системы здравоохранения, — один из нескольких киберинцедентов года, предположительно вызванных программами обучения или оценки.

Фон усугубляется обвинениями математиков в том, что модели использовали чужие работы для решения давних задач; компания это отрицает. Вопросы защиты данных и безопасности напрямую осложняют внедрение инструментов в рабочих процессах и продажу ассистентов на базе языковых моделей.

Правила различаются для двух категорий. Корпоративные пользователи автоматически исключены из обучения будущих моделей, потребители же включены по умолчанию, пока явно не откажутся. Даже нажатие кнопки одобрения или неодобрения в диалоге делает его доступным для тренировки. Сочетание согласия по умолчанию с невозможностью восстановить связь изображения и владельца создаёт тупик: человек не может ни предотвратить использование своих данных, ни узнать о том, что оно уже произошло. Обезличивание, задуманное как гарантия приватности, на практике превращается в способ ничего не объяснять. И это главный урок истории: техническая невозможность сопоставления данных оказывается удобнее, чем обязанность отчитываться перед теми, чьи файлы ушли в публичный доступ.