OpenAI начинает добавлять невидимые водяные знаки к текстам ChatGPT в ЕС
5 октября OpenAI описала новый способ помечать происхождение сгенерированного текста. Клиенты API по всему миру могут добровольно включить водяной знак для поддерживаемых моделей; по умолчанию функция выключена. В течение следующих недель невидимый статистический сигнал начнут добавлять к некоторым ответам ChatGPT и Codex в Европейском союзе. Это не видимая подпись в каждом предложении и не универсальный детектор авторства. OpenAI предупреждает, что короткий текст, жестко заданный формат и редактирование могут ослабить обнаружение. Поэтому новость важна для издателей и исследователей, но не превращает происхождение любого текста в однозначно проверяемый факт.
Что изменилось
Водяной знак работает как статистический сигнал
В описании OpenAI метод называется textGrain. Он немного меняет распределение вариантов слов, сохраняя смысл и читаемость ответа. Сигнал не вставляется как заметная фраза или метка в конце сообщения. Это отличает его от открытого заявления автора и от метаданных в файле: проверка должна анализировать сам текст специальным детектором.
Запуск проходит в два этапа
Сначала API-клиенты могут отдельно подключить функцию к выбранным поддерживаемым моделям, причем исходная настройка отключена. Позже сигнал будет автоматически включаться для части ответов ChatGPT и Codex в ЕС. Компания обещает постепенно расширять присутствие, поэтому нельзя считать, что каждый новый текст любого пользователя уже помечен.
Порог обнаружения зависит от формы текста
OpenAI приводит собственные испытания, где detector различает исходные тексты, но хуже справляется с короткими фрагментами, ответами с ограниченным словарем и текстом, который специально отредактировали. В одном сценарии замена примерно каждого десятого слова снизила обнаружение с 92% до 66%, а замена четверти - до 17%. Это результаты компании для конкретного набора, а не универсальная оценка ошибок на любой публикации.
Доступ к детектору пока ограничивают
OpenAI сообщает, что первоначально инструмент обнаружения получат одобренные исследователи и эксперты. Обычный читатель не сможет проверить любой попавшийся текст тем же официальным способом. Поставщик также говорит, что сигнал не определяет человека, написавшего материал, долю машинного текста, право собственности или истинность утверждений.
Отсутствие сигнала не доказывает человеческое авторство
Текст может не иметь водяного знака, потому что он создан до запуска функции, пришел из неподдерживаемой модели, слишком короток или изменен. И наоборот, оценка детектора не устанавливает автора с абсолютной точностью. Редакции и преподавателям придется сохранять обычную проверку источников, истории правок и процесса подготовки, а не принимать автоматический результат за доказательство.
Как проверять текст с водяным знаком
Объявленная OpenAI технология добавляет статистический сигнал к некоторым генерациям, но не дает удостоверение автора или долю машинного участия. Компания сама сообщает результаты испытаний textGrain и прямо указывает на падение обнаруживаемости после редактирования. Это значит, что точность зависит от длины, жанра, языка и трансформаций текста. Детектор, доступный исследователям по согласованию, также не заменяет журнал редакционной работы и подтверждение источников. При оценке любого результата нужно записывать версию текста, способ проверки и известную историю обработки. Сигнал полезен как дополнительная улика в совокупности, а отсутствие сигнала ничего не доказывает о том, кто именно подготовил материал.
Пилотируйте подход на контролируемом наборе: тексты из поддерживаемой модели с включенной опцией, короткие ответы, жанры с ограниченным словарем, человеческие правки и перефразирование другой системой. Разделите ложноположительные и ложноотрицательные результаты, а затем проверьте, одинаково ли проявляется ошибка у разных редакторов. Для публикации установите, кто имеет доступ к детектору и как долго хранится исходный материал. Если решение затрагивает оценку автора или доступ к услуге, требуйте несколько независимых свидетельств и ручное рассмотрение. В API отдельно фиксируйте настройку маркировки, идентификатор модели и дату запроса, чтобы позднее можно было воспроизвести проверку.
Доступность функции меняется по регионам и моделям, а планы ее расширения не являются подтверждением завершенного запуска. Не сообщайте читателю, что детектор безошибочно определяет автора. Маркетинговые тесты поставщика должны быть явно отделены от независимой проверки на вашем языке и корпусе.
Что это дает пользователю
Издатель может включить отдельную отметку в редакционный процесс и проверить, какие типы своих материалов реально подпадают под маркировку.
При оценке подозрительного текста фиксируйте инструмент, версию проверки, длину фрагмента и редакторские изменения; один процент не является доказательством происхождения.
Команде API стоит выяснить, какие модели поддерживают опцию, как она включается и меняет ли она воспроизводимость ответов в текущем приложении.
Если решение затрагивает оценки или доступ человека к услуге, не используйте отсутствие водяного знака как самостоятельное основание для санкции.
Что нужно учитывать
OpenAI сама разрабатывает описанную технологию и сообщает ее тестовые результаты; независимая оценка здесь не приводится.
Запуск для ChatGPT и Codex в ЕС поэтапный, API-функция добровольная, а перечень поддерживаемых моделей ограничен.
Компания не обещает устойчивое обнаружение после сильной редакторской переработки и не предлагает публичный универсальный детектор.
Коротко
Водяной знак добавляет еще один сигнал о происхождении текста, но не отвечает на вопрос об авторстве сам по себе. Практическая ценность появится, если OpenAI расширит доступ к проверке и независимые исследователи измерят устойчивость на разных жанрах и языках. Пока безопаснее считать его частью набора свидетельств, а не машинным вердиктом.