ChatGPT начнёт ставить скрытую метку на текст в ЕС

OpenAI объявила, что в Европейском союзе текст, созданный ChatGPT и Codex, будет помечаться невидимым водяным знаком. Это нужно, чтобы соответствовать правилам EU AI Act и помочь другим системам распознавать ИИ-контент.

Что меняется для пользователей в Европе

OpenAI будет постепенно включать скрытую маркировку для подходящих пользователей ChatGPT и Codex во всех тарифах, но только на территории ЕС. По словам компании, запуск займёт несколько недель.

Для разработчиков картина чуть шире: через API в любой стране мира можно включить эту функцию для отдельных моделей уже сейчас, но по умолчанию она выключена. При этом OpenAI не делает такую маркировку глобальной настройкой на старте.

Как работает водяной знак и зачем он нужен

Речь не о видимом знаке на экране или в тексте. OpenAI меняет выбор слов так, чтобы в тексте оставался незаметный для человека, но распознаваемый детектором след. Такой след сохраняется даже если текст скопировать и вставить в другое место.

Компания утверждает, что эта метка не раскрывает личность пользователя и почти не влияет на качество работы моделей. Вместе с анонсом OpenAI опубликовала технический отчёт по методу textGrain, который она разработала вместе с исследователями из University of Pennsylvania и Yale.

Что важно помнить: метку можно повредить редактированием

OpenAI прямо признаёт, что скрытую маркировку можно ослабить. В одном из тестов замена примерно 10% слов синонимами снизила точность обнаружения с около 92% до 66%.

Сложнее всего распознавать короткие фрагменты, математические ответы и переводы. Поэтому отсутствие метки ещё не доказывает, что текст написал человек: он мог быть слишком коротким, сильно отредактированным или созданным другой ИИ-системой.