OpenAI започва да добавя невидим воден знак в ChatGPT към текстовете, които чатботът и Codex генерират за потребители в Европейския съюз – включително в България. Компанията обяви промяната на 5 октомври и обясни, че тя ще стига до потребителите на всички абонаментни планове „през следващите седмици“. Водният знак не се вижда и не променя начина, по който работите с ChatGPT. Той обаче позволява на специален детектор да разпознае, че даден текст е създаден от модел на OpenAI. Причината е европейският AI Act, който изисква съдържанието, генерирано от изкуствен интелект, да може да бъде разпознато машинно.
Как работи водният знак в ChatGPT
Технологията се казва textGrain. Тя не добавя скрити символи или етикети, а леко насочва избора на думи от модела. Във официалната публикация на OpenAI се обяснява, че с помощта на таен ключ моделът подрежда възможните следващи думи по определен начин. Всяко отделно побутване е незабележимо, но в по-дълъг текст те се натрупват в статистически модел, който детекторът открива само по текста и ключа. Тъй като знакът е „вграден“ в самите думи, той остава при копиране и поставяне в друг документ.
OpenAI подчертава, че водният знак не съдържа информация за потребителя. Детекторът отговаря единствено дали в текста има сигнал от модел на OpenAI. Той не разкрива кой е написал заявката, какъв е бил разговорът или от кой акаунт е дошъл текстът. Според компанията качеството на отговорите не се влошава осезаемо, когато textGrain е включен. OpenAI планира и да публикува технологията с отворен код.
Защо само в ЕС: какво изисква AI Act
Изискванията за прозрачност в регламента на ЕС за изкуствения интелект започнаха да се прилагат на 2 август. Те задължават доставчиците на AI системи да маркират генерираното съдържание така, че други системи да могат да го разпознаят. Затова OpenAI въвежда водния знак по подразбиране само в Европейския съюз и изрично казва, че не го прави глобален стандарт при старта. Разработчиците по целия свят обаче могат да го включат още от 5 октомври за избрани модели в API, където той е изключен по подразбиране. Повече за регламента и как ЕС подхожда към рисковете от AI прочетете в нашия материал AI Act срещу неконтролируемия AI.
OpenAI не е първата компания с подобна мярка. Според TechCrunch Anthropic обяви още през август, че ще добавя воден знак към текстовете на Claude в целия свят, което предизвика недоволство сред част от потребителите. Anthropic, Google, Meta, Microsoft и OpenAI са се присъединили и към европейския кодекс за добри практики за съдържание, генерирано от AI. За изображения и аудио OpenAI вече използва отделни механизми – идентификационни данни по стандарта C2PA и невидими водни знаци SynthID.
Колко надежден е детекторът
Самата OpenAI публикува ограниченията на системата. При откъси от около 400 токена и праг от 1% фалшиви положителни резултати детекторът открива водния знак в около 95% от случаите, а при по-кратки откъси от 200 токена – в около 80%. Редактирането обаче отслабва сигнала значително: когато 10% от думите бъдат заменени със синоними, успеваемостта пада от около 92% до 66%, а при 25% замяна – до 17%, обобщава BleepingComputer. Трудни са и задачите по математика, където моделът има малко възможности за избор на думи, както и преведените текстове.
Най-важното предупреждение е, че липсата на воден знак не доказва, че текстът е написан от човек. Той може да е твърде кратък, редактиран, преведен, създаден с друг AI инструмент или преди въвеждането на защитата. Обратното също е вярно: наличието на знак показва само, че система на OpenAI е създала или обработила част от текста, но не и колко от него е дело на човека. Освен това детекторът засега не е публичен – достъп получават само одобрени изследователи и експертни организации след кандидатстване.
Какво означава за ученици, студенти и служители в България
За повечето потребители у нас нищо видимо няма да се промени – ChatGPT ще пише по същия начин, а водният знак няма да се забелязва. Ако използвате чатбота за курсови работи, имейли или текстове за работа, имайте предвид, че в бъдеще те може да бъдат разпознаваеми като генерирани от AI. Засега обаче учители, преподаватели и работодатели нямат достъп до детектора на OpenAI. Затова е добре да се отнасяте скептично към сайтове, които твърдят, че „откриват“ ChatGPT със сигурност – самата OpenAI признава, че резултатът зависи от дължината и редакцията на текста.
Най-разумният подход е прозрачността: ако AI ви е помогнал, кажете го, когато правилата на училището, университета или работодателя го изискват. Водният знак не е наказание, а начин да се знае откъде идва съдържанието – особено в интернет, където делът на автоматично генерирания текст расте, както показахме в анализа колко от интернет съдържанието е създадено от AI. За последните промени в самия чатбот вижте и материала ни за GPT-6 и Intelligent UI в ChatGPT, а за алтернатива от Google – Gemini agent.
Често задавани въпроси
Мога ли да изключа водния знак в ChatGPT?
OpenAI не споменава такава настройка за потребителите в ЕС. Водният знак ще се добавя към допустимите текстове в ChatGPT и Codex във всички планове.
Издава ли водният знак кой съм аз?
Не. Според OpenAI детекторът показва само дали има сигнал от неин модел и не разкрива потребителя, акаунта или разговора.
Кой може да проверява текстовете?
Засега само одобрени изследователи и експертни организации. Детекторът не е публично достъпен. Следете рубриката AI в ежедневието за промени.
.jpg){kind=link}