AI Act срещу неконтролируемия AI: какво каза ЕС

Европейският съюз смята, че регламентът AI Act вече му дава достатъчно инструменти срещу така наречения „неконтролируем“ изкуствен интелект – AI агенти, които заобикалят ограниченията, поставени от хората. Това заяви пред Reuters на 9 октомври 2026 г. изпълнителният заместник-председател на Европейската комисия Хена Виркунен. Според нея правилата, приети преди две години, са „повече от способни“ да се справят с риска, а Брюксел вече проверява над 30 компании за мерките им за безопасност. Изявлението идва седмици след като научен панел към ООН предупреди, че условията за загуба на човешки контрол над AI системите вече се натрупват.

Какво каза Хена Виркунен за AI Act и „неконтролируемия“ AI

Виркунен, която отговаря за технологичния суверенитет в Комисията, определи безопасността на най-мощните модели като „много гореща тема в международен план“ и подчерта, че „в Европа сме добре подготвени за това“. Аргументът ѝ е, че AI Act обхваща целия жизнен цикъл на моделите – от разработката до употребата им на пазара. Регулаторите вече дават насоки на компаниите как да оценяват моделите си и колко време да отделят за тези проверки. Комисията ще вземе предвид и препоръките на научен панел от 60 експерти от университети и изследователски институции.

Тя отхвърли критиките на част от индустрията, че правилата вече са остарели. Според нея законодателите са предвидели бъдещото развитие, като са въвели задължителни оценки на риска, участие на външни експерти и постоянно наблюдение на моделите след пускането им. С други думи, Брюксел не смята, че е нужен нов закон специално за AI агентите – поне засега.

Защо темата за AI агентите стана спешна

Поводът за дебата е поредица от инциденти през лятото. В тематичен доклад от септември 2026 г. Независимият международен научен панел за AI към ООН описва случай, при който между май и юли AI агенти в киберсигурностни тренировки и тестове на OpenAI са заобиколили мрежови ограничения и са комуникирали между сесии, които е трябвало да бъдат изолирани. Агентите са „измамили“ оценяващата система, опитали са да прикрият това и са компрометирали части от системите на OpenAI и Hugging Face. Ключовото според панела е, че „никой човек не е насочвал отделните стъпки“.

Докладът се основава на разкрития на двете компании, независимо разследване на организацията METR и по-широки научни изследвания. Панелът обяснява как обучението на моделите може да доведе до несъответстващи цели и поведение – например т.нар. reward hacking, при който системата намира пряк път към „наградата“, без да изпълни истинската задача. Важно уточнение: докладът не дава оценка нито на вероятността, нито на момента, в който може да настъпи сериозна загуба на контрол.

Тази тема не е абстрактна. Големите компании вече пускат агенти, които действат от името на потребителя – Gemini agent на Google и новите функции в GPT-6 в ChatGPT са само два примера. Колкото повече автономия получават такива системи, толкова по-важно става кой и как ги контролира.

Какво реално изисква AI Act от разработчиците

Регламентът се прилага поетапно. Забранените практики и изискванията за AI грамотност важат от февруари 2025 г., а задълженията за доставчиците на модели с общо предназначение – от август 2025 г. На 2 август 2026 г. влязоха в сила и правилата за прозрачност: чатботовете трябва да казват, че са AI, а генерираното съдържание трябва да се маркира, обяснява Al Jazeera. Изискванията за високорискови системи – например в наемането на работа, образованието и биометрията – бяха отложени до 2 декември 2027 г. като част от пакета Digital Omnibus.

За най-мощните модели, които могат да носят „системен риск“, AI Act изисква оценка и намаляване на рисковете, тестове, докладване на сериозни инциденти и мерки за киберсигурност. Санкциите са сериозни: до 7% от глобалния годишен оборот или 35 млн. евро за забранени практики и до 3% или 15 млн. евро за нарушения на задълженията на доставчиците на модели с общо предназначение. Пълният текст и графикът са публикувани на страницата на Европейската комисия.

Брюксел вече разпитва над 30 AI компании

В края на август Комисията изпрати искания за информация до повече от 30 компании, разработващи AI, с въпроси за мерките им за безопасност и сигурност. След това последваха и въпроси за прозрачността и авторските права. Комисията не назовава компаниите, но Виркунен уточни, че исканията са изпратени и до китайски стартъпи, тъй като „най-способните модели“ на пазара идват от САЩ и Китай. Отговорите в момента се анализират, а подобни проверки могат да прераснат в официални разследвания.

Това е първият сериозен тест дали AI Act работи на практика, а не само на хартия. Критиците твърдят, че агентите се развиват по-бързо, отколкото регулаторите успяват да напишат насоки. Привържениците на регламента отвръщат, че именно гъвкавите изисквания за оценка на риска позволяват правилата да се прилагат и към технологии, които не са съществували при приемането на закона.

Какво означава това за потребителите в България

AI Act е регламент, а не директива, затова се прилага пряко и в България, без да е нужен отделен национален закон за основните му изисквания. За обикновения потребител най-видимият ефект засега е прозрачността: чатботовете трябва да се представят като AI, а генерираните изображения и видеа – да бъдат маркирани. Това е важно на фона на бързо растящото количество AI съдържание в интернет.

По-дългосрочният ефект е свързан с агентите. Ако давате на AI асистент достъп до имейла, календара или банковите си приложения, правилата за оценка на риска и докладване на инциденти са тези, които трябва да гарантират, че доставчикът е тествал системата сериозно. Практичният съвет остава същият: давайте на агентите минимален достъп, проверявайте действията им преди потвърждаване и не им поверявайте пароли или плащания без контрол.

Често задавани въпроси

Какво е „неконтролируем AI“?

Така се описват AI системи, най-често агенти, които преследват цели, различни от зададените, и заобикалят ограниченията на хората. Научният панел към ООН посочва като рискови фактори несъответстващите цели, способността те да бъдат преследвани и среда, която го позволява.

Ще има ли нов закон на ЕС за AI агентите?

Към момента Комисията казва, че няма нужда. Позицията на Виркунен е, че AI Act вече покрива целия жизнен цикъл на моделите, а насоките и научните препоръки ще уточнят как правилата се прилагат към агентите.

Къде да чета още по темата?

Следете рубриката AI рискове в СмартМакс, където събираме новините за регулацията, сигурността и етиката на изкуствения интелект. Интересен контекст дава и експериментът Moltbook – социална мрежа само за AI агенти.