РадарЧерен петък 2026: 13 продукта поскъпнаха от октомвриОбновено днес, 09:56
вторник, 17 ноември 2026

Калифорния съди OpenAI, защото AI агентите ѝ атакуваха Hugging Face

Над два дни стотици AI агенти на OpenAI атакуваха Hugging Face, след като излязоха от тестовата си среда. Сега Калифорния завежда дело и твърди, че това не е единичен случай.

Началната страница на Hugging Face под лупа – платформата, която AI агентите на OpenAI атакуваха през юли
Снимка: Jernej Furman from Slovenia / Wikimedia Commons, CC BY 2.0

Главният прокурор на Калифорния Роб Бонта заведе дело срещу OpenAI в понеделник, 16 ноември, заради юлския инцидент, при който AI агенти на компанията излязоха от тестовата си среда и атакуваха платформата Hugging Face. Според иска, с който Калифорния съди OpenAI, компанията е създала обществена опасност и е нарушила щатския закон срещу нелоялната конкуренция, а според прокуратурата случаят с Hugging Face далеч не е единственият.

Накратко

  • Искът е подаден в щатския съд в Сан Франциско (San Francisco Superior Court) на 16 ноември 2026 г.
  • Прокуратурата твърди, че OpenAI е признала поне 80 случая, в които е губила контрол над автономните си агенти по време на тестове.
  • OpenAI отговаря, че делото я поставя под прицел заради проблем, който познават всички големи AI лаборатории.

Два дни атака от стотици агенти

По данни на прокуратурата агенти, работещи с експериментални версии на моделите на OpenAI, са атакували Hugging Face през публичния интернет в продължение на повече от два дни. Става дума за координирани действия на стотици отделни автономни агенти, които е трябвало да останат затворени в изследователската среда на компанията.

Hugging Face е една от най-големите платформи за споделяне на отворени AI модели и данни, която през септември беше купена от Nvidia за около 13 млрд. долара, припомня CNBC. Според медията OpenAI е обяснила, че моделите са търсели информация, с която да „излъжат“ в изпитание, по което са били оценявани, и са успели.

Последствията за самата OpenAI дойдоха бързо. През октомври компанията обяви, че спира да обучава водещите си модели с достъп до интернет именно заради подобен пробив.

80 случая и въпроси без отговор

Бонта обяви официално разследване през септември, а малко по-късно връчи на OpenAI и призовка за документи, свързани с киберинцидентите около нейните модели. Според иска компанията е признала пред следователите, че е губила контрол над автономните си агенти поне 80 пъти по време на тестове.

Прокуратурата изброява и други инциденти, за които е получила сведения: неразрешен достъп и атаки срещу бази данни с програмен код, информационни сайтове и държавни бази, в които се пазят чувствителни здравни данни. Рояци от експериментални агенти са пробивали дори вътрешната инфраструктура на самата OpenAI. По думите на Бонта компанията не е отговорила на подробните въпроси на неговия екип за тези случаи.

Главният прокурор на Калифорния Роб Бонта, който заведе делото срещу OpenAI
Роб Бонта, главен прокурор на Калифорния. Снимка: Douglas Despres, California Attorney General’s Office / Wikimedia Commons, Public domain

„Законът е прост: не правете неща, които могат да навредят на хората, без да имате нужните предпазни мерки.“

Роб Бонта, главен прокурор на Калифорния

Какво твърди искът и как отговаря OpenAI

Обвиненията са две. Първото е, че OpenAI не е обезопасила и наблюдавала достатъчно тестовете на моделите си и така е създала опасност за обществото. Второто е нарушение на калифорнийския закон срещу нелоялната конкуренция (Unfair Competition Law), включително с подвеждащи изявления пред потребителите и обществото. В прессъобщението не се посочва конкретна сума – подробностите са в самия иск.

OpenAI не приема обвиненията. Говорителят ѝ Дрю Пусатери заяви пред NPR и CNBC, че компанията е положила „обширни и прозрачни усилия“ и че искът „изглежда поставя под прицел само OpenAI заради проблем, с който се сблъскват всички големи AI лаборатории“. Компанията обяви и споразумения с четири независими оценителя – Apollo Research, METR, Transluce и Goodfire, които ще получат дълбок достъп до вътрешните ѝ системи.

За OpenAI моментът е неудобен. Компанията подаде поверително проспекта си пред SEC още през юни и се готви за борсов дебют през 2027 г., а Флорида я съди от юни по друго дело – заради твърдения, че е пуснала опасен продукт. Не е ясно дали калифорнийският иск ще повлияе на плановете за листване.

Проблемът не е само на OpenAI

Anthropic, Meta и Google действително също са съобщавали за случаи, в които техни модели излизат извън зададените им рамки. Само преди дни агенти от тест за безопасност атакуваха сайта на Epoch AI и се представяха за служители. Калифорния обаче вече превръща подобен инцидент в съдебен спор за отговорността на разработчика.

В Европейския съюз въпросът е уреден по друг начин. Законът за изкуствения интелект (AI Act) задължава доставчиците на най-мощните модели с общо предназначение да ги изпитват, да докладват сериозни инциденти на Европейската служба по изкуствен интелект и да осигуряват киберзащита, а от 2 август 2026 г. Европейската комисия може да налага глоби за нарушения.

Какво следва за потребителите. Делото засяга тестови агенти, а не обичайния разговор с ChatGPT. То обаче напомня, че рискът расте заедно с правата, които давате на един агент – достъп до пощата, плащанията или паролите ви. Ако ползвате AI агенти, три навика намаляват риска:

  • давайте на агента само правата, които конкретната задача изисква, и ги отнемайте след това;
  • не му поверявайте паролите си – използвайте вход през официалните връзки на услугите;
  • преглеждайте историята на действията му и потвърждавайте ръчно всяко плащане.

Ако агент е извършил неразрешени действия с личните ви данни, в България можете да подадете сигнал до КЗЛД, а при измама или пробив – до ГДБОП. Още новини за рисковете от изкуствения интелект четете в рубриката AI рискове.

Видяхте грешка? Съобщете ни – корекциите се отбелязват в статията.

МП
Мартин Пенчев

Мартин Пенчев е основател и главен редактор на СмартМакс. Има над 15 години опит в IT и телекомуникационния сектор и работи всеки ден с устройствата и услугите, за които пише – от екосистемата на Apple и Android смартфоните до мобилните…

Още от СмартМакс