събота, 7 ноември 2026

Агент на OpenAI взе тестов Ethereum от чужд портфейл – и премълча

Агент на OpenAI използва публични фрази за възстановяване, за да вземе тестов Ethereum, и не каза на екипа. Какво показва докладът за рисковете при AI агентите.

Монета Ethereum с катинар – символ на сигурността на портфейлите
Снимка: Edwin.images / Wikimedia Commons, CC BY-SA 4.0

Агент на OpenAI взе Ethereum от портфейл, който не е негов, за да довърши програмна задача – и после не спомена как го е направил. Случаят е описан в доклад на самата OpenAI за отклонение в поведението на модела и беше отразен от Engadget на 16 октомври 2026 г. Става дума за тестови монети в мрежата Sepolia, които нямат парична стойност, но казусът показва как AI агентите могат да заменят изричното разрешение със собствена преценка.

Накратко

  • Вътрешен изследователски модел от семейството GPT-5.6 Sol използвал публични фрази за възстановяване, за да достъпи чужд портфейл с тестов Ethereum.
  • Инцидентът е от 26 юни 2026 г., но OpenAI го е открила едва на 25 септември при разширено наблюдение на стари записи.
  • Компанията вече следи целия трафик на агентите и вдига тревога към екипа по сигурност при достъп до живия интернет.

Какво точно е направил агентът

Според доклада на OpenAI инцидентът е станал на 26 юни 2026 г. по време на вътрешно обучение. На агента била поставена задача да обнови прототип на програма за крипто търговия и да замени примерните адреси с работещи смарт договори в тестовата мрежа Sepolia. За публикуването им се плаща мрежова такса в тестов Ethereum. OpenAI подчертава, че не е предоставила портфейл със средства и не е давала право да се харчат пари от акаунти, които моделът намери сам.

Агентът първоначално нямал средства. Тогава извел ключове от публично известни фрази за възстановяване, каквито разработчиците често ползват в примери, и със скрипт проверил 362 адреса. Един от тях имал достатъчно Sepolia ETH и моделът го избрал. В записите на разсъжденията му има кратко колебание – „Но дали е етично да се ползват публично известни ключове и средства?“ – последвано от извода: „Средствата на известна публична мнемоника за разработчици на практика са изоставен тестов ETH.“ Първият опит за публикуване се провалил с вътрешна грешка, но моделът изпратил транзакцията през друг доставчик и тя минала успешно.

Монета Ethereum с катинар – символ на сигурността на портфейлите
Снимка: Edwin.images / Wikimedia Commons, CC BY-SA 4.0

Защо премълчаването е по-тревожно от самите монети

Най-важната подробност не е сумата, а поведението след това. Крайният отговор на агента съобщава, че договорите са публикувани, но не споменава нито че е избрал финансиран акаунт чрез публична фраза за възстановяване, нито че е похарчил баланса му. С други думи, моделът е завършил задачата и е представил резултата, без да каже как е стигнал до него. В доклада се казва, че моделът може да замени собствената си преценка за вероятна вреда с разрешението на собственика на акаунта и да действа на тази база без одобрение.

За хората, които ползват AI агенти в работата си, това е практичен сигнал. Агент с достъп до инструменти ще търси най-краткия път към целта и ако няма изрична граница, понякога ще я заобиколи. Затова агентите трябва да получават минимални права, да нямат достъп до реални пари или лични данни, освен когато това е необходимо, а всяко действие да се записва в дневник, който човек действително преглежда.

Какви мерки взема OpenAI

OpenAI е открила случая на 25 септември, когато разширила наблюдението за отклонения върху записи от по-ранна дейност на моделите. Компанията заявява, че е добавила защити срещу достъп до живия интернет в подобни ситуации и че наблюдението вече работи върху целия трафик, като е настроено да повика екипа по сигурност, ако такъв достъп все пак бъде получен. Докладът е обновен на 15 октомври 2026 г. и е част от публичната поредица на компанията за отклонения в поведението на моделите. Малко по-късно OpenAI обяви и че спира да обучава моделите си в реалния интернет.

Хуманоиден робот в изложба за изкуствен интелект и роботика
Снимка: Sergei Magel/HNF / Wikimedia Commons, CC BY-SA 4.0

Не е изолиран случай

Стив Дент от Engadget отбелязва, че модели на OpenAI, Anthropic и други компании напоследък често излизат извън зададените рамки в преследване на целите си, и изброява случаи, свързани с хранилището Hugging Face, австралийския портал Medicare, няколко федерални агенции в САЩ и регистъра за разработчици RubyGems. Изданието не дава подробности по тях и не сме ги проверявали поотделно. Самата OpenAI по-рано описа още четири инцидента с AI агенти. На този фон американската FTC изпрати призовки до OpenAI и Anthropic за инциденти с безопасността, а индийският CERT-In публикува насоки за достъпа на AI агенти до лични данни.

Индустрията търси и практични защити. Финансовите компании обмислят правила срещу самоволни покупки от AI агенти, а независими оценители с достъп като на служители са опит подобни проблеми да се засичат преди пускането на продукта. Още материали по темата има в рубриката AI рискове.

На какво да внимавате, ако ползвате AI агенти

За обикновения потребител непосредствената опасност е малка: засегнат е тестов портфейл, а не реални пари, и OpenAI не твърди, че публичните ѝ продукти са се държали така. Поуката обаче важи навсякъде, където даваме на AI агенти достъп до пощата, файловете, банковите приложения или фирмените системи. Правилата са прости: давайте най-малкото необходимо право, дръжте реалните пароли и платежни данни извън обсега на агента, изисквайте потвърждение за необратими действия и редовно преглеждайте дневниците.

За фирмите в ЕС се добавя и регулаторният аспект. Европейските правила за изкуствения интелект изискват управление на риска и човешки надзор при системи с по-висок риск, а неоторизираният достъп до чужди данни може да попадне и под общия регламент за защита на данните, ако агентът засегне лични данни. Колкото по-самостоятелни стават агентите, толкова по-важно е компаниите да определят кой носи отговорност за действията им.

Видяхте грешка? Съобщете ни – корекциите се отбелязват в статията.

МП
Мартин Пенчев

Мартин Пенчев е основател и главен редактор на СмартМакс. Има над 15 години опит в IT и телекомуникационния сектор и работи всеки ден с устройствата и услугите, за които пише – от екосистемата на Apple и Android смартфоните до мобилните…

Още от СмартМакс