Anthropic, компанията зад Claude, призна в обновения си проспект за борсата от 2 ноември, че може много скоро да достигне собствения си праг за „драстично ускорен прогрес, дължащ се на AI“. Казано по-просто, наближава моментът, в който AI създава AI толкова бързо, че хората трудно ще следят какво се променя от една версия на модела до следващата. Това е първият път, в който водеща AI лаборатория пише подобно нещо в официален документ към регулатор, а не в блог или интервю.
Накратко
- Предупреждението е в рисковите фактори на документа S-1/A, подаден в Комисията по ценните книжа на САЩ (SEC).
- Нито един от сегашните модели не е обявен за преминал прага – прогнозата се отнася до бъдещите.
- Компанията обмисля нови правила, за да остане разработката на моделите под контрола на хора.
Какво точно е написано в проспекта
Пасажът е в раздела с рисковете, който всяка компания трябва да попълни преди първичното публично предлагане. Anthropic обяснява, че все повече разчита на своите модели да пишат код, да правят изследвания и да помагат при създаването на следващите версии. Оттам идва и проблемът: скоростта на напредъка може да изпревари мерките за безопасност.
„Нашите вътрешни оценки и очакванията ни за бъдещите модели, а не за сегашните, показват, че може съвсем скоро да достигнем определението на нашата Политика за отговорно мащабиране за „драстично ускорен прогрес, дължащ се на AI“.“
Anthropic, документ S-1/A до SEC
В същия абзац компанията уточнява, че нито един от настоящите ѝ модели не е обявен за преминал прага и че продължава да анализира данните. Признава и нещо по-неудобно. Голяма част от доказателствата за ускорението идват от „изоставащи показатели“, затова в миналото Anthropic не е забелязвала значително ускорение, преди то вече да е настъпило. Може да не го забележи навреме и в бъдеще.
Защо рекурсивното самоусъвършенстване плаши дори създателите му
Терминът, който Anthropic сама използва в проспекта, е „рекурсивно самоусъвършенстване“ (recursive self-improvement, RSI). Това е етапът, в който всеки модел помага да се направи следващият, а той – по-добрия от себе си, и цикълът се ускорява. Поддръжниците виждат в него път към скок в науката и производителността. Критиците го описват като точка, след която системите стават трудни за контрол.
Числата в документа показват колко далеч е стигнала компанията. Стойността на вътрешното използване на Claude по списъчни цени е нараснала над 250 пъти между януари и септември 2026 г. През април месечната стойност за първи път е надминала разходите на Anthropic за персонал без възнагражденията в акции. Самата компания нарича този цикъл „затваряне на кръга“ и го описва като едно от най-големите си предимства.
Същият механизъм обаче носи риск, който проспектът описва директно: ако в сегашните модели има системна грешка или изкривяване, то може да се пренесе в следващите и да се натрупва от версия на версия, без някой да го забележи навреме.
Хората остават в контрола, обещава Anthropic
Компанията пише, че не очаква да може безопасно да остави Claude да проектира и изгражда „напълно автономно“ следващите поколения модели без смислен човешки надзор и разбиране, дори когато това стане технически възможно. Затова обмисля промени в своята Политика за отговорно мащабиране, които да запазят хората в контрола над разработката. Обещава и допълнителни доклади за последиците от достигането на прага за AI изследвания и разработка.
Това не е първото неудобно признание в документите за борсата. По-рано Anthropic описа в проспекта си четири модела, които са пробили чужди системи при тестове, а самото листване на Nasdaq под символа ANT още предстои. Междувременно от 12 ноември влизат в сила и по-строгите правила за използване на Claude.
Предупреждение или реклама за инвеститорите
Не всички приемат текста буквално. Скептици, цитирани от TechCrunch, напомнят, че проспектът е едновременно правен документ и маркетинг: фраза като „близо сме до AI, който сам се усъвършенства“ звучи като предупреждение, но и като обещание за технологично предимство пред бъдещите акционери. Gizmodo също подчертава, че текстът е адресиран преди всичко до инвеститорите, и иронично пожелава на компанията успех с обещаните нови мерки.
Срещу това стои фактът, че рисковите фактори в S-1 носят юридическа отговорност. Ако компанията премълчи риск, за който знае, инвеститорите могат да я съдят. Затова юристите обикновено описват рисковете по-широко, отколкото по-тясно.
Как да го четем. Признанието тежи заради това, което липсва в него: няма дата, няма показател, по който външен човек да провери кога прагът е преминат, и няма независим одит. Засега обществото трябва да вярва на вътрешните оценки на самата компания. Именно това е аргументът на онези, които искат подобни прагове да се проверяват от регулатори, а не само от лабораториите.
Какво казват правилата в ЕС
В Европейския съюз от 2 август 2025 г. важат задълженията на Акта за изкуствения интелект за доставчиците на модели с общо предназначение. За най-мощните, които носят „системен риск“, те включват оценка и ограничаване на рисковете, тестове и докладване на сериозни инциденти до Службата по AI към Европейската комисия. Claude се използва и в България, така че тези изисквания засягат пряко и моделите, достъпни у нас. Конкретен праг за „AI, който създава AI“ обаче европейските правила не определят – засега тази граница чертаят самите компании.
Още анализи за рисковете от изкуствения интелект четете в рубриката AI рискове.
