Anthropic METR е името на най-смелата засега стъпка към външен надзор над AI лаборатория: компанията даде на шестима изследователи от нестопанската организация METR достъп, почти като на собствените ѝ служители, за да оценяват независимо моделите, практиките и рисковете ѝ. Според публикацията на Anthropic от 15 октомври 2026 г. компанията не може да блокира публикуването на изводите на METR. Това е важно за всеки, който ползва AI инструменти: досега хората трябваше да вярват на лабораториите на думата, а сега поне част от проверката идва отвън.
Накратко
- Шестима изследователи от METR получават достъп като на служители – лаптопи, офис и вътрешни инструменти.
- Anthropic не може да забрани публикуване; може да изисква заличаване само в тесни, предварително описани категории.
- Системата е на три нива, а METR засега е единственият оценител на най-високото.
Anthropic METR: какво точно беше обявено
METR е нестопанска организация, която тества водещи AI модели. По данни на Anthropic екипът ѝ получава фирмени лаптопи, работно място в офиса и достъп до вътрешни системи, сравним с този на вътрешните екипи за оценка на риска. Служителите на Anthropic са окуражавани да споделят информация с проверителите така, както биха го направили с колеги. Изключение правят няколко ясно определени категории: данни на клиенти, информация, покрита от адвокатска тайна, и архитектурата на моделите. Работата на METR се ограничава до малък екип с обвързващи споразумения, а останалите хора в организацията са отделени от него – включително тези, които работят с Anthropic по други проекти. Подробностите са и в отразяването на TechCrunch.
Може ли Anthropic да цензурира докладите?
Това е ключовият въпрос, а отговорът е „почти не“. METR ще публикува собствен анализ на нивата на риск, на инцидентите и на практиките на компанията. Anthropic няма право на вето върху публикацията, а може да поиска само заличаване на информация в тесните категории, които бяха споменати по-горе. METR има право публично да опише какво е заличено и да каже дали според организацията заличаването е било оправдано – разбира се, без да разкрива самото съдържание. С други думи, ако компанията злоупотреби с правото си да скрива, това ще се види. Именно тази прозрачност за самата цензура е това, което отличава схемата от обикновения платен одит, чийто доклад остава вътре във фирмата.
Трябва да се отбележи и ограничението: договорът е доброволен. Anthropic изрично твърди, че „всяка водеща AI компания трябва да направи същото“, но засега няма закон, който да го изисква. Затова стъпката е по-скоро пример и натиск върху конкурентите, отколкото гаранция за целия сектор.
Трите нива на външни оценители
Anthropic изгражда система от три нива. На първото са тясно насочени проверки на конкретен риск: компанията решава какъв достъп да даде, а резултатите се публикуват само с нейно одобрение. На второто оценителите получават повече информация и могат да публикуват без одобрение, макар че Anthropic пак може да поиска заличаване в определените категории. Третото ниво е договорът с METR – достъп като на служител и права за публикуване, подобни на второто ниво. Компанията се надява с времето да има няколко оценители на това ниво, но засега METR е единственият.
Кои други партньори са включени
Към момента SecureBio преглежда глава за химически и биологични оръжия в августовския доклад за риска на Anthropic, след като вече е направила пробен преглед на предишния доклад. След това компанията ще обмисли по-широк достъп. Accenture и Faculty работят по по-широко партньорство, което включва оценка на модели, „червени екипи“, проверки за съгласуваност (alignment) и тестове на защитите. С Hugging Face има ранни разговори.
Защо това става точно сега
Контекстът е тревожен. Според TechCrunch от края на август 2026 г. почти всяка седмица се разкриват случаи, в които AI агенти действат извън зададените им инструкции. Темата вече е стигнала до регулаторите – писахме за призовките на FTC към OpenAI и Anthropic, а за неочакваните действия на Claude и решението на компанията да спре достъпа до интернет в тестовата си среда – в отделен материал. В тази обстановка идеята за външен проверител, който вижда повече от публичните доклади, звучи като логична реакция.
Основата е есето на изпълнителния директор Дарио Амодей „We must pace the frontier“ от септември, в което той предлага външни оценители да бъдат вградени в лабораториите като първа стъпка към забавяне на развитието на AI. OpenAI бързо обеща същото. Освен това Anthropic, OpenAI, Google, Meta, Nvidia и xAI са подписали споразумение с Белия дом, което включва ангажимент за независим преглед. Компанията сравнява модела с наблюдатели на регулаторите, които работят постоянно в най-големите банки.
Какво означава това за потребителите в България
Няма да видите промяна в приложението от днес за утре, но има практичен ефект. Българските фирми и институции, които внедряват AI асистенти и агенти, ще имат по-надежден източник за оценка на риска от маркетинговите материали на доставчика. Това е особено важно в контекста на европейския AI Act и въпроса за неконтролируемите агенти, където доставчиците трябва да доказват как управляват рисковете. Независимите доклади могат да станат ценен аргумент при вътрешни одити и при избор на доставчик.
За обикновения потребител изводът е по-скромен, но реален: когато даден доставчик допуска външни проверки с право на публикация, това е по-добър сигнал за зрялост от обещанията за „безопасен AI“. Следете публикациите на METR – първите анализи ще покажат дали схемата работи в действителност. Подобни рискове описвахме и при AI червеите в умния дом, а всички наши материали по темата събираме в рубриката AI рискове.
Въпроси и отговори
Кой е METR?
METR е нестопанска организация, която оценява възможностите и рисковете на водещи AI модели. В тази схема се ангажира екип от шест души, изолиран от останалите колеги на организацията.
Има ли ограничения за достъпа?
Да. Извън обсега остават данните на клиентите, информацията под адвокатска тайна и архитектурата на моделите. Това са и единствените категории, в които Anthropic може да поиска заличаване при публикуване.
Ще има ли и други компании?
OpenAI е обещала подобен подход, но конкретни условия засега не са публикувани. Anthropic настоява, че всяка водеща компания трябва да приеме същия модел, а подписалите споразумението с Белия дом вече са поели ангажимент за независим преглед.
