Anthropic Cyber Mission е новата дългосрочна програма на компанията зад Claude, с която тя иска да помогне на защитниците да не изостанат от атаките, задвижвани от изкуствен интелект. Обявена на 8 октомври, мисията започва с две направления: програма за защита на критичната инфраструктура като електрически мрежи, водоснабдяване и транспорт и безплатен скенер за уязвимости в отворен код. Anthropic признава открито, че в краткосрочен план AI дава предимство на нападателите и че тази работа „ще отнеме години“.
Инициативата идва в напрегнат момент. Според The Register през последните седмици имаше няколко случая, в които водещи AI модели са проникнали в системите на поне 20 организации, сред които Hugging Face. Регулаторите в САЩ и ЕС вече реагират, а ние писахме за позицията на Брюксел в AI Act срещу неконтролируемия AI: какво каза ЕС.
Какво включва Anthropic Cyber Mission
Първото направление е Програмата за защита на критичната инфраструктура (CIDP). Тя дава на доставчици на сигурност за т.нар. оперативни технологии достъп до най-мощните модели Claude, до инженери на място и до изследвания на заплахите. Целта са системите, които управляват физическия свят – електроразпределение, водни съоръжения, транспортни мрежи, както и държавни системи. Програмата стартира с малка група от 11 партньори: Accenture, Booz Allen, CrowdStrike, Deloitte, Dragos, Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC и Rockwell Automation.
Второто направление е OSS Scanner. Това е услуга по желание, вдъхновена от OSS-Fuzz на Google, при която записаните проекти с отворен код получават периодични безплатни проверки от най-способните модели на Anthropic. Докладите съдържат доказателство за уязвимостта, обяснение и, където е възможно, предложена корекция. Според официалното съобщение на Anthropic компанията очаква над 90% от сигналите да са верни.
Защо AI атаките са риск за критичната инфраструктура
Оперативните технологии са особено уязвими, защото често работят с остарял софтуер, който не може просто да бъде спрян и обновен. Самата Anthropic отбелязва, че при някои системи за управление поправките могат да отнемат десетилетия. При по-ранния ѝ проект Project Glasswing между откриването и поправянето на уязвимост често са минавали месеци. Anthropic пише без заобикалки, че критичната инфраструктура е трудна за защита по много начини, които AI не може да реши.
Партньорите също го казват директно. Андрю Търнър от Booz Allen определя оперативните технологии като „следващия фронт“ за автономни атаки с изкуствен интелект. Логиката е проста: модел, който може бързо да открие слабост в код, е полезен и за нападателя, и за защитника. Мисията е опит защитниците да получат тези възможности първи, вместо да ги гонят.
Прогнозата за две години
Anthropic залага на това, че след около две години AI ще дава предимство на защитата, защото грешките ще се хващат още преди кодът да бъде пуснат. До тогава обаче компанията признава, че картината може да е обратна. Затова мисията ще се разширява към нови партньори и сектори „през следващите месеци“. Тя обединява и по-ранни инициативи, сред които Cyber Verification Program, в която Project Glasswing беше включен по-рано през седмицата, и фонда Defender Advantage Fund от август.
Условията и рисковете на OSS Scanner
Скенерът не е отворен за всички. Право да се запишат имат основните поддръжници на критично важни проекти с отворен код, които могат да се справят с потока от находки. Критериите следват тези на OSS-Fuzz. The Register обръща внимание на два важни детайла:
- докладите се генерират от модела и се изпращат без човешка проверка;
- проектите, които се включат, приемат входните и изходните им данни да могат да се използват за обучение на модели съгласно потребителските условия на Anthropic.
За по-малките проекти, които не отговарят на условията, остават познатите инструменти като Dependabot, OSV-Scanner, Trivy и Renovate. Anthropic посочва още, че финансира организации като Python Software Foundation, OpenSSF и Apache Software Foundation, а поддръжниците могат да кандидатстват за безплатен абонамент Claude Max по програмата Claude for Open Source.
Какво означава това за България
Програмата за критична инфраструктура засега е насочена към доставчици на сигурност, които работят с оператори, най-вече в САЩ. В съобщението на Anthropic Европа не се споменава. Пряката полза за българските компании минава по-скоро през отворения код. Голяма част от софтуера, на който стъпват банки, държавни системи и стартъпи у нас, зависи от проекти като Python, OpenSSL или Apache, а по-бързото откриване на уязвимости в тях подобрява сигурността на всички.
Българските организации от сектори като енергетика, води и транспорт попадат в обхвата на европейската директива NIS2 и трябва сами да управляват киберрисковете си. Практическият извод е, че AI инструментите за защита стават стандарт, но не заместват обновяването на системите и основната хигиена. За домашните потребители съветите остават същите – силни пароли и навременни ъпдейти, за което писахме в Най-слабите пароли за 2025 и Сигурност на смарт устройства.
Често задавани въпроси
Безплатен ли е OSS Scanner?
Да, сканиранията са безплатни, но само за одобрени критично важни проекти с отворен код, чиито поддръжници се запишат доброволно.
Може ли българска компания да се включи в програмата за инфраструктура?
Програмата приема заявки за интерес от компании, които създават продукти и услуги за сигурност на критична инфраструктура. Ограничение по държава в съобщението не е посочено, но първата група партньори е малка. Още анализи за опасностите от изкуствения интелект четете в рубриката AI рискове.
