Служители на OpenAI години наред предупреждавали за пропуски в сигурността

Служители на OpenAI години наред са предупреждавали ръководството и борда, че сигурността в OpenAI изостава от технологията, която компанията създава. Това твърди разследване на Reuters от 3 ноември, базирано на петима души, запознати с вътрешните разговори, и то излиза точно когато OpenAI обяви нов „спринт“ по сигурността с компанията Cathedral, която наскоро проникна в системите на Anthropic.

Какво са сигнализирали служителите

Част от предупрежденията са започнали още преди пускането на ChatGPT в края на 2022 г. Някои от хората, повдигали въпроса, са останали с впечатлението, че за мениджмънта по-важно е да не изостава от Google и Anthropic, отколкото да затвори рисковете, обобщава TNW по материала на Reuters.

Конкретните оплаквания са три. Според петимата източници OpenAI е държала по-голямата част от кода си в едно общо хранилище (монорепо), в което всеки с достъп е можел да разглежда проекти, включително непублични. Трима от тях казват, че вътрешните инструменти, сред които и пясъчниците, в които изследователите тестват нови модели, не са минавали редовна проверка за сигурност, а промените в тях не винаги са тествани за уязвимости. Третата тема е рискът от вътрешни заплахи.

Последният пункт вече не е теоретичен. През октомври OpenAI съобщи, че е открила скрито записващо устройство в стая, използвана от висши ръководители, а американската прокуратура обвини тогавашния инженер в компанията Абдулрахман Алфозан, че го е поставил.

Отговорът на OpenAI

Компанията оспорва част от разказа. Тя посочва, че най-чувствителната ѝ работа е в отделни хранилища с ограничен достъп и че в общото хранилище няма тегла на модели. Вътрешните инструменти вече минават редовни проверки под ръководството на шефа по сигурността Дейн Стъки, който е в OpenAI от октомври 2024 г.

„Защитата на нашите технологии, данни и хора е отговорност, към която се отнасяме сериозно, и въпрос от национално значение.“

Елана Уидман, говорител на OpenAI, пред Reuters

Според един от източниците през август продуктовият шеф Тибо Сотио е прехвърлил една четвърт от продуктовите инженери към задачи по сигурността. OpenAI е наела и бившия министър на армията на САЩ Дан Дрискол да води работата ѝ по национална сигурност.

Защо партньорството с Cathedral предизвиква въпроси

Ден преди публикацията на Reuters OpenAI обяви в блога си следващия си вътрешен спринт по сигурността. В него изследователи на Cathedral ще използват моделите на OpenAI заедно с екипите на компанията, за да търсят слабости в защитите ѝ. Освен това наградите за критични находки в програмата за откриване на уязвимости (bug bounty) растат „повече от четири пъти“. Нова сума OpenAI не посочва; Gizmodo напомня, че през март 2025 г. максималната награда беше вдигната от 20 000 на 100 000 долара (около 86 000 евро).

Изборът на партньор е необичаен. Cathedral е основана от бивши служители на DOGE, ведомството на Илон Мъск за съкращаване на държавни разходи, и по публикации в медиите е оценена на 1,4 млрд. долара. Компанията стана известна, след като влезе във вътрешни системи на Anthropic през програмата ѝ за уязвимости и според свои думи видя Slack съобщения, оферти за работа и записи от срещи. Отговорникът по киберсигурността в Anthropic Логан Греъм заяви, че атаката е отнела „няколко дни“, че теглата на моделите и разговорите с Claude не са засегнати и че методът е бил извън правилата на програмата.

Какво означава това за хората, които ползват ChatGPT

Разследването не съобщава за изтичане на потребителски разговори или лични данни. Въпросът е по-широк: компания с около милиард потребители седмично и модели, които могат да намират уязвимости в чужд софтуер, е цел номер едно за шпионаж, а слабата вътрешна защита увеличава риска технологията да попадне там, където не трябва.

За обикновения потребител изводите са практични. Пазете акаунта си с двуфакторна защита, не поставяйте в чата пароли, номера на карти и служебни тайни и проверете в настройките дали разговорите ви се използват за обучение. Фирмите в ЕС, които ползват ChatGPT за работа, имат и задължения по GDPR за това какви лични данни на клиенти и служители подават към външни услуги.

Темата за контрола над мощните модели не е нова за OpenAI. По-рано писахме как агент на компанията взе тестов Ethereum от чужд портфейл и защо FTC изпрати призовки на OpenAI и Anthropic заради инциденти с AI агенти. Още по темата – в рубриката AI рискове.