Изтичане на данни от Grok Build, инструмента на Grok за създаване на приложения с AI, е изложило вътрешни документи на десетки организации, включително на SpaceXSI – компанията, която стои зад самия Grok. Изследователите от Claroc съобщиха на 10 ноември, че от над 37 000 проверени приложения почти 95% се отварят от всеки, който знае адреса, без вход и без парола.
Накратко
- Claroc е открила 35 578 публично отворени приложения на Grok Build – около 1 от 10 съдържа фирмени или лични данни.
- Сред изложеното са служителски списъци на болница, график на пожарна и рекламни оферти на X.
- SpaceXSI е свалила 24 свои приложения, но не и тези на останалите потребители.
Какво точно са намерили изследователите
Grok Build позволява на потребителя да опише с думи какво приложение иска – табло, списък, вътрешен инструмент – и AI го сглобява и публикува. Всяко такова приложение получава собствен поддомейн под grok.me. Според доклада на Claroc екипът е проверил над 43 500 такива адреса. 37 571 все още работят, а 35 578 от тях се отварят без никаква проверка. Само 1993 са отговорили с отказ за достъп.
Изследователите оценяват, че около едно на всеки десет отворени приложения съдържа служебни, бизнес или лични данни, а приблизително 2% – материал с висока или критична чувствителност. По тяхна извадка това означава между 650 и 800 приложения с частна информация. Засегнати са 30 организации, които са успели да идентифицират, от тях 26 с над 1000 служители и шест от списъка Fortune 500.
Болница, пожарна и рекламните планове на X
Списъкът с примери е неприятно конкретен. Claroc описва регистър на над 3500 служители на болнична група, с който може да се търси, и брифинг за пациент в интензивно отделение с изследвания и данни за обдишването. Има и смяна на пожарна с имената, номерата на значките и часовете на дежурство на пожарникарите, списък с над 1000 шофьори на транспортна фирма с лични имейли, както и приложение за отчитане на работно време, в чийто код стоят 18 профила с пароли в чист текст.
От собствената кухня на SpaceXSI и X са изтекли план за въвеждане на нови служители с вътрешни адреси на системи, карта на продажбите с 594 стратегически клиента, осем рекламни оферти на X – една от тях към федерална агенция в САЩ, маркирана като поверителна – и четири работещи табла с рекламни кампании.
Компанията, която прави Grok, е държала собствените си вътрешни материали отворени за всеки, който има линка.
изследователите от Claroc в доклада си
Защо линковете не са били тайна
На теория адресите на приложенията са трудни за налучкване – обикновено четири случайни думи. Проблемът е, че тези думи стоят в името на поддомейна, а не в пътя след него. Така всеки адрес попада в услугите за пасивен DNS, които записват кои домейни се търсят в интернет, а базите им могат да бъдат претърсвани по шаблон. Не е нужно никой да налучква нищо – списъкът вече съществува.
Според Claroc при публикуване на приложение опцията „Всеки с линка“ е била предварително избрана в платения профил, който са тествали. За сравнение, при ChatGPT подразбиращата се настройка в същия тест е „Само аз“. Изследователите откриват и по-дълбоки пропуски в генерирания код: приложение с база данни без вход, в което всеки посетител може да добавя и трие записи, и екипен вход, който добавя потребителя в екипа, преди да провери дали изобщо е член.
SpaceXSI отговаря, че приложенията остават частни, докато създателят им не ги сподели, а служебните профили по подразбиране са „Само вие“. Claroc признава, че нищо не става публично без натискане на „Публикувай“, но държи на това, че следващата стъпка предлага отворен достъп като готов избор. По данни на Engadget компанията е реагирала едва след като изследователите са отбелязали Илон Мъск в X, а след това е свалила само своите 24 приложения.
Какво да направите, ако ползвате AI за бързи приложения
Случаят не засяга само Grok. Claroc изрично изброява и Lovable, Replit, v0, Bolt, Base44 и Google AI Studio като инструменти, които служителите често ползват без знанието на ИТ отдела. Препоръките им са приложими и за малка българска фирма:
- Разберете кои AI конструктори на приложения се ползват в екипа ви.
- Отворете всяко публикувано приложение в режим „инкогнито“ и проверете дали се вижда без вход.
- Сменете достъпа на всичко с вътрешни данни на „Само поканени“ или „Само аз“.
- Опитайте вход с външен профил, за да се уверите, че ограничението работи.
- Проверете дали в кода на приложението няма имена, имейли или пароли, и свалете приложенията, които никой не поддържа.
За фирмите в ЕС има и правна страна. Изложени данни на служители и клиенти са нарушение на сигурността по GDPR, което в България се съобщава на КЗЛД до 72 часа след като администраторът разбере за него. Това важи независимо дали приложението е създадено от програмист или от чатбот за пет минути.
Това не е първият път, в който функция за споделяне на AI съдържание изкарва лични данни наяве. Преди седмици Meta спря споделените чатове в Muse по сходна причина, а темата за злоупотреби с AI в киберсигурността се разраства. Още случаи следим в рубриката AI рискове.
Голямата поука: AI вече позволява на всеки да пусне работещо приложение за минути, но не мисли вместо него кой ще го види. Докато инструментите не направят затворения достъп стандарт, тази проверка остава грижа на човека, който натиска бутона.
