Notion потвърди, че при пробив във Fireworks AI – външен доставчик, който обработва част от заявките към Notion AI – са изтекли записи на разговори на потребители с AI асистента. Изтичането на данни от Notion AI засяга по-малко от 1% от работните пространства, но показва колко далеч могат да пътуват текстовете, които хората поставят в един AI чат.
Накратко
- Изтекли са транскрипти на чатове, използвани от функцията Insights, която Notion вече изключи.
- При повечето засегнати записите не са свързани с конкретен човек или фирма, според компанията.
- Засегнатите са уведомени по имейл и трябва да сменят паролите и ключовете, които са поставяли в чата.
Атаката започва при облачния доставчик на Fireworks
Fireworks е компания от Сан Матео, основана през 2022 г., която предлага инфраструктура за работа с AI модели на над 10 000 клиенти. Според The Record фирмата открива първия пробив на 6 октомври. На 23 октомври е атакуван външен облачен доставчик, на който работят нейните машини за разработка, а на следващия ден нападателят използва този достъп, за да пусне неразрешено натоварване, довело до „допълнително засягане на клиентски данни“.
Fireworks е наела Unit 42 на Palo Alto Networks за разследването. Според заключенията атаката е дело на киберпрестъпна група с финансови мотиви. Откраднати са вътрешни данни, информация за плащания и фактури, данни за акаунти и тайни ключове, както и набори от данни на клиенти.
Как Notion разбра за изтичането
Хронологията от официалното съобщение на Notion показва, че първоначалната оценка е била успокоителна, а картината се променя за няколко дни.
| Дата | Какво се случва |
|---|---|
| 2 ноември, вечерта | Fireworks уведомява Notion за достъп до малък набор от данни – по онова време само синтетични тестови данни |
| 3 ноември, сутринта | Notion прекъсва връзката с Fireworks и изтрива данните си в системата на доставчика |
| 6 ноември | Fireworks съобщава, че може да са достъпени и клиентски данни |
| 8 ноември | Доставчикът потвърждава новия набор от данни |
| 9 ноември | Notion публикува съобщение за инцидента и уведомява засегнатите |
Какво точно е изтекло
Notion използваше Fireworks за два вида задачи: за да обслужва някои модели с отворени тегла в Notion AI и за класифициране на разговорите за функцията Insights. Тя показва на администраторите на работни пространства как екипите им използват AI. Именно записите от Insights са попаднали в ръцете на нападателите.
Според Notion при повечето засегнати пространства чатовете не са били обвързани с автор или фирма и не са съдържали резултатите от действията, които AI е изпълнявал. „Неатрибутируеми означава, че чатовете не са били обозначени с това кой ги е написал или от кое работно пространство са“, цитира компанията BleepingComputer. Други функции на Notion не са засегнати, а самата компания подчертава, че нейните системи не са пробити.
Insights е изключена, докато трае разследването, а Notion вече не обслужва модели с отворени тегла през Fireworks.
Стъпки, ако работите с Notion
- Проверете пощата си. Ако Notion не ви е писал, компанията не е идентифицирала вашето пространство като засегнато и засега не се изисква действие.
- Ако сте получили известие, прегледайте засегнатите данни през „Security incident review“ в настолната или уеб версията. Собствениците на пространства могат да споделят линк, през който членовете да изтеглят собствените си записи.
- Приемете, че засегнатите разговори са станали публични, и преценете какво е имало в тях.
- Сменете всички пароли, API ключове и други данни за достъп, които сте поставяли в Notion AI през периода на инцидента.
За фирмите в България и ЕС, които обработват лични данни на клиенти в Notion, инцидентът е повод да проверят дали изтеклите записи съдържат такива данни и дали това ги задължава да уведомят КЗЛД по реда на GDPR.
Слабото звено е веригата от доставчици
Случаят е поредното напомняне, че разговорът с AI асистент рядко остава само между вас и приложението. Зад една функция често стоят няколко външни фирми за хостинг, модели и анализ, а договорното обещание за нулево съхранение – Notion посочва, че Fireworks е поела такъв ангажимент – не помага, ако доставчикът бъде пробит.
Атаките срещу AI платформите в последните седмици не са изолирани. Mandiant предупреждава за т.нар. LLMjacking – кражба на ключове за достъп до езикови модели, при която измамните сметки в някои случаи надхвърлят 100 000 долара за един ден. Сходни проблеми видяхме и при Grok Build, и при споделените линкове в ChatGPT.
Най-простото правило остава в сила: не поставяйте пароли, ключове и чувствителни лични данни в AI чат, независимо колко удобен е той. Ако използвате Notion като основен инструмент за задачи, вижте и сравнението ни с Todoist и TickTick, а повече за рисковете от изкуствения интелект има в рубриката AI рискове.
.jpg){kind=link}