Apple се готви да сканира снимките на потребителите си за материали със сексуално насилие над деца – и според първите данни проверката ще се извършва върху самото устройство, а не само в облака. Към 5 август 2021 г. компанията още не е обявила официално нищо, но информацията, която изтече предната вечер, е достатъчно подробна, за да предизвика остър спор между защитници на децата и защитници на личните данни.
Накратко
- Според изтеклата информация Apple ще сравнява снимките с база данни от вече известни изображения на насилие над деца.
- Проверката се извършва на устройството, преди снимките да стигнат до облака.
- Специалисти по сигурност предупреждават за фалшиви сигнали и за риск системата да се използва и за други цели.
Откъде идва информацията
Новината излезе наяве вечерта на 4 август, когато криптографът проф. Матю Грийн от университета „Джонс Хопкинс“ публикува серия от съобщения в Twitter. Според него Apple планира инструмент от страна на клиента, който да търси в снимките на потребителите познати изображения на сексуално насилие над деца. Самата компания все още не беше коментирала публично, така че към момента на писане всичко се основава на неофициални сведения и на тълкуването на експерти.
Подобни проверки не са нещо ново в индустрията. Големите облачни услуги отдавна сравняват качените файлове с бази от известни материали, поддържани от организации като Националния център за изчезнали и експлоатирани деца (NCMEC) в САЩ. Новото в случая е мястото на проверката – не на сървърите на компанията, а на телефона на потребителя.
Как би работила системата
По описанията устройството ще получава от Apple набор от отличителни „отпечатъци“ на вече известни незаконни изображения. Всяка снимка, която се подготвя за качване в облака, се преобразува в подобен отпечатък и се сравнява с този набор. Ако има съвпадение, случаят се маркира и може да стигне до преглед от човек, преди компанията да уведоми компетентните органи.
Важна подробност е, че целта не е да се „разпознава“ какво е заснето във всяка снимка, а да се откриват копия на вече познат материал. Така семейните снимки, включително на деца на плажа или във ваната, на практика не би трябвало да бъдат засегнати. Именно това е основният аргумент в защита на подхода: проверката се извършва локално и теоретично Apple не „вижда“ снимките ви, освен при съвпадение.
Технически Apple има подготвена основа. Приложението Photos на iPhone и iPad вече анализира снимките на устройството, за да разпознава хора, предмети и сцени, и това позволява търсене по ключови думи. Подобна локална обработка е част от философията на компанията за поверителност, която тя представя като конкурентно предимство – вижте общите ѝ принципи на страницата на Apple за поверителност. Същият подход виждаме и при Face ID, и в промените на iOS 14, където много функции работят локално.
Защо това е толкова спорно
Никой не оспорва целта. Проблемът е в механизма. Експертите по сигурност посочват няколко риска, които са валидни независимо от добрите намерения на Apple.
- Фалшиви съвпадения. Алгоритмите за сравнение на изображения не са безгрешни. При милиарди устройства дори много малък процент грешки означава реални хора, чиито снимки ще бъдат прегледани погрешно.
- Разширяване на обхвата. Щом на устройствата има механизъм за сканиране срещу външна база данни, теоретично тази база може да бъде допълнена с други категории съдържание – по искане на правителство или по съдебно разпореждане.
- Прозрачност. Потребителят не може сам да провери какво точно съдържа базата и как се вземат решенията, особено когато съдържанието ѝ по закон не може да бъде публично разглеждано.
От другата страна са организациите за закрила на децата, които настояват, че технологиите за криптиране често затрудняват разследванията. Месинджъри като WhatsApp и iMessage вече ползват криптиране от край до край, при което нито доставчикът, нито органите на реда могат да четат съобщенията. За много престъпни среди това е удобно прикритие, а за обществото – труден компромис между сигурност и поверителност.
Какво означава това за вас
Ако не съхранявате и не споделяте материали с такъв характер, не би трябвало нищо да се промени в ежедневието ви. По-важният въпрос е принципен: дали телефонът, който сте купили, трябва да проверява личните ви файлове по заявка на трета страна. Apple досега изграждаше имиджа си на компания, която защитава данните на потребителите дори от държавни искания – спомнете си спорове като този около криптирането на iCloud и интереса на ФБР – и затова промяната предизвиква особено силна реакция.
Очакваме официално съобщение от Apple, което да уточни как точно ще работи системата, къде и кога ще бъде въведена и какви гаранции ще има срещу злоупотреби. Докато нямаме тези детайли, е разумно да се държим внимателно с категоричните твърдения както за, така и против. Ако пък разполагате с информация за престъпление срещу дете, сигнализирайте веднага на компетентните органи.
По-късно: какво потвърди Apple
Още същия ден Apple потвърди плана официално. Според TechCrunch технологията се нарича NeuralHash, а снимките, качвани в iCloud Photos, се сравняват на устройството с хешове от бази на организации като NCMEC. Съвпаденията се разчитат от Apple едва след достигане на определен праг, а след преглед от човек компанията може да блокира профила и да подаде сигнал до NCMEC. Apple твърди, че шансът за грешка е един на трилион и че има процедура за обжалване. Функцията бе обявена първо за САЩ с iOS 15 и macOS Monterey, а критиките от специалисти по сигурност и организации за защита на правата не заглъхнаха.
Тази статия е публикувана първоначално в СмартМакс на 5 август 2021 г. и е възстановена от архива на сайта. Информацията отразява известното към датата на публикуване.
