Защо не трябва да се предоверяваме на технологиите

В днешната статия ще разкажа една история, която ми попадна преди доста време и така и не мога да я забравя. Тя е явен пример защо не трябва да се предоверяваме на технологиите; защо е задължително да има проверка от човек; защо емоциите и човешката преценка са ключов фактор при вземане на решения. Предупреждавам, че историята е дълга, така че си вземето нещо за хапване и се въоръжете с нерви.

Историята на Робърт Макданиел и неговият сблъсък с изкуствен интелект.

Робърт Макданиел и полицията на Чикаго са ключови фигури в тази история, а гледната точка, която ще споделя днес е именно неговата.

Всички проблеми за него започнали в един нормален ден с почукване на вратата. Когато отворил, Макданиел открива не един човек, а кохорта от посетители: двама полицаи в униформа, съсед, работещ с полицията, и мускулест човек с къси панталони и тениска с къса, побеляла коса. Визита от полицията не би го учудила изобщо, заради рисковият район, в който живеел, но стълпотворението и от други придружаващи бил главен признак за изненада.

От 775 убийства, проследени от Chicago Sun-Times през 2020 г., 72 от тях са станали в Остин. Това е почти 10 процента от процента на убийствата в града, в регион, който заема само 3 процента от общата му площ. Чикаго издава „топлинна карта“ на местонахождението на престрелки, като областите с умерен брой стрелби са засенчени в синьо или зелено. Червените петна представляват голям брой – и най-горещи концентрации – стрелби. На картата Остин е цветът като на пожарна.

„Нямах представа защо тези ченгета са тук“, казва Макданиел, разказвайки го години по-късно. – Не бях направил глупости, за да ги доведа тук.”

След като ги поканил в своя дом са му казали нещо, в което е трудно да се повярва: алгоритъм, изграден от полицейското управление в Чикаго, предвижда – въз основа на неговата близост и взаимоотношения с известни стрелци и жертви при стрелба – че Макданиел ще участва в стрелба. Че ще бъде „страна на насилието“, но не било ясно от коя страна на цевта може да е той. Той може да е стрелецът, може да бъде застрелян. Въпреки липсата на други данни той е автоматично поставен в графата рисков фактор.

Макданиел е и потенциална жертва, и потенциален извършител, а посетителите на верандата му се отнасяха към него като към такъв. Социален работник му казва, че може да му помогне, ако проявява интерес да намери помощ, за да си осигури работа, например, или психично-здравни услуги. Полицията също го предупреждава: оттук нататък полицейското управление в Чикаго ще го наблюдава. Алгоритъмът показва, че Робърт Макданиел е по-вероятно от 99,9 % от населението на Чикаго да бъде застрелян или да има свързана с него стрелба. Това го прави опасен и висшият ръководител на полицията в Чикаго го знае. Така че Макданиел е по-добре да се държи най-добре.

Идеята, че поредица от изчисления може да предвиди, че той скоро ще застреля някого или ще бъде застрелян, изглежда странна. По това време Макданиел не е знаел как да приеме новините. Но посещението задейства поредица от процеси.

Началото на проблемите за Макданиел.

Кварталът на Макданиел представя голяма част историята на града. Парцелите са тесни и населението е почти изключително чернокожи и испанци; няма очевидни изоставени имоти на Северния Мейсън, улицата, където живее Макданиел, но по съседните улици положението не е така. Почти всяка къща в квартала на Макданиел разполага с предна веранда, където жителите прекарват голяма част от времето си, особено през топлите летни месеци. Те дават на квартала усещане за сплотеност и оживена социална динамика, но помага да се усложнят нещата, когато полицията се появи в нечий дом. Лесно е да държите под око съседите и според Макданиел хората често месят в чуждите проблеми.

Всичко това означава, че съседите на Макданиел са видели как пристига кохортата от служители. Те са видели как полицията отива до верандата му и забелязат, че когато си тръгват, Макданиел не си тръгва заедно с тях с белезници. Членовете на семейството му и хората в квартала започнали да задават въпроси за посещението. Дали Макданиел е постигнал някакво споразумение с полицията? „Те искат да знаят защо всички тези мръсни полицаи са тук и говорят с мен“, казва Макданиел. „И знаете ли какво? Аз също. “

Репортер на Chicago Tribune по-късно се свърза с Макданиел относно история за „топлинния списък“ – неофициален псевдоним, който ченгетата дадоха в регистъра на лица като Макданиел, които са идентифицирани от полицейския алгоритъм като потенциални стрелци или жертви на стрелба. Макданиел вижда това като възможност да изчисти името си, да каже на света, че не работи с полицията и, освен това, че не прави нищо, което трябва да привлече вниманието на полицията – освен че е чернокож.

“Нямам досие, така че какво би ви дало вероятна причина да ме следите?” Макданиел каза пред Tribune през лятото на 2013 г. „И ако ме следите, тогава очевидно можете да видите, че не правя нищо“.

Статията на Chicago Trubine описва “топлиннията списък”, създаден „с помощта на математически анализ“, но не навлиза подробно как е направен този анализ. Фактът, че Макданиел, чернокож без значителна криминална история, за която да говорим (със сигурност няма престъпления), е една от основните цели на анализа, но поражда още повече въпроси. Кой друг беше в списъка? Какви фактори използва полицията, за да създаде своя анализ? И какво се прави, за да се гарантира, че списъкът не е насочен само към хората поради цвета на кожата им или мястото, където са живели?

Постоянна цел на следене и проверки.

Макданиел казва, че веднага след като е бил включен в списъка, той е станал мишена на постоянно наблюдение от Чикагската полиция. Полицаите са направили точно това, което са обещали, казва той, и много повече. Полицията започна да се мотае из бодегата, където той работил, да търси възможности да го преследва, често разпитвали мениджърите му за дейностите и местонахождението му.

Вниманието на полицията не само служи за обезпокояване на Макданиел и му струва глоби.Изведнъж много негови приятели и съседи не му се доверяват.

Не е тайна, че доносничеството се осъжда в общности със значителна част от населението им зад решетките. Но МакДаниел не е бил доносник. Той дори не е бил помолен да го направи; ако се вярва на кохортата, която се появи на входната му врата, те просто го молеха да приеме помощ и да се пази от неприятности. На никого в квартала не изглеждаше така, казва Макданиел, тъй като ченгетата сякаш го следваха, където и да отиде. Макданиел се озовава в най-лошия сценарий: полицията не му вярваше поради списъка, докато съседите и приятелите му не му вярваха, защото предполагаха, че сътрудничи на органите на реда – никакви гаранции няма да ги убедят, че не е така. Макданиел се изолира. Приятелите спират да говорят с него.

През 2017г. продуценти на документален филм се свързват с него и той с охота приема, за да изчисти името си, но присъствието на камери и снимачни екипи не се възприема добре от съседите и колегите му.

Известно време след снимките – Макданиел не помни датата или няма документация, която да го докаже – той си спомня, че е бил приближен от група мъже от квартала му, хора, които познавал. Те го попитали директно, дали е доносник.

Макданиел не се е срамувал да каже на хората, че се е появил в списък с вероятни насилници. Но той настоявал, че присъствието му в списъка не означава, че има някакво участие в полицейското управление на Чикаго. „Казвам им истината“, разказва той. „Просто се опитвам да извадя името си от тези глупости, дори не знам как попаднах там.“ След това, казва Макданиел, той и групата са се разделили.

Ден или два по-късно, докато се мотае в къщата на съсед на пресечка от дома му, Макданиел казва, че му се обажда някой, който според него „е трябвало да е приятел“. Приятелят каза, че е пред къщата на МакДаниел и е искал той да излезе навън и да му обясни отново – каква е историята, как е попаднал в списъка, защо хора от Чикагската полиция са посетили дома му, защо сега се документира от режисьори.

Макданиел се съгласява, но когато върви към къщата си, кола спира и мъж стреля няколко пъти. Един от изстрелите уцелва Макданиел в коляното и кракът му отказва. Колата потегля. Чувайки изстрелите, съседът, чиято къща Макданиел току-що бе напуснал, вика линейка.

В болницата, Макданиел си спомня, че е разговарял с някой, свързан със стрелеца. Недоверчив, той пита: „За какво, по дяволите, просто ме стреляте?“ Отговорът, според Макданиел: „Много ши****ци не вярват на история ти.“

Въпреки, че всичко до момента звучи като сценарий на филм, това са реални факти и събития от живота на един обикновен гражданин, който просто живее в рисков квартал.

„Живея тук 25 години. Познавам хора, техните семейства, техните приятели “, казва той. „Една година съм в къщата ти, майка ти ми готви, ние сме на дивана, почиваме, играем игри, пушим трева. Следващата, пистолет е насочен към мен. “

Изводът, от гледната точка на Макданиел, е че топлинният списък причини вредата, която създателите му се надяваха да избегнат: той предвиди стрелба, която нямаше да се случи, ако не беше предвидил стрелбата. А ситуацията през годините не се променя. Съседи и приятели го отбягват, работодатели го гледат като престъпник, полицията го следи, също като такъв.

През август 2020 г., 7 години по-късно, Макданиел отново се озова на грешната страна на пистолета. Около полунощ на 13 август той влиза в алея на десетки метри от мястото, където стрелците едва не го убиха години преди това. Проверявайки съобщенията на телефона си, той вдигна очи, за да види себе си в засада – двама стрелци. На видеозапис от онази нощ се виждат тъмни фигури, които минават през алеята, няколко изстрела. Фигура – Макданиел – пада към тухлена стена, след което се плъзга надолу към земята.

По чудо оцелява. Макданиел казва, че знае кой го е направил, но няма да отиде в полицията. Той казва, че е обект на насилие, защото хората в квартала му вярват, че е доносник. Но Макданиел отказва да съобщи за стрелбата на полицията, защото казва, че не е доносник – и никога няма да бъде. Каква ирония.

С това приключва тази история. Макданиел остава да живее в своя дом и всеки ден се опитва да докаже на своите съграждани, че технологията и този топлинен списък са грешка. Технологиите, алгоритмите и анализите на хората по света се усъвършенстват всеки ден и такива грешки, може би, се изчистват, но все пак не е хубаво да се предоверяваме, а човешката преценка и емоция не може да бъде заменена никога от една машина.