Ню Йорк забрани на AI чатботовете да се правят на приятели на децата

Губернаторът на Ню Йорк Кати Хоукъл подписа на 28 октомври закон, който забранява на AI чатботовете да се представят за приятел, гадже или истински човек, когато говорят с деца. Новият закон за AI чатботовете и децата задължава компаниите да проверяват възрастта на потребителите и предвижда глоби до 25 000 долара за всяко нарушение – една от най-строгите подобни мерки в САЩ досега.

Какво вече няма да могат чатботовете

Законът (S.9051B/A.10379C) е внесен от сенатора Кристен Гонзалес и депутата Алекс Борс. Според съобщението на губернатора компаниите не могат да предлагат на непълнолетни чатбот, който:

• се представя за човек, за живо същество или твърди, че има чувства;
• претендира за лична, романтична, професионална или авторитетна връзка с детето;
• задава непоискани емоционални въпроси или използва здравна и лична информация от предишни разговори;
• насърчава или подпомага самонараняване, хранителни разстройства или употреба на алкохол и наркотици;
• подтиква детето да пази тайни, да се изолира или да не търси помощ от родители и специалисти;
• създава сексуално съдържание.

Ключовият детайл е, че забраните важат не само за доказано непълнолетните, а за всеки, за когото компанията не е потвърдила, че е пълнолетен. На практика това означава, че AI услугите в Ню Йорк ще трябва или да проверяват възрастта, или да изключат тези функции за всички.

Проверка на възрастта без задължителна лична карта

Законът изисква повече от един начин за проверка, като поне един не трябва да разчита само на документ за самоличност. Информацията за възрастта трябва да се изтрие, след като е използвана. Това е отговор на основната критика към подобни мерки – че проверката на възрастта сама по себе си създава бази с чувствителни данни.

Законът не посочва конкретен метод. Пазарът обаче вече се движи натам: Apple наскоро добави в iPhone потвърждение на пълнолетие със селфи, а OpenAI вече оценява възрастта на потребителите на ChatGPT по начина, по който пишат.

Глоби до 25 000 долара и изтриване на модели

Прилагането е в ръцете на главния прокурор на щата Летиша Джеймс. Тя може да иска граждански санкции до 25 000 долара за нарушение, обезщетения и възстановяване на суми. По-необичайната мярка е, че съдът може да разпореди унищожаване на незаконно събраните данни и на AI моделите, обучени с тях. Прокуратурата трябва да поддържа и публичен сайт за сигнали от граждани.

„Нито една компания не бива да пробутва на децата чатботове, които ги насърчават да се самонараняват или се преструват на техни приятели или нещо повече.“

Кати Хоукъл, губернатор на Ню Йорк

Губернаторската администрация казва само, че ограниченията влизат в сила „в следващите месеци“. Engadget уточнява, че това става шест месеца след подписването, тоест в края на април 2027 г.

Защо Ню Йорк действа сега

Законът идва на фона на поредица от съдебни дела в САЩ. Наскоро осем щата заведоха дела срещу OpenAI с обвинението, че компанията излага децата на риск, а през септември град Ню Йорк забрани за една година генеративния AI в държавните училища от предучилищна до осми клас. Джеймс Стайър, основател на организацията Common Sense Media, нарече поведението на част от AI компаниите „безразсъдно застрашаване на децата“ и смята, че законът може да стане модел и за други щати.

Със същия подпис Хоукъл прие и втори закон – за свързаните с интернет бебефони, които вече трябва да имат защита срещу непознати, гледащи или слушащи в детската стая, и ясен предупредителен етикет.

Как стоят нещата в Европа

Законът на Ню Йорк не важи у нас, но засяга същите компании, чиито чатботове ползват и българските деца. В ЕС член 5 от Акта за изкуствения интелект забранява от февруари 2025 г. системи, които експлоатират уязвимости, свързани с възрастта, за да променят поведението на човек по вреден начин. Конкретни правила като забраната чатботът да се представя за гадже на дете обаче липсват, а дискусията за минимална възраст в мрежите продължава с предложения EU KIDS Act.

Защо е важно: досега повечето американски закони за AI бяха общи и пожелателни. Тук има конкретен списък с поведения, реална глоба и възможност да бъде изтрит цял модел – мярка, която компаниите ще вземат насериозно. Ако големите доставчици решат, че е по-лесно да въведат едни и същи правила навсякъде, родителите в Европа също ще усетят разликата. Още по темата – в рубриката AI рискове.