ChatGPT спира да говори с тийнейджъри за оръжия – какво още се променя

OpenAI обяви на 30 октомври, че ChatGPT ще спре да дава на тийнейджърите практическа информация за оръжия и охранителни системи – дори когато въпросът изглежда напълно безобиден. Новите ограничения за тийнейджъри в ChatGPT идват в рамките на по-широк пакет мерки срещу насилието, който засяга и възрастните потребители: чатботът вече ще може сам да прекрати разговор и да спре временно акаунт.

Какво вече няма да отговаря на 15-годишен

Досега ChatGPT отказваше основно когато в разговора имаше явни признаци за намерение да се навреди. Новото правило е по-строго: за акаунти в тийнейджърския режим чатботът ще ограничава практическата информация за оръжия и охранителни системи, без значение дали има повод за тревога. Логиката на OpenAI е, че такива знания могат да бъдат злоупотребени, независимо как е зададен въпросът.

Това не означава, че темата е забранена. Тийнейджърите ще могат да питат как да предотвратят или успокоят конфликт, как да потърсят помощ и как да се свържат с възрастен, на когото имат доверие. Според The Next Web разговорите за последиците от насилието и за предупредителните знаци също остават разрешени.

Промените, които засягат и възрастните

Втората част от пакета важи за всички, независимо от възрастта и причината за въпроса. ChatGPT ще дава по-малко подробности за минали масови нападения и извършителите им, дори когато информацията е публично достъпна. Чатботът няма да реконструира нападение, включително какви оръжия са използвани и как са набавени, и ще избягва сравнения на мащаба на жертвите, които могат да превърнат нападателя в „рекордьор“.

Новото е и автоматичното прекратяване на разговори. Когато системата прецени, че някой е фиксиран върху насилие или върху сериозно нараняване на друг човек, ChatGPT може сам да затвори чата. След няколко такива прекъснати разговора OpenAI може временно да спре акаунта.

„Тези ограничения важат независимо от възрастта на потребителя и от причината да пита.“

OpenAI, в обявлението за новите мерки

Как ChatGPT разбира, че пише тийнейджър

Тук е и най-деликатната част. OpenAI е подобрила системата си за оценка на възрастта, която по сигнали като поведението в разговорите преценява дали потребителят е под 18 години. Ако реши, че е, акаунтът минава в тийнейджърския режим автоматично. Възрастен, попаднал там по погрешка, може да потвърди възрастта си през услугата Persona.

Компанията не уточнява кои точно сигнали използва, нито колко често греши. В Европа това е въпрос и на защита на личните данни – потвърждаването на възраст обикновено минава през документ или селфи, затова е добре да знаете какво давате, преди да го направите. Ако искате да ограничите какво ChatGPT пази за вас, вижте нашите 7 настройки за поверителност в ChatGPT и Gemini.

Какво получават родителите

Родителският контрол в ChatGPT работи чрез свързване на акаунта на родителя с този на детето. От юли родителите получават известие, ако OpenAI деактивира акаунта на тийнейджъра заради насилие. Сега компанията подготвя и известие при временно спиране заради многократни разговори за насилие. Отделно свързаните акаунти могат да получават сигнали, когато обучени рецензенти забележат сериозен риск от самонараняване.

Ако детето ви използва ChatGPT, най-сигурният път е то да има собствен акаунт, свързан с вашия, а не да ползва общ профил на семейството. Само така тийнейджърският режим и известията изобщо се задействат.

Защо точно сега

OpenAI е под натиск от месеци. Осем американски щата съдят компанията заради риска за децата, а Common Sense Media наскоро оцени ChatGPT for Teens като опасен за непълнолетни. Според Reuters докладът на организацията показва, че тийнейджърската версия често известява родителите късно или изобщо не го прави. Тенденцията е и регулаторна – Ню Йорк вече забрани на AI чатботовете да се представят за приятели на децата.

Компанията обещава и повече прозрачност. Първият ѝ доклад за безопасността на общността ще излезе в началото на 2027 г., ще обхваща второто полугодие на 2026 г. и ще се обновява на всеки шест месеца. По данни на Engadget и The Next Web само през третото тримесечие OpenAI е подала над 200 сигнала към правоохранителните органи.

Нашият прочит: ограниченията са разумни и почти не пречат на нормалната употреба – ученик, който пише реферат за история, рядко има нужда от технически подробности за оръжия. По-големият въпрос е автоматичната оценка на възрастта. Докато OpenAI не каже колко точна е тя, възрастни ще попадат в тийнейджърския режим, а находчиви тийнейджъри ще се изплъзват от него. Затова родителският контрол остава по-надежден от алгоритъма. Още практически теми ще намерите в рубриката AI в ежедневието.