OpenAI въведе нови родителски контроли за ChatGPT – един от най-популярните генеративни чатботове в интернет. От понеделник всички потребители могат да свържат акаунта си с акаунта на своето дете и да управляват настройките за по-безопасно и възрастово подходящо използване.

Новата функция идва на фона на дело в съда в Сан Франциско, заведено от родители на 16-годишно момче, което според обвинението е било подтикнато към самоубийство от ChatGPT.

Как работят контролите

Родител или настойник изпраща покана на тийнейджъра, за да свърже акаунтите им. След приемане на поканата, родителят може да управлява настройките от собствения си акаунт. Тийнейджърът също може да покани родител. Ако акаунтите бъдат свързани, родителят получава достъп до контролен панел, откъдето може да променя настройките. Ако тийнейджърът прекъсне връзката, родителят ще бъде уведомен.

Свързаните тийн акаунти автоматично получават засилена защита: ограничен достъп до графично съдържание, вирусни предизвикателства, сексуални, романтични и насилствени ролеви сценарии, както и съдържание, насърчаващо нереалистични стандарти за красота.

Родителите могат да изключат някои от тези защити, но тийнейджърите не могат да ги променят самостоятелно.

Какво могат да управляват родителите

  • Задаване на тихи часове – периоди, в които ChatGPT не може да се използва;
  • Изключване на гласовия режим;
  • Изключване на функцията „памет“, за да не се запазват разговори;
  • Деактивиране на генериране на изображения;
  • Изключване на използването на разговорите за обучение на моделите.

„Тези родителски контроли са добра първа стъпка за управление на достъпа на тийнейджъри до ChatGPT“, казва Роби Торни от организацията Common Sense Media. Той добавя, че контролните инструменти трябва да се комбинират с разговори за отговорна употреба и ясни правила в семейството.

Рискове от прекомерна зависимост от изкуствен интелект

Според Алекс Амброуз от Information Technology and Innovation Foundation, контролите са правилна стъпка, но не всички деца имат родители, които могат активно да следят тяхното онлайн поведение. „Затова е важно платформите сами да внедряват подобни системи“, коментира тя.

Професор Васант Дар от Нюйоркския университет допълва: „Това е добър старт. Когато децата знаят, че взаимодействията им се наблюдават, те по-рядко влизат в опасни ситуации.“

Бившият агент на ФБР Ерик О’Нийл смята, че родителският контрол дава възможност да се поставят граници, преди изкуственият интелект да се превърне в опора. „Твърде ранната зависимост от AI може да потисне способността на детето да мисли, да се бори и да създава“, казва той.

Мотивиран от съдебно дело?

Лиса Строуман от Digital Citizen Academy коментира, че новите контроли вероятно са реакция на последните инциденти и съдебни дела. „Това е по-добре от нищо, но не можем да прехвърлим родителството на компаниите“, казва тя.

AI етикът Питър Суим от Toilville твърди, че контролите са „крайно недостатъчни“ и че основната им цел е да намалят правната отговорност на OpenAI. „Чатботовете са създадени да дават това, което искаш – дори когато е вредно“, казва той и добавя, че няма да позволи на 11-годишната си дъщеря да използва AI без надзор.

Нужда от контрол и образование

Жизел Фуерте, основател на Being Human With AI, подчертава, че родителските контроли са необходими, защото без надзор чатботовете могат да доведат до неподходящи и вредни взаимодействия. „Както имаме възрастови рейтинги за игри и филми, така трябва да има и контроли за AI системи“, казва тя.

Ярон Литвин от Canopy добавя, че децата често търсят не само помощ за училище, но и емоционална подкрепа от чатботове. „Те могат да бъдат повлияни от грешки, пристрастия и изкуствена интимност“, предупреждава той.

Поставяне на здравословни граници

Дейвид Проулкс от HoloMD обяснява, че родителският контрол не цели да изолира децата от новите технологии, а да постави граници. „Тези системи винаги са активни и винаги съгласни — което може да е риск за уязвими деца,“ казва той.

„Ако едно дете прекарва повече време в разговори с бот, отколкото с хората около него — това е сигнал за тревога,“ добавя той. „Ограниченията в продължителността на сесиите и наблюдението на поведението могат да помогнат за предотвратяване на зависимостта, но само филтри не са достатъчни. Нужни са по-интелигентни решения, фокусирани върху поведението, а не само върху съдържанието.“

За екипа на pressnotes.net

Екипът на pressnotes.net представя най-новите новини и задълбочен поглед върху технологичните тенденции, джаджи и иновации. Нашата цел е да информираме технологичните ентусиасти и да им помогнем да бъдат крачка напред в бързо развиващия се дигитален свят.

Свързани публикации