89 прегледа
Обикновените хора са по-склонни да се доверят на правен съвет, генериран от ChatGPT, отколкото на такъв, даден от реален юрист – особено когато не знаят кой е източникът на съвета. Това показва ново проучване, което повдига важни въпроси относно нарастващата зависимост на обществото от съдържание, създадено от изкуствен интелект. Проучването установява също, че хората донякъде могат да различат дали съветът идва от AI или от човек.
Големите езикови модели като ChatGPT вече се използват масово в ежедневието – за бързи отговори, идеи, диагностика на симптоми и дори за правни съвети. Но тези модели са известни с така наречените „халюцинации“ – уверено поднесена информация, която често е неточна или безсмислена. Това крие реален риск, особено в сфери като правото, където последиците от грешен съвет могат да бъдат сериозни.
В три експеримента с общо 288 участници изследователите установяват, че когато хората не знаят откъде идва съветът, те по-често предпочитат този, генериран от ChatGPT. Това означава, че ако не се посочва ясно източникът, потребителите могат да приемат AI съвета като по-надежден от този на юрист – дори без да проверят неговата достоверност.
Дори когато източникът на съвета е изрично упоменат, хората отново са склонни да се доверят на AI също толкова, колкото и на юрист. Причината може да е в езика – ChatGPT използва по-сложни и звучащи експертно формулировки, докато юристите обикновено използват по-прости, но по-дълги обяснения.
В третия експеримент участниците трябва да познаят дали даден съвет идва от AI или от юрист, без да им е казано предварително. Резултатите показват, че хората се справят малко по-добре от случайното налучкване – със средна точка 0.59 при максимум 1.0, което разкрива, че разпознаването остава слабо.
Изследването излиза в критичен момент – AI системи като чатботове и гласови асистенти стават част от домакинствата и все по-често поемат сложни задачи като правни обобщения или медицински изводи. Но зависимостта от AI крие риска от грешни решения, особено когато информацията е неточна.
Затова става все по-наложително да има ефективна регулация. Пример за такава е новият Европейски акт за AI, според който текстовете, генерирани от изкуствен интелект, трябва да бъдат ясно обозначени в машинно разпознаваем формат.
Но регулацията не е достатъчна сама по себе си. Необходимо е и повишаване на „AI грамотността“ – способността на хората да разпознават, разбират и критично да оценяват съдържание, създадено от изкуствен интелект. Това означава да се проверява информацията, да се използва човешка експертиза и да не се приема AI съвет на доверие.
AI може да е полезен в първоначалните етапи на правна консултация – за ориентация и обща информация. Но преди да се предприемат действия или съдебни стъпки, съветът трябва да бъде потвърден от реален юрист. Само така можем безопасно да съчетаем ползите от AI с необходимата човешка преценка.
По материали на The Conversation
