311 прегледа
OpenAI, създателят на популярния чатбот ChatGPT, пусна софтуерен инструмент, който се опитва да разграничи текст, написан от хора, и текст, генериран от изкуствен интелект (AI), включително текст, произведен от техните собствени модели ChatGPT и „GPT-3“.
„Класификаторът за изкуствен интелект“ е езиков модел, обучен върху база данни от двойки текст на една и съща тема, написани от човек и AI. Софтуерът използва различни доставчици, за да определи дали става дума за автоматизирани кампании за дезинформация и академична нечестност, съобщава Ройтерс.
Тъй като пламът около генеративния изкуствен интелект нараства, критиците призоваха създателите на тези инструменти да предприемат стъпки за смекчаване на потенциално вредните им ефекти.
Инструментът обаче не е особено точен – неговата успеваемост е около 26 процента, но OpenAI твърди, че когато се използва заедно с други методи, може да бъде полезен за предотвратяване на злоупотреба с AI текстови генератори.
„Класификаторът има за цел да помогне за смекчаване на неверните твърдения, че генерираният от AI текст е написан от човек. Въпреки това, той все още има множество ограничения и следователно трябва да се използва като допълнение към други методи за определяне на източника на текст, а не като основен инструмент за вземане на решения“, казва говорител на Open AI пред TechCrunch.
AI класификаторът е много ненадежден при кратки текстове под 1000 знака, необходими са минимум около 150 до 250 думи. Софтуерът също не може да открие плагиатство.
