OpenAI, creatorul popularului chatbot ChatGPT, a lansat un instrument software pentru a identifica textul generat de inteligența artificială, a declarat compania într-o postare pe blog miercuri.
ChatGPT este un program gratuit care generează text ca răspuns la o solicitare, inclusiv articole, eseuri, glume și chiar poezie, care a câștigat o mare popularitate de la debutul său în noiembrie, ridicând în același timp preocupări cu privire la drepturile de autor și plagiat.
Clasificatorul AI, un model de limbaj antrenat pe setul de date de perechi de texte scrise de oameni și scrise de AI pe același subiect, își propune să distingă textul care este scris de AI. Acesta folosește o varietate de furnizori pentru a aborda probleme precum campaniile automate de dezinformare și necinstea academică, a spus compania.
În modul său public beta, OpenAI recunoaște că instrumentul de detectare este foarte nesigur pentru texte sub 1.000 de caractere, iar textul scris prin AI poate fi editat pentru a păcăli clasificatorul.
„Facem acest clasificator disponibil public pentru a obține feedback despre dacă instrumente imperfecte precum acesta sunt utile”, a spus OpenAI.
„Recunoaștem că identificarea textului scris prin inteligență artificială a fost un punct important de discuție în rândul educatorilor și, la fel de important, este recunoașterea limitelor și impactului clasificatoarelor de texte generate de inteligența artificială în sala de clasă.”
De când ChatGPT a debutat în noiembrie și a câștigat o mare popularitate în rândul milioanelor de utilizatori, unele dintre cele mai mari districte școlare din SUA, inclusiv New York City, au interzis chatbot-ul AI din cauza temerilor că studenții vor folosi generatorul de text pentru a înșela sau a plagia.
Alții au creat instrumente de detectare terță parte, inclusiv GPTZeroX, pentru a ajuta educatorii să detecteze textul generat de AI.
OpenAI a spus că se angajează cu educatorii pentru a discuta capacitățile și limitările ChatGPT și va continua să lucreze la detectarea textului generat de AI.
