OpenAI, firma de cercetare AI din spatele ChatGPT, a lansat un nou instrument pentru a face distincția între textul generat de AI și textul generat de oameni.
Chiar dacă este imposibil să detectezi textul scris prin inteligență artificială cu o acuratețe de 100%, OpenAI consideră că noul său instrument poate ajuta la atenuarea afirmațiilor false conform cărora oamenii au scris conținut generat de inteligență artificială.
Într-un anunț, OpenAI spune că noul său AI Text Classifier poate limita capacitatea de a desfășura campanii automate de dezinformare, de a folosi instrumente AI pentru fraudă academică și de a uzurpa identitatea oamenilor cu chatbot.
Când a fost testat pe un set de texte în limba engleză, instrumentul ar putea spune corect dacă textul a fost scris de AI în 26% din timp. Dar, de asemenea, a crezut în mod greșit că textul scris de oameni a fost scris de AI în 9% din timp.
OpenAI spune că instrumentul său funcționează mai bine cu cât textul este mai lung, motiv pentru care este nevoie de minimum 1.000 de caractere pentru a rula un test.
Alte limitări ale noului clasificator de text OpenAI includ următoarele:
- Poate eticheta greșit atât textul generat de inteligență artificială, cât și textul scris de oameni.
- Textul generat de AI poate evita clasificatorul cu modificări minore.
- Poate face lucruri greșite cu textul scris de copii și cu textul care nu este în limba engleză, deoarece a fost instruit în principal pe conținut în limba engleză scris de adulți.
Având în vedere acest lucru, să vedem cum funcționează.
Folosind Clasificatorul de text AI al OpenAI
Clasificatorul de text AI de la OpenAI este simplu de utilizat.
Conectați-vă, inserați textul pe care doriți să-l testați și apăsați butonul de trimitere.
Instrumentul va evalua probabilitatea ca AI să genereze textul pe care l-ați trimis. Rezultatele variază de la următoarele:
- Foarte puțin probabil
- Improbabil
- Neclar dacă este
- Eventual
- Probabil
L-am testat cerând lui ChatGPT să scrie un eseu despre SEO, apoi trimițând textul text la AI Text Classifier.
A evaluat eseul generat de ChatGPT ca fiind posibil generat de AI, care este un indicator puternic, dar incert.
Captură de ecran de la: platform.openai.com/ai-text-classifier, ianuarie 2023
Acest rezultat ilustrează limitările instrumentului, deoarece nu se poate spune cu un grad ridicat de certitudine că textul generat de ChatGPT a fost scris de AI.
Aplicând modificări minore sugerate de Grammarly, am redus evaluarea de la posibil la neclar .
OpenAI are dreptate când afirmă că este ușor să evitați clasificatorul. Cu toate acestea, nu este menită să fie singura dovadă că AI a scris ceva.
Într-o secțiune de întrebări frecvente din partea de jos a paginii, OpenAI afirmă:
„Utilizarea pe care o intenționăm pentru AI Text Classifier este de a stimula conversația despre distincția dintre conținutul scris de oameni și cel generat de AI. Rezultatele pot ajuta, dar nu ar trebui să fie singura dovadă atunci când se decide dacă un document a fost generat cu AI. Modelul este antrenat pe text scris de om dintr-o varietate de surse, care este posibil să nu fie reprezentativ pentru toate tipurile de text scris de om.”
OpenAI adaugă că instrumentul nu a fost testat complet pentru a detecta conținut care conține o combinație de AI și text scris de om.
În cele din urmă, AI Text Classifier poate fi o resursă valoroasă pentru semnalarea unui text potențial generat de AI, dar nu ar trebui să fie folosit ca măsură definitivă pentru emiterea unui verdict.
