OpenAI va începe să adauge un filigran invizibil textului generat de ChatGPT și Codex în Uniunea Europeană, pentru a respecta Legea AI a UE. Compania a anunțat acest lucru într-o postare pe blog. Regulile de transparență ale Legii AI a UE, care au intrat în vigoare pe 2 august, impun companiilor AI să marcheze conținutul generat de AI într-un mod pe care alte sisteme să-l poată identifica.
OpenAI a declarat că filigranul va fi implementat în săptămânile următoare pentru utilizatorii eligibili de ChatGPT și Codex pe toate planurile, dar numai în UE. Dezvoltatorii care folosesc API-ul OpenAI oriunde în lume pot activa această funcționalitate pentru anumite modele începând de astăzi; este dezactivată implicit.
Compania a precizat că nu va face din marcarea textului o setare implicită la nivel global la lansare. Filigranul nu este un simbol fizic, ci funcționează prin modelarea subtilă a alegerilor de cuvinte ale modelului, lăsând un tipar pe care cititorii nu îl pot vedea, dar pe care un detector îl poate identifica. Deoarece se află în cuvintele în sine, acesta călătorește odată cu textul atunci când este copiat și lipit.
OpenAI a subliniat că filigranul nu identifică utilizatorul și că nu a observat o schimbare semnificativă în performanța modelelor sale cu această funcție activată. Compania a publicat, de asemenea, un raport tehnic pentru metoda sa, numită textGrain, alături de anunț. Co-scris cu cercetători de la Universitatea din Pennsylvania și Yale, raportul detaliază un exemplu de utilizare a unei chei secrete pentru a sorta predicțiile următorului cuvânt, pentru a completa o propoziție. Adăugând sute de astfel de „împingeri”, detectorul poate identifica conținutul generat de AI folosind doar textul și cheia.
**Poate fi eliminat filigranul prin editare?**
Testele OpenAI sugerează că da. Într-un test, înlocuirea a 10% dintre cuvinte cu sinonime a redus rata de detecție de la aproximativ 92% la 66%. Compania a mai afirmat că pasajele scurte, răspunsurile matematice și textul tradus sunt mai greu de detectat.
„Aceste limitări contribuie la decizia noastră de a oferi acces inițial la detector doar cercetătorilor aprobați și organizațiilor de experți, care ne pot ajuta să evaluăm fiabilitatea și utilizările responsabile”, a declarat compania. OpenAI a avertizat, de asemenea, că un filigran lipsă „nu dovedește autoritatea umană”. Textul ar putea fi prea scurt sau prea puternic editat, sau ar putea proveni de la AI-ul altei companii.
„[Filigranele] pot indica faptul că un sistem OpenAI a generat sau a procesat o parte dintr-un pasaj, dar nu cât de mult judecată umană, editare sau creativitate a fost implicată în proces”, a precizat compania.
Anunțul vine la două luni după ce Anthropic a declarat că va aplica filigran textului generat de Claude, o măsură pe care o aplică la nivel mondial. Această decizie a stârnit critici din partea unor utilizatori ai Claude, care au susținut că ei au furnizat „instrucțiunile, contextul, deciziile”, în timp ce Claude a fost doar „unealta”. OpenAI a dezvoltat anterior un filigran pentru text, dar a amânat lansarea sa, parțial din cauza preocupărilor că utilizatorii ar trece la concurenți care nu aplicau filigrane, conform The Wall Street Journal în 2024. Anthropic, Google, Meta, Microsoft și OpenAI se numără printre companiile care s-au angajat să respecte codul de practică al UE privind conținutul generat de AI.