La doar patru ore după ce compania Anthropic a confirmat că modelele sale AI, precum Claude, vor include amprente invizibile, lizibile de mașini, pentru conținutul generat, un dezvoltator a publicat deja o metodă de a ocoli această funcționalitate. Codul său pentru eliminarea amprentelor din textele generate de Claude a devenit viral pe GitHub, a fost salvat de peste 20.000 de ori pe X (fosta Twitter) și a atras peste 100 de contribuitori, mulți integrând tehnologia în propriile proiecte.
"Anthropic introduce amprente în textele Claude... problema este practic istorie la o zi distanță", a scris un specialist AI, însoțind mesajul de o imagine sugestivă. Dezvoltatorul Guillaume Meyer și alții au început să investigheze mecanismele de amprentare imediat după anunțul Anthropic, menit să respecte noul AI Act al Uniunii Europene. Unii încearcă să evite amprentarea din principiu, considerând că tot conținutul AI nu ar trebui marcat ca atare, în timp ce alții, precum Meyer, recunosc că au fost atrași de provocarea tehnică.
Noile reglementări impuse la începutul lunii stipulează că furnizorii de modele AI, precum Anthropic și OpenAI, trebuie să eticheteze audio, imaginile, videoclipurile sau textele sintetice, astfel încât acestea să poată fi detectate automat ca fiind generate de AI. Nerespectarea acestor norme poate atrage amenzi de până la 3% din cifra de afaceri anuală. Deși legea interzice comercializarea instrumentelor de ocolire, nu există restricții legale pentru instrumentele dezvoltate independent.
Meyer subliniază că nu este împotriva transparenței sau a atribuirii conținutului, ci consideră că amprentarea în sine este o soluție deficitară, cu riscuri majore. El se teme de posibile rezultate pozitive false și de faptul că amprentarea nu ar face distincția între utilizarea ușoară sau intensivă a AI, mai ales că el, ca vorbitor nativ de franceză, folosește frecvent instrumente AI pentru editare. Utilizarea amprentei ca dovadă, chiar și când Anthropic recunoaște că poate genera doar o probabilitate, ar putea duce la respingeri nejustificate ale candidaților sau la acuzații exagerate de utilizare a AI în cercetare.
Metoda de amprentare a Anthropic implică modificări subtile ale alegerii cuvintelor și frazelor, imperceptibile pentru un cititor uman, dar detectabile de un algoritm specializat. Deși Anthropic susține că nu afectează calitatea, unii utilizatori își exprimă îngrijorarea. Tehnica, denumită SynthID, a fost dezvoltată inițial de Google. Compania OpenAI a renunțat la o metodă similară din cauza temerilor că amprentele ar putea descuraja clienții.
Metoda de eliminare propusă de Meyer utilizează un alt model lingvistic, care nu aplică amprente, pentru a genera multiple variante ale textului original, prin înlocuirea cuvintelor și reorganizarea conținutului. Aceasta depinde însă de disponibilitatea unor astfel de modele neamprentate, o garanție din ce în ce mai greu de obținut, având în vedere că 190 de organizații, inclusiv OpenAI, Microsoft și Meta, au semnat codul de conduită al UE privind transparența.
Deși eficacitatea reală a acestor instrumente de ocolire nu poate fi confirmată până la lansarea de către Anthropic a propriului software de detectare, principiul SynthID-text stă la baza amprentării Claude, oferind o oarecare încredere în funcționarea metodelor de eliminare. Alți dezvoltatori au creat propriile instrumente: Erik Hughes, inginer software, a dezvoltat un instrument care elimină caracterele invizibile, reordonează propozițiile și înlocuiește cuvinte. Leon Chlon, cercetător la Universitatea Oxford, sugerează condensarea răspunsului Claude, traducerea într-o limbă cu semantică diferită (precum araba), urmată de traducerea înapoi în engleză. Anthropic recunoaște că textele puternic editate, parafrazate sau traduse ar putea să nu mai conțină amprente.
Într-un comunicat, un purtător de cuvânt al Anthropic a declarat: "Adăugăm marcaje ieșirii Claude pentru a respecta AI Act al UE, iar alte laboratoare iau măsuri similare. Este dificil să identificăm textul generat de AI, iar acest lucru oferă oamenilor instrumente mai bune de identificare. Textul din modelele Claude suportate, inclusiv ieșirea din Claude Code, va purta o amprentă invizibilă și nu modifică semnificația, calitatea sau lizibilitatea răspunsurilor Claude. De asemenea, intenționăm să lansăm o API de detectare a textului, pentru ca utilizatorii să poată face mai multe singuri."
Anthropic afirmă că lucrează la implementarea detectării amprentelor pentru text și intenționează să lanseze un instrument în acest sens curând, moment în care dezvoltatorii vor putea testa dacă metodele lor sunt infailibile. Compania continuă, de asemenea, să îmbunătățească sistemul de amprentare. "Cred că au vrut să arate că fac acest lucru cu bună credință", spune Wayne Pan, cofondator la Haimaker, "dar nu cred că se poate avea vreodată o amprentă care să reziste la tot."