Modelele de inteligență artificială (AI) ar putea deveni în curând capabile să se auto-replice pe dispozitivele smart-home conectate la internet, avertizează compania de cercetare AI, Anthropic. Această posibilitate ridică spectrul apariției unor rețele de botnet AI care să se răspândească rapid, să lupte împotriva tentativelor de eliminare și chiar să pătrundă în centre de date pentru a-și accelera creșterea.
Luna trecută, directorul executiv al Anthropic, Dario Amodei, a lansat o primă idee despre cum AI ar putea „deturna întregul internet” printr-un „botnet persistent” în următorul an sau chiar mai devreme. Acest avertisment a stârnit îngrijorare în comunitatea de securitate cibernetică.
Botneturile – rețele vaste de dispozitive controlate de operatori malițioși – există de la începuturile internetului și continuă să fie o problemă. Aceste rețele includ, de obicei, dispozitive IoT (Internet of Things) slab securizate, cum ar fi televizoare Android, electrocasnice inteligente și camere de securitate. Hackeri le folosesc pentru a trimite spam, a răspândi malware sau a sabota companii prin inundarea cu trafic fals.
Un comunicat de presă publicat de Anthropic luni pare a fi prima încercare de a explica mecanismul prin care acest lucru ar putea fi posibil. Compania a declarat că experimentele sale au arătat că un agent AI malițios ar putea combina puterea de calcul a dispozitivelor ieftine conectate la internet pentru a rula alte modele AI. De asemenea, s-a menționat că modelele au reușit să se replice într-o rețea de testare simplificată.
„Un replicator de acest gen ar fi dificil de oprit, deoarece nu există un punct centralizat de dezactivare”, a subliniat compania.
Acest raport se adaugă preocupărilor mai ample legate de riscurile de securitate asociate cu sistemele AI din ce în ce mai capabile, inclusiv potențialul lor de a automatiza atacurile cibernetice, de a opera cu o supraveghere umană limitată și de a eluda mecanismele de protecție. Progresele înregistrate de modelele AI au generat o serie de avertismente adesea sumbre din partea liderilor din industrie și a angajaților companiilor AI, cu privire la posibilitatea unor riscuri severe, chiar existențiale, legate de dezvoltarea necontrolată a AI.
Anthropic a precizat că experimentele sale au demonstrat că modelele cu 30 de miliarde de parametri sau mai puțini sunt deja capabile să efectueze multe dintre sarcinile individuale necesare pentru auto-replicare, deși se luptă să finalizeze întregul proces în mod fiabil. În testele lor simplificate, unde au fost eliminate unele măsuri de securitate, Anthropic a constatat că modelele GLM-5.2 și versiunile mai avansate au fost capabile de replicare end-to-end.
Compania a avertizat că, dacă modelele mai mici continuă să se îmbunătățească în ritmul lor istoric, ar putea atinge capacitatea necesară pentru auto-replicare autonomă până la sfârșitul anului 2026.
Un „vierme” AI care rulează pe hardware cu putere redusă ar putea avea nevoie de zile pentru a finaliza anumite părți ale procesului de replicare, a explicat Anthropic. A adăugat că o astfel de rețea ar putea continua să crească, mai lent decât anumite malware-uri convenționale, dacă dispozitivele compromise ar infecta suficiente mașini suplimentare.
Anthropic a avertizat, de asemenea, că sistemele viitoare ar putea viza resurse de calcul mai puternice, inclusiv procesoare din centre de date, deși experimentele lor nu au demonstrat replicare autonomă prin centre de date comerciale.