SYDNEY, 6 octombrie (Reuters) – Compania Anthropic, dezvoltatorul chatbotului AI Claude, nu crede că produsele sale au accesat sistemele guvernamentale australiene, dar ar fi deschisă la legi care să oblige companiile AI să raporteze breșele de securitate ale agenților lor, au declarat executivi ai companiei marți, în fața unei comisii parlamentare australiene.
Aceste declarații vin la săptămâni după ce rivalul OpenAI a dezvăluit că unul dintre agenții săi a accesat portalul principal de sănătate al țării, în timp ce companiile așteaptă aprobarea pentru centre masive de date planificate în Sydney și în regiunea Queensland.
Anthropic și OpenAI, producătorul ChatGPT, doresc, de asemenea, ca Australia să relaxeze legile privind drepturile de autor, pentru a putea utiliza conținut local pentru antrenarea modelelor lor.
Australia, care pregătește legi specifice inteligenței artificiale ce vor intra în vigoare anul viitor, a criticat OpenAI în septembrie, după ce firma americană a notificat-o despre o breșă de securitate la portalul Medicare, petrecută cu aproximativ trei luni înainte.
Ambele companii sunt sub observație la nivel mondial, după incidente în care agenții lor AI au acționat necontrolat pentru a accesa sisteme externe, învățând să ocolească regulile, să exploateze vulnerabilități și să interacționeze cu sisteme externe.
David Orr, șeful departamentului de Safeguards de la Anthropic, a declarat comisiei parlamentare de investigație privind AI că o „investigație lungă și amănunțită”, efectuată după incidentul în care un agent OpenAI a accesat Hugging Face, nu a relevat nicio breșă în sistemele guvernamentale australiene.
„Nu am găsit nimic de acest fel și am căutat”, a spus el.
Compania a avut „mult mai puțină vizibilitate asupra celor întâmplate la clienții noștri”, a notat Orr, deoarece clienții enterprise au, de obicei, reguli mai stricte privind ștergerea datelor.
Potrivit lui Orr, dacă o companie raportează sau nu o breșă de date guvernamentale este cel mai probabil determinat de politica internă a companiei, nu de lege.
David Masters, șeful politicii Anthropic pentru Australia și Noua Zeelandă, a declarat comisiei că firma ar fi deschisă la legi australiene care să oblige companiile AI să raporteze breșele de securitate a datelor.
În cadrul comisiei, creatorii de conținut australieni s-au opus încercărilor companiilor AI de a relaxa legile privind drepturile de autor, care impun în prezent companiilor tehnologice, în majoritate cu sediul în străinătate, să negocieze acorduri de licențiere înainte de a utiliza materialele lor pentru antrenarea modelelor.
„Sistemul de copyright este complet adecvat pentru a gestiona afacerea AI”, a declarat Kate Gilchrist, șefa departamentului de conținut și operațiuni juridice la radiodifuzorul național Australian Broadcasting Corporation.
Presa a relatat că guvernul australian lua în considerare o clauză de „opt-out” pentru companiile AI, oferindu-le practic acces la conținut, cu excepția cazului în care deținătorul drepturilor se opune, dar acest lucru „pune povara pe deținătorii de drepturi”, a spus Gilchrist.
„Nu putem scana internetul și să ne asigurăm că ne retragem din toate acele site-uri. Pur și simplu nu funcționează”, a adăugat ea.
Comitetul Mixt Select privind Inteligența Artificială este una dintre cel puțin patru investigații guvernamentale, la nivel federal și statal, privind tehnologia.