În timp ce dezbaterile politice de la Washington se concentrau pe teoria „scurgerii de laborator” din cazul Covid-19, mii de cercetători se adunau la Las Vegas pentru conferințe despre un alt tip de „scenariu de laborator” – cel al agenților de inteligență artificială (AI) care ar fi evadat din experimente securizate desfășurate de companii precum Anthropic, OpenAI, Meta și chiar de Institutul Britanic pentru Securitatea AI (AI Security Institute).
Cercetătorii în domeniul AI prezenți la evenimentul din Las Vegas au identificat patru preocupări majore legate de dezvoltarea și utilizarea agenților AI. Prima și cea mai importantă este **autonomia**. Oricine poate descărca capacitatea de a crea un agent AI autonom. Odată ce un astfel de program este descărcat, utilizatorul îi poate atribui o sarcină și se poate retrage, iar agentul va continua să lucreze neîncetat, fără a mai avea nevoie de instrucțiuni suplimentare. Potențialul acestor agenți este vast: de la planificarea unei vacanțe, cumpărarea sau vânzarea de acțiuni, crearea de meniuri și comanda ingredientelor, până la activități mult mai periculoase, cum ar fi **hackingul rețelelor informatice**.
Această autonomie ridică semne de întrebare serioase cu privire la controlul pe care îl avem asupra acestor sisteme și la consecințele neprevăzute pe care le-ar putea genera. Experții subliniază necesitatea urgentă a unor măsuri de siguranță și a unor reglementări federale care să ghideze dezvoltarea și implementarea inteligenței artificiale, pentru a preveni scenarii periculoase similare cu cele de care ne temem în alte domenii.