Progresul spectaculos al inteligenței artificiale generative (AI Generativ) a deschis noi orizonturi, inclusiv în domeniul roboticii. Însă, odată cu cedarea controlului către modele AI avansate, apare o problemă fundamentală: predictibilitatea. Algoritmii tradiționali ofereau un grad înalt de certitudine, dar arhitecturile AI generative sunt, prin natura lor, mai puțin previzibile. Cum putem fi siguri că noul nostru robot umanoid va acționa în siguranță?
Dr. Ding Zhao, directorul laboratorului Safe AI de la Carnegie Mellon University, a dedicat o mare parte din cariera sa abordării acestei dileme. Alături de antreprenorul experimentat Kyle Wong și inginerul de machine learning Simo Rachidi, a fondat recent compania Safeworld, cu misiunea de a rezolva exact această provocare.
„Provocarea siguranței pe care o discutăm este o combinație, pe de o parte, de evaluări probabilistice avansate ale AI-ului generativ – cum subscrii riscul unui sistem probabilistic? Pe de altă parte, este aspectul de încredere, iar ambele sunt necesare pentru a implementa un robot”, explică Dr. Zhao.
Safeworld a ieșit din „cochilia” de dezvoltare anunțând o rundă de finanțare seed de peste 12 milioane de dolari, condusă de Shine Capital și a16z Speedrun, cu investiții suplimentare de la Box Group, Carnegie Mellon University Endowment, Innovation Endeavors și SV Angel.
„Momentul potrivit pentru a stabili un standard industrial de siguranță este acum, în timp ce roboții sunt proiectați și implementați”, a declarat Jonathan Lai, partener la a16z Speedrun, pentru TechCrunch. „Va fi prea târziu când vom avea roboți în locuințe care intră în coliziune cu copii și cauzează incidente de siguranță.”
Specialitatea Safeworld constă în evaluarea sistemelor de control robotic prin simulări care includ modele umane realiste. Acest proces este similar cu cel utilizat de companii precum Tesla sau Wayve pentru a se asigura că vehiculele lor reacționează adecvat la situații neprevăzute de pe drum. Totuși, Zhao argumentează că acest lucru este mai dificil pentru roboți, deoarece aceștia operează în medii nestructurate, iar standardele de siguranță variază în funcție de fiecare locație.
„Una dintre cele mai comune situații este prezența unui colț nevizibil într-o anumită fabrică”, menționează Wong. „Ce viteză sau distanță de oprire este necesară pentru ca acest robot să nu intre în coliziune cu o persoană? De exemplu, dacă o persoană transportă cutii, va fi robotul capabil să o detecteze sau nu?”
Pentru a răspunde acestor întrebări, Safeworld construiește o versiune digitală a colțului respectiv într-un model precum Genesis sau MuJoCo, introduce o simulare a robotului pe care îl evaluează (controlat de software-ul său real) și rulează mii de scenarii în care modele umane interacționează cu robotul. Acest proces este complex, afirmă Zhao, deoarece comportamentul uman este imprevizibil.
„A te împiedica și a cădea este un alt exemplu pentru care realizăm teste extinse în simulare”, adaugă Wong. „Altminteri, ar trebui să te împiedici și să cazi tu pentru robot, ceea ce este dificil de realizat constant.”
Există asemănări evidente între platforma dezvoltată de Safeworld și instrumentele folosite intern de producătorii de roboți. Cu toate acestea, fondatorii consideră că, pe lângă expertiza lor specifică, producătorii de roboți vor dori o validare din partea unei terțe părți, chiar și pentru a facilita partajarea informațiilor despre cazurile de siguranță între competitori.
„Mulți subestimează cât de dificil va fi să rezolvăm anumite cazuri limită”, subliniază Zhao. „Nu ne temem de robotul din vid, din demo-ul prezentat. Ne temem de robotul implementat la scară largă, cu persoane care, potențial, nu au mai operat niciodată un robot.”
Vishal Dugar, CTO la Gritt Robotics, dezvoltă „creierul” AI pentru roboți care ajută la instalarea panourilor fotovoltaice pe scară industrială și aspiră să abordeze sarcini de construcții mai complexe. Compania sa colaborează cu Safeworld în procesul de dezvoltare a simulărilor de siguranță.
„Dificultatea majoră a majorității sistemelor noastre este că este foarte greu să dovedești formal siguranța prin matematică, prin scrierea unor ecuații care să ateste că sistemul este verificat și sigur”, spune Dugar. „Trebuie neapărat să fie realizată empiric.”
Roboții săi operează alături de muncitori umani, iar asigurarea că brațul robotic nu îi va lovi este o prioritate. Verificarea acestui aspect în practică necesită luarea în considerare a tuturor tipurilor de scenarii posibile.
„Oamenii au multe tipuri de înfățișări”, punctează Dugar. „Corpurile lor pot fi în configurații diferite. Pot fi în genunchi, în picioare. Pot să se împiedice și să cadă. Pot fi ghemuți. Pot fugi. Trebuie să reacționezi la toate aceste comportări pe care oamenii le pot manifesta pe aceste șantiere, alături de varietatea de aparențe umane, inclusiv haine, mărime, formă, înălțime, culoarea pielii, tot ce ține de aspectul fizic.”
Este încă devreme atât pentru Safeworld, cât și pentru AI-ul generativ în robotică, iar compania încă explorează cel mai bun model pentru produsul său – o platformă pentru utilizatori externi sau o abordare bazată pe servicii. Cu toate acestea, echipa este încrezătoare că abordează problema corectă.
„Probabil vom fi prima companie profitabilă din acest domeniu”, afirmă Zhao. „Pentru că oricine dorește să implementeze un robot, va trebui să ne plătească pentru a gestiona situația.”