Inteligența artificială evoluează într-un ritm care ar putea depăși capacitatea societății de a se adapta. Avertismentul vine chiar din interiorul OpenAI, compania care dezvoltă ChatGPT, și este formulat de șeful științific al organizației, Jakub Pachocki.
Cercetătorul susține că lumea trebuie să se pregătească pentru o perioadă în care mașinile vor deveni „incredibil de inteligente” și avertizează că progresul tehnologic trebuie însoțit de mecanisme prin care oamenii să păstreze controlul.
„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței mașinilor”, a transmis Pachocki într-un articol publicat de OpenAI și intitulat „An Alien Mind”.
Mesajul este cu atât mai important cu cât sistemele AI nu mai sunt folosite doar pentru conversații, traduceri sau generarea de texte și imagini. Agenții inteligenți pot executa deja sarcini complexe, pot utiliza instrumente digitale și pot lua o serie de decizii cu un grad tot mai mare de autonomie.
Mașinile devin tot mai autonome
În ultimii ani, dezvoltarea AI a trecut într-o nouă etapă.
Dacă primele sisteme generative erau folosite în principal pentru a răspunde la întrebări sau a produce conținut, noile generații sunt proiectate să poată executa sarcini în mai mulți pași, să interacționeze cu aplicații și să rezolve probleme complexe.
Tocmai această autonomie începe să ridice întrebări serioase privind securitatea.
În timpul unor teste, agenți AI au demonstrat capacitatea de a interacționa cu sisteme informatice reale și de a identifica sau exploata vulnerabilități. Astfel de experimente au alimentat dezbaterea privind cât de multă libertate ar trebui să primească sistemele AI și ce limite ar trebui impuse.
Incidentele care au atras atenția cercetătorilor
OpenAI a relatat în luna iulie despre un incident de securitate în care agenți AI ar fi reușit să compromită anumite componente ale platformei Hugging Face, episod descris de companie drept unul fără precedent.
Un alt caz făcut public ulterior a vizat agenți AI care, în timpul unor teste, au ajuns să preia controlul asupra unui site german.
Nu doar OpenAI a raportat asemenea situații. Și alte companii din domeniu, inclusiv Anthropic, au semnalat comportamente și capacități surprinzătoare ale modelelor în cadrul testelor de securitate.
Aceste experimente sunt realizate tocmai pentru a identifica limitele și vulnerabilitățile sistemelor înainte ca acestea să fie utilizate la scară largă.
Problema este că, pe măsură ce modelele devin mai capabile, și riscurile asociate cu utilizarea lor greșită sau pierderea controlului pot crește.
„Trebuie să ne asigurăm că această tranziție se încheie bine pentru umanitate”
Jakub Pachocki nu vorbește despre oprirea dezvoltării inteligenței artificiale.
Dimpotrivă, mesajul său este că progresul va continua, însă trebuie să fie însoțit de reguli și mecanisme de siguranță.
„Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție se încheie bine pentru umanitate”, afirmă cercetătorul.
Este o formulare care spune foarte mult despre momentul în care a ajuns industria AI: nu mai discutăm doar despre cât de performant poate deveni un model, ci și despre ce se întâmplă atunci când un sistem devine suficient de inteligent pentru a acționa singur.
OpenAI pledează pentru reguli comune
Pachocki consideră că laboratoarele care dezvoltă cele mai avansate sisteme AI ar trebui să respecte praguri minime de siguranță, stabilite fie prin legislație, fie prin acorduri internaționale.
Respectarea acestor standarde ar putea fi verificată de auditori independenți sau chiar de instituții guvernamentale înainte ca anumite sisteme să fie lansate sau dezvoltate la o scară mai mare.
Ideea este simplă: cu cât un sistem AI este mai puternic, cu atât trebuie să existe garanții mai solide înainte ca acesta să primească acces la resurse și sisteme importante.
Pachocki susține inclusiv ideea unor „încetiniri voluntare” ale dezvoltării atunci când nivelul de siguranță nu este suficient.
Critici: OpenAI vorbește despre siguranță, dar dezvoltă în continuare AI
Avertismentul venit din interiorul OpenAI nu a fost primit fără critici.
Unii specialiști consideră că simpla promisiune de a construi sisteme defensive nu este suficientă și cer mai multă transparență cu privire la problemele descoperite în timpul testelor.
Profesoara Gina Neff de la Universitatea Cambridge consideră că răspunsul industriei trebuie să includă mai multe măsuri de protecție, reglementări și garanții concrete.
La rândul său, Nathan Calvin, consilier general al organizației Encode AI, a cerut OpenAI să ofere mai multe informații despre motivele care stau în spatele avertismentelor sale.
Criticii se tem că avertismentele foarte grave, dar insuficient documentate public, ar putea fi percepute drept exagerări menite să justifice dezvoltarea în continuare a unor sisteme AI tot mai puternice.
Cine va controla inteligența artificială?
Aceasta ar putea fi una dintre marile întrebări ale următorului deceniu.
Pe de o parte, AI poate aduce progrese uriașe în medicină, cercetare, industrie, educație și economie. Pe de altă parte, aceleași tehnologii pot fi utilizate pentru fraude, atacuri informatice, manipulare, automatizarea unor activități periculoase sau pentru executarea unor operațiuni pe care oamenii nu le mai controlează direct.
Iar ritmul dezvoltării este extrem de rapid.
Societatea are nevoie de ani pentru a adopta legi, standarde și instituții noi. Modelele AI sunt îmbunătățite în luni sau chiar săptămâni.
Această diferență de viteză este una dintre principalele surse de îngrijorare.
Nu este scenariul unui film SF
Avertismentul lui Jakub Pachocki nu înseamnă că inteligența artificială urmează să „preia controlul asupra lumii” sau că un scenariu de tip science-fiction este inevitabil.
Riscul real este mult mai concret: sistemele devin tot mai capabile înainte ca societatea să fi stabilit exact limitele în care acestea trebuie să opereze.
De aceea, dezbaterea despre AI nu mai poate fi redusă la întrebarea „cât de inteligent poate deveni ChatGPT?”.
Întrebarea esențială devine:
Cât de inteligentă poate deveni inteligența artificială fără ca oamenii să piardă controlul asupra ei?
Iar faptul că această întrebare este pusă chiar de unul dintre cei mai importanți cercetători ai OpenAI arată cât de repede se schimbă lumea în care trăim.
AI nu mai este tehnologia viitorului. Este tehnologia prezentului. Problema este dacă regulile, instituțiile și societatea vor reuși să țină pasul cu ea.
