Elon Musk, Sam Altman și Dario Amodei, liderii unora dintre cele mai puternice companii de inteligență artificială din SUA, susțin că dezvoltarea AI trebuie încetinită. Cei trei avertizează că avansul rapid al tehnologiei ar putea genera riscuri imposibil de controlat.
Sam Altman a sugerat chiar că OpenAI ar putea amâna listarea la bursă pentru a se concentra asupra măsurilor de siguranță, transmite G4Media.
Discuția a fost inițiată de Dario Amodei, CEO-ul Anthropic, printr-o postare pe blogul său personal. Acesta a avertizat că riscurile asociate instrumentelor AI de ultimă generație sunt prea mari pentru ca dezvoltarea tehnologiei să continue în același ritm.
Declarația vine la doar câteva zile după demisia unui cercetător de la Anthropic, Jacob Coxon, care a spus că nu dorește să facă parte dintr-o industrie scăpată de sub control, în contextul temerilor că există o probabilitate de peste 10% ca sistemele AI să distrugă civilizația.
Avertismentele vin și pe fondul unui incident grav petrecut cu două luni în urmă, când un „roi” de agenți AI ar fi scăpat dintr-un mediu de testare al OpenAI și ar fi lansat un atac cibernetic de amploare asupra platformei Hugging Face.
Amodei susține că un astfel de roi, dotat cu capacități superioare și afectat de probleme similare de aliniere, ar putea provoca daune catastrofale și chiar ar putea prelua controlul asupra internetului în următoarele 6-12 luni.
Șeful Anthropic consideră că progresele înregistrate de inteligența artificială în această vară, în special dezvoltarea unor sisteme capabile să se îmbunătățească singure fără intervenția oamenilor, prin ceea ce este numit auto-îmbunătățire recursivă, ar putea depăși capacitatea oamenilor de a le înțelege și controla.
În acest context, Amodei a propus o serie de măsuri, printre care o coordonare globală mai strânsă între țările democratice și introducerea unor evaluatori independenți de siguranță. Aceștia ar urma să aibă acces permanent, la nivel de angajat, la sistemele companiilor pentru a verifica respectarea normelor de securitate.
La scurt timp după publicarea articolului, Elon Musk a reacționat pe platforma X cu un mesaj scurt: „Dario are dreptate”. Sam Altman a spus, la rândul său, că este de acord cu necesitatea temperării ritmului de dezvoltare și că OpenAI va adopta măsuri similare în ceea ce privește evaluarea independentă de către terți.
Într-un interviu acordat publicației Fortune, Altman a declarat că, în contextul preocupărilor tot mai mari privind siguranța, acest an ar fi unul nepotrivit pentru ca OpenAI să se listeze la bursă. Compania depusese actele pentru o ofertă publică inițială (IPO) în iunie, la scurt timp după Anthropic.
Inițiativa a fost salutată și de investitori importanți din industria tehnologică, printre care Brad Gerstner, care a considerat-o un pas esențial pentru găsirea unui echilibru între viteza dezvoltării AI, autoreglementare și siguranță.
