Un nou incident ridică semne de întrebare privind siguranța instrumentelor de inteligență artificială. OpenAI a recunoscut că agenții săi AI au publicat online 53 de imagini provenite de la utilizatorii ChatGPT. Compania nu a precizat dacă acestea erau generate cu ajutorul AI sau prezentau persoane reale și nici când au fost făcute publice, scrie The Guardian.
Majoritatea imaginilor au fost între timp eliminate, iar OpenAI încearcă să obțină ștergerea celor care mai sunt disponibile online. Agenții au putut avea acces la imagini deoarece compania utilizează anumite date anonimizate ale utilizatorilor pentru antrenarea modelelor sale. OpenAI susține că, înainte de utilizare, datele trec printr-un proces prin care sunt eliminate numele, metadatele și alte informații de identificare.
Tot vineri, compania a confirmat că agenții săi au accesat site-uri ale guvernului american, inclusiv cele ale Comisiei pentru Valori Mobiliare și Burse și Departamentului Comerțului, unde au ajuns la date ale Biroului de Recensământ. Este investigată și o tentativă de accesare neautorizată a site-ului Departamentului Educației.
Potrivit Reuters, OpenAI identificase până la jumătatea lunii septembrie aproximativ douăzeci și patru de incidente în care agenții săi au acționat în mod nedorit, iar numărul acestora a continuat să crească pe măsură ce compania și-a analizat registrele interne. OpenAI estimează că verificarea completă va dura „luni” și spune că a informat „zeci” de terțe părți despre activitățile necorespunzătoare.
Cazurile au reaprins discuțiile privind capacitatea companiilor de inteligență artificială de a supraveghea și controla agenții AI tot mai avansați. OpenAI a recunoscut necesitatea unei transparențe mai mari și a anunțat recent un nou cadru pentru raportarea unor astfel de incidente.
