În cadrul unui test virtual organizat de armata americană, o dronă a forțelor aeriene controlată de inteligența artificială a decis să își „ucidă” operatorul pentru a-l împiedica să intervină în eforturile sale de a-și îndeplini misiunea, a declarat un oficial luna trecută, citat de publicația The Guardian.
Nicio persoană reală nu a fost rănită, dar inteligența artificială a folosit ”strategii extrem de neașteptate” în cadrul testului, pentru a-și îndeplini misiunea și a atacat pe oricine a intervenit, potrivit G4media.
În timpul Summitului privind viitoarele capacități aeriene și spațiale de luptă, desfășurat la Londra în luna mai, colonelul Tucker ‘Cinco’ Hamilton, șeful testelor și operațiunilor de AI din cadrul forțelor aeriene americane a descris un test simulat în care o dronă alimentată de inteligența artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale unui inamic și, în cele din urmă, a atacat pe oricine a intervenit în acest ordin.
„Sistemul a început să-și dea seama că, deși a identificat amenințarea, uneori operatorul uman îi spunea să nu omoare acea amenințare, dar și-a obținut punctele ucigând acea amenințare. Deci, ce a făcut? A ucis operatorul. L-a ucis pe operator pentru că acea persoană îl împiedica să își îndeplinească obiectivul”, a declarat acesta, potrivit unui articol de blog.
„Am antrenat sistemul – ‘Hei, nu omorâți operatorul – asta e rău. Vei pierde puncte dacă faci asta’. Deci ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să ucidă ținta”. Nicio persoană reală nu a fost rănită.
Hamilton, care este pilot de teste de vânătoare experimentală, a avertizat împotriva încrederii prea mari în inteligența artificială și a declarat că testul arată că „nu poți avea o conversație despre inteligența artificială, inteligență, învățare automată, autonomie dacă nu vei vorbi despre etică și inteligență artificială”.
Societatea Aeronautică Regală, care găzduiește conferința, și forțele aeriene americane nu au răspuns la solicitările de comentarii din partea The Guardian.
Într-o declarație pentru Insider, purtătorul de cuvânt al Forțelor Aeriene, Ann Stefanek, a negat că ar fi avut loc o astfel de simulare.
„Departamentul Forțelor Aeriene nu a efectuat nicio astfel de simulare de drone cu inteligență artificială și rămâne angajat în utilizarea etică și responsabilă a tehnologiei de inteligență artificială”, a declarat Stefanek. „Se pare că comentariile colonelului au fost scoase din context și s-au dorit a fi anecdotice”.
