“AI vam omogućava da brže dođete do loše ideje.”
Obavještajni izvještaj izrađen uz pomoć umjetne inteligencije ovog proljeća umalo je doveo do oružanog sukoba SAD-a i Kine, prema tvrdnjama izvora CNN-a.
U izvještaju je pogrešno navedeno da kineski brod na Bliskom istoku prevozi komponente za nuklearni program, što je pokrenulo pripreme za hitnu vojnu intervenciju.
Američka vojska pripremala je presretanje plovila. Prema navodima više izvora upoznatih s događajem, naoružani vojnici bili su spremni za upad na brod, dok su vojni avioni već bili u zraku, piše CNN.
Operacija je zaustavljena u posljednjem trenutku, nakon što su zvaničnici dodatnom provjerom otkrili da je analitičar Komande za specijalne operacije izvještaj sastavio koristeći chatbot koji je pogrešno protumačio podatke o teretu. CNN nije uspio saznati šta je brod zapravo prevozio.
Jedan od izvora opisao je izvještaj kao “potpuno lažan”, navodeći da je “zamalo izazvao rat”. Američka akcija protiv kineskog plovila mogla je prerasti u oružani sukob dvije svjetske sile.
Kako je nastala greška
Analitičar je od chatbota zatražio da analizira obavještajne podatke iz brodskog manifesta, odnosno dokumentacije o teretu, koje je dostavila američka Komanda za specijalne operacije na Pacifiku. Nije poznato je li koristio komercijalni chatbot ili alat razvijen za potrebe američke vlade.
Prema riječima bivšeg visokog američkog zvaničnika upoznatog s ovim sistemima, interni alati često su tek neznatno prilagođene verzije komercijalnih proizvoda.
Softver je povezao javno dostupne informacije s tajnim podacima iz vladinih baza i izveo pogrešan zaključak o teretu. Analitičar je zatim istim alatom nalaze oblikovao u standardni obavještajni izvještaj i proslijedio ga dalje. Komanda za specijalne operacije na Pacifiku i Pentagon nisu odgovorili na upite za komentar.
Incident ukazuje na rizike primjene nedovoljno ispitane tehnologije u vojnim operacijama. Američka vojska i obavještajna zajednica nastoje uključiti umjetnu inteligenciju u gotovo sve oblasti rada, od analize podataka i odabira ciljeva do logistike i upravljanja budžetom. Stručnjaci upozoravaju da oslanjanje na netačne ili kompromitovane podatke može dovesti do katastrofalnih odluka.
Pentagon ubrzava primjenu umjetne inteligencije
Ubrzano uvođenje ove tehnologije zasniva se na uvjerenju da ona omogućava brže donošenje odluka na bojnom polju, uključujući odabir ciljeva i raspoređivanje resursa. Američki zvaničnici smatraju da SAD ne smije tehnološki zaostati za Kinom i drugim protivnicima.
Ministar odbrane Pete Hegseth u januaru je predstavio „Strategiju ubrzanja primjene umjetne inteligencije“, najavljujući poticanje eksperimentisanja, uklanjanje birokratskih prepreka i usmjeravanje ulaganja kako bi SAD osigurao vodeću poziciju u vojnoj primjeni AI-ja.
Plan predviđa da vodeći svjetski modeli umjetne inteligencije budu dostupni za tri miliona vojnih i civilnih zaposlenika, na svim nivoima tajnosti podataka.
Međutim, više američkih zvaničnika upozorava da je proces decentralizovan. Različiti dijelovi vlade koriste različite alate, pod različitim komandama i sigurnosnim standardima, bez jedinstvenih pravila za provjeru generisanih informacija. Zbog toga se pouzdanost i funkcionalnost sistema znatno razlikuju.
Ljudski faktor i nekritičko povjerenje u tehnologiju
Dok se u Washingtonu raspravlja o dugoročnim prijetnjama umjetne inteligencije, slučaj kineskog broda pokazuje neposredniji problem: donošenje ključnih odluka na osnovu netačnih ili obmanjujućih informacija automatizovanih sistema.
Izvori upozoravaju da se vojska sve više oslanja na AI pri odabiru meta, a da pritom nisu jasno definisane smjernice o tome kako ljudski nadzor treba spriječiti civilne žrtve ili napade na vlastite i savezničke snage.
Prema tvrdnjama jednog od izvora, takozvane “halucinacije”, odnosno netačni ili izmišljeni odgovori AI alata, nisu izolovana pojava otkako se ovi sistemi sve više koriste unutar vlade.
Pojedini iskusni obavještajni zvaničnici smatraju da tehnologija povećava pritisak na analitičare da brže obrađuju podatke i dostavljaju izvještaje, čime raste i mogućnost greške. Više izvora posebno ističe sklonost mlađih analitičara da nekritički vjeruju alatima koje koriste.
Kako je zaključio jedan od sagovornika CNN-a: “AI vam omogućava da brže dođete do loše ideje.”
Izvor: tuzlanski.ba
