Mesterséges intelligencia által generált téves hírszerzési jelentés miatt majdnem feltartóztattak egy kínai hajót az amerikaiak
Az amerikai hadsereg tavasszal, az Iránnal vívott háború közepén olyan hírszerzési jelentést kapott, amely szerint egy Közel-Keleten közlekedő kínai hajó nukleáris fegyverprogramhoz használható alkatrészeket szállított. A jelentés alapján az amerikai hadsereg megkezdte a hajó feltartóztatásának előkészítését: fegyveres katonák készültek a fedélzetre lépni, és katonai repülőgépeket is a levegőbe emeltek.
Nem sokkal a tervezett művelet előtt azonban a tisztviselők alaposabban megvizsgálták a jelentést, és kiderült, hogy annak elkészítéséhez mesterséges intelligenciát használtak. Egy különleges műveleti parancsnokság elemzője egy chatbot segítségével értékelte a hajó rakományáról szóló adatokat, a rendszer azonban tévesen azonosította a szállított anyagot. A jelentés teljes egészében hamis volt, és kis híján háborút robbantott ki, mivel egy kínai hajó elleni amerikai katonai akció könnyen fegyveres konfliktussá eszkalálódhatott volna a két ország között.
Az elemző a chatbotban a hajó rakományjegyzékével kapcsolatos, az amerikai csendes-óceáni különleges műveleti parancsnokságtól származó hírszerzési információkra kérdezett rá. Nem tudni, hogy kereskedelmi forgalomban elérhető vagy amerikai kormányzati MI-rendszert használt-e. A chatbot nyílt forrású adatokat és titkos amerikai hírszerzési információkat kapcsolt össze, ezekből jutott téves következtetésre. Az elemző ezután ismét MI-t használt, hogy az eredményt a hadseregben megszokott hírszerzési jelentés formájába rendezze, majd továbbította azt.
Az eset azért is különösen fontos, mert az amerikai hadsereg és hírszerző közösség egyre szélesebb körben használ mesterséges intelligenciát. Az MI-t a hatalmas mennyiségű hírszerzési adat elemzésétől és a katonai célpontok kiválasztásától kezdve a logisztikán és az ellátási láncokon át a költségvetési feladatokig egyre több területen alkalmazzák. Pete Hegseth védelmi miniszter év elején jelentette be a Pentagon MI-használatának felgyorsítását célzó stratégiáját, amelynek egyik célja, hogy a technológia a tárca mintegy hárommillió katonai és civil alkalmazottja számára hozzáférhető legyen.
Ugyanakkor az MI bevezetése meglehetősen decentralizáltan zajlik: a hadsereg és a hírszerzés különböző szervezetei eltérő rendszereket, biztonsági szabályokat és ellenőrzési eljárásokat alkalmaznak. Nincs egységes szabály arra sem, hogyan kell ellenőrizni az MI által előállított információkat. Ez különösen a katonai célpontok kiválasztásánál jelent kockázatot, ahol egy hibás következtetésnek halálos következményei lehetnek. Nincs egyértelmű iránymutatás arra sem, hogyan kell biztosítani az emberi ellenőrzést úgy, hogy elkerüljék a civil áldozatokat vagy a saját erők elleni téves támadásokat.
A kínai hajó esete ráadásul nem az egyetlen alkalom volt, amikor az MI úgynevezett hallucinációja problémát okozott az amerikai hírszerzésben. Több tisztviselő attól tart, hogy a technológia a gyorsabb elemzés és jelentéskészítés iránti nyomást is fokozza, miközben a fiatalabb elemzők hajlamosabbak lehetnek kritikátlanul megbízni az általuk rutinszerűen használt rendszerekben. Az egyik forrás ezt úgy foglalta össze: az MI lehetővé teszi, hogy az ember gyorsabban jusson el egy rossz ötlethez.
