MI-FEGYVEREK – T. Walsh – SPIEGEL/RózsaS
Toby Walsh (56), ausztrál professzor, mesterséges intelligencia (MI) kutató.
Sp: Welsh úr, az orosz-ukrán háború olyan, mint a modern fegyverrendszerek tesztelése. A török Bayraktar-drón bevetésére az oroszok iráni drónnal válaszoltak. A jövőben ezek a fegyverek, MI-vel fölszerelve, támadást indíthatnak?
W: Csak idő kérdése. Az orosz POM-3 (»Bouncing Betty«) a német srapnel akna továbbfejlesztése. Ha lépéseket érzékel, fölugrik egy méterre és ott robban. Ha saját katonák közelednek, a MI nem aktiválja. A taposó aknák rettenetesek, embereket, gyerekeket ölnek meg vagy tesznek nyomorékká. 164 állam írta alá tilalmukat, Ukrajna is – Oroszország nem. Kritikám után kitiltottak Oroszországból – ezt bóknak veszem.
Sp: Ausztrália a Boeing-gal egy részben automata vadászgépet tesztel. Ezek a bombázó pilótáknak adnának kísérő védelmet, ún.
Loyal Wingman-t.
W: Ez a fogalom szépítő és félrevezető, mert azt sugallja, hogy csupán emberélet védelméről van szó. Valójában már világszerte MI-fegyverkezési verseny folyik. Az USA az „Atlas” robottankon dolgozik és a „Sea Hunter” robot-hadihajón. Ez már egyedül megtett egy utat Hawaii-tól Kaliforniáig. Kína MI-irányítású repülő szerkezeteket fejleszt, Oroszország legénység nélküli tengeralattjárón dolgozik („Poszeidon”), amely atomfegyverrel is fölszerelhető. Nincs nagyobb rémálom, mint amelyben egy kapitány nélküli U-boot számítógépes programja dönt az atomháború kirobbantásáról!
Sp: Ezek nem csak horrorszcenáriók, melyek sosem valósulnak meg?
W: Az autonóm fegyverek veszélyesebbek lehetnek, mint az atombombák. Egy A-bomba építéséhez hihetetlen sok know-how, kiváló fizikus és mérnök, hasadó anyag és pénz kell. Ezért szerencsére sok ország számára nem elérhető. Az MI-fegyvereket a meglévő fegyverek számítógépes fölszerelésével építik, 3D-nyomtatóval a szükséges tartozékokat.
Sp: Az ilyen DIY-fegyverek, néhány automata Atlas-tank vagy Sea Hunter hajó képes lenne háborút nyerni?
W: Azt nem tudom, de egy hiba miatt háborút robbanthatnak ki. Állítólag Oroszország, Ukrajna megtámadásakor, egy többszörös hangsebességgel repülő hiperfegyvert vetett be. Ilyenkor nem marad idő védekezni vagy egy téves riasztást kizárni. A háború fölgyorsul, számítógépes „flash war”, Blitzkrieg lehet belőle. A számítógépes rendszerek kölcsönösen begerjesztik egymást.Az ilyen háború automatikusan destabilizál. Ezt meg kell akadályoznunk.
Sp: A részben autonóm fegyverek életet is menthetnek. Az US Phalanx rakétaelhárító rendszer gyorsabban reagál, mint az ember.
W: Ha hipergyors fegyver ellen kell védekezni, ez nyilván előny. Ám a Phalanx egyértelműen defenzív fegyver. A MI védelmi fegyvereknél kevésbé problémás, bevetése mégis kockázatos. Mennyire megbízható? Mi lesz, ha a szoftver egy utasszállító gépet ellenséges rakétának néz és lelövi?
Sp: Ki a felelős, ha robotfegyverek háborús bűnt követnek el? Az EU parlamentben már 2017-ben komolyan arról vitáztak, hogy gépeknek személyi státuszt adjanak, hogy téves működéskor felelősségre lehessen vonni.
W: Ez mire lenne jó? Konszernek már most is „jogi személynek” tekintendők. De ez még gazdasági bűntettnél sem segít.
Sp: Vannak már offenzív killerrobotok bevetésben?
W: Erről több spekuláció kering. Úgy hírlik, a török Kargu drón arcfelismerő rendszerrel a szír határon emberekre vadászik. Ám ez nem pontosabb, mint az Ön okostelefonja. Képzelje el, hogy valakit egy raj killerdrón üldöz! Megbízhatatlanságuk ellenére diktátorok bevethetik a lakosság megfélemlítésére. Ideális eszköz az államterrorra.
Sp: Az Ön könyvében ( »Machines Behaving Badly«) javasolja, az atomfegyverek tilalmához hasonlóan, az MI-fegyvereket is tiltani kellene.
W: A megvetés kimondása nem mindig működik tökéletesen, de megakadályozhatja a rosszabbat. Több iszonyú fegyvert is kezdtek el bevetni, de később visszavonták, mint a mérges gázokat az első világháborúban. A blend-lézer is tiltott, mely megvakítja a katonákat. Ezeket az ENSZ 1998-ban megvetésre ítélte és azóta nem jelentek meg a harcmezőkön. A taposóaknák tilalma nem működött teljesen, de mégis 40 milliót megsemmisítettek. A szóró lövedékek 99%-át is fölszámlták, bár Szíriában ismét előfordultak. A megbélyegzéssel az autonóm fegyverek elfogadását megakadályozhatjuk.
Sp: Ön még 5 éve az „It's Alive” könyvében még optimista volt és a MI-nek dicsőséges jövőt látott előre. Mi késztette a borúlátásra?
W: A valóság! A MI mellékhatásai mellbevágtak. A választók agyát valósággal átgyúrták, hogy Trump-ra és a Brexitre szavazzanak. Az öntanuló programok ezeket a rohamokat perfekt viharrá duzzasztották.
Sp: Az EU most egy „bizalomra méltó MI” rendeletén dolgozik.
W: Az EU irányadó, piaca elég nagy, hogy a konszernek az MI-termékeket az EU-szabályoknak alávessék. Ám az ördög a részletekben rejtezik. A szabályok megfogalmazása az egyik, a másik meg a betartatása.
Sp: Már az elején vita van, pl. az átláthatóság miatt. Lehet az MI egyáltalán transzparens és követhető vagy ez eleve egy black box?
W: Az átláthatóság túlsúlyozva van. Emberek sem transzparensek, mégis gyakran megbízunk bennük. Pl. megbízom az orvosomban, bár nem vagyok medikus és döntéseit részleteiben nem értem. Ám megbízom az intézményekben, melyek őt ellenőrzik.
Sp: Hogyan bizonyosodhatunk meg arról, hogy egy MI jogkövetően működik, ha kódját nem ismerjük?
W: Ez jó kérdés és nem csak az MI-nél tehető föl. A modern cégek is egyfajta emberfölötti intelligencia formái. A világ legokosabb embere sem tudna egyedül egy iPhone-t építeni. Minden konszern több tízezer közepesen intelligens alkalmazottat egy emberfölötti okos kollektívába egyesít – tehát egyféle MI-be.
Sp: ha valamelyik MI megkergül, nem kapcsolhatjuk le egyszerűen az áramról?
W: Csak azt ne! A globális bankrendszer számítógépeit, ha leállítanánk, összeomolna a világgazdaság. A légfelügyelet computereit kivenni életveszélyes. Sajnos, teljesen a számítógépektől függünk és ez a függés az MI-vel csak nő. Nem szabadulhatunk meg tőlük. Megpróbálhatjuk az MI-be beprogramozott értékeket a társadalom értékeivel összhangba hozni.
Sp: Ön előre látta, hogy az önjáró autó balesetet fog okozni. Mit mond a következő 5 évre?
W: Az automatikus arcfelismerés botrányokat fog okozni. Az US Start up Clearview AI több millió fotót kaparintott meg, a lefotózottak engedélye nélkül. Bár a céget elítélték, tovább folytatja. Hihetetlen, hogy nem ment csődbe. A deep fakes is szaporodni fog, tehát az MI által manipulált filmek és fotók az interneten. Pár év múlva a deep fakes választást dönt el vagy háborút indít – vagy mindkettőt.
SPIEGEL, 30. 7. 2022
»Blitzkrieg der Computersysteme«
