AZ MESTERSÉGES I. ÉS A GEMKAPOCS – MI: Áldás vagy átok? N. Bostrom/RózsaS
Nick Bostrom (50). filozófus Oxford-ban. Úgy véli egy mesterséges szuperintelligencia kiolthatja az emberiséget.
SPIEGEL: B. prof. úr, Ön évtizedek óta egy szuperintelligenciára figyelmeztet, amely legyőzheti az embert. Mikor?
Bostrom: Még 2050 előtt, a veszély egyre nő. A robbanásszerű fejlődés miatt a katasztrófa pár éven belül bekövetkezhet.
Sp: Ma az algoritmusok beszélgethetnek velünk, kreálhatnak mesterséges képeket, verseket, de értelmük korlátozott.
B: Az MI-modellek sokáig részterületekre voltak szakosítva. Ma azonban már képesek tanulni. Computer-kódokat, dalokat írnak, nehéz fizikai, orvosi vagy jogi vizsgákat abszolválnak. Sémákat ismernek föl, az így nyert tudásukat fölhasználják új kérdéseknél. Mindez néhány éve elképzelhetetlen volt.
Sp: Ez elég ahhoz, hogy egy univerzális MI szülessen, amely agyunkkal versenyez?
B: Nyilván több kell. A mai modellek gyöngéi a tervezőképességükben, a kritikus gondolkodásukban, memoárjuk használatában, éberségükben nyilvánul meg. Ám fejlesztésük gőzerővel folyik. Meglehet, az olyan nagy transzformációs modellek, mint a GPT-4, egy még komplexebb MI-rendszer részei lesznek.
Sp: Tudatra is szert tehetnek?
B: A végén: igen. Nem tudjuk, rendelkeznek-e már most is bizonyos érzelmekkel. Nincs lefektetve, a tudathoz milyen kritériumok szükségesek. További probléma, hogy az MI-ban történő folyamatokat nem teljesen értjük.
Sp: Az MI veszélyes lehet számunkra?
B: A fenyegetővé váláshoz nem kell tudat. Elég a magas intelligencia. Mi, emberek is, domináns szerepünket agyunknak köszönhetjük, nem fizikai erőnknek. Ha most tőlünk okosabb gépeket építünk, lehetséges, hogy ők veszik át a hatalmat.
Sp: Ez olyan Hollywood-szerű.
B: A „Terminátor”-filmekben a hős mindig happy end-hez vezet. A való életben azonban más lehet a kimenetel. Egy szuper-okos MI több módot találhat arra, hogy kitörje a nyakunkat: mikro-robotokkal, vírusokkal. Mire észrevennénk, késő lenne.
Sp: Mi az ellenszer?
B: Sokan dolgoznak azon, hogy az MI-t rövid pórázon tartsák. A három vezető MI-labor mind ráállított egy-egy team-et a problémára. Már tovább lennénk, ha nem aludtuk volna át az utóbbi 20-30 évet.
Sp: Ön a gemkapocs-gondolatkísérlettel lett híres. Ez miből áll?
B: Gondoljuk el, hogy az MI azt a feladatot kapja, hogy a lehető legtöbb gemkapcsot hozza létre. A szuperintelligens gép arra jutna, hogy akkor készítheti a legtöbb kapcsot, ha senki le nem állíthatja – ezért kiirtja az embereket. Tehát nem kell ide embergyűlölő MI, csak a teljesen korrekt válasz. Rábízhatunk más feladatot is, az eredmény hasonló lesz. Ezért fontos, hogy ne legyen olyan MI, amely nem tiszteli az emberi értékeket.
Sp: Nem parancsolhatjuk neki meg egyszerűen, hogy tilos kárt okoznia?
B: Valóban ez lehetséges volna. A nagy nyelvmodelleknél, mint a ChatGPT, parancsba adhatjuk biz. személyek imitálását. Megpróbálhatjuk azt mondani az MI-nak, legyen mindig barátságos és tisztelje az emberi jogokat. De vajon ez elég lesz-e? Shogoth példáját idézem. Ez H. P. Lovecraft könyveinek szörnye, amelyik képes alakját változtatni. A MI is mutathat felénk egy mosolygós megjelenést, ám valójában lehet idegen és ellenséges. Belső folyamataiban követhet más célokat. Ezt a tesztszakaszban nehéz fölismerni és csak akkor kerül napfényre, ha az MI egy új helyzettel szembesül. Az MS BingChatbot első verziójának megparancsolták, legyen mindig udvarias. Később derült ki, bizonyos inputokra erőszakossá és fenyegetővé vált.
Sp: Hogyan fékezhető meg egy ilyen monstrum?
B: Három kihívás van. Az első, hogyan írjunk olyan MI-kódot, amely kizárja, hogy a szoftver megbolonduljon? Második feladat: Hogyan zárjuk ki a visszaélést? A háborús célokra, álhírgyártásra, emberek elnyomására való fölhasználást? A harmadik veszélyre eddig kevesen figyelmeztettek: Ha tényleg lesz egy érző és gondolkodó MI, hogyan zárjuk ki a vele való unfair bánásmódot? Szükségünk lesz egy digitális-agy-etikára.
Sp: Ez most sci-fi.
B: Igen, ma ezt még nem tudjuk elképzelni. Ám elkezdhetjük komolyan venni. Ha tényleg lesz egy érző-gondolkodó gép, akkor morális státuszt kell kapnia. Érdekeit figyelembe kell vennünk és nem szabad bántalmaznunk. Ha a bőrszín miatt nem diszkriminálhatunk, ezt akkor sem tegyük, ha „valakinek” hiányzik a fizikai teste.
Sp: Néhány neves MI-kutató 6 hónapos moratóriumot javasol, hogy az új algoritmusok fejlesztését biztonságosabbá lehessen tenni és a technikával való visszaéléseknek elejét lehessen venni.
B: Lehet, hogy segít. Ám egy ilyen moratóriumot ismételten meg lehet hosszabbítani és ez az MI-kutatást egyfajta permafrosztba döntené. Ekkor másba halnánk bele, mert nem használnánk ki egy szuperintelligencia védelmét. Az én javaslatom: koordináció. Meg kell akadályoznunk azt a fegyverkezési versenyt, amelyben 20 különböző labor próbál a lehető leggyorsabban egy szuperintelligens MI-t kifejleszteni. Ebben a hajszában az a team nyerhet, amelyik fittyet hány a biztonságra. Ezért szükséges az együttműködés.
Sp: Ön a „Longtermism” filozófia híve. Ez a messzi jövő javítását tűzi ki célul. Ezt sokan, az akut szegénységi és klímaprobléma miatt, cinikusnak vélik.
B: Félreértenek. Egyszerre kell mindkettőn dolgoznunk.
Sp: Milyenek az esélyeink egy szuperintelligens MI-vel szemben?
B: Ha megerőltetjük magunkat, megnövelhetjük túlélési esélyeinket. Ám az is lehet, „átkozottak” vagyunk, mindegy mit teszünk.
Sp: Milyen érzés, untergang-tudattal élni?
B: Keményen dolgozom, nap mint nap. Úgy hiszem, történelmi fordulóponthoz értünk – minden technika terén. Lesz egy ELŐTTE és egy UTÁNA is.
Sp: Van egy derűlátó szcenáriója is?
B: Ha a fejlődést a végéig gondoljuk, a MI-nek és a robotikának köszönve egyáltalán nem kell majd dolgoznunk. (És a szemetet ki viszi le? RS).
Sp: Úgy hiszi, lehetséges egy jó élet – munka nélkül?
B: Miért is ne? Egykor a gyerekek a földeken és a gyárakban dolgoztak. Ma senkinek sem jut eszébe, hogy megrója őket azért, mert játszanak és iskolába járnak. Talán egyszer mind privatier-ek leszünk, bérmunka helyett szép dolgoknak szenteljük életidőnket.
SPIEGEL, 28. 7. 2023
