MI és az ember

Robothadseregek terrorista kezekben?

 
Svájci kutatók tigrisről mintáztak prédáját becserkésző, megsemmisítő robotot. Az amerikai haditengerészet minimális emberi irányítással vagy anélkül működő gyilokgépeket tesztel. Rosszabbik esetben viszont terrorista szervezetek is hozzáférnek az MI-vel csúcsra futtatott szuperfegyverekhez.

ENSZ-jelentés figyelmeztet, hogy az emberi élet kioltására alkalmas, célpontokra akár utasítás nélkül, saját megfontolásból tüzet nyitó katonai robotok, vezető nélküli harci járművek, tankok és más mesterségesintelligencia-technológiák néhány éven belül terroristák kezébe kerülhetnek.
 
Ezek a fegyverek hamarosan valósággá válnak, és egy idei egyhetes ENSZ-megbeszélés baljós konklúziója, hogy az ISIS és hasonló terrorszervezetek mindent megtesznek a megszerzésükért. A megbeszélésen a gyilkos MI-k színrelépésekor követendő irányelveket igyekeztek megfogalmazni, különféle vélemények hangzottak el, abban viszont az összes szakértő egyetértett, hogy a terroristák aligha követnek majd bármiféle ENSZ-irányelvet.
 
„Ezek a robotikus gyilkoló rendszerek a kezdeti fázisban technológiailag fejlett országokban lesznek elérhetők, később viszont valószínűleg máshol is elterjednek. Terrorista szervezetek semmiféle késztetést nem éreznek, hogy tartsák magukat a nemzetközi normákhoz, és ez a tény továbbfokozza a globális és regionális bizonytalanságot” – fogalmaznak a jelentésben.
 
Ragadozó és prédája
A Zürichi Egyetem kutatói például most tanítanak célpont becserkészésére egy apró robotot, hogy hogyan találja, majd semmisítse meg a zsákmányt. Nagyjából úgy teszi, mint a tigris. A sikeres első kísérlet után a gépet a szenzációhajhász sajtó rögtön „szuper-ragadozó terminátorként” kezdte emlegetni. A fejlesztők szerint ugyanazok a navigációs elvek mozgatják, mint az önvezető autókat, drónokat vagy robotpincéreket.
 
 A ragadozó robot és áldozata (Fotó: Zürichi Egyetem)
 
A gép emberi szem működését utánzó szilícium „retinája” a kameráknál gyorsabban dolgozza fel a képi információt. A környezeti és természetesen a célpontra vonatkozó adatokat mélytanuláson alapuló MI-program elemzi pixelről pixelre. Más robotokat és személyeket lézersugarakkal detektál.
 
„Az ideghálóval irányított robotok kivételesen jól teljesítenek a masszív tréning során megismert helyzetekben. Viszont bármilyen ismeretlen vagy új szituáció a legváratlanabb és néha a legnevetségesebb következménnyel is járhat” – nyilatkozta Diederik Moeys, az egyik kutató.
 
Mivel a gép elsőszámú rendeltetése ragadozás, a préda megkaparintása, különösebb fantáziálás nélkül elképzelhető, hogy háború esetén ellenséges katonákra vadászna. Mire odáig jut, valószínűleg ugyanolyan hatékonysággal teszi, mint a laboratóriumban.
 
Mostani sebessége nem éri el az óránkénti 10 kilométert, de a fejlesztők elmondása alapján nagyobb, például autóméretben megközelítheti a 60 km/h-t.
 
Egyesült Államok, 2016
Ez a robot még csak fejlesztési stádiumban leledzik, és a katonai hasznosulás egyike a potenciális alkalmazásoknak. Az esetleges következmények ugyan riasztóak, de távolról sem olyan konkrétak, mint például az amerikai tengerészgyalogság által a múlt hónapban tesztelt szenzorokkal és kamerákkal felszerelt, M240 géppuskával és gránátvetővel felfegyverezhető ember nélküli földi jármű, a gyalogság tevékenységével koordinálható, drónokat és terepszenzorokat vezérlő MAARS (Modular Advanced Armed Robotic System) moduláris robotikus rendszer. Nemcsak halált oszt, hanem sebesülteket is kimenekít a csatatérről.
 
Nagytestvére, az RVM/CART M134 minipuskájával nagyságrendekkel komolyabb tűzerőt, percenkénti 2-6 ezer lövést jelent. Tetejére az ellenfelet precíziós légicsapással megsemmisítő lézer szerelhető.
 
 
Az amerikai tengerészgyalogság teszteli a MAARS moduláris robotikus rendszert (Fotó: businessinsider.sg)
 
Még fenyegetőbb jövő vázolódik fel, amikor ezeket az egyéni robotokat, egyetlen meghatározó egységből álló rendszereket egymástól független gépek lazán koordinált szuperrendszerévé szervezik.
 
Rajokban jönnek a gyilkos robotok
Az ENSZ-felhívás szerzői a rendszerekből képződött rajok fokozott és járulékos veszélyeire figyelmeztetnek: „azokban a forgatókönyvekben, amelyekben halálos autonóm fegyverrendszerek (Lethal autonomous weapons, LAWs) rajai erőszorzókként működnek, nem világos, hogy milyen mértékben tartható fenn felettük a humán kontroll, különös tekintettel az emberi beavatkozáshoz rendelkezésre álló idő valószínűsíthető csökkenésére.”
 
A rajintelligencia az 1990-es és a korai 2000-es évek egyik legdivatosabb MI- területéhez, a multiágens-rendszerekhez kapcsolódik. A természetből, rovarkolóniáktól, például hangyabolyoktól, termeszektől, méhektől, de madárrajoktól és halcsoportoktól is ellesett mintákat hálózatok, elosztott rendszerek, robotok mellett munkafolyamatok ütemezésére, társadalmi jelenségek szimulálására is alkalmazzák. Hangyákat megfigyelve ugyanis kiderült, hogy egy-egy egyed (ágens) különösebben nem figyel a többiekre, csoportos viselkedésükben viszont rengeteg összehangolt megnyilvánulás, a központi vezérlésen alapuló emberi gondolkodással ellentétes rajintelligencia érhető tetten. Az alulról felfelé történő, decentralizáltan és nem hierarchikusan kibontakozó önszerveződést közvetlen és közvetett egymás közötti, általában dinamikus interakciókkal valósítják meg. Az interakciókat meghatározó egyszerű szabályok összetett, az egyedekéből nem magyarázható csoportos magatartásmintákhoz vezetnek. A helyi interakciók bonyolódnak, a rendszer viselkedése túlmutat a részek hatásainak összességén. A hibák és véletlenszerűségek hasznosíthatók, növelik a környezethez alkalmazkodást, végeredményben pedig a csoport teljesítményét.
 
 
 
MAARS robot felfegyverkezve
Képzeljük el az ilyen elvek alapján szerveződő drón- és fejlettebb robotok katonai felhasználását. Ezekben a rajokban nem probléma, ha meghibásodik és kidől egy egyed, a rendszer működik tovább.
 
Eresszük el még egy kicsit a fantáziánkat, és gondoljunk bele, mi történik, ha mindezek a gépek, potenciális és valós fegyverek terroristacsoportok kezébe kerülnek…
 
Ember-gép rendszerek
A mesterséges intelligenciától való rettegés alaptalan, Hawking, Musk és a többiek figyelmeztetését ugyan túldimenzionálta a média, viszont tény, hogy a felhasználás első fázisa kizárólag tőlünk függ, és az ISIS és utódai is a userek között lehetnek…
 
Mások, például az amerikai politika legüdébb színfoltja, Zoltán István a Transzhumanista Párt elnökjelöltje egyáltalán nem fél, a gépi evolúció logikus következő állomásának tekinti az idővel fölénk növő MI megjelenését. Jobb, ha felkészülünk rá, és keressük az ember-MI integrációkat.
 
Kömlődi Ferenc
http://www.gyartastrend.hu/muveltmernok/cikk/robothadseregek_terrorista_kezekben?utm_source=newsletter&utm_medium=muvelt_mernok_hirlevel&utm_campaign=17175