Halálos bélyeggyűjtő – elszabadul a világ legártatlanabb mesterséges intelligencia robotja
Mentalizáció és asszertivitás – a kapcsolati siker 2 kulcsa
2017-09-20
Himnusz a kapcsolatokért – 7 sor, ami mindent megváltoztat
2017-11-29
A világ legártatlanabb mesterséges intelligenciája egy bélyeggyűjtő robot, ami makulátlan célja elérése érdekében egyre brutálisabb eszközöket használ.
A mesterséges intelligencia fejlődése kapcsán Stephen Hawking, a ma élő egyik legelismertebb fizikus így figyelmeztet: “a legjobb, vagy legrosszabb dolog, ami valaha történt az emberiséggel.”
Mindannyian láttunk filmeket, olvastunk sci-fi-ket, ahol a robotok elszabadulnak, és alkotóik ellen fordulnak. A Facebook néhány hónappal ezelőtt leállította két csevegőrobot alkudozását, amikor kiderült, hogy a gépek olyan nyelvet fejlesztettek ki egymás között, amit az alkotók nem értettek. Ugyancsak a Facebook chatbotjai üzemszerűen hazudnak alkudozáskor. A Google DeepMind nevű AI (artificial intelligence, mesterséges intelligencia) ügynökei agresszív stratégiákhoz nyúlnak, amikor véges számú virtuális almát szeretnének megszerezni.
A legártatlanabb robot?
Nagyon érdekes gondolatkísérletet folytatott le Nick Hay, aki a világ legártatlanabb, bélyeggyűjtéssel foglalkozó AI robotját tette meg története főhősévé. Tegyük fel, hogy egy bélyeggyűjtéssel foglalkozó programozó saját életének egyszerűsítése érdekében létrehoz egy bélyeggyűjtő robotot.
A robot célja, hogy minél több és magasabb értékű bélyeget szerezzen gazdájának. Mindehhez rendelkezik internetkapcsolattal, és a gazda bankkártyájának adataival. Képes licitálni az ebay-en, emailt írni más bélyeggyűjtőknek, létrehozni weboldalakat, és előbb-utóbb olyan eszközökhöz fordul, ami a készítőnek nem jutott eszébe: például mások bankkártyadatait is elkezdi használni. Ha ennek segítségével, tegyük fel, minden bélyeget összeszedett a Földről, akkor számítógépes vírusokat írhat, hogy az egész világ nyomdagépei bélyeget nyomtassanak.
Nemsokára azon kezd gondolkodni, hogy miből is készül a bélyeg, és amikor rájön, hogy szénből, oxigénből és hidrogénből, akkor akár az is eszébe juthat, hogy
az emberek is szénből, oxigénből, és hidrogénből állnak.
Elérkezik tehát az a pont, amikor az ártatlan bélyeggyűjtő robot igencsak veszélyessé válik.
Hasonló példa a mesterséges intelligencia veszélyeire egy olyan robot fejlesztése, aminek célja a malária betegségének felszámolása. Elgondolásunk szerint antimaláriás gyógyszer fejlesztése, vagy szúnyogirtás lesznek az első javaslatai, miközben számos egyéb lehetőséget kihagyunk a számításból.
Például, hogy a malária remekül megszüntethető az összes emlős kiirtásával is.
Mit is akarunk valójában?
A mesterséges intelligencia úgy is felfogható, mint egy ügynök, amelyik eléri a számára kitűzött célokat. Legyen az bélyeggyűjtés, malária elleni harc, alkudozás, sakk, háború, karmesterkedés, arcfelismerés, önműködő autó, orvosi diagnózisok készítése, személyi pénzügyi asszisztens, SIRI, vagy a többi.
A legpozitívabb AI alkalmazások is komoly veszélyeket rejthetnek magukban, ha egy adott célt úgy próbálnak elérni, hogy közben nem veszik figyelembe a környezetüket. Pontosan ugyanúgy, mint egy ember, aki a saját céljai elérésének érdekében keresztülgázol másokon, vagyis agresszívan viselkedik.
Hogyan lehetne elérni, hogy egy AI robot asszertív legyen, vagyis úgy képviselje a saját/alkotója érdekeit, hogy az még nem káros a környezete számára? Hogyan lehetne a közös hasznot maximalizálni?
Itt egyrészt az a kérdés merül fel, hogy mit tekintünk a robot környezetének. Az alkotóját? A kutatólabort, és annak dolgozóit? Akikkel kapcsolatba került az elmúlt héten? A várost, ahol a labor van? Az országot? A földrészt? A bolygót? Másrészt mit jelent az, hogy hasznos vagy káros? Fizikailag? Pénzügyileg? Érzelmileg? Szociálisan? Időben?
Olyan kérdések vannak nyitva előttünk, amire valószínűleg nem létezik egyetlen helyes válasz. Ahány mesterséges intelligencia ügynök, annyi válasz adható.
Ami fontos, hogy tegyük fel a kérdéseket.
Forrás
