Stephen Hawking, az elmúlt évszázad egyik legismertebb fizikusa, 2014-ben komor aggodalmakat fogalmazott meg az mesterséges intelligencia (MI) az emberiségre gyakorolt feltételezett veszélyeivel kapcsolatban. Bár közel egy évtizeddel az MI robbanásszerű fejlődése előtt ejtette ki ezeket a szavakat, a meglátásai most kezdenek értelmet nyerni. Mert ahogyan a mesterséges intelligencia egyre nagyobb teret hódít magának, úgy válik egyre érezhetőbbé a „szingularitás” – a kifejezés, amelyet Hawking a fizikából kölcsönzött, de az életünkre is tökéletesen rávetíthető.

A fizikában a „szingularitás” az a végtelenül kicsi és végtelenül sűrű pont, amelyről a tudósok úgy gondolják, hogy minden fekete lyuk közepén található. Amikor azonban a kifejezést az MI-re alkalmazta, Hawking arra a pillanatra utalt, amikor a mesterséges intelligencia meghaladja az emberi intelligenciát, és képes lesz a kezdeti programozásán túl fejlődni, ami megfékezhetetlenné teheti azt.
Ma ez a potenciális fejlődés az általános mesterséges intelligencia (AGI) néven ismert, és a terület legismertebb tudósai sem tudnak megegyezni abban, hogy ez a veszély mennyire közel vagy távol van – vagy hogy egyáltalán valós-e.
Hawking azonban még időben figyelmeztetett, hogy „a szuperintelligens mesterséges intelligencia rendkívül hatékony lesz a célok elérésében, és ha ezek a célok nem egyeznek a mieinkkel, akkor veszélyben vagyunk”. Ha belegondolunk, a fizikus nem mondott újat, hiszen ezt a témát számos mozifilm és irodalmi mű feldolgozta már, apokaliptikus forgatókönyvek formájában. Csakhogy úgy fest, hogy most a tudományos fantasztikum kezd valósággá válni.

A The Conversation publikált egy cikket, amelyben emlékeztetett Stephen Hawking szavaira, és megjegyezte azt is, hogy az MI által kiváltott „rémület” csak elterelő hadművelet az emberiség saját, önpusztító és sötét természetének az alaposabb vizsgálatáról. Példaként említi az MI-technológiákat jelenleg használó vállalatokat, valamint a kapzsiság és a hatalomvágy által vezérelt tech-mogulokat.
„Ezek a vállalatok és az őket irányító személyek profitálnak leginkább a mesterséges intelligencia helytelen használatából és visszaéléséből” – érvel a The Conversation.

A lap továbbá kiemeli az MI által felhasznált, egyébként szerzői jogok alatt lévő különböző alkotások törvénytelen felhasználását, bizonyos belterek engedély nélküli megfigyelését, illetve az MI-partner és a mesterséges intelligenciával felruházott szexuális robotok emberi kapcsolatokra gyakorolt káros hatását. Míg egy évtizeddel ezelőtt még csak a fantázia és a sci-fi világában létezett ilyen „társ” vagy akár „szerető”, ma már ez a valóság – amelyet emberi kéz irányít.
Gondoljunk csak a Terminátor-filmekre. Van fogalmunk arról, hogy mi lenne, ha az MI egy napon átvenné az irányítást a világ katonai rendszerei felett? Vagy, egy másik aggodalma a közembernek, hogy nem lesz már munkahelye az őt helyettesítő szuperintelligens robotok miatt, akik még fizetést sem követelnek.
Akár politikai céljaik elérése érdekében, akár egyszerűen csak a meggazdagodás érdekében teszik ezt, sajnos mindig lesznek olyan emberek a földön, akik készek kihasználni az emberi konfliktusokat és a szenvedést, feláldozni mindent, csak hogy a saját nézeteiket érvényesítsék.

A tudósok azt állítják, a mesterséges intelligencia használata szigorú szabályokhoz kötött, de a The Conversation megjegyzi: „bár ezek a szabályok biztonság iránti vágyunkat tükrözik, ironikusak, mert az emberek maguk is képtelennek bizonyultak ugyanazon elv betartására”. Ennek ellenére, a tech szektor nagy nevei – Sam Altman, Bill Gates vagy Larry Ellison abban hisznek, hogy ezt a technológiát egy igazságosabb, egészségesebb és virágzóbb világ megteremtésére fogja használni az emberiség. A kérdés viszont az, hogy lehet-e hinni még a tündérmesékben?