Úgy tűnik, ami nemrég még csak a hollywoodi forgatókönyvírók és a scifi-szerzők fantáziája volt - miszerint az emberiség elveszítheti a kontrollt a mesterséges intelligencia felett, -  mára már a sajtóorgánumok címlapján olvasható figyelmeztetés a legfontosabb fejlesztők és döntéshozók részéről. Avagy tényleg az emberiség kiirtására készül a csúcstechnológia? 

Pár hete az egyik vezető mesterségesintelligencia-kutató és fejlesztő vállalat, az Anthropic kutatója látványosan felmondott, miután azt állította, hogy a cégek az emberiség életével játszanak, mert ha a szuperintelligencia elszabadul, akkor belátható időn belül, akár el is törölheti az emberiséget. A cég vezérigazgatója, Dario Amodei ezt követően egy átfogó írást jelentetett meg arról, hogy egyszerűen lassítani kell a mesterséges intelligencia fejlesztését, mert ha a közeljövőben elszabadul egy erősebb AI-hálózat, akkor fél-egy éven belül átveheti a többi hálózat feletti uralmat és katasztrofális károkat okozhat. A javaslata pedig az, hogy a fejlesztőközpontokhoz hozzá férést kell biztosítani független megfigyelők számára, valamint lehetőséget arra, hogy vészleállító protokollokat vezessenek be szükség esetére. A bejelentését támogatta a nagy rivális, az OpenAI alapítója, Sam Altman, és Elon Musk is. 

A szakemberek kijelentéseire több vezető politikus is reagált, most már az amerikai Kongresszus napirendjére tűzték az úgynevezett AI Kill Switch Act törvényt, tehát a vészleállításról szóló törvényt, ami kötelezné az AI-fejlesztőket abban, hogy építsenek be a rendszereikbe egy olyan technikai féket, vészleállítót, amellyel azonnal lekapcsolhatóvá válnának a mesterségesintelligencia-hálózatok.

Donald Trump, az Egyesült Államok elnöke beteges összeesküvésnek nevezte a fejlesztések lassítására vonatkozó felszólításokat, szerinte egyszerűen átverés az AI apokaliptikus veszélyéről beszélni. Mint fogalmazott, szerinte a lassítás nyertese kizárólag Kína lenne. Barack Obama volt amerikai elnök szerint ezt a döntést nem szabadna a szilíciumvölgyi vállalatokra bízni, a lassítást viszont fontos és szükséges első lépésnek nevezte. 

Miközben kongatják az AI-szakértők a vészharangot, talán érdemes felidézni néhány témába vágó művet: 

2001: Űrodüsszeia (Arthur C. Clarke, Stanley Kubrick)

A történet szerint a Discovery One űrhajó a Jupiter felé tart, a küldetést és az űrhajósok életfunkcióit pedig a hibátlannak hitt HAL 9000 nevű fedélzeti szuperszámítógép irányítja. Igenám, de amikor a rendszer hibás jelentést küld egy alkatrészről, akkor az űrhajósok megkérdőjelezik a HAL megbízhatóságát és fel is vetik a lekapcsolását. Ezt azonban fenyegető tényezőként értékeli, ezért módszeresen elkezdi likvidálni az űrhajósokat, hogy megvédje az eredeti küldetést. 

Én, a Robot (Isaac Asimov)

Asimov alkotta meg a könyveiben, novelláiban a Robotika 3 alaptörvényét, aminek elméletben azt kellene garantálnia, hogy a robotok soha ne tudjanak ártani az embernek. Ez a három törvény az, hogy a robot: 1. Ne ártson, 2. Engedelmeskedjen, 3. Védje magát.) Azonban az Én, a Robot című mű lényege, hogy a jogi és matematikai szabályok közepette találnak olyan kiskapukat, amelyeken a rendszer végülis kibújik a főszabály alól. Az Emberi tényező c. novellájában például egy szuperszámítógép rájön arra, hogy ha átveszi a hatalmat az emberiség felett, azzal fogja tudni hosszú távon megvédeni őket önmaguktól. 

A Terminátor sorozat

A filmsorozatot talán mindenki ismeri. Itt a Skynet nevű önfejlesztő katonai hálózatot az amerikai hadsereg hozza létre, hogy automatizálja a védelmi rendszereit, ám amikor a rendszer öntudatra ébred, akkor az emberi kezelők megijednek, és úgymond megpróbálják lekapcsolni. Ezt végül a Skynet úgyszintén fenyegetésként értékeli, ezért atomháborút indít az emberiség ellen. 

A sort még hosszasan lehetne folytatni, egy biztos: a forgatókönyvírókat, scifi-szerzőket, tudósokat és filozófusokat már régóta foglalkoztatja az a kérdés, hogy vajon a technológia egy bizonyos fejlettségi szinten képes-e önálló döntéseket hozni, képes-e magát reprodukálni, és képes-e adott esetben a megalkotói, az emberek ellen fordulni, és ha igen - vajon ezt a csatát az emberiség megnyeri-e a vas ellen.