Új biztonsági megoldásokra van szükség, mondja: fel kell készülni arra, hogy elromolhat a leggondosabban felépített rendszer is.
Nem csak Yampolskiy riogat: a híres Elon Musk, akinek nevéhez fűződik többek között a PayPal, a SpaceX, a Tesla Motors és a SolarCity, az AI-t úgy jellemezte, mint „az emberiség legnagyobb egzisztenciális fenyegetését”. Stephen Hawking hasonló félelmeknek adott hangot a mesterséges intelligenciával kapcsolatban.
Nem mindenki osztja ezeket az aggodalmakat. Mark Bishop, a University of London professzora eltúlzottnak tartja az aggódást. Andrew Ng, szilícium-völgyi vezető kutató ironikusan a gyilkos robotok marsbéli elszaporodásának problémájához hasonlította az ügyet.
De Noel Sharkey, a Sheffield University AI-kutatója szerint a kiberbiztonsági megközelítés indokolt, különösen az autonóm fegyverek esetében.
És Yampolskiy-nak elég felidéznie a közelmúltból Tay, a Microsoft-féle öntanuló Twitter robot esetét, akit a csevegő partnerek egyetlen nap alatt rasszistává és embergyűlölővé tettek, olyan következtetéseket szűrt le a csevejekből. Tay esetében a gyors javítás sem működött, így egyelőre offline módban várja, hogy a Microsoft programozói kiokosítsák. Mint ismert, egy másik csevegő robot, Sophia, a tréfának szánt kérdésre gyorsan rávágta: "Oké, el fogom pusztítani az emberiséget".
Roman Yampolskiy szerint kicsi az esély a dolgok elfajulására, de mégis jobb felkészülni, mert az ilyen rendszerek kiszámíthatatlanok.
Sci-fi ízű rémálmokat idéz a kérdés, de ahogy közeledünk a megvalósuláshoz, egyre több, komolynak tartott tudós fogalmaz meg aggályokat. A New Scientist idézi Roman Yampolskiy-t, a University of Louisville tudósát, aki bármit el tud képzelni e témában. Meglátása szerint a legrosszabb forgatókönyv, hogy egy rosszindulatú AI (artificial intelligence, azaz mesterséges intelligencia) „rabszolgasorsba dönti az emberiséget” és „megsemmisíti a világegyetemet”. Groteszk, gyengébb sci-fibe illő jóslat, de Yampolskiy állítja, hogy jobb lesz felkészülni a kedvezőtlen fejleményekre.
