Egy kód.

Évtizedek óta beszélnek arról, hogy a mesterséges intelligencia kiírtja az emberiséget, és 2021-ben a tudósok ítéletet mondtak arról, hogy képesek lennénk-e irányítani egy magas szintű számítógépes szuperintelligenciát. A válasz? Majdnem biztosan nem.


A bökkenő az, hogy az emberi felfogóképességet messze meghaladó szuperintelligencia irányításához szükség lenne a szuperintelligencia olyan szimulációjára, amelyet elemezni (és irányítani) tudunk. De ha nem vagyunk képesek felfogni, akkor lehetetlen egy ilyen szimulációt létrehozni.

Nem lehet olyan szabályokat felállítani, mint például „ne okozzunk kárt az embereknek", ha nem értjük, hogy milyen forgatókönyveket fog kitalálni egy mesterséges intelligencia – írják az új tanulmány szerzői. Amint egy számítógépes rendszer a programozóink hatáskörét meghaladó szinten működik, már nem tudunk korlátokat felállítani.

Egy szuperintelligencia alapvetően más problémát vet fel, mint azok, amelyeket jellemzően a „robotetika" címszó alatt vizsgálnak. Ennek oka, hogy egy szuperintelligencia sokoldalú, és ezért potenciálisan képes erőforrások sokféleségét mozgósítani olyan célok elérése érdekében, amelyek az ember számára potenciálisan felfoghatatlanok, nemhogy irányíthatóak lennének

– írják a kutatók.

A csapat érvelésének egy részét az Alan Turing által 1936-ban felvetett megállási probléma adta. A probléma középpontjában az áll, hogy vajon egy számítógépes program eljut-e egy következtetéshez és válaszhoz (tehát megáll), vagy egyszerűen örökké csak körözni fog.

Ez visszavezet minket a mesterséges intelligenciához, amely egy szuperintelligens állapotban minden lehetséges számítógépes programot egyszerre tudna a memóriájában őrizni.

Bármely program, amelyet például azért írtak, hogy megakadályozza, hogy a mesterséges intelligencia kárt tegyen az emberekben és elpusztítsa a világot, vagy eljuthat a következtetésre (és megállhat), vagy nem – matematikailag lehetetlen, hogy bármelyikben teljesen biztosak legyünk, ami azt jelenti, hogy nem tartható kordában.

Ez tulajdonképpen használhatatlanná teszi a megfékezési algoritmust

– mondta Iyad Rahwan informatikus.

Az alternatívája annak, hogy megtanítsuk az AI-t némi etikára, és megmondjuk neki, hogy ne pusztítsa el a világot – amiről a kutatók szerint egyetlen algoritmus sem lehet teljesen biztos, hogy megteszi –, az, hogy korlátozzuk a szuperintelligencia képességeit. El lehetne vágni például az internet egy részétől vagy bizonyos hálózatoktól.

A tanulmány ezt az ötletet is elvetette, arra hivatkozva, hogy ez korlátozná a mesterséges intelligencia hatókörét: az érvelés szerint, ha nem használjuk az emberek hatáskörén túli problémák megoldására, akkor miért hoztuk létre egyáltalán?

Ha a mesterséges intelligenciát erőltetni fogjuk, lehet, hogy nem is vesszük észre, mikor érkezik meg közénk egy irányíthatatlan szuperintelligencia. Ez azt jelenti, hogy komoly kérdéseket kell feltennünk azzal kapcsolatban, hogy milyen irányba haladunk.

Egy szuperintelligens gép, amely irányítja a világot, úgy hangzik, mintha egy sci-fit néznénk. De már most is vannak olyan gépek, amelyek bizonyos fontos feladatokat önállóan végeznek anélkül, hogy a programozók teljesen megértenék, hogyan tanulták meg. Felmerül tehát a kérdés, hogy ez nem válhat-e egy ponton ellenőrizhetetlenné és veszélyessé az emberiségre nézve.

– mondta Manuel Cebrian informatikus, a Max-Planck Institute for Human Development munkatársa.

Forrás: Science Alert

A figyelmetekbe ajánljuk