A világ egyik vezető mesterségesintelligencia-fejlesztő vállalata az Anthropic, amely leginkább Claude nevű AI-rendszeréről ismert. A vállalatnál dolgozott Jacob Coxon kutató is, aki nemrég távozott a cégtől, mert komoly aggályai voltak az AI jövőjével kapcsolatban. Arra figyelmeztetett, hogy még a fejlesztésen dolgozó szakemberek közül is sokan reálisnak tartják annak lehetőségét, hogy a jövőben az emberre nézve veszélyes rendszerek jöhetnek létre.
Egy másik kutató, Evan Hubinger becslése szerint több mint 10 százalékos esélye lehet annak, hogy 2036 előtt a mesterséges intelligencia az emberiség pusztulásához vezet. A konkrét szám mögötti módszert azonban nem ismertette, ezért ezt nem tudományos előrejelzésként, inkább személyes kockázatbecslésként érdemes kezelni. Az Anthropic vezérigazgatója, Dario Amodei is a fejlesztések lassítását sürgette. Szerinte az AI egyre fejlettebb képességei növelik annak esélyét, hogy a technológiát kibertámadásokhoz vagy akár biológiai fegyverek fejlesztéséhez használják fel, írja a News Nation.
Az AI-val kapcsolatos félelmek jóval a ChatGPT és más generatív rendszerek elterjedése előtt megjelentek. Stephen Hawking már 2014-ben arról beszélt, hogy egy teljesen kifejlett mesterséges intelligencia akár az emberiség végét is jelentheti. Attól tartott, hogy az ilyen rendszerek idővel önállóan továbbfejleszthetik magukat, méghozzá az emberek számára követhetetlen tempóban. Néhány évvel később Elon Musk is a civilizációra leselkedő alapvető fenyegetésnek nevezte az AI-t, és már akkor szigorúbb szabályozást sürgetett.
2023-ban Geoffrey Hinton, a modern mesterséges intelligencia egyik úttörője is megszólalt, miután távozott a Google-től. Ezt követően már nyíltabban beszélt az AI-val kapcsolatos félelmeiről, és többször is arra figyelmeztetett, hogy a technológia néhány évtizeden belül intelligensebbé válhat az embernél. Ugyanebben az évben több mint 350 technológiai vezető, kutató és mérnök írt alá egy nyilatkozatot, amely szerint az AI okozta kihalási kockázat csökkentését a világjárványok és az atomháború megelőzéséhez hasonló jelentőségű globális feladatként kell kezelni.
Az OpenAI több vezető kutatója is távozott a vállalattól, köztük Ilya Sutskever és Jan Leike. Döntésükben szerepet játszhattak azzal kapcsolatos kérdések is, hogy a cég mekkora hangsúlyt helyez az AI biztonságos fejlesztésére. 2026-ban az Anthropic biztonsági kutatója, Mrinank Sharma is felmondott, nyílt levelében pedig úgy fogalmazott, hogy a világ veszélyben van. A nyár folyamán több mint 1100, az Anthropicnál, az OpenAI-nál, a Metánál és a Google-nél dolgozó szakember írt alá egy levelet, amelyben az AI-fejlesztések ütemének szigorúbb ellenőrzését sürgették.
Olvasd el ezt is!