Matrix movie still

Egy kutató állítja, hogy a mesterséges intelligenciája saját kódnyelvet fejlesztett ki. A torznak tűnő nyelv csak úgy megjelent?


Giannis Daras, az Austin-i Texasi Egyetem informatikai doktorandusza szerint az OpenAI DALL-E2 nevű, észbontó szöveg-kép mesterséges intelligencia rendszere úgy tűnik, hogy létrehozta saját írott nyelvét. A DALL-E2 az év elején nagy feltűnést keltett azzal a hátborzongató képességével, hogy a szöveges utasításokat fotorealisztikus vagy akár művészi stílusú képekké alakítja - és most úgy tűnik, hogy még erősebb és titokzatosabb, mint gondoltuk, és képes saját titkos kódot generálni.

Daras például azt írta egy népszerű Twitter-threadben, hogy ha megkéri az algoritmust, hogy generáljon egy olyan képet, amelyen a zöldségekről beszélgető gazdák szerepelnek, akkor egy szöveget generál az ismeretlen vicootes szóval. Ha azonban a vicootes szót írjuk be az algoritmusba, az zöldségek képét köpi ki.

Még furcsább, tette hozzá Daras, hogy a gazdák képe a poploe vesrreaitars nyilvánvalóan értelmetlen szöveget tartalmazta. Ha ezt betápláljuk a rendszerbe, egy csomó madaras képet kapunk. Úgy tűnik, hogy a gazdák a madarakról beszélnek, akik szórakoznak a zöldségeikkel, írta Daras. Mindent egybevetve Daras egy új, még lektorálásra váró, egy kollégájával közösen írt tanulmányában azt állítja, hogy ez a fejlett képgeneráló mesterséges intelligencia a jelek szerint egy rejtett szókincset hozott létre, amely az elsődleges funkciója mögött vagy azzal párhuzamosan működik.

Talán egy újabb példa arra, milyen nehéz megmagyarázni a fejlett mesterséges intelligencia működését, teszi hozzá. A DALLE-2 titkos nyelvvel rendelkezik szerinte, hozzátéve hogy a DALLE-2 nyelvének felfedezése számos érdekes biztonsági és értelmezhetőségi kihívást teremt. Érdemes megjegyezni, hogy Daras következtetései még mindig kissé bizonytalanok. Mint a tanulmányban megjegyzi, az eredmények nem 100 százalékban konzisztensek.

Néha a Contarra ccetnxniams luryca tanniounons felszólítás bogarak képeit generálja, míg máskor főleg állatok képeit. Daras elmélete nem győzött meg mindenkit. Benjamin Hilton kutatási elemző szerint ez a véletlen műve. Vagy csak ha nagyon erőltetik az Apoploe vesrreaitais úgy néz ki, mint néhány madár vagy bogár binomiális neve.

Számára sokkal inkább sztochasztikus, véletlenszerű zajnak tűnni, mint egy titkos DALL-E nyelvnek. Egy másik lehetőség, hogy túlságosan is készen állunk, és felfedezzük a mesterséges intelligenciarendszer azon képességét, hogy a képeket kóddá alakítva rövidítéseket hozzon létre, ahogy a Vice rámutat. Ha ez az állítás átmegy az ellenőrzésen, akkor egy lenyűgöző új fejleménynek nézhetünk elébe a területen - vagy talán túl sok hitelt adunk neki, és túl sokat olvasunk a sorok között.

(Forrás: Futurism)


A figyelmetekbe ajánljuk