Gondoljunk csak bele, milyen lett volna, ha a Terminátorban Skynet tudja, mikortól nem megbízható. Úgy tűnik, a tudósok megmentettek minket egy mesterséges intelligencia okozta apokalipszistől, mivel olyan neurális hálózatot hoztak létre, amely tudja magáról, mikor beszámíthatatlan.
A deep learning technológia segít úgy leképezni emberi agyat mesterséges hálózatokban, hogy azok egyszerre képesek mérlegelni és összevetni több tényezőt. Többet, amire az ember képes. Noha még messze vagyunk Skynet létezésétől, a mesterséges intelligencia ma már képes döntéseket hozni önvezető autók és orvosi diagnózisok kapcsán, emiatt fontos, hogy precíz legyen ─ olvasható a Sciencealert cikkében. A mesterséges neurális hálózat képes meghatározni a konfidencia, vagy megbízhatósági szintet (ez a szint a statisztikában a becslés pontosságának felméréséhez elengedhetetlen).
Alexander Amini informatikus és vezető kutató szerint
„Képesek kell lennünk nagy teljesítményű modelleket létrehozni, ugyanakkor tudnunk kell, mikor nem bízhatunk bennük."
A bizalomra alapuló öntudatosság továbbá azon alapszik, hogy a hálózat rangsorolja az elérhető lehetőségek minőségét, így könnyebben hoz döntéseket bizonytalan helyzetben. A kutatók úgy tesztelték a rendszert, hogy megkérték, mondja meg a becsléseit egy kép mélységével kapcsolatban. Ez hasonlít ahhoz, amikor egy önvezető autó neurális hálózata képes meghatározni az előtte levő távolságot. Az új mesterséges intelligencia közölte a becsléseit és azt is, hogy mennyire megbízhatóak ─ és valóban: a rendszer által megbízhatatlannak címkézett becslések álltak távolabb a valóságtól, tehát a kép eredeti mélységétől.
Noha még várnak a szakértői értékelésre, a szakemberek elégedettek azzal, hogy egy hálózat 99% bizonyosságnál képes feltárni az 1%-os bizonytalanságát, mivel annak az 1%-nak is lehetnek komoly következményei. Főleg, ha emberéletekről van szó. A kutatást a NeurIPS Konferencián decemberben mutatják be a nagyközönségnek.
