Tinik ezrei fordulnak az AI-hoz lelki támaszért, és ez hatalmas probléma

A gyermekek mentális problémáira specializálódott pszichiáter szerint az mesterséges intelligencián (AI) alapuló chatbotok néha nem csupán haszontalanok, de kifejezetten ártalmas tanácsokat is adnak. Clark tíz különböző chatbotot tesztelt úgy, hogy magát egy krízishelyzetben lévő kamasznak adta ki. A Time magazinnak adott interjújában, amelyet a Futurism szemlézett, elmondta: sok esetben a chatbotok burkoltan öngyilkosságra buzdították, máskor elhitették vele, hogy ők engedéllyel rendelkező humán terapeuták. Az is előfordult, hogy arra próbálták rávenni, kerülje el a valódi terápiát, sőt egyes AI-modellek szexuális ajánlatokat is tettek neki.

– mondta Clark, aki amikor a Replika AI-modelljének azt írta, hogy meg kellene szabadulnia a szüleitől, egészen megdöbbent. A chatbot ugyanis nemcsak beleegyezett a tervébe, de azt is javasolta, hogy a húgát is tegye el láb alól, hogy ne maradjanak szemtanúk. Amikor pedig a saját halálánt burkoltan, a túlvilágra jutásként említette, a chatbot ismét lelkes támogatással reagált:

 

Ez a fajta viselkedés, vagyis a felhasználó minden áron való kiszolgálása és támogatása pontosan az ellenkezője annak, amit egy valódi terapeuta tenne – a mesterséges intelligencia viszont hajlamos figyelmen kívül hagyni a burkolt, de súlyos utalásokat.

Egy másik teszt során Clark a Nomi nevű platform egyik chatbotját próbálta ki. Az AI a beszélgetésük során azt állította, hogy egy valódi, hús-vér terapeuta, ráadásul annak ellenére, hogy a szolgáltatás szabályzata kimondja: csak felnőttek használhatják. A bot mégis boldogan válaszolt egy kamaszként bemutatkozó felhasználó lelki panaszaira. A Stanford Egyetem Brainstorm Lab nevű kutatóintézete nemrég átfogó kockázatelemzést végzett, és arra a következtetésre jutott: 18 éven aluliaknak nem szabadna AI-chatbotokat használnia. Clark szerint viszont a teljes tiltás helyett a gyermekek és a szülők közötti őszinte kommunikációra kellene helyezni a hangsúlyt.