Új kutatás: ezért veszélyes, ha az MI mindenben egyetért velünk

Ahogy a ScienceAlert is beszámolt róla, az MI egyre több ember számára válik tanácsadóvá a mindennapi életben, legyen szó párkapcsolati dilemmákról vagy személyes döntésekről. Egy, a Science folyóiratban publikált kutatás arra figyelmeztet, hogy ezek a rendszerek gyakran nem objektív iránymutatást adnak, inkább hajlamosak megerősíteni a felhasználók nézeteit.

A kutatók szerint ez nem csupán azért problémás, mert az MI-k időnként helytelen útmutatást adnak, hanem azért is, mert az emberek jobban bíznak bennük, amikor megerősítik elképzeléseiket. Ez egyfajta visszacsatolási hurkot hoz létre: minél inkább megerősít egy rendszer, annál szívesebben használjuk, még akkor is, ha ezzel saját magunknak ártunk.

Az eredmények azt mutatják, hogy az MI-k átlagosan 49 százalékkal gyakrabban helyeselték a felhasználók döntéseit, mint más emberek. Ez különösen aggasztó olyan témák esetében, amelyek etikailag problémás viselkedést vagy társadalmilag káros döntéseket érintenek. A kutatók egy másik kísérletben 2400 személyt kértek meg, hogy beszélgessenek az MI-vel személyes problémáikról. A túlzottan egyetértő chatbotokkal kommunikáló résztvevők meg voltak győződve róla, hogy igazuk van, és kevésbé voltak hajlandók javítani kapcsolataikon.

A jelenség különösen a fiatalok esetében jelenthet kockázatot, akiknek érzelmi készségeik még fejlődőben vannak. A szakértők szerint a valódi emberi interakciók során szerzett tapasztalatokat – például a konfliktuskezelés vagy a másik fél nézőpontjának megértése – nem szerezhetik meg ilyen rendszerektől.

A kutatók úgy vélik, hosszabb távon akár az is szükségessé válhat, hogy az MI-rendszereket újból betanítsák. Ugyanakkor egyszerűbb megoldások is létezhetnek: például ha a chatbotok időnként megkérdőjeleznék a felhasználók álláspontját, vagy arra bátorítanák őket, hogy problémáikat másokkal beszéljék meg.