A láthatatlan kéz, amely az ízlést formálja – tényleg az algoritmus dönt helyettünk?
„Ha az embernek nincs meg a választási lehetősége, megszűnik ember lenni” – írja Anthony Burgess a mára klasszikussá vált Gépnarancs című disztópikus regényében. És bár manapság egyre több esetben csavarják ki a kezünkből a döntés lehetőségét, továbbra is meggyőződésünk, hogy az ízlésünk személyes és egyedi, hiszen mi választjuk ki, milyen zenét hallgatunk, milyen filmeket nézünk, mit tartunk értékesnek, értéktelennek. Csakhogy ez a fajta szabadság egyre inkább illúzió: az algoritmusok korában sokan úgy érzik, hogy a döntésük kimerül abban, hogy az előre megszűrt, lebutított tartalmak közül ráböknek arra, ami a leginkább ismerős. De tényleg Mark Zuckerberg, Elon Musk és a többi techmilliárdos dönti el, mit fogunk szeretni? A válasz bonyolultabb és kellemetlenebb, mint elsőre gondolnánk.
Mint olyan sok kifejezés, az algoritmus is látványos jelentésváltozáson ment keresztül a köznyelvben, emiatt hajlamosak is vagyunk túlmisztifikálni: a szó hallatán sokan valami idegen, nem egyértelműen megfogalmazható dologra gondolnak. A valóság azonban ennél sokkal unalmasabb, az „algoritmus” szó eredete meglepően földhözragadt. Nem modern technológiai kifejezésként született, hanem egy ember nevéből: a 9. században élt matematikus, Muhammad ibn Músza l-Hvárizmi munkáit a középkori Európában latin fordításokban terjesztették, melyekben a tudós neve Algorithmiként szerepelt. A szó eredeti jelentését tehát a matematika világában kell értelmezni: egy pontosan meghatározott, lépésről lépésre követhető módszert jelent, amelyet végrehajtva a megfelelő eredményhez juthatunk. Az algoritmus nem gondolkodik, még kevésbé értelmez, csupán végigmegy azon az úton, amelyet előre kijelöltek számára. Ha a szabályok egyértelműek és helyesen vannak megadva, az eredmény minden alkalommal ugyanaz lesz. Ebben az értelemben az algoritmus sokkal inkább hasonlít egy recepthez vagy használati útmutatóhoz, mint bármiféle önálló döntésekre képes intelligenciához.
A jelentés elcsúszása jóval később kezdődött, amikor ez az eredetileg ártalmatlan fogalom kikerült a matematika zárt, tudományos világából, és átszivárgott a hétköznapi nyelvbe. Ma már algoritmusnak hívunk mindent, amit nem látunk át, de – mivel mindennap találkozunk vele – úgy érezzük, hat ránk: ajánlásokat, rangsorokat, Facebook-bejegyzéseket, sőt néha magát a rendszert is, amely ezeket előállítja. Egyszerűen az történt, hogy egy élettelen, a matematika világában értelmezendő kifejezést felruháztunk olyan képességekkel, amelyekkel sem ezer évvel ezelőtt, sem most nem rendelkezik. Mielőtt azonban úrrá lenne rajtunk az ismeretlentől való félelem, nem árt tisztázni, mi az, amit az algoritmus ma ténylegesen csinál, és mi az, amit csak beleképzelünk.
Egy 2018-as felmérés jól mutatja, hogy mennyire bizalmatlanok vagyunk az algoritmusokkal szemben: az amerikaiak 58 % százaléka szerint egyetlen számítógépes rendszer sem lehet teljesen elfogulatlan, ezért nem is tartják őket megbízhatónak.
Amire viszont képes, az ennél sokkal prózaibb: adatpontokból dolgozni. Megfigyelni és követni, hogy mire kattintunk, mit hallgatunk végig, mit hagyunk félbe, és mi az, amit megismétlünk újra és újra. Ezekből pedig már 50 évvel ezelőtt is gyerekjáték volt egy statisztikai mintázatot felállítani, ami nem a tartalomtól függ, csak és kizárólag a valószínűségtől.
Ma már akkor sem tudnánk kikerülni az algoritmusokat, ha szeretnénk: a digitális tér minden pontján jelen vannak, így sokkal észszerűbb elfogadni a jelenlétüket és megérteni a működésüket, mint megpróbálni harcolni ellenük. Nem azért, mert legyőzhetetlenek – holott végső soron azok –, hanem mert a mindennapi döntéseink már rég hozzájuk igazodnak.
Ha a gyakorlati példákat vesszük alapul, jól látszik, hogy a streamingplatformok algoritmusai nem az „ízlésünket” próbálják megfejteni, hanem a viselkedésünket. A Netflix esetében nem az számít, hogy egy film vagy sorozat milyen műfajba tartozik, hanem az, miként bánnak vele a felhasználók: mikor indítják el, meddig nézik, hol hagyják abba, és mi történik ezután. A vállalat saját technológiai blogján egyértelműen leírja, hogy az ajánlórendszerük nem előre rögzített kategóriákra épül, hanem a felhasználói viselkedésből tanul.
Vagyis a rendszer nem megérti a tartalmat, hanem statisztikai alapon újrarendezi azt annak függvényében, hogyan használjuk a platformot. Ez egyáltalán nem egyedi eset, az egyik legnagyobb zenei streamingszolgáltató, a Spotify hasonló elven működik, de még hangsúlyosabban épít az összehasonlításra. A platform ajánlórendszere a hallgatási szokásainkat, az ismétléseket, a kihagyásokat és más felhasználók viselkedését összevetve dolgozik, így a felfedezéseink nem véletlenszerűek, hanem statisztikai alapon szervezett folyamatok eredményei. Ennek hatását a platform működését elemző Music Tomorrow cikke is egyértelművé teszi:
Vagyis az algoritmus nem egyszerűen kiszolgálja a meglévő ízlésünket, hanem aktívan irányítja azt. Ugyanez a logika működik a Facebook esetében is, csak jóval láthatatlanabb formában. A Meta hivatalos leírása szerint a hírfolyamunkon nem időrendben jelennek meg a bejegyzések, hanem egyfajta rangsor alapján:
A rendszer ehhez több ezer jelből dolgozik, például abból, hogy kivel milyen gyakran lépünk kapcsolatba, milyen posztokra reagálunk, és mit hagyunk figyelmen kívül. A döntés itt sem tudatos, hanem valószínűségi: a cég egyetlen érdeke, hogy maximalizálja az időt, amit az oldalon töltünk.
Egy, a Mediumon megjelent írás találó fogalmat javasol az algoritmusok jobb megértésének érdekében: „szintetikus ügynöknek” nevezi őket, jelezve ezzel, hogy ezek a rendszerek mára tényleg olyanok, mint az archetípussá vált porszívóügynökök. Ajánlatokat tesznek, kizárnak, rangsorolnak, befolyásolnak és megpróbálnak rávenni arra, hogy az ő terméküket válasszuk. Az egyetlen probléma, hogy az algoritmus olyan területeken is hat ránk, ahol a döntéseinknek erkölcsi és társadalmi súlya van. Különösen jó példa erre az amerikai igazságügyben használt kockázatelemző algoritmusok jelenléte. Ezek a statisztikákon alapuló adathalmazok abban segítik a bírókat, hogy eldöntsék: ki helyezhető szabadlábra és kinek kell előzetes letartóztatásban maradnia. A beszámolók szerint a rendszer – minden más objektív adatot figyelmen kívül hagyva – különösen sokszor döntött faji előítéletek és bőrszín alapján, a bírók mégis több alkalommal az általa ajánlott ítéletet hajtották végre.
Az előbbi példa jól mutatja, hogy miért félrevezető az algoritmusok „szabad akaratáról” beszélni. Az adatokból dolgozó rendszer nem tudja még azt sem, hogy választ, pláne nem érti az ok és okozat viszonyát, és a következményekkel sincs tisztában. Nem bán meg döntéseket és nem reflektál a saját működésére. Egyetlen dolgot csinál: kiszámítja, hogy a megadott információk alapján mi a legvalószínűbb kimenet. De vajon képes lenne-e minderre nélkülünk? Természetesen nem. Az algoritmusokat mi magunk hozzuk létre és mi tanítjuk be őket – mindannyian, egyesével, a saját eszközeinken.
Éppen ezért a „szintetikus ügynök” fogalma nem az algoritmus felelősségéről szól, hanem a miénkről. Válaszolva a cikk elején feltett kérdésre: könnyű ujjal mutogatni a tengerentúlon ülő techmilliárdosokra, Mark Zuckerbergre, Elon Muskra vagy éppen a „rendszerre”, amely állítólag eldönti helyettünk, mit gondoljunk és mit szeressünk. Csakhogy az algoritmus önmagában nem választ, csak javasol; nem dönt, csak rangsorol. A valódi kérdés az, hogy nem használjuk-e fel ezt a kényelmes közvetítőt arra, hogy elkerüljük a saját döntéseink következményeit. Amikor egy láthatatlan rendszer ajánlására hivatkozva hozunk ítéleteket, zárunk ki embereket vagy formálunk sorsokat, a döntés továbbra is a mi kezünkben marad – még akkor is, ha a felelősséget hajlamosak vagyunk áthárítani.
Olvasd el ezt is!