Folytassuk akkor a tegnap megkezdett sorozatunkat, mely szűkebben az Első Alkormánykigészítésről és a szólásszabadságról szól a P2P text messaging systemek kapcsán, mint amilyen a Bitcoin is, tágabban pedig a big datáról, az algoritmusos társadalomról és annak következményeiről. Mennyiben és milyen minőségben lehet a kód a szólásszabadság része?

Bizalmi Adatkezelők:

Egyes vállalkozások a felhasználóik bizalmi adatkezelőjeként működnek. A kormányok észszerű szabályozás alá vonhatják, hogy a bizalmi adatkezelők hogyan gyűjthetik, használhatják fel, terjeszthetik és értékesíthetik a felhasználókkal létrejött bizalmi kapcsolatukból származó információkat. Általánosságban a bizalmi adatkezelői kapcsolatban gyűjtött adat nem a közbeszéd része, ezért a kormány az ilyen információ felhasználását az Első Alkotmánykiegészítéssel összhangban szabályozza.

A bizalmi adatkezelői kapcsolatokat a hatalom, az információ és az átláthatóság aszimmetriája jellemzi. A bizalmi adatkezelő olyan érzékeny információt gyűjthet az ügyfélről, amely annak kárára is felhasználható. Az ügyfél viszonylag átlátható a bizalmi adatkezelő számára, de a bizalmi adatkezelő nem átlátható az ügyfél számára. Ez alatt azt értem, hogy az ügyfél nem rendelkezik megfelelő eszközökkel ahhoz, hogy megértse és ellenőrizze a bizalmi adatkezelő által végzett műveleteket. Mi több, az ügyfél a bizalmi adatkezelőtől várja olyan értékes szolgálatok megtételét, amelyeket ő nem tud egykönnyen a saját maga számára megtenni. Ezen aszimmet­riák miatt az ügyfeleknek meg kell bízniuk a bizalmas adataikat kezelőkben, és csak remélhetik, hogy ez utóbbiak nem élnek ezzel vissza. A bizalmi adatkezelőknek viszont jóhiszeműen kell eljárniuk ügyfeleikkel szemben, különös tekintettel azokra az információkra, amelyek az ügyféllel való kapcsolatuk során jutnak a tudomásukra. Ahol a bizalmi adatkezelői kapcsolat az ügyfélre vonatkozó fontos információk gyűjtését és felhasználását is magában foglalja, ott bizalmi adatkezelőkről beszélhetünk.

A bizalmi adatkezelők klasszikus példái az orvosok és az ügyvédek. Mindkét szakma képviselői rengeteg személyes információt gyűjtenek ügyfeleikről, azonban a kevésbé képzett ügyfelek számára a tevékenységük nem átlátható, az ügyfelek képzettségének hiánya pedig korlátozza az ilyen szakemberek ellenőrzését. Az ügyfelek azért adnak át érzékeny információt, mert sajátos szolgáltatásokra van szükségük, ennek eredményeképp kénytelenek megbízni az orvosokban és az ügyvédekben. Az orvosok és az ügyvédek cserébe kötelesek betegeik és ügyfeleik érdekeit megvédeni, az érdekellentétek kialakulását elkerülni, megtartani, és nem továbbadni róluk olyan információkat, amelyek alkalmasak az ügyfeleik sérelmére történő felhasználásra. A hivatásos bizalmi adatkezelők mindenekelőtt jóhiszeműen kötelesek eljárni betegeikkel és ügyfeleikkel szemben.

Az Első Alkotmánykiegészítés nem akadályozza meg az államot abban, hogy szabályozza a szakmák képviselői és az ügyfeleik közötti kapcsolatot és az ügyfelekkel kapcsolatos informá­ciók felhasználását. Ennek oka az, hogy a szakmák képviselői bizalmi kapcsolatban vannak ügyfeleikkel. Az adott hivatás gyakorlói bizalmi kapcsolat keretében adnak tájékoztatást ügyfeleik részére, és fordítva: az ügyfelek is bizalmasan adnak információkat őnekik. Egyik információfajta sem a közbeszéd része, ezért az államok a bizalmi adatkezelők és ügyfeleik közötti információcserét oly módon szabályozhatják, ami rendszerint nincs megengedve az általános közéleti viták szabályozásával kapcsolatban. Ezért a bizalmi adatkezelők fogalma kulcsfontosságú abból a szempontból, hogy megértsük, hol húzódnak a szabályozásnak az Első Alkotmánykiegé­szítéssel összhangban lévő, elfogadható határai.

Kik a digitális korszak új bizalmi adatkezelői?

Olyan szervezetek és vállalkozások, amelyek a felhasználóikkal kapcsolatban hatalmas mennyiségű információt gyűjtenek. 

A felhasználók átláthatók e szervezetek számára, de utóbbiak tevékenysége nem transzparens a felhasználók számára, és nehéz, ha nem lehetetlen a tevékenységüket ellenőrizni. Ennek eredményeként e szervezetek a tudás és a hatalom szempontjából jelentős túlerőben vannak a felhasználókkal szemben. E vállalkozások arra biztatják felhasználóikat, hogy bízzanak meg bennük, és adjanak át nekik információkat, a felhasználók pedig – amennyiben szeretnék igénybe venni az e szervezetek által nyújtott szolgáltatásokat – kénytelenek megbízni bennük. Ez azt jelenti, hogy számos olyan digitális szervezetet, amellyel az emberek nap mint nap kapcsolatban vannak – ideértve az internetszolgáltatókat (ISP-k), keresőmotorokat és közösségimédia-platformokat is –, ügyfeleik és a felhasználók tekintetében bizalmi adatkezelőként kellene kezelni. Ezért, az Első Alkotmánykiegészítéssel összhangban, a kormányok észszerű korlátok közé szoríthatják a bizalmi adatkezelőket a személyes információk gyűjtésével, szerkesztésével, elemzésével, felhasználásával, értékesítésével és terjesztésével összefüggésben.

Gyorsan hozzáteszem azért, hogy az alkotmányosan megengedhető szabályozás hatálya szűkebb, és szűkebbnek is kell lennie a digitális vállalkozások esetében, mint az orvosokéban és az ügyvédekében. Egy közösségimédia-platform vagy internetszolgáltató üzleti tevékenysége meglehetősen különbözik egy orvos vagy ügyvéd praxisától, és a felhasználóknak a digitális ­vállalkozásokba vetett bizalmi szintje szintén más. Először is, az orvosok és az ügyvédek tevékenységének nem központi eleme, hogy ügyfeleik személyes adataiból anyagi hasznot húz­zanak, de központi eleme számos online szolgáltatóénak, ami lehetővé teszi számukra, hogy finanszírozzák a felhasználóiknak nyújtott szolgáltatásaikat.

Másodsorban, eltérően az orvosoktól és az ügyvédektől, a keresőmotorok és a közösségimédia-oldalak érdeke, hogy az emberek minél nagyobb nyilvánosság előtt fejtsék ki gondolataikat azért, hogy olyan tartalom és adathalmaz ­jöjjön létre, amely mérhető és elemezhető, még akkor is, ha később az emberek megbánják döntéseiket. Harmadsorban, az emberek nem pusztán azt várják az orvosoktól, hogy ne okozzanak nekik kárt, hanem azt is elvárják, hogy gondoskodjanak róluk, és figyelmeztessék őket az egészségüket, az étkezésüket stb. érintő esetleges kockázatokkal kapcsolatban. Az emberek az ISP-ktől, keresőmotoroktól és közösségimédia-oldalaktól nem várnak ilyen mindenre kiterjedő gondoskodást.

E különbségek miatt a digitális bizalmi adatkezelőkre kevesebb kötelezettséget kellene róni, mint az olyan hagyományos hivatásos adatkezelőkre, mint az orvosok, az ügyvédek és a könyvelők. Ezek speciális célú bizalmi adatkezelők, a rájuk észszerűen róható kötelezettségeknek pedig attól kell függnie, hogy milyen természetű szolgáltatásokat nyújtanak. Legfontosabb kötelezettségük, hogy nem járhatnak el csalárd módon – bizalmat keltve felhasználóikban személyes információik megszerzéséhez, majd visszaélve velük, vagy érdekeik ellen dolgozva.

Algoritmus révén okozott sérelem

A bizalmi adatkezelők felelősségének elve feltételezi az ügyfél és valamely személy vagy vállalkozás közötti szerződéses (vagy kvázi-szerződéses) kapcsolat meglétét, akár a Facebookról, akár egy háziorvosról legyen szó. A szerződéses kapcsolat egy olyan bizalmi kapcsolat része, amely bizalmi adatkezelői kötelezettségeket keletkeztet.

A felhasználók rendszerint szerződéses kapcso­latban vannak a digitális bizalmi adatkezelőikkel. Ennek az az oka, hogy a digitális vállalatok általában megkívánják felhasználóiktól, hogy fogadják el a felhasználói licencmegállapodást, a tagsági megállapodást vagy a felhasználási feltételeket, amikor felhasználói fiókot hoznak létre, és jelentkeznek egy digitális szolgáltatásért, vagy csatlakoznak a vállalat által biztosított digitális közösséghez. Másfelől, számos olyan helyzet adódik, amelyben az emberek nem állnak szerződéses kapcsolatban digitális vállalkozással vagy olyan gazdasági társasággal, amely személyes információkat gyűjt és algoritmusokat használ döntéshozatal céljából. Gondoljunk csak például az álláshirdetésre jelentkezőkre, a hitel- vagy jelzálogkérelmet benyújtókra. A kérelmezők szeretnének élni egy lehetőséggel, és az a vállalkozás, amely arról dönt, hogy biztosítja-e számukra ezt a lehetőséget, egy big datával foglalkozó vállalatra vagy egy big datát felhasználó algoritmusra támaszkodik a döntéshozatalban.

Ilyen esetben nincsen előzetes szerződéses kapcsolat: ekkor kvázi-idegenek közötti ügylet jön létre. A kérelmező nem iratkozik fel digitális szolgáltatásra, és nem csatlakozik a Face­bookhoz vagy a Twitterhez hasonló közösséghez. Az ilyen esetekben nem alkalmazható a bizalmi adatkezelők fogalma a szabályozás indokolására, mivel nincsen bizalmi kapcsolat, legalábbis a kapcsolat létrejöttét megelőzően. Egy bizalmi adatkezelő nem árulhatja el felhasználóit, és nem élhet vissza a bizalmukkal. Az algoritmusos társadalomban azonban nem minden kapcsolat bizalmi adatkezelői kapcsolat, mert nem minden kapcsolat a felhasználókkal létrejött szerződéses bizalmi kapcsolat. Ehelyett egy másik elképzelést kell segítségül hívnunk. Ez pedig az algoritmus révén okozott sérelem gondolata.

Az algoritmus révén okozott sérelem elve akkor alkalmazható, amikor a vállalatok a big datát és az algoritmusokat arra használják, hogy az emberek identitásáról, jellemzőiről és a velük kapcsolatos asszociációkról alkossanak képet, amivel az adott személyek lehetőségeit és gyenge pontjait térképezik fel. A lehetőségek közé olyan dolgok tartoznak, mint a foglalkoztatás, a hitel, a pénzügyi ajánlatok és a munkalehetőségek. Az emberek gyenge pontjain a fokozott nyilvános vagy magánjellegű felügyeletet, a hátrányos megkülönböztetést, a manipulációt és a kirekesztést értem.

Az algoritmus révén okozott sérelem elve abból ered, hogy a vállalatok számos különböző forrásból gyűjtenek adatokat a személyekről, és algoritmusok segítségével hoznak velük kapcsolatos döntéseket. E folyamatokban a vállalatok nem egyszerűen döntéseket hoznak: megalkotják az emberek digitális identitását, jellemrajzát, és a velük kapcsolatos asszociációkat, amelyek viszont alakítják (és korlátozzák) e személyek jövőbeli lehetőségeit. Az adatok e gyűjteményét, valamint a jellemzők, asszociációk és identitás ebből származó digitális felépítését más vállalatok arra használhatják fel, hogy újabb és újabb kontextusban ítéljék meg az adott személyeket. A vállalatok például a hitelértékelés eredményét különböző viselkedésmódok előrejelzésére szolgáló modellekben használhatják fel. Az emberek élete így algoritmusos ítéletek sorozatának tárgyává válik, amelyek mindegyike egymás után megkonstruálja az emberek identitását és lehetőségeit. Digitális identitásunk olyan információfolyamként képzelhető el, amelybe folyamatosan új ítéletek, pontszámok és kockázatértékelési eredmények sokasága áramlik bele.

Az ítéletek e sora egyre nagyobb mértékben alakítja az emberek életét, ahogy egyre növekszik a digitális identitás megalkotásának kollektív folyamatában részt vevő vállalatok száma. Ez a folyamat a korlátozott lehetőségek és fokozódó sebezhetőség formájában előre megjósolhatóan indokolatlanul nagy árat követel azoktól, akik a digitális identitás e rendszerének tárgyai. Az algoritmus révén okozott sérelem fogalma azt a jelenséget próbálja megragadni, amelyben a vállalatok azokkal a személyekkel fizettetik meg az algoritmusos döntéshozatal társadalmilag indokolatlan költségét, akiknek az algoritmusos ítéletek befolyásolják az életét (és szűkítik a lehetőségeit).

Bár ezek a vállalatok adatokat használnak fel és osztanak meg, az Első Alkotmány­kiegészítés nem akadályozza a döntéshozatal módjának és kivitelezésének szabályozását. Ennek az az oka, hogy a megengedhető szabályozás az algoritmusos döntéshozatal végeredményére: a diszkriminációra és a manipulációra fókuszál.

Az algoritmus révén okozott sérelem gondolata a common law közjogi és magánjogi sérelméhez való hasonlatra épít. A common law szerint sérelemnek számítanak azok a birtokháborítással nem járó jogsértések, amelyek megakadályozzák, hogy egy személy zavartalanul gyakorolhassa ingatlantulajdona használatához és élvezetéhez fűződő jogát. Gazdasági értelemben a jogsérelem miatti igényérvényesítés a piac elégtelenségének azokban az eseteiben indokolt, amikor a vállalatok kívülálló személyekre háríthatják tevékenységük következményeit. Ennek legkézenfekvőbb példája a környezetszennyezés. A magánjogi sérelmek általában olyan helyzeteket foglalnak magukban, amelyekben a költségek áthárítása az emberek egy (viszonylag kis) csoportját sértik, és a sérelem határozott formát ölt. 

A közjogi sérelmeknél a költségek az emberek nagy csoportját terhelik, és ezekben az esetekben az államnak el kell döntenie, hogy jogi útra tereli a kérdést a sérelem megszüntetése érdekében, vagy új törvényeket vagy szabályozást fogad el a probléma kezelésére.

Egy jogsérelem társadalmilag akkor indokolatlan, ha a költség-haszon elemzés alapján a tevékenység indokolatlan – ez már a gondatlanság jogi szabályozásának körébe tartozó probléma. Gyakran azonban egy tevékenység azáltal válik sérelmessé, hogy az elkövető túlzó módon gyakorolja. Erre ismét a környezetszennyezés a szokásos példa.

Hogyan alkalmazzuk ezeket a gondolatokat a big data használatára? A vállalkozások algoritmusokat és algoritmusokból származó értékelési rendszereket használnak annak eldöntésére, hogy ki milyen lehetőséghez juthat hozzá (pl. hitel, munkahely, számos különféle előnyre való jogosultság vagy azokból való kizárás). E döntések meghozásához a vállalkozások egyre inkább támaszkodnak a big datára és az algoritmusokra, mivel rengeteg döntést kell meghozni, és az egyéni döntéshozatal túlságosan költséges.

Vannak gondatlanul megalkotott algoritmusok. Előfordul, hogy a vállalkozások eltorzított vagy elferdített adatokat használnak, a modellek rosszul vannak megalkotva, vagy a vállalat nem megfelelően veszi át és használja az algoritmust. Ilyenkor közönséges gondatlanságról van szó. Ennél érdekesebbek azok a helyzetek, amikor egy vállalkozás elfogadható érvet képes felhozni arra, hogy sajátos céljai és a döntéshozatal költségtakarékosságának szempontjából az általa használt algoritmusos modell alkalmazása számára észszerű. Tegyük fel például, hogy egy vállalkozás olyan algoritmusos modellt használ, amely sok téves pozitív eredményt ad (hiába méltók egy lehetőség elnyerésére az emberek, elutasítják őket), de csak nagyon kevés téves negatívat (az arra alkalmatlanoknak is lehetőséget kínálnak). Észszerű lehet a cég számára e modellt használni, ha csak egy bizonyos számú állást akar betöltetni.

Ezzel együtt hosszú távon sok embert érinthet hátrányosan az algoritmusok segítségével történő döntéshozatal alkalmazása olyan területeken, mint például a rendőri tevékenység, a foglalkoztatás, a lakhatás vagy a pénzügyi kérdések. Ez különösen igaz akkor, ha a szervezetek további megtakarítások céljából más vállalatok által létrehozott, az emberek tulajdonságaival, megbízhatóságával és jó hírével kapcsolatos algoritmusos ítéletekre hagyatkoznak. Az algoritmusok ismétlődő és széles körű felhasználása tömegekre az emberek kockázatosként vagy más módon nemkívánatosként való besorolásához vezethet, ami alaptalan hátrányokat és nehézségeket ró a lakosság egyes részeire, és megerősíti a meglévő egyenlőtlenségeket.

Az algoritmus révén okozott sérelem mögött az az elképzelés áll, hogy az algoritmusos döntéshozatal mellékhatásai idővel összeadódnak, ahogy egyre több állami és magáncég alkalmazza ezeket. Az egyes személyek identitását és hírnevét az algoritmus úgy határozza meg, hogy kockázatosnak minősíti őket, nemkívánanos személyiségjegyeket vagy kapcsolatokat tulajdonít nekik, vagy olyan személyekkel sorolja őket egy kategóriába, akik kockázatosak vagy nemkívánatos tulajdonságaik vannak.

Másként megfogalmazva, az algoritmusok digitális portrékat készítenek az emberekről, és az algoritmusok által létrehozott digitális kategóriákba sorolják be őket. Az algoritmusok a megkülönböztetés célját szolgáló kategóriák létrehozásával működnek, majd e kategóriákat és különbségeket rávetítik a személyek csoportjaira. Jellemzőket tulajdonítanak az embereknek, és digitális identitást és hírnevet gyártanak nekik. E kategóriáknak és különbségeknek társadalmi erejük van, mert a vállalatok a lehetőségek nyújtásában és megvonásában ezekre támaszkodnak. A vállalatok további megtakarításokat érhetnek el adatbázisok megvásárlásával és algoritmusos döntések más vállalatoktól való átvételével, így a társadalom széles körében terjesztik a személyek algoritmikus hírnevét és személyazonosságát.

Mik a digitális hírnév létrehozásának és terjesztésének lehetséges veszélyei?

Először is, az algoritmusos döntéshozatal az ember életének számos aspektusával kapcsolatban erősítheti a hátrányos megkülönböztetést. Másodszor, lehetőséget teremthet a vállalkozásoknak az emberek manipulálására. Harmadszor, arra ösztönözheti az embereket, hogy az algoritmusok ítéleteit elkerülendő, életüket az algoritmusok elvárásaihoz igazítsák. Mindez átláthatóság, elszámoltathatóság, tisztességes eljárás, illetve az ellenőrzés és a döntésekre való reakció lehetősége nélkül történik majd.

Amikor a vállalatok algoritmusok alkalmazásával elégítik ki sajátos szervezeti igényeiket, nincsenek mindig tekintettel arra, hogy munkájuk hogyan formálja a digitális reputációt, amely aztán számos más helyzetben felhasználható. Mivel az algoritmusos döntések többféle kontextusban, széles körben megoszthatók, rendszerszintű és halmazati hatást eredményezhetnek. Az algoritmusos döntéshozatal hozzájárul az identitások digitális létrehozásához, amelynek hatásai messze túlmutatnak bármely vállalkozás egyedi döntésein. Ez olyasmi, mintha csak egy egész kis mennyiségű szennyező anyagot bocsátanánk egy folyóba, amit rajtunk kívül mindenki más is használ. Idővel ennek komoly következményei lesznek.

Ebben hasonlít a sérelemre. A megnövekedett aktivitás növelheti az igazolatlan társadalmi költségeket, még akkor is, ha a tevékenység nem gondatlan. Jogsérelmek keletkezhetnek akkor is, amikor az új technológiákra való áttérés eredményeként a vállalkozások növelik a termelés volumenét. Éppen ez történik az algoritmusos társadalomban. Az algoritmusok csökkentik a döntéshozatal költségeit, ezért növelik a mennyiségét, gyorsaságát és elterjedtségét, több ember életét és hírnevét befolyásolva egyre gyorsabban, olcsóbban és átfogóbb módon.

Egyetlen döntés sem tökéletes; az adott döntés minőségét az a cél határozza meg, amelyre felhasználják. Minél inkább hagyatkoznak a vállalkozások olyan ítéletekre, amelyek korábban megengedhetetlenül költségesek, sőt talán lehetetlenek lettek volna, annál inkább fokozódnak az ítéletek és a döntéshozatal mellékhatásai. Ahogy a vállalatok egyre erőteljesebben fektetnek be az ipari termelésbe, az algoritmusos döntéshozatal mellékhatásai egyre inkább olyanok, mint a fokozódó környezetszennyezés. Erre a megfelelő gyógymód az, ha a vállalatokat rávesszük arra, hogy vállalják azokat a költségeket, amelyeket másokra és a társadalom egészére terhelnek az algoritmusos döntéshozatallal.

Hamarosan folytatjuk!

Forrás: Jack M Balkin, fordította: Ipso Jure Fordítóiroda