Képzeljünk el egy rendszert, amely nem azt vizsgálja, hogy mit tettünk, hanem azt próbálja megjósolni, hogy mit fogunk tenni a jövőben.
Elemzi a személyiségünket, a viselkedési mintáinkat, a rólunk kialakított profilt, majd kockázati értéket rendel hozzánk. A végeredmény pedig nem azt mondja meg, hogy valaki elkövetett-e egy bűncselekményt, hanem azt, hogy az algoritmus szerint mekkora az esélye annak, hogy egyszer el fog követni egyet.
Ez már nem egyszerű adatfeldolgozás. Ez egy alapvető kérdést vet fel:
Lehet-e valakit kockázatosnak tekinteni nem azért, amit tett, hanem azért, amilyennek egy algoritmus látja?
Az AI Act éppen ezért korlátozza azokat a mesterségesintelligencia-rendszereket, amelyek kizárólag egy természetes személy profilalkotása vagy személyiségjegyeinek értékelése alapján próbálják megbecsülni annak kockázatát, hogy az illető bűncselekményt követ majd el.
A szabályozás mögött egy fontos alapelv húzódik meg: egy ember nem válhat potenciális bűnelkövetővé pusztán azért, mert egy algoritmikus profil szerint hasonlít azokra, akiket a rendszer kockázatosnak tart.
Ez különösen fontos azért, mert az AI-rendszerek következtetései könnyen objektívnek tűnhetnek. Egy százalékos érték, egy kockázati kategória vagy egy automatikusan generált minősítés azt a benyomást keltheti, hogy tudományosan pontos eredménnyel állunk szemben. Pedig az algoritmus mindig adatokból, korábbi mintákból és előre meghatározott összefüggésekből dolgozik.
A múltból tanuló rendszer azonban könnyen a múlt előítéleteit is megtanulhatja.
Ha a korábbi adatok torzításokat tartalmaznak, ha bizonyos csoportok felülreprezentáltak bennük, vagy ha a rendszer hibás összefüggést talál egy személyes jellemző és a bűnelkövetés között, az eredmény nemcsak pontatlan lehet. Valós következménye is lehet annak, akit az algoritmus magas kockázatúnak minősít.
Egy emberből profil lesz. A profilból kockázati érték. A kockázati értékből pedig gyanú.
De a valószínűség nem bizonyíték.
A szabályozás ugyanakkor fontos különbséget tesz az önálló, kizárólag AI-alapú kockázatbecslés és az emberi döntést támogató technológia között. Nem minden olyan rendszer tiltott, amely valamilyen formában segíti a bűnüldözési vagy kockázatértékelési munkát. A konkrét működést, a felhasznált információkat és az emberi döntéshozatal szerepét együtt kell vizsgálni.
A lényeg az, hogy az AI ne váltsa fel a tényeken és objektív körülményeken alapuló emberi értékelést egy puszta személyiségprofilból származó jóslattal.
Ez a különbség elsőre technikai részletnek tűnhet, valójában azonban alapvető jogi és társadalmi jelentősége van. Egy döntéstámogató rendszer segíthet információkat rendszerezni, összefüggéseket feltárni vagy már ismert tényeket értékelni. Egészen más helyzet azonban, amikor az algoritmus lényegében azt állítja: nem tudjuk, hogy elkövetsz-e valamit, de a profilod alapján szerintünk képes lennél rá.
A jogállamnak tetteket kell értékelnie, nem algoritmikus jóslatokat büntetnie.
A mesterséges intelligencia egyik legnagyobb ereje a mintázatok felismerése és a valószínűségek becslése. De éppen itt húzódik az egyik legfontosabb határa is: egy ember jövőbeli viselkedése nem egyszerűen korábbi adatokból kiszámítható eredmény.
Az AI becsülhet kockázatot. De egy ember nem válhat gyanússá pusztán azért, mert egy algoritmus szerint beleillik egy mintába.