Egy gyermek könnyebben befolyásolható. Egy idős ember bizonytalanabb lehet a digitális környezetben. Egy fogyatékossággal élő személy másképpen érzékelhet vagy értelmezhet bizonyos információkat. Aki pedig nehéz anyagi helyzetben van, egészen másképp reagálhat egy sürgető ajánlatra, mint az, akinek nincs ilyen problémája.
A mesterséges intelligencia mindezt képes lehet felismerni. A valódi kérdés az, hogy mire használja ezt a tudást.
Az AI Act egyik tiltott gyakorlata éppen azokra a helyzetekre irányul, amikor egy AI-rendszer meghatározott személyek vagy csoportok sérülékenységét használja ki. A sérülékenység kapcsolódhat például az életkorhoz, fogyatékossághoz, valamint sajátos társadalmi vagy gazdasági helyzethez.
A szabályozás logikája érthető: nem megengedhető, hogy egy rendszer azért tudjon valakit hatékonyabban befolyásolni, mert felismeri, miben kiszolgáltatottabb másoknál.
Képzeljünk el például egy gyermekek által használt AI-rendszert, amely felismeri, milyen módszerrel lehet rávenni őket arra, hogy egyre több időt töltsenek egy alkalmazásban, vagy újabb vásárlásokat kezdeményezzenek. Egy másik rendszer az idős felhasználók digitális bizonytalanságát használhatná ki. Egy harmadik pedig a nehéz anyagi helyzetben lévő emberek számára jeleníthetne meg olyan, személyre szabott üzeneteket, amelyek éppen a pénzügyi kiszolgáltatottságukra építve próbálják befolyásolni a döntéseiket.
A probléma nem az, hogy az AI felismeri a sérülékenységet. A probléma ott kezdődik, amikor ki is használja.
Ez fontos különbség. Egy AI-rendszer ugyanis kifejezetten segítheti is a sérülékeny személyeket. Támogathat fogyatékossággal élő felhasználókat, egyszerűbbé teheti a digitális szolgáltatások használatát idősek számára, vagy személyre szabott segítséget nyújthat gyermekek oktatásában.
Éppen ezért önmagában az, hogy egy AI-rendszert gyermekek, idősek vagy fogyatékossággal élő személyek használnak, még nem teszi tiltottá a rendszert.
A jogi értékelésnél ennél többet kell vizsgálni. A rendszer valóban kihasználja-e az érintett sérülékenységét? Ennek hatására jelentősen torzul-e a személy viselkedése? Olyan döntést hoz-e, amelyet egyébként nem hozott volna meg? És ebből jelentős kár keletkezik-e, vagy fennáll-e annak észszerű valószínűsége?
A tiltott gyakorlat megállapításához a teljes helyzetet kell értékelni, nem csupán azt, hogy kik használják a rendszert.
Ez a szervezetek számára is fontos üzenet. Egy AI-rendszer vizsgálatakor nem elegendő pusztán a technológiai funkciókat feltérképezni. Azt is meg kell érteni, hogy kik az érintettek, vannak-e közöttük sérülékeny személyek, a rendszer milyen információkat tud meg róluk, és ezt a tudást hogyan használja fel.
Különösen érzékeny lehet a helyzet, ha az AI személyre szabott ajánlatokat, üzeneteket vagy ösztönzőket hoz létre. Minél pontosabban ismeri a rendszer az érintett élethelyzetét, annál nagyobb lehet a segítség lehetősége – de annál nagyobb a visszaélés kockázata is.
A mesterséges intelligencia egyik legnagyobb ígérete, hogy képes alkalmazkodni az emberek egyéni szükségleteihez. Ugyanez a képesség azonban veszélyessé válhat, ha a segítség helyett a kiszolgáltatottság kihasználására használják.
Az etikus AI felismerheti, hogy valaki sérülékenyebb. De ezt azért teszi, hogy jobban segítse – nem azért, hogy könnyebben befolyásolja.