A mesterséges intelligenciáról szóló jogszabály

Az AI Act a mesterséges intelligenciára (MI) vonatkozó első olyan jogi keret, amely kezeli a mesterséges intelligencia kockázatait annak érdekében, hogy szabályozási kereteket nyújtson a mesterséges intelligencia alkotói, valamint felhasználói számára, megszüntetve ezáltal a szabályozatlanságból fakadó bizonytalanságokat. 

Voltaképp már ma is számos esetben használjuk az MI által adott számtalan lehetőséget annak ellenére, hogy nem vitatottan komoly kockázatok lehetnek benne. Az új szabályozás éppen ezen kockázatok minimalizálására törekszik, sőt egyes tiltó rendelkezései kifejezetten azt a célt szolgálják, hogy a felhasználók jogait maximálisan védjék.

Az MI szabályozás – több más uniós szabályozással összhangban – ún. „kockázatlapú megközelítést” alkalmaz, azaz lényegében tevékenységi körök, szolgáltatások besorolását végzi el ezen elv alapján. Így került sor a magas kockázatú, korlátozott kockázatú és a minimális, vagy kockázat nélküli MI-technológiák meghatározására is, amelyek esetében az alkalmazhatóságot illetően differenciált elvárásokat támaszt a jogalkotó.

Magas kockázatúnak tekintik elsősorban azon tevékenységeket, infrastruktúrákat, szolgáltatásokat, amelyek nagy tömegeket érintenek, ezáltal az ezekben bekövetkező hibák rendkívül széles körben okozhatnak kedvezőtlen hatást. A potenciális kedvezőtlen hatás nem csak mentális, de fizikai hátrány (élet, testi épség sérelme) okozásában is megjelenhet.

Ilyennek tekinti többek között a

• kritikus infrastruktúrák (pl. közlekedés), amelyek veszélyeztethetik a polgárok életét és egészségét;
• oktatás vagy szakképzés, amely meghatározhatja az oktatáshoz és a szakmai életúthoz való hozzáférést (pl. vizsgák pontozása);
• termékek biztonsági alkatrészei (pl. mesterségesintelligencia-alkalmazás robottal támogatott sebészetben);
• foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés (pl. önéletrajz-válogató szoftver a munkaerő-felvételi eljárásokhoz);
• alapvető magán- és közszolgáltatások (pl. hitelpontozás, amely megfosztja a polgárokat a hitelszerzés lehetőségétől);
• bűnüldözés, amely sértheti az emberek alapvető jogait (pl. a bizonyítékok megbízhatóságának értékelése);
• migrációkezelés, menekültügy és határellenőrzés (pl. a vízumkérelmek automatizált vizsgálata);
• igazságszolgáltatás és demokratikus folyamatok (pl. mesterségesintelligencia-megoldások bírósági ítéletek keresésére).

A magas kockázatú MI-rendszerekre nagyon szigorú kötelezettségek vonatkoznak majd a forgalmazás és felhasználás során: a forgalmazást megelőzően alapos vizsgálatoknak vetik alá ezeket, majd ezt követően a felhasználás folyamatos monitorozása is elengedhetetlen lesz.

A korlátozott kockázatúnak minősített MI-rendszereknél a mesterséges intelligenciáról szóló jogszabály konkrét átláthatósági kötelezettségeket vezet be. Rendkívüli jelentőséget kap a használat előtti tájékoztatás annak érdekében, hogy a felhasználó előre el tudja dönteni, kapcsolatba lép-e egy géppel, és megalapozott döntést tudjon hozni a folytatásról vagy a visszalépésről. A szolgáltatóknak azt is biztosítaniuk kell, hogy a mesterséges intelligencián alapuló tartalom azonosítható legyen. Emellett a nyilvánosságnak címzett közérdekű tájékoztatásoknál a mesterséges intelligencián alapuló szöveget mesterségesen létrehozottként kell megjelölni.

A szabályozás szerint minimális kockázatú mesterséges intelligencia alkalmazásoknak minősülnek például az AI-kompatibilis videojátékok vagy a spamszűrők; ezek használatára ingyenesen is lehetőség van. Az EU-ban jelenleg használt MI-rendszerek jelentős hányada ebbe a kategóriába tartozik.

A Bizottságon belül 2024 februárjában létrehozták az Európai Mesterséges Intelligenciával Foglalkozó Hivatalt, mely a tagállamokkal együtt felügyeli a mesterséges intelligenciáról szóló jogszabály érvényesítését és végrehajtását.