Hosszas egyeztetést követően megállapodás született az európai parlamenti képviselők és a Tanács között az ún. AI Act-ről. Az EU a világon elsőként hozhat egységes törvényt a mesterséges intelligenciára, szabályozva a nagy teljesítményű MI modelleket, hogy ne jelentsenek rendszerszintű kockázatot az EU polgáraira és demokratikus berendezkedésére nézve. Ez a törvényjavaslat hivatott megteremteni európai uniós feltételeket a mesterséges intelligencia biztonságos, az alapvető jogokat és demokratikus értékeket tiszteletben tartó bevezetéséhez, valamint sikeres fejlesztéséhez és üzleti alkalmazásához az EU-ban.
December 8-án, sok hónapos vita eredményeként a Parlament és a Tanács ideiglenes megállapodásrajutottak a mesterséges intelligenciáról (MI) szóló törvényről (AI Act). A törvény biztosítani fogja az alapvető jogok, a demokrácia, a jogállamiság és a környezeti fenntarthatóság védelmét a magas kockázatú mesterséges intelligenciával szemben, miközben támogatja az MI fejlesztéseket és innovációt az EU vezető szerepének megteremtése érdekében.
Az AI Act története három évvel ezelőtt, 2020 októberében indult, amikor az Európai Tanács megvitatta a digitális átállás kérdései között a mesterséges intelligencia helyzetét, és felkérte a Bizottságot, hogy tegyen javaslatot a mesterséges intelligencia kutatására, innovációjára és kiépítésére irányuló befektetések növelésére, és a magas kockázatú mesterséges intelligencia rendszerek objektív meghatározására. A Bizottság első törvényjavaslata 2021 tavaszán készült el a vonatkozó szabályok harmonizálására azzal a céllal, hogy növelje a MI iránti bizalmat, és támogassa a fejlesztéseket. A törvényjavaslat ekkor még konkrét felhasználási esetekre összpontosított, és olyan felhasználási célokat azonosított magas kockázatúnak, mint a légi közlekedés, oktatás és biometrikus megfigyelés.
Az általános célú ChatGPT 2022 novemberi, robbanásszerű megjelenése azonban újraírta a mesterséges intelligenciáról alkotott elképzeléseket, félelmeket, és ezzel szabályozási igényeket is. Az úgynevezett „általános célú mesterséges intelligenciarendszer” (General Purpose AI System, GPAIS) nem konkrét felhasználási lehetőségekre fókuszál. Éppen ellenkezőleg, a felhasználó elképzelése szerint mindenféle feladatot képes elvégezni, lehet vele beszélgetni, dalokat vagy konkrét tanulmányokat íratni, számítógépes programozási feladatokat megoldani, vagy éppen konkrét személyek stílusát másolva új(nak ható) műveket létrehozni. A generatív mesterséges intelligencia rohamos terjedése miatt tehát szinte elölről kellett kezdeni az AI Act előkészítését egy évvel ezelőtt.
A szabályok a mesterséges intelligenciára vonatkozó kötelezettségeket állapítanak meg annak potenciális kockázatai és hatásainak mértéke alapján:
- korlátozást vezetnek be a rendvédelmi szervek által használt biometrikus azonosító rendszerek használatára vonatkozóan,
- tilalmakat állítanak fel a felhasználói sebezhetőségek manipulálására vagy kihasználására használt közösségi pontozásra (social scoring) és mesterséges intelligenciára vonatkozóan,
- megteremtik a fogyasztók azon jogának feltételeit, hogy panasszal éljenek és érdemi magyarázatot kapjanak a MI használatára, döntéseire vonatkozóan,
- a visszatartó erő érdekében magas bírság kiszabását teszik lehetővé, amely 35 millió eurótól vagy a teljes bevétel 7%-ától 7,5 millió euróig vagy a bevétel 1,5%-áig terjedhet.
A mesterséges intelligencia egyes alkalmazásai potenciálisan veszélyeztethetik az uniós polgárok jogait és a demokráciát, ezért az AI Act által tiltott alkalmazásnak minősülnek majd:
- az érzékeny jellemzőket (pl. politikai, vallási, filozófiai meggyőződés, szexuális irányultság, faji hovatartozás) használó biometrikus kategorizálási rendszerek;
- az internetről vagy a térfigyelő kamerák felvételeiből származó arcképek nem célzott lekérdezése arcfelismerő adatbázisok létrehozása céljából;
- érzelemfelismerés a munkahelyeken és oktatási intézményekben;
- társadalmi viselkedésen vagy személyes jellemzőkön alapuló társadalmi pontozás;
- az emberi viselkedést manipuláló mesterséges intelligenciarendszerek, amelyek megkerülik az emberi szabad akaratot;
- az emberek (koruk, fogyatékosságuk, szociális vagy gazdasági helyzetük miatti) kiszolgáltatottságának kihasználására használt mesterséges intelligencia.
A törvényjavaslat a biometrikus azonosító rendszerek (RBI) nyilvánosan hozzáférhető helyeken bűnüldözési célokra történő használatát csak konkrét bűncselekmények vonatkozásában előzetes bírói engedélyhez kötve engedélyezi, tehát nem lehet bárkit bárhol folyamatosan szemmel tartani a köztéri és más kamerák révén.
Az AI Act által a magas kockázatúnak minősített mesterséges intelligencia rendszerekre (az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára és a jogállamiságra gyakorolt jelentős potenciális káros hatásuk miatt) kiszabott kötelezettségek tartalmaznak egy kötelező hatásvizsgálatot is az alapvető jogokra, amely a biztosítási és a banki ágazatra is vonatkozik. Magas kockázatú rendszernek minősülnek a választások kimenetelének és a választói magatartásnak a befolyásolására használható MI rendszerek is. Jelentős vívmány lehet, hogy a polgároknak joguk lesz panaszt tenni a mesterséges intelligencia rendszerekkel kapcsolatban, és magyarázatot kaphatnak a magas kockázatú mesterséges intelligencia rendszereken alapuló, a jogaikat érintő döntésekről. Ezzel teljesül számos munkavállalói érdekképviselet követelése is a HR menedzsmentben és felvételi eljárásoknál alkalmazott MI rendszerek vonatkozásában.
Az általános célú MI rendszereknek (GPAI, pl. ChatGPT, Google Bard, Microsoft Copilot) és az általuk használt modelleknek konkrét uniós átláthatósági követelményeknek is meg kell felelniük, beleértve technikai dokumentáció elkészítését, az uniós szerzői jogi szabályozás betartását és a képzéshez használt tartalmakról szóló részletes összefoglalók terjesztését. A rendszerkockázatot jelentő, nagy hatású GPAI-modellek esetében modellértékeléseket és teszteket kell végezni, értékelve és csökkentve a rendszerszintű kockázatokat, valamint jelentést kell tenni a Bizottságnak a súlyos incidensekről és az energiahatékonyságról is.
A szabályok be nem tartása a jogsértéstől és a vállalat méretétől függően 35 millió eurótól vagy a globális forgalom 7%-ától 7,5 millió euróig vagy a forgalom 1,5%-áig terjedő bírsággal járhat.
Az elfogadott szöveget a Parlamentnek és a Tanácsnak hivatalosan is el kell fogadnia ahhoz, hogy 2024-ben uniós jogszabállyá váljon. Az AI Act egy türelmi időt követően 2026-tól kerülhet alkalmazásra.
