Az EU AI Act (az Európai Unió mesterséges intelligenciáról szóló rendelete) a világ első átfogó AI szabályozása, amelyre a vállalatok többsége még mindig tisztán jogi kérdésként tekint. Pedig az előírások jelentős része a gyakorlatban minőségbiztosítási feladat. A megfeleléshez ugyanis pontosságot, robusztusságot, adatminőséget és biztonságot kell mérni, tesztelni, majd mindezt visszakövethetően dokumentálni.
A valódi feszültség abból fakad, hogy a szabályoknak való megfelelést nem egy vezetői nyilatkozat, hanem kézzelfogható bizonyíték támasztja alá. Ami nincs letesztelve, megmérve és rögzítve, az egy hatósági vizsgálat szemében nem létezik. Ráadásul a rendelet nemcsak azokat érinti, akik saját AI rendszert fejlesztenek, hanem azokat a vállalatokat is, amelyek készen vásárolt AI megoldást építenek be a napi működésükbe.
Fontos előre rögzíteni, hogy ez a cikk nem jogi tanácsadás. Azt mutatja meg, hol találkozik az európai szabályozás a szoftvertesztelés gyakorlatával, és mit érdemes ebből a minőségbiztosítás oldaláról már most komolyan venni.
Hol tartunk most: mi kötelező már, és mi van még hátra?
Az uniós rendelet kockázatalapú megközelítést alkalmaz, és négy szintet különít el. A skála a teljesen tiltott gyakorlatoktól a szigorúan szabályozott, magas kockázatú rendszereken és az átláthatósági kötelezettségeken át a minimális kockázatú alkalmazásokig terjed. A legtöbb vállalati AI funkció ugyan nem esik a magas kockázatú kategóriába, de magát a besorolást minden érintett rendszerre el kell végezni, és az eredményét dokumentálni kell.
A kötelezettségek nem egyszerre, hanem lépcsőzetesen lépnek érvénybe:
- 2025. február 2. óta tilosak az elfogadhatatlan kockázatú gyakorlatok, és ugyanekkor lépett életbe az AI jártasságra vonatkozó elvárás is. Ez utóbbi azt jelenti, hogy a vállalatoknak gondoskodniuk kell arról, hogy az AI rendszereket kezelő és felügyelő munkatársak értsék a technológia működését, korlátait és kockázatait.
- 2025. augusztus 2. óta élnek az általános célú AI modellekre vonatkozó szabályok, amelyek elsősorban az alapmodellek fejlesztőire rónak átláthatósági és dokumentációs terheket.
- 2026. augusztus 2. óta kötelezőek az átláthatósági előírások. Egyértelműen jelezni kell például az ügyfeleknek, ha egy csevegőfelületen AI rendszerrel kommunikálnak, és meg kell jelölni a mesterségesen előállított vagy manipulált tartalmakat is.
- 2027. december 2-tól lépnek érvénybe a magas kockázatú rendszerek részletes követelményei azokon a területeken, amelyeket a rendelet III. melléklete sorol fel. Ilyen terület többek között a munkaerő-kiválasztás, a hitelképesség vizsgálata, az egészségügyi és életbiztosítási kockázatértékelés vagy a kritikus infrastruktúra üzemeltetése. Ezt a határidőt az Európai Unió 2026-ban elfogadott digitális egyszerűsítési csomagja (Digital Omnibus) tolta ki az eredeti, 2026-os dátumról.
- 2028. augusztus 2-tól a termékbiztonsági szabályozás alá tartozó termékekbe, például orvostechnikai eszközökbe vagy járművekbe épített magas kockázatú AI rendszerekre is kiterjednek a szigorú elvárások.
A határidő kitolása azonban nem pihenőidőt jelent, hanem a hiánypótlás idejét. Egy magas kockázatú rendszer tesztelési bizonyítékai és műszaki dokumentációja nem állítható elő néhány hét alatt, különösen akkor nem, ha a szoftver már évek óta éles üzemben működik.
Mely követelmények tesztelési feladatok valójában?
Ha végignézzük a magas kockázatú rendszerekre vonatkozó uniós előírásokat, kiderül, hogy azok gerincét közvetlenül a minőségbiztosítás adja:
- Pontosság, robusztusság és kiberbiztonság: a rendszernek előre meghatározott, mérhető küszöbértékek felett kell teljesítenie. Tesztekkel kell igazolni azt is, hogy a modell ellenáll a hibás bemeneteknek és a szándékos manipulációs kísérleteknek.
- Adatminőség és torzításmentesség: a tanító, a validáló és a tesztadatoknak reprezentatívnak kell lenniük az adott felhasználási környezetre. Külön vizsgálni kell a lehetséges torzításokat (bias), hogy a rendszer ne hozzon hátrányos helyzetbe védett csoportokat.
- Műszaki dokumentáció: részletesen rögzíteni kell, hogy mit, milyen módszertannal, milyen adatokon és milyen eredménnyel tesztelt a csapat a kiadás előtt.
- Naplózás és visszakövethetőség: a rendszer működésének éles üzemben is visszakövethetőnek kell lennie, hogy utólag rekonstruálni lehessen, milyen bemenetből milyen döntés született.
- Emberi felügyelet: nem elég papíron kijelölni egy felelőst, vagy elhelyezni egy felülbírálati gombot a felületen. Tesztelni kell azt is, hogy a beavatkozási lehetőség a gyakorlatban működik-e, és a kezelő kap-e elég információt ahhoz, hogy felismerje a gép tévedését.
- Éles üzemi megfigyelés: a megfelelés nem egyszeri vizsga, hanem a forgalomba hozatal után is folyamatosan fenn kell tartani. A rendszer teljesítményét és esetleges minőségromlását a mindennapi használat során is mérni kell.
Ezekkel az elvárásokkal a tesztdokumentáció szerepe gyökeresen megváltozik. Ami eddig belső munkaeszköz volt a fejlesztés és a tesztelés között, az mostantól külső, hatósági bizonyítékká válik. Ehhez egyértelmű, nyomon követhető kapcsolat kell az üzleti és jogi követelmények, valamint az azokat ellenőrző tesztesetek között. Szükség van továbbá verziózott tesztkészletekre, megismételhető mérésekre és előre rögzített elfogadási kritériumokra.
Az AI rendszerek sajátos hibatípusai, például a hallucináció vagy a modell időbeli sodródása (drift), sokkal nagyobb odafigyelést kívánnak, mint egy hagyományos szoftver ellenőrzése, ahogy erről az AI rendszerek tesztelése: miért teljesen más, mint egy hagyományos szoftveré? cikkünkben is írtunk. A dokumentáció bizonyítóerejét a függetlenség is érdemben növeli. Egy felügyeleti vizsgálaton vagy egy vitás ügyben a saját rendszerét igazoló fejlesztőcsapat tesztjegyzőkönyve jóval kevésbé meggyőző, mint egy elfogulatlan, külső ellenőrzés eredménye. Ennek szakmai és üzleti okait a Miért nem szabad a fejlesztőnek a saját kódját tesztelnie? cikkben fejtettük ki.
Vásárolt AI: az alkalmazó sem bújhat ki a felelősség alól
A legtöbb vállalat nem saját nyelvi vagy döntéstámogató modellt fejleszt, hanem harmadik féltől származó, AI funkciót tartalmazó szoftvert vagy felhőszolgáltatást vásárol. Ilyen lehet egy önéletrajz-szűrő modul a HR-en, egy ügyfélszolgálati asszisztens, egy hitelbírálati pontozórendszer vagy egy számlafeldolgozó megoldás. Sok vezető ebből arra következtet, hogy a szabályozási megfelelés teljes egészében a szoftverszállító gondja.
Az EU AI Act ennél jóval árnyaltabban fogalmaz. A rendelet élesen megkülönbözteti a szolgáltatót (provider), aki a rendszert fejleszti és forgalomba hozza, valamint az alkalmazót (deployer), aki azt a saját üzleti tevékenységében használja. Ahogy az Európai Bizottság alkalmazóknak szóló útmutatója (AI Act Service Desk) a rendelet 26. cikke alapján kiemeli, magas kockázatú rendszer használatakor a vásárló vállalatot is közvetlen kötelezettségek terhelik:
- Rendeltetésszerű működtetés: a rendszert szigorúan a szállító által átadott használati utasítás és működési keretek szerint kell üzemeltetni.
- Felkészült emberi felügyelet: a rendszer felügyeletét olyan munkatársakra kell bízni, akik rendelkeznek a szükséges szakmai hozzáértéssel, képzéssel és valódi döntési jogkörrel a gépi javaslatok felülbírálásához.
- Bemeneti adatok minősége: amennyiben az alkalmazó adja a bemeneti adatokat, gondoskodnia kell arról, hogy azok relevánsak és a felhasználási célra reprezentatívak legyenek.
- Működés figyelése és naplómegőrzés: folyamatosan kísérni kell a rendszer éles működését, a gyanús eseteket vagy súlyos hibákat jelezni kell a szállítónak, az automatikusan képződő naplókat pedig legalább hat hónapig meg kell őrizni.
- Érintettek tájékoztatása: munkahelyi alkalmazásnál tájékoztatni kell a munkavállalókat, bizonyos döntéstámogató rendszereknél pedig az érintett ügyfeleket is arról, hogy magas kockázatú AI rendszer vesz részt az értékelésben.
Egyes szervezeteknek, például a magánszemélyek hitelképességét vizsgáló bankoknak vagy az élet- és egészségbiztosítási díjat megállapító biztosítóknak a bevezetés előtt alapjogi hatásvizsgálatot is el kell végezniük.
Ezeket a kötelezettségeket a gyakorlatban alapos átvételi teszteléssel (UAT) és éles üzemi megfigyeléssel lehet bizonyíthatóan teljesíteni. Az üzleti kérdés ugyanis az, hogy a saját adatainkon, a saját ügyfélkörünkön és a saját folyamatainkban is úgy működik-e a rendszer, ahogy azt a szállító a kereskedelmi bemutatón ígérte. Képzeljünk el egy nemzetközi toborzási szűrőrendszert, amely angol nyelvű mintákon kiválóan és elfogulatlanul teljesített. Ugyanez a szoftver a vállalat magyar nyelvű önéletrajzain, a hazai iskolatípusokon és a sajátos munkaköri elnevezéseken könnyen félreértelmezheti a pályázókat, és észrevétlenül kiszűrheti az alkalmas jelölteket. Saját adatokon végzett átvételi teszt nélkül ez a hiba hónapokig rejtve maradhat.
Van emellett egy kevésbé ismert jogi és minőségbiztosítási csapda is. Ha az alkalmazó vállalat a saját márkanevén hozza forgalomba a vásárolt rendszert, jelentősen módosítja annak működését (például saját adatokon továbbtanítja vagy átalakítja a modellt), vagy egy eredetileg általános célú eszközt magas kockázatú feladatra kezd használni, a rendelet szemében maga is szolgáltatóvá válik. Ezzel pedig a fejlesztőkre vonatkozó teljes tesztelési és dokumentációs kötelezettségi kör a nyakába szakad.
Meglévő AI rendszerek átvilágítása és folyamatos megfelelés
A legtöbb közép- és nagyvállalatnál nem egyetlen új fejlesztést kell szabályossá tenni, hanem a már használatban lévő eszközöket kell áttekinteni. Ennek a felkészülésnek négy logikus lépése van:
- AI leltár és kockázati besorolás: első lépésként fel kell mérni, hol használ a vállalat mesterséges intelligenciát a saját fejlesztéseiben és a vásárolt szoftvereiben. Minden rendszernél tisztázni kell, hogy melyik kockázati kategóriába tartozik, a cég szolgáltatóként vagy alkalmazóként érintett-e benne, és ki a belső felelőse.
- Hiányelemzés: a meglévő tesztelési, mérési és dokumentációs gyakorlatot össze kell vetni a rendelet elvárásaival. Így pontosan láthatóvá válik, milyen teszteredményeket, naplózási funkciókat vagy dokumentumokat kell pótolni a 2027. decemberi határidőig.
- Beszállítói felülvizsgálat: a vásárolt rendszereknél tisztázni kell, milyen műszaki dokumentációt, tesztelési összefoglalót és használati utasítást ad át a szállító, és melyek azok a szempontok, amelyeket a vállalatnak saját átvételi tesztekkel kell ellenőriznie.
- Folyamatos megfelelés kiépítése: gondoskodni kell arról, hogy minden modell-, prompt- vagy adatváltozás után megtörténjen a célzott újratesztelés. Éles üzemben folyamatosan figyelni kell a minőségi és torzítási mutatókat, a felmerülő rendellenességeket pedig dokumentáltan kell kezelni. Ez különösen igaz az önálló döntésekre képes, cselekvő rendszerekre, amelyek tesztelési kihívásairól az AI agentek tesztelése: hogyan ellenőrizzünk egy autonóm rendszert? cikkben írtunk.
Ami pedig már ma is élő előírás, azt nem szabad a 2027-es határidőre halasztani. Az átláthatósági jelölések meglétét, a tiltott gyakorlatok kizárását és a rendszereket felügyelő munkatársak AI jártasságát már most számonkérheti a felügyelet.
Összegzés
Az EU AI Act előírásainak teljesítése nagyrészt nem jogi szövegezés, hanem bizonyítható szoftverminőség: előre rögzített küszöbértékek, megismételhető tesztelés, pontos dokumentáció és éles üzemi megfigyelés. Ez a felelősség a vásárolt AI megoldásokat használó vállalatokra is kiterjed, nem csupán a szoftverfejlesztőkre. A magas kockázatú rendszerek halasztott határideje értékes időt ad a hiányzó tesztelési bizonyítékok felépítésére, de nem ad felmentést a felkészülés alól.
A vezetői kérdés ennek megfelelően egyszerű: ha holnap egy felügyeleti szerv megkérdezné, honnan tudjuk, hogy az általunk fejlesztett vagy használt AI rendszer a saját adatainkon is pontos, robusztus és elfogulatlan, milyen tesztelési bizonyítékot tudnánk letenni az asztalra?
Források
Európai Unió: 2024/1689/EU rendelet a mesterséges intelligenciáról (2024), a kockázati szintek, a magas kockázatú rendszerek követelményei és az alkalmazói kötelezettségek. Elérhető: eur-lex.europa.eu
Európai Bizottság: AI Act Service Desk, a 26. cikk összefoglalója (2026), az alkalmazók kötelezettségei magas kockázatú rendszereknél. Elérhető: ai-act-service-desk.ec.europa.eu
Európai Unió: Digital Omnibus on AI, a mesterséges intelligenciáról szóló rendelet módosítása (2026), a magas kockázatú határidők halasztása. Elérhető: eur-lex.europa.eu


