Egy AI-eszk\u00f6z bevezet\u00e9se nem ott kezd\u0151dik, hogy a szervezet kiv\u00e1laszt egy modellt, \u00e9s nem ott \u00e9r v\u00e9get, hogy a rendszer \u00e9les k\u00f6rnyezetben m\u0171k\u00f6dni kezd. A val\u00f3di kock\u00e1zatok gyakran csak haszn\u00e1lat k\u00f6zben jelennek meg: v\u00e1ltozik az adat, m\u00f3dosul az \u00fczleti folyamat, \u00faj felhaszn\u00e1l\u00f3i szok\u00e1sok alakulnak ki, vagy a rendszer kimenetei m\u00e1s d\u00f6nt\u00e9sekre kezdenek hatni, mint amire eredetileg sz\u00e1nt\u00e1k.<\/p>\n\n\n\n
Az AI-\u00e9letciklus ir\u00e1ny\u00edt\u00e1sa ez\u00e9rt nem egyszeri j\u00f3v\u00e1hagy\u00e1si esem\u00e9ny, hanem ism\u00e9tl\u0151d\u0151, dokument\u00e1lt \u00e9s felel\u0151s m\u0171k\u00f6d\u00e9si rend. Egy AI ir\u00e1ny\u00edt\u00e1si rendszer akkor v\u00e1lik val\u00f3ban haszn\u00e1lhat\u00f3v\u00e1, ha a szab\u00e1lyoz\u00e1si elv\u00e1r\u00e1sok nem k\u00fcl\u00f6n dokumentumt\u00e1rban \u00e9lnek, hanem be\u00e9p\u00fclnek a napi munk\u00e1ba: az ig\u00e9nyfelm\u00e9r\u00e9sbe, a beszerz\u00e9sbe, a fejleszt\u00e9sbe, a tesztel\u00e9sbe, az \u00e9les\u00edt\u00e9sbe, a fel\u00fcgyeletbe, a v\u00e1ltoz\u00e1skezel\u00e9sbe \u00e9s v\u00e9g\u00fcl a kivon\u00e1sba.<\/p>\n\n\n\n
Az AI-\u00e9letciklus els\u0151 l\u00e9p\u00e9se annak felismer\u00e9se, hogy az AI-rendszer nem statikus term\u00e9k. Egy hagyom\u00e1nyos szoftver eset\u00e9ben is vannak verzi\u00f3k, hibajav\u00edt\u00e1sok \u00e9s friss\u00edt\u00e9sek, de az AI-rendszerekn\u00e9l a m\u0171k\u00f6d\u00e9s min\u0151s\u00e9ge k\u00f6zvetlen\u00fcl f\u00fcgg az adatokt\u00f3l, a haszn\u00e1lati k\u00f6rnyezett\u0151l, a modell teljes\u00edtm\u00e9ny\u00e9t\u0151l \u00e9s att\u00f3l, hogy a felhaszn\u00e1l\u00f3k hogyan \u00e9p\u00edtik be a kimeneteket a d\u00f6nt\u00e9seikbe. Ez\u00e9rt az AI-\u00e9letciklus ir\u00e1ny\u00edt\u00e1sa folyamatos m\u0171k\u00f6d\u00e9si felel\u0151ss\u00e9g<\/strong>, nem puszt\u00e1n projektz\u00e1r\u00e1si feladat.<\/p>\n\n\n\n A napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edtett AI-\u00e9letciklus l\u00e9nyege, hogy minden jelent\u0151s \u00e1llapotv\u00e1ltoz\u00e1shoz tartozzon d\u00f6nt\u00e9si pont. Ilyen \u00e1llapotv\u00e1ltoz\u00e1s lehet egy \u00faj AI-haszn\u00e1lati eset kezdem\u00e9nyez\u00e9se, a rendszer fejleszt\u00e9se, egy modellverzi\u00f3 cser\u00e9je, az adatk\u00f6r b\u0151v\u00edt\u00e9se, az \u00e9les\u00edt\u00e9s j\u00f3v\u00e1hagy\u00e1sa, a teljes\u00edtm\u00e9ny roml\u00e1s\u00e1nak \u00e9szlel\u00e9se vagy a rendszer kivon\u00e1sa. Ha ezekhez nincs r\u00f6gz\u00edtett folyamat, akkor a kock\u00e1zatok inform\u00e1lis d\u00f6nt\u00e9si csatorn\u00e1kba cs\u00fasznak \u00e1t<\/strong>, \u00e9s k\u00e9s\u0151bb neh\u00e9z bizony\u00edtani, ki, mi alapj\u00e1n \u00e9s milyen kontrollok mellett enged\u00e9lyezte a haszn\u00e1latot.<\/p>\n\n\n\n Az ISO\/IEC 42001 az AI ir\u00e1ny\u00edt\u00e1si rendszert a szervezet ir\u00e1ny\u00edt\u00e1si k\u00f6rnyezet\u00e9be illeszked\u0151, folyamatosan fenntartand\u00f3 rendszerk\u00e9nt kezeli, nem egyszeri megfelel\u0151s\u00e9gi dokumentumk\u00e9nt (International Organization for Standardization, 2023). Ez a logika a napi m\u0171k\u00f6d\u00e9sben azt jelenti, hogy az AI-val kapcsolatos d\u00f6nt\u00e9seknek ugyan\u00fagy r\u00e9szei kell legyenek a szervezet j\u00f3v\u00e1hagy\u00e1si, v\u00e1ltoz\u00e1skezel\u00e9si, incidens-, audit- \u00e9s fel\u00fclvizsg\u00e1lati folyamataiban, mint m\u00e1s kritikus m\u0171k\u00f6d\u00e9si kock\u00e1zatoknak. Az AIMS akkor m\u0171k\u00f6d\u0151k\u00e9pes, ha a szab\u00e1ly nem k\u00fcl\u00f6n \u00e9letet \u00e9l<\/strong>, hanem be\u00e9p\u00fcl a munkafolyamatba.<\/p>\n\n\n\n Az AI-\u00e9letciklus tipikus m\u0171k\u00f6d\u00e9si szakaszai a k\u00f6vetkez\u0151k:<\/p>\n\n\n\n \u00faj AI-haszn\u00e1lati eset azonos\u00edt\u00e1sa;<\/p>\n\n\n\n el\u0151zetes kock\u00e1zat- \u00e9s megfelel\u0151s\u00e9gi \u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n fejleszt\u00e9s, konfigur\u00e1l\u00e1s vagy beszerz\u00e9s;<\/p>\n\n\n\n adatforr\u00e1sok \u00e9s adatkezel\u00e9si felt\u00e9telek ellen\u0151rz\u00e9se;<\/p>\n\n\n\n tesztel\u00e9s \u00e9s valid\u00e1l\u00e1s;<\/p>\n\n\n\n \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9s;<\/p>\n\n\n\n m\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fcgyelet;<\/p>\n\n\n\n v\u00e1ltoz\u00e1skezel\u00e9s \u00e9s \u00fajra\u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n incidens- \u00e9s hibakezel\u00e9s;<\/p>\n\n\n\n kivon\u00e1s vagy helyettes\u00edt\u00e9s.<\/p>\n\n\n\n Ez a feloszt\u00e1s nem technikai fejleszt\u00e9si modell, hanem ir\u00e1ny\u00edt\u00e1si t\u00e9rk\u00e9p. A c\u00e9l az, hogy a szervezet minden szakaszn\u00e1l tudja, milyen d\u00f6nt\u00e9st kell meghozni, ki a felel\u0151s, milyen bizony\u00edt\u00e9k sz\u00fcks\u00e9ges, \u00e9s milyen felt\u00e9tellel lehet tov\u00e1bbl\u00e9pni. Egy j\u00f3l fel\u00e9p\u00edtett \u00e9letciklusban minden l\u00e9p\u00e9shez kontrollk\u00e9rd\u00e9s kapcsol\u00f3dik<\/strong>, nemcsak technikai teljes\u00edtm\u00e9nyc\u00e9l.<\/p>\n\n\n\n Az AI-rendszerek m\u0171k\u00f6d\u00e9s\u00e9ben k\u00fcl\u00f6n\u00f6sen fontos a kontextus. Ugyanaz a modell alacsony kock\u00e1zat\u00fa lehet bels\u0151 \u00f6tletgener\u00e1l\u00e1sra, de magasabb kock\u00e1zat\u00fav\u00e1 v\u00e1lhat, ha \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3t, munkav\u00e1llal\u00f3i \u00e9rt\u00e9kel\u00e9st vagy joghat\u00e1ssal j\u00e1r\u00f3 d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u00e9st t\u00e1mogat. A NIST AI Risk Management Framework is hangs\u00falyozza, hogy az AI-kock\u00e1zatok meg\u00e9rt\u00e9se a felhaszn\u00e1l\u00e1si kontextus, az \u00e9rintettek \u00e9s a potenci\u00e1lis hat\u00e1sok felt\u00e9rk\u00e9pez\u00e9s\u00e9vel kezd\u0151dik (National Institute of Standards and Technology, 2023). Ez\u00e9rt a haszn\u00e1lati c\u00e9l hat\u00e1rozza meg a kontrollm\u00e9lys\u00e9get<\/strong>, nem puszt\u00e1n a technol\u00f3gia t\u00edpusa.<\/p>\n\n\n\n Az \u00e9letciklus m\u0171k\u00f6d\u00e9si folyamatt\u00e1 alak\u00edt\u00e1s\u00e1hoz a szervezetnek el kell d\u00f6ntenie, mely pontokon k\u00f6telez\u0151 dokument\u00e1ci\u00f3, mely pontokon kell vezet\u0151i vagy szakmai j\u00f3v\u00e1hagy\u00e1s, \u00e9s mely esem\u00e9nyek ind\u00edtanak \u00fajra\u00e9rt\u00e9kel\u00e9st. Nem minden AI-eszk\u00f6z ig\u00e9nyel azonos m\u00e9lys\u00e9g\u0171 kontrollt, de minden AI-haszn\u00e1latnak kell legyen minim\u00e1lis nyilv\u00e1ntart\u00e1sa \u00e9s felel\u0151se. Ha ez hi\u00e1nyzik, akkor a l\u00e1thatatlan AI-haszn\u00e1lat \u00f6n\u00e1ll\u00f3 kock\u00e1zatt\u00e1 v\u00e1lik<\/strong>, mert sem a megfelel\u0151s\u00e9g, sem a kock\u00e1zati szint nem ellen\u0151rizhet\u0151.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9si szeml\u00e9let a tan\u00fas\u00edt\u00e1si felk\u00e9sz\u00fcl\u00e9s szempontj\u00e1b\u00f3l is fontos. Egy auditor nemcsak azt vizsg\u00e1lja, hogy l\u00e9tezik-e AI-politika vagy kock\u00e1zat\u00e9rt\u00e9kel\u00e9si sablon, hanem azt is, hogy ezek hogyan jelennek meg a gyakorlatban. Egy AI-\u00e9letciklus akkor audit\u00e1lhat\u00f3, ha az egyes d\u00f6nt\u00e9si pontokhoz bizony\u00edt\u00e9k kapcsol\u00f3dik: ig\u00e9nybejelent\u00e9s, hat\u00e1selemz\u00e9s, teszteredm\u00e9ny, j\u00f3v\u00e1hagy\u00e1s, v\u00e1ltoz\u00e1snapl\u00f3, monitoringjelent\u00e9s vagy kivon\u00e1si jegyz\u0151k\u00f6nyv.<\/p>\n\n\n\n Az AI-\u00e9letciklus napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edt\u00e9se v\u00e9gs\u0151 soron fegyelmezett szervezeti szok\u00e1sokat jelent. Nem el\u00e9g egyszer megtervezni a folyamatot; rendszeresen alkalmazni, tan\u00edtani, ellen\u0151rizni \u00e9s jav\u00edtani kell. Ebb\u0151l k\u00f6vetkezik, hogy az \u00e9letciklus ir\u00e1ny\u00edt\u00e1sa szervezeti tanul\u00e1si mechanizmus<\/strong>, mert a rendszer minden visszajelz\u00e9sb\u0151l, hib\u00e1b\u00f3l \u00e9s v\u00e1ltoz\u00e1sb\u00f3l \u00faj kontrollig\u00e9nyt azonos\u00edthat.<\/p>\n\n\n\n Az AI-\u00e9letciklus gyakorlati kezd\u0151pontja az \u00faj AI-haszn\u00e1lati eset kezdem\u00e9nyez\u00e9se. Ez lehet bels\u0151 \u00f6tlet, \u00fczleti ig\u00e9ny, besz\u00e1ll\u00edt\u00f3i aj\u00e1nlat, technol\u00f3giai fejleszt\u00e9s vagy munkat\u00e1rsi kezdem\u00e9nyez\u00e9s. A szervezetnek m\u00e1r ezen a ponton el kell d\u00f6ntenie, hogy az adott AI-haszn\u00e1lat egyszer\u0171 t\u00e1mogat\u00f3 funkci\u00f3, kock\u00e1zatosabb d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u0151 eszk\u00f6z vagy magas hat\u00e1s\u00fa alkalmaz\u00e1s lehet. A kezdeti oszt\u00e1lyoz\u00e1s az\u00e9rt kritikus, mert a k\u00e9s\u0151i kock\u00e1zatfelismer\u00e9s dr\u00e1g\u00e1bb kontrollokat eredm\u00e9nyez<\/strong>, \u00e9s gyakran konfliktust okoz a m\u00e1r el\u0151rehaladott projektben.<\/p>\n\n\n\n Az \u00faj AI-haszn\u00e1lati eset bejelent\u00e9s\u00e9nek legal\u00e1bb n\u00e9h\u00e1ny alapinform\u00e1ci\u00f3t tartalmaznia kell. Ilyen a c\u00e9l, a tervezett felhaszn\u00e1l\u00f3i k\u00f6r, az \u00e9rintett adatok t\u00edpusa, a kimenet d\u00f6nt\u00e9si szerepe, az \u00e9rintetti hat\u00e1s, a tervezett besz\u00e1ll\u00edt\u00f3 vagy technol\u00f3gia, valamint az, hogy a rendszer \u00e9les d\u00f6nt\u00e9st hoz-e, vagy csak javaslatot ad. Ha ezek hi\u00e1nyoznak, akkor az els\u0151 j\u00f3v\u00e1hagy\u00e1s val\u00f3j\u00e1ban inform\u00e1ci\u00f3hi\u00e1nyos d\u00f6nt\u00e9s<\/strong>, amely nem t\u00e1maszthat\u00f3 al\u00e1 sem kock\u00e1zati, sem megfelel\u0151s\u00e9gi szempontb\u00f3l.<\/p>\n\n\n\n Az el\u0151zetes \u00e9rt\u00e9kel\u00e9snek nem kell minden esetben hossz\u00fa dokumentumnak lennie, de minden esetben ar\u00e1nyosnak kell lennie a haszn\u00e1lat hat\u00e1s\u00e1val. Egy bels\u0151 tud\u00e1skeres\u0151 eszk\u00f6z m\u00e1s \u00e9rt\u00e9kel\u00e9st ig\u00e9nyel, mint egy \u00fcgyf\u00e9lpanaszokat rangsorol\u00f3 vagy munkav\u00e1llal\u00f3i teljes\u00edtm\u00e9nyadatokat elemz\u0151 rendszer. Az EU AI Act a magas kock\u00e1zat\u00fa AI-rendszerek eset\u00e9ben kifejezetten \u00e9letcikluson \u00e1t m\u0171k\u00f6d\u0151 kock\u00e1zatkezel\u00e9si rendszert \u00edr el\u0151, amelyet rendszeresen fel\u00fcl kell vizsg\u00e1lni \u00e9s friss\u00edteni kell (European Parliament & Council of the European Union, 2024). Ez meger\u0151s\u00edti azt a gyakorlati elvet, hogy a kock\u00e1zati szint meghat\u00e1rozza a j\u00f3v\u00e1hagy\u00e1si m\u00e9lys\u00e9get<\/strong>.<\/p>\n\n\n\n Az \u00faj haszn\u00e1lati eset j\u00f3v\u00e1hagy\u00e1si \u00fatvonala t\u00f6bb szerepl\u0151t is \u00e9rinthet. Az \u00fczleti tulajdonos a c\u00e9l\u00e9rt \u00e9s a haszn\u00e1lati indokolts\u00e1g\u00e9rt felel. Az IT vagy technikai felel\u0151s a megval\u00f3s\u00edthat\u00f3s\u00e1got, integr\u00e1ci\u00f3t \u00e9s \u00fczemeltet\u00e9si felt\u00e9teleket vizsg\u00e1lja. Az adatv\u00e9delmi vagy jogi szerepk\u00f6r az adatkezel\u00e9si \u00e9s megfelel\u0151s\u00e9gi k\u00e9rd\u00e9seket \u00e9rt\u00e9keli. Az inform\u00e1ci\u00f3biztons\u00e1gi felel\u0151s a hozz\u00e1f\u00e9r\u00e9s, t\u00e1rol\u00e1s, napl\u00f3z\u00e1s \u00e9s besz\u00e1ll\u00edt\u00f3i kock\u00e1zatok szempontj\u00e1b\u00f3l vizsg\u00e1l\u00f3dik. Ilyen helyzetben a j\u00f3v\u00e1hagy\u00e1s nem egyetlen al\u00e1\u00edr\u00e1s<\/strong>, hanem t\u00f6bb szempont \u00f6sszehangolt d\u00f6nt\u00e9se.<\/p>\n\n\n\n A j\u00f3v\u00e1hagy\u00e1si \u00fatvonalnak r\u00f6gz\u00edtenie kell, milyen esetben sz\u00fcks\u00e9ges vezet\u0151i d\u00f6nt\u00e9s. Vezet\u0151i j\u00f3v\u00e1hagy\u00e1s lehet indokolt, ha a rendszer \u00fcgyfelekre vagy munkav\u00e1llal\u00f3kra \u00e9rdemi hat\u00e1ssal van, szem\u00e9lyes adatot kezel, automatiz\u00e1lt d\u00f6nt\u00e9st t\u00e1mogat, jelent\u0151s \u00fczleti kock\u00e1zatot hordoz, vagy reput\u00e1ci\u00f3s kitetts\u00e9get teremt. A vezet\u0151i d\u00f6nt\u00e9s nem v\u00e1lthatja ki a szakmai \u00e9rt\u00e9kel\u00e9st, de meg kell er\u0151s\u00edtenie, hogy a szervezet elfogadja a fennmarad\u00f3 kock\u00e1zatot.<\/p>\n\n\n\n Az el\u0151zetes \u00e9rt\u00e9kel\u00e9sben k\u00fcl\u00f6n figyelmet kell ford\u00edtani a haszn\u00e1lati korl\u00e1tokra. M\u00e1r az indul\u00e1skor meg kell hat\u00e1rozni, mire nem haszn\u00e1lhat\u00f3 az AI-eszk\u00f6z, milyen adatok nem vihet\u0151k be, milyen d\u00f6nt\u00e9sek nem alapozhat\u00f3k kiz\u00e1r\u00f3lag a kimenetre, \u00e9s mikor k\u00f6telez\u0151 emberi fel\u00fclvizsg\u00e1lat. A modellk\u00e1rty\u00e1k gyakorlata is azt er\u0151s\u00edti, hogy a modell c\u00e9lj\u00e1t, teljes\u00edtm\u00e9ny\u00e9t, korl\u00e1tait \u00e9s aj\u00e1nlott haszn\u00e1lati k\u00f6r\u00e9t dokument\u00e1lni kell, k\u00fcl\u00f6n\u00f6sen akkor, ha a rendszer jelent\u0151s hat\u00e1s\u00fa d\u00f6nt\u00e9si k\u00f6rnyezetbe ker\u00fclhet (Mitchell et al., 2019). Ez\u00e9rt a tiltott haszn\u00e1lat dokument\u00e1l\u00e1sa kontroll<\/strong>, nem jogi \u00f3vatoss\u00e1gi mell\u00e9klet.<\/p>\n\n\n\n Az \u00faj AI-haszn\u00e1lati eset j\u00f3v\u00e1hagy\u00e1si folyamat\u00e1ban \u00e9rdemes d\u00f6nt\u00e9si kateg\u00f3ri\u00e1kat haszn\u00e1lni. A szervezet p\u00e9ld\u00e1ul d\u00f6nthet \u00fagy, hogy az adott kezdem\u00e9nyez\u00e9st j\u00f3v\u00e1hagyja, korl\u00e1tozott pilotra engedi, tov\u00e1bbi tesztel\u00e9shez k\u00f6ti, kontrollok er\u0151s\u00edt\u00e9s\u00e9t \u00edrja el\u0151, vagy elutas\u00edtja. Ez \u00e1tl\u00e1that\u00f3bb, mint a bin\u00e1ris \u201eenged\u00e9lyezett vagy nem enged\u00e9lyezett\u201d megk\u00f6zel\u00edt\u00e9s. A gyakorlatban a felt\u00e9teles j\u00f3v\u00e1hagy\u00e1s gyakran a leg\u00e9rettebb d\u00f6nt\u00e9s<\/strong>, mert egyszerre t\u00e1mogatja az innov\u00e1ci\u00f3t \u00e9s a kock\u00e1zatkezel\u00e9st.<\/p>\n\n\n\n Egy \u00faj AI-haszn\u00e1lati eset minim\u00e1lis j\u00f3v\u00e1hagy\u00e1si csomagja tartalmazhatja:<\/p>\n\n\n\n a c\u00e9l \u00e9s \u00fczleti indok le\u00edr\u00e1s\u00e1t;<\/p>\n\n\n\n az \u00e9rintett folyamatok \u00e9s szerepk\u00f6r\u00f6k megnevez\u00e9s\u00e9t;<\/p>\n\n\n\n az adatk\u00f6r\u00f6k \u00e9s adatforr\u00e1sok azonos\u00edt\u00e1s\u00e1t;<\/p>\n\n\n\n az \u00e9rintetti hat\u00e1sok r\u00f6vid \u00e9rt\u00e9kel\u00e9s\u00e9t;<\/p>\n\n\n\n az el\u0151zetes kock\u00e1zati besorol\u00e1st;<\/p>\n\n\n\n a tervezett kontrollokat;<\/p>\n\n\n\n az emberi fel\u00fcgyelet szab\u00e1lyait;<\/p>\n\n\n\n a tesztel\u00e9si \u00e9s pilotfelt\u00e9teleket;<\/p>\n\n\n\n a j\u00f3v\u00e1hagy\u00f3k \u00e9s felel\u0151s\u00f6k megnevez\u00e9s\u00e9t;<\/p>\n\n\n\n a bevezet\u00e9s ut\u00e1ni fel\u00fcgyeleti tervet.<\/p>\n\n\n\n Ez a csomag nem az\u00e9rt fontos, hogy a bevezet\u00e9s adminisztrat\u00edv terhe n\u0151j\u00f6n. Az\u00e9rt fontos, mert a szervezet \u00edgy m\u00e1r a kezdeti szakaszban r\u00f6gz\u00edti a felel\u0151ss\u00e9get \u00e9s a d\u00f6nt\u00e9si logik\u00e1t. Ha k\u00e9s\u0151bb k\u00e9rd\u00e9s mer\u00fcl fel, akkor a d\u00f6nt\u00e9s indokol\u00e1sa visszakereshet\u0151 bizony\u00edt\u00e9kk\u00e1 v\u00e1lik<\/strong>, \u00e9s nem ut\u00f3lag kell rekonstru\u00e1lni, mi\u00e9rt enged\u00e9lyezt\u00e9k a rendszert.<\/p>\n\n\n\n A fejleszt\u00e9si vagy konfigur\u00e1l\u00e1si szakaszban a szervezetnek meg kell k\u00fcl\u00f6nb\u00f6ztetnie a technikai k\u00e9sz\u00fclts\u00e9get az ir\u00e1ny\u00edt\u00e1si k\u00e9sz\u00fclts\u00e9gt\u0151l. Egy AI-eszk\u00f6z lehet technikailag m\u0171k\u00f6d\u0151k\u00e9pes, mik\u00f6zben nem rendelkezik el\u00e9gs\u00e9ges adatkezel\u00e9si dokument\u00e1ci\u00f3val, teszteredm\u00e9nnyel, emberi fel\u00fcgyeleti szab\u00e1llyal vagy hibakezel\u00e9si folyamattal. Ilyenkor a m\u0171k\u00f6d\u0151 modell m\u00e9g nem felt\u00e9tlen\u00fcl bevezethet\u0151 rendszer<\/strong>, mert az \u00e9les m\u0171k\u00f6d\u00e9shez szervezeti kontrollok is kellenek.<\/p>\n\n\n\n A fejleszt\u00e9si szakasz egyik k\u00f6zponti k\u00e9rd\u00e9se az adat. Dokument\u00e1lni kell, milyen adatforr\u00e1sokb\u00f3l dolgozik a rendszer, milyen min\u0151s\u00e9g\u0171ek az adatok, milyen korl\u00e1taik vannak, milyen jogszer\u0171s\u00e9gi felt\u00e9telek kapcsol\u00f3dnak hozz\u00e1juk, \u00e9s friss\u00fclnek-e m\u0171k\u00f6d\u00e9s k\u00f6zben. A datasetek dokument\u00e1l\u00e1s\u00e1ra javasolt datasheet-megk\u00f6zel\u00edt\u00e9s pontosan ezt a logik\u00e1t t\u00e1mogatja: az adat\u00e1llom\u00e1ny motiv\u00e1ci\u00f3j\u00e1t, \u00f6sszet\u00e9tel\u00e9t, gy\u0171jt\u00e9s\u00e9t, aj\u00e1nlott haszn\u00e1lat\u00e1t \u00e9s karbantart\u00e1s\u00e1t is l\u00e1that\u00f3v\u00e1 kell tenni (Gebru et al., 2021). Ennek gyakorlati \u00fczenete, hogy az adatdokument\u00e1ci\u00f3 a modellkock\u00e1zat alapbizony\u00edt\u00e9ka<\/strong>.<\/p>\n\n\n\n A tesztel\u00e9snek t\u00fal kell l\u00e9pnie az \u00e1ltal\u00e1nos pontoss\u00e1gi mutat\u00f3kon. Egy AI-rendszern\u00e9l vizsg\u00e1lni kell, hogy a teljes\u00edtm\u00e9ny megfelel\u0151-e a tervezett haszn\u00e1lati c\u00e9lhoz, stabil-e elt\u00e9r\u0151 adatk\u00f6r\u00f6k\u00f6n, hogyan viselkedik sz\u00e9ls\u0151 esetekben, milyen hib\u00e1kat produk\u00e1l, \u00e9s milyen k\u00f6vetkezm\u00e9nye lehet a t\u00e9ves kimeneteknek. A termel\u00e9si ML-rendszerek \u00e9retts\u00e9g\u00e9t vizsg\u00e1l\u00f3 ML Test Score megk\u00f6zel\u00edt\u00e9s is r\u00e1mutat arra, hogy az adatok, modellek, infrastrukt\u00fara \u00e9s monitoring tesztel\u00e9se egy\u00fctt sz\u00fcks\u00e9ges a termel\u00e9si k\u00e9sz\u00fclts\u00e9ghez (Breck et al., 2017). Ez\u00e9rt a pontoss\u00e1g csak egy tesztkateg\u00f3ria<\/strong>, nem a teljes megb\u00edzhat\u00f3s\u00e1gi bizony\u00edt\u00e9k.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s el\u0151tti valid\u00e1l\u00e1snak a d\u00f6nt\u00e9si kontextusra is ki kell terjednie. Ha a rendszer \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3t t\u00e1mogat, tesztelni kell a f\u00e9lre\u00e9rthet\u0151, hi\u00e1nyos vagy konfliktusos bemeneteket. Ha bels\u0151 d\u00f6nt\u00e9st\u00e1mogat\u00e1sra haszn\u00e1lj\u00e1k, vizsg\u00e1lni kell, hogy a felhaszn\u00e1l\u00f3k \u00e9rtik-e a kimenetet, \u00e9s nem t\u00e1maszkodnak-e t\u00falzottan a javaslatra. Ha a rendszer kock\u00e1zati besorol\u00e1st ad, \u00e9rt\u00e9kelni kell, milyen hat\u00e1ssal lehet a t\u00e9ves besorol\u00e1s az \u00e9rintettekre.<\/p>\n\n\n\n A fejleszt\u00e9s \u00e9s \u00e9les\u00edt\u00e9s k\u00f6z\u00f6tti \u00e1tmenetn\u00e9l k\u00f6telez\u0151 d\u00f6nt\u00e9si kapura van sz\u00fcks\u00e9g. Ez a d\u00f6nt\u00e9si pont nem lehet puszt\u00e1n technikai \u201ego-live\u201d megbesz\u00e9l\u00e9s. Tartalmaznia kell a kock\u00e1zati st\u00e1tuszt, teszt\u00f6sszefoglal\u00f3t, adatkezel\u00e9si megfelel\u0151s\u00e9get, inform\u00e1ci\u00f3biztons\u00e1gi ellen\u0151rz\u00e9st, \u00fczleti elfogad\u00e1st, felhaszn\u00e1l\u00f3i t\u00e1j\u00e9koztat\u00e1st \u00e9s monitoringtervet. Itt az \u00e9les\u00edt\u00e9s szervezeti j\u00f3v\u00e1hagy\u00e1s<\/strong>, nem csup\u00e1n rendszer\u00fczemeltet\u00e9si esem\u00e9ny.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9shez sz\u00fcks\u00e9ges bizony\u00edt\u00e9kok k\u00f6z\u00e9 tartozhatnak:<\/p>\n\n\n\n c\u00e9lle\u00edr\u00e1s \u00e9s haszn\u00e1lati korl\u00e1t;<\/p>\n\n\n\n adatforr\u00e1s- \u00e9s adatmin\u0151s\u00e9gi dokument\u00e1ci\u00f3;<\/p>\n\n\n\n modell- vagy rendszerle\u00edr\u00e1s;<\/p>\n\n\n\n tesztterv \u00e9s teszteredm\u00e9nyek;<\/p>\n\n\n\n hibakateg\u00f3ri\u00e1k \u00e9s elfogad\u00e1si hat\u00e1rok;<\/p>\n\n\n\n inform\u00e1ci\u00f3biztons\u00e1gi \u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n adatv\u00e9delmi \u00e9rt\u00e9kel\u00e9s, ha szem\u00e9lyes adat \u00e9rintett;<\/p>\n\n\n\n emberi fel\u00fcgyeleti szab\u00e1ly;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i \u00fatmutat\u00f3;<\/p>\n\n\n\n monitoring- \u00e9s incidenskezel\u00e9si terv;<\/p>\n\n\n\n j\u00f3v\u00e1hagy\u00e1si jegyz\u0151k\u00f6nyv.<\/p>\n\n\n\n A tesztel\u00e9s sor\u00e1n fontos meghat\u00e1rozni az elfogad\u00e1si krit\u00e9riumokat. Nem el\u00e9g azt r\u00f6gz\u00edteni, hogy a rendszer \u201ej\u00f3l teljes\u00edtett\u201d; meg kell hat\u00e1rozni, milyen hibaar\u00e1ny, k\u00e9sleltet\u00e9s, adathi\u00e1ny, pontoss\u00e1gi k\u00fcsz\u00f6b, emberi fel\u00fclvizsg\u00e1lati ar\u00e1ny vagy \u00fczleti hat\u00e1s elfogadhat\u00f3. Ha nincs el\u0151zetes k\u00fcsz\u00f6b, akkor a teszt eredm\u00e9nye ut\u00f3lag \u00e9rtelmezhet\u0151v\u00e9 v\u00e1lik<\/strong>, ami gyeng\u00edti az audit\u00e1lhat\u00f3s\u00e1got.<\/p>\n\n\n\n A fejleszt\u00e9si \u00e9s tesztel\u00e9si kontrolloknak figyelembe kell venni\u00fck az AI-rendszerek technikai ad\u00f3ss\u00e1g\u00e1t is. A g\u00e9pi tanul\u00e1si rendszerek fenntart\u00e1si kock\u00e1zatai nemcsak a modellk\u00f3db\u00f3l, hanem az adatokt\u00f3l, a f\u00fcgg\u0151s\u00e9gekt\u0151l, a visszacsatol\u00e1si hurkokt\u00f3l \u00e9s a k\u00f6rnyezeti v\u00e1ltoz\u00e1sokt\u00f3l is sz\u00e1rmazhatnak (Sculley et al., 2015). A napi m\u0171k\u00f6d\u00e9sben ez azt jelenti, hogy az AI-rendszer karbantart\u00e1sa nem puszta hibajav\u00edt\u00e1s<\/strong>, hanem az adat-, modell- \u00e9s folyamatk\u00f6rnyezet egy\u00fcttes kezel\u00e9se.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s ut\u00e1n is kell legyen visszal\u00e9p\u00e9si lehet\u0151s\u00e9g. Ha a rendszer nem v\u00e1rt hib\u00e1kat produk\u00e1l, ha a felhaszn\u00e1l\u00f3k nem megfelel\u0151en alkalmazz\u00e1k, vagy ha az \u00fczleti hat\u00e1s elt\u00e9r a v\u00e1rtt\u00f3l, akkor a szervezetnek tudnia kell korl\u00e1tozni, felf\u00fcggeszteni vagy visszag\u00f6rgetni a haszn\u00e1latot. A rollback vagy felf\u00fcggeszt\u00e9si elj\u00e1r\u00e1s nem technikai luxus, hanem felel\u0151s m\u0171k\u00f6d\u00e9si kontroll.<\/p>\n\n\n\n Az AI-rendszerek m\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fcgyelete az\u00e9rt sz\u00fcks\u00e9ges, mert a rendszer teljes\u00edtm\u00e9nye id\u0151vel megv\u00e1ltozhat. Az adatok eloszl\u00e1sa m\u00f3dosulhat, a felhaszn\u00e1l\u00f3k m\u00e1sk\u00e9pp kezdhetik haszn\u00e1lni a rendszert, az \u00fczleti k\u00f6rnyezet \u00e1talakulhat, vagy \u00faj szab\u00e1lyoz\u00e1si elv\u00e1r\u00e1sok jelenhetnek meg. Ez\u00e9rt az \u00e9les m\u0171k\u00f6d\u00e9s nem stabil v\u00e9g\u00e1llapot<\/strong>, hanem folyamatos megfigyel\u00e9si szakasz.<\/p>\n\n\n\n A monitoringnak legal\u00e1bb h\u00e1rom szintje van. Az els\u0151 a technikai m\u0171k\u00f6d\u00e9s: el\u00e9rhet\u0151s\u00e9g, v\u00e1laszid\u0151, hib\u00e1k, napl\u00f3z\u00e1s \u00e9s integr\u00e1ci\u00f3k. A m\u00e1sodik a modell- vagy rendszerkimenet min\u0151s\u00e9ge: pontoss\u00e1g, hibamint\u00e1zatok, elfogadhatatlan kimenetek, drift vagy teljes\u00edtm\u00e9nyroml\u00e1s. A harmadik a szervezeti hat\u00e1s: felhaszn\u00e1l\u00f3i visszajelz\u00e9sek, panaszok, d\u00f6nt\u00e9si elt\u00e9r\u00e9sek, \u00fcgyf\u00e9l- vagy munkav\u00e1llal\u00f3i k\u00f6vetkezm\u00e9nyek. A felel\u0151s AIMS-ben a monitoring nem csak informatikai fel\u00fcgyelet<\/strong>, hanem kock\u00e1zatkezel\u00e9si tev\u00e9kenys\u00e9g.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s k\u00fcl\u00f6n\u00f6sen \u00e9rz\u00e9keny pont. Egy AI-rendszerben v\u00e1ltoz\u00e1snak sz\u00e1m\u00edthat a modellverzi\u00f3 cser\u00e9je, a bemeneti adatok b\u0151v\u00edt\u00e9se, a prompt vagy szab\u00e1lyrendszer m\u00f3dos\u00edt\u00e1sa, a besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1s friss\u00edt\u00e9se, az \u00fczleti folyamat \u00e1talakul\u00e1sa, a felhaszn\u00e1l\u00f3i k\u00f6r b\u0151v\u00fcl\u00e9se vagy a kimenetek \u00faj d\u00f6nt\u00e9si c\u00e9lra val\u00f3 haszn\u00e1lata. Ha a szervezet csak a klasszikus szoftververzi\u00f3kat kezeli v\u00e1ltoz\u00e1sk\u00e9nt, akkor az AI-specifikus m\u00f3dos\u00edt\u00e1sok l\u00e1thatatlanok maradhatnak<\/strong>, pedig ezek is befoly\u00e1solhatj\u00e1k a kock\u00e1zati profilt.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9si folyamatnak meg kell hat\u00e1roznia, mely v\u00e1ltoz\u00e1sok ig\u00e9nyelnek \u00faj tesztet, \u00faj kock\u00e1zat\u00e9rt\u00e9kel\u00e9st, adatv\u00e9delmi fel\u00fclvizsg\u00e1latot, felhaszn\u00e1l\u00f3i t\u00e1j\u00e9koztat\u00e1st vagy vezet\u0151i j\u00f3v\u00e1hagy\u00e1st. Nem minden m\u00f3dos\u00edt\u00e1s jelent azonos kock\u00e1zatot, de a v\u00e1ltoz\u00e1s hat\u00e1s\u00e1t mindig \u00e9rt\u00e9kelni kell. A gyakorlatban hasznos lehet h\u00e1rom kateg\u00f3ri\u00e1t alkalmazni: kisebb technikai m\u00f3dos\u00edt\u00e1s, l\u00e9nyeges m\u0171k\u00f6d\u00e9si v\u00e1ltoz\u00e1s \u00e9s magas kock\u00e1zat\u00fa v\u00e1ltoz\u00e1s.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9s k\u00f6zbeni bizony\u00edt\u00e9koknak folyamatosan friss\u00fclni\u00fck kell. Nem elegend\u0151 az \u00e9les\u00edt\u00e9skori dokument\u00e1ci\u00f3, ha a rendszer k\u00f6zben m\u00f3dosult. A dokument\u00e1ci\u00f3 akkor marad audit\u00e1lhat\u00f3, ha k\u00f6veti a val\u00f3s m\u0171k\u00f6d\u00e9st: friss\u00fcl a modellle\u00edr\u00e1s, a haszn\u00e1lati korl\u00e1t, a monitoringjelent\u00e9s, a v\u00e1ltoz\u00e1snapl\u00f3, az incidensnyilv\u00e1ntart\u00e1s \u00e9s a fel\u00fclvizsg\u00e1lati jegyz\u0151k\u00f6nyv. Ebben a dokument\u00e1ci\u00f3 a m\u0171k\u00f6d\u00e9s t\u00fckre<\/strong>, nem ut\u00f3lagos megfelel\u0151s\u00e9gi d\u00edszlet.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s sor\u00e1n k\u00fcl\u00f6n\u00f6sen fontos az emberi fel\u00fcgyelet \u00fajra\u00e9rt\u00e9kel\u00e9se. Ha az AI-kimenetek egyre pontosabbnak t\u0171nnek, a felhaszn\u00e1l\u00f3k hajlamosak lehetnek kev\u00e9sb\u00e9 ellen\u0151rizni \u0151ket. Ha a rendszer gyakran t\u00e9ved, akkor viszont a felhaszn\u00e1l\u00f3k elvesz\u00edthetik a bizalmat, vagy saj\u00e1t ker\u00fcl\u0151utakat alak\u00edthatnak ki. Mindk\u00e9t helyzet kock\u00e1zatos. Ez\u00e9rt a fel\u00fcgyeleti szab\u00e1lyokat haszn\u00e1lat k\u00f6zben is kalibr\u00e1lni kell<\/strong>, nem csak az \u00e9les\u00edt\u00e9s el\u0151tt.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fclvizsg\u00e1latnak rendszeres \u00e9s esem\u00e9nyvez\u00e9relt elemei is lehetnek. Rendszeres fel\u00fclvizsg\u00e1lat t\u00f6rt\u00e9nhet negyed\u00e9vente, f\u00e9l\u00e9vente vagy \u00e9vente a kock\u00e1zati szintt\u0151l f\u00fcgg\u0151en. Esem\u00e9nyvez\u00e9relt fel\u00fclvizsg\u00e1latot ind\u00edthat panasz, incidens, jelent\u0151s teljes\u00edtm\u00e9nyroml\u00e1s, \u00faj adatforr\u00e1s, szab\u00e1lyoz\u00e1si v\u00e1ltoz\u00e1s, besz\u00e1ll\u00edt\u00f3i m\u00f3dos\u00edt\u00e1s vagy az AI-kimenetek \u00faj felhaszn\u00e1l\u00e1si m\u00f3dja.<\/p>\n\n\n\n Az AI-rendszerhez tartoz\u00f3 m\u0171k\u00f6d\u00e9si bizony\u00edt\u00e9kok p\u00e9ld\u00e1ul a k\u00f6vetkez\u0151k lehetnek:<\/p>\n\n\n\n haszn\u00e1lati napl\u00f3k \u00e9s hozz\u00e1f\u00e9r\u00e9si rekordok;<\/p>\n\n\n\n teljes\u00edtm\u00e9ny- \u00e9s min\u0151s\u00e9gi monitoringjelent\u00e9sek;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i visszajelz\u00e9sek;<\/p>\n\n\n\n hibajegyek \u00e9s incidensrekordok;<\/p>\n\n\n\n v\u00e1ltoz\u00e1sk\u00e9relmek \u00e9s j\u00f3v\u00e1hagy\u00e1sok;<\/p>\n\n\n\n \u00fajratesztel\u00e9si eredm\u00e9nyek;<\/p>\n\n\n\n auditmeg\u00e1llap\u00edt\u00e1sok;<\/p>\n\n\n\n vezet\u0151s\u00e9gi fel\u00fclvizsg\u00e1lati d\u00f6nt\u00e9sek;<\/p>\n\n\n\n panaszkezel\u00e9si dokumentumok;<\/p>\n\n\n\n kiv\u00e9telkezel\u00e9si \u00e9s elt\u00e9r\u00e9s-jegyz\u0151k\u00f6nyvek.<\/p>\n\n\n\n A bizony\u00edt\u00e9kok \u00e9rt\u00e9ke nem abban \u00e1ll, hogy sok dokumentum keletkezik. Abban \u00e1ll, hogy a szervezet bizony\u00edtani tudja: figyeli a rendszert, \u00e9szleli a probl\u00e9m\u00e1kat, \u00e9rt\u00e9keli a v\u00e1ltoz\u00e1sokat, \u00e9s sz\u00fcks\u00e9g eset\u00e9n beavatkozik. Egy \u00e9rett AI ir\u00e1ny\u00edt\u00e1si rendszerben a <\/strong>bizony\u00edt\u00e9k<\/strong> a kontroll m\u0171k\u00f6d\u00e9s\u00e9t igazolja<\/strong>, nem csup\u00e1n a szab\u00e1ly l\u00e9tez\u00e9s\u00e9t.<\/p>\n\n\n\n Az incidenseket k\u00fcl\u00f6n kell kezelni. AI-incidens lehet hib\u00e1s vagy k\u00e1ros kimenet, nem enged\u00e9lyezett adathaszn\u00e1lat, jogosulatlan hozz\u00e1f\u00e9r\u00e9s, jelent\u0151s modellroml\u00e1s, \u00fcgyf\u00e9lre vagy munkav\u00e1llal\u00f3ra gyakorolt nem k\u00edv\u00e1nt hat\u00e1s, vagy olyan felhaszn\u00e1l\u00f3i gyakorlat, amely elt\u00e9r az enged\u00e9lyezett m\u0171k\u00f6d\u00e9st\u0151l. Az incidensfolyamatnak ki kell t\u00e9rnie az \u00e9szlel\u00e9sre, eszkal\u00e1ci\u00f3ra, hat\u00e1s\u00e9rt\u00e9kel\u00e9sre, jav\u00edt\u00f3 int\u00e9zked\u00e9sre \u00e9s tanuls\u00e1gok be\u00e9p\u00edt\u00e9s\u00e9re.<\/p>\n\n\n\n A NIST AI RMF n\u00e9gy alapfunkci\u00f3ja \u2014 ir\u00e1ny\u00edt\u00e1s, felt\u00e9rk\u00e9pez\u00e9s, m\u00e9r\u00e9s \u00e9s kezel\u00e9s \u2014 j\u00f3l illeszkedik ehhez az operat\u00edv logik\u00e1hoz (National Institute of Standards and Technology, 2023). A napi m\u0171k\u00f6d\u00e9sben ez \u00fagy jelenik meg, hogy a szervezet nemcsak beazonos\u00edtja az AI-kock\u00e1zatokat, hanem m\u00e9rhet\u0151 jelz\u00e9sekkel figyeli, dokument\u00e1lt d\u00f6nt\u00e9sekkel kezeli, majd visszacsatolja a tanuls\u00e1gokat a folyamatba. \u00cdgy a monitoring a tanul\u00f3 szervezet eszk\u00f6ze<\/strong>, nem puszt\u00e1n kontrolllista.<\/p>\n\n\n\n Az AI-\u00e9letciklus gyakran elhanyagolt szakasza a kivon\u00e1s. Sok szervezet r\u00e9szletesen foglalkozik az \u00faj AI-eszk\u00f6z bevezet\u00e9s\u00e9vel, de kev\u00e9sb\u00e9 szab\u00e1lyozza, hogyan kell megsz\u00fcntetni, lecser\u00e9lni vagy archiv\u00e1lni egy rendszert. Pedig a kivon\u00e1s is hordoz kock\u00e1zatot: adatmeg\u0151rz\u00e9si k\u00e9rd\u00e9sek, f\u00fcgg\u0151 folyamatok, felhaszn\u00e1l\u00f3i szok\u00e1sok, besz\u00e1ll\u00edt\u00f3i szerz\u0151d\u00e9sek, auditnyomok \u00e9s dokument\u00e1ci\u00f3s k\u00f6telezetts\u00e9gek kapcsol\u00f3dhatnak hozz\u00e1. Ez\u00e9rt az AI-rendszer kivon\u00e1sa ir\u00e1ny\u00edt\u00e1si d\u00f6nt\u00e9s<\/strong>, nem puszta technikai lekapcsol\u00e1s.<\/p>\n\n\n\n Kivon\u00e1sra t\u00f6bb okb\u00f3l ker\u00fclhet sor. A rendszer teljes\u00edtm\u00e9nye romolhat, a haszn\u00e1lati c\u00e9l megsz\u0171nhet, \u00faj technol\u00f3gia v\u00e1ltja fel, a kock\u00e1zatok ar\u00e1nytalann\u00e1 v\u00e1lnak, adatv\u00e9delmi vagy compliance probl\u00e9ma mer\u00fcl fel, vagy a besz\u00e1ll\u00edt\u00f3i h\u00e1tt\u00e9r megv\u00e1ltozik. A kivon\u00e1si d\u00f6nt\u00e9st ugyan\u00fagy dokument\u00e1lni kell, mint az \u00e9les\u00edt\u00e9st. Ha ez elmarad, akkor a megsz\u0171n\u0151 rendszer is hagyhat m\u0171k\u00f6d\u00e9si kock\u00e1zatot<\/strong>, p\u00e9ld\u00e1ul r\u00e9gi adatk\u00e9szleteket, hozz\u00e1f\u00e9r\u00e9seket vagy dokument\u00e1latlan f\u00fcgg\u0151s\u00e9geket.<\/p>\n\n\n\n A kivon\u00e1si folyamatnak ki kell t\u00e9rnie arra, mi t\u00f6rt\u00e9nik az adatokkal, a modellekkel, a napl\u00f3kkal, a dokument\u00e1ci\u00f3val, a felhaszn\u00e1l\u00f3i hozz\u00e1f\u00e9r\u00e9sekkel \u00e9s az \u00fczleti folyamatokkal. Ha a rendszert m\u00e1sik AI-eszk\u00f6z v\u00e1ltja fel, akkor \u00e1t\u00e1ll\u00e1si kock\u00e1zatot is \u00e9rt\u00e9kelni kell. Egy r\u00e9gi rendszer kivon\u00e1sa \u00e9s egy \u00faj bevezet\u00e9se nem k\u00e9t elszigetelt d\u00f6nt\u00e9s; az \u00e1tmeneti id\u0151szakban a felel\u0151ss\u00e9g, a kontrollok \u00e9s a kommunik\u00e1ci\u00f3 k\u00fcl\u00f6n\u00f6sen fontos.<\/p>\n\n\n\n A kivon\u00e1s kommunik\u00e1ci\u00f3s feladat is. A felhaszn\u00e1l\u00f3knak tudniuk kell, mikort\u00f3l nem haszn\u00e1lhat\u00f3 a rendszer, milyen alternat\u00edv\u00e1t kell alkalmazniuk, hogyan kezelik a folyamatban l\u00e9v\u0151 \u00fcgyeket, \u00e9s mi t\u00f6rt\u00e9nik a kor\u00e1bbi kimenetekkel. Ilyenkor a kivon\u00e1s akkor biztons\u00e1gos, ha a felhaszn\u00e1l\u00f3i gyakorlat is lez\u00e1rul<\/strong>, nem csak a technikai hozz\u00e1f\u00e9r\u00e9s sz\u0171nik meg.<\/p>\n\n\n\n A napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edtett AI-\u00e9letciklus-folyamat akkor v\u00e1lik haszn\u00e1lhat\u00f3v\u00e1, ha a szervezet egyszer\u0171, de k\u00f6vetkezetes folyamatv\u00e1zlatot alkalmaz. Ez a folyamatv\u00e1zlat nem minden esetben ig\u00e9nyel bonyolult workflow-rendszert, de tartalmaznia kell a felel\u0151s\u00f6ket, a k\u00f6telez\u0151 kontrollpontokat \u00e9s a d\u00f6nt\u00e9si kimeneteket. A folyamat c\u00e9lja, hogy egy \u00faj AI-eszk\u00f6z ne ker\u00fclhessen \u00e9les haszn\u00e1latba kock\u00e1zati \u00e9rt\u00e9kel\u00e9s, tesztel\u00e9s \u00e9s j\u00f3v\u00e1hagy\u00e1s n\u00e9lk\u00fcl.<\/p>\n\n\n\n Egy gyakorlati folyamatv\u00e1zlat a k\u00f6vetkez\u0151 lehet:<\/p>\n\n\n\n Ig\u00e9nybejelent\u00e9s El\u0151zetes besorol\u00e1s Kock\u00e1zati \u00e9s megfelel\u0151s\u00e9gi \u00e9rt\u00e9kel\u00e9s Fejleszt\u00e9s, konfigur\u00e1l\u00e1s vagy beszerz\u00e9s Tesztel\u00e9s \u00e9s valid\u00e1l\u00e1s \u00c9les\u00edt\u00e9si d\u00f6nt\u00e9s M\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fcgyelet V\u00e1ltoz\u00e1skezel\u00e9s Incidens- \u00e9s elt\u00e9r\u00e9skezel\u00e9s Kivon\u00e1s vagy helyettes\u00edt\u00e9s Ez a folyamat akkor m\u0171k\u00f6dik j\u00f3l, ha nem v\u00e1lik t\u00fal neh\u00e9zkess\u00e9. Az alacsony kock\u00e1zat\u00fa AI-haszn\u00e1latokn\u00e1l egyszer\u0171s\u00edtett \u00e9rt\u00e9kel\u00e9s is elegend\u0151 lehet, m\u00edg magasabb hat\u00e1s\u00fa rendszerekn\u00e9l r\u00e9szletes hat\u00e1selemz\u00e9s, adatv\u00e9delmi vizsg\u00e1lat, vezet\u0151i j\u00f3v\u00e1hagy\u00e1s \u00e9s rendszeres monitoring sz\u00fcks\u00e9ges. A l\u00e9nyeg az ar\u00e1nyoss\u00e1g. Egy AIMS-ben a kontroll s\u00falya a d\u00f6nt\u00e9si hat\u00e1shoz igazodik<\/strong>, nem az AI-eszk\u00f6z n\u00e9pszer\u0171s\u00e9g\u00e9hez vagy technol\u00f3giai \u00fajdons\u00e1g\u00e1hoz.<\/p>\n\n\n\n A napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edtett \u00e9letciklus el\u0151nye, hogy cs\u00f6kkenti a p\u00e1rhuzamos adminisztr\u00e1ci\u00f3t. Ha a szervezet m\u00e1r rendelkezik v\u00e1ltoz\u00e1skezel\u00e9si, dokumentumkezel\u00e9si, incidens- \u00e9s auditfolyamattal, akkor az AI-specifikus kontrollokat ezekhez lehet illeszteni. Nem felt\u00e9tlen\u00fcl kell mindenre \u00faj folyamatot l\u00e9trehozni, de meg kell hat\u00e1rozni, hol sz\u00fcks\u00e9ges AI-specifikus kieg\u00e9sz\u00edt\u00e9s. Ilyen lehet az adatdrift figyel\u00e9se, modellverzi\u00f3k dokument\u00e1l\u00e1sa, promptv\u00e1ltoz\u00e1sok kezel\u00e9se, emberi fel\u00fcgyelet ellen\u0151rz\u00e9se vagy AI-kimenetek mintav\u00e9teles vizsg\u00e1lata.<\/p>\n\n\n\n A folyamat fenntart\u00e1s\u00e1hoz szerepek is kellenek. Az \u00fczleti tulajdonos felel a c\u00e9l\u00e9rt \u00e9s a haszn\u00e1lat indokolts\u00e1g\u00e1\u00e9rt. A technikai felel\u0151s az implement\u00e1ci\u00f3\u00e9rt \u00e9s \u00fczemeltet\u00e9s\u00e9rt. Az adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi \u00e9s compliance szerepk\u00f6r\u00f6k a kontrollfelt\u00e9teleket vizsg\u00e1lj\u00e1k. A bels\u0151 audit vagy f\u00fcggetlen ellen\u0151rz\u00e9si funkci\u00f3 k\u00e9s\u0151bb azt n\u00e9zi, hogy a folyamat t\u00e9nylegesen m\u0171k\u00f6dik-e. Ebben a felel\u0151ss\u00e9g kioszt\u00e1sa a folyamat gerince<\/strong>, mert gazd\u00e1tlan \u00e9letciklus nem audit\u00e1lhat\u00f3.<\/p>\n\n\n\n A kivon\u00e1sig v\u00e9gigvezetett AI-\u00e9letciklus seg\u00edt elker\u00fclni, hogy a szervezet csak az indul\u00e1sra koncentr\u00e1ljon. A felel\u0151s m\u0171k\u00f6d\u00e9s val\u00f3di pr\u00f3b\u00e1ja sokszor nem az els\u0151 \u00e9les\u00edt\u00e9s, hanem az, hogy a szervezet \u00e9szleli-e a v\u00e1ltoz\u00e1sokat, reag\u00e1l-e a hib\u00e1kra, friss\u00edti-e a dokument\u00e1ci\u00f3t, \u00e9s k\u00e9pes-e megsz\u00fcntetni egy rendszert, ha m\u00e1r nem haszn\u00e1lhat\u00f3 elfogadhat\u00f3 felt\u00e9telek mellett. A gyakorlatban a kivon\u00e1s k\u00e9pess\u00e9ge is \u00e9retts\u00e9gi jel<\/strong>, mert azt mutatja, hogy az AI nem \u00f6nmag\u00e1\u00e9rt m\u0171k\u00f6dik, hanem szab\u00e1lyozott szervezeti c\u00e9lokat szolg\u00e1l.<\/p>\n\n\n\n Az AI-\u00e9letciklus napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edt\u00e9se akkor sikeres, ha a szervezet minden jelent\u0151s ponton v\u00e1laszt tud adni h\u00e1rom k\u00e9rd\u00e9sre: mi t\u00f6rt\u00e9nik most a rendszerrel, ki felel ez\u00e9rt a d\u00f6nt\u00e9s\u00e9rt, \u00e9s milyen bizony\u00edt\u00e9k igazolja, hogy a kontroll m\u0171k\u00f6d\u00f6tt. Ha ezek a k\u00e9rd\u00e9sek megv\u00e1laszolhat\u00f3k, az AI ir\u00e1ny\u00edt\u00e1si rendszer nem elvont szabv\u00e1nyk\u00f6vetelm\u00e9ny marad, hanem a felel\u0151s, ellen\u0151rizhet\u0151 \u00e9s jav\u00edthat\u00f3 AI-haszn\u00e1lat m\u0171k\u00f6d\u00e9si alapja lesz.<\/p>\n\n\n\n Breck, E., Cai, S., Nielsen, E., Salib, M., & Sculley, D. (2017). The ML test score: A rubric for ML production readiness and technical debt reduction<\/em>. IEEE International Conference on Big Data. https:\/\/research.google.com\/pubs\/archive\/aad9f93b86b7addfea4c419b9100c6cdd26cacea.pdf<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daum\u00e9 III, H., & Crawford, K. (2021). Datasheets for datasets. Communications of the ACM, 64<\/em>(12), 86\u201392. https:\/\/doi.org\/10.1145\/3458723<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/81230.html<\/p>\n\n\n\n Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model cards for model reporting. Proceedings of the Conference on Fairness, Accountability, and Transparency<\/em>, 220\u2013229. https:\/\/doi.org\/10.1145\/3287560.3287596<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\nAz \u00faj AI-haszn\u00e1lati eset j\u00f3v\u00e1hagy\u00e1si \u00fatvonala<\/h2>\n\n\n\n
Fejleszt\u00e9s, tesztel\u00e9s \u00e9s \u00e9les\u00edt\u00e9s kontrollpontjai<\/h2>\n\n\n\n
Fel\u00fcgyelet, v\u00e1ltoz\u00e1skezel\u00e9s \u00e9s bizony\u00edt\u00e9kok<\/h2>\n\n\n\n
Kivon\u00e1s \u00e9s a napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edtett folyamatv\u00e1zlat<\/h2>\n\n\n\n
Az \u00fczleti ter\u00fclet r\u00f6gz\u00edti a c\u00e9lj\u00e1t, a tervezett haszn\u00e1latot, az \u00e9rintett folyamatot \u00e9s a v\u00e1rhat\u00f3 kimenetet.<\/p>\n\n\n\n
Az AI-felel\u0151s vagy kijel\u00f6lt koordin\u00e1tor \u00e9rt\u00e9keli, hogy alacsony, k\u00f6zepes vagy magas hat\u00e1s\u00fa haszn\u00e1latr\u00f3l van-e sz\u00f3.<\/p>\n\n\n\n
Az adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi, compliance \u00e9s \u00fczleti szempontok alapj\u00e1n meghat\u00e1rozz\u00e1k a sz\u00fcks\u00e9ges kontrollokat.<\/p>\n\n\n\n
A technikai vagy besz\u00e1ll\u00edt\u00f3i megval\u00f3s\u00edt\u00e1s csak a j\u00f3v\u00e1hagyott c\u00e9l \u00e9s korl\u00e1tok alapj\u00e1n indulhat.<\/p>\n\n\n\n
A rendszer teljes\u00edtm\u00e9ny\u00e9t, hib\u00e1it, adatkezel\u00e9si felt\u00e9teleit \u00e9s felhaszn\u00e1l\u00e1si korl\u00e1tait dokument\u00e1ltan \u00e9rt\u00e9kelik.<\/p>\n\n\n\n
A kijel\u00f6lt j\u00f3v\u00e1hagy\u00f3k csak akkor enged\u00e9lyezik az \u00e9les haszn\u00e1latot, ha a bizony\u00edt\u00e9kok \u00e9s kontrollok rendelkez\u00e9sre \u00e1llnak.<\/p>\n\n\n\n
A rendszer teljes\u00edtm\u00e9ny\u00e9t, hib\u00e1it, visszajelz\u00e9seit \u00e9s v\u00e1ltoz\u00e1sait folyamatosan figyelik.<\/p>\n\n\n\n
Minden l\u00e9nyeges modell-, adat-, folyamat- vagy besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1s \u00fajra\u00e9rt\u00e9kel\u00e9st ind\u00edthat.<\/p>\n\n\n\n
A hib\u00e1s, k\u00e1ros vagy nem enged\u00e9lyezett m\u0171k\u00f6d\u00e9st dokument\u00e1ltan vizsg\u00e1lj\u00e1k \u00e9s jav\u00edtj\u00e1k.<\/p>\n\n\n\n
A rendszer lez\u00e1r\u00e1s\u00e1t, adatkezel\u00e9s\u00e9t, hozz\u00e1f\u00e9r\u00e9seit \u00e9s \u00e1t\u00e1ll\u00e1si hat\u00e1sait kontroll\u00e1ltan kezelik.<\/p>\n\n\n\nFelhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n