Egy AI-eszk\u00f6z bevezet\u00e9se ritk\u00e1n ott bukik meg, hogy a modell egy\u00e1ltal\u00e1n nem m\u0171k\u00f6dik. A gyakoribb probl\u00e9ma az, hogy m\u0171k\u00f6dik ugyan, de nem vil\u00e1gos, ki enged\u00e9lyezte, milyen adatokkal tesztelt\u00e9k, ki figyeli a hib\u00e1it, \u00e9s mi t\u00f6rt\u00e9nik, ha a haszn\u00e1lati k\u00f6rnyezet megv\u00e1ltozik.<\/p>\n\n\n\n
Az AI-rendszerek ir\u00e1ny\u00edt\u00e1sa ez\u00e9rt nem egyszeri j\u00f3v\u00e1hagy\u00e1si pont, hanem teljes \u00e9letcikluson \u00e1t fenntartott szervezeti m\u0171k\u00f6d\u00e9s. A felel\u0151s AI ir\u00e1ny\u00edt\u00e1si rendszer akkor v\u00e1lik gyakorlativ\u00e1, amikor a szab\u00e1lyok nem k\u00fcl\u00f6n dokumentumt\u00e1rban maradnak, hanem be\u00e9p\u00fclnek az ig\u00e9nyfelm\u00e9r\u00e9sbe, a fejleszt\u00e9sbe, a beszerz\u00e9sbe, a tesztel\u00e9sbe, az \u00e9les\u00edt\u00e9sbe, a v\u00e1ltoz\u00e1skezel\u00e9sbe, az incidenskezel\u00e9sbe \u00e9s a kivon\u00e1sba.<\/p>\n\n\n\n
Az AI-\u00e9letciklus ir\u00e1ny\u00edt\u00e1sa abb\u00f3l indul ki, hogy az AI-rendszer nem egyszer\u0171en \u201ek\u00e9szterm\u00e9k\u201d. Egy hagyom\u00e1nyos szoftvern\u00e9l is sz\u00e1molni kell verzi\u00f3kkal, hibajav\u00edt\u00e1sokkal \u00e9s jogosults\u00e1gokkal, de az AI-rendszerek teljes\u00edtm\u00e9nye k\u00fcl\u00f6n\u00f6sen er\u0151sen f\u00fcgg az adatokt\u00f3l, a haszn\u00e1lati k\u00f6rnyezett\u0151l, a modell korl\u00e1tait\u00f3l \u00e9s a felhaszn\u00e1l\u00f3i viselked\u00e9st\u0151l. Ez\u00e9rt a m\u0171k\u00f6d\u00e9s tervez\u00e9s\u00e9n\u00e9l az AI-\u00e9letciklus folyamatos szervezeti felel\u0151ss\u00e9g<\/strong>, amely nem z\u00e1rhat\u00f3 le az els\u0151 \u00e9les\u00edt\u00e9ssel.<\/p>\n\n\n\n Az ISO\/IEC 42001 az AI ir\u00e1ny\u00edt\u00e1si rendszert olyan ir\u00e1ny\u00edt\u00e1si keretk\u00e9nt kezeli, amelyet l\u00e9tre kell hozni, m\u0171k\u00f6dtetni kell, fenn kell tartani \u00e9s folyamatosan jav\u00edtani kell a szervezet k\u00f6rnyezet\u00e9ben (International Organization for Standardization, 2023). Ez a megk\u00f6zel\u00edt\u00e9s a napi m\u0171k\u00f6d\u00e9sben azt jelenti, hogy az AI-val kapcsolatos d\u00f6nt\u00e9seknek ugyan\u00fagy be kell ker\u00fclni\u00fck a szervezeti folyamatokba, mint m\u00e1s l\u00e9nyeges min\u0151s\u00e9g\u00fcgyi, inform\u00e1ci\u00f3biztons\u00e1gi vagy compliance d\u00f6nt\u00e9seknek. Az AIMS akkor m\u0171k\u00f6dik j\u00f3l, ha a szabv\u00e1nyos elv\u00e1r\u00e1sb\u00f3l napi munkarend lesz<\/strong>, nem pedig alkalmi megfelel\u0151s\u00e9gi akci\u00f3.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9si folyamatokra bontott AI-\u00e9letciklusnak legal\u00e1bb a k\u00f6vetkez\u0151 szakaszokat kell kezelnie:<\/p>\n\n\n\n \u00faj AI-haszn\u00e1lati eset kezdem\u00e9nyez\u00e9se;<\/p>\n\n\n\n el\u0151zetes kock\u00e1zati \u00e9s megfelel\u0151s\u00e9gi \u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n fejleszt\u00e9s, konfigur\u00e1l\u00e1s vagy beszerz\u00e9s;<\/p>\n\n\n\n adatforr\u00e1sok \u00e9s adatkezel\u00e9si felt\u00e9telek vizsg\u00e1lata;<\/p>\n\n\n\n tesztel\u00e9s \u00e9s valid\u00e1l\u00e1s;<\/p>\n\n\n\n \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9s;<\/p>\n\n\n\n m\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fcgyelet;<\/p>\n\n\n\n v\u00e1ltoz\u00e1skezel\u00e9s;<\/p>\n\n\n\n incidens- \u00e9s hibakezel\u00e9s;<\/p>\n\n\n\n kivon\u00e1s vagy helyettes\u00edt\u00e9s.<\/p>\n\n\n\n Ez a feloszt\u00e1s nem technikai fejleszt\u00e9si m\u00f3dszertan, hanem ir\u00e1ny\u00edt\u00e1si t\u00e9rk\u00e9p. A c\u00e9l az, hogy minden szakaszn\u00e1l vil\u00e1gos legyen, milyen d\u00f6nt\u00e9st kell meghozni, ki a felel\u0151s \u00e9rte, milyen bizony\u00edt\u00e9k sz\u00fcks\u00e9ges, \u00e9s milyen felt\u00e9telekkel lehet tov\u00e1bbl\u00e9pni. Egy \u00e9rett m\u0171k\u00f6d\u00e9si rendben minden \u00e9letciklusl\u00e9p\u00e9shez kontrollk\u00e9rd\u00e9s kapcsol\u00f3dik<\/strong>, mert k\u00fcl\u00f6nben a rendszer csak technikailag, de nem ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l lesz kezelhet\u0151.<\/p>\n\n\n\n A napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edt\u00e9s egyik legfontosabb k\u00f6vetkezm\u00e9nye, hogy az AI-rendszer nem ker\u00fclhet \u201egazd\u00e1tlan\u201d \u00e1llapotba. Ha nincs \u00fczleti tulajdonos, technikai felel\u0151s, adatkezel\u00e9si felel\u0151s, kontrollgazda \u00e9s j\u00f3v\u00e1hagy\u00e1si \u00fat, akkor a kock\u00e1zat k\u00e9s\u0151bb sem lesz j\u00f3l kezelhet\u0151. A szervezetnek m\u00e1r a kezdeti szakaszban meg kell hat\u00e1roznia, hogy a felel\u0151ss\u00e9g nem a rendszerben van<\/strong>, hanem azokn\u00e1l az emberekn\u00e9l \u00e9s szerepk\u00f6r\u00f6kn\u00e9l, akik a c\u00e9lj\u00e1t, m\u0171k\u00f6d\u00e9s\u00e9t \u00e9s kontrolljait meghat\u00e1rozz\u00e1k.<\/p>\n\n\n\n Az AI-\u00e9letciklus saj\u00e1toss\u00e1ga, hogy ugyanaz a technol\u00f3gia elt\u00e9r\u0151 kock\u00e1zati szintet jelenthet k\u00fcl\u00f6nb\u00f6z\u0151 haszn\u00e1lati helyzetekben. Egy generat\u00edv AI-eszk\u00f6z bels\u0151 \u00f6tletgy\u0171jt\u00e9sre alacsonyabb kock\u00e1zat\u00fa lehet, de \u00fcgyf\u00e9ladatokkal, munkav\u00e1llal\u00f3i \u00e9rt\u00e9kel\u00e9ssel vagy szerz\u0151d\u00e9ses d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u00e9ssel m\u00e1r m\u00e1s kontrollszintet ig\u00e9nyel. A NIST AI Risk Management Framework is a kontextus, a c\u00e9l, az \u00e9rintettek \u00e9s a hat\u00e1sok felt\u00e9rk\u00e9pez\u00e9s\u00e9t tekinti a kock\u00e1zatkezel\u00e9s alapj\u00e1nak (National Institute of Standards and Technology, 2023). Ennek gyakorlati tanuls\u00e1ga, hogy a haszn\u00e1lati c\u00e9l hat\u00e1rozza meg a kontrollm\u00e9lys\u00e9get<\/strong>, nem puszt\u00e1n az, hogy a rendszer \u201eAI\u201d-nak min\u0151s\u00fcl-e.<\/p>\n\n\n\n A szervezetnek ez\u00e9rt ar\u00e1nyos folyamatot kell kialak\u00edtania. Nem minden AI-haszn\u00e1lat ig\u00e9nyel azonos r\u00e9szletess\u00e9g\u0171 hat\u00e1selemz\u00e9st, tesztel\u00e9st vagy vezet\u0151i j\u00f3v\u00e1hagy\u00e1st. Ugyanakkor minden AI-haszn\u00e1latnak sz\u00fcks\u00e9ge van legal\u00e1bb minim\u00e1lis nyilv\u00e1ntart\u00e1sra, c\u00e9lle\u00edr\u00e1sra, felel\u0151sre \u00e9s kontrollpontra. Ha ez elmarad, akkor a l\u00e1thatatlan AI-haszn\u00e1lat \u00f6n\u00e1ll\u00f3 kock\u00e1zatt\u00e1 v\u00e1lik<\/strong>, mert sem az adatok, sem a kimenetek, sem a d\u00f6nt\u00e9si hat\u00e1sok nem lesznek visszakereshet\u0151k.<\/p>\n\n\n\n Az \u00e9letciklus m\u0171k\u00f6d\u00e9si folyamatk\u00e9nt val\u00f3 kezel\u00e9se az audit\u00e1lhat\u00f3s\u00e1g miatt is l\u00e9nyeges. Egy auditor nemcsak azt vizsg\u00e1lja, hogy l\u00e9tezik-e AI-politika vagy kock\u00e1zat\u00e9rt\u00e9kel\u00e9si sablon, hanem azt is, hogy a szervezet t\u00e9nylegesen haszn\u00e1lja-e ezeket a mindennapi d\u00f6nt\u00e9sekn\u00e9l. Az AI-\u00e9letciklus akkor ellen\u0151rizhet\u0151, ha az egyes d\u00f6nt\u00e9si pontokhoz bizony\u00edt\u00e9k kapcsol\u00f3dik: ig\u00e9nybejelent\u00e9s, kock\u00e1zati besorol\u00e1s, adatforr\u00e1s-dokument\u00e1ci\u00f3, teszteredm\u00e9ny, j\u00f3v\u00e1hagy\u00e1s, monitoringjelent\u00e9s, v\u00e1ltoz\u00e1snapl\u00f3 vagy kivon\u00e1si jegyz\u0151k\u00f6nyv.<\/p>\n\n\n\n Az AI-\u00e9letciklus ir\u00e1ny\u00edt\u00e1sa v\u00e9gs\u0151 soron szervezeti tanul\u00e1si folyamat. A rendszer m\u0171k\u00f6d\u00e9se k\u00f6zben keletkez\u0151 hib\u00e1k, visszajelz\u00e9sek, incidensek \u00e9s v\u00e1ltoz\u00e1sok mind \u00faj inform\u00e1ci\u00f3t adnak arr\u00f3l, hogy a kontrollok elegend\u0151k-e. Ez\u00e9rt a szervezetnek nemcsak bevezetnie kell az AI-folyamatokat, hanem rendszeresen fel\u00fcl is kell vizsg\u00e1lnia \u0151ket. A gyakorlatban az \u00e9letciklus ir\u00e1ny\u00edt\u00e1sa tanul\u00f3 kontrollrendszer<\/strong>, amely a m\u0171k\u00f6d\u00e9sb\u0151l sz\u00e1rmaz\u00f3 tapasztalatokat visszavezeti a szab\u00e1lyokba.<\/p>\n\n\n\n Az AI-\u00e9letciklus gyakorlati kezd\u0151pontja az \u00faj AI-haszn\u00e1lati eset kezdem\u00e9nyez\u00e9se. Ez lehet \u00fczleti ig\u00e9ny, bels\u0151 fejleszt\u00e9si \u00f6tlet, besz\u00e1ll\u00edt\u00f3i aj\u00e1nlat, felhaszn\u00e1l\u00f3i kezdem\u00e9nyez\u00e9s vagy egy m\u00e1r haszn\u00e1lt eszk\u00f6z \u00faj c\u00e9lra t\u00f6rt\u00e9n\u0151 alkalmaz\u00e1sa. A szervezetnek m\u00e1r ezen a ponton el kell d\u00f6ntenie, hogy az adott haszn\u00e1lat milyen hat\u00e1ssal lehet \u00fcgyfelekre, munkav\u00e1llal\u00f3kra, partnerekre, bels\u0151 folyamatokra \u00e9s \u00fczleti eredm\u00e9nyekre. A j\u00f3v\u00e1hagy\u00e1s elej\u00e9n a kock\u00e1zatot m\u00e9g olcs\u00f3bb tiszt\u00e1zni<\/strong>, mint akkor, amikor a rendszer m\u00e1r be\u00e9p\u00fclt a m\u0171k\u00f6d\u00e9sbe.<\/p>\n\n\n\n Egy \u00faj AI-haszn\u00e1lati eset bejelent\u00e9s\u00e9nek nem kell t\u00falterhelt dokumentumnak lennie, de tartalmaznia kell az alapvet\u0151 d\u00f6nt\u00e9si inform\u00e1ci\u00f3kat. Ilyen a c\u00e9l, a tervezett felhaszn\u00e1l\u00f3i k\u00f6r, az \u00e9rintett adatok t\u00edpusa, a kimenet d\u00f6nt\u00e9si szerepe, a v\u00e1rhat\u00f3 \u00fczleti hat\u00e1s, az esetleges \u00e9rintetti k\u00f6vetkezm\u00e9ny \u00e9s a tervezett technol\u00f3giai vagy besz\u00e1ll\u00edt\u00f3i megold\u00e1s. Ha ezek hi\u00e1nyoznak, akkor az els\u0151 j\u00f3v\u00e1hagy\u00e1s inform\u00e1ci\u00f3hi\u00e1nyos d\u00f6nt\u00e9ss\u00e9 v\u00e1lik<\/strong>, amely k\u00e9s\u0151bb nehezen audit\u00e1lhat\u00f3.<\/p>\n\n\n\n Az EU AI Act a magas kock\u00e1zat\u00fa AI-rendszerekn\u00e9l \u00e9letcikluson \u00e1t m\u0171k\u00f6d\u0151 kock\u00e1zatkezel\u00e9si rendszert, dokument\u00e1ci\u00f3t, adatir\u00e1ny\u00edt\u00e1si elv\u00e1r\u00e1sokat \u00e9s emberi fel\u00fcgyeleti k\u00f6vetelm\u00e9nyeket \u00edr el\u0151 (European Parliament & Council of the European Union, 2024). B\u00e1r nem minden szervezeti AI-haszn\u00e1lat tartozik magas kock\u00e1zat\u00fa kateg\u00f3ri\u00e1ba, az ar\u00e1nyos kontrolllogika a mindennapi AIMS-m\u0171k\u00f6d\u00e9sben is hasznos. A gyakorlati elv egyszer\u0171: a d\u00f6nt\u00e9si hat\u00e1s n\u00f6veked\u00e9s\u00e9vel n\u0151 a bizony\u00edt\u00e1si teher<\/strong>, ez\u00e9rt a j\u00f3v\u00e1hagy\u00e1si \u00fatvonalnak a kock\u00e1zati szinthez kell igazodnia.<\/p>\n\n\n\n A j\u00f3v\u00e1hagy\u00e1si folyamatnak t\u00f6bb n\u00e9z\u0151pontot kell \u00f6sszehangolnia. Az \u00fczleti tulajdonos a c\u00e9l\u00e9rt, az \u00e9rt\u00e9kteremt\u00e9s\u00e9rt \u00e9s a haszn\u00e1lati indokolts\u00e1g\u00e9rt felel. A technikai felel\u0151s a megval\u00f3s\u00edthat\u00f3s\u00e1got, az integr\u00e1ci\u00f3t \u00e9s az \u00fczemeltet\u00e9si felt\u00e9teleket vizsg\u00e1lja. Az adatv\u00e9delmi vagy jogi szerepk\u00f6r az adatkezel\u00e9si, szerz\u0151d\u00e9ses \u00e9s megfelel\u0151s\u00e9gi k\u00e9rd\u00e9seket \u00e9rt\u00e9keli. Az inform\u00e1ci\u00f3biztons\u00e1gi felel\u0151s a hozz\u00e1f\u00e9r\u00e9si, napl\u00f3z\u00e1si, t\u00e1rol\u00e1si \u00e9s besz\u00e1ll\u00edt\u00f3i kock\u00e1zatokat vizsg\u00e1lja. Ilyen helyzetben a j\u00f3v\u00e1hagy\u00e1s nem egyetlen al\u00e1\u00edr\u00e1s<\/strong>, hanem t\u00f6bb felel\u0151ss\u00e9gi szempont dokument\u00e1lt \u00f6sszehangol\u00e1sa.<\/p>\n\n\n\n A j\u00f3v\u00e1hagy\u00e1si \u00fatvonalnak ki kell mondania, mikor elegend\u0151 egyszer\u0171s\u00edtett \u00e9rt\u00e9kel\u00e9s, mikor sz\u00fcks\u00e9ges r\u00e9szletesebb kock\u00e1zatelemz\u00e9s, \u00e9s mikor kell vezet\u0151i d\u00f6nt\u00e9s. Vezet\u0151i j\u00f3v\u00e1hagy\u00e1s lehet indokolt, ha a rendszer szem\u00e9lyes adatot kezel, \u00fcgyfelekre vagy munkav\u00e1llal\u00f3kra hat, automatiz\u00e1lt d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u00e9st v\u00e9gez, jelent\u0151s \u00fczleti kock\u00e1zatot hordoz, vagy reput\u00e1ci\u00f3s kitetts\u00e9get teremt. A vezet\u0151i d\u00f6nt\u00e9s azonban nem helyettes\u00edti a szakmai kontrollokat. A gyakorlatban a vezet\u0151i elk\u00f6telezetts\u00e9g a felt\u00e9telek elfogad\u00e1s\u00e1ban is m\u00e9rhet\u0151<\/strong>, nem csak az indul\u00e1s t\u00e1mogat\u00e1s\u00e1ban.<\/p>\n\n\n\n Az el\u0151zetes j\u00f3v\u00e1hagy\u00e1snak a haszn\u00e1lati korl\u00e1tokra is ki kell t\u00e9rnie. M\u00e1r az indul\u00e1s el\u0151tt meg kell hat\u00e1rozni, milyen adatok nem vihet\u0151k be a rendszerbe, milyen d\u00f6nt\u00e9sek nem alapozhat\u00f3k kiz\u00e1r\u00f3lag AI-kimenetre, mikor k\u00f6telez\u0151 emberi fel\u00fclvizsg\u00e1lat, \u00e9s milyen esetben kell a haszn\u00e1latot felf\u00fcggeszteni. A model cards megk\u00f6zel\u00edt\u00e9s is arra \u00e9p\u00edt, hogy a modellekhez kapcsol\u00f3d\u00f3 dokument\u00e1ci\u00f3ban szerepeljen a rendeltet\u00e9s, a teljes\u00edtm\u00e9ny, a korl\u00e1toz\u00e1sok \u00e9s az aj\u00e1nlott haszn\u00e1lati k\u00f6r (Mitchell et al., 2019). Ez\u00e9rt a tiltott haszn\u00e1lat r\u00f6gz\u00edt\u00e9se kontroll<\/strong>, nem puszta jogi \u00f3vatoss\u00e1g.<\/p>\n\n\n\n A j\u00f3v\u00e1hagy\u00e1si d\u00f6nt\u00e9s nem felt\u00e9tlen\u00fcl csak \u201eigen\u201d vagy \u201enem\u201d lehet. Egy \u00e9rettebb AIMS t\u00f6bbf\u00e9le d\u00f6nt\u00e9si kimenetet haszn\u00e1l: j\u00f3v\u00e1hagy\u00e1s, korl\u00e1tozott pilot, tov\u00e1bbi tesztel\u00e9s el\u0151\u00edr\u00e1sa, kontrollok er\u0151s\u00edt\u00e9se, vezet\u0151i fel\u00fclvizsg\u00e1lat vagy elutas\u00edt\u00e1s. Ez az\u00e9rt hasznos, mert az AI-bevezet\u00e9s sokszor nem egyetlen ugr\u00e1ssal, hanem fokozatos bizony\u00edt\u00e9k\u00e9p\u00edt\u00e9ssel v\u00e1lik elfogadhat\u00f3v\u00e1. A mindennapi m\u0171k\u00f6d\u00e9sben a felt\u00e9teles j\u00f3v\u00e1hagy\u00e1s felel\u0151s innov\u00e1ci\u00f3s eszk\u00f6z<\/strong>, mert lehet\u0151v\u00e9 teszi a tanul\u00e1st an\u00e9lk\u00fcl, hogy a szervezet vakon v\u00e1llaln\u00e1 a kock\u00e1zatot.<\/p>\n\n\n\n Egy \u00faj AI-haszn\u00e1lati eset minim\u00e1lis j\u00f3v\u00e1hagy\u00e1si csomagja a k\u00f6vetkez\u0151 elemekb\u0151l \u00e1llhat:<\/p>\n\n\n\n c\u00e9l \u00e9s \u00fczleti indok;<\/p>\n\n\n\n \u00e9rintett folyamat \u00e9s felhaszn\u00e1l\u00f3i k\u00f6r;<\/p>\n\n\n\n adatk\u00f6r\u00f6k \u00e9s adatforr\u00e1sok;<\/p>\n\n\n\n v\u00e1rhat\u00f3 d\u00f6nt\u00e9si vagy m\u0171k\u00f6d\u00e9si hat\u00e1s;<\/p>\n\n\n\n \u00e9rintetti k\u00f6vetkezm\u00e9nyek r\u00f6vid \u00e9rt\u00e9kel\u00e9se;<\/p>\n\n\n\n el\u0151zetes kock\u00e1zati besorol\u00e1s;<\/p>\n\n\n\n tervezett kontrollok;<\/p>\n\n\n\n emberi fel\u00fcgyeleti szab\u00e1ly;<\/p>\n\n\n\n tesztel\u00e9si vagy pilotfelt\u00e9telek;<\/p>\n\n\n\n j\u00f3v\u00e1hagy\u00f3k \u00e9s felel\u0151s\u00f6k;<\/p>\n\n\n\n bevezet\u00e9s ut\u00e1ni fel\u00fcgyeleti terv.<\/p>\n\n\n\n Ez a csomag nem adminisztrat\u00edv \u00f6nc\u00e9l. Arra szolg\u00e1l, hogy a szervezet m\u00e1r a kezdeti szakaszban r\u00f6gz\u00edtse a d\u00f6nt\u00e9si logik\u00e1t \u00e9s a felel\u0151ss\u00e9gi rendet. Ha k\u00e9s\u0151bb k\u00e9rd\u00e9s mer\u00fcl fel a rendszer m\u0171k\u00f6d\u00e9s\u00e9vel kapcsolatban, akkor a j\u00f3v\u00e1hagy\u00e1s bizony\u00edt\u00e9kk\u00e1 v\u00e1lik<\/strong>, mert visszakereshet\u0151, milyen felt\u00e9telek mellett engedt\u00e9k haszn\u00e1lni az AI-eszk\u00f6zt.<\/p>\n\n\n\n A fejleszt\u00e9si, konfigur\u00e1l\u00e1si vagy beszerz\u00e9si szakaszban k\u00fcl\u00f6n kell v\u00e1lasztani a technikai m\u0171k\u00f6d\u0151k\u00e9pess\u00e9get \u00e9s az ir\u00e1ny\u00edt\u00e1si k\u00e9sz\u00fclts\u00e9get. Egy AI-rendszer lehet technikailag haszn\u00e1lhat\u00f3, mik\u00f6zben hi\u00e1nyzik hozz\u00e1 a megfelel\u0151 adatdokument\u00e1ci\u00f3, teszteredm\u00e9ny, biztons\u00e1gi \u00e9rt\u00e9kel\u00e9s, emberi fel\u00fcgyeleti szab\u00e1ly vagy monitoringterv. Ilyenkor a m\u0171k\u00f6d\u0151 modell m\u00e9g nem bevezethet\u0151 rendszer<\/strong>, mert az \u00e9les m\u0171k\u00f6d\u00e9shez szervezeti kontrollok is sz\u00fcks\u00e9gesek.<\/p>\n\n\n\n A tesztel\u00e9s egyik alapja az adatforr\u00e1sok \u00e9s adatmin\u0151s\u00e9g vizsg\u00e1lata. Dokument\u00e1lni kell, milyen adatokb\u00f3l tanul vagy m\u0171k\u00f6dik a rendszer, milyen az adatok eredete, milyen korl\u00e1taik vannak, milyen felhaszn\u00e1l\u00e1si felt\u00e9telek kapcsol\u00f3dnak hozz\u00e1juk, \u00e9s hogyan friss\u00fclnek. A datasheets for datasets megk\u00f6zel\u00edt\u00e9s azt javasolja, hogy az adatk\u00e9szletekhez tartozzon dokument\u00e1ci\u00f3 a motiv\u00e1ci\u00f3r\u00f3l, \u00f6sszet\u00e9telr\u0151l, gy\u0171jt\u00e9sr\u0151l, aj\u00e1nlott haszn\u00e1latr\u00f3l \u00e9s karbantart\u00e1sr\u00f3l (Gebru et al., 2021). A szervezeti gyakorlatban az adatdokument\u00e1ci\u00f3 a modellkock\u00e1zat alapbizony\u00edt\u00e9ka<\/strong>, mert en\u00e9lk\u00fcl a kimenetek megb\u00edzhat\u00f3s\u00e1ga sem \u00e9rtelmezhet\u0151 megfelel\u0151en.<\/p>\n\n\n\n A tesztel\u00e9s nem sz\u0171k\u00edthet\u0151 le pontoss\u00e1gi mutat\u00f3kra. Az AI-rendszern\u00e9l vizsg\u00e1lni kell a teljes\u00edtm\u00e9nyt a tervezett haszn\u00e1lati c\u00e9lhoz k\u00e9pest, a hib\u00e1k t\u00edpus\u00e1t, a sz\u00e9ls\u0151 eseteket, a k\u00fcl\u00f6nb\u00f6z\u0151 bemeneti helyzeteket, a felhaszn\u00e1l\u00f3i \u00e9rtelmezhet\u0151s\u00e9get \u00e9s a t\u00e9ves kimenetek k\u00f6vetkezm\u00e9nyeit. A ML Test Score megk\u00f6zel\u00edt\u00e9s a termel\u00e9si g\u00e9pi tanul\u00e1si rendszerek eset\u00e9ben adat-, modell-, infrastrukt\u00fara- \u00e9s monitoringteszteket is kiemel (Breck et al., 2017). Ebb\u0151l k\u00f6vetkezik, hogy a pontoss\u00e1g csak egy tesztkateg\u00f3ria<\/strong>, nem a teljes megb\u00edzhat\u00f3s\u00e1gi bizony\u00edt\u00e9k.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s el\u0151tti valid\u00e1l\u00e1snak a d\u00f6nt\u00e9si kontextust is vizsg\u00e1lnia kell. Ha az AI-eszk\u00f6z \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3t t\u00e1mogat, akkor tesztelni kell a hi\u00e1nyos, f\u00e9lre\u00e9rthet\u0151 vagy konfliktusos bemeneteket. Ha d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszerk\u00e9nt m\u0171k\u00f6dik, \u00e9rt\u00e9kelni kell, hogy a felhaszn\u00e1l\u00f3k \u00e9rtik-e a kimenet korl\u00e1tait. Ha kock\u00e1zati rangsort vagy el\u0151rejelz\u00e9st ad, meg kell vizsg\u00e1lni, milyen k\u00f6vetkezm\u00e9nye lehet a t\u00e9ves besorol\u00e1snak. A gyakorlati kontrollk\u00e9rd\u00e9s itt az, hogy a teszt a val\u00f3s haszn\u00e1latot k\u00f6zel\u00edti-e<\/strong>, vagy csak laborat\u00f3riumi teljes\u00edtm\u00e9nyt m\u00e9r.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9snek k\u00f6telez\u0151 d\u00f6nt\u00e9si kapuk\u00e9nt kell m\u0171k\u00f6dnie. Nem elegend\u0151 egy technikai \u201ego-live\u201d megbesz\u00e9l\u00e9s, amelyen csak az integr\u00e1ci\u00f3s \u00e1llapotot n\u00e9zik \u00e1t. Az \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9snek tartalmaznia kell a c\u00e9l meger\u0151s\u00edt\u00e9s\u00e9t, a teszteredm\u00e9nyek elfogad\u00e1s\u00e1t, a kock\u00e1zati st\u00e1tuszt, az adatkezel\u00e9si \u00e9s inform\u00e1ci\u00f3biztons\u00e1gi felt\u00e9teleket, a felhaszn\u00e1l\u00f3i t\u00e1j\u00e9koztat\u00e1st, az emberi fel\u00fcgyeleti szab\u00e1lyt \u00e9s a monitoringtervet. Ilyenkor az \u00e9les\u00edt\u00e9s szervezeti j\u00f3v\u00e1hagy\u00e1s<\/strong>, nem puszt\u00e1n \u00fczemeltet\u00e9si esem\u00e9ny.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9shez sz\u00fcks\u00e9ges bizony\u00edt\u00e9kok tipikus k\u00f6re a k\u00f6vetkez\u0151:<\/p>\n\n\n\n c\u00e9lle\u00edr\u00e1s \u00e9s haszn\u00e1lati korl\u00e1t;<\/p>\n\n\n\n rendszer- vagy modellle\u00edr\u00e1s;<\/p>\n\n\n\n adatforr\u00e1s- \u00e9s adatmin\u0151s\u00e9gi dokument\u00e1ci\u00f3;<\/p>\n\n\n\n tesztterv \u00e9s teszteredm\u00e9nyek;<\/p>\n\n\n\n hibakateg\u00f3ri\u00e1k \u00e9s elfogad\u00e1si k\u00fcsz\u00f6b\u00f6k;<\/p>\n\n\n\n inform\u00e1ci\u00f3biztons\u00e1gi ellen\u0151rz\u00e9s;<\/p>\n\n\n\n adatv\u00e9delmi \u00e9rt\u00e9kel\u00e9s, ha szem\u00e9lyes adat \u00e9rintett;<\/p>\n\n\n\n emberi fel\u00fcgyeleti szab\u00e1ly;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i \u00fatmutat\u00f3;<\/p>\n\n\n\n monitoring- \u00e9s incidenskezel\u00e9si terv;<\/p>\n\n\n\n \u00e9les\u00edt\u00e9si j\u00f3v\u00e1hagy\u00e1s.<\/p>\n\n\n\n A tesztel\u00e9s \u00e9rt\u00e9kel\u00e9s\u00e9hez el\u0151re r\u00f6gz\u00edtett elfogad\u00e1si krit\u00e9riumok kellenek. Nem el\u00e9g azt mondani, hogy a rendszer \u201emegfelel\u0151en m\u0171k\u00f6dik\u201d; pontos\u00edtani kell, milyen hibaar\u00e1ny, teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b, adathi\u00e1ny, emberi fel\u00fclvizsg\u00e1lati ar\u00e1ny vagy m\u0171k\u00f6d\u00e9si korl\u00e1t elfogadhat\u00f3. Ha a krit\u00e9riumokat csak ut\u00f3lag igaz\u00edtj\u00e1k a teszteredm\u00e9nyhez, akkor a tesztel\u00e9s elvesz\u00edti d\u00f6nt\u00e9st\u00e1mogat\u00f3 erej\u00e9t<\/strong>, mert nem f\u00fcggetlen m\u00e9rce alapj\u00e1n t\u00f6rt\u00e9nik az \u00e9rt\u00e9kel\u00e9s.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s ut\u00e1n a fel\u00fcgyelet v\u00e1lik k\u00f6zponti feladatt\u00e1. Az AI-rendszer m\u0171k\u00f6d\u00e9se id\u0151vel v\u00e1ltozhat: m\u00f3dosulhatnak a bemeneti adatok, a felhaszn\u00e1l\u00f3i gyakorlatok, az \u00fczleti folyamatok, a modellkimenetek vagy a szab\u00e1lyoz\u00e1si elv\u00e1r\u00e1sok. A g\u00e9pi tanul\u00e1si rendszerek rejtett technikai ad\u00f3ss\u00e1g\u00e1r\u00f3l sz\u00f3l\u00f3 tanulm\u00e1ny r\u00e1mutat, hogy az ML-rendszerek fenntart\u00e1si kock\u00e1zatai nemcsak a k\u00f3db\u00f3l, hanem az adatokb\u00f3l, f\u00fcgg\u0151s\u00e9gekb\u0151l, visszacsatol\u00e1si hurkokb\u00f3l \u00e9s k\u00f6rnyezeti v\u00e1ltoz\u00e1sokb\u00f3l is fakadhatnak (Sculley et al., 2015). Ez\u00e9rt az AI-karbantart\u00e1s nem puszta hibajav\u00edt\u00e1s<\/strong>, hanem a modell-, adat- \u00e9s folyamatk\u00f6rnyezet k\u00f6z\u00f6s figyel\u00e9se.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9s k\u00f6zbeni monitoringnak legal\u00e1bb h\u00e1rom r\u00e9tege van. Az els\u0151 a technikai m\u0171k\u00f6d\u00e9s: el\u00e9rhet\u0151s\u00e9g, v\u00e1laszid\u0151, hib\u00e1k, napl\u00f3z\u00e1s \u00e9s integr\u00e1ci\u00f3k. A m\u00e1sodik a kimeneti min\u0151s\u00e9g: pontoss\u00e1g, hibamint\u00e1zat, teljes\u00edtm\u00e9nyroml\u00e1s, nem k\u00edv\u00e1nt kimenet vagy adatdrift. A harmadik a szervezeti hat\u00e1s: felhaszn\u00e1l\u00f3i visszajelz\u00e9s, panasz, d\u00f6nt\u00e9si elt\u00e9r\u00e9s, \u00fcgyf\u00e9l- vagy munkav\u00e1llal\u00f3i k\u00f6vetkezm\u00e9ny. Ebben a szerkezetben a monitoring nem csak informatikai fel\u00fcgyelet<\/strong>, hanem kock\u00e1zatkezel\u00e9si tev\u00e9kenys\u00e9g.<\/p>\n\n\n\n A fel\u00fcgyeletnek rendszeres \u00e9s esem\u00e9nyvez\u00e9relt elemekb\u0151l kell \u00e1llnia. Rendszeres fel\u00fclvizsg\u00e1lat t\u00f6rt\u00e9nhet negyed\u00e9vente, f\u00e9l\u00e9vente vagy \u00e9vente, a kock\u00e1zati szintt\u0151l f\u00fcgg\u0151en. Esem\u00e9nyvez\u00e9relt fel\u00fclvizsg\u00e1latot ind\u00edthat panasz, incidens, \u00faj adatforr\u00e1s, modellv\u00e1ltoz\u00e1s, besz\u00e1ll\u00edt\u00f3i friss\u00edt\u00e9s, jelent\u0151s teljes\u00edtm\u00e9nyroml\u00e1s, szab\u00e1lyoz\u00e1si v\u00e1ltoz\u00e1s vagy a rendszer \u00faj felhaszn\u00e1l\u00e1si m\u00f3dja. Az \u00e9rett AIMS-ben a fel\u00fclvizsg\u00e1lat nem napt\u00e1ri formalit\u00e1s<\/strong>, hanem a m\u0171k\u00f6d\u00e9shez igazod\u00f3 d\u00f6nt\u00e9si mechanizmus.<\/p>\n\n\n\n Az AI-rendszerek v\u00e1ltoz\u00e1skezel\u00e9se az\u00e9rt k\u00fcl\u00f6n\u00f6sen fontos, mert nem minden l\u00e9nyeges v\u00e1ltoz\u00e1s l\u00e1that\u00f3 klasszikus szoftververzi\u00f3k\u00e9nt. V\u00e1ltoz\u00e1snak sz\u00e1m\u00edthat a modellverzi\u00f3 cser\u00e9je, az adatforr\u00e1s m\u00f3dos\u00edt\u00e1sa, a felhaszn\u00e1l\u00f3i k\u00f6r b\u0151v\u00fcl\u00e9se, a prompt vagy szab\u00e1lyrendszer \u00e1talak\u00edt\u00e1sa, a besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1s friss\u00edt\u00e9se, az \u00fczleti folyamat megv\u00e1ltoz\u00e1sa vagy az AI-kimenetek \u00faj d\u00f6nt\u00e9si c\u00e9lra val\u00f3 haszn\u00e1lata. Ha ezek nem ker\u00fclnek kontroll al\u00e1, akkor az AI-specifikus v\u00e1ltoz\u00e1s l\u00e1thatatlan maradhat<\/strong>, mik\u00f6zben a kock\u00e1zati profil \u00e9rdemben m\u00f3dosul.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9si folyamatnak meg kell hat\u00e1roznia, mely v\u00e1ltoz\u00e1sok ig\u00e9nyelnek \u00faj tesztet, \u00faj kock\u00e1zati \u00e9rt\u00e9kel\u00e9st, adatv\u00e9delmi fel\u00fclvizsg\u00e1latot, biztons\u00e1gi ellen\u0151rz\u00e9st, felhaszn\u00e1l\u00f3i t\u00e1j\u00e9koztat\u00e1st vagy vezet\u0151i j\u00f3v\u00e1hagy\u00e1st. Nem minden m\u00f3dos\u00edt\u00e1s azonos s\u00faly\u00fa, ez\u00e9rt hasznos lehet h\u00e1rom kateg\u00f3ri\u00e1t alkalmazni: kisebb technikai m\u00f3dos\u00edt\u00e1s, l\u00e9nyeges m\u0171k\u00f6d\u00e9si v\u00e1ltoz\u00e1s \u00e9s magas kock\u00e1zat\u00fa v\u00e1ltoz\u00e1s. A szervezeti logika itt az, hogy a v\u00e1ltoz\u00e1s hat\u00e1sa sz\u00e1m\u00edt<\/strong>, nem csup\u00e1n a v\u00e1ltoz\u00e1s m\u00e9rete.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s sor\u00e1n az emberi fel\u00fcgyeletet is \u00fajra kell \u00e9rt\u00e9kelni. Ha az AI-kimenetek egy ideig megb\u00edzhat\u00f3nak t\u0171nnek, a felhaszn\u00e1l\u00f3k t\u00falzottan r\u00e1hagyatkozhatnak a rendszerre. Ha gyakran tapasztalnak hib\u00e1t, akkor ker\u00fcl\u0151utakat alak\u00edthatnak ki, vagy teljesen elvesz\u00edthetik a bizalmukat. Mindk\u00e9t helyzet kock\u00e1zatot teremt. Ez\u00e9rt az emberi fel\u00fcgyeletet haszn\u00e1lat k\u00f6zben is kalibr\u00e1lni kell<\/strong>, nem csak az \u00e9les\u00edt\u00e9s el\u0151tt.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9s k\u00f6zben keletkez\u0151 bizony\u00edt\u00e9koknak k\u00f6vetni\u00fck kell a val\u00f3s v\u00e1ltoz\u00e1sokat. Nem elegend\u0151 az \u00e9les\u00edt\u00e9skor l\u00e9trehozott dokument\u00e1ci\u00f3, ha k\u00f6zben a rendszer adatai, c\u00e9lja, felhaszn\u00e1l\u00f3i k\u00f6re vagy kimeneti szerepe m\u00f3dosult. Friss\u00fclni\u00fck kell a rendszerle\u00edr\u00e1soknak, v\u00e1ltoz\u00e1snapl\u00f3knak, monitoringjelent\u00e9seknek, incidensrekordoknak, fel\u00fclvizsg\u00e1lati d\u00f6nt\u00e9seknek \u00e9s felhaszn\u00e1l\u00f3i \u00fatmutat\u00f3knak. A gyakorlatban a dokument\u00e1ci\u00f3 a m\u0171k\u00f6d\u00e9s t\u00fckre<\/strong>, nem ut\u00f3lag gy\u00e1rtott megfelel\u0151s\u00e9gi mell\u00e9klet.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9shez kapcsol\u00f3d\u00f3 m\u0171k\u00f6d\u00e9si bizony\u00edt\u00e9kok k\u00f6z\u00e9 tartozhatnak:<\/p>\n\n\n\n v\u00e1ltoz\u00e1sk\u00e9relmek \u00e9s indokol\u00e1sok;<\/p>\n\n\n\n hat\u00e1s\u00e9rt\u00e9kel\u00e9sek;<\/p>\n\n\n\n \u00fajratesztel\u00e9si eredm\u00e9nyek;<\/p>\n\n\n\n m\u00f3dos\u00edtott adat- vagy modellle\u00edr\u00e1sok;<\/p>\n\n\n\n j\u00f3v\u00e1hagy\u00e1si jegyz\u0151k\u00f6nyvek;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i t\u00e1j\u00e9koztat\u00e1sok;<\/p>\n\n\n\n friss\u00edtett kontrollle\u00edr\u00e1sok;<\/p>\n\n\n\n monitoringriportok;<\/p>\n\n\n\n elt\u00e9r\u00e9s- \u00e9s kiv\u00e9telkezel\u00e9si jegyz\u0151k\u00f6nyvek.<\/p>\n\n\n\n Az incidenskezel\u00e9s szint\u00e9n az AI-\u00e9letciklus r\u00e9sze. AI-incidens lehet hib\u00e1s vagy k\u00e1ros kimenet, jogosulatlan adathaszn\u00e1lat, hozz\u00e1f\u00e9r\u00e9si probl\u00e9ma, jelent\u0151s teljes\u00edtm\u00e9nyroml\u00e1s, \u00fcgyf\u00e9lre vagy munkav\u00e1llal\u00f3ra gyakorolt nem k\u00edv\u00e1nt hat\u00e1s, vagy olyan felhaszn\u00e1l\u00f3i gyakorlat, amely elt\u00e9r az enged\u00e9lyezett haszn\u00e1lati szab\u00e1lyt\u00f3l. Az incidens nemcsak technikai hiba lehet. Sokszor az AI-incidens m\u0171k\u00f6d\u00e9si elt\u00e9r\u00e9sk\u00e9nt jelenik meg<\/strong>, amelyben a folyamat, a felhaszn\u00e1l\u00f3, az adat \u00e9s a rendszer egy\u00fctt okoz kock\u00e1zatot.<\/p>\n\n\n\n Az incidensfolyamatnak tartalmaznia kell az \u00e9szlel\u00e9st, az eszkal\u00e1ci\u00f3t, a hat\u00e1s\u00e9rt\u00e9kel\u00e9st, a jav\u00edt\u00f3 int\u00e9zked\u00e9st, a kommunik\u00e1ci\u00f3t \u00e9s a tanuls\u00e1gok visszacsatol\u00e1s\u00e1t. Ha a szervezet csak lez\u00e1rja az incidenst, de nem m\u00f3dos\u00edtja a kontrollokat, akkor ugyanaz a hiba k\u00e9s\u0151bb megism\u00e9tl\u0151dhet. Egy j\u00f3l m\u0171k\u00f6d\u0151 AIMS-ben az incidens tanul\u00e1si pont<\/strong>, nem puszt\u00e1n adminisztrat\u00edv rekord.<\/p>\n\n\n\n Az AI-\u00e9letciklus gyakran alul\u00e9rt\u00e9kelt szakasza a kivon\u00e1s. Sok szervezet r\u00e9szletesen szab\u00e1lyozza az \u00faj AI-eszk\u00f6z ind\u00edt\u00e1s\u00e1t, de kev\u00e9sb\u00e9 gondolja v\u00e9gig, hogyan kell megsz\u00fcntetni, helyettes\u00edteni vagy archiv\u00e1lni egy rendszert. Pedig a kivon\u00e1s adatmeg\u0151rz\u00e9si, hozz\u00e1f\u00e9r\u00e9si, besz\u00e1ll\u00edt\u00f3i, audit\u00e1l\u00e1si, kommunik\u00e1ci\u00f3s \u00e9s \u00fczletmenet-folytonoss\u00e1gi k\u00e9rd\u00e9seket is felvethet. Ez\u00e9rt az AI-rendszer kivon\u00e1sa ir\u00e1ny\u00edt\u00e1si d\u00f6nt\u00e9s<\/strong>, nem egyszer\u0171 technikai lekapcsol\u00e1s.<\/p>\n\n\n\n Kivon\u00e1sra t\u00f6bb okb\u00f3l ker\u00fclhet sor: megsz\u0171nik a haszn\u00e1lati c\u00e9l, romlik a teljes\u00edtm\u00e9ny, \u00faj technol\u00f3gia v\u00e1ltja fel a rendszert, ar\u00e1nytalann\u00e1 v\u00e1lnak a kock\u00e1zatok, adatv\u00e9delmi vagy compliance probl\u00e9ma mer\u00fcl fel, vagy megv\u00e1ltozik a besz\u00e1ll\u00edt\u00f3i h\u00e1tt\u00e9r. A kivon\u00e1si d\u00f6nt\u00e9st dokument\u00e1lni kell, \u00e9s ki kell t\u00e9rni arra, mi t\u00f6rt\u00e9nik az adatokkal, modellekkel, napl\u00f3kkal, hozz\u00e1f\u00e9r\u00e9sekkel, dokument\u00e1ci\u00f3val \u00e9s folyamatf\u00fcgg\u0151s\u00e9gekkel. Ha ez elmarad, akkor a megsz\u0171n\u0151 rendszer is hagyhat kock\u00e1zatot<\/strong>, p\u00e9ld\u00e1ul r\u00e9gi hozz\u00e1f\u00e9r\u00e9seket, rendezetlen adat\u00e1llom\u00e1nyokat vagy tiszt\u00e1zatlan felel\u0151ss\u00e9get.<\/p>\n\n\n\n A kivon\u00e1s kommunik\u00e1ci\u00f3s feladat is. A felhaszn\u00e1l\u00f3knak tudniuk kell, mikort\u00f3l nem haszn\u00e1lhat\u00f3 a rendszer, milyen alternat\u00edv\u00e1t kell alkalmazniuk, hogyan kezelik a folyamatban l\u00e9v\u0151 \u00fcgyeket, \u00e9s mi t\u00f6rt\u00e9nik a kor\u00e1bbi AI-kimenetekkel. A rendszer lekapcsol\u00e1sa \u00f6nmag\u00e1ban nem el\u00e9g, ha a felhaszn\u00e1l\u00f3i gyakorlat tov\u00e1bb \u00e9l. A biztons\u00e1gos kivon\u00e1sban a technikai lez\u00e1r\u00e1s \u00e9s a m\u0171k\u00f6d\u00e9si lez\u00e1r\u00e1s egy\u00fctt sz\u00fcks\u00e9ges<\/strong>.<\/p>\n\n\n\n Az AI-\u00e9letciklus napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edt\u00e9se akkor sikeres, ha a szervezet egyszer\u0171, k\u00f6vetkezetes \u00e9s ar\u00e1nyos folyamatot alkalmaz. Nem felt\u00e9tlen\u00fcl kell minden AI-eszk\u00f6zh\u00f6z bonyolult workflow-rendszert l\u00e9trehozni, de minden esetben sz\u00fcks\u00e9g van felel\u0151s\u00f6kre, kontrollpontokra, d\u00f6nt\u00e9si felt\u00e9telekre \u00e9s bizony\u00edt\u00e9kokra. A folyamat c\u00e9lja, hogy az AI ne ker\u00fclhessen kontroll n\u00e9lk\u00fcl \u00e9les haszn\u00e1latba<\/strong>, m\u00e9g akkor sem, ha gyors \u00fczleti nyom\u00e1s vagy technol\u00f3giai lelkesed\u00e9s hajtja a bevezet\u00e9st.<\/p>\n\n\n\n Egy gyakorlati m\u0171k\u00f6d\u00e9si folyamat t\u00edz l\u00e9p\u00e9sben \u00edrhat\u00f3 le:<\/p>\n\n\n\n Ig\u00e9nybejelent\u00e9s El\u0151zetes besorol\u00e1s Kock\u00e1zati \u00e9s megfelel\u0151s\u00e9gi \u00e9rt\u00e9kel\u00e9s Fejleszt\u00e9s, konfigur\u00e1l\u00e1s vagy beszerz\u00e9s Tesztel\u00e9s \u00e9s valid\u00e1l\u00e1s \u00c9les\u00edt\u00e9si d\u00f6nt\u00e9s M\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fcgyelet V\u00e1ltoz\u00e1skezel\u00e9s Incidens- \u00e9s elt\u00e9r\u00e9skezel\u00e9s Kivon\u00e1s vagy helyettes\u00edt\u00e9s Ez a folyamat akkor m\u0171k\u00f6dik j\u00f3l, ha nem v\u00e1lik indokolatlanul neh\u00e9zkess\u00e9. Alacsony kock\u00e1zat\u00fa AI-haszn\u00e1latn\u00e1l egyszer\u0171s\u00edtett \u00e9rt\u00e9kel\u00e9s is elegend\u0151 lehet, magasabb hat\u00e1s\u00fa rendszern\u00e9l viszont r\u00e9szletes hat\u00e1selemz\u00e9sre, tesztel\u00e9sre, vezet\u0151i j\u00f3v\u00e1hagy\u00e1sra \u00e9s rendszeres fel\u00fcgyeletre van sz\u00fcks\u00e9g. A m\u0171k\u00f6d\u00e9si szab\u00e1ly l\u00e9nyege, hogy a kontroll s\u00falya a d\u00f6nt\u00e9si hat\u00e1shoz igazodik<\/strong>, nem az eszk\u00f6z \u00fajdons\u00e1g\u00e1hoz vagy n\u00e9pszer\u0171s\u00e9g\u00e9hez.<\/p>\n\n\n\n A napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edtett \u00e9letciklus akkor cs\u00f6kkenti az adminisztr\u00e1ci\u00f3t, ha a szervezet nem p\u00e1rhuzamos rendszereket \u00e9p\u00edt, hanem megl\u00e9v\u0151 folyamatait eg\u00e9sz\u00edti ki AI-specifikus elemekkel. A v\u00e1ltoz\u00e1skezel\u00e9s, dokumentumkezel\u00e9s, incidenskezel\u00e9s, bels\u0151 audit \u00e9s vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s m\u00e1r sok szervezetben l\u00e9tezik. Ezekhez kell hozz\u00e1illeszteni az AI-specifikus kontrollokat: adatdrift figyel\u00e9s\u00e9t, modellverzi\u00f3k dokument\u00e1l\u00e1s\u00e1t, promptv\u00e1ltoz\u00e1sok kezel\u00e9s\u00e9t, emberi fel\u00fcgyelet ellen\u0151rz\u00e9s\u00e9t vagy AI-kimenetek mintav\u00e9teles vizsg\u00e1lat\u00e1t. Ebben az integr\u00e1ci\u00f3 nem a k\u00fcl\u00f6nbs\u00e9gek elt\u00fcntet\u00e9se<\/strong>, hanem a megl\u00e9v\u0151 ir\u00e1ny\u00edt\u00e1si logika AI-specifikus kieg\u00e9sz\u00edt\u00e9se.<\/p>\n\n\n\n A folyamat fenntart\u00e1s\u00e1hoz szerepek is kellenek. Az \u00fczleti tulajdonos felel a c\u00e9l\u00e9rt \u00e9s a haszn\u00e1lati indokolts\u00e1g\u00e9rt. A technikai felel\u0151s az implement\u00e1ci\u00f3\u00e9rt \u00e9s \u00fczemeltet\u00e9s\u00e9rt. Az adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi \u00e9s compliance szerepk\u00f6r\u00f6k a kontrollfelt\u00e9teleket vizsg\u00e1lj\u00e1k. A bels\u0151 audit vagy f\u00fcggetlen ellen\u0151rz\u00e9si funkci\u00f3 azt \u00e9rt\u00e9keli, hogy a folyamat t\u00e9nylegesen m\u0171k\u00f6dik-e. A napi gyakorlatban a felel\u0151ss\u00e9g kioszt\u00e1sa a folyamat gerince<\/strong>, mert gazd\u00e1tlan \u00e9letciklus nem audit\u00e1lhat\u00f3.<\/p>\n\n\n\n A be\u00e9p\u00edtett folyamatv\u00e1zlat seg\u00edti a szervezetet abban is, hogy az AI-rendszerek ne v\u00e1ljanak inform\u00e1lis k\u00eds\u00e9rletek halmaz\u00e1v\u00e1. Ha minden \u00faj haszn\u00e1lati esetnek van kezdem\u00e9nyez\u00e9si \u00fatja, minden \u00e9les\u00edt\u00e9snek van d\u00f6nt\u00e9si kapuja, minden v\u00e1ltoz\u00e1snak van \u00e9rt\u00e9kel\u00e9si szab\u00e1lya, \u00e9s minden incidensnek van visszacsatol\u00e1sa, akkor az AIMS nem elvont szabv\u00e1nyk\u00f6vetelm\u00e9nyk\u00e9nt m\u0171k\u00f6dik. A m\u0171k\u00f6d\u00e9si rendben az AI-ir\u00e1ny\u00edt\u00e1s a mindennapi d\u00f6nt\u00e9sek min\u0151s\u00e9g\u00e9t jav\u00edtja<\/strong>, nem csak az auditfelk\u00e9sz\u00fcl\u00e9st t\u00e1mogatja.<\/p>\n\n\n\n Az AI-\u00e9letciklus napi m\u0171k\u00f6d\u00e9sbe \u00e9p\u00edt\u00e9se v\u00e9g\u00fcl h\u00e1rom alapvet\u0151 k\u00e9rd\u00e9s megv\u00e1laszol\u00e1s\u00e1ra k\u00e9nyszer\u00edti a szervezetet: mi t\u00f6rt\u00e9nik az AI-rendszerrel, ki felel \u00e9rte, \u00e9s milyen bizony\u00edt\u00e9k igazolja, hogy a kontroll m\u0171k\u00f6d\u00f6tt. Ha ezekre k\u00f6vetkezetes v\u00e1lasz adhat\u00f3, akkor az AI ir\u00e1ny\u00edt\u00e1si rendszer nem puszt\u00e1n dokument\u00e1lt, hanem m\u0171k\u00f6d\u0151k\u00e9pes is. A felel\u0151s AI-haszn\u00e1lat nem a technol\u00f3gia lass\u00edt\u00e1s\u00e1t jelenti, hanem azt, hogy az innov\u00e1ci\u00f3 ellen\u0151rizhet\u0151, jav\u00edthat\u00f3 \u00e9s elsz\u00e1moltathat\u00f3 szervezeti folyamatban t\u00f6rt\u00e9nik.<\/p>\n\n\n\n Breck, E., Cai, S., Nielsen, E., Salib, M., & Sculley, D. (2017). The ML test score: A rubric for ML production readiness and technical debt reduction<\/em>. IEEE International Conference on Big Data. https:\/\/research.google.com\/pubs\/archive\/aad9f93b86b7addfea4c419b9100c6cdd26cacea.pdf<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daum\u00e9 III, H., & Crawford, K. (2021). Datasheets for datasets. Communications of the ACM, 64<\/em>(12), 86\u201392. https:\/\/doi.org\/10.1145\/3458723<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model cards for model reporting. Proceedings of the Conference on Fairness, Accountability, and Transparency<\/em>, 220\u2013229. https:\/\/doi.org\/10.1145\/3287560.3287596<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\n\u00daj AI-haszn\u00e1lati esetek j\u00f3v\u00e1hagy\u00e1sa<\/h2>\n\n\n\n
Tesztel\u00e9s, \u00e9les\u00edt\u00e9s \u00e9s m\u0171k\u00f6d\u00e9s k\u00f6zbeni fel\u00fcgyelet<\/h2>\n\n\n\n
V\u00e1ltoz\u00e1skezel\u00e9s, incidensek \u00e9s kivon\u00e1s<\/h2>\n\n\n\n
Folyamatv\u00e1zlat a napi m\u0171k\u00f6d\u00e9shez<\/h2>\n\n\n\n
Az \u00fczleti ter\u00fclet r\u00f6gz\u00edti a c\u00e9lt, a tervezett haszn\u00e1latot, az \u00e9rintett folyamatot, az adatk\u00f6r\u00f6ket \u00e9s a v\u00e1rhat\u00f3 kimenetet.<\/p>\n\n\n\n
Az AI-ir\u00e1ny\u00edt\u00e1si felel\u0151s vagy kijel\u00f6lt koordin\u00e1tor meghat\u00e1rozza, hogy alacsony, k\u00f6zepes vagy magasabb hat\u00e1s\u00fa haszn\u00e1latr\u00f3l van-e sz\u00f3.<\/p>\n\n\n\n
Az adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi, compliance, \u00fczleti \u00e9s technikai szempontok alapj\u00e1n meghat\u00e1rozz\u00e1k a sz\u00fcks\u00e9ges kontrollokat.<\/p>\n\n\n\n
A megval\u00f3s\u00edt\u00e1s csak a j\u00f3v\u00e1hagyott c\u00e9l, adatk\u00f6r, felel\u0151ss\u00e9gi rend \u00e9s haszn\u00e1lati korl\u00e1t alapj\u00e1n indulhat.<\/p>\n\n\n\n
A rendszer teljes\u00edtm\u00e9ny\u00e9t, hib\u00e1it, adatkezel\u00e9si felt\u00e9teleit, emberi fel\u00fcgyelet\u00e9t \u00e9s korl\u00e1tait dokument\u00e1ltan \u00e9rt\u00e9kelik.<\/p>\n\n\n\n
A kijel\u00f6lt j\u00f3v\u00e1hagy\u00f3k csak akkor enged\u00e9lyezik az \u00e9les haszn\u00e1latot, ha a bizony\u00edt\u00e9kok \u00e9s kontrollok rendelkez\u00e9sre \u00e1llnak.<\/p>\n\n\n\n
A rendszer teljes\u00edtm\u00e9ny\u00e9t, kimeneteit, hib\u00e1it, visszajelz\u00e9seit \u00e9s v\u00e1ltoz\u00e1sait folyamatosan figyelik.<\/p>\n\n\n\n
Minden l\u00e9nyeges modell-, adat-, folyamat-, felhaszn\u00e1l\u00f3i vagy besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1s \u00fajra\u00e9rt\u00e9kel\u00e9st ind\u00edthat.<\/p>\n\n\n\n
A hib\u00e1s, k\u00e1ros, nem enged\u00e9lyezett vagy v\u00e1ratlan m\u0171k\u00f6d\u00e9st dokument\u00e1ltan vizsg\u00e1lj\u00e1k, jav\u00edtj\u00e1k \u00e9s visszacsatolj\u00e1k.<\/p>\n\n\n\n
A rendszer lez\u00e1r\u00e1s\u00e1t, adatkezel\u00e9s\u00e9t, hozz\u00e1f\u00e9r\u00e9seit, dokument\u00e1ci\u00f3j\u00e1t \u00e9s \u00e1t\u00e1ll\u00e1si hat\u00e1sait kontroll\u00e1ltan kezelik.<\/p>\n\n\n\nFelhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n