Egy AI ir\u00e1ny\u00edt\u00e1si rendszer nem att\u00f3l m\u0171k\u00f6dik, hogy elk\u00e9sz\u00fcltek a szab\u00e1lyzatok, \u00e9s nem is att\u00f3l, hogy a szervezet egyszer megfelelt egy auditon. A val\u00f3di k\u00e9rd\u00e9s az, hogy a vezet\u00e9s rendszeresen l\u00e1tja-e, mi t\u00f6rt\u00e9nik az AI-rendszerekkel: hol n\u0151 a kock\u00e1zat, hol gyeng\u00fclnek a kontrollok, hol kell er\u0151forr\u00e1st adni, \u00e9s hol kell \u00fczleti vagy etikai hat\u00e1rt h\u00fazni.<\/p>\n\n\n\n
Az ISO\/IEC 42001 alap\u00fa AIMS-ben a vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s az a d\u00f6nt\u00e9si f\u00f3rum, ahol a m\u00e9r\u00e9si eredm\u00e9nyek, auditmeg\u00e1llap\u00edt\u00e1sok, incidensek, kock\u00e1zatok, \u00e9rintetti visszajelz\u00e9sek \u00e9s szab\u00e1lyoz\u00e1si v\u00e1ltoz\u00e1sok vezet\u0151i d\u00f6nt\u00e9sekk\u00e9 alakulnak. Nem technikai r\u00e9szletmegbesz\u00e9l\u00e9s, hanem ir\u00e1ny\u00edt\u00e1si esem\u00e9ny: annak vizsg\u00e1lata, hogy az AI ir\u00e1ny\u00edt\u00e1si rendszer alkalmas, eredm\u00e9nyes \u00e9s fejleszthet\u0151-e a szervezet c\u00e9ljaihoz \u00e9s kock\u00e1zati k\u00f6rnyezet\u00e9hez m\u00e9rten (International Organization for Standardization, 2023).<\/p>\n\n\n\n
A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s c\u00e9lja annak meg\u00e1llap\u00edt\u00e1sa, hogy az AIMS nemcsak l\u00e9tezik, hanem m\u0171k\u00f6dik is. Ez a k\u00fcl\u00f6nbs\u00e9g alapvet\u0151: egy szervezetnek lehet AI-politik\u00e1ja, haszn\u00e1latieset-nyilv\u00e1ntart\u00e1sa, kock\u00e1zat\u00e9rt\u00e9kel\u00e9si sablonja \u00e9s incidenskezel\u00e9si folyamata, de ett\u0151l m\u00e9g nem biztos, hogy a rendszer k\u00e9pes \u00e9szlelni a val\u00f3di elt\u00e9r\u00e9seket. A vezet\u00e9snek ez\u00e9rt nem dokumentumok puszta megl\u00e9t\u00e9t kell \u00e1ttekintenie. A j\u00f3 \u00e1tvizsg\u00e1l\u00e1sban a megfelel\u0151s\u00e9g vezet\u0151i d\u00f6nt\u00e9sk\u00e9pess\u00e9gg\u00e9 alakul<\/strong>, \u00e9s ez adja az AIMS gyakorlati \u00e9rt\u00e9k\u00e9t.<\/p>\n\n\n\n Az ISO\/IEC 42001 a mesters\u00e9gesintelligencia-ir\u00e1ny\u00edt\u00e1si rendszert olyan szervezeti keretk\u00e9nt kezeli, amely politik\u00e1kb\u00f3l, c\u00e9lokb\u00f3l \u00e9s folyamatokb\u00f3l \u00e9p\u00fcl fel az AI-rendszerek felel\u0151s fejleszt\u00e9s\u00e9hez, biztos\u00edt\u00e1s\u00e1hoz vagy haszn\u00e1lat\u00e1hoz. A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s ebben a logik\u00e1ban nem lez\u00e1r\u00f3 adminisztrat\u00edv l\u00e9p\u00e9s, hanem a folyamatos fejleszt\u00e9s egyik motorja. Ha a vezet\u00e9s nem \u00e9rt\u00e9keli rendszeresen az AIMS teljes\u00edtm\u00e9ny\u00e9t, akkor a rendszer k\u00f6nnyen statikus megfelel\u0151s\u00e9gi csomagg\u00e1 v\u00e1lik. Ilyenkor az ir\u00e1ny\u00edt\u00e1s elvesz\u00edti alkalmazkod\u00f3k\u00e9pess\u00e9g\u00e9t<\/strong>, mik\u00f6zben az AI-k\u00f6rnyezet folyamatosan v\u00e1ltozik.<\/p>\n\n\n\n Az AI-rendszerek saj\u00e1toss\u00e1ga, hogy a kock\u00e1zat nemcsak a bevezet\u00e9skor jelenik meg. V\u00e1ltozhat az adatforr\u00e1s, a modellverzi\u00f3, a felhaszn\u00e1l\u00f3i k\u00f6r, a szervezeti c\u00e9l, a besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1s, a jogszab\u00e1lyi k\u00f6vetelm\u00e9ny vagy az \u00e9rintetti elv\u00e1r\u00e1s. Egy kor\u00e1bban elfogadhat\u00f3 kock\u00e1zati profil k\u00e9s\u0151bb el\u00e9gtelenn\u00e9 v\u00e1lhat. Ez\u00e9rt az AI-kock\u00e1zat id\u0151ben mozg\u00f3 c\u00e9lpont<\/strong>, amelyet a vezet\u00e9snek nem egyszeri \u00e1llapotk\u00e9nt, hanem v\u00e1ltoz\u00f3 m\u0171k\u00f6d\u00e9si mint\u00e1zatk\u00e9nt kell kezelnie.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s nem veszi \u00e1t a szak\u00e9rt\u0151i kontrollok szerep\u00e9t. Nem a vezet\u00e9s feladata minden modellmetrika vagy technikai r\u00e9szlet m\u00e9lyelemz\u00e9se. Az viszont vezet\u0151i felel\u0151ss\u00e9g, hogy a megfelel\u0151 k\u00e9rd\u00e9seket tegye fel: elegend\u0151k-e az er\u0151forr\u00e1sok, m\u0171k\u00f6dnek-e a kontrollok, n\u0151tt-e valamely kock\u00e1zat, t\u00f6rt\u00e9nt-e ism\u00e9tl\u0151d\u0151 incidens, \u00e9s sz\u00fcks\u00e9g van-e strat\u00e9giai d\u00f6nt\u00e9sre. Ilyen \u00e9rtelemben a vezet\u00e9s nem modell\u00fczemeltet\u0151, hanem kock\u00e1zati ir\u00e1nyt\u0171<\/strong>, amely kijel\u00f6li a szervezet felel\u0151s mozg\u00e1ster\u00e9t.<\/p>\n\n\n\n Az ISO\/IEC 38507 az AI haszn\u00e1lat\u00e1nak ir\u00e1ny\u00edt\u00e1si k\u00f6vetkezm\u00e9nyeit a vezet\u0151 test\u00fcletek n\u00e9z\u0151pontj\u00e1b\u00f3l t\u00e1rgyalja, \u00e9s azt hangs\u00falyozza, hogy az AI haszn\u00e1lat\u00e1nak hat\u00e9kony, eredm\u00e9nyes \u00e9s elfogadhat\u00f3 m\u00f3don kell illeszkednie a szervezet m\u0171k\u00f6d\u00e9s\u00e9hez (International Organization for Standardization, 2022). Ez k\u00fcl\u00f6n\u00f6sen fontos vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1skor. Az AIMS nem \u00f6nmag\u00e1\u00e9rt m\u0171k\u00f6dik, hanem az\u00e9rt, hogy az AI-haszn\u00e1lat \u00f6sszhangban legyen az \u00fczleti c\u00e9lokkal, a jogi k\u00f6vetelm\u00e9nyekkel, az etikai elv\u00e1r\u00e1sokkal \u00e9s az \u00e9rintettek jogos \u00e9rdekeivel.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s akkor m\u0171k\u00f6dik j\u00f3l, ha nem kiz\u00e1r\u00f3lag m\u00faltbeli esem\u00e9nyeket r\u00f6gz\u00edt. Az incidensek, auditmeg\u00e1llap\u00edt\u00e1sok \u00e9s visszajelz\u00e9sek term\u00e9szetesen fontosak, de ezekb\u0151l el\u0151retekint\u0151 d\u00f6nt\u00e9seknek kell k\u00f6vetkezni\u00fck. Ha p\u00e9ld\u00e1ul t\u00f6bb AI-haszn\u00e1lati esetn\u00e9l ism\u00e9tl\u0151dik a hi\u00e1nyos adatforr\u00e1s-dokument\u00e1ci\u00f3, akkor nem el\u00e9g minden egyes hi\u00e1nyt k\u00fcl\u00f6n jav\u00edtani. Ilyenkor az ism\u00e9tl\u0151d\u0151 elt\u00e9r\u00e9s rendszerszint\u0171 d\u00f6nt\u00e9st ig\u00e9nyel<\/strong>, p\u00e9ld\u00e1ul \u00faj adatkezel\u00e9si kontrollt, k\u00f6telez\u0151 sablont vagy felel\u0151ss\u00e9gi pontos\u00edt\u00e1st.<\/p>\n\n\n\n A vezet\u0151i \u00e1tvizsg\u00e1l\u00e1s egyik legnagyobb \u00e9rt\u00e9ke, hogy \u00f6sszekapcsolja a szakmai r\u00e9szleteket a szervezeti d\u00f6nt\u00e9sekkel. Egy auditmeg\u00e1llap\u00edt\u00e1s \u00f6nmag\u00e1ban lehet technikai vagy folyamatjelleg\u0171. Vezet\u0151i szinten azonban azt kell \u00e9rt\u00e9kelni, hogy az elt\u00e9r\u00e9s milyen hat\u00e1ssal van a kock\u00e1zati profilra, az \u00fcgyf\u00e9lbizalomra, a megfelel\u0151s\u00e9gre, a m\u0171k\u00f6d\u00e9si stabilit\u00e1sra \u00e9s az \u00fczleti c\u00e9lokra. Ilyenkor a r\u00e9szletb\u0151l ir\u00e1ny\u00edt\u00e1si k\u00f6vetkeztet\u00e9s lesz<\/strong>, \u00e9s ez k\u00fcl\u00f6nb\u00f6zteti meg az \u00e1tvizsg\u00e1l\u00e1st egy operat\u00edv st\u00e1tuszmegbesz\u00e9l\u00e9st\u0151l.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1snak dokument\u00e1lt kimenetekkel kell z\u00e1rulnia. Nem elegend\u0151, hogy \u201ea vezet\u00e9s tudom\u00e1sul vette\u201d az eredm\u00e9nyeket. D\u00f6nt\u00e9sekre, felel\u0151s\u00f6kre, hat\u00e1rid\u0151kre, er\u0151forr\u00e1sokra \u00e9s ut\u00e1nk\u00f6vet\u00e9si pontokra van sz\u00fcks\u00e9g. A dokument\u00e1lt d\u00f6nt\u00e9s biztos\u00edtja, hogy k\u00e9s\u0151bb ellen\u0151rizhet\u0151 legyen: a vezet\u00e9s nemcsak inform\u00e1ci\u00f3t kapott, hanem ir\u00e1ny\u00edtotta is az AIMS fejleszt\u00e9s\u00e9t.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s min\u0151s\u00e9g\u00e9t nagyr\u00e9szt az hat\u00e1rozza meg, milyen bemeneti inform\u00e1ci\u00f3kb\u00f3l dolgozik. Ha a vezet\u00e9s csak \u00e1ltal\u00e1nos besz\u00e1mol\u00f3t kap arr\u00f3l, hogy \u201eaz AI-rendszerek m\u0171k\u00f6dnek\u201d, akkor nem tud \u00e9rdemi d\u00f6nt\u00e9st hozni. Ha viszont a bemenetek m\u00e9rhet\u0151ek, \u00f6sszehasonl\u00edthat\u00f3ak \u00e9s kock\u00e1zatalapon rendezettek, akkor a vezet\u00e9s k\u00e9pes k\u00fcl\u00f6nbs\u00e9get tenni a kisebb m\u0171k\u00f6d\u00e9si elt\u00e9r\u00e9s \u00e9s a strat\u00e9giai figyelmet ig\u00e9nyl\u0151 probl\u00e9ma k\u00f6z\u00f6tt. Ebben a helyzetben a j\u00f3 bemenet sz\u0171ri a zajt<\/strong>, \u00e9s d\u00f6nthet\u0151 form\u00e1ba rendezi az AI-ir\u00e1ny\u00edt\u00e1s adatait.<\/p>\n\n\n\n Az AIMS vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s\u00e1hoz t\u00f6bb inform\u00e1ci\u00f3s r\u00e9teg sz\u00fcks\u00e9ges. Az els\u0151 a teljes\u00edtm\u00e9nym\u00e9r\u00e9s: milyen \u00e1llapotban vannak az AI-rendszerek, mennyire teljes\u00fclnek a c\u00e9lok, hogyan alakulnak a kontrollmutat\u00f3k, \u00e9s van-e roml\u00f3 tendencia. A m\u00e1sodik az audit- \u00e9s megfelel\u0151s\u00e9gi inform\u00e1ci\u00f3: milyen nemmegfelel\u0151s\u00e9gek, fejleszt\u00e9si lehet\u0151s\u00e9gek vagy ism\u00e9tl\u0151d\u0151 kontrollgyenges\u00e9gek jelentek meg. A harmadik a kock\u00e1zati \u00e9s incidensinform\u00e1ci\u00f3: milyen esem\u00e9nyek, panaszok, riaszt\u00e1sok vagy v\u00e1ltoz\u00e1sok jeleznek n\u00f6vekv\u0151 kitetts\u00e9get.<\/p>\n\n\n\n A NIST AI Risk Management Framework a mesters\u00e9gesintelligencia-kock\u00e1zatkezel\u00e9st a govern, map, measure \u00e9s manage funkci\u00f3k k\u00f6r\u00e9 rendezi, vagyis az ir\u00e1ny\u00edt\u00e1s, felt\u00e9rk\u00e9pez\u00e9s, m\u00e9r\u00e9s \u00e9s kezel\u00e9s egym\u00e1shoz kapcsol\u00f3d\u00f3 tev\u00e9kenys\u00e9gek (National Institute of Standards and Technology, 2023). Ez a szeml\u00e9let j\u00f3l alkalmazhat\u00f3 vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1skor is. Nem el\u00e9g m\u00e9rni a kock\u00e1zatot, ha az eredm\u00e9nyb\u0151l nem lesz vezet\u0151i d\u00f6nt\u00e9s. Ilyenkor a m\u00e9r\u00e9s csak akkor \u00e9rt\u00e9kes, ha ir\u00e1ny\u00edt\u00e1st v\u00e1lt ki<\/strong>, k\u00fcl\u00f6nben puszta riport\u00e1l\u00e1ss\u00e1 v\u00e1lik.<\/p>\n\n\n\n A vezet\u00e9s sz\u00e1m\u00e1ra hasznos bemeneteket \u00e9rdemes t\u00e9macsoportok szerint rendezni:<\/p>\n\n\n\n AIMS-c\u00e9lok teljes\u00fcl\u00e9se \u00e9s f\u0151 teljes\u00edtm\u00e9nymutat\u00f3k;<\/p>\n\n\n\n AI-haszn\u00e1lati esetek st\u00e1tusza, kock\u00e1zati besorol\u00e1sa \u00e9s v\u00e1ltoz\u00e1sa;<\/p>\n\n\n\n bels\u0151 auditok eredm\u00e9nyei \u00e9s nemmegfelel\u0151s\u00e9gek;<\/p>\n\n\n\n incidensek, panaszok, hibajegyek \u00e9s rendelleness\u00e9gek;<\/p>\n\n\n\n modell- \u00e9s adatmin\u0151s\u00e9gi mutat\u00f3k;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i \u00e9s \u00e9rintetti visszajelz\u00e9sek;<\/p>\n\n\n\n besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1sok \u00e9s k\u00fcls\u0151 AI-szolg\u00e1ltat\u00e1sok \u00e1llapota;<\/p>\n\n\n\n jogszab\u00e1lyi, szabv\u00e1nyos\u00edt\u00e1si \u00e9s ipar\u00e1gi v\u00e1ltoz\u00e1sok;<\/p>\n\n\n\n er\u0151forr\u00e1s-, kompetencia- \u00e9s k\u00e9pz\u00e9si ig\u00e9nyek;<\/p>\n\n\n\n kor\u00e1bbi vezet\u0151i d\u00f6nt\u00e9sek ut\u00e1nk\u00f6vet\u00e9se.<\/p>\n\n\n\n Ez a felsorol\u00e1s nem adminisztrat\u00edv ellen\u0151rz\u0151lista, hanem d\u00f6nt\u00e9si t\u00e9rk\u00e9p. Seg\u00edt elker\u00fclni, hogy a vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s csak az aktu\u00e1lis probl\u00e9m\u00e1kra reag\u00e1ljon, mik\u00f6zben elsikkadnak a lassan \u00e9p\u00fcl\u0151 kock\u00e1zatok. Egy j\u00f3l fel\u00e9p\u00edtett bemeneti csomagban a trend fontosabb lehet az egyszeri \u00e9rt\u00e9kn\u00e9l<\/strong>, mert az AI-rendszerek roml\u00e1sa, haszn\u00e1lati eltol\u00f3d\u00e1sa vagy kontrollgyeng\u00fcl\u00e9se gyakran fokozatosan jelenik meg.<\/p>\n\n\n\n Az auditmeg\u00e1llap\u00edt\u00e1sok \u00e9rtelmez\u00e9se k\u00fcl\u00f6n figyelmet ig\u00e9nyel. Nem minden meg\u00e1llap\u00edt\u00e1s azonos s\u00faly\u00fa. Egy hi\u00e1nyz\u00f3 verzi\u00f3sz\u00e1m a dokument\u00e1ci\u00f3ban m\u00e1s jelent\u0151s\u00e9g\u0171, mint az, ha egy \u00fcgyf\u00e9lhat\u00e1ssal j\u00e1r\u00f3 AI-rendszerben nem bizony\u00edthat\u00f3 az emberi fel\u00fclvizsg\u00e1lat. Az ISO 19011 auditir\u00e1nyelvi szeml\u00e9lete alapj\u00e1n az auditoknak bizony\u00edt\u00e9kokra \u00e9s auditkrit\u00e9riumokra kell \u00e9p\u00fclni\u00fck, a vezet\u00e9snek pedig azt kell meg\u00e9rtenie, hogy az egyes meg\u00e1llap\u00edt\u00e1sok milyen kock\u00e1zati \u00e9s m\u0171k\u00f6d\u00e9si k\u00f6vetkezm\u00e9nnyel j\u00e1rnak (International Organization for Standardization, 2018).<\/p>\n\n\n\n Az incidensadatok vezet\u0151i \u00e9rtelmez\u00e9se szint\u00e9n t\u00f6bbr\u00e9teg\u0171. Egy AI-incidens lehet technikai hiba, jogosulatlan adatfelhaszn\u00e1l\u00e1s, hib\u00e1s kimenet, emberi fel\u00fcgyeleti hi\u00e1ny, besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1sv\u00e1ltoz\u00e1s vagy \u00fcgyf\u00e9lpanaszhoz vezet\u0151 m\u0171k\u00f6d\u00e9si elt\u00e9r\u00e9s. A vezet\u00e9snek nemcsak azt kell l\u00e1tnia, h\u00e1ny incidens t\u00f6rt\u00e9nt, hanem azt is, hogy milyen mint\u00e1zat rajzol\u00f3dik ki. Ilyenkor az incidens nem elszigetelt esem\u00e9ny<\/strong>, hanem jelz\u00e9s a kontrollrendszer \u00e1llapot\u00e1r\u00f3l.<\/p>\n\n\n\n Az EU AI Act a magas kock\u00e1zat\u00fa AI-rendszerek eset\u00e9ben k\u00fcl\u00f6n k\u00f6vetelm\u00e9nyeket fogalmaz meg t\u00f6bbek k\u00f6z\u00f6tt a min\u0151s\u00e9gir\u00e1ny\u00edt\u00e1s, dokument\u00e1ci\u00f3, napl\u00f3z\u00e1s, \u00e1tl\u00e1that\u00f3s\u00e1g, emberi fel\u00fcgyelet \u00e9s forgalomba hozatal ut\u00e1ni nyomon k\u00f6vet\u00e9s ter\u00fclet\u00e9n (European Parliament & Council of the European Union, 2024). Vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1skor ezek nem puszt\u00e1n jogi hivatkoz\u00e1sok, hanem olyan t\u00e9m\u00e1k, amelyek alapj\u00e1n a vezet\u00e9snek m\u00e9rlegelnie kell a megfelel\u0151s\u00e9gi kitetts\u00e9get. Ha egy szab\u00e1lyoz\u00e1si v\u00e1ltoz\u00e1s \u00faj k\u00f6telezetts\u00e9get hoz, akkor a jogi v\u00e1ltoz\u00e1s m\u0171k\u00f6d\u00e9si d\u00f6nt\u00e9ss\u00e9 v\u00e1lik<\/strong>, p\u00e9ld\u00e1ul er\u0151forr\u00e1s-, dokument\u00e1ci\u00f3s vagy kontrollfejleszt\u00e9si ig\u00e9nny\u00e9.<\/p>\n\n\n\n A felhaszn\u00e1l\u00f3i \u00e9s \u00e9rintetti visszajelz\u00e9sek gyakran kev\u00e9sb\u00e9 struktur\u00e1ltak, m\u00e9gis fontosak. A munkat\u00e1rsak jelezhetik, ha nem \u00e9rtik egy AI-eszk\u00f6z korl\u00e1tait, ha t\u00fal sok t\u00e9ves javaslatot kapnak, vagy ha a rendszer haszn\u00e1lata t\u00f6bbletterhet okoz. Az \u00fcgyfelek vagy \u00e9rintettek visszajelz\u00e9sei pedig reput\u00e1ci\u00f3s \u00e9s etikai kock\u00e1zatot jelezhetnek. A vezet\u00e9snek ez\u00e9rt a puha jelz\u00e9seket is kem\u00e9ny d\u00f6nt\u00e9si adatt\u00e1 kell alak\u00edtania<\/strong>, k\u00fcl\u00f6n\u00f6sen akkor, ha t\u00f6bb csatorn\u00e1n hasonl\u00f3 probl\u00e9ma jelenik meg.<\/p>\n\n\n\n A bemeneti inform\u00e1ci\u00f3k min\u0151s\u00e9g\u00e9t az is jav\u00edtja, ha a szervezet el\u0151re meghat\u00e1rozza, milyen form\u00e1ban ker\u00fcljenek a vezet\u00e9s el\u00e9. Egy terjedelmes szak\u00e9rt\u0151i jelent\u00e9s \u00f6nmag\u00e1ban nem biztos, hogy d\u00f6nthet\u0151. A vezet\u0151i szint\u0171 \u00f6sszefoglal\u00f3ban sz\u00fcks\u00e9g van kock\u00e1zati besorol\u00e1sra, trendjelz\u00e9sre, aj\u00e1nlott d\u00f6nt\u00e9si alternat\u00edv\u00e1kra \u00e9s er\u0151forr\u00e1sig\u00e9nyre. A c\u00e9l nem a r\u00e9szletek eltakar\u00e1sa, hanem az, hogy a vezet\u00e9s a l\u00e9nyegi d\u00f6nt\u00e9seket l\u00e1ssa.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1sa az\u00e9rt k\u00fcl\u00f6nleges, mert az AI-val kapcsolatos d\u00f6nt\u00e9sek ritk\u00e1n maradnak tiszt\u00e1n technikai vagy megfelel\u0151s\u00e9gi k\u00e9rd\u00e9sek. Egy modell teljes\u00edtm\u00e9nyroml\u00e1sa \u00fczleti hat\u00e1ssal j\u00e1rhat. Egy adatkezel\u00e9si hi\u00e1ny jogi \u00e9s reput\u00e1ci\u00f3s kock\u00e1zatot teremthet. Egy rosszul kommunik\u00e1lt AI-bevezet\u00e9s munkat\u00e1rsi ellen\u00e1ll\u00e1st v\u00e1lthat ki. Ez\u00e9rt az AI-kock\u00e1zat t\u00f6bb dimenzi\u00f3ban jelentkezik<\/strong>, \u00e9s a vezet\u00e9snek egyszerre kell \u00fczleti, etikai, jogi \u00e9s m\u0171k\u00f6d\u00e9si szempontb\u00f3l gondolkodnia.<\/p>\n\n\n\n Az etikai kock\u00e1zatok vezet\u0151i szinten nem elvont \u00e9rt\u00e9kvit\u00e1k. Konkr\u00e9t d\u00f6nt\u00e9sekben jelennek meg: mire haszn\u00e1lhat\u00f3 az AI, milyen adatot kezelhet, mikor sz\u00fcks\u00e9ges emberi fel\u00fclvizsg\u00e1lat, milyen esetben kell korl\u00e1tozni vagy felf\u00fcggeszteni egy rendszert, \u00e9s hogyan biztos\u00edthat\u00f3 az \u00e9rintettek m\u00e9lt\u00e1nyos kezel\u00e9se. Az OECD AI-aj\u00e1nl\u00e1sa a megb\u00edzhat\u00f3 AI felel\u0151s gondoz\u00e1s\u00e1t, az emberi jogok, demokratikus \u00e9rt\u00e9kek, \u00e1tl\u00e1that\u00f3s\u00e1g, robusztuss\u00e1g, biztons\u00e1g \u00e9s elsz\u00e1moltathat\u00f3s\u00e1g jelent\u0151s\u00e9g\u00e9t hangs\u00falyozza (OECD, 2019). Ezek a szempontok vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1skor gyakorlati d\u00f6nt\u00e9si krit\u00e9riumokk\u00e1 v\u00e1lnak.<\/p>\n\n\n\n A reput\u00e1ci\u00f3s kock\u00e1zat gyakran k\u00e9s\u0151n v\u00e1lik l\u00e1that\u00f3v\u00e1, ha a szervezet csak technikai mutat\u00f3kat figyel. Egy AI-rendszer lehet statisztikailag elfogadhat\u00f3, m\u00e9gis okozhat bizalomveszt\u00e9st, ha az \u00e9rintettek nem \u00e9rtik, hogyan haszn\u00e1lj\u00e1k, nincs panaszcsatorna, vagy a d\u00f6nt\u00e9sek indokl\u00e1sa nem el\u00e9g vil\u00e1gos. Ilyen helyzetben a bizalom nem teljes\u00edtm\u00e9nymutat\u00f3kb\u00f3l \u00e9p\u00fcl<\/strong>, hanem \u00e1tl\u00e1that\u00f3, k\u00f6vetkezetes \u00e9s sz\u00e1mon k\u00e9rhet\u0151 m\u0171k\u00f6d\u00e9sb\u0151l.<\/p>\n\n\n\n A technol\u00f3giai kock\u00e1zatok vezet\u0151i \u00e9rtelmez\u00e9se szint\u00e9n t\u00falmutat a modellek pontoss\u00e1g\u00e1n. A vezet\u00e9snek l\u00e1tnia kell a modellfriss\u00edt\u00e9sek, adatk\u00e9szlet-v\u00e1ltoz\u00e1sok, integr\u00e1ci\u00f3k, besz\u00e1ll\u00edt\u00f3i m\u00f3dos\u00edt\u00e1sok \u00e9s biztons\u00e1gi esem\u00e9nyek hat\u00e1s\u00e1t. Ha p\u00e9ld\u00e1ul egy k\u00fcls\u0151 AI-szolg\u00e1ltat\u00f3 megv\u00e1ltoztatja a szolg\u00e1ltat\u00e1s m\u0171k\u00f6d\u00e9s\u00e9t, az \u00e9rintheti az adatkezel\u00e9st, a kimenetek min\u0151s\u00e9g\u00e9t, a napl\u00f3z\u00e1st vagy az audit\u00e1lhat\u00f3s\u00e1got. Ilyenkor a technol\u00f3giai v\u00e1ltoz\u00e1s ir\u00e1ny\u00edt\u00e1si esem\u00e9ny<\/strong>, nem csup\u00e1n informatikai friss\u00edt\u00e9s.<\/p>\n\n\n\n Az \u00fczleti kock\u00e1zat \u00e9s az AI-ir\u00e1ny\u00edt\u00e1s kapcsolata k\u00fcl\u00f6n\u00f6sen fontos. Az AI bevezet\u00e9se gyakran hat\u00e9konys\u00e1got, gyorsabb d\u00f6nt\u00e9st vagy jobb szolg\u00e1ltat\u00e1si min\u0151s\u00e9get \u00edg\u00e9r. Ezek az el\u0151ny\u00f6k azonban csak akkor fenntarthat\u00f3ak, ha a kock\u00e1zatok kezel\u00e9se nem ut\u00f3lagos f\u00e9k, hanem a m\u0171k\u00f6d\u00e9s r\u00e9sze. A COSO v\u00e1llalati kock\u00e1zatkezel\u00e9si keretrendszere a kock\u00e1zatot a strat\u00e9giaalkot\u00e1ssal \u00e9s teljes\u00edtm\u00e9nnyel \u00f6sszekapcsolva \u00e9rtelmezi, ami j\u00f3l illeszkedik az AIMS vezet\u0151i \u00e1tvizsg\u00e1l\u00e1s\u00e1nak logik\u00e1j\u00e1hoz (COSO, 2017).<\/p>\n\n\n\n A vezet\u00e9snek ez\u00e9rt nem azt kell eld\u00f6ntenie, hogy az AI \u201ej\u00f3\u201d vagy \u201erossz\u201d. A val\u00f3di k\u00e9rd\u00e9s az, hogy adott c\u00e9lra, adott kontrollokkal, adott \u00e9rintetti hat\u00e1sok mellett elfogadhat\u00f3-e a haszn\u00e1lat. Ez kock\u00e1zatv\u00e1llal\u00e1si d\u00f6nt\u00e9s, amelyben az el\u0151ny\u00f6ket, a korl\u00e1tokat \u00e9s a v\u00e9delmi int\u00e9zked\u00e9seket egy\u00fctt kell vizsg\u00e1lni. Ebben a helyzetben az elfogadhat\u00f3 AI-haszn\u00e1lat felt\u00e9teles d\u00f6nt\u00e9s<\/strong>, nem egyszeri j\u00f3v\u00e1hagy\u00e1s.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1snak k\u00fcl\u00f6n\u00f6sen figyelnie kell azokra a helyzetekre, ahol a kock\u00e1zati profil megv\u00e1ltozik. Ilyen lehet p\u00e9ld\u00e1ul, ha egy bels\u0151 haszn\u00e1latra bevezetett AI-eszk\u00f6z k\u00e9s\u0151bb \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3ban is megjelenik. Ugyancsak ilyen, ha egy d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszer javaslatait a felhaszn\u00e1l\u00f3k egyre ritk\u00e1bban k\u00e9rd\u0151jelezik meg. A haszn\u00e1lat eltol\u00f3d\u00e1sa gyakran form\u00e1lis v\u00e1ltoz\u00e1s n\u00e9lk\u00fcl t\u00f6rt\u00e9nik. Emiatt a t\u00e9nyleges haszn\u00e1lat n\u00e9ha el\u0151bb v\u00e1ltozik, mint a dokument\u00e1ci\u00f3<\/strong>, \u00e9s ezt a vezet\u00e9snek is l\u00e1tnia kell.<\/p>\n\n\n\n Az etikai \u00e9s \u00fczleti szempontok \u00f6sszehangol\u00e1sa nem mindig konfliktusmentes. El\u0151fordulhat, hogy egy AI-rendszer gyors\u00edtja a folyamatot, de n\u00f6veli a magyar\u00e1zhat\u00f3s\u00e1gi vagy m\u00e9lt\u00e1nyoss\u00e1gi kock\u00e1zatot. M\u00e1skor a kontrollok er\u0151s\u00edt\u00e9se lass\u00edtja a bevezet\u00e9st, de cs\u00f6kkenti a k\u00e9s\u0151bbi incidens vagy reput\u00e1ci\u00f3s k\u00e1r val\u00f3sz\u00edn\u0171s\u00e9g\u00e9t. A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s \u00e9rt\u00e9ke \u00e9ppen abban \u00e1ll, hogy ezek a fesz\u00fclts\u00e9gek nem rejtve maradnak, hanem d\u00f6nt\u00e9si szintre ker\u00fclnek.<\/p>\n\n\n\n A vezet\u00e9snek a kock\u00e1zatok mellett a szervezeti k\u00e9pess\u00e9geket is \u00e9rt\u00e9kelnie kell. Van-e el\u00e9g kompetencia az AI-rendszerek fel\u00fcgyelet\u00e9hez? Tudj\u00e1k-e a felhaszn\u00e1l\u00f3k, mikor kell emberi d\u00f6nt\u00e9st hozni? El\u00e9g er\u0151s-e a besz\u00e1ll\u00edt\u00f3i kontroll? Van-e kapacit\u00e1s az auditmeg\u00e1llap\u00edt\u00e1sok lez\u00e1r\u00e1s\u00e1ra? Ezek a k\u00e9rd\u00e9sek az\u00e9rt fontosak, mert a kontroll er\u0151forr\u00e1s n\u00e9lk\u00fcl csak elv\u00e1r\u00e1s<\/strong>, m\u0171k\u00f6d\u0151 k\u00e9pess\u00e9gg\u00e9 csak id\u0151vel, felel\u0151ssel \u00e9s eszk\u00f6z\u00f6kkel v\u00e1lik.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s egyik legfontosabb kimenete az er\u0151forr\u00e1sokr\u00f3l sz\u00f3l\u00f3 d\u00f6nt\u00e9s. Az AIMS m\u0171k\u00f6dtet\u00e9se id\u0151t, szak\u00e9rtelmet, eszk\u00f6z\u00f6ket, k\u00e9pz\u00e9st, auditkapacit\u00e1st \u00e9s technikai t\u00e1mogat\u00e1st ig\u00e9nyel. Ha ezek hi\u00e1nyoznak, a rendszer pap\u00edron fennmaradhat, de a kontrollok gyeng\u00fclnek. Ez\u00e9rt az er\u0151forr\u00e1sd\u00f6nt\u00e9s megfelel\u0151s\u00e9gi d\u00f6nt\u00e9s is<\/strong>, nem puszt\u00e1n k\u00f6lts\u00e9gvet\u00e9si k\u00e9rd\u00e9s.<\/p>\n\n\n\n Az AI-ir\u00e1ny\u00edt\u00e1sban gyakori hiba, hogy a vezet\u00e9s j\u00f3v\u00e1hagyja az elv\u00e1rt kontrollokat, de nem biztos\u00edtja azok m\u0171k\u00f6dtet\u00e9s\u00e9nek felt\u00e9teleit. P\u00e9ld\u00e1ul el\u0151\u00edrja a modellv\u00e1ltoz\u00e1sok dokument\u00e1l\u00e1s\u00e1t, de nincs kijel\u00f6lt felel\u0151s. Elv\u00e1rja az AI-haszn\u00e1lati esetek kock\u00e1zat\u00e9rt\u00e9kel\u00e9s\u00e9t, de nincs k\u00e9pzett t\u00e1mogat\u00f3 csapat. J\u00f3v\u00e1hagyja a monitoringot, de nincs eszk\u00f6z vagy adat a m\u00e9r\u00e9shez. Ilyenkor a kontrollhi\u00e1ny gyakran er\u0151forr\u00e1shi\u00e1nyk\u00e9nt kezd\u0151dik<\/strong>, \u00e9s csak k\u00e9s\u0151bb jelenik meg auditmeg\u00e1llap\u00edt\u00e1sk\u00e9nt vagy incidensk\u00e9nt.<\/p>\n\n\n\n A priorit\u00e1sd\u00f6nt\u00e9sek szint\u00e9n vezet\u0151i szintre tartoznak. Egy szervezetben egyszerre t\u00f6bb AI-haszn\u00e1lati eset, fejleszt\u00e9s, besz\u00e1ll\u00edt\u00f3i integr\u00e1ci\u00f3 \u00e9s megfelel\u0151s\u00e9gi feladat lehet folyamatban. Nem minden ig\u00e9ny kezelhet\u0151 azonos m\u00e9lys\u00e9ggel \u00e9s azonos \u00fctemben. A vezet\u00e9snek kock\u00e1zatalapon kell eld\u00f6ntenie, mely rendszerek kapnak els\u0151bbs\u00e9get, hol kell kontrollt er\u0151s\u00edteni, \u00e9s mely fejleszt\u00e9sek halaszthat\u00f3k. Ebben a logik\u00e1ban a priorit\u00e1s a kock\u00e1zat nyelve<\/strong>, mert megmutatja, hol tartja a szervezet a legnagyobb figyelmet indokoltnak.<\/p>\n\n\n\n A kontrolljav\u00edt\u00e1soknak konkr\u00e9t meg\u00e1llap\u00edt\u00e1sokra \u00e9s trendekre kell \u00e9p\u00fclni\u00fck. Ha az auditok ism\u00e9telten hi\u00e1nyos adatforr\u00e1s-dokument\u00e1ci\u00f3t tal\u00e1lnak, akkor a jav\u00edt\u00e1s nem lehet puszt\u00e1n egyedi dokumentump\u00f3tl\u00e1s. Sz\u00fcks\u00e9g lehet k\u00f6telez\u0151 adatforr\u00e1s-regiszterre, \u00faj j\u00f3v\u00e1hagy\u00e1si pontra vagy az adatgazdai szerep pontos\u00edt\u00e1s\u00e1ra. Ha az incidensek ugyanarra a modellhaszn\u00e1lati f\u00e9lre\u00e9rt\u00e9sre vezethet\u0151k vissza, akkor k\u00e9pz\u00e9si \u00e9s felhaszn\u00e1l\u00f3i \u00fatmutat\u00e1si beavatkoz\u00e1sra van sz\u00fcks\u00e9g. Ilyenkor a gy\u00f6k\u00e9rokra \u00e9p\u00fcl\u0151 jav\u00edt\u00e1s fenntarthat\u00f3bb<\/strong>, mint az egyedi hib\u00e1k gyors lez\u00e1r\u00e1sa.<\/p>\n\n\n\n A vezet\u00e9snek d\u00f6nt\u00e9st kell hoznia arr\u00f3l is, hogy az AIMS milyen m\u00e9rt\u00e9kben integr\u00e1l\u00f3djon a megl\u00e9v\u0151 ir\u00e1ny\u00edt\u00e1si rendszerekbe. Az AI ir\u00e1ny\u00edt\u00e1si rendszer akkor m\u0171k\u00f6dik hat\u00e9konyan, ha nem elszigetelt megfelel\u0151s\u00e9gi szigetk\u00e9nt jelenik meg, hanem kapcsol\u00f3dik a min\u0151s\u00e9gir\u00e1ny\u00edt\u00e1shoz, inform\u00e1ci\u00f3biztons\u00e1ghoz, adatv\u00e9delemhez, kock\u00e1zatkezel\u00e9shez, beszerz\u00e9shez \u00e9s bels\u0151 audithoz. A teljes k\u00fcl\u00f6n\u00e1ll\u00e1s p\u00e1rhuzamos dokument\u00e1ci\u00f3t \u00e9s felel\u0151ss\u00e9gi zavarokat hozhat l\u00e9tre. Ez\u00e9rt az AIMS \u00e9rt\u00e9ke az integr\u00e1ci\u00f3ban er\u0151s\u00f6dik<\/strong>, nem az \u00f6n\u00e1ll\u00f3 adminisztr\u00e1ci\u00f3 n\u00f6vel\u00e9s\u00e9ben.<\/p>\n\n\n\n Az er\u0151forr\u00e1sd\u00f6nt\u00e9sek k\u00f6z\u00f6tt k\u00e9pz\u00e9si \u00e9s kompetenciafejleszt\u00e9si d\u00f6nt\u00e9seknek is szerepelni\u00fck kell. A vezet\u00e9snek l\u00e1tnia kell, hogy mely szerepk\u00f6r\u00f6kben hi\u00e1nyzik AI-kock\u00e1zati, adatkezel\u00e9si, audit\u00e1l\u00e1si vagy felhaszn\u00e1l\u00f3i tudatoss\u00e1gi kompetencia. Egy napi AI-felhaszn\u00e1l\u00f3nak nem kell modellfejleszt\u0151nek lennie, de tudnia kell, mikor nem t\u00e1maszkodhat automatikusan a kimenetre. Egy bels\u0151 auditornak nem kell algoritmuskutat\u00f3v\u00e1 v\u00e1lnia, de \u00e9rtenie kell, milyen bizony\u00edt\u00e9kokkal vizsg\u00e1lhat\u00f3 egy AI-kontroll. Ebben az \u00e9rtelemben a kompetencia c\u00e9lja a felel\u0151s d\u00f6nt\u00e9s<\/strong>, nem a technikai t\u00falterhel\u00e9s.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s kimenete lehet az is, hogy bizonyos AI-haszn\u00e1latot korl\u00e1tozni kell. Ez nem kudarc, hanem felel\u0151s ir\u00e1ny\u00edt\u00e1si d\u00f6nt\u00e9s lehet. Ha a kock\u00e1zatok nem kezelhet\u0151k megfelel\u0151en, ha nincs elegend\u0151 bizony\u00edt\u00e9k a kontrollokra, vagy ha a felhaszn\u00e1l\u00e1s eltol\u00f3dott az eredeti c\u00e9lhoz k\u00e9pest, akkor indokolt lehet az \u00e1tmeneti felf\u00fcggeszt\u00e9s, tov\u00e1bbi tesztel\u00e9s vagy sz\u0171k\u00edtett haszn\u00e1lat. Ilyenkor a nemleges d\u00f6nt\u00e9s is ir\u00e1ny\u00edt\u00e1si \u00e9rt\u00e9k<\/strong>, mert megakad\u00e1lyozhatja a nagyobb megfelel\u0151s\u00e9gi vagy reput\u00e1ci\u00f3s k\u00e1rt.<\/p>\n\n\n\n A vezet\u0151i d\u00f6nt\u00e9seknek mindig tartalmazniuk kell a felel\u0151st \u00e9s az ut\u00e1nk\u00f6vet\u00e9si m\u00f3dot. Egy olyan d\u00f6nt\u00e9s, amely csak \u00e1ltal\u00e1nosan kimondja, hogy \u201ejav\u00edtani kell az AI-monitoringot\u201d, nehezen ellen\u0151rizhet\u0151. Jobb, ha a d\u00f6nt\u00e9s megnevezi, mely rendszerekn\u00e9l, milyen m\u00e9r\u0151sz\u00e1mokra, milyen hat\u00e1rid\u0151vel, ki felel\u0151ss\u00e9g\u00e9vel \u00e9s milyen besz\u00e1mol\u00e1si ponttal kell jav\u00edtani a monitoringot. \u00cdgy a vezet\u0151i d\u00f6nt\u00e9s audit\u00e1lhat\u00f3 m\u0171k\u00f6d\u00e9si feladatt\u00e1 v\u00e1lik<\/strong>, nem marad jegyz\u0151k\u00f6nyvi sz\u00e1nd\u00e9k.<\/p>\n\n\n\n A kimenetek dokument\u00e1l\u00e1sa az \u00e1tvizsg\u00e1l\u00e1s bizony\u00edthat\u00f3s\u00e1g\u00e1t is szolg\u00e1lja. Egy k\u00e9s\u0151bbi bels\u0151 vagy tan\u00fas\u00edt\u00e1si audit sor\u00e1n l\u00e1that\u00f3v\u00e1 kell tenni, hogy a vezet\u00e9s milyen inform\u00e1ci\u00f3k alapj\u00e1n milyen d\u00f6nt\u00e9seket hozott. A dokument\u00e1ci\u00f3 nem b\u00fcrokratikus teher, hanem a vezet\u0151i felel\u0151ss\u00e9g nyoma. Min\u00e9l nagyobb hat\u00e1s\u00fa AI-rendszereket haszn\u00e1l a szervezet, ann\u00e1l fontosabb, hogy a d\u00f6nt\u00e9sek rekonstru\u00e1lhat\u00f3ak legyenek.<\/p>\n\n\n\n Egy j\u00f3 vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1si napirend nem egyszer\u0171 st\u00e1tuszlista. Olyan k\u00e9rd\u00e9ssort kell adnia, amely a vezet\u00e9st d\u00f6nt\u00e9sekre vezeti. A napirendnek ez\u00e9rt egyens\u00falyt kell tartania a megfelel\u0151s\u00e9gi t\u00e9nyek, a kock\u00e1zati trendek, az incidensek, az er\u0151forr\u00e1sig\u00e9nyek \u00e9s a strat\u00e9giai ir\u00e1nyok k\u00f6z\u00f6tt. Ebben a form\u00e1ban a napirend d\u00f6nt\u00e9si architekt\u00fara<\/strong>, mert meghat\u00e1rozza, mir\u0151l lesz vezet\u0151i figyelem \u00e9s mir\u0151l nem.<\/p>\n\n\n\n Egy AIMS vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s napirendje legal\u00e1bb az al\u00e1bbi d\u00f6nt\u00e9si pontokat tartalmazhatja:<\/p>\n\n\n\n Az AIMS c\u00e9ljainak \u00e9s teljes\u00edtm\u00e9nymutat\u00f3inak \u00e1ttekint\u00e9se.<\/p>\n\n\n\n AI-haszn\u00e1lati esetek portf\u00f3li\u00f3j\u00e1nak \u00e9s kock\u00e1zati v\u00e1ltoz\u00e1sainak \u00e9rt\u00e9kel\u00e9se.<\/p>\n\n\n\n Bels\u0151 auditmeg\u00e1llap\u00edt\u00e1sok, nemmegfelel\u0151s\u00e9gek \u00e9s jav\u00edt\u00f3 int\u00e9zked\u00e9sek st\u00e1tusza.<\/p>\n\n\n\n AI-incidensek, panaszok, felhaszn\u00e1l\u00f3i visszajelz\u00e9sek \u00e9s m\u0171k\u00f6d\u00e9si elt\u00e9r\u00e9sek elemz\u00e9se.<\/p>\n\n\n\n Modell-, adat- \u00e9s besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1sok hat\u00e1s\u00e1nak \u00e9rt\u00e9kel\u00e9se.<\/p>\n\n\n\n Szab\u00e1lyoz\u00e1si, szerz\u0151d\u00e9ses \u00e9s \u00e9rintetti k\u00f6vetelm\u00e9nyek v\u00e1ltoz\u00e1sainak \u00e1ttekint\u00e9se.<\/p>\n\n\n\n Er\u0151forr\u00e1s-, kompetencia- \u00e9s k\u00e9pz\u00e9si ig\u00e9nyek meghat\u00e1roz\u00e1sa.<\/p>\n\n\n\n Kontrolljav\u00edt\u00e1si, korl\u00e1toz\u00e1si vagy strat\u00e9giai ir\u00e1nyd\u00f6nt\u00e9sek meghozatala.<\/p>\n\n\n\n Kor\u00e1bbi vezet\u0151i d\u00f6nt\u00e9sek ut\u00e1nk\u00f6vet\u00e9se.<\/p>\n\n\n\n K\u00f6vetkez\u0151 id\u0151szak priorit\u00e1sainak \u00e9s felel\u0151seinek kijel\u00f6l\u00e9se.<\/p>\n\n\n\n A napirend haszn\u00e1lata akkor eredm\u00e9nyes, ha minden ponthoz vil\u00e1gos k\u00e9rd\u00e9s kapcsol\u00f3dik. Nem el\u00e9g azt k\u00e9rdezni, hogy \u201evolt-e incidens\u201d. A vezet\u0151i k\u00e9rd\u00e9s ink\u00e1bb az: milyen ism\u00e9tl\u0151d\u0151 mint\u00e1zat jelent meg az incidensekben, \u00e9s sz\u00fcks\u00e9ges-e kontrollm\u00f3dos\u00edt\u00e1s? Nem el\u00e9g azt r\u00f6gz\u00edteni, hogy \u201emegt\u00f6rt\u00e9nt az audit\u201d. A fontos k\u00e9rd\u00e9s az, hogy az auditmeg\u00e1llap\u00edt\u00e1sok mit mondanak az AIMS \u00e9retts\u00e9g\u00e9r\u0151l. Ilyenkor a j\u00f3 k\u00e9rd\u00e9s vezet\u0151i v\u00e1laszt k\u00e9nyszer\u00edt ki<\/strong>, \u00e9s megakad\u00e1lyozza a passz\u00edv tudom\u00e1sulv\u00e9telt.<\/p>\n\n\n\n Az AI-haszn\u00e1lati esetek portf\u00f3li\u00f3szint\u0171 \u00e1ttekint\u00e9se k\u00fcl\u00f6n\u00f6sen fontos. Egyenk\u00e9nt minden rendszer kezelhet\u0151nek t\u0171nhet, de \u00f6sszess\u00e9g\u00e9ben t\u00fal sok k\u00fcls\u0151 AI-szolg\u00e1ltat\u00e1s, t\u00fal sok adatkapcsolat vagy t\u00fal kev\u00e9s bels\u0151 szak\u00e9rt\u0151i kapacit\u00e1s jelenhet meg. A vezet\u00e9snek ez\u00e9rt nemcsak rendszerenk\u00e9nt, hanem portf\u00f3li\u00f3szinten is l\u00e1tnia kell a kock\u00e1zatokat. Ebben a megk\u00f6zel\u00edt\u00e9sben a portf\u00f3li\u00f3kock\u00e1zat nem azonos az egyedi kock\u00e1zatok \u00f6sszeg\u00e9vel<\/strong>, mert a f\u00fcgg\u0151s\u00e9gek \u00e9s er\u0151forr\u00e1skorl\u00e1tok \u00faj kitetts\u00e9get teremthetnek.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s sor\u00e1n hasznos lehet egyszer\u0171 d\u00f6nt\u00e9si t\u00e1bl\u00e1t alkalmazni. Ez seg\u00edt abban, hogy a bemenetekb\u0151l ne csak besz\u00e1mol\u00f3k, hanem konkr\u00e9t kimenetek sz\u00fclessenek.<\/p>\n\n\n\n Bemeneti inform\u00e1ci\u00f3<\/p>\n\n\n\n Vezet\u0151i k\u00e9rd\u00e9s<\/p>\n\n\n\n Lehets\u00e9ges kimenet<\/p>\n\n\n\n Auditmeg\u00e1llap\u00edt\u00e1sok<\/p>\n\n\n\n Rendszerszint\u0171 vagy egyedi elt\u00e9r\u00e9sr\u0151l van sz\u00f3?<\/p>\n\n\n\n jav\u00edt\u00f3 int\u00e9zked\u00e9s, kontrollm\u00f3dos\u00edt\u00e1s<\/p>\n\n\n\n Incidensadatok<\/p>\n\n\n\n Ism\u00e9tl\u0151d\u0151 kock\u00e1zati mint\u00e1zat l\u00e1that\u00f3?<\/p>\n\n\n\n gy\u00f6k\u00e9rokelemz\u00e9s, er\u0151forr\u00e1sn\u00f6vel\u00e9s<\/p>\n\n\n\n Kock\u00e1zati riport<\/p>\n\n\n\n V\u00e1ltozott-e az elfogadhat\u00f3 kock\u00e1zati szint?<\/p>\n\n\n\n priorit\u00e1sv\u00e1lt\u00e1s, haszn\u00e1latkorl\u00e1toz\u00e1s<\/p>\n\n\n\n Felhaszn\u00e1l\u00f3i visszajelz\u00e9s<\/p>\n\n\n\n \u00c9rtik-e a munkat\u00e1rsak az AI korl\u00e1tait?<\/p>\n\n\n\n k\u00e9pz\u00e9s, \u00fatmutat\u00f3, kommunik\u00e1ci\u00f3<\/p>\n\n\n\n Besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1s<\/p>\n\n\n\n \u00c9rinti-e az audit\u00e1lhat\u00f3s\u00e1got vagy adatkezel\u00e9st?<\/p>\n\n\n\n szerz\u0151d\u00e9sm\u00f3dos\u00edt\u00e1s, \u00faj \u00e9rt\u00e9kel\u00e9s<\/p>\n\n\n\n Szab\u00e1lyoz\u00e1si v\u00e1ltoz\u00e1s<\/p>\n\n\n\n Kell-e folyamatot vagy dokument\u00e1ci\u00f3t m\u00f3dos\u00edtani?<\/p>\n\n\n\n megfelel\u0151s\u00e9gi projekt, felel\u0151s kijel\u00f6l\u00e9se<\/p>\n\n\n\n A t\u00e1bl\u00e1zat nem helyettes\u00edti a vezet\u0151i m\u00e9rlegel\u00e9st, de fegyelmezi azt. Megmutatja, hogy minden bemenetnek d\u00f6nt\u00e9si k\u00f6vetkezm\u00e9nyt kell kapnia, vagy tudatosan ki kell mondani, hogy nincs sz\u00fcks\u00e9g int\u00e9zked\u00e9sre. Ilyenkor a nem cselekv\u00e9s is dokument\u00e1lt d\u00f6nt\u00e9s<\/strong>, ha vil\u00e1gos indoka \u00e9s elfogadott kock\u00e1zati alapja van.<\/p>\n\n\n\n Az \u00e1tvizsg\u00e1l\u00e1s gyakorlati alkalmaz\u00e1sakor figyelni kell a t\u00fal r\u00e9szletes technikai besz\u00e1mol\u00f3k vesz\u00e9ly\u00e9re. Ha a vezet\u00e9s olyan m\u00e9lys\u00e9g\u0171 modell- vagy adatmutat\u00f3kat kap, amelyeket nem tud \u00e9rtelmezni, akkor a d\u00f6nt\u00e9si felel\u0151ss\u00e9g elmos\u00f3dik. A szak\u00e9rt\u0151i csapat feladata a r\u00e9szletek el\u0151k\u00e9sz\u00edt\u00e9se, \u00e9rtelmez\u00e9se \u00e9s d\u00f6nt\u00e9si alternat\u00edv\u00e1k megfogalmaz\u00e1sa. A vezet\u00e9s feladata pedig az, hogy a k\u00f6vetkezm\u00e9nyekr\u0151l d\u00f6nts\u00f6n. \u00cdgy a szak\u00e9rt\u0151 el\u0151k\u00e9sz\u00edt, a vezet\u00e9s ir\u00e1ny\u00edt<\/strong>, \u00e9s egyik szerep sem olvad bele a m\u00e1sikba.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1snak ritmusa is van. Nem elegend\u0151 \u00e9vente egyszer form\u00e1lisan \u00e1ttekinteni az AIMS \u00e1llapot\u00e1t, ha k\u00f6zben jelent\u0151s AI-bevezet\u00e9sek, modellfriss\u00edt\u00e9sek, besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1sok vagy incidensek t\u00f6rt\u00e9nnek. A rendszeres \u00e1tvizsg\u00e1l\u00e1s mellett sz\u00fcks\u00e9g lehet rendk\u00edv\u00fcli vezet\u0151i \u00e1ttekint\u00e9sre is magas hat\u00e1s\u00fa esem\u00e9nyek ut\u00e1n. Ebben az \u00e9rtelemben az \u00e1tvizsg\u00e1l\u00e1s gyakoris\u00e1g\u00e1t a kock\u00e1zat dikt\u00e1lja<\/strong>, nem puszt\u00e1n a napt\u00e1ri ciklus.<\/p>\n\n\n\n Az \u00e1tvizsg\u00e1l\u00e1s ut\u00e1n a szervezetnek vissza kell csatolnia a d\u00f6nt\u00e9seket az operat\u00edv m\u0171k\u00f6d\u00e9sbe. Ha a vezet\u00e9s \u00faj kontrollt \u00edr el\u0151, annak meg kell jelennie az elj\u00e1r\u00e1sokban, felel\u0151ss\u00e9gekben, k\u00e9pz\u00e9sekben \u00e9s auditprogramban. Ha er\u0151forr\u00e1st biztos\u00edt, annak k\u00f6vethet\u0151 felhaszn\u00e1l\u00e1sa sz\u00fcks\u00e9ges. Ha strat\u00e9giai ir\u00e1nyt m\u00f3dos\u00edt, az AI-portf\u00f3li\u00f3ban \u00e9s kock\u00e1zati priorit\u00e1sokban is l\u00e1tsz\u00f3dnia kell. Ilyenkor a vezet\u0151i d\u00f6nt\u00e9s \u00e9rt\u00e9ke a v\u00e9grehajt\u00e1sban m\u00e9rhet\u0151<\/strong>, nem a jegyz\u0151k\u00f6nyvben.<\/p>\n\n\n\n A gyakorlati felk\u00e9sz\u00fcl\u00e9shez hasznos feladat egy konkr\u00e9t vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1si napirend \u00f6ssze\u00e1ll\u00edt\u00e1sa. Ebben legal\u00e1bb hat d\u00f6nt\u00e9si pont szerepeljen, mindegyikhez bemeneti inform\u00e1ci\u00f3val, vezet\u0151i k\u00e9rd\u00e9ssel, lehets\u00e9ges d\u00f6nt\u00e9ssel \u00e9s felel\u0151ssel. A feladat c\u00e9lja nem egy \u00e1ltal\u00e1nos sablon kit\u00f6lt\u00e9se, hanem annak gyakorl\u00e1sa, hogyan lesz az AIMS m\u0171k\u00f6d\u00e9si adataib\u00f3l vezet\u0151i ir\u00e1ny\u00edt\u00e1s.<\/p>\n\n\n\n A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s akkor tekinthet\u0151 \u00e9rettnek, ha a szervezet meg tudja v\u00e1laszolni a k\u00f6vetkez\u0151 k\u00e9rd\u00e9seket:<\/p>\n\n\n\n Mely AI-rendszerek kock\u00e1zati profilja v\u00e1ltozott az elm\u00falt id\u0151szakban?<\/p>\n\n\n\n Mely kontrollok m\u0171k\u00f6dnek bizony\u00edtottan, \u00e9s melyekn\u00e9l van bizonytalans\u00e1g?<\/p>\n\n\n\n Mely auditmeg\u00e1llap\u00edt\u00e1sok jeleznek rendszerszint\u0171 gyenges\u00e9get?<\/p>\n\n\n\n Milyen incidensek vagy panaszok utalnak ism\u00e9tl\u0151d\u0151 probl\u00e9m\u00e1ra?<\/p>\n\n\n\n Mely szab\u00e1lyoz\u00e1si vagy besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1sok ig\u00e9nyelnek d\u00f6nt\u00e9st?<\/p>\n\n\n\n Hol sz\u00fcks\u00e9ges t\u00f6bb er\u0151forr\u00e1s, k\u00e9pz\u00e9s vagy technikai t\u00e1mogat\u00e1s?<\/p>\n\n\n\n Mely AI-haszn\u00e1latokat kell gyors\u00edtani, korl\u00e1tozni vagy \u00fajra\u00e9rt\u00e9kelni?<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek seg\u00edtenek abban, hogy az \u00e1tvizsg\u00e1l\u00e1s ne rutinesem\u00e9ny legyen. Az AIMS akkor v\u00e1lik vezethet\u0151 rendszerr\u00e9, ha a vezet\u00e9s nemcsak t\u00e1j\u00e9koztat\u00e1st kap r\u00f3la, hanem t\u00e9nylegesen d\u00f6nt is a fejleszt\u00e9s\u00e9r\u0151l. A felel\u0151s AI-ir\u00e1ny\u00edt\u00e1s v\u00e9gs\u0151 soron nem a t\u00f6k\u00e9letes dokument\u00e1ci\u00f3r\u00f3l sz\u00f3l, hanem arr\u00f3l, hogy a szervezet id\u0151ben felismeri a v\u00e1ltoz\u00f3 kock\u00e1zatokat, \u00e9s k\u00e9pes ar\u00e1nyos, bizony\u00edthat\u00f3 \u00e9s v\u00e9grehajthat\u00f3 d\u00f6nt\u00e9seket hozni.<\/p>\n\n\n\n COSO. (2017). Enterprise risk management: Integrating with strategy and performance<\/em>. Committee of Sponsoring Organizations of the Treadway Commission. https:\/\/www.coso.org\/enterprise-risk-management<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n International Organization for Standardization. (2018). ISO 19011:2018: Guidelines for auditing management systems<\/em>. ISO. https:\/\/www.iso.org\/standard\/70017.html<\/p>\n\n\n\n International Organization for Standardization. (2022). ISO\/IEC 38507:2022: Information technology \u2014 Governance of IT \u2014 Governance implications of the use of artificial intelligence by organizations<\/em>. ISO. https:\/\/www.iso.org\/standard\/56641.html<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\n OECD. (2019). Recommendation of the Council on Artificial Intelligence<\/em>. OECD Legal Instruments. https:\/\/legalinstruments.oecd.org\/en\/instruments\/oecd-legal-0449<\/p>\n","protected":false},"excerpt":{"rendered":" A vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1s az AIMS-ben biztos\u00edtja, hogy az AI ir\u00e1ny\u00edt\u00e1si rendszer m\u0171k\u00f6d\u0151k\u00e9pes \u00e9s fejleszthet\u0151 legyen, t\u00e1mogatva a szervezet c\u00e9ljait \u00e9s kock\u00e1zatkezel\u00e9s\u00e9t.<\/p>\n","protected":false},"author":1,"featured_media":757,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_sas_skip_auto_schedule":false,"_sas_force_auto_schedule":false,"footnotes":""},"categories":[761],"tags":[764,767,769,763,765,308,766,158,85,768,762],"series":[],"class_list":["post-753","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-iranyitasi-rendszer-aims","tag-ai-iranyitas","tag-ai-kockazat","tag-ai-megfeleloseg","tag-aims","tag-audit","tag-incidens","tag-iso-42001","tag-kockazatkezeles","tag-kontroll","tag-vezetoi-dontes","tag-vezetosegi-atvizsgalas"],"yoast_head":"\nA vezet\u0151i d\u00f6nt\u00e9shez sz\u00fcks\u00e9ges bemeneti inform\u00e1ci\u00f3k<\/h2>\n\n\n\n
Etikai, reput\u00e1ci\u00f3s, technol\u00f3giai \u00e9s \u00fczleti kock\u00e1zatok \u00e9rtelmez\u00e9se<\/h2>\n\n\n\n
Er\u0151forr\u00e1sok, priorit\u00e1sok \u00e9s kontrolljav\u00edt\u00e1sok vezet\u0151i d\u00f6nt\u00e9sei<\/h2>\n\n\n\n
Vezet\u0151s\u00e9gi \u00e1tvizsg\u00e1l\u00e1si napirend \u00e9s gyakorlati alkalmaz\u00e1s<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n