Egy AI-alap\u00fa hitelb\u00edr\u00e1lati vagy \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si rendszer akkor is komoly szervezeti kock\u00e1zatot hordozhat, ha a kimenete els\u0151 r\u00e1n\u00e9z\u00e9sre pontosnak, gyorsnak \u00e9s \u00fczletileg hasznosnak t\u0171nik. A val\u00f3di k\u00e9rd\u00e9s nem csup\u00e1n az, hogy a modell j\u00f3 eredm\u00e9nyt ad-e, hanem az is, hogy a szervezet meg tudja-e indokolni, mi\u00e9rt haszn\u00e1lja azt egy adott d\u00f6nt\u00e9si helyzetben.<\/p>\n\n\n\n
A magyar\u00e1zhat\u00f3s\u00e1g \u00fczleti \u00e9s megfelel\u0151s\u00e9gi szempontb\u00f3l nem technikai luxus. Akkor v\u00e1lik k\u00fcl\u00f6n\u00f6sen fontoss\u00e1, amikor az AI-kimenet emberek lehet\u0151s\u00e9geire, \u00fcgyf\u00e9lkezel\u00e9sre, kock\u00e1zati besorol\u00e1sra, szolg\u00e1ltat\u00e1shoz val\u00f3 hozz\u00e1f\u00e9r\u00e9sre vagy vezet\u0151i d\u00f6nt\u00e9sekre hat. Egy AI ir\u00e1ny\u00edt\u00e1si rendszerben a magyar\u00e1zhat\u00f3s\u00e1g c\u00e9lja nem az, hogy minden modell minden bels\u0151 matematikai r\u00e9szlete mindenki sz\u00e1m\u00e1ra \u00e9rthet\u0151 legyen, hanem az, hogy a d\u00f6nt\u00e9si felel\u0151ss\u00e9g, az ellen\u0151rizhet\u0151s\u00e9g, a panaszkezelhet\u0151s\u00e9g \u00e9s a bizalom szervezeti szinten biztos\u00edtott legyen.<\/p>\n\n\n\n
A magyar\u00e1zhat\u00f3s\u00e1g els\u0151 l\u00e9p\u00e9se annak tiszt\u00e1z\u00e1sa, hogy nem ugyanazt jelenti minden szerepl\u0151nek. Egy adattud\u00f3s sz\u00e1m\u00e1ra jelentheti a modell bels\u0151 m\u0171k\u00f6d\u00e9s\u00e9nek \u00e9rtelmezhet\u0151s\u00e9g\u00e9t, egy \u00fczleti vezet\u0151 sz\u00e1m\u00e1ra a kimenet d\u00f6nt\u00e9si indok\u00e1t, egy auditor sz\u00e1m\u00e1ra pedig a kontrollok \u00e9s bizony\u00edt\u00e9kok visszak\u00f6vethet\u0151s\u00e9g\u00e9t. Szervezeti k\u00f6rnyezetben a magyar\u00e1zat mindig d\u00f6nt\u00e9si helyzethez k\u00f6t\u0151dik<\/strong>, ez\u00e9rt \u00f6nmag\u00e1ban a technikai le\u00edr\u00e1s ritk\u00e1n elegend\u0151.<\/p>\n\n\n\n Az \u00e1tl\u00e1that\u00f3s\u00e1g \u00e9s a magyar\u00e1zhat\u00f3s\u00e1g k\u00f6z\u00f6tt fontos k\u00fcl\u00f6nbs\u00e9g van. Az \u00e1tl\u00e1that\u00f3s\u00e1g azt mutatja meg, hogy az AI-rendszert hol, mire, milyen szerepben \u00e9s milyen korl\u00e1tokkal haszn\u00e1lj\u00e1k. A magyar\u00e1zhat\u00f3s\u00e1g ezzel szemben azt seg\u00edti, hogy egy konkr\u00e9t kimenet, aj\u00e1nl\u00e1s vagy besorol\u00e1s mi\u00e9rt tekinthet\u0151 \u00e9rtelmezhet\u0151nek az adott d\u00f6nt\u00e9si helyzetben.<\/p>\n\n\n\n A k\u00e9t fogalom kapcsol\u00f3dik, de nem helyettes\u00edti egym\u00e1st. Egy szervezet lehet \u00e1tl\u00e1that\u00f3 abban, hogy AI-t haszn\u00e1l, mik\u00f6zben a konkr\u00e9t d\u00f6nt\u00e9si logika m\u00e9g mindig nehezen \u00e9rthet\u0151. Ugyan\u00edgy el\u0151fordulhat, hogy egy modell bizonyos technikai \u00e9rtelemben magyar\u00e1zhat\u00f3, de a magyar\u00e1zat nem haszn\u00e1lhat\u00f3 a vezet\u0151i felel\u0151ss\u00e9g, a felhaszn\u00e1l\u00f3i d\u00f6nt\u00e9s vagy az audit szempontj\u00e1b\u00f3l.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3 AI szakirodalma is hangs\u00falyozza, hogy a magyar\u00e1zatok c\u00e9lja, c\u00edmzettje \u00e9s m\u00e9lys\u00e9ge elt\u00e9r\u0151 lehet (Arrieta et al., 2020). Ez k\u00fcl\u00f6n\u00f6sen fontos az AI ir\u00e1ny\u00edt\u00e1si rendszerben, mert nem<\/strong> <\/strong>minden<\/strong> \u00e9rthet\u0151 modell ad hasznos \u00fczleti magyar\u00e1zatot<\/strong>. Egy technikai v\u00e1ltoz\u00f3s\u00faly-lista p\u00e9ld\u00e1ul lehet informat\u00edv a fejleszt\u0151nek, de kev\u00e9s egy \u00fcgyint\u00e9z\u0151nek, aki egy \u00fcgyf\u00e9lbesorol\u00e1s k\u00f6vetkezm\u00e9ny\u00e9t magyar\u00e1zza.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1got ez\u00e9rt nem lehet \u00e1ltal\u00e1nos, minden helyzetre azonos k\u00f6vetelm\u00e9nyk\u00e9nt kezelni. Egy alacsony hat\u00e1s\u00fa dokumentumc\u00edmk\u00e9z\u0151 rendszerhez kevesebb magyar\u00e1zat is el\u00e9g lehet, mint egy hitelk\u00e9pess\u00e9gi, HR-el\u0151sz\u0171r\u00e9si vagy kock\u00e1zati rangsorol\u00e1si megold\u00e1shoz. Min\u00e9l nagyobb a d\u00f6nt\u00e9si hat\u00e1s, ann\u00e1l er\u0151sebb a szervezeti indokol\u00e1si ig\u00e9ny.<\/p>\n\n\n\n Ez a megk\u00f6zel\u00edt\u00e9s illeszkedik a kock\u00e1zatalap\u00fa AI-ir\u00e1ny\u00edt\u00e1shoz. Az EU AI Act magas kock\u00e1zat\u00fa AI-rendszerekn\u00e9l k\u00fcl\u00f6n\u00f6sen hangs\u00falyoss\u00e1 teszi az emberi fel\u00fcgyelet, az \u00e1tl\u00e1that\u00f3s\u00e1g, a dokument\u00e1ci\u00f3 \u00e9s a megfelel\u0151 haszn\u00e1lati inform\u00e1ci\u00f3k szerep\u00e9t (European Parliament & Council of the European Union, 2024). A szervezeti tanuls\u00e1g vil\u00e1gos: a d\u00f6nt\u00e9si hat\u00e1s n\u00f6veli a magyar\u00e1zati k\u00f6telezetts\u00e9get<\/strong>, mert a hib\u00e1s vagy indokolhatatlan kimenet nagyobb k\u00e1rt okozhat.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1g nem azt jelenti, hogy a modell minden bels\u0151 sz\u00e1m\u00edt\u00e1s\u00e1t le kell ford\u00edtani h\u00e9tk\u00f6znapi nyelvre. Ink\u00e1bb azt jelenti, hogy a szervezet k\u00e9pes megmutatni: milyen adatok, c\u00e9lok, teljes\u00edtm\u00e9nymutat\u00f3k, korl\u00e1tok \u00e9s kontrollok alapj\u00e1n tekinti a kimenetet haszn\u00e1lhat\u00f3nak. Ez a k\u00fcl\u00f6nbs\u00e9g az\u00e9rt fontos, mert a t\u00fal r\u00e9szletes technikai magyar\u00e1zat nem felt\u00e9tlen\u00fcl n\u00f6veli a felel\u0151ss\u00e9get.<\/p>\n\n\n\n Egy AI-kimenet akkor haszn\u00e1lhat\u00f3 felel\u0151sen, ha a felhaszn\u00e1l\u00f3 \u00e9rti a szerep\u00e9t a d\u00f6nt\u00e9si folyamatban. Egy pontsz\u00e1m, kock\u00e1zati kateg\u00f3ria vagy aj\u00e1nl\u00e1s nem v\u00e1lhat automatikusan d\u00f6nt\u00e9ss\u00e9, ha az adott folyamat emberi m\u00e9rlegel\u00e9st, jogi \u00e9rt\u00e9kel\u00e9st vagy \u00fczleti kontextust ig\u00e9nyel. Ebben az AI-kimenet nem azonos a d\u00f6nt\u00e9si indokkal<\/strong>, hanem legfeljebb annak egyik bemenete.<\/p>\n\n\n\n Az \u00e9rtelmezhet\u0151s\u00e9g \u00e9s a magyar\u00e1zhat\u00f3s\u00e1g m\u00e9r\u00e9s\u00e9re nincs egyetlen, minden helyzetben \u00e9rv\u00e9nyes m\u00f3dszer. Doshi-Velez \u00e9s Kim (2017) arra h\u00edvj\u00e1k fel a figyelmet, hogy az interpret\u00e1lhat\u00f3s\u00e1g \u00e9rt\u00e9kel\u00e9s\u00e9t a felhaszn\u00e1l\u00e1si c\u00e9lnak \u00e9s a magyar\u00e1zat c\u00edmzettj\u00e9nek megfelel\u0151en kell kialak\u00edtani. Ez az AIMS szempontj\u00e1b\u00f3l azt jelenti, hogy a magyar\u00e1zati ig\u00e9nyt nem lehet a fejleszt\u0151i csapat egyoldal\u00fa d\u00f6nt\u00e9s\u00e9re b\u00edzni.<\/p>\n\n\n\n A szervezetnek el\u0151re tiszt\u00e1znia kell, milyen szint\u0171 magyar\u00e1zhat\u00f3s\u00e1got v\u00e1r el az adott haszn\u00e1lati esett\u0151l. Egy \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si modelln\u00e9l p\u00e9ld\u00e1ul nem el\u00e9g azt tudni, hogy a modell j\u00f3 el\u0151rejelz\u00e9si teljes\u00edtm\u00e9nyt mutatott. Azt is \u00e9rteni kell, milyen t\u00e9nyez\u0151k befoly\u00e1solj\u00e1k a kimenetet, milyen hib\u00e1kra hajlamos, kiket \u00e9rinthet h\u00e1tr\u00e1nyosan, \u00e9s milyen esetben sz\u00fcks\u00e9ges emberi fel\u00fclvizsg\u00e1lat.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1g szervezeti \u00e9rtelme teh\u00e1t nem puszt\u00e1n a technol\u00f3gia meg\u00e9rt\u00e9se. A c\u00e9l az, hogy az AI-rendszer haszn\u00e1lata bizony\u00edthat\u00f3an illeszkedjen az \u00fczleti c\u00e9lhoz, a megfelel\u0151s\u00e9gi elv\u00e1r\u00e1sokhoz, a kock\u00e1zati \u00e9tv\u00e1gyhoz \u00e9s az \u00e9rintettekkel szembeni felel\u0151ss\u00e9ghez. Ilyenkor a magyar\u00e1zat a kontrollrendszer r\u00e9sze<\/strong>, nem pedig ut\u00f3lagos kommunik\u00e1ci\u00f3s kieg\u00e9sz\u00edt\u00e9s.<\/p>\n\n\n\n A black box probl\u00e9ma akkor jelenik meg, amikor egy modell kimenete haszn\u00e1lhat\u00f3nak t\u0171nik, de a d\u00f6nt\u00e9si logika nem vagy csak korl\u00e1tozottan \u00e9rthet\u0151 a felhaszn\u00e1l\u00f3k, vezet\u0151k, auditorok vagy \u00e9rintettek sz\u00e1m\u00e1ra. Ez k\u00fcl\u00f6n\u00f6sen gyakori \u00f6sszetett g\u00e9pi tanul\u00e1si \u00e9s m\u00e9lytanul\u00e1si rendszerekn\u00e9l, de nem kiz\u00e1r\u00f3lag ezekn\u00e9l fordul el\u0151. Egy egyszer\u0171bb modell is lehet szervezetileg \u201efekete doboz\u201d, ha a m\u0171k\u00f6d\u00e9s\u00e9t senki nem tudja \u00e9rdemben elmagyar\u00e1zni.<\/p>\n\n\n\n A black box m\u0171k\u00f6d\u00e9s \u00fczleti kock\u00e1zata nem \u00f6nmag\u00e1ban az, hogy a modell matematikailag bonyolult. A val\u00f3di probl\u00e9ma az, ha a szervezet nem tudja megmondani, mi\u00e9rt fogad el egy kimenetet, mikor nem fogadja el, \u00e9s milyen kontrollok v\u00e9dik a d\u00f6nt\u00e9si folyamatot. Ebben a megmagyar\u00e1zhatatlan kimenet felel\u0151ss\u00e9gi r\u00e9st hoz l\u00e9tre<\/strong>, mert a d\u00f6nt\u00e9s k\u00f6vetkezm\u00e9nye emberi \u00e9s szervezeti marad.<\/p>\n\n\n\n A black box modell k\u00fcl\u00f6n\u00f6sen vesz\u00e9lyes lehet magas hat\u00e1s\u00fa d\u00f6nt\u00e9sekben. Rudin (2019) er\u0151teljesen \u00e9rvel amellett, hogy nagy t\u00e9t\u0171 d\u00f6nt\u00e9sekn\u00e9l \u00e9rdemes el\u0151nyben r\u00e9szes\u00edteni az eleve \u00e9rtelmezhet\u0151 modelleket a nehezen \u00e9rtelmezhet\u0151 modellek ut\u00f3lagos magyar\u00e1zataival szemben. Ez a gondolat nem azt jelenti, hogy minden komplex modell eleve elfogadhatatlan, hanem azt, hogy a modellv\u00e1laszt\u00e1sn\u00e1l a magyar\u00e1zhat\u00f3s\u00e1got is kock\u00e1zati szempontk\u00e9nt kell kezelni.<\/p>\n\n\n\n Egy \u00fczleti d\u00f6nt\u00e9shoz\u00f3 sz\u00e1m\u00e1ra a black box probl\u00e9ma gyakran a felel\u0151ss\u00e9gi l\u00e1nc megszakad\u00e1sak\u00e9nt jelenik meg. A felhaszn\u00e1l\u00f3 a modellre hivatkozik, a fejleszt\u0151 a tan\u00edt\u00f3adatokra, a besz\u00e1ll\u00edt\u00f3 az \u00fczleti titokra, a vezet\u0151 pedig a szak\u00e9rt\u0151i valid\u00e1l\u00e1sra. Ha nincs dokument\u00e1lt modellindokol\u00e1s, akkor a felel\u0151ss\u00e9g k\u00f6nnyen sz\u00e9tter\u00fcl, de nem kezel\u0151dik<\/strong>, ami auditban, panaszhelyzetben vagy incidensn\u00e9l s\u00falyos probl\u00e9m\u00e1t okozhat.<\/p>\n\n\n\n A modell komplexit\u00e1sa nem ments\u00e9g a szervezeti felel\u0151ss\u00e9g al\u00f3l. Egy AI-rendszer haszn\u00e1lat\u00e1r\u00f3l mindig a szervezet d\u00f6nt: milyen c\u00e9lra vezeti be, milyen folyamatba illeszti, milyen kimeneti s\u00falyt ad neki, kik haszn\u00e1lhatj\u00e1k, \u00e9s milyen korrekci\u00f3s lehet\u0151s\u00e9gek vannak. Ha a szervezet nem \u00e9rti ezeket a pontokat, akkor nem egyszer\u0171en technikai magyar\u00e1zat hi\u00e1nyzik, hanem ir\u00e1ny\u00edt\u00e1si kontroll.<\/p>\n\n\n\n A black box kock\u00e1zat egyik gyakori form\u00e1ja a t\u00falzott felhaszn\u00e1l\u00f3i bizalom. Ha egy rendszer sz\u00e1mszer\u0171 pontsz\u00e1mot, sz\u00ednes kock\u00e1zati kateg\u00f3ri\u00e1t vagy magabiztos nyelvi v\u00e1laszt ad, a felhaszn\u00e1l\u00f3 hajlamos lehet objekt\u00edv t\u00e9nyk\u00e9nt kezelni. Ilyenkor a magabiztos kimenet hamis biztons\u00e1got kelthet<\/strong>, k\u00fcl\u00f6n\u00f6sen akkor, ha a felhaszn\u00e1l\u00f3 nem ismeri a modell korl\u00e1tait.<\/p>\n\n\n\n A m\u00e1sik kock\u00e1zat az alulmagyar\u00e1zott elutas\u00edt\u00e1s vagy h\u00e1tr\u00e1nyos besorol\u00e1s. Hitelk\u00e9relem, \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9s vagy HR-el\u0151sz\u0171r\u00e9s eset\u00e9n az \u00e9rintett sz\u00e1m\u00e1ra nem mindegy, hogy egy kimenet milyen k\u00f6vetkezm\u00e9nnyel j\u00e1r. A GDPR automatiz\u00e1lt d\u00f6nt\u00e9shozatalra vonatkoz\u00f3 szab\u00e1lyai k\u00fcl\u00f6n\u00f6sen azokban a helyzetekben relev\u00e1nsak, ahol kiz\u00e1r\u00f3lag automatiz\u00e1lt d\u00f6nt\u00e9s joghat\u00e1ssal vagy hasonl\u00f3an jelent\u0151s hat\u00e1ssal j\u00e1rhat az \u00e9rintettre (European Parliament & Council of the European Union, 2016).<\/p>\n\n\n\n A szervezeti kontroll szempontj\u00e1b\u00f3l ez\u00e9rt kulcsk\u00e9rd\u00e9s, hogy az AI-kimenet milyen d\u00f6nt\u00e9si s\u00falyt kap. M\u00e1s kock\u00e1zatot jelent, ha a modell csak h\u00e1tt\u00e9relemz\u00e9st k\u00e9sz\u00edt, \u00e9s m\u00e1st, ha automatikus elutas\u00edt\u00e1st, rangsorol\u00e1st vagy kiemel\u00e9st eredm\u00e9nyez. Min\u00e9l k\u00f6zvetlenebb a hat\u00e1s, ann\u00e1l ink\u00e1bb sz\u00fcks\u00e9g van \u00e9rthet\u0151 indokra, emberi fel\u00fclvizsg\u00e1latra \u00e9s dokument\u00e1lt d\u00f6nt\u00e9si nyomra.<\/p>\n\n\n\n A black box m\u0171k\u00f6d\u00e9s az audit\u00e1lhat\u00f3s\u00e1got is gyeng\u00edti. Egy auditor nem felt\u00e9tlen\u00fcl akarja vagy tudja \u00fajra\u00e9p\u00edteni a modellt, de meg kell tudnia vizsg\u00e1lni, hogy a szervezet megfelel\u0151en kezelte-e az AI-kock\u00e1zatot. Ha nincs le\u00edr\u00e1s a c\u00e9lr\u00f3l, adatr\u00f3l, valid\u00e1l\u00e1sr\u00f3l, korl\u00e1tokr\u00f3l \u00e9s fel\u00fcgyeletr\u0151l, akkor a modell teljes\u00edtm\u00e9nye nem v\u00e1lik auditbizony\u00edt\u00e9kk\u00e1<\/strong>, mert nem kapcsol\u00f3dik ellen\u0151rizhet\u0151 ir\u00e1ny\u00edt\u00e1si d\u00f6nt\u00e9shez.<\/p>\n\n\n\n A NIST AI Risk Management Framework is az AI-kock\u00e1zatok ir\u00e1ny\u00edt\u00e1s\u00e1t, m\u00e9r\u00e9s\u00e9t, kezel\u00e9s\u00e9t \u00e9s kommunik\u00e1ci\u00f3j\u00e1t helyezi k\u00f6z\u00e9ppontba (National Institute of Standards and Technology, 2023). Ez a keret j\u00f3l haszn\u00e1lhat\u00f3 annak meg\u00e9rt\u00e9s\u00e9re, hogy a black box probl\u00e9ma nem egyszer\u0171en interpret\u00e1lhat\u00f3s\u00e1gi k\u00e9rd\u00e9s. A szervezetnek tudnia kell azonos\u00edtani, m\u00e9rni, kezelni \u00e9s kommunik\u00e1lni a kock\u00e1zatot.<\/p>\n\n\n\n A black box kock\u00e1zat nem mindig sz\u00fcntethet\u0151 meg teljesen. Vannak helyzetek, ahol a szervezet komplex modellt haszn\u00e1l, mert az adott feladatn\u00e1l ez ar\u00e1nyos \u00e9s indokolhat\u00f3. Ilyenkor nem az a c\u00e9l, hogy a modell minden r\u00e9szlete intuit\u00edv legyen, hanem az, hogy a haszn\u00e1lat k\u00f6r\u00e9 megfelel\u0151 kontrollr\u00e9teg \u00e9p\u00fclj\u00f6n. Ebben a korl\u00e1tozott magyar\u00e1zhat\u00f3s\u00e1g fokozott kontrollt ig\u00e9nyel<\/strong>, k\u00fcl\u00f6n\u00f6sen magas hat\u00e1s\u00fa d\u00f6nt\u00e9si k\u00f6rnyezetben.<\/p>\n\n\n\n A kontrollr\u00e9teg t\u00f6bb elemb\u0151l \u00e1llhat. Ide tartozik a modell c\u00e9lj\u00e1nak dokument\u00e1l\u00e1sa, a tan\u00edt\u00f3- \u00e9s tesztadatok min\u0151s\u00e9gi vizsg\u00e1lata, a teljes\u00edtm\u00e9ny \u00e9s hibaar\u00e1ny m\u00e9r\u00e9si rendje, a haszn\u00e1lati korl\u00e1tok le\u00edr\u00e1sa, az emberi fel\u00fcgyelet szab\u00e1lyoz\u00e1sa, a panaszkezel\u00e9si \u00fatvonal, valamint a v\u00e1ltoz\u00e1skezel\u00e9s. Ezek egy\u00fctt cs\u00f6kkentik annak kock\u00e1zat\u00e1t, hogy a modell megmagyar\u00e1zhatatlanul \u00e9s ellen\u0151rizetlen\u00fcl befoly\u00e1soljon d\u00f6nt\u00e9seket.<\/p>\n\n\n\n A black box probl\u00e9ma teh\u00e1t nem puszt\u00e1n technol\u00f3giai kellemetlens\u00e9g. \u00dczleti felel\u0151ss\u00e9gi helyzetekben a megmagyar\u00e1zhatatlan kimenet d\u00f6nt\u00e9si, jogi, etikai, reput\u00e1ci\u00f3s \u00e9s auditkock\u00e1zatt\u00e1 v\u00e1lhat. A szervezetnek ez\u00e9rt nem azt kell k\u00e9rdeznie, hogy \u201emennyire okos\u201d a modell, hanem azt is, hogy \u201emennyire indokolhat\u00f3\u201d a haszn\u00e1lata.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1g egyik leggyakoribb hib\u00e1ja, hogy a szervezet egyetlen magyar\u00e1zatot pr\u00f3b\u00e1l minden szerepl\u0151nek adni. Ez ritk\u00e1n m\u0171k\u00f6dik. A felhaszn\u00e1l\u00f3, a vezet\u0151, az auditor \u00e9s az \u00e9rintett m\u00e1s k\u00e9rd\u00e9sre keresi a v\u00e1laszt, ez\u00e9rt m\u00e1s szint\u0171 \u00e9s form\u00e1j\u00fa magyar\u00e1zatra van sz\u00fcks\u00e9ge.<\/p>\n\n\n\n A felhaszn\u00e1l\u00f3 magyar\u00e1zata operat\u00edv jelleg\u0171. Azt kell \u00e9rtenie, hogyan \u00e9rtelmezze a kimenetet, milyen korl\u00e1tai vannak, mikor kell \u00f3vatosnak lennie, \u00e9s mikor kell emberi fel\u00fclvizsg\u00e1latot vagy szak\u00e9rt\u0151i d\u00f6nt\u00e9st k\u00e9rnie. Ebben a felhaszn\u00e1l\u00f3i magyar\u00e1zat a helyes haszn\u00e1latot v\u00e9di<\/strong>, nem pedig a modell teljes technikai felt\u00e1r\u00e1s\u00e1t c\u00e9lozza.<\/p>\n\n\n\n Egy \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si modelln\u00e9l a felhaszn\u00e1l\u00f3nak tudnia kell, hogy a pontsz\u00e1m milyen d\u00f6nt\u00e9si szerepet t\u00f6lt be. Csak figyelmeztet\u0151 jelz\u00e9s? \u00dcgyint\u00e9z\u0151i prioriz\u00e1l\u00e1s? Automatikus folyamatind\u00edt\u00e1s? Ha ezek nem vil\u00e1gosak, a felhaszn\u00e1l\u00f3 t\u00fal- vagy alul\u00e9rt\u00e9kelheti az AI-kimenetet. A magyar\u00e1zatnak ez\u00e9rt a mindennapi d\u00f6nt\u00e9si helyzethez kell igazodnia.<\/p>\n\n\n\n A vezet\u0151i magyar\u00e1zat m\u00e1s term\u00e9szet\u0171. A vezet\u0151nek nem felt\u00e9tlen\u00fcl kell v\u00e1ltoz\u00f3szinten \u00e9rtenie a modellt, de tudnia kell, hogy az AI-rendszer milyen \u00fczleti c\u00e9lt szolg\u00e1l, milyen kock\u00e1zatot hordoz, hogyan valid\u00e1lt\u00e1k, milyen kontrollok v\u00e9dik, \u00e9s milyen maradv\u00e1nykock\u00e1zatot fogad el a szervezet. Itt a vezet\u0151i magyar\u00e1zat a kock\u00e1zati d\u00f6nt\u00e9st t\u00e1mogatja<\/strong>, nem a napi kezel\u00e9st.<\/p>\n\n\n\n A vezet\u0151nek azt is l\u00e1tnia kell, hogy a magyar\u00e1zhat\u00f3s\u00e1gi szint ar\u00e1nyos-e a d\u00f6nt\u00e9si hat\u00e1ssal. Egy bels\u0151 dokumentumoszt\u00e1lyoz\u00f3 eset\u00e9n elegend\u0151 lehet egyszer\u0171bb le\u00edr\u00e1s \u00e9s alapszint\u0171 teljes\u00edtm\u00e9nyk\u00f6vet\u00e9s. Egy \u00fcgyf\u00e9lhozz\u00e1f\u00e9r\u00e9st, hitelaj\u00e1nlatot vagy kock\u00e1zati besorol\u00e1st befoly\u00e1sol\u00f3 rendszer eset\u00e9n viszont r\u00e9szletesebb indokol\u00e1s, tesztel\u00e9s, monitoring \u00e9s fel\u00fclvizsg\u00e1lat sz\u00fcks\u00e9ges.<\/p>\n\n\n\n Az auditor magyar\u00e1zata bizony\u00edt\u00e9kalap\u00fa. Az auditor nem els\u0151sorban azt k\u00e9rdezi, hogy a modell \u201e\u00e9rdekes\u201d vagy \u201emodern\u201d technol\u00f3gi\u00e1t haszn\u00e1l-e, hanem azt, hogy a szervezet szab\u00e1lyozott, dokument\u00e1lt \u00e9s ellen\u0151rizhet\u0151 m\u00f3don kezeli-e az AI-rendszert. Ebben az audit\u00e1l\u00e1si magyar\u00e1zat a visszak\u00f6vethet\u0151s\u00e9get keresi<\/strong>, vagyis a d\u00f6nt\u00e9sek, kontrollok \u00e9s bizony\u00edt\u00e9kok kapcsolat\u00e1t.<\/p>\n\n\n\n Az auditor sz\u00e1m\u00e1ra fontos lehet a haszn\u00e1lati eset le\u00edr\u00e1sa, a kock\u00e1zat\u00e9rt\u00e9kel\u00e9s, a modellvalid\u00e1l\u00e1s eredm\u00e9nye, az emberi fel\u00fcgyeleti szab\u00e1ly, a v\u00e1ltoz\u00e1skezel\u00e9si dokument\u00e1ci\u00f3, a besz\u00e1ll\u00edt\u00f3i inform\u00e1ci\u00f3k \u00e9s a monitoringjelent\u00e9sek. Ha ezek hi\u00e1nyoznak, a modell ak\u00e1r j\u00f3l is m\u0171k\u00f6dhet, m\u00e9gsem lesz megfelel\u0151en audit\u00e1lhat\u00f3.<\/p>\n\n\n\n Az \u00e9rintett magyar\u00e1zata emberi \u00e9s jogi szempontb\u00f3l is k\u00fcl\u00f6nleges. Az \u00e9rintettet nem els\u0151sorban a modell architekt\u00far\u00e1ja \u00e9rdekli, hanem az, hogy mi t\u00f6rt\u00e9nt vele, milyen szempontok j\u00e1tszottak szerepet, van-e lehet\u0151s\u00e9ge emberi beavatkoz\u00e1st k\u00e9rni, \u00e9s hogyan vitathatja a d\u00f6nt\u00e9st. Ilyenkor az \u00e9rintetti magyar\u00e1zat a m\u00e9lt\u00e1nyos elj\u00e1r\u00e1st szolg\u00e1lja<\/strong>, nem technikai oktat\u00e1st.<\/p>\n\n\n\n A k\u00fcl\u00f6nb\u00f6z\u0151 c\u00edmzettek magyar\u00e1zati ig\u00e9nyeit \u00e9rdemes k\u00fcl\u00f6n t\u00e1bl\u00e1zatban is r\u00f6gz\u00edteni:<\/p>\n\n\n\n C\u00edmzett<\/p>\n\n\n\n F\u0151 k\u00e9rd\u00e9s<\/p>\n\n\n\n Magyar\u00e1zat c\u00e9lja<\/p>\n\n\n\n Tipikus bizony\u00edt\u00e9k vagy eszk\u00f6z<\/p>\n\n\n\n Felhaszn\u00e1l\u00f3<\/p>\n\n\n\n Hogyan haszn\u00e1ljam a kimenetet?<\/p>\n\n\n\n Helyes \u00e9rtelmez\u00e9s \u00e9s fel\u00fclvizsg\u00e1lat<\/p>\n\n\n\n haszn\u00e1lati \u00fatmutat\u00f3, d\u00f6nt\u00e9si szab\u00e1ly, figyelmeztet\u00e9s<\/p>\n\n\n\n Vezet\u0151<\/p>\n\n\n\n Mi\u00e9rt elfogadhat\u00f3 a haszn\u00e1lat?<\/p>\n\n\n\n Kock\u00e1zati \u00e9s felel\u0151ss\u00e9gi d\u00f6nt\u00e9s<\/p>\n\n\n\n kock\u00e1zat\u00e9rt\u00e9kel\u00e9s, j\u00f3v\u00e1hagy\u00e1s, maradv\u00e1nykock\u00e1zat<\/p>\n\n\n\n Auditor<\/p>\n\n\n\n Ellen\u0151rizhet\u0151-e a m\u0171k\u00f6d\u00e9s?<\/p>\n\n\n\n Bizony\u00edt\u00e9k \u00e9s megfelel\u0151s\u00e9g<\/p>\n\n\n\n valid\u00e1l\u00e1si jegyz\u0151k\u00f6nyv, monitoring, v\u00e1ltoz\u00e1snapl\u00f3<\/p>\n\n\n\n \u00c9rintett<\/p>\n\n\n\n Mi\u00e9rt \u00e9rint \u00edgy a d\u00f6nt\u00e9s?<\/p>\n\n\n\n \u00c9rthet\u0151s\u00e9g \u00e9s jogorvoslat<\/p>\n\n\n\n k\u00f6z\u00e9rthet\u0151 t\u00e1j\u00e9koztat\u00e1s, panasz\u00fat, emberi beavatkoz\u00e1s<\/p>\n\n\n\n Fejleszt\u0151 vagy besz\u00e1ll\u00edt\u00f3<\/p>\n\n\n\n Hogyan m\u0171k\u00f6dik \u00e9s hol hib\u00e1zhat?<\/p>\n\n\n\n Technikai jav\u00edt\u00e1s \u00e9s karbantart\u00e1s<\/p>\n\n\n\n modellle\u00edr\u00e1s, teszteredm\u00e9ny, hibat\u00edpus-elemz\u00e9s<\/p>\n\n\n\n A t\u00e1bl\u00e1zat l\u00e9nyege nem az, hogy minden szervezet ugyanazokat a dokumentumokat haszn\u00e1lja. Ink\u00e1bb az, hogy a magyar\u00e1zat c\u00edmzettje \u00e9s c\u00e9lja el\u0151re legyen meghat\u00e1rozva. A j\u00f3 magyar\u00e1zat mindig szerepk\u00f6rh\u00f6z igazodik<\/strong>, mert m\u00e1s inform\u00e1ci\u00f3 teszi cselekv\u0151k\u00e9pess\u00e9 a felhaszn\u00e1l\u00f3t, a vezet\u0151t, az auditort \u00e9s az \u00e9rintettet.<\/p>\n\n\n\n A magyar\u00e1zat min\u0151s\u00e9g\u00e9t az is meghat\u00e1rozza, hogy mire lehet vele kezdeni. Ha a felhaszn\u00e1l\u00f3 csak annyit l\u00e1t, hogy \u201emagas kock\u00e1zat\u201d, de nem tudja, milyen tov\u00e1bbi l\u00e9p\u00e9s sz\u00fcks\u00e9ges, a magyar\u00e1zat gyenge. Ha a vezet\u0151 csak egy pontoss\u00e1gi \u00e9rt\u00e9ket kap, de nem l\u00e1tja az \u00e9rintetti hat\u00e1st, szint\u00e9n hi\u00e1nyos a k\u00e9p.<\/p>\n\n\n\n A szervezetnek ez\u00e9rt nemcsak magyar\u00e1zatot kell adnia, hanem d\u00f6nt\u00e9si k\u00f6vetkezm\u00e9nyt is kell rendelnie hozz\u00e1. Ha a modell bizonytalan, mi t\u00f6rt\u00e9nik? Ha a kimenet szokatlan, ki vizsg\u00e1lja fel\u00fcl? Ha az \u00e9rintett panaszt tesz, milyen bizony\u00edt\u00e9k alapj\u00e1n kezelik? Ilyenkor a magyar\u00e1zat cselekv\u00e9si \u00fatvonall\u00e1 v\u00e1lik<\/strong>, \u00e9s nem marad puszta inform\u00e1ci\u00f3.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1g szintj\u00e9t a d\u00f6nt\u00e9si hat\u00e1s, a jogi jelent\u0151s\u00e9g, az \u00e9rintetti s\u00e9r\u00fcl\u00e9kenys\u00e9g, az automatiz\u00e1lts\u00e1g foka \u00e9s a modell komplexit\u00e1sa alapj\u00e1n \u00e9rdemes meghat\u00e1rozni. Min\u00e9l magasabb ezek k\u00f6z\u00fcl t\u00f6bb t\u00e9nyez\u0151, ann\u00e1l r\u00e9szletesebb \u00e9s jobban dokument\u00e1lt magyar\u00e1zati rend sz\u00fcks\u00e9ges. Ez a logika seg\u00edt elker\u00fclni a t\u00falzott adminisztr\u00e1ci\u00f3t \u00e9s az alulkezelt kock\u00e1zatot is.<\/p>\n\n\n\n A dokument\u00e1lt modellindokol\u00e1s az AI ir\u00e1ny\u00edt\u00e1si rendszer egyik legfontosabb gyakorlati eszk\u00f6ze. Nem azonos a technikai modellle\u00edr\u00e1ssal, b\u00e1r \u00e9p\u00edthet r\u00e1. Olyan szervezeti dokument\u00e1ci\u00f3r\u00f3l van sz\u00f3, amely r\u00f6gz\u00edti, hogy a modell mi\u00e9rt l\u00e9tezik, milyen c\u00e9lra haszn\u00e1lhat\u00f3, milyen korl\u00e1tai vannak, milyen kock\u00e1zatokat hordoz, \u00e9s milyen kontrollok mellett fogadhat\u00f3 el.<\/p>\n\n\n\n Egy j\u00f3 modellindokol\u00e1s a d\u00f6nt\u00e9si felel\u0151ss\u00e9get teszi l\u00e1that\u00f3v\u00e1. Nemcsak azt \u00edrja le, hogy a modell mit csin\u00e1l, hanem azt is, hogy a szervezet milyen felt\u00e9telek mellett tartja a kimenetet haszn\u00e1lhat\u00f3nak. Ebben a dokument\u00e1ci\u00f3 a felel\u0151s haszn\u00e1lat bizony\u00edt\u00e9ka<\/strong>, nem pedig adminisztrat\u00edv mell\u00e9klet.<\/p>\n\n\n\n Az ISO\/IEC 42001 szervezeti menedzsmentrendszerk\u00e9nt kezeli az AI ir\u00e1ny\u00edt\u00e1s\u00e1t, vagyis a c\u00e9lok, felel\u0151ss\u00e9gek, kock\u00e1zatok, folyamatok, kontrollok \u00e9s fejleszt\u00e9sek rendszer\u00e9t helyezi k\u00f6z\u00e9ppontba (International Organization for Standardization, 2023). Ez a logika j\u00f3l illeszkedik a magyar\u00e1zhat\u00f3s\u00e1ghoz: nem el\u00e9g, ha a modell fejleszt\u0151je \u00e9rti a rendszert, a szervezetnek is m\u0171k\u00f6dtetnie kell az indokolhat\u00f3s\u00e1got.<\/p>\n\n\n\n A dokument\u00e1lt modellindokol\u00e1s minim\u00e1lis tartalma a k\u00f6vetkez\u0151 lehet:<\/p>\n\n\n\n az AI-haszn\u00e1lati eset c\u00e9lja \u00e9s \u00fczleti indoka;<\/p>\n\n\n\n az \u00e9rintett folyamat \u00e9s d\u00f6nt\u00e9si pont le\u00edr\u00e1sa;<\/p>\n\n\n\n a modell kimenet\u00e9nek t\u00edpusa \u00e9s d\u00f6nt\u00e9si s\u00falya;<\/p>\n\n\n\n a felhaszn\u00e1lt adatok f\u0151 jellemz\u0151i \u00e9s korl\u00e1tai;<\/p>\n\n\n\n a modell f\u0151 teljes\u00edtm\u00e9ny- \u00e9s hibamutat\u00f3i;<\/p>\n\n\n\n a magyar\u00e1zhat\u00f3s\u00e1gi szint indokol\u00e1sa;<\/p>\n\n\n\n az emberi fel\u00fcgyelet \u00e9s fel\u00fclvizsg\u00e1lat szab\u00e1lya;<\/p>\n\n\n\n a monitoring \u00e9s \u00fajra\u00e9rt\u00e9kel\u00e9s rendje;<\/p>\n\n\n\n a panaszkezel\u00e9s vagy korrekci\u00f3 kapcsol\u00f3d\u00e1si pontja;<\/p>\n\n\n\n a maradv\u00e1nykock\u00e1zat elfogad\u00e1s\u00e1nak dokument\u00e1lt d\u00f6nt\u00e9se.<\/p>\n\n\n\n Ez a lista nem minden helyzetben azonos m\u00e9lys\u00e9g\u0171. Egy alacsony kock\u00e1zat\u00fa bels\u0151 eszk\u00f6zn\u00e9l elegend\u0151 lehet r\u00f6videbb, egyszer\u0171bb indokol\u00e1s. Egy magas hat\u00e1s\u00fa \u00fcgyf\u00e9l- vagy munkav\u00e1llal\u00f3i d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszern\u00e9l viszont r\u00e9szletesebb bizony\u00edt\u00e9k kell. A dokument\u00e1ci\u00f3 m\u00e9lys\u00e9ge a kock\u00e1zathoz igazodik<\/strong>, k\u00fcl\u00f6nben vagy t\u00falterheli a szervezetet, vagy nem v\u00e9di megfelel\u0151en.<\/p>\n\n\n\n A modellindokol\u00e1s egyik kritikus eleme a d\u00f6nt\u00e9si s\u00faly meghat\u00e1roz\u00e1sa. A szervezetnek r\u00f6gz\u00edtenie kell, hogy az AI-kimenet aj\u00e1nl\u00e1s, figyelmeztet\u00e9s, rangsor, automatikus d\u00f6nt\u00e9s vagy emberi d\u00f6nt\u00e9s el\u0151k\u00e9sz\u00edt\u0151 inform\u00e1ci\u00f3ja. Ez nem formai k\u00e9rd\u00e9s, mert a magyar\u00e1zhat\u00f3s\u00e1gi ig\u00e9ny k\u00f6zvetlen\u00fcl f\u00fcgg att\u00f3l, milyen szerepet kap a kimenet.<\/p>\n\n\n\n Ha az AI csak h\u00e1tt\u00e9relemz\u00e9st ad, a magyar\u00e1zat f\u0151 c\u00e9lja a helyes felhaszn\u00e1l\u00e1s lehet. Ha a kimenet \u00fcgyfelek besorol\u00e1s\u00e1t, elutas\u00edt\u00e1s\u00e1t vagy kiemelt kezel\u00e9s\u00e9t befoly\u00e1solja, az indokol\u00e1si ig\u00e9ny er\u0151sebb. Ilyenkor a d\u00f6nt\u00e9si s\u00faly meghat\u00e1rozza a kontrollszintet<\/strong>, \u00e9s ezt az auditnak is l\u00e1tnia kell.<\/p>\n\n\n\n A kontrollpontokat az AI-\u00e9letciklus t\u00f6bb szakasz\u00e1ban kell kijel\u00f6lni. M\u00e1r a c\u00e9lmeghat\u00e1roz\u00e1sn\u00e1l fel kell tenni a k\u00e9rd\u00e9st, hogy indokolhat\u00f3-e az AI haszn\u00e1lata az adott d\u00f6nt\u00e9si helyzetben. Az adatkiv\u00e1laszt\u00e1sn\u00e1l vizsg\u00e1lni kell, hogy az adatok alkalmasak-e a c\u00e9lra. A fejleszt\u00e9sn\u00e9l \u00e9s valid\u00e1l\u00e1sn\u00e1l m\u00e9rni kell a teljes\u00edtm\u00e9nyt, hib\u00e1kat \u00e9s korl\u00e1tokat.<\/p>\n\n\n\n A bevezet\u00e9s el\u0151tt k\u00fcl\u00f6n\u00f6sen fontos a haszn\u00e1lati szab\u00e1ly. A felhaszn\u00e1l\u00f3nak tudnia kell, hogy mikor hagyatkozhat a kimenetre, mikor kell fel\u00fclvizsg\u00e1latot k\u00e9rnie, \u00e9s hogyan kell dokument\u00e1lnia az elt\u00e9r\u00e9st. M\u0171k\u00f6d\u00e9s k\u00f6zben pedig monitoring sz\u00fcks\u00e9ges, mert az adatmint\u00e1k, \u00fcgyf\u00e9lviselked\u00e9s, \u00fczleti c\u00e9lok \u00e9s modellkimenetek id\u0151vel v\u00e1ltozhatnak.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s a magyar\u00e1zhat\u00f3s\u00e1g egyik gyakran alul\u00e9rt\u00e9kelt r\u00e9sze. Ha a modell friss\u00fcl, \u00faj adatforr\u00e1s ker\u00fcl be, m\u00e1s d\u00f6nt\u00e9si folyamatba illesztik, vagy m\u00f3dosul a kimenet haszn\u00e1lata, a kor\u00e1bbi magyar\u00e1zat m\u00e1r nem biztos, hogy \u00e9rv\u00e9nyes. Ebben a modellv\u00e1ltoz\u00e1s magyar\u00e1zati v\u00e1ltoz\u00e1st is jelenthet<\/strong>, ez\u00e9rt a dokument\u00e1ci\u00f3t friss\u00edteni kell.<\/p>\n\n\n\n A besz\u00e1ll\u00edt\u00f3i AI-eszk\u00f6z\u00f6k k\u00fcl\u00f6n kock\u00e1zatot jelentenek. A szervezet gyakran nem f\u00e9r hozz\u00e1 a modell teljes technikai m\u0171k\u00f6d\u00e9s\u00e9hez, m\u00e9gis felel\u0151s a haszn\u00e1lati hat\u00e1s\u00e9rt. Ilyenkor szerz\u0151d\u00e9ses \u00e9s dokument\u00e1ci\u00f3s kontrollokra van sz\u00fcks\u00e9g: haszn\u00e1lati korl\u00e1tok, teljes\u00edtm\u00e9nyinform\u00e1ci\u00f3k, v\u00e1ltoz\u00e1s\u00e9rtes\u00edt\u00e9s, incidenskommunik\u00e1ci\u00f3, auditjog vagy legal\u00e1bb r\u00e9szletes szolg\u00e1ltat\u00f3i t\u00e1j\u00e9koztat\u00e1s form\u00e1j\u00e1ban.<\/p>\n\n\n\n A dokument\u00e1lt modellindokol\u00e1s nem teszi t\u00f6k\u00e9letess\u00e9 a modellt. Arra szolg\u00e1l, hogy a szervezet tudatosan \u00e9s ellen\u0151rizhet\u0151en d\u00f6nts\u00f6n a haszn\u00e1lat\u00e1r\u00f3l. Ha egy kimenet vitatott\u00e1 v\u00e1lik, a k\u00e9rd\u00e9s nemcsak az lesz, hogy a modell mit adott, hanem az is, hogy a szervezet milyen alapon fogadta el, milyen kontrollokkal kezelte, \u00e9s hogyan reag\u00e1lt a kock\u00e1zati jelekre.<\/p>\n\n\n\n Egy AI-alap\u00fa hitelb\u00edr\u00e1lati vagy \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si rendszer j\u00f3l mutatja, hogyan kapcsol\u00f3dik \u00f6ssze magyar\u00e1zhat\u00f3s\u00e1g, felel\u0151ss\u00e9g \u00e9s d\u00f6nt\u00e9si hat\u00e1s. A rendszer kimenete lehet kock\u00e1zati pontsz\u00e1m, aj\u00e1nlott hitelkeret, \u00fcgyf\u00e9lkateg\u00f3ria vagy tov\u00e1bbi vizsg\u00e1latra vonatkoz\u00f3 jelz\u00e9s. Ezek mind \u00fczletileg hasznosak lehetnek, de mindegyik m\u00e1s magyar\u00e1zati ig\u00e9nyt teremt.<\/p>\n\n\n\n A felhaszn\u00e1l\u00f3, p\u00e9ld\u00e1ul egy \u00fcgyint\u00e9z\u0151 sz\u00e1m\u00e1ra a magyar\u00e1zatnak azt kell megmutatnia, hogyan \u00e9rtelmezze a kock\u00e1zati kimenetet. Tudnia kell, hogy a pontsz\u00e1m milyen t\u00e9nyez\u0151k\u00f6n alapulhat, milyen bizonytalans\u00e1ga van, \u00e9s mikor sz\u00fcks\u00e9ges kieg\u00e9sz\u00edt\u0151 ellen\u0151rz\u00e9s. Ebben a felhaszn\u00e1l\u00f3i magyar\u00e1zat a d\u00f6nt\u00e9si hib\u00e1t cs\u00f6kkenti<\/strong>, mert seg\u00edt elker\u00fclni a mechanikus elfogad\u00e1st.<\/p>\n\n\n\n A vezet\u0151 sz\u00e1m\u00e1ra m\u00e1s a k\u00e9rd\u00e9s. \u0150 azt szeretn\u00e9 l\u00e1tni, hogy a rendszer haszn\u00e1lata \u00f6sszhangban van-e az \u00fczleti c\u00e9llal, a kock\u00e1zati \u00e9tv\u00e1ggyal, a megfelel\u0151s\u00e9gi elv\u00e1r\u00e1sokkal \u00e9s az \u00fcgyf\u00e9lkezel\u00e9si elvekkel. A vezet\u0151i d\u00f6nt\u00e9shez sz\u00fcks\u00e9ges magyar\u00e1zatnak tartalmaznia kell a modell c\u00e9lj\u00e1t, teljes\u00edtm\u00e9ny\u00e9t, kock\u00e1zatait, korl\u00e1tait \u00e9s kontrolljait.<\/p>\n\n\n\n Az auditor sz\u00e1m\u00e1ra a legfontosabb a bizony\u00edthat\u00f3s\u00e1g. Meg kell tudnia vizsg\u00e1lni, hogy a modellindokol\u00e1s l\u00e9tezik-e, a valid\u00e1l\u00e1s dokument\u00e1lt-e, az emberi fel\u00fcgyelet m\u0171k\u00f6dik-e, a monitoring eredm\u00e9nyeit \u00e9rt\u00e9kelik-e, \u00e9s a v\u00e1ltoz\u00e1sokat kontroll\u00e1ltan kezelik-e. Itt az auditor nem hitet k\u00e9r, hanem bizony\u00edt\u00e9kot<\/strong>, \u00e9s a bizony\u00edt\u00e9koknak a d\u00f6nt\u00e9si folyamatra kell vonatkozniuk.<\/p>\n\n\n\n Az \u00e9rintett \u00fcgyf\u00e9l sz\u00e1m\u00e1ra a magyar\u00e1zatnak k\u00f6z\u00e9rthet\u0151nek kell lennie. Nem kell technikai modellle\u00edr\u00e1st kapnia, de \u00e9rtenie kell, milyen jelleg\u0171 t\u00e9nyez\u0151k befoly\u00e1solt\u00e1k a kimenetet, milyen k\u00f6vetkezm\u00e9nye van, \u00e9s milyen lehet\u0151s\u00e9ge van emberi fel\u00fclvizsg\u00e1latra vagy panaszra. Ez k\u00fcl\u00f6n\u00f6sen fontos akkor, ha a d\u00f6nt\u00e9s jelent\u0151s hat\u00e1st gyakorol r\u00e1.<\/p>\n\n\n\n Egy \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si rendszer bevezet\u00e9se el\u0151tt ez\u00e9rt legal\u00e1bb a k\u00f6vetkez\u0151 k\u00e9rd\u00e9seket kell tiszt\u00e1zni:<\/p>\n\n\n\n Pontosan milyen d\u00f6nt\u00e9si helyzetben haszn\u00e1lj\u00e1k az AI-kimenetet?<\/p>\n\n\n\n A kimenet aj\u00e1nl\u00e1s, rangsor, jelz\u00e9s vagy automatikus d\u00f6nt\u00e9s?<\/p>\n\n\n\n Milyen adatokb\u00f3l tanult vagy milyen adatokon m\u0171k\u00f6dik a rendszer?<\/p>\n\n\n\n Milyen hib\u00e1kra, torz\u00edt\u00e1sokra vagy t\u00fal\u00e1ltal\u00e1nos\u00edt\u00e1sokra hajlamos?<\/p>\n\n\n\n Milyen magyar\u00e1zatot kap a felhaszn\u00e1l\u00f3, a vezet\u0151, az auditor \u00e9s az \u00e9rintett?<\/p>\n\n\n\n Ki jogosult fel\u00fclb\u00edr\u00e1lni az AI-kimenetet?<\/p>\n\n\n\n Hogyan dokument\u00e1lj\u00e1k a fel\u00fclvizsg\u00e1latot \u00e9s a panaszkezel\u00e9st?<\/p>\n\n\n\n Milyen gyakran vizsg\u00e1lj\u00e1k \u00fajra a modell teljes\u00edtm\u00e9ny\u00e9t \u00e9s korl\u00e1tait?<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek seg\u00edtenek abban, hogy a magyar\u00e1zhat\u00f3s\u00e1g ne \u00e1ltal\u00e1nos elv maradjon. A j\u00f3 k\u00e9rd\u00e9ssor ir\u00e1ny\u00edt\u00e1si kontroll\u00e1 alak\u00edtja a magyar\u00e1zhat\u00f3s\u00e1got<\/strong>, mert a v\u00e1laszokb\u00f3l felel\u0151ss\u00e9gek, dokumentumok \u00e9s ellen\u0151rz\u00e9si pontok k\u00f6vetkeznek.<\/p>\n\n\n\n A hitelb\u00edr\u00e1lati p\u00e9ld\u00e1ban a black box probl\u00e9ma k\u00fcl\u00f6n\u00f6sen \u00e9rz\u00e9keny lehet. Ha a modell magas kock\u00e1zat\u00fanak min\u0151s\u00edt egy \u00fcgyfelet, de a szervezet nem tudja megmagyar\u00e1zni, mi\u00e9rt haszn\u00e1lja a kimenetet, az \u00fcgyf\u00e9lkezel\u00e9si, megfelel\u0151s\u00e9gi \u00e9s reput\u00e1ci\u00f3s probl\u00e9m\u00e1t is okozhat. Ha a modell kimenete csak el\u0151sz\u0171r\u0151 jelz\u00e9s, a magyar\u00e1zati ig\u00e9ny m\u00e1s, de akkor is sz\u00fcks\u00e9ges haszn\u00e1lati szab\u00e1ly.<\/p>\n\n\n\n Az \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si rendszerekn\u00e9l a magyar\u00e1zhat\u00f3s\u00e1g a bels\u0151 m\u0171k\u00f6d\u00e9s min\u0151s\u00e9g\u00e9t is jav\u00edthatja. Ha a felhaszn\u00e1l\u00f3k \u00e9rtik, mikor bizonytalan a modell, kevesebb lesz a mechanikus d\u00f6nt\u00e9s. Ha a vezet\u0151k l\u00e1tj\u00e1k a hibamint\u00e1kat, jobb kontrollokat jel\u00f6lhetnek ki. Ha az auditor hozz\u00e1f\u00e9r a bizony\u00edt\u00e9kokhoz, a szervezet felk\u00e9sz\u00fcltebben kezelheti a megfelel\u0151s\u00e9gi vizsg\u00e1latokat.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1g azonban nem v\u00e1lhat l\u00e1tszatkontroll\u00e1. Egy hossz\u00fa technikai dokument\u00e1ci\u00f3 nem felt\u00e9tlen\u00fcl hasznos, ha nem kapcsol\u00f3dik d\u00f6nt\u00e9si felel\u0151ss\u00e9ghez. Ugyan\u00edgy egy egyszer\u0171, l\u00e1tv\u00e1nyos grafikon sem elegend\u0151, ha nem mutatja meg a rendszer korl\u00e1tait. Ilyenkor a magyar\u00e1zat min\u0151s\u00e9g\u00e9t a d\u00f6nt\u00e9si hasznoss\u00e1g m\u00e9ri<\/strong>, nem a dokumentum hossza vagy vizu\u00e1lis ereje.<\/p>\n\n\n\n A gyakorlati c\u00e9l az, hogy a szervezet meg tudja hat\u00e1rozni: milyen szint\u0171 magyar\u00e1zhat\u00f3s\u00e1g sz\u00fcks\u00e9ges az adott AI-kimenethez a d\u00f6nt\u00e9si hat\u00e1s alapj\u00e1n. Ha a kimenet alacsony hat\u00e1s\u00fa, elegend\u0151 lehet egyszer\u0171bb \u00e1tl\u00e1that\u00f3s\u00e1g \u00e9s alapkontroll. Ha magas hat\u00e1s\u00fa, embereket \u00e9rint\u0151 d\u00f6nt\u00e9st t\u00e1mogat, akkor r\u00e9szletesebb indokol\u00e1s, er\u0151sebb fel\u00fcgyelet \u00e9s szigor\u00fabb bizony\u00edt\u00e9krend sz\u00fcks\u00e9ges.<\/p>\n\n\n\n A magyar\u00e1zhat\u00f3s\u00e1g v\u00e9gs\u0151 tanuls\u00e1ga az, hogy az AI-rendszer nem veheti \u00e1t a szervezet felel\u0151ss\u00e9g\u00e9t. A modell adhat kimenetet, becsl\u00e9st, aj\u00e1nl\u00e1st vagy rangsort, de a szervezetnek kell eld\u00f6ntenie, hogy ezt mikor, hogyan \u00e9s milyen kontrollok mellett haszn\u00e1lja. A felel\u0151s AI ir\u00e1ny\u00edt\u00e1si rendszerben az<\/strong> <\/strong>indokolhat\u00f3s\u00e1g<\/strong> a bizalom gyakorlati felt\u00e9tele<\/strong>, mert csak az a d\u00f6nt\u00e9si rendszer ellen\u0151rizhet\u0151, amelynek c\u00e9lja, korl\u00e1tja \u00e9s felel\u0151ss\u00e9gi logik\u00e1ja is l\u00e1that\u00f3.<\/p>\n\n\n\n Arrieta, A. B., D\u00edaz-Rodr\u00edguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., Garc\u00eda, S., Gil-L\u00f3pez, S., Molina, D., Benjamins, R., Chatila, R., & Herrera, F. (2020). Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58<\/em>, 82\u2013115. https:\/\/doi.org\/10.1016\/j.inffus.2019.12.012<\/p>\n\n\n\n Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning<\/em>. arXiv. https:\/\/arxiv.org\/abs\/1702.08608<\/p>\n\n\n\n European Parliament & Council of the European Union. (2016). Regulation (EU) 2016\/679 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2016\/679\/oj<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\n Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1<\/em>(5), 206\u2013215. https:\/\/doi.org\/10.1038\/s42256-019-0048-x<\/p>\n","protected":false},"excerpt":{"rendered":" A magyar\u00e1zhat\u00f3s\u00e1g az AI-d\u00f6nt\u00e9sekben nem puszt\u00e1n technikai k\u00e9rd\u00e9s, hanem a szervezeti felel\u0151ss\u00e9g \u00e9s kontroll alapja. Ez k\u00fcl\u00f6n\u00f6sen fontos a hitelb\u00edr\u00e1lat \u00e9s \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9s ter\u00fclet\u00e9n.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_sas_skip_auto_schedule":false,"_sas_force_auto_schedule":false,"footnotes":""},"categories":[761],"tags":[5,804,765,805,779,781,87,85,802,806,803],"series":[],"class_list":["post-713","post","type-post","status-publish","format-standard","hentry","category-iranyitasi-rendszer-aims","tag-ai","tag-atlathatosag","tag-audit","tag-black-box","tag-dontes","tag-felelosseg","tag-kockazat","tag-kontroll","tag-magyarazhatosag","tag-modell","tag-szervezet"],"yoast_head":"\nA black box probl\u00e9ma \u00fczleti felel\u0151ss\u00e9gi helyzetekben<\/h2>\n\n\n\n
Kinek milyen magyar\u00e1zatra van sz\u00fcks\u00e9ge?<\/h2>\n\n\n\n
Dokument\u00e1lt modellindokol\u00e1s \u00e9s kontrollpontok<\/h2>\n\n\n\n
Hitelb\u00edr\u00e1lati \u00e9s \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si p\u00e9ld\u00e1k<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n