Egy AI-megold\u00e1s kock\u00e1zata nem akkor kezd\u0151dik, amikor a rendszer \u00e9lesben fut. Sokszor m\u00e1r j\u00f3val kor\u00e1bban eld\u0151l, mennyire lesz biztons\u00e1gos, ellen\u0151rizhet\u0151 \u00e9s v\u00e1llalhat\u00f3: akkor, amikor a szervezet megfogalmazza az \u00fczleti c\u00e9lt, kiv\u00e1lasztja az adatokat, kijel\u00f6li a felel\u0151s\u00f6ket, vagy eld\u00f6nti, milyen hib\u00e1t tart m\u00e9g elfogadhat\u00f3nak.<\/p>\n\n\n\n
Az AI-fejleszt\u00e9si \u00e9letciklus ez\u00e9rt nem technikai projektmenetrend, hanem ir\u00e1ny\u00edt\u00e1si objektum. Egy ISO\/IEC 42001 alap\u00fa AI ir\u00e1ny\u00edt\u00e1si rendszerben minden fontos szakaszn\u00e1l fel kell tenni ugyanazt a k\u00e9rd\u00e9st: ki d\u00f6nt\u00f6tt, mi alapj\u00e1n d\u00f6nt\u00f6tt, milyen kock\u00e1zatot l\u00e1tott, milyen kontrollt rendelt hozz\u00e1, \u00e9s milyen bizony\u00edt\u00e9k maradt vissza k\u00e9s\u0151bbi ellen\u0151rz\u00e9sre.<\/p>\n\n\n\n
Az \u00e9letciklus-alap\u00fa gondolkod\u00e1s seg\u00edt elker\u00fclni, hogy az AI-kontroll csak ut\u00f3lagos auditk\u00e9nt jelenjen meg. A felel\u0151s ir\u00e1ny\u00edt\u00e1s nem a v\u00e9g\u00e9n pr\u00f3b\u00e1lja kijav\u00edtani a hib\u00e1kat, hanem m\u00e1r a c\u00e9lmeghat\u00e1roz\u00e1sn\u00e1l, adatv\u00e1laszt\u00e1sn\u00e1l, fejleszt\u00e9sn\u00e9l, valid\u00e1l\u00e1sn\u00e1l, \u00e9les\u00edt\u00e9sn\u00e9l \u00e9s v\u00e1ltoz\u00e1skezel\u00e9sn\u00e9l be\u00e9p\u00edti az ellen\u0151rz\u00e9si pontokat.<\/p>\n\n\n\n
Az AI-\u00e9letciklus szervezeti n\u00e9z\u0151pontb\u00f3l azoknak a d\u00f6nt\u00e9si, fejleszt\u00e9si, ellen\u0151rz\u00e9si \u00e9s m\u0171k\u00f6dtet\u00e9si szakaszoknak a l\u00e1ncolata, amelyeken kereszt\u00fcl egy AI-rendszer \u00f6tletb\u0151l t\u00e9nyleges szervezeti k\u00e9pess\u00e9gg\u00e9 v\u00e1lik. Nem csak a modellfejleszt\u00e9s tartozik ide, hanem az \u00fczleti c\u00e9l meghat\u00e1roz\u00e1sa, az adatok kiv\u00e1laszt\u00e1sa, a haszn\u00e1lati kontextus \u00e9rt\u00e9kel\u00e9se, a valid\u00e1l\u00e1s, az \u00e9les\u00edt\u00e9s, a monitoroz\u00e1s \u00e9s a k\u00e9s\u0151bbi m\u00f3dos\u00edt\u00e1s is.<\/p>\n\n\n\n
A klasszikus adatb\u00e1ny\u00e1szati \u00e9s adatelemz\u00e9si m\u00f3dszertanok m\u00e1r kor\u00e1n hangs\u00falyozt\u00e1k, hogy az \u00fczleti meg\u00e9rt\u00e9s \u00e9s az adatmeg\u00e9rt\u00e9s nem kihagyhat\u00f3 el\u0151k\u00e9sz\u00edt\u0151 l\u00e9p\u00e9s. A CRISP-DM modell p\u00e9ld\u00e1ul \u00fczleti meg\u00e9rt\u00e9ssel, adatmeg\u00e9rt\u00e9ssel, adatel\u0151k\u00e9sz\u00edt\u00e9ssel, modellez\u00e9ssel, \u00e9rt\u00e9kel\u00e9ssel \u00e9s bevezet\u00e9si szakasszal \u00edrja le az adatb\u00e1ny\u00e1szati projektek logik\u00e1j\u00e1t (Chapman et al., 2000). Ez a gondolkod\u00e1s ma is hasznos, de AI ir\u00e1ny\u00edt\u00e1si rendszerben kieg\u00e9sz\u00fcl kock\u00e1zati, megfelel\u0151s\u00e9gi \u00e9s audit\u00e1lhat\u00f3s\u00e1gi k\u00f6vetelm\u00e9nyekkel.<\/p>\n\n\n\n
Egy AI-rendszer \u00e9letciklus\u00e1ban minden korai d\u00f6nt\u00e9s k\u00e9s\u0151bbi kontrollk\u00f6lts\u00e9gg\u00e9 v\u00e1lhat<\/strong>. Ha a c\u00e9l hom\u00e1lyos, az adatok gyeng\u00e9k, a felel\u0151ss\u00e9gek tiszt\u00e1zatlanok, vagy a valid\u00e1l\u00e1s t\u00fal sz\u0171k, akkor az \u00e9les m\u0171k\u00f6d\u00e9sben m\u00e1r sokkal nehezebb \u00e9s k\u00f6lts\u00e9gesebb korrig\u00e1lni. Ez\u00e9rt az \u00e9letciklus els\u0151 szakaszai nem adminisztrat\u00edv el\u0151zm\u00e9nyek, hanem kock\u00e1zati alapk\u00f6vek.<\/p>\n\n\n\n Az ISO\/IEC 5338 kifejezetten az AI-rendszerek \u00e9letciklus-folyamataival foglalkozik. A szabv\u00e1ny olyan folyamatokat \u00e9s fogalmakat hat\u00e1roz meg, amelyek t\u00e1mogatj\u00e1k az AI-rendszerek meghat\u00e1roz\u00e1s\u00e1t, ir\u00e1ny\u00edt\u00e1s\u00e1t, v\u00e9grehajt\u00e1s\u00e1t \u00e9s fejleszt\u00e9s\u00e9t az \u00e9letciklus k\u00fcl\u00f6nb\u00f6z\u0151 szakaszaiban (International Organization for Standardization [ISO], 2023a). Ez k\u00fcl\u00f6n\u00f6sen fontos, mert az AI-rendszerek nem kezelhet\u0151k teljesen ugyan\u00fagy, mint a hagyom\u00e1nyos szoftverek.<\/p>\n\n\n\n A hagyom\u00e1nyos szoftverfejleszt\u00e9sben a m\u0171k\u00f6d\u00e9s jelent\u0151s r\u00e9sze el\u0151re meghat\u00e1rozott szab\u00e1lyokb\u00f3l \u00e9s programozott logik\u00e1b\u00f3l k\u00f6vetkezik. Az AI-rendszerekn\u00e9l viszont az adat, a modell, a tan\u00edt\u00e1si folyamat, a haszn\u00e1lati k\u00f6rnyezet \u00e9s a k\u00e9s\u0151bbi visszacsatol\u00e1sok is alak\u00edtj\u00e1k a m\u0171k\u00f6d\u00e9st. Az AI-\u00e9letciklusban a kock\u00e1zat nem egy ponton, hanem t\u00f6bb r\u00e9tegben keletkezik<\/strong>. Ez\u00e9rt a kontrollokat sem lehet egyetlen v\u00e9gs\u0151 ellen\u0151rz\u00e9sre sz\u0171k\u00edteni.<\/p>\n\n\n\n Szervezeti n\u00e9z\u0151pontb\u00f3l az AI-\u00e9letciklus legal\u00e1bb h\u00e9t f\u0151 szakaszra bonthat\u00f3:<\/p>\n\n\n\n \u00fczleti c\u00e9l \u00e9s haszn\u00e1lati eset meghat\u00e1roz\u00e1sa;<\/p>\n\n\n\n adatok azonos\u00edt\u00e1sa, kiv\u00e1laszt\u00e1sa \u00e9s el\u0151k\u00e9sz\u00edt\u00e9se;<\/p>\n\n\n\n modell- vagy technol\u00f3giav\u00e1laszt\u00e1s;<\/p>\n\n\n\n fejleszt\u00e9s, konfigur\u00e1l\u00e1s vagy integr\u00e1ci\u00f3;<\/p>\n\n\n\n valid\u00e1l\u00e1s, tesztel\u00e9s \u00e9s kock\u00e1zat\u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n \u00e9les\u00edt\u00e9s \u00e9s felhaszn\u00e1l\u00f3i bevezet\u00e9s;<\/p>\n\n\n\n monitoroz\u00e1s, v\u00e1ltoz\u00e1skezel\u00e9s \u00e9s visszavon\u00e1s.<\/p>\n\n\n\n Ez a feloszt\u00e1s nem merev projektmodell. Egyes szervezetek agilis fejleszt\u00e9si ciklusokban, m\u00e1sok besz\u00e1ll\u00edt\u00f3i megold\u00e1sok bevezet\u00e9s\u00e9vel, megint m\u00e1sok bels\u0151 fejleszt\u00e9s \u00e9s k\u00fcls\u0151 modell kombin\u00e1ci\u00f3j\u00e1val dolgoznak. Az ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9s azonban minden esetben ugyanaz: van-e minden kritikus ponton felel\u0151s, dokument\u00e1lt d\u00f6nt\u00e9s \u00e9s ellen\u0151rizhet\u0151 bizony\u00edt\u00e9k?<\/p>\n\n\n\n Az ISO\/IEC 42001 az AI ir\u00e1ny\u00edt\u00e1si rendszert olyan szervezeti keretk\u00e9nt kezeli, amelyben az AI-rendszerekhez kapcsol\u00f3d\u00f3 c\u00e9lok, kock\u00e1zatok, felel\u0151ss\u00e9gek, folyamatok \u00e9s folyamatos fejleszt\u00e9si mechanizmusok ir\u00e1ny\u00edthat\u00f3k (ISO, 2023b). Ennek gyakorlati k\u00f6vetkezm\u00e9nye, hogy az AI-\u00e9letciklust be kell kapcsolni a szervezet megl\u00e9v\u0151 ir\u00e1ny\u00edt\u00e1si rendszereibe: min\u0151s\u00e9gir\u00e1ny\u00edt\u00e1sba, inform\u00e1ci\u00f3biztons\u00e1gba, adatv\u00e9delembe, compliance-folyamatokba, beszerz\u00e9sbe \u00e9s bels\u0151 auditba.<\/p>\n\n\n\n Az \u00e9letciklus-alap\u00fa megk\u00f6zel\u00edt\u00e9s az\u00e9rt is hasznos, mert a kontrollnak ott kell megjelennie, ahol a d\u00f6nt\u00e9s sz\u00fcletik<\/strong>. Ha az adatmin\u0151s\u00e9gi kock\u00e1zat az adatkiv\u00e1laszt\u00e1sn\u00e1l keletkezik, akkor nem el\u00e9g az \u00e9les\u00edt\u00e9skor r\u00e1k\u00e9rdezni. Ha az emberi fel\u00fcgyeletet a haszn\u00e1lati kontextus hat\u00e1rozza meg, akkor nem lehet csak a technikai tesztel\u00e9s v\u00e9g\u00e9n d\u00f6nteni r\u00f3la.<\/p>\n\n\n\n A NIST AI Risk Management Framework hasonl\u00f3an \u00e9letciklus-szeml\u00e9let\u0171 logik\u00e1t alkalmaz. A Govern, Map, Measure \u00e9s Manage funkci\u00f3k azt jelzik, hogy az AI-kock\u00e1zatkezel\u00e9s nem egyszeri projektz\u00e1r\u00f3 feladat, hanem a teljes m\u0171k\u00f6d\u00e9si k\u00f6rnyezetet \u00e1tfog\u00f3, ism\u00e9tl\u0151d\u0151 ir\u00e1ny\u00edt\u00e1si tev\u00e9kenys\u00e9g (National Institute of Standards and Technology [NIST], 2023). A Govern funkci\u00f3 k\u00fcl\u00f6n\u00f6sen fontos, mert az elsz\u00e1moltathat\u00f3s\u00e1got, politik\u00e1kat, szerepeket \u00e9s kock\u00e1zatkezel\u00e9si kult\u00far\u00e1t a teljes \u00e9letcikluson kereszt\u00fcl kezeli.<\/p>\n\n\n\n Egy j\u00f3l fel\u00e9p\u00edtett AI-\u00e9letciklus-t\u00e9rk\u00e9pben az audit\u00e1lhat\u00f3s\u00e1g nem ut\u00f3lagos dokumentumgy\u00e1rt\u00e1s, hanem be\u00e9p\u00edtett nyomvonal<\/strong>. Minden l\u00e9nyeges d\u00f6nt\u00e9sn\u00e9l maradnia kell bizony\u00edt\u00e9knak: c\u00e9lle\u00edr\u00e1snak, adat\u00e9rt\u00e9kel\u00e9snek, kock\u00e1zati d\u00f6nt\u00e9snek, teszteredm\u00e9nynek, j\u00f3v\u00e1hagy\u00e1snak, v\u00e1ltoz\u00e1snapl\u00f3nak vagy fel\u00fclvizsg\u00e1lati jegyz\u0151k\u00f6nyvnek.<\/p>\n\n\n\n Az \u00e9letciklus v\u00e9gs\u0151 \u00e9rtelme nem az, hogy a szervezet bonyolultabb\u00e1 tegye az AI-fejleszt\u00e9st. Sokkal ink\u00e1bb az, hogy az innov\u00e1ci\u00f3t fenntarthat\u00f3v\u00e1 tegye. Ha a kontrollok csak a projekt v\u00e9g\u00e9n jelennek meg, akkor akad\u00e1lyt jelentenek. Ha viszont a d\u00f6nt\u00e9si pontok term\u00e9szetes r\u00e9szei, akkor seg\u00edtenek gyorsabban felismerni, hol biztons\u00e1gos a tov\u00e1bbhalad\u00e1s, \u00e9s hol kell meg\u00e1llni, m\u00f3dos\u00edtani vagy vezet\u0151i d\u00f6nt\u00e9st k\u00e9rni.<\/p>\n\n\n\n Az AI-\u00e9letciklus egyik legkritikusabb ir\u00e1ny\u00edt\u00e1si pontja a c\u00e9lmeghat\u00e1roz\u00e1s. Egy AI-rendszer nem \u00e1ltal\u00e1ban \u201ehat\u00e9konyabb\u00e1 teszi\u201d a szervezetet, hanem egy konkr\u00e9t folyamatban, konkr\u00e9t kimenettel, konkr\u00e9t d\u00f6nt\u00e9si vagy m\u0171k\u00f6d\u00e9si hat\u00e1ssal m\u0171k\u00f6dik. Ha a c\u00e9l t\u00fal \u00e1ltal\u00e1nos, akkor a kock\u00e1zat\u00e9rt\u00e9kel\u00e9s, a tesztel\u00e9s \u00e9s a sikeress\u00e9gi m\u00e9r\u00e9s is elmos\u00f3dik.<\/p>\n\n\n\n A j\u00f3 c\u00e9lmeghat\u00e1roz\u00e1s \u00fczleti \u00e9s ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9s egyszerre. Ki kell mondani, milyen probl\u00e9m\u00e1t kell megoldani, mi\u00e9rt indokolt AI-t haszn\u00e1lni, milyen alternat\u00edv\u00e1k mer\u00fcltek fel, milyen kimenetet v\u00e1r a szervezet, \u00e9s milyen hat\u00e1rt nem l\u00e9phet \u00e1t a rendszer. A hom\u00e1lyos AI-c\u00e9l k\u00e9s\u0151bb hom\u00e1lyos felel\u0151ss\u00e9get teremt<\/strong>. Ha nem vil\u00e1gos, mire szolg\u00e1l a rendszer, akkor az sem lesz vil\u00e1gos, mikor m\u0171k\u00f6dik j\u00f3l, mikor hib\u00e1zik, \u00e9s ki felel a beavatkoz\u00e1s\u00e9rt.<\/p>\n\n\n\n A c\u00e9lmeghat\u00e1roz\u00e1sn\u00e1l c\u00e9lszer\u0171 legal\u00e1bb n\u00e9gy k\u00e9rd\u00e9st r\u00f6gz\u00edteni:<\/p>\n\n\n\n Milyen szervezeti probl\u00e9m\u00e1t vagy d\u00f6nt\u00e9si helyzetet t\u00e1mogat az AI?<\/p>\n\n\n\n Milyen kimenetet \u00e1ll\u00edt el\u0151: el\u0151rejelz\u00e9st, rangsort, oszt\u00e1lyoz\u00e1st, sz\u00f6veget, riaszt\u00e1st vagy aj\u00e1nl\u00e1st?<\/p>\n\n\n\n Ki haszn\u00e1lja a kimenetet, \u00e9s milyen d\u00f6nt\u00e9shez kapcsolja?<\/p>\n\n\n\n Milyen kock\u00e1zat lenne elfogadhatatlan m\u00e9g akkor is, ha a rendszer \u00fczletileg hasznos?<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek seg\u00edtenek elker\u00fclni az \u00fagynevezett megold\u00e1svez\u00e9relt fejleszt\u00e9st, amikor a szervezet az\u00e9rt vezet be AI-t, mert el\u00e9rhet\u0151 a technol\u00f3gia, nem pedig az\u00e9rt, mert tiszt\u00e1zott az \u00fczleti c\u00e9l. Az AI-fejleszt\u00e9s nem technol\u00f3giav\u00e1laszt\u00e1ssal, hanem probl\u00e9mameghat\u00e1roz\u00e1ssal kezd\u0151dik<\/strong>. Ez k\u00fcl\u00f6n\u00f6sen fontos generat\u00edv AI, predikt\u00edv modellek vagy d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszerek eset\u00e9ben, ahol a k\u00e9pess\u00e9g l\u00e1tv\u00e1nyos, de a szervezeti c\u00e9l k\u00f6nnyen t\u00fal t\u00e1g marad.<\/p>\n\n\n\n Az adatkiv\u00e1laszt\u00e1s a m\u00e1sik korai, nagy hat\u00e1s\u00fa pont. Egy AI-rendszer m\u0171k\u00f6d\u00e9se jelent\u0151s r\u00e9szben azon m\u00falik, milyen adatokra \u00e9p\u00fcl, milyen adatokat z\u00e1rnak ki, hogyan kezelik a hi\u00e1nyz\u00f3 \u00e9rt\u00e9keket, mennyire frissek az adatok, \u00e9s reprezent\u00e1lj\u00e1k-e azt a k\u00f6rnyezetet, amelyben a rendszer m\u0171k\u00f6dni fog.<\/p>\n\n\n\n Az adat nem semleges nyersanyag. Lehet hi\u00e1nyos, elavult, torz\u00edtott, jogilag korl\u00e1tozott, rosszul c\u00edmk\u00e9zett vagy a tervezett c\u00e9lt\u00f3l elt\u00e9r\u0151 jelent\u00e9s\u0171. A gyenge adatb\u00f3l nem lesz er\u0151s ir\u00e1ny\u00edt\u00e1s puszt\u00e1n jobb modellel<\/strong>. Ha a bemeneti vagy tan\u00edt\u00f3adat nem alkalmas, a fejleszt\u00e9s k\u00e9s\u0151bbi szakaszai csak r\u00e9szben tudj\u00e1k kompenz\u00e1lni a probl\u00e9m\u00e1t.<\/p>\n\n\n\n Az ISO\/IEC 23894 az AI-kock\u00e1zatkezel\u00e9st olyan folyamatk\u00e9nt \u00edrja le, amelyet az AI-val kapcsolatos szervezeti tev\u00e9kenys\u00e9gekbe \u00e9s funkci\u00f3kba kell integr\u00e1lni (ISO, 2023c). Ez az adatkiv\u00e1laszt\u00e1sn\u00e1l k\u00fcl\u00f6n\u00f6sen fontos, mert az adatmin\u0151s\u00e9gi, adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi \u00e9s m\u00e9lt\u00e1nyoss\u00e1gi kock\u00e1zatok m\u00e1r ekkor megjelennek.<\/p>\n\n\n\n Az adatkiv\u00e1laszt\u00e1sn\u00e1l c\u00e9lszer\u0171 dokument\u00e1lni:<\/p>\n\n\n\n milyen adatforr\u00e1sokat haszn\u00e1lnak;<\/p>\n\n\n\n milyen id\u0151szakb\u00f3l sz\u00e1rmaznak az adatok;<\/p>\n\n\n\n milyen adatokat z\u00e1rtak ki \u00e9s mi\u00e9rt;<\/p>\n\n\n\n milyen adatmin\u0151s\u00e9gi ellen\u0151rz\u00e9sek t\u00f6rt\u00e9ntek;<\/p>\n\n\n\n van-e szem\u00e9lyes, \u00e9rz\u00e9keny vagy bizalmas adat;<\/p>\n\n\n\n hogyan biztos\u00edthat\u00f3 az adat c\u00e9lhoz k\u00f6t\u00f6tt \u00e9s jogszer\u0171 felhaszn\u00e1l\u00e1sa;<\/p>\n\n\n\n mennyire reprezentat\u00edv az adat a k\u00e9s\u0151bbi haszn\u00e1lati k\u00f6rnyezetre.<\/p>\n\n\n\n Ezek a szempontok nemcsak technikai valid\u00e1ci\u00f3t szolg\u00e1lnak. Egy bels\u0151 auditor, adatv\u00e9delmi szak\u00e9rt\u0151, compliance vezet\u0151 vagy \u00fczleti folyamatgazda sz\u00e1m\u00e1ra is meg kell mutatniuk, hogy a szervezet tudatosan v\u00e1lasztotta ki az adatokat. Az adatkiv\u00e1laszt\u00e1s dokumentuma k\u00e9s\u0151bbi d\u00f6nt\u00e9sek alapbizony\u00edt\u00e9ka<\/strong>. Ha egy modell vitatott eredm\u00e9nyt ad, az els\u0151 k\u00e9rd\u00e9sek k\u00f6z\u00f6tt lesz, milyen adatokb\u00f3l tanult vagy milyen adatokra t\u00e1maszkodott.<\/p>\n\n\n\n A c\u00e9l \u00e9s az adat \u00f6sszekapcsol\u00e1sa k\u00fcl\u00f6n kontrollpontot ig\u00e9nyel. Nem minden rendelkez\u00e9sre \u00e1ll\u00f3 adat haszn\u00e1lhat\u00f3 legitim m\u00f3don az adott c\u00e9lra. El\u0151fordulhat, hogy egy adat technikailag hasznos lenne, de jogilag, etikailag vagy reput\u00e1ci\u00f3s szempontb\u00f3l probl\u00e9m\u00e1s. Egy HR-rendszer p\u00e9ld\u00e1ul nem \u00e9p\u00edthet felel\u0151s d\u00f6nt\u00e9st olyan v\u00e1ltoz\u00f3kra, amelyek k\u00f6zvetve indokolatlan h\u00e1tr\u00e1nyt okozhatnak. Egy \u00fcgyf\u00e9lmin\u0151s\u00edt\u0151 rendszer sem kezelheti az adatot puszt\u00e1n az\u00e9rt, mert predikt\u00edv er\u0151vel rendelkezik.<\/p>\n\n\n\n Ez\u00e9rt a predikt\u00edv \u00e9rt\u00e9k nem azonos a megengedett felhaszn\u00e1l\u00e1ssal<\/strong>. Egy AI ir\u00e1ny\u00edt\u00e1si rendszerben a c\u00e9lhoz k\u00f6t\u00f6tts\u00e9g, ar\u00e1nyoss\u00e1g, adatminimaliz\u00e1l\u00e1s \u00e9s m\u00e9lt\u00e1nyoss\u00e1g nem ut\u00f3lagos jogi kieg\u00e9sz\u00edt\u00e9s, hanem a tervez\u00e9s r\u00e9sze.<\/p>\n\n\n\n A korai szakaszban \u00e9rdemes kapud\u00f6nt\u00e9st alkalmazni. Ez azt jelenti, hogy a projekt csak akkor l\u00e9phet tov\u00e1bb fejleszt\u00e9sbe, ha a c\u00e9l, az adatforr\u00e1s, az \u00e9rintetti hat\u00e1s \u00e9s az el\u0151zetes kock\u00e1zati besorol\u00e1s dokument\u00e1lt. A kapud\u00f6nt\u00e9s lehet egyszer\u0171, de legyen visszakereshet\u0151: ki hagyta j\u00f3v\u00e1, milyen felt\u00e9telekkel, milyen nyitott kock\u00e1zatok mellett.<\/p>\n\n\n\n A c\u00e9lmeghat\u00e1roz\u00e1s \u00e9s adatkiv\u00e1laszt\u00e1s teh\u00e1t nem el\u0151k\u00e9sz\u00edt\u0151 adminisztr\u00e1ci\u00f3. Ez az a pont, ahol a szervezet eld\u00f6nti, hogy az AI-rendszer milyen probl\u00e9m\u00e1t oldhat meg, \u00e9s milyen hat\u00e1rok k\u00f6z\u00f6tt teheti ezt. Ha itt hi\u00e1nyzik a fegyelem, k\u00e9s\u0151bb a valid\u00e1l\u00e1s, \u00e9les\u00edt\u00e9s \u00e9s audit m\u00e1r csak a k\u00f6vetkezm\u00e9nyeket tudja kezelni.<\/p>\n\n\n\n Az AI-fejleszt\u00e9s, konfigur\u00e1l\u00e1s vagy integr\u00e1ci\u00f3 szakasz\u00e1ban a szervezet m\u00e1r konkr\u00e9t technikai megold\u00e1st \u00e9p\u00edt vagy vezet be. Ez lehet saj\u00e1t fejleszt\u00e9s\u0171 modell, finomhangolt k\u00fcls\u0151 modell, besz\u00e1ll\u00edt\u00f3i rendszer, felh\u0151alap\u00fa AI-funkci\u00f3 vagy megl\u00e9v\u0151 \u00fczleti alkalmaz\u00e1sba \u00e9p\u00edtett intelligens modul. Az ir\u00e1ny\u00edt\u00e1si feladat mindegyik esetben ugyanaz: biztos\u00edtani kell, hogy a fejleszt\u00e9s kontroll\u00e1lt, dokument\u00e1lt \u00e9s a kor\u00e1bban meghat\u00e1rozott c\u00e9lhoz k\u00f6t\u00f6tt maradjon.<\/p>\n\n\n\n A fejleszt\u00e9si szakaszban a kock\u00e1zatok gyakran nem l\u00e1tv\u00e1nyosak. Egy adatel\u0151k\u00e9sz\u00edt\u00e9si d\u00f6nt\u00e9s, egy jellemz\u0151v\u00e1laszt\u00e1s, egy modellparam\u00e9ter, egy k\u00fcsz\u00f6b\u00e9rt\u00e9k vagy egy integr\u00e1ci\u00f3s szab\u00e1ly k\u00e9s\u0151bb komoly hat\u00e1ssal lehet a m\u0171k\u00f6d\u00e9sre. A fejleszt\u00e9si apr\u00f3d\u00f6nt\u00e9sekb\u0151l lesz a <\/strong>rendszer t\u00e9nyleges viselked\u00e9se<\/strong>. Ez\u00e9rt nem el\u00e9g a v\u00e9gs\u0151 modellr\u0151l dokument\u00e1ci\u00f3t k\u00e9sz\u00edteni; a l\u00e9nyeges fejleszt\u00e9si d\u00f6nt\u00e9seknek is nyomot kell hagyniuk.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1si rendszerek saj\u00e1toss\u00e1ga, hogy a modell nem elszigetelt komponens. Adatcsatorn\u00e1k, el\u0151feldolgoz\u00f3 l\u00e9p\u00e9sek, c\u00edmk\u00e9z\u00e9si folyamatok, monitoring, felhaszn\u00e1l\u00f3i fel\u00fcletek, \u00fczleti szab\u00e1lyok \u00e9s visszacsatol\u00e1si mechanizmusok veszik k\u00f6r\u00fcl. Sculley \u00e9s munkat\u00e1rsai (2015) ez\u00e9rt \u00edrtak a g\u00e9pi tanul\u00e1si rendszerek rejtett technikai ad\u00f3ss\u00e1g\u00e1r\u00f3l: az ML-rendszerek a hagyom\u00e1nyos szoftverekn\u00e9l is \u00f6sszetettebb karbantart\u00e1si probl\u00e9m\u00e1kat hordozhatnak, p\u00e9ld\u00e1ul \u00f6sszefon\u00f3d\u00f3 f\u00fcgg\u0151s\u00e9geket, rejtett visszacsatol\u00e1si hurkokat \u00e9s nehezen l\u00e1that\u00f3 v\u00e1ltoz\u00e1si hat\u00e1sokat.<\/p>\n\n\n\n A fejleszt\u00e9si kontrollnak ez\u00e9rt nem szabad csak a modell pontoss\u00e1g\u00e1ra koncentr\u00e1lnia. Vizsg\u00e1lni kell az adatfolyamokat, el\u0151feldolgoz\u00e1st, integr\u00e1ci\u00f3t, jogosults\u00e1gokat, napl\u00f3z\u00e1st, hibakezel\u00e9st, kimeneti form\u00e1tumot \u00e9s felhaszn\u00e1l\u00f3i beavatkoz\u00e1si lehet\u0151s\u00e9get is. Az AI-rendszer kock\u00e1zata a k\u00f6rnyezet\u00e9ben is keletkezik, nem csak a modellben<\/strong>. Egy technikailag j\u00f3 modell is okozhat probl\u00e9m\u00e1t, ha rossz folyamatba \u00e9p\u00edtik be.<\/p>\n\n\n\n A valid\u00e1l\u00e1s a fejleszt\u00e9si \u00e9letciklus egyik leger\u0151sebb kapupontja. Itt kell bizony\u00edtani, hogy a rendszer a meghat\u00e1rozott c\u00e9lra, az adott adatokkal \u00e9s az adott haszn\u00e1lati k\u00f6rnyezetben elfogadhat\u00f3an m\u0171k\u00f6dik. Nem el\u00e9g azt kimondani, hogy a modell \u201ej\u00f3 eredm\u00e9nyt adott\u201d. R\u00f6gz\u00edteni kell, milyen m\u00e9r\u0151sz\u00e1mokkal, milyen tesztadatokon, milyen hibakateg\u00f3ri\u00e1kkal \u00e9s milyen elfogad\u00e1si k\u00fcsz\u00f6b\u00f6kkel \u00e9rt\u00e9kelt\u00e9k.<\/p>\n\n\n\n A valid\u00e1l\u00e1snak t\u00f6bb r\u00e9teg\u0171nek kell lennie:<\/p>\n\n\n\n Technikai valid\u00e1l\u00e1s:<\/strong> pontoss\u00e1g, stabilit\u00e1s, robusztuss\u00e1g, hibaar\u00e1nyok, teljes\u00edtm\u00e9nyk\u00fcl\u00f6nbs\u00e9gek.<\/p>\n\n\n\n \u00dczleti valid\u00e1l\u00e1s:<\/strong> a kimenet val\u00f3ban t\u00e1mogatja-e a folyamatot \u00e9s a d\u00f6nt\u00e9si c\u00e9lt.<\/p>\n\n\n\n Kock\u00e1zati valid\u00e1l\u00e1s:<\/strong> milyen k\u00f6vetkezm\u00e9nye van hib\u00e1s, torz\u00edtott vagy f\u00e9lre\u00e9rtelmezett kimenetnek.<\/p>\n\n\n\n Megfelel\u0151s\u00e9gi valid\u00e1l\u00e1s:<\/strong> illeszkedik-e a jogi, adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi \u00e9s bels\u0151 szab\u00e1lyokhoz.<\/p>\n\n\n\n Felhaszn\u00e1l\u00f3i valid\u00e1l\u00e1s:<\/strong> \u00e9rtik-e a felhaszn\u00e1l\u00f3k a kimenetet, korl\u00e1tokat \u00e9s beavatkoz\u00e1si pontokat.<\/p>\n\n\n\n Ezek k\u00f6z\u00fcl egyik sem helyettes\u00edti a m\u00e1sikat. A j\u00f3 technikai teljes\u00edtm\u00e9ny nem bizony\u00edtja a szervezeti alkalmass\u00e1got<\/strong>. Egy modell lehet pontos tesztk\u00f6rnyezetben, m\u00e9gis f\u00e9lrevezet\u0151, ha a felhaszn\u00e1l\u00f3k rosszul \u00e9rtelmezik, vagy ha a d\u00f6nt\u00e9si helyzetben m\u00e1s jogi \u00e9s etikai k\u00f6vetelm\u00e9nyek \u00e9rv\u00e9nyesek.<\/p>\n\n\n\n Az EU AI Act magas kock\u00e1zat\u00fa rendszerekre vonatkoz\u00f3 k\u00f6vetelm\u00e9nyei k\u00f6z\u00f6tt kiemelt szerepet kap a kock\u00e1zatkezel\u00e9si rendszer, az adatir\u00e1ny\u00edt\u00e1s, a technikai dokument\u00e1ci\u00f3, a napl\u00f3z\u00e1s, az \u00e1tl\u00e1that\u00f3s\u00e1g, az emberi fel\u00fcgyelet, valamint a pontoss\u00e1g, robusztuss\u00e1g \u00e9s kiberbiztons\u00e1g (European Parliament & Council of the European Union, 2024). B\u00e1r nem minden v\u00e1llalati AI-haszn\u00e1lat tartozik magas kock\u00e1zat\u00fa kateg\u00f3ri\u00e1ba, ez a k\u00f6vetelm\u00e9nyrendszer j\u00f3l mutatja, milyen kontrollgondolkod\u00e1s sz\u00fcks\u00e9ges jelent\u0151s hat\u00e1s\u00fa AI-rendszerekn\u00e9l.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s el\u0151tt \u00e9rdemes form\u00e1lis go\/no-go d\u00f6nt\u00e9st alkalmazni. Ez nem felt\u00e9tlen\u00fcl hossz\u00fa bizotts\u00e1gi folyamat, de a l\u00e9nyeges k\u00e9rd\u00e9sekre v\u00e1laszt kell adnia:<\/p>\n\n\n\n teljes\u00fclt-e az \u00fczleti c\u00e9l \u00e9s a meghat\u00e1rozott sikerkrit\u00e9rium;<\/p>\n\n\n\n elfogadhat\u00f3k-e a teszteredm\u00e9nyek;<\/p>\n\n\n\n kezeltek-e minden kritikus kock\u00e1zatot;<\/p>\n\n\n\n rendelkez\u00e9sre \u00e1ll-e a felhaszn\u00e1l\u00f3i \u00fatmutat\u00f3 \u00e9s k\u00e9pz\u00e9s;<\/p>\n\n\n\n m\u0171k\u00f6dik-e a napl\u00f3z\u00e1s \u00e9s incidensjelent\u00e9s;<\/p>\n\n\n\n van-e visszavon\u00e1si vagy le\u00e1ll\u00edt\u00e1si elj\u00e1r\u00e1s;<\/p>\n\n\n\n kijel\u00f6lt\u00e9k-e az \u00fczemeltet\u00e9si \u00e9s folyamatgazdai felel\u0151ss\u00e9get.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s nem egyszer\u0171 technikai aktiv\u00e1l\u00e1s. Az \u00e9les\u00edt\u00e9s szervezeti felel\u0151ss\u00e9gv\u00e1llal\u00e1si pont<\/strong>. Ett\u0151l kezdve a rendszer kimenete val\u00f3s folyamatokra, emberekre, \u00fcgyfelekre, munkat\u00e1rsakra vagy \u00fczleti d\u00f6nt\u00e9sekre hathat. Ez\u00e9rt az \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9snek dokument\u00e1lt felt\u00e9telei \u00e9s j\u00f3v\u00e1hagy\u00f3i legyenek.<\/p>\n\n\n\n Az \u00e9les\u00edt\u00e9s ut\u00e1ni korai id\u0151szak k\u00fcl\u00f6n figyelmet \u00e9rdemel. \u00c9rdemes pilotot, korl\u00e1tozott felhaszn\u00e1l\u00f3i k\u00f6rt, p\u00e1rhuzamos futtat\u00e1st vagy mintav\u00e9teles ellen\u0151rz\u00e9st alkalmazni, k\u00fcl\u00f6n\u00f6sen magasabb hat\u00e1s\u00fa rendszerekn\u00e9l. \u00cdgy a szervezet val\u00f3s k\u00f6rnyezetben l\u00e1thatja, hogyan viselkedik a rendszer, \u00e9s a felhaszn\u00e1l\u00f3k hogyan \u00e9rtelmezik a kimeneteket.<\/p>\n\n\n\n A felhaszn\u00e1l\u00f3k k\u00e9pz\u00e9se az \u00e9les\u00edt\u00e9s r\u00e9sze, nem kommunik\u00e1ci\u00f3s mell\u00e9kfeladat. A munkat\u00e1rsaknak tudniuk kell, mire haszn\u00e1lhat\u00f3 a rendszer, mire nem, mikor kell fel\u00fclvizsg\u00e1lni a kimenetet, hogyan kell hib\u00e1t jelenteni, \u00e9s kihez fordulhatnak k\u00e9rd\u00e9s eset\u00e9n. A felhaszn\u00e1l\u00f3 a kontrollrendszer r\u00e9sze, nem k\u00fcls\u0151 v\u00e9grehajt\u00f3<\/strong>. Ha nem \u00e9rti a szerep\u00e9t, a legjobb technikai kontroll is meggyeng\u00fcl.<\/p>\n\n\n\n A fejleszt\u00e9s, valid\u00e1l\u00e1s \u00e9s \u00e9les\u00edt\u00e9s egy\u00fctt adj\u00e1k az AI-\u00e9letciklus k\u00f6z\u00e9ps\u0151 ir\u00e1ny\u00edt\u00e1si gerinc\u00e9t. Itt d\u0151l el, hogy a korai c\u00e9lok \u00e9s kock\u00e1zati felt\u00e9telez\u00e9sek val\u00f3ban m\u0171k\u00f6d\u0151, ellen\u0151rizhet\u0151 rendszerr\u00e9 alakulnak-e. A kontrollok c\u00e9lja nem a fejleszt\u00e9s lass\u00edt\u00e1sa, hanem annak biztos\u00edt\u00e1sa, hogy az \u00e9les rendszer megfeleljen annak a szervezeti felel\u0151ss\u00e9gnek, amelyet majd viselnie kell.<\/p>\n\n\n\n Az AI-rendszer \u00e9les\u00edt\u00e9se nem az \u00e9letciklus v\u00e9ge. Sok szempontb\u00f3l ink\u00e1bb a legfontosabb ir\u00e1ny\u00edt\u00e1si szakasz kezdete. Az \u00e9les k\u00f6rnyezetben v\u00e1ltoznak az adatok, felhaszn\u00e1l\u00f3i szok\u00e1sok, \u00fczleti folyamatok, piaci felt\u00e9telek, jogi elv\u00e1r\u00e1sok, besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1sok \u00e9s technikai f\u00fcgg\u0151s\u00e9gek. Egy AI-rendszer ez\u00e9rt id\u0151vel elt\u00e1volodhat att\u00f3l a k\u00f6rnyezett\u0151l, amelyre eredetileg valid\u00e1lt\u00e1k.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s AI-rendszerekn\u00e9l k\u00fcl\u00f6n\u00f6sen fontos, mert a m\u00f3dos\u00edt\u00e1s hat\u00e1sa nem mindig l\u00e1that\u00f3 el\u0151re. Egy \u00faj adatforr\u00e1s, k\u00fcsz\u00f6b\u00e9rt\u00e9k, modellfriss\u00edt\u00e9s, promptm\u00f3dos\u00edt\u00e1s, tud\u00e1sb\u00e1zis-friss\u00edt\u00e9s vagy felhaszn\u00e1l\u00e1si c\u00e9lv\u00e1ltoz\u00e1s megv\u00e1ltoztathatja a kimeneteket. Az AI-rendszer v\u00e1ltoz\u00e1sa \u00faj kock\u00e1zati \u00e1llapotot hoz l\u00e9tre<\/strong>. Ez\u00e9rt nem kezelhet\u0151 puszt\u00e1n technikai karbantart\u00e1sk\u00e9nt.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s els\u0151 l\u00e9p\u00e9se annak meghat\u00e1roz\u00e1sa, mi sz\u00e1m\u00edt l\u00e9nyeges v\u00e1ltoz\u00e1snak. Nem minden apr\u00f3 technikai beavatkoz\u00e1s ig\u00e9nyel teljes \u00fajra\u00e9rt\u00e9kel\u00e9st, de a jelent\u0151s kock\u00e1zatot hordoz\u00f3 v\u00e1ltoz\u00e1sokat form\u00e1lisan kell kezelni. Ilyen lehet:<\/p>\n\n\n\n \u00faj vagy m\u00f3dos\u00edtott adatforr\u00e1s;<\/p>\n\n\n\n modell \u00fajratan\u00edt\u00e1sa vagy cser\u00e9je;<\/p>\n\n\n\n jelent\u0151s konfigur\u00e1ci\u00f3s m\u00f3dos\u00edt\u00e1s;<\/p>\n\n\n\n \u00faj felhaszn\u00e1l\u00f3i k\u00f6r;<\/p>\n\n\n\n \u00faj d\u00f6nt\u00e9si vagy folyamatbeli hat\u00e1s;<\/p>\n\n\n\n besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1s \u00e9rdemi friss\u00edt\u00e9se;<\/p>\n\n\n\n jogi vagy szab\u00e1lyoz\u00e1si k\u00f6rnyezet v\u00e1ltoz\u00e1sa;<\/p>\n\n\n\n incidens vagy ism\u00e9tl\u0151d\u0151 hibajelz\u00e9s.<\/p>\n\n\n\n Ezekn\u00e9l a v\u00e1ltoz\u00e1sokn\u00e1l \u00fajra kell vizsg\u00e1lni a kock\u00e1zatot, a teszteredm\u00e9nyeket, a dokument\u00e1ci\u00f3t \u00e9s sz\u00fcks\u00e9g eset\u00e9n a felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9st. A kor\u00e1bbi j\u00f3v\u00e1hagy\u00e1s nem mindig \u00e9rv\u00e9nyes az \u00faj haszn\u00e1latra<\/strong>. Egy bels\u0151 elemz\u0151 eszk\u00f6z p\u00e9ld\u00e1ul m\u00e1s kontrollt ig\u00e9nyel, ha k\u00e9s\u0151bb \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3s kimenetet kezd el\u0151\u00e1ll\u00edtani.<\/p>\n\n\n\n A folyamatos monitoroz\u00e1s a v\u00e1ltoz\u00e1skezel\u00e9s p\u00e1rja. A szervezetnek figyelnie kell, hogy a rendszer teljes\u00edtm\u00e9nye, pontoss\u00e1ga, hibaar\u00e1nya, felhaszn\u00e1l\u00f3i viselked\u00e9se \u00e9s \u00fczleti hat\u00e1sa nem t\u00e9r-e el az elv\u00e1rtt\u00f3l. G\u00e9pi tanul\u00e1si rendszerekn\u00e9l k\u00fcl\u00f6n\u00f6sen fontos lehet az adatdrift \u00e9s modellroml\u00e1s figyel\u00e9se. Nyelvi modellekn\u00e9l a kimenetek min\u0151s\u00e9ge, t\u00e9nyszer\u0171s\u00e9ge, adatv\u00e9delmi megfelel\u00e9se \u00e9s felhaszn\u00e1l\u00f3i visszajelz\u00e9sei ker\u00fclhetnek el\u0151t\u00e9rbe.<\/p>\n\n\n\n A NIST AI RMF Measure \u00e9s Manage funkci\u00f3i j\u00f3l illeszkednek ehhez a m\u0171k\u00f6d\u00e9shez: a kock\u00e1zatokat m\u00e9rni, elemezni, dokument\u00e1lni, majd prioriz\u00e1lni \u00e9s kezelni kell (NIST, 2023). Ez a logika nemcsak fejleszt\u00e9si szakaszban, hanem \u00e9les m\u0171k\u00f6d\u00e9s k\u00f6zben is \u00e9rv\u00e9nyes. A monitoroz\u00e1s nem hibakeres\u00e9s, hanem m\u0171k\u00f6d\u00e9si bizonyoss\u00e1g\u00e9p\u00edt\u00e9s<\/strong>. A szervezet nem akkor kezd figyelni, amikor baj van, hanem az\u00e9rt figyel, hogy id\u0151ben \u00e9szlelje az elt\u00e9r\u00e9st.<\/p>\n\n\n\n A monitoroz\u00e1snak t\u00f6bb t\u00edpusa lehet:<\/p>\n\n\n\n technikai teljes\u00edtm\u00e9nymonitoroz\u00e1s;<\/p>\n\n\n\n adatmin\u0151s\u00e9g-figyel\u00e9s;<\/p>\n\n\n\n modellkimenetek mintav\u00e9teles ellen\u0151rz\u00e9se;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i visszajelz\u00e9sek gy\u0171jt\u00e9se;<\/p>\n\n\n\n incidensek \u00e9s hibajelz\u00e9sek elemz\u00e9se;<\/p>\n\n\n\n panaszok vagy vitatott d\u00f6nt\u00e9sek elemz\u00e9se;<\/p>\n\n\n\n besz\u00e1ll\u00edt\u00f3i v\u00e1ltoz\u00e1sok k\u00f6vet\u00e9se;<\/p>\n\n\n\n id\u0151szakos kock\u00e1zati fel\u00fclvizsg\u00e1lat.<\/p>\n\n\n\n A monitoroz\u00e1sb\u00f3l sz\u00e1rmaz\u00f3 inform\u00e1ci\u00f3t vissza kell vezetni a governance-folyamatba. Ha a rendszer roml\u00f3 teljes\u00edtm\u00e9nyt mutat, ha a felhaszn\u00e1l\u00f3k rendszeresen f\u00e9lre\u00e9rtik a kimenetet, vagy ha bizonyos esetekben gyakori a fel\u00fclb\u00edr\u00e1l\u00e1s, akkor nem el\u00e9g a jelens\u00e9get r\u00f6gz\u00edteni. D\u00f6nteni kell a m\u00f3dos\u00edt\u00e1sr\u00f3l, korl\u00e1toz\u00e1sr\u00f3l, \u00fajratan\u00edt\u00e1sr\u00f3l, \u00fajratesztel\u00e9sr\u0151l vagy ak\u00e1r a rendszer ideiglenes felf\u00fcggeszt\u00e9s\u00e9r\u0151l.<\/p>\n\n\n\n Ez\u00e9rt az AI-monitoroz\u00e1s \u00e9rt\u00e9ke a beavatkoz\u00e1si k\u00e9pess\u00e9gben m\u00e9rhet\u0151<\/strong>. Ha nincsenek el\u0151re meghat\u00e1rozott k\u00fcsz\u00f6b\u00f6k, felel\u0151s\u00f6k \u00e9s elj\u00e1r\u00e1sok, akkor a monitoroz\u00e1s csak adatgy\u0171jt\u00e9s. Az ir\u00e1ny\u00edt\u00e1s akkor m\u0171k\u00f6dik, ha a szervezet tudja, milyen esem\u00e9ny milyen d\u00f6nt\u00e9st v\u00e1lt ki.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9shez visszavon\u00e1si vagy le\u00e1ll\u00edt\u00e1si terv is tartozhat. Ez k\u00fcl\u00f6n\u00f6sen magasabb hat\u00e1s\u00fa rendszerekn\u00e9l fontos. Ha a rendszer hib\u00e1san m\u0171k\u00f6dik, torz kimenetet ad, adatv\u00e9delmi probl\u00e9m\u00e1t okoz vagy a besz\u00e1ll\u00edt\u00f3i szolg\u00e1ltat\u00e1s bizonytalann\u00e1 v\u00e1lik, a szervezetnek tudnia kell, hogyan \u00e1ll vissza alternat\u00edv folyamatra. A le\u00e1ll\u00edthat\u00f3s\u00e1g a felel\u0151s AI-haszn\u00e1lat r\u00e9sze<\/strong>. Egy rendszer nem tekinthet\u0151 ir\u00e1ny\u00edthat\u00f3nak, ha nincs m\u0171k\u00f6d\u0151 visszal\u00e9p\u00e9si \u00fat.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9snek az AI-nyilv\u00e1ntart\u00e1ssal is \u00f6sszhangban kell lennie. Minden l\u00e9nyeges m\u00f3dos\u00edt\u00e1snak meg kell jelennie a nyilv\u00e1ntart\u00e1sban: mi v\u00e1ltozott, ki hagyta j\u00f3v\u00e1, milyen tesztel\u00e9s t\u00f6rt\u00e9nt, milyen kock\u00e1zati hat\u00e1sa volt, \u00e9s mikor kell \u00fajra fel\u00fclvizsg\u00e1lni. Ez teszi lehet\u0151v\u00e9, hogy a szervezet k\u00e9s\u0151bb rekonstru\u00e1lja a rendszer fejl\u0151d\u00e9s\u00e9t.<\/p>\n\n\n\n A folyamatos monitoroz\u00e1s \u00e9s v\u00e1ltoz\u00e1skezel\u00e9s k\u00fcl\u00f6n\u00f6sen fontos besz\u00e1ll\u00edt\u00f3i AI-megold\u00e1sokn\u00e1l. Egy k\u00fcls\u0151 szolg\u00e1ltat\u00f3 m\u00f3dos\u00edthatja a modellt, friss\u00edtheti a funkci\u00f3t, megv\u00e1ltoztathatja a felt\u00e9teleket vagy \u00faj adatkezel\u00e9si opci\u00f3kat vezethet be. A szervezetnek ez\u00e9rt szerz\u0151d\u00e9ses \u00e9s m\u0171k\u00f6d\u00e9si szinten is biztos\u00edtania kell, hogy a relev\u00e1ns v\u00e1ltoz\u00e1sokr\u00f3l tudom\u00e1st szerezzen.<\/p>\n\n\n\n Az \u00e9les m\u0171k\u00f6d\u00e9s teh\u00e1t nem stabil v\u00e9g\u00e1llapot. Egy AI-rendszer \u00e9l\u0151 szervezeti komponens, amelyet figyelni, fel\u00fclvizsg\u00e1lni \u00e9s sz\u00fcks\u00e9g eset\u00e9n m\u00f3dos\u00edtani kell. A felel\u0151s m\u0171k\u00f6dtet\u00e9s nem azt jelenti, hogy minden hiba elker\u00fclhet\u0151, hanem azt, hogy a szervezet id\u0151ben \u00e9szleli, \u00e9rti \u00e9s kezeli a v\u00e1ltoz\u00e1sokat.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer audit\u00e1lhat\u00f3s\u00e1g\u00e1nak alapja a dokument\u00e1lt d\u00f6nt\u00e9s \u00e9s az ellen\u0151rizhet\u0151 bizony\u00edt\u00e9k. Ha egy AI-rendszerrel kapcsolatban k\u00e9s\u0151bb k\u00e9rd\u00e9s mer\u00fcl fel, nem el\u00e9g eml\u00e9kezetb\u0151l elmondani, hogy a projekt \u201emegfelel\u0151en zajlott\u201d. Meg kell tudni mutatni, milyen d\u00f6nt\u00e9sek sz\u00fclettek, ki hozta \u0151ket, milyen inform\u00e1ci\u00f3 alapj\u00e1n, milyen kock\u00e1zatokat l\u00e1ttak, \u00e9s milyen kontrollokat vezettek be.<\/p>\n\n\n\n A dokument\u00e1ci\u00f3 nem \u00f6nc\u00e9l\u00fa adminisztr\u00e1ci\u00f3. A bizony\u00edt\u00e9k a felel\u0151ss\u00e9g m\u0171k\u00f6d\u0151 form\u00e1ja<\/strong>. A szervezet \u00edgy tudja bemutatni, hogy nem v\u00e9letlenszer\u0171en vagy kiz\u00e1r\u00f3lag technikai lelkesed\u00e9sb\u0151l haszn\u00e1l AI-t, hanem kontroll\u00e1lt d\u00f6nt\u00e9sek sorozat\u00e1n kereszt\u00fcl.<\/p>\n\n\n\n Az AI-\u00e9letciklus minden kritikus pontj\u00e1n m\u00e1s t\u00edpus\u00fa bizony\u00edt\u00e9k keletkezik. A c\u00e9lmeghat\u00e1roz\u00e1sn\u00e1l \u00fczleti indokl\u00e1s \u00e9s haszn\u00e1latieset-le\u00edr\u00e1s sz\u00fcks\u00e9ges. Az adatkiv\u00e1laszt\u00e1sn\u00e1l adatforr\u00e1s-le\u00edr\u00e1s, adatmin\u0151s\u00e9gi \u00e9rt\u00e9kel\u00e9s \u00e9s adatv\u00e9delmi megfontol\u00e1s. A fejleszt\u00e9sn\u00e9l technikai d\u00f6nt\u00e9snapl\u00f3, modellv\u00e1laszt\u00e1si indokl\u00e1s \u00e9s integr\u00e1ci\u00f3s dokument\u00e1ci\u00f3. A valid\u00e1l\u00e1sn\u00e1l tesztterv, teszteredm\u00e9ny, elfogad\u00e1si d\u00f6nt\u00e9s \u00e9s kock\u00e1zati meg\u00e1llap\u00edt\u00e1s. Az \u00e9les\u00edt\u00e9sn\u00e9l j\u00f3v\u00e1hagy\u00e1s, felhaszn\u00e1l\u00f3i \u00fatmutat\u00f3, k\u00e9pz\u00e9si bizony\u00edt\u00e9k \u00e9s \u00fczemeltet\u00e9si terv. A m\u0171k\u00f6d\u00e9s sor\u00e1n monitoroz\u00e1si napl\u00f3k, incidensjegyz\u0151k\u00f6nyvek, v\u00e1ltoz\u00e1snapl\u00f3k \u00e9s fel\u00fclvizsg\u00e1lati eredm\u00e9nyek.<\/p>\n\n\n\n Az ISO\/IEC 42001 kerete az\u00e9rt fontos, mert az AI ir\u00e1ny\u00edt\u00e1si rendszer fenntart\u00e1s\u00e1t \u00e9s folyamatos fejleszt\u00e9s\u00e9t szervezeti k\u00f6vetelm\u00e9nyk\u00e9nt kezeli. A dokument\u00e1lt inform\u00e1ci\u00f3k szerepe itt nem puszt\u00e1n megfelel\u0151s\u00e9gi, hanem ir\u00e1ny\u00edt\u00e1si: biztos\u00edtj\u00e1k, hogy a szervezet tanulni tudjon saj\u00e1t AI-haszn\u00e1lat\u00e1b\u00f3l, \u00e9s bizony\u00edtani tudja d\u00f6nt\u00e9seinek k\u00f6vetkezetess\u00e9g\u00e9t (ISO, 2023b).<\/p>\n\n\n\n Egy AI-\u00e9letciklusban nem az a k\u00e9rd\u00e9s, hogy sok dokumentum k\u00e9sz\u00fclt-e, hanem hogy a megfelel\u0151 d\u00f6nt\u00e9sek bizony\u00edthat\u00f3k-e<\/strong>. T\u00fal sok dokument\u00e1ci\u00f3 is lehet rossz, ha nem kapcsol\u00f3dik t\u00e9nyleges ir\u00e1ny\u00edt\u00e1si pontokhoz. A dokument\u00e1ci\u00f3 akkor j\u00f3, ha ar\u00e1nyos, naprak\u00e9sz, \u00e9rthet\u0151 \u00e9s d\u00f6nt\u00e9sekhez k\u00f6thet\u0151.<\/p>\n\n\n\n Az ellen\u0151rizhet\u0151 bizony\u00edt\u00e9kok k\u00f6z\u00e9 tartozhatnak:<\/p>\n\n\n\n AI-haszn\u00e1latieset-lap;<\/p>\n\n\n\n c\u00e9l- \u00e9s sikerkrit\u00e9rium-le\u00edr\u00e1s;<\/p>\n\n\n\n adatforr\u00e1s- \u00e9s adatmin\u0151s\u00e9gi dokument\u00e1ci\u00f3;<\/p>\n\n\n\n el\u0151zetes kock\u00e1zat\u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n modell- vagy szolg\u00e1ltat\u00e1sv\u00e1laszt\u00e1si indokl\u00e1s;<\/p>\n\n\n\n tesztterv \u00e9s valid\u00e1l\u00e1si eredm\u00e9nyek;<\/p>\n\n\n\n emberi fel\u00fcgyeleti terv;<\/p>\n\n\n\n inform\u00e1ci\u00f3biztons\u00e1gi \u00e9s adatv\u00e9delmi \u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n \u00e9les\u00edt\u00e9si j\u00f3v\u00e1hagy\u00e1s;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9s igazol\u00e1sa;<\/p>\n\n\n\n monitoroz\u00e1si jelent\u00e9sek;<\/p>\n\n\n\n v\u00e1ltoz\u00e1snapl\u00f3 \u00e9s \u00fajratesztel\u00e9si bizony\u00edt\u00e9k;<\/p>\n\n\n\n incidens- \u00e9s panaszkezel\u00e9si dokument\u00e1ci\u00f3.<\/p>\n\n\n\n Ezek k\u00f6z\u00fcl nem minden elem sz\u00fcks\u00e9ges minden AI-rendszerhez azonos m\u00e9lys\u00e9gben. Az ar\u00e1nyoss\u00e1g elve tov\u00e1bbra is \u00e9rv\u00e9nyes. Egy alacsony hat\u00e1s\u00fa bels\u0151 asszisztensn\u00e9l elegend\u0151 lehet egyszer\u0171bb le\u00edr\u00e1s, haszn\u00e1lati szab\u00e1ly \u00e9s alapvet\u0151 adatv\u00e9delmi kontroll. Egy magasabb hat\u00e1s\u00fa d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszern\u00e9l r\u00e9szletes valid\u00e1l\u00e1s, kock\u00e1zatkezel\u00e9s, napl\u00f3z\u00e1s \u00e9s vezet\u0151i j\u00f3v\u00e1hagy\u00e1s indokolt.<\/p>\n\n\n\n Az EU AI Act magas kock\u00e1zat\u00fa rendszerek eset\u00e9ben r\u00e9szletes technikai dokument\u00e1ci\u00f3t, napl\u00f3z\u00e1st \u00e9s kock\u00e1zatkezel\u00e9st \u00edr el\u0151, ami j\u00f3l mutatja, hogy a szab\u00e1lyoz\u00e1si logika is bizony\u00edt\u00e9kokra \u00e9p\u00fcl (European Parliament & Council of the European Union, 2024). Nem minden szervezeti AI-rendszer esik ebbe a kateg\u00f3ri\u00e1ba, de a bizony\u00edthat\u00f3s\u00e1g elve sz\u00e9lesebb k\u00f6rben is alkalmazhat\u00f3.<\/p>\n\n\n\n A dokument\u00e1lt d\u00f6nt\u00e9sek k\u00fcl\u00f6n\u00f6sen fontosak akkor, ha vita, panasz vagy incidens mer\u00fcl fel. Egy \u00fcgyf\u00e9l megk\u00e9rd\u0151jelezheti az AI \u00e1ltal t\u00e1mogatott d\u00f6nt\u00e9st. Egy munkav\u00e1llal\u00f3 vitathatja a rangsorol\u00e1st. Egy auditor r\u00e1k\u00e9rdezhet a modellv\u00e1ltoz\u00e1sra. Egy hat\u00f3s\u00e1g adatkezel\u00e9si vagy kock\u00e1zatkezel\u00e9si bizony\u00edt\u00e9kot k\u00e9rhet. A bizony\u00edt\u00e9k hi\u00e1nya \u00f6n\u00e1ll\u00f3 megfelel\u0151s\u00e9gi kock\u00e1zat<\/strong>. Lehet, hogy a d\u00f6nt\u00e9s szakmailag v\u00e9dhet\u0151 volt, de ha nincs nyoma, a szervezet nehezen tudja igazolni.<\/p>\n\n\n\n A dokument\u00e1lt d\u00f6nt\u00e9sek a bels\u0151 tanul\u00e1st is t\u00e1mogatj\u00e1k. Ha a szervezet l\u00e1tja, milyen c\u00e9lokkal indultak az AI-projektek, hol jelentek meg hib\u00e1k, milyen kontrollok m\u0171k\u00f6dtek j\u00f3l, \u00e9s hol kellett beavatkozni, akkor jav\u00edtani tudja az AI ir\u00e1ny\u00edt\u00e1si rendszert. Ez a folyamatos fejleszt\u00e9s egyik alapja.<\/p>\n\n\n\n A gyakorl\u00f3 feladat ez\u00e9rt k\u00fcl\u00f6n\u00f6sen hasznos: egy v\u00e1lasztott AI-haszn\u00e1lati eset \u00e9letciklus\u00e1t kell felrajzolni, \u00e9s legal\u00e1bb \u00f6t ponton megjel\u00f6lni, milyen kontrollra vagy j\u00f3v\u00e1hagy\u00e1sra lenne sz\u00fcks\u00e9g. P\u00e9ld\u00e1ul egy \u00fcgyf\u00e9lszolg\u00e1lati chatbotn\u00e1l ilyen pont lehet a c\u00e9lmeghat\u00e1roz\u00e1s, tud\u00e1sb\u00e1zis-j\u00f3v\u00e1hagy\u00e1s, adatv\u00e9delmi ellen\u0151rz\u00e9s, v\u00e1laszmin\u0151s\u00e9gi tesztel\u00e9s, \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9s, monitoroz\u00e1s \u00e9s tartalomfriss\u00edt\u00e9si v\u00e1ltoz\u00e1skezel\u00e9s.<\/p>\n\n\n\n Egy predikt\u00edv karbantart\u00e1si modelln\u00e9l m\u00e1s pontok ker\u00fclnek el\u0151t\u00e9rbe: szenzoradatok min\u0151s\u00e9ge, meghib\u00e1sod\u00e1si c\u00edmk\u00e9k megb\u00edzhat\u00f3s\u00e1ga, modellvalid\u00e1l\u00e1s, karbantart\u00e1si folyamatba illeszt\u00e9s, riaszt\u00e1si k\u00fcsz\u00f6b\u00e9rt\u00e9k j\u00f3v\u00e1hagy\u00e1sa, driftfigyel\u00e9s \u00e9s \u00fajratan\u00edt\u00e1s. A kontrollpont mindig a haszn\u00e1lati eset term\u00e9szet\u00e9b\u0151l k\u00f6vetkezik<\/strong>. Nincs egyetlen univerz\u00e1lis ellen\u0151rz\u00e9si lista, amely minden AI-rendszerre v\u00e1ltoztat\u00e1s n\u00e9lk\u00fcl elegend\u0151 lenne.<\/p>\n\n\n\n A dokument\u00e1ci\u00f3 gyakorlati min\u0151s\u00e9g\u00e9t h\u00e1rom k\u00e9rd\u00e9s mutatja meg:<\/p>\n\n\n\n Meg tudja-e mutatni, hogy mi\u00e9rt indult el az AI-haszn\u00e1lat?<\/p>\n\n\n\n Meg tudja-e mutatni, hogyan kezelt\u00e9k a l\u00e9nyeges kock\u00e1zatokat?<\/p>\n\n\n\n Meg tudja-e mutatni, hogy a rendszer m\u0171k\u00f6d\u00e9s\u00e9t \u00e9les\u00edt\u00e9s ut\u00e1n is figyelt\u00e9k?<\/p>\n\n\n\n Ha erre a h\u00e1rom k\u00e9rd\u00e9sre a v\u00e1lasz igen, akkor az AI-\u00e9letciklus dokument\u00e1ci\u00f3ja nem puszta iratt\u00e1r, hanem val\u00f3di ir\u00e1ny\u00edt\u00e1si bizony\u00edt\u00e9k. Ha a v\u00e1lasz nem, akkor a szervezetnek nemcsak dokument\u00e1ci\u00f3s, hanem ir\u00e1ny\u00edt\u00e1si hi\u00e1nya is van.<\/p>\n\n\n\n Az AI-\u00e9letciklus kritikus ir\u00e1ny\u00edt\u00e1si pontjainak felismer\u00e9se azt jelenti, hogy a szervezet nem a technol\u00f3gia m\u00f6g\u00f6tt fut, hanem saj\u00e1t d\u00f6nt\u00e9si rendj\u00e9be illeszti azt. Az \u00fczleti c\u00e9l, adatv\u00e1laszt\u00e1s, fejleszt\u00e9s, valid\u00e1l\u00e1s, \u00e9les\u00edt\u00e9s, monitoroz\u00e1s \u00e9s v\u00e1ltoz\u00e1skezel\u00e9s mind olyan pont, ahol a felel\u0151ss\u00e9gnek l\u00e1that\u00f3v\u00e1 kell v\u00e1lnia. Az AI akkor v\u00e1lik fenntarthat\u00f3 szervezeti k\u00e9pess\u00e9gg\u00e9, ha minden l\u00e9nyeges \u00e9letciklus-szakaszban van felel\u0151s d\u00f6nt\u00e9s, ar\u00e1nyos kontroll \u00e9s ellen\u0151rizhet\u0151 bizony\u00edt\u00e9k.<\/p>\n\n\n\n NIST AI Risk Management Framework: https:\/\/www.nist.gov\/itl\/ai-risk-management-framework<\/p>\n\n\n\n ISO\/IEC 42001:2023 \u00e1ttekint\u00e9s: https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n ISO\/IEC 5338:2023 \u00e1ttekint\u00e9s: https:\/\/www.iso.org\/standard\/81118.html<\/p>\n\n\n\n EU AI Act teljes sz\u00f6veg: https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj\/eng<\/p>\n\n\n\n Martin Zinkevich \u2013 Rules of Machine Learning: https:\/\/www.youtube.com\/watch?v=VfcY0edoSLU<\/p>\n\n\n\n NIST AI RMF 1.0 explainer video: https:\/\/www.nist.gov\/video\/introduction-nist-ai-risk-management-framework-ai-rmf-10-explainer-video<\/p>\n\n\n\n Chapman, P., Clinton, J., Kerber, R., Khabaza, T., Reinartz, T., Shearer, C., & Wirth, R. (2000). CRISP-DM 1.0: Step-by-step data mining guide<\/em>. SPSS. https:\/\/public.dhe.ibm.com\/software\/analytics\/spss\/documentation\/modeler\/14.2\/es\/CRISP-DM.pdf<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised <\/em>rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n International Organization for Standardization. (2023a). ISO\/IEC 5338:2023: Information technology \u2014 Artificial intelligence \u2014 AI system life cycle processes<\/em>. ISO. https:\/\/www.iso.org\/standard\/81118.html<\/p>\n\n\n\n International Organization for Standardization. (2023b). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n International Organization for Standardization. (2023c). ISO\/IEC 23894:2023: Information technology \u2014 Artificial intelligence \u2014 Guidance on risk management<\/em>. ISO. https:\/\/www.iso.org\/standard\/77304.html<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\n Sculley, D., Holt, G., Golovin, D., Davydov, E., Phillips, T., Ebner, D., Chaudhary, V., Young, M., Crespo, J.-F., & Dennison, D. (2015). Hidden technical debt in machine learning systems. Advances in Neural Information Processing Systems, 28<\/em>. https:\/\/papers.neurips.cc\/paper\/5656-hidden-technical-debt-in-machine-learning-systems.pdf<\/p>\n","protected":false},"excerpt":{"rendered":" Az AI \u00e9letciklus kritikus ir\u00e1ny\u00edt\u00e1si pontjai seg\u00edtik a szervezeteket a kock\u00e1zatok kezel\u00e9s\u00e9ben, a c\u00e9lmeghat\u00e1roz\u00e1st\u00f3l az adatv\u00e1laszt\u00e1son \u00e1t az \u00e9les\u00edt\u00e9sig \u00e9s monitoroz\u00e1sig.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_sas_skip_auto_schedule":false,"_sas_force_auto_schedule":false,"footnotes":""},"categories":[761],"tags":[785,784,778,78,786,319,781,780,158,730,34],"series":[],"class_list":["post-697","post","type-post","status-publish","format-standard","hentry","category-iranyitasi-rendszer-aims","tag-adatvalasztas","tag-ai-eletciklus","tag-auditalhatosag","tag-biztonsag","tag-elesites","tag-fejlesztes","tag-felelosseg","tag-iranyitas","tag-kockazatkezeles","tag-monitorozas","tag-validalas"],"yoast_head":"\nC\u00e9lmeghat\u00e1roz\u00e1s \u00e9s adatkiv\u00e1laszt\u00e1s<\/h2>\n\n\n\n
Fejleszt\u00e9s, valid\u00e1l\u00e1s \u00e9s \u00e9les\u00edt\u00e9s kontrollpontjai<\/h2>\n\n\n\n
V\u00e1ltoz\u00e1skezel\u00e9s \u00e9s folyamatos monitoroz\u00e1s<\/h2>\n\n\n\n
Dokument\u00e1lt d\u00f6nt\u00e9sek \u00e9s ellen\u0151rizhet\u0151 bizony\u00edt\u00e9kok<\/h2>\n\n\n\n
Tov\u00e1bbi olvasnival\u00f3<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n