Egy AI-modell m\u00f3dos\u00edt\u00e1sa els\u0151 l\u00e1t\u00e1sra technikai feladatnak t\u0171nhet: \u00faj adat, \u00faj param\u00e9ter, \u00faj teszteredm\u00e9ny, jobb pontoss\u00e1g. A szervezeti kock\u00e1zat azonban gyakran \u00e9ppen ott keletkezik, ahol a v\u00e1ltoztat\u00e1s t\u00fal rutinszer\u0171v\u00e9 v\u00e1lik, \u00e9s senki nem k\u00e9rdezi meg, hogy az \u00faj modell ugyanarra alkalmas-e, ugyanazokra az \u00e9rintettekre hat-e, \u00e9s ugyanazokkal a kontrollokkal m\u0171k\u00f6dtethet\u0151-e.<\/p>\n\n\n\n
Az AI ir\u00e1ny\u00edt\u00e1si rendszerben a modellez\u00e9si gyakorlatok kontroll\u00e1l\u00e1sa nem a fejleszt\u0151k munk\u00e1j\u00e1nak lelass\u00edt\u00e1s\u00e1t jelenti. A c\u00e9l az, hogy a modellfejleszt\u00e9s, tesztel\u00e9s, friss\u00edt\u00e9s, \u00fajratan\u00edt\u00e1s \u00e9s \u00e9les\u00edt\u00e9s ellen\u0151rizhet\u0151 d\u00f6nt\u00e9si folyamatt\u00e1 v\u00e1ljon. Egy m\u0171k\u00f6d\u0151 AIMS-ben a modellv\u00e1ltoz\u00e1s nem inform\u00e1lis technikai esem\u00e9ny, hanem dokument\u00e1lt, tesztelt, j\u00f3v\u00e1hagyott \u00e9s visszak\u00f6vethet\u0151 szervezeti d\u00f6nt\u00e9s.<\/p>\n\n\n\n
Az AI-modell nem \u00f6nmag\u00e1ban m\u0171k\u00f6dik. Adatokb\u00f3l, param\u00e9terekb\u0151l, fejleszt\u00e9si d\u00f6nt\u00e9sekb\u0151l, tesztel\u00e9si m\u00f3dszerekb\u0151l, \u00fczleti c\u00e9lokb\u00f3l \u00e9s m\u0171k\u00f6d\u00e9si k\u00f6rnyezetb\u0151l \u00e1ll \u00f6ssze. Ez\u00e9rt a modell nem csak technikai objektum<\/strong>, hanem olyan d\u00f6nt\u00e9st\u00e1mogat\u00f3 elem, amely kihat\u00e1ssal lehet \u00fcgyfelekre, munkav\u00e1llal\u00f3kra, \u00fczleti folyamatokra \u00e9s megfelel\u0151s\u00e9gi kock\u00e1zatokra is.<\/p>\n\n\n\n A modellez\u00e9si d\u00f6nt\u00e9sek k\u00f6z\u00e9 tartozik az adatv\u00e1laszt\u00e1s, a modellarchitekt\u00fara vagy m\u00f3dszer kiv\u00e1laszt\u00e1sa, a param\u00e9terez\u00e9s, a tan\u00edt\u00e1si elj\u00e1r\u00e1s, a valid\u00e1l\u00e1si m\u00f3dszer, a teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b, az elfogad\u00e1si krit\u00e9rium \u00e9s az \u00fajratan\u00edt\u00e1s logik\u00e1ja. Ezek k\u00f6z\u00fcl egyik sem puszt\u00e1n technikai r\u00e9szlet. Egy AIMS-ben minden l\u00e9nyeges modellez\u00e9si d\u00f6nt\u00e9snek kock\u00e1zati k\u00f6vetkezm\u00e9nye van<\/strong>, mert a d\u00f6nt\u00e9s meghat\u00e1rozza, mire lesz k\u00e9pes a rendszer, \u00e9s milyen hib\u00e1k jelenhetnek meg \u00e9les m\u0171k\u00f6d\u00e9sben.<\/p>\n\n\n\n Az ISO\/IEC 42001 az AI ir\u00e1ny\u00edt\u00e1si rendszert olyan szervezeti keretk\u00e9nt kezeli, amelyben az AI-rendszerek fejleszt\u00e9s\u00e9t, m\u0171k\u00f6dtet\u00e9s\u00e9t, fel\u00fclvizsg\u00e1lat\u00e1t \u00e9s jav\u00edt\u00e1s\u00e1t ir\u00e1ny\u00edtott folyamatokba kell illeszteni (International Organization for Standardization, 2023a). Ez a modellez\u00e9si gyakorlatokra is \u00e9rv\u00e9nyes: a modellfejleszt\u00e9s nem maradhat k\u00fcl\u00f6n szakmai sziget, amelynek d\u00f6nt\u00e9sei csak ut\u00f3lag jelennek meg a kock\u00e1zatkezel\u00e9sben. A szervezetnek ez\u00e9rt a modellez\u00e9st ir\u00e1ny\u00edt\u00e1si folyamatk\u00e9nt kell kezelnie<\/strong>, nem kiz\u00e1r\u00f3lag fejleszt\u00e9si tev\u00e9kenys\u00e9gk\u00e9nt.<\/p>\n\n\n\n A modellez\u00e9si kontrollok c\u00e9lja nem az, hogy minden apr\u00f3 technikai k\u00eds\u00e9rlet vezet\u0151i j\u00f3v\u00e1hagy\u00e1shoz k\u00f6t\u0151dj\u00f6n. A c\u00e9l a l\u00e9nyeges d\u00f6nt\u00e9si pontok azonos\u00edt\u00e1sa. Ilyen pont lehet p\u00e9ld\u00e1ul, amikor \u00faj adatforr\u00e1s ker\u00fcl be, megv\u00e1ltozik a c\u00e9lf\u00fcggv\u00e9ny, \u00faj teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b\u00f6t vezetnek be, a modell \u00faj felhaszn\u00e1l\u00f3i k\u00f6rnyezetbe ker\u00fcl, vagy a kor\u00e1bbi d\u00f6nt\u00e9st\u00e1mogat\u00f3 szerepb\u0151l er\u0151sebb automatiz\u00e1lt d\u00f6nt\u00e9si szerepbe l\u00e9p. Ilyenkor a k\u00eds\u00e9rleti v\u00e1ltoztat\u00e1s m\u0171k\u00f6d\u00e9si kock\u00e1zatt\u00e1 v\u00e1lhat<\/strong>, ha nem k\u00f6veti kontroll\u00e1lt \u00e9rt\u00e9kel\u00e9s.<\/p>\n\n\n\n Az AI-kock\u00e1zatkezel\u00e9sben k\u00fcl\u00f6n\u00f6sen fontos, hogy a szervezet ne csak a v\u00e9gs\u0151 modellkimenetet vizsg\u00e1lja, hanem azokat a d\u00f6nt\u00e9seket is, amelyek a modell l\u00e9trej\u00f6tt\u00e9hez vezettek. Az ISO\/IEC 23894 az AI-kock\u00e1zatok kezel\u00e9s\u00e9t az AI-hoz kapcsol\u00f3d\u00f3 tev\u00e9kenys\u00e9gekbe \u00e9s funkci\u00f3kba integr\u00e1lt megk\u00f6zel\u00edt\u00e9sk\u00e9nt \u00edrja le (International Organization for Standardization, 2023b). Ebb\u0151l k\u00f6vetkezik, hogy a kock\u00e1zatkezel\u00e9snek a modellez\u00e9s k\u00f6zben kell m\u0171k\u00f6dnie<\/strong>, nem csup\u00e1n a modell \u00e9les\u00edt\u00e9se el\u0151tt.<\/p>\n\n\n\n A modellez\u00e9si d\u00f6nt\u00e9sek egyik gyakori hib\u00e1ja, hogy a szervezet csak a pontoss\u00e1gi mutat\u00f3kat figyeli. Egy predikt\u00edv modell lehet statisztikailag er\u0151s, de k\u00f6zben instabil bizonyos alcsoportokban, gyeng\u00e9n teljes\u00edthet ritka esetekben, vagy nem illeszkedhet az \u00fczleti folyamat t\u00e9nyleges d\u00f6nt\u00e9si logik\u00e1j\u00e1hoz. Ez\u00e9rt a j\u00f3 modell nem azonos a magas pontsz\u00e1mmal<\/strong>, mert a megfelel\u0151s\u00e9ghez a haszn\u00e1lati c\u00e9l, a kock\u00e1zati szint \u00e9s az \u00e9rintetti hat\u00e1s is hozz\u00e1tartozik.<\/p>\n\n\n\n A NIST AI Risk Management Framework a kock\u00e1zatok felt\u00e9rk\u00e9pez\u00e9s\u00e9t, m\u00e9r\u00e9s\u00e9t, kezel\u00e9s\u00e9t \u00e9s ir\u00e1ny\u00edt\u00e1s\u00e1t \u00f6sszekapcsolt funkci\u00f3kk\u00e9nt kezeli (National Institute of Standards and Technology, 2023). Ez j\u00f3l alkalmazhat\u00f3 a modellez\u00e9si gyakorlatokra is. A szervezetnek el\u0151sz\u00f6r \u00e9rtenie kell, milyen k\u00f6rnyezetben m\u0171k\u00f6dik a modell, majd m\u00e9rnie kell a teljes\u00edtm\u00e9nyt \u00e9s a hib\u00e1kat, ezt k\u00f6vet\u0151en kezelnie kell az elt\u00e9r\u00e9seket, v\u00e9g\u00fcl pedig ir\u00e1ny\u00edt\u00e1si szinten kell fenntartania a kontrollokat. Ebben a logik\u00e1ban a modellkontroll nem egyszeri kapu<\/strong>, hanem ism\u00e9tl\u0151d\u0151 ir\u00e1ny\u00edt\u00e1si ciklus.<\/p>\n\n\n\n A modellez\u00e9si d\u00f6nt\u00e9sek dokument\u00e1l\u00e1sa az\u00e9rt is fontos, mert k\u00e9s\u0151bb sok k\u00e9rd\u00e9s csak ezekb\u0151l v\u00e1laszolhat\u00f3 meg. Mi\u00e9rt ezt az adatforr\u00e1st haszn\u00e1lt\u00e1k? Mi\u00e9rt ezt a teljes\u00edtm\u00e9nymutat\u00f3t v\u00e1lasztott\u00e1k? Ki hagyta j\u00f3v\u00e1 az elfogad\u00e1si k\u00fcsz\u00f6b\u00f6t? Milyen alternat\u00edv\u00e1kat vizsg\u00e1ltak? Milyen korl\u00e1tokat ismertek a modell bevezet\u00e9sekor? Ha ezekre nincs v\u00e1lasz, akkor a modell eredete audit\u00e1lhatatlann\u00e1 v\u00e1lik<\/strong>, \u00e9s a szervezet nem tudja megb\u00edzhat\u00f3an bizony\u00edtani a felel\u0151s m\u0171k\u00f6d\u00e9st.<\/p>\n\n\n\n A modellez\u00e9si gyakorlatok kontroll\u00e1l\u00e1s\u00e1hoz c\u00e9lszer\u0171 legal\u00e1bb n\u00e9gy d\u00f6nt\u00e9si r\u00e9teget elk\u00fcl\u00f6n\u00edteni:<\/p>\n\n\n\n szakmai modellez\u00e9si d\u00f6nt\u00e9sek;<\/p>\n\n\n\n adatkezel\u00e9si \u00e9s adatmin\u0151s\u00e9gi d\u00f6nt\u00e9sek;<\/p>\n\n\n\n kock\u00e1zati \u00e9s megfelel\u0151s\u00e9gi d\u00f6nt\u00e9sek;<\/p>\n\n\n\n \u00fczleti j\u00f3v\u00e1hagy\u00e1si d\u00f6nt\u00e9sek.<\/p>\n\n\n\n Ez a tagol\u00e1s seg\u00edt elker\u00fclni azt a hib\u00e1t, hogy minden felel\u0151ss\u00e9g a technikai csapatra cs\u00faszik. A fejleszt\u0151 meg tudja mondani, hogyan teljes\u00edt a modell egy adott teszten, de nem felt\u00e9tlen\u00fcl \u0151 d\u00f6nt arr\u00f3l, hogy ez a teljes\u00edtm\u00e9ny elfogadhat\u00f3-e egy \u00fczleti vagy jogi kock\u00e1zat\u00fa helyzetben. Egy \u00e9rett AIMS-ben a technikai eredm\u00e9ny \u00fczleti d\u00f6nt\u00e9ss\u00e9 fordul<\/strong>, miel\u0151tt a modell \u00e9les m\u0171k\u00f6d\u00e9sbe ker\u00fcl.<\/p>\n\n\n\n A modell elfogad\u00e1sa nem t\u00f6rt\u00e9nhet puszt\u00e1n \u00e9rz\u00e9sre vagy \u00e1ltal\u00e1nos fejleszt\u0151i meg\u00edt\u00e9l\u00e9s alapj\u00e1n. A szervezetnek el\u0151re meg kell hat\u00e1roznia, milyen teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b\u00f6k mellett tekinti a modellt elfogadhat\u00f3nak. Ez nemcsak pontoss\u00e1got jelenthet, hanem hibaar\u00e1nyt, t\u00e9ves pozit\u00edv \u00e9s t\u00e9ves negat\u00edv eredm\u00e9nyeket, stabilit\u00e1st, magyar\u00e1zhat\u00f3s\u00e1got, robusztuss\u00e1got, adatmin\u0151s\u00e9gi felt\u00e9teleket \u00e9s emberi fel\u00fclvizsg\u00e1lati ig\u00e9nyt is.<\/p>\n\n\n\n Egy AI-modelln\u00e9l a teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b mindig a haszn\u00e1lati c\u00e9lt\u00f3l f\u00fcgg. Egy bels\u0151 aj\u00e1nl\u00f3rendszern\u00e9l m\u00e1s hibaszint lehet elfogadhat\u00f3, mint egy \u00fcgyf\u00e9ljogokat vagy munkav\u00e1llal\u00f3i \u00e9rt\u00e9kel\u00e9st \u00e9rint\u0151 d\u00f6nt\u00e9st\u00e1mogat\u00f3 modelln\u00e9l. Ez\u00e9rt az elfogad\u00e1si k\u00fcsz\u00f6b kock\u00e1zati d\u00f6nt\u00e9s<\/strong>, nem kiz\u00e1r\u00f3lag statisztikai sz\u00e1m\u00edt\u00e1s. A k\u00fcsz\u00f6b azt fejezi ki, hogy a szervezet milyen hib\u00e1t, milyen hat\u00e1ssal \u00e9s milyen kontroll mellett tart elfogadhat\u00f3nak.<\/p>\n\n\n\n A teljes\u00edtm\u00e9nymutat\u00f3k kiv\u00e1laszt\u00e1s\u00e1n\u00e1l \u00f3vatosnak kell lenni. Az \u00e1tlagos pontoss\u00e1g elfedheti, hogy a modell bizonyos esetekben vagy csoportokn\u00e1l gyeng\u00e9bben m\u0171k\u00f6dik. A t\u00fal \u00e1ltal\u00e1nos m\u00e9r\u0151sz\u00e1mok k\u00fcl\u00f6n\u00f6sen vesz\u00e9lyesek lehetnek, ha a modell kimenete emberekre hat\u00f3 d\u00f6nt\u00e9sekhez kapcsol\u00f3dik. A modellek \u00e1tl\u00e1that\u00f3 dokument\u00e1l\u00e1s\u00e1ra javasolt model card megk\u00f6zel\u00edt\u00e9s is hangs\u00falyozza, hogy a teljes\u00edtm\u00e9nyt a tervezett felhaszn\u00e1l\u00e1si kontextusban \u00e9s relev\u00e1ns r\u00e9szhalmazokon is \u00e9rdemes bemutatni (Mitchell et al., 2019). \u00cdgy a teljes\u00edtm\u00e9nyt nem el\u00e9g \u00e1tlagban m\u00e9rni<\/strong>, mert az \u00e1tlag m\u00f6g\u00f6tt l\u00e9nyeges elt\u00e9r\u00e9sek maradhatnak rejtve.<\/p>\n\n\n\n Az elfogad\u00e1si krit\u00e9riumoknak egyszerre kell technikaiaknak \u00e9s m\u0171k\u00f6d\u00e9sieknek lenni\u00fck. Technikai krit\u00e9rium lehet p\u00e9ld\u00e1ul a minim\u00e1lis pontoss\u00e1g, a maxim\u00e1lis hibaar\u00e1ny, a stabilit\u00e1si elv\u00e1r\u00e1s vagy az adatmin\u0151s\u00e9gi k\u00fcsz\u00f6b. M\u0171k\u00f6d\u00e9si krit\u00e9rium lehet az emberi fel\u00fclvizsg\u00e1lat el\u00e9rhet\u0151s\u00e9ge, a kiv\u00e9telkezel\u00e9si folyamat, az incidensjelz\u00e9s, az \u00e9rintetti kommunik\u00e1ci\u00f3 vagy a napl\u00f3z\u00e1s. Egy kontroll\u00e1lt modellbevezet\u00e9sn\u00e9l a modell csak a m\u0171k\u00f6d\u00e9si k\u00f6rnyezettel egy\u00fctt \u00e9rt\u00e9kelhet\u0151<\/strong>, mert ugyanaz a modell m\u00e1s kontrollok mellett m\u00e1s kock\u00e1zati szintet jelenthet.<\/p>\n\n\n\n Az elfogad\u00e1si krit\u00e9riumokat a fejleszt\u00e9s el\u0151tt vagy legk\u00e9s\u0151bb a tesztel\u00e9si terv k\u00e9sz\u00edt\u00e9sekor kell r\u00f6gz\u00edteni. Ha a k\u00fcsz\u00f6b\u00f6ket csak az eredm\u00e9nyek ismeret\u00e9ben alak\u00edtj\u00e1k ki, fenn\u00e1ll a vesz\u00e9lye annak, hogy a szervezet a modellhez igaz\u00edtja az elv\u00e1r\u00e1st, nem pedig a kock\u00e1zathoz. Ez\u00e9rt az ut\u00f3lag igaz\u00edtott k\u00fcsz\u00f6b gyeng\u00edti a kontrollt<\/strong>, mert nem f\u00fcggetlen d\u00f6nt\u00e9si m\u00e9rc\u00e9t ad, hanem a m\u00e1r elk\u00e9sz\u00fclt eredm\u00e9nyhez keres magyar\u00e1zatot.<\/p>\n\n\n\n A tesztel\u00e9si m\u00f3dszer kiv\u00e1laszt\u00e1sa legal\u00e1bb olyan fontos, mint maga az eredm\u00e9ny. Meg kell hat\u00e1rozni, milyen adaton tesztelik a modellt, hogyan k\u00fcl\u00f6n\u00fcl el a tan\u00edt\u00f3- \u00e9s tesztadat, milyen k\u00f6rnyezeti felt\u00e9teleket szimul\u00e1lnak, hogyan vizsg\u00e1lj\u00e1k a sz\u00e9ls\u0151 eseteket, \u00e9s milyen hib\u00e1kat tekintenek kritikusnak. A g\u00e9pi tanul\u00e1si rendszerek saj\u00e1toss\u00e1ga, hogy a modell viselked\u00e9se nemcsak a k\u00f3dt\u00f3l, hanem az adatokt\u00f3l \u00e9s a m\u0171k\u00f6d\u00e9si k\u00f6rnyezet v\u00e1ltoz\u00e1sait\u00f3l is f\u00fcgg (Sculley et al., 2015). Emiatt a teszt nem puszta technikai formalit\u00e1s<\/strong>, hanem az \u00e9les m\u0171k\u00f6d\u00e9s kock\u00e1zat\u00e1nak el\u0151zetes vizsg\u00e1lata.<\/p>\n\n\n\n A teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b\u00f6ket nem \u00e9rdemes t\u00fal sz\u0171ken \u00e9rtelmezni. Egy modell elfogad\u00e1s\u00e1n\u00e1l vizsg\u00e1lhat\u00f3 t\u00f6bbek k\u00f6z\u00f6tt:<\/p>\n\n\n\n pontoss\u00e1g vagy tal\u00e1lati ar\u00e1ny;<\/p>\n\n\n\n t\u00e9ves pozit\u00edv eredm\u00e9nyek ar\u00e1nya;<\/p>\n\n\n\n t\u00e9ves negat\u00edv eredm\u00e9nyek ar\u00e1nya;<\/p>\n\n\n\n stabilit\u00e1s k\u00fcl\u00f6nb\u00f6z\u0151 adatmint\u00e1kon;<\/p>\n\n\n\n teljes\u00edtm\u00e9ny elt\u00e9r\u0151 \u00e9rintetti vagy \u00fczleti csoportokban;<\/p>\n\n\n\n robusztuss\u00e1g hi\u00e1nyos vagy zajos adatok mellett;<\/p>\n\n\n\n magyar\u00e1zhat\u00f3s\u00e1g vagy \u00e9rtelmezhet\u0151s\u00e9g;<\/p>\n\n\n\n emberi fel\u00fclvizsg\u00e1lati terhel\u00e9s;<\/p>\n\n\n\n incidens vagy hibajelz\u00e9s v\u00e1rhat\u00f3 kezelhet\u0151s\u00e9ge;<\/p>\n\n\n\n megfelel\u0151s\u00e9g bels\u0151 szab\u00e1lyokkal \u00e9s k\u00fcls\u0151 k\u00f6vetelm\u00e9nyekkel.<\/p>\n\n\n\n A lista c\u00e9lja nem az, hogy minden modelln\u00e9l minden mutat\u00f3t azonos m\u00e9lys\u00e9gben kelljen alkalmazni. Az ar\u00e1nyoss\u00e1g fontos: alacsonyabb kock\u00e1zat\u00fa AI-haszn\u00e1latn\u00e1l egyszer\u0171bb elfogad\u00e1si krit\u00e9rium is elegend\u0151 lehet, m\u00edg magasabb kock\u00e1zat\u00fa rendszerekn\u00e9l r\u00e9szletesebb tesztel\u00e9s \u00e9s j\u00f3v\u00e1hagy\u00e1s sz\u00fcks\u00e9ges. A l\u00e9nyeg az, hogy a kontroll m\u00e9lys\u00e9ge a kock\u00e1zathoz igazodjon<\/strong>, ne a projekt k\u00e9nyelm\u00e9hez.<\/p>\n\n\n\n Az EU AI Act a magas kock\u00e1zat\u00fa AI-rendszerekn\u00e9l hangs\u00falyosan kezeli a kock\u00e1zatkezel\u00e9st, az adatir\u00e1ny\u00edt\u00e1st, a m\u0171szaki dokument\u00e1ci\u00f3t, a napl\u00f3z\u00e1st, az \u00e1tl\u00e1that\u00f3s\u00e1got, az emberi fel\u00fcgyeletet, valamint a pontoss\u00e1g, robusztuss\u00e1g \u00e9s kiberbiztons\u00e1g k\u00f6vetelm\u00e9nyeit (European Parliament & Council of the European Union, 2024). Nem minden szervezeti AI-rendszer esik magas kock\u00e1zat\u00fa kateg\u00f3ri\u00e1ba, de a szeml\u00e9let ir\u00e1nyad\u00f3: a teljes\u00edtm\u00e9ny elfogad\u00e1sa nem v\u00e1laszthat\u00f3 el a dokument\u00e1lts\u00e1gt\u00f3l, fel\u00fcgyelett\u0151l \u00e9s kontroll\u00e1lhat\u00f3s\u00e1gt\u00f3l. Ennek alapj\u00e1n a megfelel\u0151s\u00e9g nem csak modellmetrika<\/strong>, hanem ir\u00e1ny\u00edt\u00e1si k\u00e9pess\u00e9g.<\/p>\n\n\n\n A tesztel\u00e9s n\u00e9lk\u00fcli modellv\u00e1ltoztat\u00e1s k\u00fcl\u00f6n\u00f6sen vesz\u00e9lyes. Egy kisebbnek t\u0171n\u0151 param\u00e9term\u00f3dos\u00edt\u00e1s, adatfriss\u00edt\u00e9s vagy \u00fajratan\u00edt\u00e1s is megv\u00e1ltoztathatja a modell viselked\u00e9s\u00e9t. A v\u00e1ltoz\u00e1s jav\u00edthatja az \u00e1tlagos teljes\u00edtm\u00e9nyt, mik\u00f6zben \u00faj hib\u00e1t hoz l\u00e9tre egy ritk\u00e1bb esetk\u00f6rben. Ez\u00e9rt a javul\u00e1s is lehet kock\u00e1zatforr\u00e1s<\/strong>, ha csak egy mutat\u00f3ban l\u00e1tszik, \u00e9s nincs sz\u00e9lesebb k\u00f6r\u0171 ellen\u0151rz\u00e9s.<\/p>\n\n\n\n A teszteredm\u00e9nyek \u00e9rt\u00e9kel\u00e9s\u00e9n\u00e9l mindig meg kell hat\u00e1rozni a d\u00f6nt\u00e9si k\u00f6vetkezm\u00e9nyt. A modell j\u00f3v\u00e1hagyhat\u00f3, korl\u00e1tozott k\u00f6rben enged\u00e9lyezhet\u0151, tov\u00e1bbi tesztel\u00e9sre visszak\u00fcldhet\u0151, emberi fel\u00fcgyelethez k\u00f6thet\u0151, vagy elutas\u00edthat\u00f3. Egy AIMS-ben a teszt eredm\u00e9nye d\u00f6nt\u00e9st ind\u00edt<\/strong>, nem puszt\u00e1n technikai riportot termel. A riport csak akkor hasznos, ha vil\u00e1gos, mit kell tenni az eredm\u00e9ny alapj\u00e1n.<\/p>\n\n\n\n Az AI-modellek \u00e9letciklusa nem \u00e9r v\u00e9get az els\u0151 \u00e9les\u00edt\u00e9ssel. Az adatok v\u00e1ltoznak, az \u00fczleti k\u00f6rnyezet m\u00f3dosul, a felhaszn\u00e1l\u00f3i viselked\u00e9s \u00e1talakulhat, \u00faj szab\u00e1lyoz\u00e1si elv\u00e1r\u00e1sok jelenhetnek meg, \u00e9s a modell teljes\u00edtm\u00e9nye id\u0151vel romolhat. Ez\u00e9rt az \u00e9les\u00edtett modell nem v\u00e9g\u00e1llapot<\/strong>, hanem egy kontroll\u00e1lt m\u0171k\u00f6d\u00e9si szakasz kezdete.<\/p>\n\n\n\n Az \u00fajratan\u00edt\u00e1s c\u00e9lja gyakran a teljes\u00edtm\u00e9ny jav\u00edt\u00e1sa vagy a megv\u00e1ltozott k\u00f6rnyezethez val\u00f3 alkalmazkod\u00e1s. Ugyanakkor az \u00fajratan\u00edt\u00e1s \u00faj kock\u00e1zatokat is teremthet. Megv\u00e1ltozhat a modell \u00e9rz\u00e9kenys\u00e9ge bizonyos bemenetekre, \u00faj torz\u00edt\u00e1s jelenhet meg, romolhat a kor\u00e1bban stabil r\u00e9szter\u00fcletek teljes\u00edtm\u00e9nye, vagy megs\u00e9r\u00fclhet egy kor\u00e1bbi megfelel\u0151s\u00e9gi felt\u00e9tel. Emiatt az \u00fajratan\u00edt\u00e1s \u00faj modellv\u00e1ltoz\u00e1snak sz\u00e1m\u00edt<\/strong>, nem puszt\u00e1n karbantart\u00e1si rutinnak.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s els\u0151 szab\u00e1lya, hogy meg kell hat\u00e1rozni, mi sz\u00e1m\u00edt l\u00e9nyeges modellv\u00e1ltoz\u00e1snak. L\u00e9nyeges lehet az \u00faj adatforr\u00e1s, a tan\u00edt\u00f3adat jelent\u0151s friss\u00edt\u00e9se, a modellm\u00f3dszer m\u00f3dos\u00edt\u00e1sa, a param\u00e9terez\u00e9s v\u00e1ltoz\u00e1sa, a teljes\u00edtm\u00e9nyk\u00fcsz\u00f6b m\u00f3dos\u00edt\u00e1sa, az \u00e9les\u00edt\u00e9si k\u00f6rnyezet cser\u00e9je vagy a felhaszn\u00e1l\u00e1si c\u00e9l b\u0151v\u00edt\u00e9se. A szervezetnek ez\u00e9rt a v\u00e1ltoz\u00e1s fogalm\u00e1t el\u0151re kell tiszt\u00e1znia<\/strong>, k\u00fcl\u00f6nben a fejleszt\u00e9si \u00e9s \u00fczemeltet\u00e9si csapatok elt\u00e9r\u0151en fogj\u00e1k \u00e9rtelmezni a kontrollig\u00e9nyt.<\/p>\n\n\n\n A verzi\u00f3kezel\u00e9s az AI-k\u00f6rnyezetben nem csak a k\u00f3dverzi\u00f3t jelenti. K\u00f6vetni kell a modellverzi\u00f3t, az adatverzi\u00f3t, a konfigur\u00e1ci\u00f3t, a param\u00e9tereket, a tesztel\u00e9si k\u00f6rnyezetet, a teljes\u00edtm\u00e9nyeredm\u00e9nyeket \u00e9s a j\u00f3v\u00e1hagy\u00e1si st\u00e1tuszt is. A g\u00e9pi tanul\u00e1si rendszerekben a technikai ad\u00f3ss\u00e1g egyik forr\u00e1sa \u00e9ppen az, hogy az adat-, modell- \u00e9s rendszerf\u00fcgg\u0151s\u00e9gek nehezen \u00e1tl\u00e1that\u00f3v\u00e1 v\u00e1lnak (Sculley et al., 2015). Ez\u00e9rt a verzi\u00f3z\u00e1s az audit\u00e1lhat\u00f3s\u00e1g alapja<\/strong>, nem csup\u00e1n fejleszt\u0151i k\u00e9nyelmi funkci\u00f3.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1snapl\u00f3 c\u00e9lja, hogy visszak\u00f6vethet\u0151 legyen, mi v\u00e1ltozott, mikor, mi\u00e9rt, ki hagyta j\u00f3v\u00e1, milyen tesztek k\u00e9sz\u00fcltek, \u00e9s milyen eredm\u00e9nyek alapj\u00e1n ker\u00fclt a modell \u00faj verzi\u00f3ja \u00e9les vagy korl\u00e1tozott haszn\u00e1latba. Ha egy incidens vagy teljes\u00edtm\u00e9nyroml\u00e1s k\u00e9s\u0151bb megjelenik, a v\u00e1ltoz\u00e1snapl\u00f3 seg\u00edt azonos\u00edtani, melyik m\u00f3dos\u00edt\u00e1s lehetett relev\u00e1ns. Ilyenkor a v\u00e1ltoz\u00e1snapl\u00f3 szervezeti eml\u00e9kezetk\u00e9nt m\u0171k\u00f6dik<\/strong>, amely n\u00e9lk\u00fcl a hibakeres\u00e9s \u00e9s felel\u0151ss\u00e9gi vizsg\u00e1lat bizonytalann\u00e1 v\u00e1lik.<\/p>\n\n\n\n Az \u00fajratan\u00edt\u00e1sn\u00e1l k\u00fcl\u00f6n figyelni kell az adatok id\u0151belis\u00e9g\u00e9re. A friss adatok jav\u00edthatj\u00e1k az aktu\u00e1lis k\u00f6rnyezethez val\u00f3 illeszked\u00e9st, de azt is eredm\u00e9nyezhetik, hogy a modell kev\u00e9sb\u00e9 ismeri fel a ritk\u00e1bb vagy kor\u00e1bbi mint\u00e1kat. Az \u00faj adat teh\u00e1t nem automatikusan jobb adat. A szervezetnek ez\u00e9rt az adatfriss\u00edt\u00e9s hat\u00e1s\u00e1t is tesztelnie kell<\/strong>, k\u00fcl\u00f6n\u00f6sen akkor, ha a modell d\u00f6nt\u00e9st\u00e1mogat\u00f3 szerepe v\u00e1ltozatlan marad, de az alapj\u00e1ul szolg\u00e1l\u00f3 adat jelent\u0151sen m\u00f3dosul.<\/p>\n\n\n\n Az AI-alap\u00fa alkalmaz\u00e1sok fejleszt\u00e9se a hagyom\u00e1nyos szoftverfejleszt\u00e9si folyamatokhoz k\u00e9pest t\u00f6bb saj\u00e1tos kih\u00edv\u00e1st hordoz, mert a modell viselked\u00e9se az adatokt\u00f3l, a tan\u00edt\u00e1si folyamatt\u00f3l \u00e9s a m\u0171k\u00f6d\u00e9si visszacsatol\u00e1sokt\u00f3l is f\u00fcgg (Amershi et al., 2019). Ez a v\u00e1ltoz\u00e1skezel\u00e9sben azt jelenti, hogy nem el\u00e9g a k\u00f3dm\u00f3dos\u00edt\u00e1st j\u00f3v\u00e1hagyni. Egy AI-k\u00f6rnyezetben a konfigur\u00e1ci\u00f3 \u00e9s az adat is v\u00e1ltoz\u00e1sforr\u00e1s<\/strong>, ez\u00e9rt ugyan\u00fagy kontroll\u00e1lni kell \u0151ket, mint a szoftverk\u00f3dot.<\/p>\n\n\n\n A modellv\u00e1ltoz\u00e1s-kezel\u00e9s akkor m\u0171k\u00f6dik j\u00f3l, ha vil\u00e1gos kapukhoz k\u00f6t\u0151dik. Ilyen kapu lehet a v\u00e1ltoz\u00e1skezdem\u00e9nyez\u00e9s, a kock\u00e1zati besorol\u00e1s, a tesztterv j\u00f3v\u00e1hagy\u00e1sa, a teszteredm\u00e9nyek \u00e9rt\u00e9kel\u00e9se, az \u00fczleti elfogad\u00e1s, az inform\u00e1ci\u00f3biztons\u00e1gi vagy adatv\u00e9delmi ellen\u0151rz\u00e9s, az \u00e9les\u00edt\u00e9si d\u00f6nt\u00e9s \u00e9s az ut\u00f3k\u00f6vet\u00e9s. A kapuk nem \u00f6nc\u00e9l\u00fa adminisztr\u00e1ci\u00f3k. A c\u00e9l az, hogy a v\u00e1ltoz\u00e1s ne ker\u00fclje meg a felel\u0151ss\u00e9gi rendet<\/strong>, m\u00e9g akkor sem, ha technikailag gyorsan v\u00e9grehajthat\u00f3.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s k\u00fcl\u00f6n\u00f6sen fontos olyan helyzetekben, ahol a modell kimenete \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3ban, bels\u0151 d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u00e9sben, munkav\u00e1llal\u00f3i folyamatokban vagy \u00fczleti rangsorol\u00e1sban jelenik meg. Ilyenkor a modellv\u00e1ltoz\u00e1s nemcsak technikai teljes\u00edtm\u00e9nyt m\u00f3dos\u00edt, hanem befoly\u00e1solhatja, ki milyen aj\u00e1nlatot, figyelmet, \u00e9rt\u00e9kel\u00e9st vagy d\u00f6nt\u00e9st kap. Ez\u00e9rt a modellfriss\u00edt\u00e9s \u00e9rintetti hat\u00e1ssal is j\u00e1rhat<\/strong>, amelyet a j\u00f3v\u00e1hagy\u00e1sn\u00e1l figyelembe kell venni.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1snapl\u00f3 minim\u00e1lis tartalma a k\u00f6vetkez\u0151 lehet:<\/p>\n\n\n\n modell neve \u00e9s azonos\u00edt\u00f3ja;<\/p>\n\n\n\n kor\u00e1bbi \u00e9s \u00faj verzi\u00f3 sz\u00e1ma;<\/p>\n\n\n\n v\u00e1ltoz\u00e1s t\u00edpusa;<\/p>\n\n\n\n v\u00e1ltoz\u00e1s oka;<\/p>\n\n\n\n \u00e9rintett adatforr\u00e1sok;<\/p>\n\n\n\n m\u00f3dos\u00edtott param\u00e9terek vagy konfigur\u00e1ci\u00f3k;<\/p>\n\n\n\n tesztel\u00e9si m\u00f3dszer;<\/p>\n\n\n\n f\u0151 teszteredm\u00e9nyek;<\/p>\n\n\n\n ismert korl\u00e1tok;<\/p>\n\n\n\n kock\u00e1zati \u00e9rt\u00e9kel\u00e9s;<\/p>\n\n\n\n j\u00f3v\u00e1hagy\u00f3k \u00e9s d\u00e1tumok;<\/p>\n\n\n\n \u00e9les\u00edt\u00e9s vagy visszag\u00f6rget\u00e9s felt\u00e9telei;<\/p>\n\n\n\n ut\u00f3k\u00f6vet\u00e9si feladatok.<\/p>\n\n\n\n A visszag\u00f6rget\u00e9si lehet\u0151s\u00e9g gyakran elhanyagolt, m\u00e9gis kulcsfontoss\u00e1g\u00fa kontroll. Ha az \u00faj modellverzi\u00f3 \u00e9les m\u0171k\u00f6d\u00e9sben v\u00e1ratlan hib\u00e1t okoz, a szervezetnek tudnia kell, hogyan t\u00e9rhet vissza a kor\u00e1bbi verzi\u00f3hoz, milyen adatok \u00e9rintettek, hogyan kezeli a k\u00f6zben keletkezett kimeneteket, \u00e9s kinek kell d\u00f6nt\u00e9st hoznia. Ilyenkor a vissza\u00e1ll\u00edthat\u00f3s\u00e1g a biztons\u00e1g r\u00e9sze<\/strong>, nem puszt\u00e1n technikai tartal\u00e9kmegold\u00e1s.<\/p>\n\n\n\n A modellv\u00e1ltoz\u00e1s ut\u00e1ni monitoring legal\u00e1bb olyan fontos, mint az el\u0151zetes tesztel\u00e9s. A tesztk\u00f6rnyezet soha nem k\u00e9pes teljesen lek\u00e9pezni az \u00e9les m\u0171k\u00f6d\u00e9s minden v\u00e1ltozatoss\u00e1g\u00e1t. Ez\u00e9rt a friss\u00edtett modelln\u00e9l figyelni kell a hibajelz\u00e9seket, a teljes\u00edtm\u00e9nymutat\u00f3k elmozdul\u00e1s\u00e1t, a felhaszn\u00e1l\u00f3i visszajelz\u00e9seket, a kiv\u00e9telkezel\u00e9si ar\u00e1nyt \u00e9s az esetleges incidenseket. A m\u0171k\u00f6d\u00e9si tanuls\u00e1g az, hogy az \u00e9les\u00edt\u00e9s ut\u00e1n kezd\u0151dik a val\u00f3s valid\u00e1ci\u00f3<\/strong>, m\u00e9g akkor is, ha az el\u0151zetes tesztek sikeresek voltak.<\/p>\n\n\n\n Egy predikt\u00edv AI-modell friss\u00edt\u00e9s\u00e9n\u00e9l az ellen\u0151rz\u0151lista seg\u00edt abban, hogy a v\u00e1ltoz\u00e1s ne maradjon inform\u00e1lis technikai l\u00e9p\u00e9s. A lista nem helyettes\u00edti a szak\u00e9rt\u0151i \u00e9rt\u00e9kel\u00e9st, de biztos\u00edtja, hogy a legfontosabb tesztel\u00e9si, j\u00f3v\u00e1hagy\u00e1si \u00e9s dokument\u00e1ci\u00f3s pontok ne maradjanak ki. Egy j\u00f3 ellen\u0151rz\u0151list\u00e1ban a kontroll nem eml\u00e9keztet\u0151<\/strong>, hanem d\u00f6nt\u00e9si minimum.<\/p>\n\n\n\n Az els\u0151 k\u00e9rd\u00e9s mindig az, hogy mi\u00e9rt t\u00f6rt\u00e9nik a modellm\u00f3dos\u00edt\u00e1s. Teljes\u00edtm\u00e9nyroml\u00e1s, \u00faj adatforr\u00e1s, \u00fczleti c\u00e9lv\u00e1ltoz\u00e1s, k\u00f6rnyezeti v\u00e1ltoz\u00e1s, megfelel\u0151s\u00e9gi k\u00f6vetelm\u00e9ny, incidens vagy felhaszn\u00e1l\u00f3i visszajelz\u00e9s indokolja? Az ok r\u00f6gz\u00edt\u00e9se az\u00e9rt fontos, mert meghat\u00e1rozza a sz\u00fcks\u00e9ges tesztel\u00e9s m\u00e9lys\u00e9g\u00e9t \u00e9s a j\u00f3v\u00e1hagy\u00e1si szerepl\u0151ket. Ha nincs vil\u00e1gos ok, akkor a v\u00e1ltoz\u00e1s c\u00e9lja sem ellen\u0151rizhet\u0151<\/strong>, \u00e9s a szervezet nem tudja meg\u00e1llap\u00edtani, sikeres volt-e a m\u00f3dos\u00edt\u00e1s.<\/p>\n\n\n\n A m\u00e1sodik l\u00e9p\u00e9s a v\u00e1ltoz\u00e1s hat\u00f3k\u00f6r\u00e9nek meghat\u00e1roz\u00e1sa. \u00c9rinti-e az adatokat, a modellt, a param\u00e9terez\u00e9st, az \u00fczleti szab\u00e1lyokat, a felhaszn\u00e1l\u00f3i fel\u00fcletet, a napl\u00f3z\u00e1st, az emberi fel\u00fclvizsg\u00e1latot vagy a besz\u00e1ll\u00edt\u00f3i kapcsolatot? Egyetlen modellfriss\u00edt\u00e9s t\u00f6bb kontrollter\u00fcletet is \u00e9rinthet. Ez\u00e9rt a modellv\u00e1ltoz\u00e1s hat\u00e1rai ritk\u00e1n esnek egybe a modellf\u00e1jllal<\/strong>, \u00e9s a kapcsol\u00f3d\u00f3 folyamatokat is vizsg\u00e1lni kell.<\/p>\n\n\n\n A harmadik l\u00e9p\u00e9s a kock\u00e1zati besorol\u00e1s. A szervezetnek el kell d\u00f6ntenie, hogy a v\u00e1ltoz\u00e1s alacsony, k\u00f6zepes vagy magas kontrollig\u00e9ny\u0171. A besorol\u00e1st befoly\u00e1solhatja az \u00e9rintettekre gyakorolt hat\u00e1s, az automatiz\u00e1lts\u00e1g szintje, a szem\u00e9lyes adatok haszn\u00e1lata, a d\u00f6nt\u00e9s k\u00f6vetkezm\u00e9nye, a kor\u00e1bbi incidensek t\u00f6rt\u00e9nete \u00e9s a modell \u00fczleti kritikalit\u00e1sa. Ilyenkor a kock\u00e1zati besorol\u00e1s szabja meg a kontrollm\u00e9lys\u00e9get<\/strong>, nem a fejleszt\u00e9s sebess\u00e9ge.<\/p>\n\n\n\n A gyakorlati ellen\u0151rz\u0151lista egy predikt\u00edv modellfriss\u00edt\u00e9shez a k\u00f6vetkez\u0151 pontokat tartalmazhatja:<\/p>\n\n\n\n V\u00e1ltoz\u00e1s oka \u00e9s c\u00e9lja<\/strong><\/p>\n\n\n\n Mi indokolja a friss\u00edt\u00e9st?<\/p>\n\n\n\n Milyen probl\u00e9m\u00e1t vagy fejleszt\u00e9si c\u00e9lt kezel?<\/p>\n\n\n\n Van-e kapcsol\u00f3d\u00f3 incidens, teljes\u00edtm\u00e9nyroml\u00e1s vagy \u00fczleti v\u00e1ltoz\u00e1s?<\/p>\n\n\n\n V\u00e1ltoz\u00e1s hat\u00f3k\u00f6re<\/strong><\/p>\n\n\n\n M\u00f3dosul-e az adatforr\u00e1s?<\/p>\n\n\n\n M\u00f3dosul-e a modellm\u00f3dszer vagy param\u00e9terez\u00e9s?<\/p>\n\n\n\n M\u00f3dosul-e a felhaszn\u00e1l\u00e1si c\u00e9l vagy felhaszn\u00e1l\u00f3i k\u00f6r?<\/p>\n\n\n\n \u00c9rintett-e adatv\u00e9delmi, inform\u00e1ci\u00f3biztons\u00e1gi vagy compliance kontroll?<\/p>\n\n\n\n Adat- \u00e9s tesztel\u00e9si felt\u00e9telek<\/strong><\/p>\n\n\n\n Elk\u00fcl\u00f6n\u00fcl-e a tan\u00edt\u00f3-, valid\u00e1ci\u00f3s \u00e9s tesztadat?<\/p>\n\n\n\n Dokument\u00e1lt-e az adatfriss\u00edt\u00e9s?<\/p>\n\n\n\n Vizsg\u00e1lt\u00e1k-e az adatmin\u0151s\u00e9gi v\u00e1ltoz\u00e1sokat?<\/p>\n\n\n\n Relev\u00e1ns-e a tesztadat az \u00e9les m\u0171k\u00f6d\u00e9shez?<\/p>\n\n\n\n Teljes\u00edtm\u00e9ny \u00e9s elfogad\u00e1si k\u00fcsz\u00f6b<\/strong><\/p>\n\n\n\n Mely mutat\u00f3kat kell teljes\u00edteni?<\/p>\n\n\n\n Van-e el\u0151re meghat\u00e1rozott elfogad\u00e1si krit\u00e9rium?<\/p>\n\n\n\n Vizsg\u00e1lt\u00e1k-e a kritikus hib\u00e1kat?<\/p>\n\n\n\n T\u00f6rt\u00e9nt-e \u00f6sszehasonl\u00edt\u00e1s az el\u0151z\u0151 modellverzi\u00f3val?<\/p>\n\n\n\n Kock\u00e1zati \u00e9s megfelel\u0151s\u00e9gi ellen\u0151rz\u00e9s<\/strong><\/p>\n\n\n\n Megv\u00e1ltozik-e az \u00e9rintetti hat\u00e1s?<\/p>\n\n\n\n Sz\u00fcks\u00e9ges-e adatv\u00e9delmi vagy jogi fel\u00fclvizsg\u00e1lat?<\/p>\n\n\n\n \u00c9rinti-e a v\u00e1ltoz\u00e1s az emberi fel\u00fcgyeletet?<\/p>\n\n\n\n V\u00e1ltozik-e a napl\u00f3z\u00e1s vagy meg\u0151rz\u00e9si szab\u00e1ly?<\/p>\n\n\n\n J\u00f3v\u00e1hagy\u00e1s \u00e9s \u00e9les\u00edt\u00e9s<\/strong><\/p>\n\n\n\n Ki a technikai j\u00f3v\u00e1hagy\u00f3?<\/p>\n\n\n\n Ki az \u00fczleti tulajdonos?<\/p>\n\n\n\n Ki d\u00f6nt az \u00e9les\u00edt\u00e9sr\u0151l?<\/p>\n\n\n\n Van-e visszag\u00f6rget\u00e9si terv?<\/p>\n\n\n\n Dokument\u00e1ci\u00f3 \u00e9s ut\u00f3k\u00f6vet\u00e9s<\/strong><\/p>\n\n\n\n Friss\u00fclt-e a modellle\u00edr\u00e1s?<\/p>\n\n\n\n Friss\u00fclt-e a v\u00e1ltoz\u00e1snapl\u00f3?<\/p>\n\n\n\n R\u00f6gz\u00edtett\u00e9k-e a teszteredm\u00e9nyeket?<\/p>\n\n\n\n Meghat\u00e1rozt\u00e1k-e az \u00e9les\u00edt\u00e9s ut\u00e1ni monitoringot?<\/p>\n\n\n\n Az ellen\u0151rz\u0151lista \u00e9rt\u00e9ke akkor jelenik meg, ha d\u00f6nt\u00e9shez vezet. Egy pont kipip\u00e1l\u00e1sa \u00f6nmag\u00e1ban nem elegend\u0151. Minden l\u00e9nyeges v\u00e1laszb\u00f3l k\u00f6vetkeznie kell valamilyen d\u00f6nt\u00e9snek: j\u00f3v\u00e1hagy\u00e1s, tov\u00e1bbi tesztel\u00e9s, kock\u00e1zatcs\u00f6kkent\u0151 int\u00e9zked\u00e9s, korl\u00e1tozott \u00e9les\u00edt\u00e9s vagy elutas\u00edt\u00e1s. Ez\u00e9rt az ellen\u0151rz\u0151lista d\u00f6nt\u00e9si eszk\u00f6z<\/strong>, nem adminisztrat\u00edv mell\u00e9klet.<\/p>\n\n\n\n A modellv\u00e1ltoz\u00e1s dokument\u00e1ci\u00f3j\u00e1t c\u00e9lszer\u0171 \u00fagy kialak\u00edtani, hogy t\u00f6bb szerepk\u00f6r is \u00e9rtse. A fejleszt\u0151knek sz\u00fcks\u00e9g\u00fck van technikai r\u00e9szletekre, az \u00fczleti tulajdonosnak d\u00f6nt\u00e9si k\u00f6vetkezm\u00e9nyekre, a compliance ter\u00fcletnek megfelel\u0151s\u00e9gi bizony\u00edt\u00e9kokra, az auditoroknak pedig visszak\u00f6vethet\u0151s\u00e9gre. A model card megk\u00f6zel\u00edt\u00e9s ebben az\u00e9rt hasznos, mert a modell c\u00e9lj\u00e1t, korl\u00e1tait \u00e9s teljes\u00edtm\u00e9nyjellemz\u0151it struktur\u00e1ltan teszi bemutathat\u00f3v\u00e1 (Mitchell et al., 2019). Egy AIMS-ben a modell dokument\u00e1ci\u00f3ja k\u00f6z\u00f6s nyelv<\/strong>, amely \u00f6sszek\u00f6ti a technikai \u00e9s ir\u00e1ny\u00edt\u00e1si szerepl\u0151ket.<\/p>\n\n\n\n A bizony\u00edt\u00e9kok kezel\u00e9se k\u00fcl\u00f6n figyelmet ig\u00e9nyel. Meg kell \u0151rizni a tesztterveket, teszteredm\u00e9nyeket, j\u00f3v\u00e1hagy\u00e1sokat, v\u00e1ltoz\u00e1snapl\u00f3kat, adatverzi\u00f3kat, konfigur\u00e1ci\u00f3kat, monitoringriportokat \u00e9s kiv\u00e9telkezel\u00e9si d\u00f6nt\u00e9seket. Ha egy k\u00e9s\u0151bbi audit vagy incidensvizsg\u00e1lat sor\u00e1n ezek hi\u00e1nyoznak, a szervezet nem tudja bizony\u00edtani, hogy a v\u00e1ltoz\u00e1st megfelel\u0151en kontroll\u00e1lta. Ilyenkor a hi\u00e1nyz\u00f3 bizony\u00edt\u00e9k kontrollhi\u00e1nyk\u00e9nt jelenik meg<\/strong>, m\u00e9g akkor is, ha a csapat t\u00e9nylegesen v\u00e9gzett tesztel\u00e9st.<\/p>\n\n\n\n A modellm\u00f3dos\u00edt\u00e1s j\u00f3v\u00e1hagy\u00e1sa nem felt\u00e9tlen\u00fcl egyetlen szem\u00e9ly feladata. A technikai felel\u0151s \u00e9rt\u00e9kelheti a modell teljes\u00edtm\u00e9ny\u00e9t, az \u00fczleti tulajdonos a felhaszn\u00e1l\u00e1si c\u00e9lhoz val\u00f3 alkalmass\u00e1got, az adatv\u00e9delmi vagy compliance szerepk\u00f6r a jogszer\u0171s\u00e9gi \u00e9s szab\u00e1lyoz\u00e1si szempontokat, az inform\u00e1ci\u00f3biztons\u00e1gi szerepk\u00f6r pedig az \u00fczemeltet\u00e9si \u00e9s hozz\u00e1f\u00e9r\u00e9si kock\u00e1zatokat. Ez\u00e9rt a j\u00f3v\u00e1hagy\u00e1s t\u00f6bbn\u00e9z\u0151pont\u00fa d\u00f6nt\u00e9s<\/strong>, nem csak fejleszt\u0151i st\u00e1tuszfriss\u00edt\u00e9s.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9si folyamatot \u00e9rdemes ar\u00e1nyos m\u0171k\u00f6d\u00e9sre tervezni. Nem minden modellm\u00f3dos\u00edt\u00e1s ig\u00e9nyel teljes vezet\u0151i bizotts\u00e1got, de minden l\u00e9nyeges v\u00e1ltoz\u00e1snak kell legyen felel\u0151se, tesztel\u00e9se, dokument\u00e1ci\u00f3ja \u00e9s j\u00f3v\u00e1hagy\u00e1sa. Az ar\u00e1nyoss\u00e1g azt jelenti, hogy a kontroll nem akad\u00e1lyozza feleslegesen az innov\u00e1ci\u00f3t, de nem is engedi gazd\u00e1tlanul a kock\u00e1zatos m\u00f3dos\u00edt\u00e1sokat. Ebben az \u00e9rtelemben az ar\u00e1nyos kontroll gyors\u00edtja a biztons\u00e1gos v\u00e1ltoz\u00e1st<\/strong>, mert el\u0151re tiszt\u00e1zza, mikor mi sz\u00fcks\u00e9ges.<\/p>\n\n\n\n A modellez\u00e9si gyakorlatok kontroll\u00e1l\u00e1sa v\u00e9gs\u0151 soron az AI-rendszer megb\u00edzhat\u00f3 m\u0171k\u00f6dtet\u00e9s\u00e9nek felt\u00e9tele. A modellfriss\u00edt\u00e9s, \u00fajratan\u00edt\u00e1s \u00e9s \u00e9les\u00edt\u00e9s akkor v\u00e1lik felel\u0151s szervezeti gyakorlatt\u00e1, ha a technikai v\u00e1ltoz\u00e1s m\u00f6g\u00f6tt vil\u00e1gos c\u00e9l, m\u00e9rhet\u0151 elfogad\u00e1si krit\u00e9rium, kock\u00e1zati \u00e9rt\u00e9kel\u00e9s, dokument\u00e1lt tesztel\u00e9s, kijel\u00f6lt j\u00f3v\u00e1hagy\u00e1s \u00e9s ut\u00f3k\u00f6vet\u00e9s \u00e1ll. A legfontosabb tanuls\u00e1g az, hogy az AI-modell nem csak akkor jelent kock\u00e1zatot, amikor hib\u00e1zik, hanem akkor is, amikor ellen\u0151rizetlen\u00fcl v\u00e1ltozik.<\/p>\n\n\n\n Amershi, S., Begel, A., Bird, C., DeLine, R., Gall, H., Kamar, E., Nagappan, N., Nushi, B., & Zimmermann, T. (2019). Software engineering for machine learning: A case study. 2019 IEEE\/ACM 41st International Conference on Software Engineering: Software Engineering in Practice (ICSE-SEIP)<\/em>, 291\u2013300. https:\/\/doi.org\/10.1109\/ICSE-SEIP.2019.00042<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj\/eng<\/p>\n\n\n\n International Organization for Standardization. (2023a). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n International Organization for Standardization. (2023b). ISO\/IEC 23894:2023: Information technology \u2014 Artificial intelligence \u2014 Guidance on risk management<\/em>. ISO. https:\/\/www.iso.org\/standard\/77304.html<\/p>\n\n\n\n Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model cards for model reporting. Proceedings of the Conference on Fairness, Accountability, and Transparency<\/em>, 220\u2013229. https:\/\/doi.org\/10.1145\/3287560.3287596<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\nTeljes\u00edtm\u00e9nyk\u00fcsz\u00f6b\u00f6k \u00e9s elfogad\u00e1si krit\u00e9riumok<\/h2>\n\n\n\n
\u00dajratan\u00edt\u00e1s, verzi\u00f3kezel\u00e9s \u00e9s v\u00e1ltoz\u00e1snapl\u00f3<\/h2>\n\n\n\n
Modellv\u00e1ltoz\u00e1s-kezel\u00e9si ellen\u0151rz\u0151lista<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n