Egy AI-rendszer kimenete gyakran pontosnak l\u00e1tszik, mert sz\u00e1mszer\u0171, gyors \u00e9s k\u00f6vetkezetes form\u00e1ban jelenik meg. A szervezeti kock\u00e1zat m\u00e9gis sokszor nem a modelln\u00e9l kezd\u0151dik, hanem j\u00f3val kor\u00e1bban: ott, ahol eld\u0151l, milyen adatb\u00f3l tanul, milyen adatot kap m\u0171k\u00f6d\u00e9s k\u00f6zben, mit t\u00e1rol, \u00e9s mit ad tov\u00e1bb.<\/p>\n\n\n\n
Az adatkezel\u00e9s \u00e9s az adatmin\u0151s\u00e9g ez\u00e9rt nem technikai h\u00e1tt\u00e9rfeladat, hanem az AI ir\u00e1ny\u00edt\u00e1si rendszer egyik k\u00f6zponti ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9se. Egy szervezet csak akkor tud felel\u0151sen AI-t haszn\u00e1lni, ha az adatok eredete, jogszer\u0171s\u00e9ge, pontoss\u00e1ga, reprezentativit\u00e1sa, v\u00e9delme \u00e9s felhaszn\u00e1l\u00e1si korl\u00e1tai ellen\u0151rizhet\u0151ek. Az ISO\/IEC 42001 logik\u00e1ja szerint az AI ir\u00e1ny\u00edt\u00e1sa nem egyetlen modell j\u00f3v\u00e1hagy\u00e1s\u00e1t jelenti, hanem a c\u00e9lok, felel\u0151ss\u00e9gek, folyamatok, kock\u00e1zatok \u00e9s bizony\u00edt\u00e9kok rendszeres kezel\u00e9s\u00e9t.<\/p>\n\n\n\n
Az AI-rendszerek m\u0171k\u00f6d\u00e9s\u00e9t k\u00f6nny\u0171 kiz\u00e1r\u00f3lag modellk\u00e9rd\u00e9sk\u00e9nt kezelni. A gyakorlatban azonban a modell csak egy r\u00e9sze annak a d\u00f6nt\u00e9si l\u00e1ncnak, amelyben \u00fczleti c\u00e9lok, folyamatok, adatok, felhaszn\u00e1l\u00f3k, kontrollok \u00e9s felel\u0151ss\u00e9gi pontok kapcsol\u00f3dnak \u00f6ssze. Ebben a l\u00e1ncban az adat nem bemenet, hanem ir\u00e1ny\u00edt\u00e1si kock\u00e1zat<\/strong>, mert a hib\u00e1s adat hib\u00e1s m\u0171k\u00f6d\u00e9shez, hib\u00e1s d\u00f6nt\u00e9st\u00e1mogat\u00e1shoz \u00e9s gyenge audit\u00e1lhat\u00f3s\u00e1ghoz vezethet.<\/p>\n\n\n\n Egy AI-rendszer teljes\u00edtm\u00e9nye jelent\u0151s r\u00e9szben att\u00f3l f\u00fcgg, milyen adatb\u00f3l tanul, milyen adatot haszn\u00e1l m\u0171k\u00f6d\u00e9s k\u00f6zben, milyen adatot t\u00e1rol, \u00e9s milyen adatot tov\u00e1bb\u00edt m\u00e1s folyamatoknak. Ha az adat hi\u00e1nyos, elavult, torz vagy nem a megfelel\u0151 c\u00e9lra gy\u0171lt, a modell kimenete akkor is f\u00e9lrevezet\u0151 lehet, ha technikailag j\u00f3l \u00e9p\u00edtett\u00e9k meg. Ilyenkor a j\u00f3 modell sem jav\u00edtja meg a rossz adatot<\/strong>, legfeljebb gyorsabban \u00e9s k\u00f6vetkezetesebben termeli \u00fajra annak hib\u00e1it.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer szempontj\u00e1b\u00f3l ez\u00e9rt az adatkezel\u00e9s nem sz\u0171k adatv\u00e9delmi vagy informatikai feladat. Ide tartozik az adatforr\u00e1sok azonos\u00edt\u00e1sa, az adathaszn\u00e1lati c\u00e9l tiszt\u00e1z\u00e1sa, a jogszer\u0171s\u00e9g vizsg\u00e1lata, a min\u0151s\u00e9gi krit\u00e9riumok meghat\u00e1roz\u00e1sa, az adatv\u00e9delem, az adatbiztons\u00e1g \u00e9s a m\u0171k\u00f6d\u00e9si monitoring. A NIST AI Risk Management Framework is az AI-kock\u00e1zatok szervezeti kezel\u00e9s\u00e9t, m\u00e9r\u00e9s\u00e9t, ir\u00e1ny\u00edt\u00e1s\u00e1t \u00e9s kommunik\u00e1ci\u00f3j\u00e1t hangs\u00falyozza, nem puszt\u00e1n a technikai modellfejleszt\u00e9st.<\/p>\n\n\n\n Az adatmin\u0151s\u00e9gi hiba t\u00f6bbf\u00e9le k\u00f6vetkezm\u00e9nnyel j\u00e1rhat. Egy \u00fcgyf\u00e9lpanasz-elemz\u0151 rendszer p\u00e9ld\u00e1ul rosszul csoportos\u00edthatja a panaszokat, ha a m\u00faltbeli kateg\u00f3ri\u00e1k k\u00f6vetkezetlenek voltak. Egy HR-el\u0151sz\u0171r\u0151 torz rangsort k\u00e9sz\u00edthet, ha a kor\u00e1bbi kiv\u00e1laszt\u00e1si adatok eleve egyenl\u0151tlen mint\u00e1zatokat hordoznak. Egy csal\u00e1sfelder\u00edt\u0151 rendszer t\u00fal sok hamis riaszt\u00e1st adhat, ha a m\u0171k\u00f6d\u00e9si k\u00f6rnyezet megv\u00e1ltozott, de a modellhez kapcsol\u00f3d\u00f3 adatfriss\u00edt\u00e9si kontrollok nem k\u00f6vett\u00e9k ezt.<\/p>\n\n\n\n A szervezeti felel\u0151ss\u00e9g ott jelenik meg, hogy a d\u00f6nt\u00e9shoz\u00f3k nem hivatkozhatnak puszt\u00e1n arra: \u201eezt adta a rendszer\u201d. Egy AI-kimenet haszn\u00e1lata mindig szervezeti d\u00f6nt\u00e9s is. A kontroll\u00e1lt m\u0171k\u00f6d\u00e9sben az adatmin\u0151s\u00e9g a d\u00f6nt\u00e9si bizony\u00edt\u00e9k r\u00e9sze<\/strong>, vagyis nemcsak azt kell tudni, mit mondott a modell, hanem azt is, milyen adat alapj\u00e1n mondta.<\/p>\n\n\n\n Az adatir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9sek k\u00fcl\u00f6n\u00f6sen fontoss\u00e1 v\u00e1lnak, amikor az AI-rendszer emberek jogaira, lehet\u0151s\u00e9geire, szolg\u00e1ltat\u00e1shoz val\u00f3 hozz\u00e1f\u00e9r\u00e9s\u00e9re vagy szervezeti meg\u00edt\u00e9l\u00e9s\u00e9re hat. Ilyen helyzetekben az adatmin\u0151s\u00e9g m\u00e1r nem bels\u0151 hat\u00e9konys\u00e1gi k\u00e9rd\u00e9s, hanem megfelel\u0151s\u00e9gi, etikai \u00e9s reput\u00e1ci\u00f3s kock\u00e1zat. Ha az adat nem megfelel\u0151, a kimenet nemcsak pontatlan lehet, hanem m\u00e9lt\u00e1nytalan vagy jogilag probl\u00e9m\u00e1s is.<\/p>\n\n\n\n Az AIMS c\u00e9lja ebben a k\u00f6rnyezetben az, hogy az adatkezel\u00e9si \u00e9s adatmin\u0151s\u00e9gi k\u00e9rd\u00e9sek ne esetleges fejleszt\u0151i megjegyz\u00e9sek maradjanak. A szervezetnek szab\u00e1lyoznia kell, milyen bizony\u00edt\u00e9k sz\u00fcks\u00e9ges az adatok elfogad\u00e1s\u00e1hoz, ki hagyja j\u00f3v\u00e1 az adatforr\u00e1st, mikor kell \u00fajra\u00e9rt\u00e9kelni az adatmin\u0151s\u00e9get, \u00e9s hogyan kell kezelni az adatb\u00f3l fakad\u00f3 incidenseket. Ebben az adatkontroll a felel\u0151s AI-haszn\u00e1lat alapr\u00e9tege<\/strong>, amely n\u00e9lk\u00fcl a modellkontroll is bizonytalan marad.<\/p>\n\n\n\n Az adatir\u00e1ny\u00edt\u00e1s teh\u00e1t nem lass\u00edtja az AI alkalmaz\u00e1s\u00e1t, hanem megb\u00edzhat\u00f3bb\u00e1 teszi. A szervezet sz\u00e1m\u00e1ra az a k\u00e9rd\u00e9s nemcsak az, hogy milyen AI-eszk\u00f6zt \u00e9rdemes haszn\u00e1lni, hanem az is, hogy az eszk\u00f6z milyen adatviszonyok k\u00f6z\u00f6tt haszn\u00e1lhat\u00f3 felel\u0151sen. Ez a gondolkod\u00e1s teremti meg az alapot a kock\u00e1zat\u00e9rt\u00e9kel\u00e9shez, a kontrollkiv\u00e1laszt\u00e1shoz \u00e9s az audit\u00e1lhat\u00f3s\u00e1ghoz.<\/p>\n\n\n\n Az AI-rendszerek adatkezel\u00e9si kock\u00e1zatait csak akkor lehet pontosan \u00e9rt\u00e9kelni, ha k\u00fcl\u00f6nbs\u00e9get tesz\u00fcnk az adatok szerepei k\u00f6z\u00f6tt. A tan\u00edt\u00f3adat, a valid\u00e1ci\u00f3s adat \u00e9s a m\u0171k\u00f6d\u00e9si adat nem ugyanazt a c\u00e9lt szolg\u00e1lja. Egy szervezetnek ez\u00e9rt az adat szerepe hat\u00e1rozza meg a kontrollt<\/strong>, nem puszt\u00e1n az adat t\u00edpusa vagy form\u00e1tuma.<\/p>\n\n\n\n A tan\u00edt\u00f3adat az a t\u00f6rt\u00e9neti vagy el\u0151k\u00e9sz\u00edtett adat\u00e1llom\u00e1ny, amelyb\u0151l a modell mint\u00e1zatokat tanul. Ha ez az adat pontatlan, egyoldal\u00fa, hi\u00e1nyos vagy rosszul c\u00edmk\u00e9zett, akkor a modell m\u00e1r a tanul\u00e1si szakaszban hib\u00e1s \u00f6sszef\u00fcgg\u00e9seket vehet \u00e1t. Ez k\u00fcl\u00f6n\u00f6sen fontos olyan rendszerekn\u00e9l, amelyek \u00fcgyfeleket, panaszokat, munkav\u00e1llal\u00f3kat, kock\u00e1zatokat vagy dokumentumokat oszt\u00e1lyoznak.<\/p>\n\n\n\n A valid\u00e1ci\u00f3s \u00e9s tesztadat c\u00e9lja m\u00e1s. Ezek az adatok azt szolg\u00e1lj\u00e1k, hogy a szervezet ellen\u0151rizze: a modell nemcsak a tan\u00edt\u00f3adatokra m\u0171k\u00f6dik j\u00f3l, hanem \u00faj, kor\u00e1bban nem l\u00e1tott adatokon is elfogadhat\u00f3 teljes\u00edtm\u00e9nyt mutat. Itt a valid\u00e1ci\u00f3 nem formalit\u00e1s, hanem kock\u00e1zati pr\u00f3ba<\/strong>, mert seg\u00edt felismerni a t\u00falilleszt\u00e9st, a gyenge \u00e1ltal\u00e1nos\u00edthat\u00f3s\u00e1got \u00e9s a rejtett hibamint\u00e1kat.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9si adat az, amellyel a modell \u00e9les k\u00f6rnyezetben tal\u00e1lkozik. Ez lehet aktu\u00e1lis \u00fcgyf\u00e9l\u00fczenet, panaszle\u00edr\u00e1s, tranzakci\u00f3s adat, dokumentum, k\u00e9r\u00e9s vagy bels\u0151 folyamatadat. A m\u0171k\u00f6d\u00e9si adat min\u0151s\u00e9ge id\u0151vel v\u00e1ltozhat, mert v\u00e1ltozik az \u00fcgyf\u00e9lviselked\u00e9s, a term\u00e9kk\u00f6r, a piaci k\u00f6rnyezet, a bels\u0151 folyamat vagy a kommunik\u00e1ci\u00f3s csatorna. Ez\u00e9rt a m\u0171k\u00f6d\u00e9si adat nem egyszeri ellen\u0151rz\u00e9st, hanem folyamatos figyelmet ig\u00e9nyel.<\/p>\n\n\n\n A h\u00e1rom adatfajta elt\u00e9r\u0151 k\u00e9rd\u00e9seket vet fel:<\/p>\n\n\n\n Adatt\u00edpus<\/p>\n\n\n\n F\u0151 c\u00e9l<\/p>\n\n\n\n Tipikus kock\u00e1zat<\/p>\n\n\n\n Sz\u00fcks\u00e9ges bizony\u00edt\u00e9k<\/p>\n\n\n\n Tan\u00edt\u00f3adat<\/p>\n\n\n\n Mint\u00e1zatok megtanul\u00e1sa<\/p>\n\n\n\n torz\u00edt\u00e1s, hib\u00e1s c\u00edmk\u00e9z\u00e9s, hi\u00e1nyoss\u00e1g<\/p>\n\n\n\n adatforr\u00e1s-le\u00edr\u00e1s, c\u00edmk\u00e9z\u00e9si szab\u00e1ly, min\u0151s\u00e9gi vizsg\u00e1lat<\/p>\n\n\n\n Valid\u00e1ci\u00f3s adat<\/p>\n\n\n\n Teljes\u00edtm\u00e9ny ellen\u0151rz\u00e9se<\/p>\n\n\n\n t\u00fal sz\u0171k tesztel\u00e9s, nem reprezentat\u00edv minta<\/p>\n\n\n\n valid\u00e1l\u00e1si terv, teszteredm\u00e9ny, hibaminta-elemz\u00e9s<\/p>\n\n\n\n M\u0171k\u00f6d\u00e9si adat<\/p>\n\n\n\n \u00c9les haszn\u00e1lat<\/p>\n\n\n\n adatdrift, elavul\u00e1s, hib\u00e1s bevitel<\/p>\n\n\n\n monitoring, napl\u00f3z\u00e1s, \u00fajra\u00e9rt\u00e9kel\u00e9si szab\u00e1ly<\/p>\n\n\n\n T\u00e1rolt adat<\/p>\n\n\n\n Visszakereshet\u0151s\u00e9g \u00e9s tanul\u00e1s<\/p>\n\n\n\n t\u00falzott meg\u0151rz\u00e9s, pontatlans\u00e1g, jogosulatlan hozz\u00e1f\u00e9r\u00e9s<\/p>\n\n\n\n meg\u0151rz\u00e9si szab\u00e1ly, hozz\u00e1f\u00e9r\u00e9skezel\u00e9s, t\u00f6rl\u00e9si rend<\/p>\n\n\n\n Tov\u00e1bb\u00edtott adat<\/p>\n\n\n\n Integr\u00e1ci\u00f3 m\u00e1s folyamatokkal<\/p>\n\n\n\n c\u00e9lon t\u00fali haszn\u00e1lat, kontextusveszt\u00e9s<\/p>\n\n\n\n adat\u00e1raml\u00e1si t\u00e9rk\u00e9p, \u00e1tad\u00e1si szab\u00e1ly, felel\u0151ss\u00e9gi pont<\/p>\n\n\n\n Az adatmin\u0151s\u00e9gi szabv\u00e1nyos\u00edt\u00e1s is ezt az ir\u00e1nyt er\u0151s\u00edti. Az ISO\/IEC 5259-2 a g\u00e9pi tanul\u00e1si \u00e9s analitikai k\u00f6rnyezetekben alkalmazhat\u00f3 adatmin\u0151s\u00e9gi modellre \u00e9s m\u00e9rhet\u0151 jellemz\u0151kre f\u00f3kusz\u00e1l, ami seg\u00edti az adatok megb\u00edzhat\u00f3s\u00e1g\u00e1nak \u00e9s alkalmass\u00e1g\u00e1nak szervezeti \u00e9rt\u00e9kel\u00e9s\u00e9t.<\/p>\n\n\n\n A tan\u00edt\u00f3adatokn\u00e1l az egyik f\u0151 k\u00e9rd\u00e9s az eredet. Tudni kell, honnan sz\u00e1rmazik az adat, milyen folyamatb\u00f3l keletkezett, milyen id\u0151szakot fed le, milyen c\u00e9lra gy\u0171jt\u00f6tt\u00e9k, \u00e9s milyen korl\u00e1tokkal haszn\u00e1lhat\u00f3. Ha ezek nem tiszt\u00e1zottak, az adatforr\u00e1s ismeretlens\u00e9ge modellkock\u00e1zatt\u00e1 v\u00e1lik<\/strong>, mert a szervezet nem tudja meg\u00edt\u00e9lni, mire alkalmas az adat.<\/p>\n\n\n\n A valid\u00e1ci\u00f3s adatokn\u00e1l a reprezentativit\u00e1s ker\u00fcl el\u0151t\u00e9rbe. Nem elegend\u0151 a modell \u00e1tlagos pontoss\u00e1g\u00e1t m\u00e9rni, ha bizonyos \u00fcgyf\u00e9lcsoportokn\u00e1l, dokumentumt\u00edpusokn\u00e1l vagy panaszt\u00e9m\u00e1kn\u00e1l sokkal rosszabbul teljes\u00edt. Az AI-kock\u00e1zat gyakran nem az \u00e1tlagban, hanem a kiv\u00e9telekben, peremhelyzetekben \u00e9s alulreprezent\u00e1lt esetekben mutatkozik meg.<\/p>\n\n\n\n A m\u0171k\u00f6d\u00e9si adatok eset\u00e9ben a legnagyobb kih\u00edv\u00e1s a v\u00e1ltoz\u00e1s. Egy panaszkezel\u0151 rendszer p\u00e9ld\u00e1ul \u00faj term\u00e9kek, \u00faj \u00fcgyf\u00e9lcsatorn\u00e1k vagy \u00faj panaszt\u00edpusok megjelen\u00e9se ut\u00e1n m\u00e1s adatokkal tal\u00e1lkozhat, mint amelyekre eredetileg felk\u00e9sz\u00edtett\u00e9k. Ilyenkor az \u00e9les adat v\u00e1ltoz\u00e1sa \u00faj kock\u00e1zatot teremt<\/strong>, \u00e9s ezt monitoringgal, \u00fajratesztel\u00e9ssel vagy kontrollm\u00f3dos\u00edt\u00e1ssal kell kezelni.<\/p>\n\n\n\n A szervezetnek ez\u00e9rt nem el\u00e9g egyszer felsorolnia az adatforr\u00e1sokat. Adat\u00e9letciklusban kell gondolkodnia: gy\u0171jt\u00e9s, el\u0151k\u00e9sz\u00edt\u00e9s, c\u00edmk\u00e9z\u00e9s, tan\u00edt\u00e1s, valid\u00e1l\u00e1s, \u00e9les haszn\u00e1lat, t\u00e1rol\u00e1s, tov\u00e1bb\u00edt\u00e1s, t\u00f6rl\u00e9s \u00e9s \u00fajrahaszn\u00e1lat. Az AI ir\u00e1ny\u00edt\u00e1si rendszer akkor m\u0171k\u00f6dik felel\u0151sen, ha ezekhez a pontokhoz felel\u0151st, kontrollt \u00e9s bizony\u00edt\u00e9kot rendel.<\/p>\n\n\n\n Az adatmin\u0151s\u00e9g t\u00f6bbdimenzi\u00f3s k\u00e9rd\u00e9s. Nem el\u00e9g azt mondani, hogy az adat \u201ej\u00f3\u201d vagy \u201erossz\u201d. A szervezetnek k\u00fcl\u00f6n kell vizsg\u00e1lnia a pontoss\u00e1got, teljess\u00e9get, k\u00f6vetkezetess\u00e9get, id\u0151szer\u0171s\u00e9get, reprezentativit\u00e1st, relevanci\u00e1t, nyomon k\u00f6vethet\u0151s\u00e9get \u00e9s v\u00e9delmet. Ebben az adatmin\u0151s\u00e9g nem egyetlen mutat\u00f3<\/strong>, hanem egym\u00e1ssal \u00f6sszef\u00fcgg\u0151 \u00e9rt\u00e9kel\u00e9si szempontok rendszere.<\/p>\n\n\n\n A pontoss\u00e1g azt jelenti, hogy az adat megfelel-e a val\u00f3s\u00e1gnak vagy a szervezeti nyilv\u00e1ntart\u00e1s elfogadott \u00e1llapot\u00e1nak. Egy \u00fcgyf\u00e9lpanasz-elemz\u0151 rendszerben p\u00e9ld\u00e1ul fontos, hogy a panasz d\u00e1tuma, csatorn\u00e1ja, t\u00e9m\u00e1ja \u00e9s st\u00e1tusza helyes legyen. Ha ezek hib\u00e1sak, a modell rosszul tanulhatja meg, mely panaszok s\u00fcrg\u0151sek, melyek ism\u00e9tl\u0151d\u0151k, \u00e9s melyek ig\u00e9nyelnek vezet\u0151i figyelmet.<\/p>\n\n\n\n A teljess\u00e9g azt mutatja meg, hogy hi\u00e1nyoznak-e l\u00e9nyeges adatelemek. Ha a panaszok egy r\u00e9sz\u00e9n\u00e9l nincs lez\u00e1r\u00e1si ok, \u00fcgyf\u00e9lkateg\u00f3ria vagy term\u00e9kt\u00edpus, a modell k\u00f6vetkeztet\u00e9se torzulhat. Ilyenkor a hi\u00e1nyz\u00f3 adat is d\u00f6nt\u00e9si inform\u00e1ci\u00f3v\u00e1 v\u00e1lik<\/strong>, mert a modell vagy a felhaszn\u00e1l\u00f3 k\u00e9nytelen valamilyen m\u00f3don kezelni a hi\u00e1nyt.<\/p>\n\n\n\n A k\u00f6vetkezetess\u00e9g a szervezeti adathaszn\u00e1lat egyik legfontosabb felt\u00e9tele. Ha ugyanazt a panaszt\u00edpust t\u00f6bb oszt\u00e1ly elt\u00e9r\u0151en c\u00edmk\u00e9zi, vagy ha a kateg\u00f3ri\u00e1k id\u0151vel jelent\u00e9sv\u00e1ltoz\u00e1son mennek \u00e1t, a tan\u00edt\u00f3adat bizonytalann\u00e1 v\u00e1lik. A modell ilyenkor nem felt\u00e9tlen\u00fcl a val\u00f3s panaszlogik\u00e1t tanulja meg, hanem a szervezet m\u00faltbeli k\u00f6vetkezetlens\u00e9g\u00e9t.<\/p>\n\n\n\n Az id\u0151szer\u0171s\u00e9g k\u00fcl\u00f6n\u00f6sen fontos olyan rendszerekn\u00e9l, ahol az \u00fczleti k\u00f6rnyezet gyorsan v\u00e1ltozik. Egy r\u00e9gi \u00fcgyf\u00e9lpanasz-adatb\u00e1zis nem felt\u00e9tlen\u00fcl t\u00fckr\u00f6zi az aktu\u00e1lis term\u00e9keket, csatorn\u00e1kat, szab\u00e1lyokat vagy \u00fcgyf\u00e9lelv\u00e1r\u00e1sokat. Ebben az elavult adat m\u00faltbeli szervezetet tan\u00edt<\/strong>, mik\u00f6zben a modellnek jelenlegi d\u00f6nt\u00e9seket kellene t\u00e1mogatnia.<\/p>\n\n\n\n A reprezentativit\u00e1s arra utal, hogy az adat megfelel\u0151en lefedi-e azt a m\u0171k\u00f6d\u00e9si k\u00f6rnyezetet, amelyben a modellt haszn\u00e1lni fogj\u00e1k. Ha egy AI-rendszert t\u00f6bb orsz\u00e1gban, t\u00f6bb \u00fczlet\u00e1gban vagy t\u00f6bb \u00fcgyf\u00e9lt\u00edpusra alkalmaznak, akkor a sz\u0171k, egyoldal\u00fa tan\u00edt\u00f3adat komoly kock\u00e1zat. A gyenge reprezentativit\u00e1s torz kimenethez, alulkezelt \u00e9rintetti k\u00e1rhoz \u00e9s rossz \u00fczleti d\u00f6nt\u00e9shez vezethet.<\/p>\n\n\n\n Az adatmin\u0151s\u00e9gi probl\u00e9m\u00e1k gyakran l\u00e1ncszer\u0171en terjednek tov\u00e1bb. Sambasivan \u00e9s munkat\u00e1rsai \u201edata cascades\u201d fogalma arra mutat r\u00e1, hogy a korai adatprobl\u00e9m\u00e1k \u00f6sszetett, k\u00e9s\u0151bbi hibasorozatokat id\u00e9zhetnek el\u0151 nagy hat\u00e1s\u00fa AI-rendszerekben. Ez a szervezeti gyakorlatban azt jelenti, hogy egy apr\u00f3nak t\u0171n\u0151 c\u00edmk\u00e9z\u00e9si, gy\u0171jt\u00e9si vagy dokument\u00e1ci\u00f3s hiba k\u00e9s\u0151bb modellhib\u00e1v\u00e1, d\u00f6nt\u00e9si hib\u00e1v\u00e1 \u00e9s bizalmi probl\u00e9m\u00e1v\u00e1 n\u0151het.<\/p>\n\n\n\n A hib\u00e1s adatb\u00f3l fakad\u00f3 modellkock\u00e1zatok t\u00f6bb form\u00e1ban jelenhetnek meg:<\/p>\n\n\n\n t\u00e9ves vagy bizonytalan kimenet;<\/p>\n\n\n\n t\u00falzott hamis pozit\u00edv vagy hamis negat\u00edv ar\u00e1ny;<\/p>\n\n\n\n egyes csoportokat h\u00e1tr\u00e1nyosan \u00e9rint\u0151 torz\u00edt\u00e1s;<\/p>\n\n\n\n gyenge \u00e1ltal\u00e1nos\u00edthat\u00f3s\u00e1g \u00faj helyzetekben;<\/p>\n\n\n\n rossz \u00fczleti prioriz\u00e1l\u00e1s;<\/p>\n\n\n\n jogs\u00e9rt\u0151 vagy c\u00e9lon t\u00fali adatfelhaszn\u00e1l\u00e1s;<\/p>\n\n\n\n panaszkezel\u00e9si vagy reput\u00e1ci\u00f3s probl\u00e9ma;<\/p>\n\n\n\n audit\u00e1lhatatlan d\u00f6nt\u00e9si folyamat.<\/p>\n\n\n\n A lista az\u00e9rt fontos, mert az adatmin\u0151s\u00e9gi kock\u00e1zat nem marad az adatgazd\u00e1kn\u00e1l. Hat\u00e1ssal van a felhaszn\u00e1l\u00f3kra, \u00fcgyfelekre, vezet\u0151i d\u00f6nt\u00e9sekre, megfelel\u0151s\u00e9gi vizsg\u00e1latokra \u00e9s a szervezetbe vetett bizalomra. Ilyenkor az adatmin\u0151s\u00e9gi hiba szervezeti hat\u00e1ss\u00e1 alakul<\/strong>, \u00e9s nem kezelhet\u0151 puszt\u00e1n adatjav\u00edt\u00e1si feladatk\u00e9nt.<\/p>\n\n\n\n Az adatmin\u0151s\u00e9gi kontrollnak ez\u00e9rt megel\u0151z\u0151 \u00e9s \u00e9szlel\u0151 elemeket is tartalmaznia kell. Megel\u0151z\u0151 kontroll lehet az adatforr\u00e1s j\u00f3v\u00e1hagy\u00e1sa, az adats\u00e9ma tiszt\u00e1z\u00e1sa, a c\u00edmk\u00e9z\u00e9si szab\u00e1lyok dokument\u00e1l\u00e1sa vagy az adatmin\u0151s\u00e9gi k\u00fcsz\u00f6b\u00e9rt\u00e9kek meghat\u00e1roz\u00e1sa. \u00c9szlel\u0151 kontroll lehet a hibaar\u00e1ny figyel\u00e9se, a kimenetek mintav\u00e9teles ellen\u0151rz\u00e9se, a driftmonitoring vagy az incidensek rendszeres elemz\u00e9se.<\/p>\n\n\n\n A kock\u00e1zati rangsorol\u00e1sn\u00e1l nem minden adatmin\u0151s\u00e9gi hiba azonos s\u00faly\u00fa. Egy bels\u0151 riport c\u00edmk\u00e9z\u00e9si hib\u00e1ja kisebb kock\u00e1zatot jelenthet, mint egy olyan \u00fcgyf\u00e9lmin\u0151s\u00edt\u00e9si hiba, amely szolg\u00e1ltat\u00e1shoz val\u00f3 hozz\u00e1f\u00e9r\u00e9st befoly\u00e1sol. A szervezetnek ez\u00e9rt az adatmin\u0151s\u00e9gi hib\u00e1t mindig az AI-haszn\u00e1lati eset d\u00f6nt\u00e9si hat\u00e1s\u00e1val egy\u00fctt kell \u00e9rt\u00e9kelnie.<\/p>\n\n\n\n Az adatmin\u0151s\u00e9g \u00f6nmag\u00e1ban nem el\u00e9g, ha az adatkezel\u00e9s jogszer\u0171s\u00e9ge nem tiszt\u00e1zott. Egy adat lehet pontos, teljes \u00e9s technikailag kiv\u00e1l\u00f3an haszn\u00e1lhat\u00f3, de ett\u0151l m\u00e9g nem biztos, hogy az adott AI-c\u00e9lra jogszer\u0171en felhaszn\u00e1lhat\u00f3. Szervezeti szinten a haszn\u00e1lhat\u00f3s\u00e1g nem azonos a jogszer\u0171s\u00e9ggel<\/strong>, ez\u00e9rt az adatkezel\u00e9si vizsg\u00e1latot nem lehet kihagyni.<\/p>\n\n\n\n A GDPR alapelvei k\u00f6z\u00f6tt szerepel a jogszer\u0171s\u00e9g, tisztess\u00e9gess\u00e9g, \u00e1tl\u00e1that\u00f3s\u00e1g, c\u00e9lhoz k\u00f6t\u00f6tts\u00e9g, adattakar\u00e9koss\u00e1g, pontoss\u00e1g, korl\u00e1tozott t\u00e1rolhat\u00f3s\u00e1g, integrit\u00e1s \u00e9s bizalmas jelleg. AI-rendszerekn\u00e9l ezek a szempontok k\u00fcl\u00f6n\u00f6sen fontosak, mert a szem\u00e9lyes adatok tan\u00edt\u00e1si, valid\u00e1l\u00e1si \u00e9s m\u0171k\u00f6d\u00e9si c\u00e9l\u00fa felhaszn\u00e1l\u00e1sa k\u00f6nnyen t\u00f6bb folyamatot \u00e9s t\u00f6bb szerepl\u0151t \u00e9rinthet.<\/p>\n\n\n\n Az els\u0151 adatv\u00e9delmi k\u00e9rd\u00e9s az, hogy az AI-rendszer kezel-e szem\u00e9lyes adatot. Ha igen, tiszt\u00e1zni kell a jogalapot, az adatkezel\u00e9si c\u00e9lt, az \u00e9rintetti t\u00e1j\u00e9koztat\u00e1st, az adattov\u00e1bb\u00edt\u00e1st, a meg\u0151rz\u00e9si id\u0151t \u00e9s az \u00e9rintetti jogok gyakorl\u00e1s\u00e1nak m\u00f3dj\u00e1t. Ez nemcsak jogi dokument\u00e1ci\u00f3s feladat, mert ezek a d\u00f6nt\u00e9sek meghat\u00e1rozz\u00e1k az AI-rendszer megengedett m\u0171k\u00f6d\u00e9si hat\u00e1rait.<\/p>\n\n\n\n A c\u00e9lhoz k\u00f6t\u00f6tts\u00e9g AI-k\u00f6rnyezetben k\u00fcl\u00f6n\u00f6sen \u00e9rz\u00e9keny. Egy adatot lehet, hogy eredetileg \u00fcgyf\u00e9lkezel\u00e9sre vagy panasznyilv\u00e1ntart\u00e1sra gy\u0171jt\u00f6ttek, de nem biztos, hogy automatikusan felhaszn\u00e1lhat\u00f3 modellk\u00e9pz\u00e9sre vagy \u00faj d\u00f6nt\u00e9st\u00e1mogat\u00f3 c\u00e9lra. Ebben az \u00faj AI-c\u00e9l \u00faj jogszer\u0171s\u00e9gi vizsg\u00e1latot ig\u00e9nyel<\/strong>, m\u00e9g akkor is, ha az adat m\u00e1r a szervezet birtok\u00e1ban van.<\/p>\n\n\n\n Az adattakar\u00e9koss\u00e1g szint\u00e9n gyakorlati kontrollt ig\u00e9nyel. AI-fejleszt\u00e9sn\u00e9l gyakori k\u00eds\u00e9rt\u00e9s, hogy \u201emin\u00e9l t\u00f6bb adat, ann\u00e1l jobb modell\u201d. Ez a gondolat kock\u00e1zatos, mert a t\u00fal sok, c\u00e9lhoz nem sz\u00fcks\u00e9ges adat n\u00f6veli a jogi, biztons\u00e1gi \u00e9s etikai kitetts\u00e9get. Az AI ir\u00e1ny\u00edt\u00e1si rendszernek azt kell t\u00e1mogatnia, hogy a szervezet csak olyan adatot haszn\u00e1ljon, amely a c\u00e9lhoz ar\u00e1nyosan sz\u00fcks\u00e9ges \u00e9s indokolhat\u00f3.<\/p>\n\n\n\n Az EU AI Act a magas kock\u00e1zat\u00fa AI-rendszerek eset\u00e9ben k\u00fcl\u00f6n is hangs\u00falyozza az adatok \u00e9s adatir\u00e1ny\u00edt\u00e1s jelent\u0151s\u00e9g\u00e9t, bele\u00e9rtve a tan\u00edt\u00f3-, valid\u00e1ci\u00f3s \u00e9s tesztadatok min\u0151s\u00e9g\u00e9t, relevanci\u00e1j\u00e1t, reprezentativit\u00e1s\u00e1t, hib\u00e1inak \u00e9s hi\u00e1nyoss\u00e1gainak kezel\u00e9s\u00e9t. Ez a kock\u00e1zatalap\u00fa logika szorosan kapcsol\u00f3dik az AIMS m\u0171k\u00f6d\u00e9s\u00e9hez, mert a jogi k\u00f6vetelm\u00e9nyek csak akkor v\u00e1lnak kezelhet\u0151v\u00e9, ha szervezeti kontrollokhoz \u00e9s bizony\u00edt\u00e9kokhoz kapcsol\u00f3dnak.<\/p>\n\n\n\n Az adatv\u00e9delmi kock\u00e1zat nemcsak k\u00fcls\u0151 \u00fcgyfeleket \u00e9rinthet. Munkav\u00e1llal\u00f3i, besz\u00e1ll\u00edt\u00f3i, \u00fcgyint\u00e9z\u0151i vagy bels\u0151 teljes\u00edtm\u00e9nyadatok haszn\u00e1lata is felvethet ar\u00e1nyoss\u00e1gi, \u00e1tl\u00e1that\u00f3s\u00e1gi \u00e9s hozz\u00e1f\u00e9r\u00e9si k\u00e9rd\u00e9seket. Ilyenkor a bels\u0151 adat sem kock\u00e1zatmentes adat<\/strong>, mert az \u00e9rintetti hat\u00e1s szervezeten bel\u00fcl is jelent\u0151s lehet.<\/p>\n\n\n\n Az AI-rendszerek adat\u00e1raml\u00e1sa gyakran \u00f6sszetett. Egy \u00fcgyf\u00e9lpanasz-elemz\u0151 megold\u00e1s p\u00e9ld\u00e1ul adatot kaphat e-mailb\u0151l, chatb\u0151l, telefonos jegyz\u0151k\u00f6nyvb\u0151l, CRM-rendszerb\u0151l \u00e9s term\u00e9kinform\u00e1ci\u00f3s adatb\u00e1zisb\u00f3l. A kimenet beker\u00fclhet riportba, \u00fcgyint\u00e9z\u0151i fel\u00fcletre vagy vezet\u0151i dashboardba. Ha az adat\u00e1raml\u00e1s nincs felt\u00e9rk\u00e9pezve, a szervezet nem tudja pontosan megmondani, ki milyen adatot, milyen c\u00e9lra \u00e9s milyen k\u00f6vetkezm\u00e9nnyel haszn\u00e1l.<\/p>\n\n\n\n Az adatkezel\u00e9si jogszer\u0171s\u00e9g ez\u00e9rt adat\u00e1raml\u00e1si t\u00e9rk\u00e9pet is ig\u00e9nyel. Ebben l\u00e1tszania kell az adatforr\u00e1snak, az adat\u00e1tv\u00e9telnek, a feldolgoz\u00e1snak, a modellhaszn\u00e1latnak, a t\u00e1rol\u00e1snak, a tov\u00e1bb\u00edt\u00e1snak \u00e9s a t\u00f6rl\u00e9snek. A t\u00e9rk\u00e9p nem puszt\u00e1n technikai \u00e1bra, hanem megfelel\u0151s\u00e9gi \u00e9s auditbizony\u00edt\u00e9k.<\/p>\n\n\n\n A biztons\u00e1gi kock\u00e1zatok szint\u00e9n r\u00e9szei az adatkezel\u00e9si kontrolloknak. Ha az AI-rendszer \u00e9rz\u00e9keny vagy szem\u00e9lyes adatokat kezel, akkor a hozz\u00e1f\u00e9r\u00e9skezel\u00e9s, napl\u00f3z\u00e1s, titkos\u00edt\u00e1s, jogosults\u00e1gi fel\u00fclvizsg\u00e1lat \u00e9s incidenskezel\u00e9s nem v\u00e1laszthat\u00f3 k\u00fcl\u00f6n az AI-ir\u00e1ny\u00edt\u00e1st\u00f3l. Ebben az adatv\u00e9delem \u00e9s inform\u00e1ci\u00f3biztons\u00e1g \u00f6ssze\u00e9r<\/strong>, mert az adatok s\u00e9r\u00fcl\u00e9se k\u00f6zvetlen\u00fcl \u00e9rintheti az AI-rendszer megb\u00edzhat\u00f3s\u00e1g\u00e1t \u00e9s jogszer\u0171s\u00e9g\u00e9t is.<\/p>\n\n\n\n Az adatkezel\u00e9si kock\u00e1zatok \u00e9rt\u00e9kel\u00e9s\u00e9n\u00e9l teh\u00e1t nem el\u00e9g egyetlen k\u00e9rd\u00e9st feltenni. Nemcsak az sz\u00e1m\u00edt, hogy van-e szem\u00e9lyes adat. Azt is vizsg\u00e1lni kell, hogy az adat milyen c\u00e9lb\u00f3l ker\u00fclt be, mennyire sz\u00fcks\u00e9ges, mennyire pontos, kik f\u00e9rnek hozz\u00e1, meddig marad meg, milyen kimenetet befoly\u00e1sol, \u00e9s milyen lehet\u0151s\u00e9ge van az \u00e9rintettnek a t\u00e1j\u00e9koz\u00f3d\u00e1sra vagy panaszra.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer akkor m\u0171k\u00f6dik j\u00f3l, ha az adatkezel\u00e9si \u00e9s adatmin\u0151s\u00e9gi k\u00f6vetelm\u00e9nyeket bizony\u00edt\u00e9kokk\u00e1 alak\u00edtja. Nem el\u00e9g deklar\u00e1lni, hogy az adatok megfelel\u0151ek. A szervezetnek meg kell tudnia mutatni, milyen vizsg\u00e1lat, d\u00f6nt\u00e9s, j\u00f3v\u00e1hagy\u00e1s, monitoring vagy korrekci\u00f3 igazolja ezt. Ebben a kontroll bizony\u00edt\u00e9k n\u00e9lk\u00fcl nem audit\u00e1lhat\u00f3<\/strong>, legfeljebb sz\u00e1nd\u00e9kk\u00e9nt jelenik meg.<\/p>\n\n\n\n A bizony\u00edt\u00e9kok k\u00f6re az AI-haszn\u00e1lati eset kock\u00e1zat\u00e1t\u00f3l f\u00fcgg. Alacsony hat\u00e1s\u00fa rendszern\u00e9l elegend\u0151 lehet egyszer\u0171bb adatforr\u00e1s-le\u00edr\u00e1s \u00e9s alapvet\u0151 min\u0151s\u00e9gi ellen\u0151rz\u00e9s. Magasabb hat\u00e1s\u00fa, \u00fcgyfeleket vagy munkav\u00e1llal\u00f3kat \u00e9rint\u0151 d\u00f6nt\u00e9st\u00e1mogat\u00e1sn\u00e1l r\u00e9szletesebb adatdokument\u00e1ci\u00f3, jogszer\u0171s\u00e9gi vizsg\u00e1lat, valid\u00e1ci\u00f3, monitoring \u00e9s d\u00f6nt\u00e9si napl\u00f3 sz\u00fcks\u00e9ges.<\/p>\n\n\n\n Az adatforr\u00e1s dokument\u00e1l\u00e1sa alapvet\u0151 kontroll. R\u00f6gz\u00edteni kell, hogy az adat honnan sz\u00e1rmazik, ki az adatgazda, milyen id\u0151szakot fed le, milyen c\u00e9lb\u00f3l gy\u0171jt\u00f6tt\u00e9k, milyen korl\u00e1tokkal haszn\u00e1lhat\u00f3, \u00e9s milyen min\u0151s\u00e9gi probl\u00e9m\u00e1k ismertek. A Datasheets for Datasets megk\u00f6zel\u00edt\u00e9s is azt hangs\u00falyozza, hogy az adatk\u00e9szletek motiv\u00e1ci\u00f3j\u00e1nak, \u00f6sszet\u00e9tel\u00e9nek, gy\u0171jt\u00e9si m\u00f3dj\u00e1nak, aj\u00e1nlott haszn\u00e1lat\u00e1nak \u00e9s korl\u00e1tainak dokument\u00e1l\u00e1sa jav\u00edthatja az \u00e1tl\u00e1that\u00f3s\u00e1got \u00e9s az elsz\u00e1moltathat\u00f3s\u00e1got.<\/p>\n\n\n\n A c\u00edmk\u00e9z\u00e9si \u00e9s el\u0151k\u00e9sz\u00edt\u00e9si szab\u00e1lyok szint\u00e9n kritikusak. Ha a szervezet panaszokat, dokumentumokat vagy \u00fcgyf\u00e9l\u00fczeneteket kategoriz\u00e1l, a c\u00edmk\u00e9k jelent\u00e9s\u00e9nek vil\u00e1gosnak kell lennie. Ha k\u00e9t \u00fcgyint\u00e9z\u0151 ugyanazt az esetet elt\u00e9r\u0151en c\u00edmk\u00e9zi, a modell k\u00f6vetkezetlen mint\u00e1zatot tanulhat. Ilyenkor a c\u00edmk\u00e9z\u00e9si szab\u00e1ly modellmin\u0151s\u00e9gi kontroll<\/strong>, nem puszt\u00e1n operat\u00edv \u00fatmutat\u00f3.<\/p>\n\n\n\n A valid\u00e1l\u00e1si bizony\u00edt\u00e9koknak t\u00fal kell mutatniuk az \u00e1tlagos pontoss\u00e1gon. \u00c9rdemes vizsg\u00e1lni a hib\u00e1k t\u00edpus\u00e1t, a t\u00e9ves besorol\u00e1s k\u00f6vetkezm\u00e9ny\u00e9t, a k\u00fcl\u00f6nb\u00f6z\u0151 adatcsoportok k\u00f6z\u00f6tti teljes\u00edtm\u00e9nyk\u00fcl\u00f6nbs\u00e9get, valamint azt, hogy a modell mikor bizonytalan. Egy \u00e1tlagosan j\u00f3l teljes\u00edt\u0151 rendszer is lehet kock\u00e1zatos, ha a kritikus esetekben rosszul m\u0171k\u00f6dik.<\/p>\n\n\n\n A monitoring bizony\u00edtja, hogy a szervezet nem tekinti az AI-rendszer j\u00f3v\u00e1hagy\u00e1s\u00e1t egyszeri esem\u00e9nynek. M\u0171k\u00f6d\u00e9s k\u00f6zben figyelni kell az adatv\u00e1ltoz\u00e1sokat, a kimeneti mint\u00e1zatokat, a hibaar\u00e1nyt, a felhaszn\u00e1l\u00f3i visszajelz\u00e9seket, az incidenseket \u00e9s az \u00fczleti k\u00f6rnyezet v\u00e1ltoz\u00e1s\u00e1t. Ebben a monitoring a m\u0171k\u00f6d\u0151 kontroll mem\u00f3ri\u00e1ja<\/strong>, mert megmutatja, hogy a szervezet \u00e9szreveszi-e a roml\u00f3 adat- vagy modellmin\u0151s\u00e9get.<\/p>\n\n\n\n A v\u00e1ltoz\u00e1skezel\u00e9s k\u00fcl\u00f6n\u00f6sen fontos, mert az AI-rendszer adatkapcsolatai gyakran m\u00f3dosulnak. \u00daj adatforr\u00e1s, \u00faj term\u00e9k, \u00faj csatorna, \u00faj besz\u00e1ll\u00edt\u00f3, \u00faj modellverzi\u00f3 vagy \u00faj felhaszn\u00e1l\u00e1si c\u00e9l mind \u00faj kock\u00e1zatot hozhat. Ha a v\u00e1ltoz\u00e1st nem \u00e9rt\u00e9kelik \u00fajra adatmin\u0151s\u00e9gi \u00e9s adatkezel\u00e9si szempontb\u00f3l, a kor\u00e1bbi j\u00f3v\u00e1hagy\u00e1s k\u00f6nnyen \u00e9rv\u00e9ny\u00e9t vesztheti.<\/p>\n\n\n\n Az AIMS-ben az adatkezel\u00e9si \u00e9s adatmin\u0151s\u00e9gi kontrollok legal\u00e1bb a k\u00f6vetkez\u0151 bizony\u00edt\u00e9kokra \u00e9p\u00fclhetnek:<\/p>\n\n\n\n AI-haszn\u00e1lati eset \u00e9s adatkapcsolat le\u00edr\u00e1sa;<\/p>\n\n\n\n adatforr\u00e1s-nyilv\u00e1ntart\u00e1s \u00e9s adatgazdai felel\u0151ss\u00e9g;<\/p>\n\n\n\n adat\u00e1raml\u00e1si t\u00e9rk\u00e9p;<\/p>\n\n\n\n jogszer\u0171s\u00e9gi \u00e9s adatv\u00e9delmi el\u0151sz\u0171r\u00e9s;<\/p>\n\n\n\n adatmin\u0151s\u00e9gi krit\u00e9riumok \u00e9s k\u00fcsz\u00f6b\u00e9rt\u00e9kek;<\/p>\n\n\n\n tan\u00edt\u00f3-, valid\u00e1ci\u00f3s \u00e9s m\u0171k\u00f6d\u00e9si adatok elk\u00fcl\u00f6n\u00edt\u00e9se;<\/p>\n\n\n\n c\u00edmk\u00e9z\u00e9si \u00e9s el\u0151k\u00e9sz\u00edt\u00e9si szab\u00e1lyok;<\/p>\n\n\n\n valid\u00e1l\u00e1si \u00e9s hibaminta-elemz\u00e9si jegyz\u0151k\u00f6nyv;<\/p>\n\n\n\n hozz\u00e1f\u00e9r\u00e9skezel\u00e9si \u00e9s adatbiztons\u00e1gi bizony\u00edt\u00e9kok;<\/p>\n\n\n\n monitoringjelent\u00e9s \u00e9s v\u00e1ltoz\u00e1skezel\u00e9si napl\u00f3;<\/p>\n\n\n\n incidens- \u00e9s panaszkezel\u00e9si kapcsol\u00f3d\u00e1s;<\/p>\n\n\n\n vezet\u0151i j\u00f3v\u00e1hagy\u00e1s \u00e9s maradv\u00e1nykock\u00e1zati d\u00f6nt\u00e9s.<\/p>\n\n\n\n Ez a lista nem adminisztrat\u00edv terhel\u00e9sk\u00e9nt \u00e9rtelmezend\u0151. A c\u00e9l az, hogy a szervezet k\u00f6vetkezetesen meg tudja indokolni, mi\u00e9rt tekinti az adatokat alkalmasnak \u00e9s jogszer\u0171en felhaszn\u00e1lhat\u00f3nak. A bizony\u00edt\u00e9k a bizalom m\u0171k\u00f6d\u00e9si form\u00e1ja<\/strong>, mert nemcsak azt mutatja, hogy a szervezet mit gondol, hanem azt is, mit ellen\u0151rz\u00f6tt.<\/p>\n\n\n\n A besz\u00e1ll\u00edt\u00f3i AI-eszk\u00f6z\u00f6kn\u00e9l k\u00fcl\u00f6n figyelmet kell ford\u00edtani arra, hogy milyen adatmin\u0151s\u00e9gi \u00e9s adatkezel\u00e9si inform\u00e1ci\u00f3 \u00e9rhet\u0151 el. Ha a szervezet k\u00fcls\u0151 megold\u00e1st haszn\u00e1l, att\u00f3l m\u00e9g felel\u0151ss\u00e9ge marad a saj\u00e1t haszn\u00e1lati eset\u00e9ben. Ilyenkor szerz\u0151d\u00e9ses felt\u00e9telekkel, szolg\u00e1ltat\u00f3i dokument\u00e1ci\u00f3val, adatfeldolgoz\u00f3i meg\u00e1llapod\u00e1ssal, v\u00e1ltoz\u00e1s\u00e9rtes\u00edt\u00e9ssel \u00e9s kimeneti monitoringgal kell p\u00f3tolni azt, amit a szervezet nem l\u00e1t k\u00f6zvetlen\u00fcl a modell belsej\u00e9ben.<\/p>\n\n\n\n A kontrollok kijel\u00f6l\u00e9s\u00e9n\u00e9l az is fontos, hogy az adatmin\u0151s\u00e9g \u00e9s adatv\u00e9delem ne k\u00fcl\u00f6n szigetek legyenek. Egy adatmin\u0151s\u00e9gi hiba adatv\u00e9delmi probl\u00e9m\u00e1t is okozhat, p\u00e9ld\u00e1ul ha pontatlan szem\u00e9lyes adat alapj\u00e1n sz\u00fcletik kimenet. Egy adatv\u00e9delmi korl\u00e1toz\u00e1s pedig befoly\u00e1solhatja a modellfejleszt\u00e9st, p\u00e9ld\u00e1ul ha bizonyos adatokat nem lehet felhaszn\u00e1lni a tan\u00edt\u00e1shoz.<\/p>\n\n\n\n Az AIMS-ben ez\u00e9rt integr\u00e1lt bizony\u00edt\u00e9krendszerre van sz\u00fcks\u00e9g. A kock\u00e1zat\u00e9rt\u00e9kel\u00e9snek, adatv\u00e9delmi vizsg\u00e1latnak, inform\u00e1ci\u00f3biztons\u00e1gi kontrollnak, modellvalid\u00e1l\u00e1snak \u00e9s \u00fczleti j\u00f3v\u00e1hagy\u00e1snak egym\u00e1sra kell mutatnia. Ilyenkor az adatir\u00e1ny\u00edt\u00e1s \u00f6sszek\u00f6ti a megfelel\u00e9st \u00e9s a m\u0171k\u00f6d\u00e9st<\/strong>, nem pedig k\u00fcl\u00f6n dokumentumt\u00e1rakba szor\u00edtja \u0151ket.<\/p>\n\n\n\n Egy AI-alap\u00fa \u00fcgyf\u00e9lpanasz-elemz\u0151 rendszer j\u00f3 gyakorlati p\u00e9lda az adatkezel\u00e9si \u00e9s adatmin\u0151s\u00e9gi kock\u00e1zatok felt\u00e1r\u00e1s\u00e1ra. A rendszer c\u00e9lja lehet a panaszok kategoriz\u00e1l\u00e1sa, s\u00fcrg\u0151ss\u00e9gi rangsorol\u00e1sa, ism\u00e9tl\u0151d\u0151 probl\u00e9m\u00e1k azonos\u00edt\u00e1sa vagy vezet\u0151i riportok t\u00e1mogat\u00e1sa. M\u00e9g egy ilyen l\u00e1tsz\u00f3lag t\u00e1mogat\u00f3 funkci\u00f3n\u00e1l is a panaszadat \u00e9rz\u00e9keny szervezeti jelz\u00e9s<\/strong>, mert \u00fcgyf\u00e9l\u00e9lm\u00e9nyre, hib\u00e1s m\u0171k\u00f6d\u00e9sre \u00e9s reput\u00e1ci\u00f3s kock\u00e1zatra utalhat.<\/p>\n\n\n\n A panaszadatok gyakran t\u00f6bb csatorn\u00e1b\u00f3l \u00e9rkeznek: e-mailb\u0151l, telefonos jegyzetb\u0151l, chatb\u0151l, webes \u0171rlapb\u00f3l vagy \u00fcgyf\u00e9lszolg\u00e1lati rendszerb\u0151l. Ezek elt\u00e9r\u0151 r\u00e9szletess\u00e9g\u0171ek, elt\u00e9r\u0151 nyelvezet\u0171ek \u00e9s elt\u00e9r\u0151 min\u0151s\u00e9g\u0171ek lehetnek. Ha a rendszer ezeket egys\u00e9gesen kezeli, a szervezetnek meg kell vizsg\u00e1lnia, hogy a k\u00fcl\u00f6nbs\u00e9gek nem torz\u00edtj\u00e1k-e a kimenetet.<\/p>\n\n\n\n Az els\u0151 ellen\u0151rz\u00e9si pont az adatforr\u00e1s. Tudni kell, mely panaszcsatorn\u00e1k ker\u00fclnek be a rendszerbe, melyek maradnak ki, \u00e9s ez milyen torz\u00edt\u00e1st okozhat. Ha p\u00e9ld\u00e1ul a telefonos panaszok kev\u00e9sb\u00e9 r\u00e9szletesek, mint az \u00edr\u00e1sos panaszok, a modell elt\u00e9r\u0151en kezelheti a csatorn\u00e1kat. Ilyenkor a csatornak\u00fcl\u00f6nbs\u00e9g adatmin\u0151s\u00e9gi kock\u00e1zat<\/strong>, nem puszt\u00e1n \u00fcgyf\u00e9lszolg\u00e1lati saj\u00e1toss\u00e1g.<\/p>\n\n\n\n A m\u00e1sodik ellen\u0151rz\u00e9si pont a c\u00edmk\u00e9z\u00e9s. Ha a m\u00faltban a panaszokat nem egys\u00e9ges kateg\u00f3riarendszer szerint sorolt\u00e1k be, a tan\u00edt\u00f3adat k\u00f6vetkezetlen lehet. A szervezetnek ez\u00e9rt dokument\u00e1lnia kell a kateg\u00f3ri\u00e1k jelent\u00e9s\u00e9t, a c\u00edmk\u00e9z\u00e9s szab\u00e1lyait \u00e9s a vit\u00e1s esetek kezel\u00e9s\u00e9t. En\u00e9lk\u00fcl a modell a m\u00faltbeli bizonytalans\u00e1got tanulhatja meg.<\/p>\n\n\n\n A harmadik pont a szem\u00e9lyes adatok kezel\u00e9se. A panaszok gyakran tartalmazhatnak nevet, el\u00e9rhet\u0151s\u00e9get, \u00fcgyf\u00e9lazonos\u00edt\u00f3t, szerz\u0151d\u00e9ses adatot vagy \u00e9rz\u00e9keny r\u00e9szleteket. Az adatv\u00e9delmi vizsg\u00e1latnak tiszt\u00e1znia kell, hogy ezekre sz\u00fcks\u00e9g van-e az AI-funkci\u00f3hoz, hogyan t\u00f6rt\u00e9nik az anonimiz\u00e1l\u00e1s vagy hozz\u00e1f\u00e9r\u00e9skorl\u00e1toz\u00e1s, \u00e9s meddig \u0151rizhet\u0151 meg az adat.<\/p>\n\n\n\n A negyedik pont a m\u0171k\u00f6d\u00e9si c\u00e9l. Nem mindegy, hogy a rendszer csak t\u00e9m\u00e1kat azonos\u00edt, \u00fcgyint\u00e9z\u0151i prioriz\u00e1l\u00e1st t\u00e1mogat, vagy t\u00e9nylegesen befoly\u00e1solja az \u00fcgyf\u00e9l kezel\u00e9s\u00e9t. Ebben a kimenet d\u00f6nt\u00e9si s\u00falya hat\u00e1rozza meg a kock\u00e1zatot<\/strong>, ez\u00e9rt a c\u00e9l \u00e9s a haszn\u00e1lati m\u00f3d dokument\u00e1l\u00e1sa alapvet\u0151.<\/p>\n\n\n\n Egy \u00fcgyf\u00e9lpanasz-elemz\u0151 rendszer adatkezel\u00e9si ellen\u0151rz\u0151list\u00e1ja \u00edgy \u00e9p\u00fclhet fel:<\/p>\n\n\n\n Milyen panaszcsatorn\u00e1kb\u00f3l \u00e9rkezik adat?<\/p>\n\n\n\n Mely csatorn\u00e1k vagy \u00fcgyf\u00e9lt\u00edpusok maradnak ki?<\/p>\n\n\n\n Van-e egys\u00e9ges panaszt\u00edpus- \u00e9s s\u00fcrg\u0151ss\u00e9gi kateg\u00f3riarendszer?<\/p>\n\n\n\n Hogyan kezelik a hi\u00e1nyos, r\u00f6vid vagy f\u00e9lre\u00e9rthet\u0151 panaszokat?<\/p>\n\n\n\n Tartalmaz-e a panasz szem\u00e9lyes vagy k\u00fcl\u00f6n\u00f6sen \u00e9rz\u00e9keny adatot?<\/p>\n\n\n\n Sz\u00fcks\u00e9ges-e minden adatmez\u0151 az AI-funkci\u00f3hoz?<\/p>\n\n\n\n Milyen jogalapon \u00e9s milyen c\u00e9lb\u00f3l t\u00f6rt\u00e9nik az adatkezel\u00e9s?<\/p>\n\n\n\n Hogyan t\u00f6rt\u00e9nik az adatmin\u0151s\u00e9g m\u00e9r\u00e9se?<\/p>\n\n\n\n Milyen hibaar\u00e1ny elfogadhat\u00f3 az egyes panaszt\u00edpusokn\u00e1l?<\/p>\n\n\n\n Ki vizsg\u00e1lja fel\u00fcl a kritikus vagy bizonytalan kimeneteket?<\/p>\n\n\n\n Hogyan dokument\u00e1lj\u00e1k az emberi fel\u00fclb\u00edr\u00e1l\u00e1st?<\/p>\n\n\n\n Milyen gyakran \u00e9rt\u00e9kelik \u00fajra az adatokat \u00e9s a modellkimeneteket?<\/p>\n\n\n\n Mi t\u00f6rt\u00e9nik, ha \u00faj panaszt\u00edpus vagy \u00faj term\u00e9k jelenik meg?<\/p>\n\n\n\n Hogyan kapcsol\u00f3dik az AI-kimenet a panaszkezel\u00e9si felel\u0151ss\u00e9ghez?<\/p>\n\n\n\n Milyen bizony\u00edt\u00e9k \u00e1ll rendelkez\u00e9sre audit eset\u00e9n?<\/p>\n\n\n\n A lista c\u00e9lja nem az, hogy minden panaszkezel\u0151 szervezet azonos dokument\u00e1ci\u00f3t hozzon l\u00e9tre. Ink\u00e1bb azt seg\u00edti, hogy a szervezet ne csak az AI-eszk\u00f6z funkci\u00f3j\u00e1t, hanem az adatokb\u00f3l fakad\u00f3 kock\u00e1zatokat is v\u00e9giggondolja. Az ellen\u0151rz\u0151lista a l\u00e1thatatlan adatfelt\u00e9teleket teszi l\u00e1that\u00f3v\u00e1<\/strong>, ami n\u00e9lk\u00fcl a kock\u00e1zat\u00e9rt\u00e9kel\u00e9s hi\u00e1nyos marad.<\/p>\n\n\n\n A panaszkezel\u00e9si p\u00e9ld\u00e1ban a hib\u00e1s kimenet t\u00f6bbf\u00e9le k\u00e1rt okozhat. Egy s\u00fcrg\u0151s panasz alacsony priorit\u00e1st kaphat, egy ism\u00e9tl\u0151d\u0151 hiba nem ker\u00fcl vezet\u0151i figyelembe, vagy egy \u00fcgyf\u00e9lt\u00edpus panaszai rendszeresen rossz kateg\u00f3ri\u00e1ba eshetnek. Ezek nemcsak modellhib\u00e1k, hanem \u00fcgyf\u00e9l\u00e9lm\u00e9nyt, megfelel\u0151s\u00e9get \u00e9s reput\u00e1ci\u00f3t \u00e9rint\u0151 szervezeti probl\u00e9m\u00e1k.<\/p>\n\n\n\n A felel\u0151s m\u0171k\u00f6d\u00e9shez ez\u00e9rt sz\u00fcks\u00e9ges, hogy a felhaszn\u00e1l\u00f3k \u00e9rts\u00e9k az AI-kimenet korl\u00e1tait. Az \u00fcgyint\u00e9z\u0151nek tudnia kell, mikor b\u00edzhat a kategoriz\u00e1l\u00e1sban, mikor kell k\u00e9zzel m\u00f3dos\u00edtania, \u00e9s mikor kell vezet\u0151i vagy szak\u00e9rt\u0151i fel\u00fclvizsg\u00e1latot k\u00e9rnie. Ha a felhaszn\u00e1l\u00f3 nem kap ilyen szab\u00e1lyt, k\u00f6nnyen t\u00falzott bizalom alakulhat ki a rendszerrel szemben.<\/p>\n\n\n\n A vezet\u0151knek m\u00e1s bizony\u00edt\u00e9kra van sz\u00fcks\u00e9g\u00fck. L\u00e1tniuk kell, hogy az AI-rendszer val\u00f3ban jav\u00edtja-e a panaszok \u00e1ttekinthet\u0151s\u00e9g\u00e9t, nem rejt-e el kritikus \u00fcgyeket, \u00e9s nem okoz-e torz\u00edt\u00e1st bizonyos csatorn\u00e1k vagy \u00fcgyf\u00e9lt\u00edpusok eset\u00e9ben. Ebben a vezet\u0151i kontroll a hat\u00e1svizsg\u00e1latn\u00e1l kezd\u0151dik<\/strong>, nem csak a bevezet\u00e9si j\u00f3v\u00e1hagy\u00e1sn\u00e1l.<\/p>\n\n\n\n Az auditor sz\u00e1m\u00e1ra az a k\u00e9rd\u00e9s, hogy a szervezet bizony\u00edtani tudja-e az adatforr\u00e1sok, adatmin\u0151s\u00e9gi vizsg\u00e1latok, jogszer\u0171s\u00e9gi d\u00f6nt\u00e9sek, valid\u00e1l\u00e1si eredm\u00e9nyek, monitoringjelent\u00e9sek \u00e9s v\u00e1ltoz\u00e1skezel\u00e9si l\u00e9p\u00e9sek megl\u00e9t\u00e9t. Ha ezek \u00f6sszekapcsolhat\u00f3k, az AI-rendszer ir\u00e1ny\u00edt\u00e1sa \u00e1tl\u00e1that\u00f3bb\u00e1 v\u00e1lik. Ha hi\u00e1nyoznak, a modell m\u0171k\u00f6d\u00e9se ak\u00e1r hasznos is lehet, de az AIMS szempontj\u00e1b\u00f3l gyenge bizony\u00edt\u00e9kon \u00e1ll.<\/p>\n\n\n\n Az adatkezel\u00e9si \u00e9s adatmin\u0151s\u00e9gi kock\u00e1zatok kezel\u00e9se v\u00e9gs\u0151 soron azt szolg\u00e1lja, hogy az AI ne \u00f6n\u00e1ll\u00f3, ellen\u0151rizhetetlen d\u00f6nt\u00e9si r\u00e9tegk\u00e9nt m\u0171k\u00f6dj\u00f6n. A szervezetnek k\u00e9pesnek kell lennie megmutatni, milyen adatokb\u00f3l dolgozik a rendszer, mi\u00e9rt alkalmasak ezek az adatok, milyen korl\u00e1taik vannak, \u00e9s milyen kontrollok v\u00e9dik a felhaszn\u00e1l\u00f3kat, \u00e9rintetteket \u00e9s \u00fczleti d\u00f6nt\u00e9seket.<\/p>\n\n\n\n Az AI-rendszer megb\u00edzhat\u00f3s\u00e1ga nem ott kezd\u0151dik, hogy mennyire fejlett a modell. Ott kezd\u0151dik, hogy a szervezet mennyire ismeri \u00e9s ir\u00e1ny\u00edtja az adatokat, amelyekb\u0151l a modell k\u00f6vetkeztet. Az adatmin\u0151s\u00e9g, a jogszer\u0171 adatkezel\u00e9s \u00e9s az audit\u00e1lhat\u00f3 bizony\u00edt\u00e9k egy\u00fctt teremti meg azt az alapot, amelyre felel\u0151s AI ir\u00e1ny\u00edt\u00e1si rendszer \u00e9p\u00edthet\u0151.<\/p>\n\n\n\n European Parliament & Council of the European Union. (2016). Regulation (EU) 2016\/679 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2016\/679\/oj<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daum\u00e9 III, H., & Crawford, K. (2021). Datasheets for datasets. Communications of the ACM, 64<\/em>(12), 86\u201392. https:\/\/doi.org\/10.1145\/3458723<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n International Organization for Standardization. (2024). ISO\/IEC 5259-2:2024: Artificial intelligence \u2014 Data quality for analytics and machine learning (ML) \u2014 Part 2: Data quality measures<\/em>. ISO. https:\/\/www.iso.org\/standard\/81860.html<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial intelligence risk management framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\n Sambasivan, N., Kapania, S., Highfill, H., Akrong, D., Paritosh, P., & Aroyo, L. M. (2021). \u201cEveryone wants to do the model work, not the data work\u201d: Data cascades in high-stakes AI. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems<\/em>, Article 39, 1\u201315. https:\/\/doi.org\/10.1145\/3411764.3445518<\/p>\n","protected":false},"excerpt":{"rendered":" Az adatmin\u0151s\u00e9g meghat\u00e1rozza az AI-rendszerek megb\u00edzhat\u00f3s\u00e1g\u00e1t \u00e9s kock\u00e1zatait. A szervezeteknek ellen\u0151rizni\u00fck kell az adatok eredet\u00e9t, pontoss\u00e1g\u00e1t \u00e9s jogszer\u0171s\u00e9g\u00e9t a felel\u0151s AI haszn\u00e1lathoz.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_sas_skip_auto_schedule":false,"_sas_force_auto_schedule":false,"footnotes":""},"categories":[761],"tags":[776,816,525,825,812,5,778,87,806,824,823],"series":[],"class_list":["post-715","post","type-post","status-publish","format-standard","hentry","category-iranyitasi-rendszer-aims","tag-adatforras","tag-adatiranyitas","tag-adatkezeles","tag-adatkontroll","tag-adatminoseg","tag-ai","tag-auditalhatosag","tag-kockazat","tag-modell","tag-mukodesi-adat","tag-validacio"],"yoast_head":"\nTan\u00edt\u00f3adat, valid\u00e1ci\u00f3s adat \u00e9s m\u0171k\u00f6d\u00e9si adat<\/h2>\n\n\n\n
Az adatmin\u0151s\u00e9gi hiba szervezeti kock\u00e1zatt\u00e1 v\u00e1lik<\/h2>\n\n\n\n
Adatkezel\u00e9si jogszer\u0171s\u00e9g \u00e9s adatv\u00e9delmi kock\u00e1zat<\/h2>\n\n\n\n
Bizony\u00edt\u00e9kok \u00e9s kontrollok az AIMS-ben<\/h2>\n\n\n\n
\u00dcgyf\u00e9lpanasz-elemz\u0151 rendszer ellen\u0151rz\u0151list\u00e1ja<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n