Egy AI-alap\u00fa \u00fczleti alkalmaz\u00e1s els\u0151 r\u00e1n\u00e9z\u00e9sre gyakran csak egy \u00faj funkci\u00f3nak t\u0171nik: gyorsabban rangsorol, pontosabban jelez el\u0151re, \u00f6sszefoglal egy dokumentumot, vagy v\u00e1laszt ad egy \u00fcgyf\u00e9lk\u00e9rd\u00e9sre. A szervezeti kock\u00e1zat azonban nem ott kezd\u0151dik, hogy a megold\u00e1s l\u00e1tv\u00e1nyosan \u201eintelligensnek\u201d t\u0171nik, hanem ott, hogy a kimenet\u00e9re emberek, folyamatok \u00e9s d\u00f6nt\u00e9sek kezdenek t\u00e1maszkodni.<\/p>\n\n\n\n
Ez\u00e9rt a g\u00e9pi tanul\u00e1s, a m\u00e9lytanul\u00e1s \u00e9s a nyelvi modellek k\u00f6z\u00f6tti k\u00fcl\u00f6nbs\u00e9g nem puszt\u00e1n technol\u00f3giai r\u00e9szlet. Egy ISO\/IEC 42001 alap\u00fa AI ir\u00e1ny\u00edt\u00e1si rendszerben ezek a k\u00fcl\u00f6nbs\u00e9gek hat\u00e1rozz\u00e1k meg, milyen dokument\u00e1ci\u00f3ra, tesztel\u00e9sre, fel\u00fcgyeletre, auditnyomra \u00e9s kock\u00e1zatkezel\u00e9si kontrollra van sz\u00fcks\u00e9g. Az AI-ir\u00e1ny\u00edt\u00e1s nem att\u00f3l lesz er\u0151s, hogy minden modellt ugyan\u00fagy kezel, hanem att\u00f3l, hogy felismeri: m\u00e1s technol\u00f3giai m\u0171k\u00f6d\u00e9s m\u00e1s szervezeti vakfoltot hoz l\u00e9tre.<\/p>\n\n\n\n
A \u201emesters\u00e9ges intelligencia\u201d kifejez\u00e9s szervezeti k\u00f6rnyezetben k\u00f6nnyen t\u00fal t\u00e1g kateg\u00f3ri\u00e1v\u00e1 v\u00e1lik. Egy \u00fczleti vezet\u0151, egy adatv\u00e9delmi szak\u00e9rt\u0151, egy fejleszt\u0151, egy bels\u0151 auditor \u00e9s egy beszerz\u00e9si felel\u0151s gyakran ugyanazt a rendszert n\u00e9zi, m\u00e9gis m\u00e1s k\u00e9rd\u00e9st tesz fel r\u00f3la. Az egyik a hat\u00e9konys\u00e1got l\u00e1tja, a m\u00e1sik az adatkezel\u00e9st, a harmadik a modell m\u0171k\u00f6d\u00e9s\u00e9t, a negyedik az ellen\u0151rizhet\u0151s\u00e9get, az \u00f6t\u00f6dik pedig a besz\u00e1ll\u00edt\u00f3i kock\u00e1zatot.<\/p>\n\n\n\n
Ez\u00e9rt az AI ir\u00e1ny\u00edt\u00e1si rendszerben a technol\u00f3giai besorol\u00e1snak gyakorlati c\u00e9lja van. Nem akad\u00e9miai defin\u00edci\u00f3s vit\u00e1r\u00f3l van sz\u00f3, hanem arr\u00f3l, hogy a szervezet tudja, milyen m\u0171k\u00f6d\u00e9st kell kontroll\u00e1lnia. A technol\u00f3giai t\u00edpus a kontrollig\u00e9ny els\u0151 t\u00e9rk\u00e9pe.<\/strong> Ha nem vil\u00e1gos, hogy egy rendszer szab\u00e1lyalap\u00fa automatiz\u00e1l\u00e1s, g\u00e9pi tanul\u00e1si modell, m\u00e9ly neur\u00e1lis h\u00e1l\u00f3zat vagy nyelvi modell, akkor a tesztel\u00e9s, a dokument\u00e1ci\u00f3 \u00e9s a fel\u00fcgyelet is pontatlan lesz.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1s klasszikus meghat\u00e1roz\u00e1sa szerint a rendszer nem minden l\u00e9p\u00e9st el\u0151re programozott szab\u00e1lyok alapj\u00e1n hajt v\u00e9gre, hanem adatokb\u00f3l tanul mint\u00e1zatokat, \u00e9s ezek alapj\u00e1n jav\u00edtja vagy alak\u00edtja teljes\u00edtm\u00e9ny\u00e9t (Mitchell, 1997). Ez az ir\u00e1ny\u00edt\u00e1s szempontj\u00e1b\u00f3l az\u00e9rt fontos, mert a rendszer viselked\u00e9s\u00e9t nem csak a k\u00f3d hat\u00e1rozza meg, hanem az adat, a tan\u00edt\u00e1si elj\u00e1r\u00e1s, a modellv\u00e1laszt\u00e1s \u00e9s a haszn\u00e1lati k\u00f6rnyezet is.<\/p>\n\n\n\n Egy hagyom\u00e1nyos szoftvern\u00e9l gyakran azt k\u00e9rdezz\u00fck: helyesen \u00edrt\u00e1k-e meg a szab\u00e1lyt? Egy g\u00e9pi tanul\u00e1si modelln\u00e9l m\u00e1s k\u00e9rd\u00e9sek is megjelennek:<\/p>\n\n\n\n megfelel\u0151 volt-e a tan\u00edt\u00f3adat;<\/p>\n\n\n\n \u00e9rv\u00e9nyes-e m\u00e9g a m\u00faltbeli mint\u00e1zat;<\/p>\n\n\n\n mennyire pontos a modell k\u00fcl\u00f6nb\u00f6z\u0151 alcsoportokban;<\/p>\n\n\n\n hogyan viselkedik \u00faj helyzetekben;<\/p>\n\n\n\n \u00e9szlelhet\u0151-e, ha a teljes\u00edtm\u00e9ny romlik.<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek azt mutatj\u00e1k, hogy a g\u00e9pi tanul\u00e1s nem egyszeri fejleszt\u00e9s, hanem folyamatos szervezeti kock\u00e1zatkezel\u00e9s<\/strong>. A modell bevezet\u00e9se nem z\u00e1rja le az ir\u00e1ny\u00edt\u00e1si feladatot, hanem \u00faj fel\u00fcgyeleti ciklust ind\u00edt el.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1s enn\u00e9l \u00f6sszetettebb m\u0171k\u00f6d\u00e9st jelent. T\u00f6bbr\u00e9teg\u0171 modellstrukt\u00far\u00e1kkal dolgozik, amelyek nagy mennyis\u00e9g\u0171 adatb\u00f3l k\u00e9pesek bonyolult mint\u00e1zatokat felismerni. Goodfellow, Bengio \u00e9s Courville (2016) klasszikus tank\u00f6nyve a m\u00e9lytanul\u00e1st a g\u00e9pi tanul\u00e1s olyan \u00e1gak\u00e9nt mutatja be, amely t\u00f6bb reprezent\u00e1ci\u00f3s r\u00e9tegen kereszt\u00fcl k\u00e9pes \u00f6sszetett fogalmakat fel\u00e9p\u00edteni.<\/p>\n\n\n\n Ez a teljes\u00edtm\u00e9ny szervezeti el\u0151ny lehet, de ellen\u0151rizhet\u0151s\u00e9gi kih\u00edv\u00e1st is teremt. A modell bels\u0151 m\u0171k\u00f6d\u00e9se gyakran nehezebben magyar\u00e1zhat\u00f3, mint egy egyszer\u0171bb statisztikai vagy d\u00f6nt\u00e9si modell\u00e9. Min\u00e9l \u00f6sszetettebb a modell, ann\u00e1l fontosabb a k\u00fcls\u0151 bizony\u00edt\u00e9k.<\/strong> Ilyenkor a szervezetnek nem felt\u00e9tlen\u00fcl a modell minden bels\u0151 l\u00e9p\u00e9s\u00e9t kell emberi nyelven visszafejtenie, hanem azt kell dokument\u00e1lnia, hogyan tesztelte, mire haszn\u00e1lja, milyen korl\u00e1tait ismeri, \u00e9s milyen helyzetben nem engedi \u00f6n\u00e1ll\u00f3an \u00e9rv\u00e9nyes\u00fclni.<\/p>\n\n\n\n A nyelvi modellek k\u00fcl\u00f6n kateg\u00f3ri\u00e1t jelentenek az ir\u00e1ny\u00edt\u00e1sban, mert sz\u00f6vegeket dolgoznak fel \u00e9s \u00e1ll\u00edtanak el\u0151. Ide tartozhatnak \u00f6sszefoglal\u00f3, ford\u00edt\u00f3, k\u00e9rd\u00e9s-v\u00e1lasz, \u00fcgyf\u00e9lszolg\u00e1lati, keres\u00e9st\u00e1mogat\u00f3 vagy tartalomgener\u00e1l\u00f3 rendszerek. A Transformer-architekt\u00fara, amelyet Vaswani \u00e9s munkat\u00e1rsai 2017-ben mutattak be, alapvet\u0151 szerepet j\u00e1tszott a mai nagy nyelvi modellek fejl\u0151d\u00e9s\u00e9ben, mert az \u00fagynevezett figyelmi mechanizmusokra \u00e9p\u00edtve hat\u00e9konyan kezeli a sz\u00f6veges sorozatokat (Vaswani et al., 2017).<\/p>\n\n\n\n A szervezet sz\u00e1m\u00e1ra azonban nem az architekt\u00fara neve a d\u00f6nt\u0151. A k\u00e9rd\u00e9s az, hogy a nyelvi modell kimenete milyen \u00fczleti vagy emberi helyzetbe ker\u00fcl. A sz\u00f6vegkimenet az\u00e9rt kock\u00e1zatos, mert k\u00f6nnyen tekint\u00e9lyt sug\u00e1roz.<\/strong> Egy magabiztosan megfogalmazott v\u00e1lasz akkor is meggy\u0151z\u0151nek t\u0171nhet, ha hi\u00e1nyos, pontatlan, f\u00e9lre\u00e9rthet\u0151 vagy nem megfelel\u0151 kontextusban k\u00e9sz\u00fclt.<\/p>\n\n\n\n Az ISO\/IEC 42001 az\u00e9rt ad hasznos keretet, mert az AI-rendszereket nem elszigetelt technikai objektumk\u00e9nt, hanem ir\u00e1ny\u00edt\u00e1si rendszerbe illesztett szervezeti k\u00e9pess\u00e9gk\u00e9nt kezeli. A szabv\u00e1ny a mesters\u00e9ges intelligencia menedzsmentrendszer\u00e9re vonatkoz\u00f3 k\u00f6vetelm\u00e9nyeket hat\u00e1rozza meg, \u00e9s a kock\u00e1zatok, lehet\u0151s\u00e9gek, felel\u0151ss\u00e9gek \u00e9s folyamatos fejleszt\u00e9s szervezeti kezel\u00e9s\u00e9re ir\u00e1ny\u00edtja a figyelmet (International Organization for Standardization [ISO], 2023).<\/p>\n\n\n\n Az AI technol\u00f3giat\u00edpusainak megk\u00fcl\u00f6nb\u00f6ztet\u00e9se teh\u00e1t nem informatikai finoms\u00e1g. Egy audit\u00e1lhat\u00f3 rendszerben a besorol\u00e1snak kontrollk\u00f6vetkezm\u00e9nye van<\/strong>. M\u00e1s dokumentum kell egy egyszer\u0171 predikt\u00edv modellhez, m\u00e1s egy k\u00e9pfelismer\u0151 m\u00e9lytanul\u00e1si rendszerhez, \u00e9s m\u00e1s egy generat\u00edv nyelvi modellhez, amely munkat\u00e1rsak vagy \u00fcgyfelek sz\u00e1m\u00e1ra \u00e1ll\u00edt el\u0151 sz\u00f6veget.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1s l\u00e9nyege szervezeti n\u00e9z\u0151pontb\u00f3l az, hogy a rendszer kor\u00e1bbi adatokb\u00f3l mint\u00e1zatokat tanul, majd ezeket \u00faj esetekre alkalmazza. Ez lehet el\u0151rejelz\u00e9s, oszt\u00e1lyoz\u00e1s, aj\u00e1nl\u00e1s, rangsorol\u00e1s vagy anom\u00e1lia\u00e9szlel\u00e9s. A modell nem \u00e1ltal\u00e1nos igazs\u00e1got \u00e1ll\u00edt el\u0151, hanem egy adott c\u00e9lra, adott adatokb\u00f3l, adott k\u00f6rnyezetben haszn\u00e1lhat\u00f3 becsl\u00e9st.<\/p>\n\n\n\n Ez a becsl\u00e9s \u00fczletileg nagyon \u00e9rt\u00e9kes lehet. Egy p\u00e9nz\u00fcgyi rendszer jelezheti a csal\u00e1sgyan\u00fas tranzakci\u00f3kat, egy karbantart\u00e1si modell el\u0151rejelezheti a meghib\u00e1sod\u00e1st, egy \u00fcgyf\u00e9lkapcsolati rendszer azonos\u00edthatja a lemorzsol\u00f3d\u00e1si kock\u00e1zatot. A modell nem d\u00f6nt\u00e9si garancia, hanem mint\u00e1zatalap\u00fa becsl\u00e9s.<\/strong> Ez\u00e9rt a szervezetnek mindig tudnia kell, milyen hibaar\u00e1ny, bizonytalans\u00e1g \u00e9s kontextus tartozik a kimenethez.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1si modellekn\u00e9l a tan\u00edt\u00f3adat k\u00f6zponti ir\u00e1ny\u00edt\u00e1si t\u00e9nyez\u0151. Ha az adatok hi\u00e1nyosak, torz\u00edtottak, elavultak vagy nem fedik le megfelel\u0151en a haszn\u00e1lati helyzetet, a modell kimenete is f\u00e9lrevezet\u0151 lehet. Az AI-kock\u00e1zatkezel\u00e9sben ez\u00e9rt az adatmin\u0151s\u00e9g nem technikai mell\u00e9kk\u00e9rd\u00e9s, hanem a megb\u00edzhat\u00f3s\u00e1g alapfelt\u00e9tele.<\/p>\n\n\n\n A szervezetnek dokument\u00e1lnia kell, milyen adatokb\u00f3l tanult a modell, milyen id\u0151szakb\u00f3l sz\u00e1rmaznak az adatok, milyen el\u0151k\u00e9sz\u00edt\u00e9s t\u00f6rt\u00e9nt, milyen v\u00e1ltoz\u00f3kat haszn\u00e1ltak, \u00e9s volt-e olyan adat, amelyet jogi, etikai vagy min\u0151s\u00e9gi okb\u00f3l kiz\u00e1rtak. A tan\u00edt\u00f3adat a modell rejtett szervezeti eml\u00e9kezete.<\/strong> Ha ez az eml\u00e9kezet torz vagy hi\u00e1nyos, akkor a modell a m\u00falt hib\u00e1it is \u00e1tviheti a jelen d\u00f6nt\u00e9seibe.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1s ir\u00e1ny\u00edt\u00e1sa nem \u00e1llhat meg a fejleszt\u00e9si f\u00e1zisban. A modell m\u0171k\u00f6d\u00e9se id\u0151vel romolhat, mert v\u00e1ltoznak az \u00fcgyf\u00e9lszok\u00e1sok, a piaci felt\u00e9telek, a csal\u00e1si mint\u00e1k, a bels\u0151 folyamatok vagy a jogi k\u00f6rnyezet. Ezt gyakran modell- vagy adatdriftk\u00e9nt \u00edrj\u00e1k le: a kor\u00e1bbi tan\u00edt\u00e1si k\u00f6rnyezet m\u00e1r nem teljesen azonos az \u00e9les haszn\u00e1lat k\u00f6rnyezet\u00e9vel.<\/p>\n\n\n\n Ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l ez azt jelenti, hogy id\u0151szakos teljes\u00edtm\u00e9nyellen\u0151rz\u00e9sre van sz\u00fcks\u00e9g. Nem el\u00e9g egyszer bizony\u00edtani, hogy a modell j\u00f3l m\u0171k\u00f6d\u00f6tt a tesztadatokon. A g\u00e9pi tanul\u00e1si modell megb\u00edzhat\u00f3s\u00e1ga id\u0151ben v\u00e1ltoz\u00f3 tulajdons\u00e1g.<\/strong> A szervezetnek figyelnie kell, hogy a modell tov\u00e1bbra is azt a teljes\u00edtm\u00e9nyt ny\u00fajtja-e, amelyre a folyamat \u00e9p\u00fclt.<\/p>\n\n\n\n A tesztel\u00e9snek t\u00f6bb szintje lehet. Az els\u0151 a technikai teljes\u00edtm\u00e9nym\u00e9r\u00e9s: pontoss\u00e1g, t\u00e9ves pozit\u00edv \u00e9s t\u00e9ves negat\u00edv ar\u00e1ny, stabilit\u00e1s, hibamegoszl\u00e1s. A m\u00e1sodik az \u00fczleti valid\u00e1ci\u00f3: a kimenet val\u00f3ban seg\u00edti-e a folyamatot, cs\u00f6kkenti-e a hib\u00e1t, gyors\u00edtja-e a d\u00f6nt\u00e9st, vagy csak \u00fajabb l\u00e1tsz\u00f3lagos bizonyoss\u00e1got ad. A harmadik a kock\u00e1zati valid\u00e1ci\u00f3: kiket \u00e9rinthet h\u00e1tr\u00e1nyosan a hib\u00e1s kimenet, \u00e9s hogyan lehet beavatkozni.<\/p>\n\n\n\n A NIST AI Risk Management Framework k\u00fcl\u00f6n\u00f6sen er\u0151sen hangs\u00falyozza, hogy az AI-kock\u00e1zatok egy\u00e9nekre, szervezetekre \u00e9s t\u00e1rsadalmi rendszerekre is hathatnak, ez\u00e9rt a kock\u00e1zatkezel\u00e9snek nem puszt\u00e1n technikai teljes\u00edtm\u00e9nymutat\u00f3kra kell \u00e9p\u00fclnie (National Institute of Standards and Technology [NIST], 2023).<\/p>\n\n\n\n Egy g\u00e9pi tanul\u00e1si rendszer eset\u00e9ben a dokument\u00e1ci\u00f3nak ez\u00e9rt legal\u00e1bb a k\u00f6vetkez\u0151ket kell lefednie:<\/p>\n\n\n\n a modell c\u00e9lja \u00e9s \u00fczleti folyamata;<\/p>\n\n\n\n a bemeneti adatok t\u00edpusa \u00e9s eredete;<\/p>\n\n\n\n a tan\u00edt\u00e1si \u00e9s tesztel\u00e9si m\u00f3dszer;<\/p>\n\n\n\n a teljes\u00edtm\u00e9nymutat\u00f3k \u00e9s elfogad\u00e1si k\u00fcsz\u00f6b\u00f6k;<\/p>\n\n\n\n az ismert korl\u00e1tok \u00e9s kiz\u00e1rt haszn\u00e1lati helyzetek;<\/p>\n\n\n\n a fel\u00fcgyeleti \u00e9s \u00fajratesztel\u00e9si gyakoris\u00e1g;<\/p>\n\n\n\n a felel\u0151s szerepk\u00f6r\u00f6k \u00e9s j\u00f3v\u00e1hagy\u00e1si pontok.<\/p>\n\n\n\n Ezek a dokument\u00e1ci\u00f3s elemek nem adminisztrat\u00edv d\u00edszletek. Egy vitatott d\u00f6nt\u00e9s, egy audit vagy egy incidens eset\u00e9n ezek mutatj\u00e1k meg, hogy a szervezet tudatosan kezelte-e az AI-rendszert. A j\u00f3 dokument\u00e1ci\u00f3 a szervezeti eml\u00e9kezet biztos\u00edt\u00e9ka.<\/strong> N\u00e9lk\u00fcle a modell m\u0171k\u00f6d\u00e9se k\u00e9s\u0151bb nem lesz \u00e9rdemben rekonstru\u00e1lhat\u00f3.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1sn\u00e1l k\u00fcl\u00f6n figyelmet kell ford\u00edtani a felhaszn\u00e1l\u00f3i \u00e9rtelmez\u00e9sre. Egy pontsz\u00e1m, kock\u00e1zati jelz\u00e9s vagy aj\u00e1nl\u00e1s k\u00f6nnyen t\u00falzott bizalmat kelthet. A felhaszn\u00e1l\u00f3knak \u00e9rteni\u00fck kell, hogy a kimenet nem v\u00e9gs\u0151 igazs\u00e1g, hanem egy bizonytalans\u00e1ggal rendelkez\u0151 jelz\u00e9s, amelyet a folyamat szab\u00e1lyai szerint kell kezelni.<\/p>\n\n\n\n Ez\u00e9rt a fel\u00fcgyeleti kontroll nem csak vezet\u0151i j\u00f3v\u00e1hagy\u00e1st jelent. Mag\u00e1ban foglalhat felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9st, \u00e9rtelmez\u00e9si \u00fatmutat\u00f3t, kiv\u00e9telkezel\u00e9st, mintav\u00e9teles ellen\u0151rz\u00e9st, hibajelent\u00e9si csatorn\u00e1t \u00e9s rendszeres visszacsatol\u00e1st is. Az emberi fel\u00fcgyelet tanult gyakorlat, nem puszta szerepk\u00f6r.<\/strong> Ha a munkat\u00e1rs nem tudja, mikor kell megk\u00e9rd\u0151jeleznie a modell kimenet\u00e9t, akkor a kontroll csak pap\u00edron l\u00e9tezik.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1s a g\u00e9pi tanul\u00e1s egyik leger\u0151sebb, de ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l egyik leg\u00e9rz\u00e9kenyebb form\u00e1ja. T\u00f6bbr\u00e9teg\u0171 neur\u00e1lis h\u00e1l\u00f3zatokkal dolgozik, amelyek k\u00e9pesek komplex mint\u00e1zatokat felismerni k\u00e9pekben, hangban, sz\u00f6vegben vagy nagy struktur\u00e1lt adathalmazokban. Ez magyar\u00e1zza, mi\u00e9rt haszn\u00e1lj\u00e1k p\u00e9ld\u00e1ul k\u00e9pfelismer\u00e9sben, term\u00e9szetesnyelv-feldolgoz\u00e1sban, anom\u00e1lia\u00e9szlel\u00e9sben vagy \u00f6sszetett el\u0151rejelz\u00e9si feladatokban.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1si modellek el\u0151nye, hogy gyakran olyan mint\u00e1zatokat is k\u00e9pesek kezelni, amelyeket hagyom\u00e1nyos szab\u00e1lyokkal neh\u00e9z lenne le\u00edrni. Ugyanez a tulajdons\u00e1g azonban ir\u00e1ny\u00edt\u00e1si kih\u00edv\u00e1st teremt. A nagy teljes\u00edtm\u00e9ny nem azonos a k\u00f6nny\u0171 magyar\u00e1zhat\u00f3s\u00e1ggal.<\/strong> A szervezetnek ez\u00e9rt nem csak azt kell tudnia, hogy a modell j\u00f3l teljes\u00edt, hanem azt is, milyen bizony\u00edt\u00e9kok t\u00e1masztj\u00e1k al\u00e1 ezt a teljes\u00edtm\u00e9nyt.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1sn\u00e1l k\u00fcl\u00f6n\u00f6sen fontos a valid\u00e1l\u00e1si terv. A modell tan\u00edt\u00e1s\u00e1hoz haszn\u00e1lt adatokt\u00f3l elk\u00fcl\u00f6n\u00edtett tesztadatokra van sz\u00fcks\u00e9g, \u00e9s indokolt lehet t\u00f6bbf\u00e9le tesztel\u00e9si helyzetet kialak\u00edtani. Nem el\u00e9g \u00e1tlagos pontoss\u00e1got m\u00e9rni; vizsg\u00e1lni kell sz\u00e9ls\u0151 eseteket, alcsoportokat, hibakateg\u00f3ri\u00e1kat \u00e9s olyan bemeneteket is, amelyek a val\u00f3s m\u0171k\u00f6d\u00e9sben ritk\u00e1n, de jelent\u0151s k\u00f6vetkezm\u00e9nnyel fordulhatnak el\u0151.<\/p>\n\n\n\n Ez k\u00fcl\u00f6n\u00f6sen akkor fontos, ha a m\u00e9lytanul\u00e1si modell magasabb hat\u00e1s\u00fa folyamatba ker\u00fcl. Egy min\u0151s\u00e9gellen\u0151rz\u0151 k\u00e9pfelismer\u0151 rendszer hib\u00e1ja gy\u00e1rt\u00e1si vesztes\u00e9get okozhat, egy biztons\u00e1gi rendszer t\u00e9ves jelz\u00e9se m\u0171k\u00f6d\u00e9si zavart v\u00e1lthat ki, egy eg\u00e9szs\u00e9g\u00fcgyi vagy p\u00e9nz\u00fcgyi k\u00f6rnyezetben haszn\u00e1lt modell pedig k\u00f6zvetlen emberi vagy jogi hat\u00e1ssal j\u00e1rhat. A hib\u00e1k s\u00falya a haszn\u00e1lati k\u00f6rnyezetb\u0151l sz\u00e1rmazik.<\/strong> Ugyanaz a technol\u00f3gia m\u00e1s kock\u00e1zati szintet k\u00e9pvisel egy bels\u0151 t\u00e1mogat\u00f3 folyamatban \u00e9s egy \u00fcgyf\u00e9lre hat\u00f3 d\u00f6nt\u00e9si helyzetben.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1si modellekn\u00e9l az \u00e1tl\u00e1that\u00f3s\u00e1got t\u00f6bb r\u00e9tegben kell \u00e9rtelmezni. Az els\u0151 r\u00e9teg a c\u00e9l \u00e1tl\u00e1that\u00f3s\u00e1ga: mire haszn\u00e1lj\u00e1k a rendszert, \u00e9s mire nem. A m\u00e1sodik az adatok \u00e1tl\u00e1that\u00f3s\u00e1ga: milyen adatforr\u00e1sb\u00f3l, milyen el\u0151k\u00e9sz\u00edt\u00e9ssel \u00e9s milyen korl\u00e1toz\u00e1sokkal dolgozik. A harmadik a teljes\u00edtm\u00e9ny \u00e1tl\u00e1that\u00f3s\u00e1ga: milyen m\u00e9r\u0151sz\u00e1mokkal igazolt\u00e1k a m\u0171k\u00f6d\u00e9st. A negyedik a m\u0171k\u00f6dtet\u00e9s \u00e1tl\u00e1that\u00f3s\u00e1ga: ki figyeli, ki avatkozhat be, \u00e9s milyen esem\u00e9ny v\u00e1lt ki fel\u00fclvizsg\u00e1latot.<\/p>\n\n\n\n A modell bels\u0151 m\u0171k\u00f6d\u00e9se nem mindig ford\u00edthat\u00f3 le egyszer\u0171 \u00fczleti mondatokra. Ez azonban nem menti fel a szervezetet az ellen\u0151rizhet\u0151s\u00e9g al\u00f3l. A magyar\u00e1zhat\u00f3s\u00e1g hi\u00e1nya nem lehet a fel\u00fcgyelet hi\u00e1nya.<\/strong> Ha a bels\u0151 logika nehezen \u00e9rtelmezhet\u0151, akkor m\u00e9g fontosabb\u00e1 v\u00e1lik a tesztel\u00e9si bizony\u00edt\u00e9k, a kontroll\u00e1lt bevezet\u00e9s, a felhaszn\u00e1l\u00e1si korl\u00e1t \u00e9s a monitoroz\u00e1si rendszer.<\/p>\n\n\n\n Az EU AI Act kock\u00e1zatalap\u00fa logik\u00e1ja is arra \u00e9p\u00edt, hogy az AI-rendszerek k\u00f6vetelm\u00e9nyei nem azonosak minden alkalmaz\u00e1si helyzetben. A rendelet AI-rendszerk\u00e9nt olyan g\u00e9pi alap\u00fa rendszert hat\u00e1roz meg, amely k\u00fcl\u00f6nb\u00f6z\u0151 auton\u00f3miaszintekkel m\u0171k\u00f6dik, \u00e9s kimenetei fizikai vagy virtu\u00e1lis k\u00f6rnyezetet befoly\u00e1solhatnak; ez a megk\u00f6zel\u00edt\u00e9s a kimenet \u00e9s a hat\u00e1s szerep\u00e9t emeli ki (European Parliament & Council of the European Union, 2024).<\/p>\n\n\n\n A m\u00e9lytanul\u00e1si modellek dokument\u00e1ci\u00f3j\u00e1nak ez\u00e9rt nem csak fejleszt\u0151i dokumentumnak kell lennie. Tartalmaznia kell olyan elemeket is, amelyeket compliance, audit, jogi, inform\u00e1ci\u00f3biztons\u00e1gi \u00e9s \u00fczleti szerepl\u0151k is \u00e9rtelmezni tudnak. Egy ir\u00e1ny\u00edt\u00e1si rendszerben a dokument\u00e1ci\u00f3 nem technikai napl\u00f3, hanem k\u00f6z\u00f6s kontrollnyelv.<\/p>\n\n\n\n A dokument\u00e1ci\u00f3s ig\u00e9nyek k\u00fcl\u00f6n\u00f6sen a k\u00f6vetkez\u0151 pontokon er\u0151sek:<\/p>\n\n\n\n modellc\u00e9l \u00e9s felhaszn\u00e1l\u00e1si korl\u00e1t;<\/p>\n\n\n\n tan\u00edt\u00f3- \u00e9s tesztadatok le\u00edr\u00e1sa;<\/p>\n\n\n\n teljes\u00edtm\u00e9nymutat\u00f3k \u00e9s hibakateg\u00f3ri\u00e1k;<\/p>\n\n\n\n ismert korl\u00e1tok \u00e9s alcsoportos teljes\u00edtm\u00e9ny;<\/p>\n\n\n\n v\u00e1ltoz\u00e1skezel\u00e9si szab\u00e1lyok;<\/p>\n\n\n\n \u00e9les m\u0171k\u00f6d\u00e9s monitoroz\u00e1sa;<\/p>\n\n\n\n incidens- \u00e9s visszavon\u00e1si elj\u00e1r\u00e1s.<\/p>\n\n\n\n Ezek k\u00f6z\u00fcl a v\u00e1ltoz\u00e1skezel\u00e9s gyakran alul\u00e9rt\u00e9kelt. Egy modell \u00fajratan\u00edt\u00e1sa, finomhangol\u00e1sa vagy adatforr\u00e1s\u00e1nak m\u00f3dos\u00edt\u00e1sa megv\u00e1ltoztathatja a teljes\u00edtm\u00e9nyt. A modellv\u00e1ltoz\u00e1s kontroll\u00e1latlanul \u00faj kock\u00e1zatot jelent.<\/strong> Ez\u00e9rt minden l\u00e9nyeges m\u00f3dos\u00edt\u00e1shoz \u00fajratesztel\u00e9sre, j\u00f3v\u00e1hagy\u00e1sra \u00e9s dokument\u00e1lt hat\u00e1svizsg\u00e1latra van sz\u00fcks\u00e9g.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1s eset\u00e9ben a besz\u00e1ll\u00edt\u00f3i kitetts\u00e9g is jelent\u0151s lehet. Sok szervezet nem saj\u00e1t maga fejleszti a modellt, hanem k\u00e9sz modellt, API-t, felh\u0151szolg\u00e1ltat\u00e1st vagy be\u00e9p\u00edtett AI-funkci\u00f3t haszn\u00e1l. Ilyenkor a szervezetnek nem biztos, hogy hozz\u00e1f\u00e9r a modell minden r\u00e9szlet\u00e9hez, de a haszn\u00e1lat kock\u00e1zat\u00e1\u00e9rt tov\u00e1bbra is felel\u0151s a saj\u00e1t folyamataiban.<\/p>\n\n\n\n A felel\u0151s m\u0171k\u00f6d\u00e9shez ez\u00e9rt besz\u00e1ll\u00edt\u00f3i k\u00e9rd\u00e9sekre is v\u00e1laszt kell adni. Milyen adat ker\u00fcl a szolg\u00e1ltat\u00f3hoz? Hogyan t\u00f6rt\u00e9nik a modellfriss\u00edt\u00e9s? Milyen szolg\u00e1ltat\u00e1si garancia van? El\u00e9rhet\u0151-e teljes\u00edtm\u00e9nydokument\u00e1ci\u00f3? Van-e incidens\u00e9rtes\u00edt\u00e9si rend? Tiszt\u00e1zott-e, hogy a bevitt adatok felhaszn\u00e1lhat\u00f3k-e tov\u00e1bbi tan\u00edt\u00e1sra?<\/p>\n\n\n\n A m\u00e9lytanul\u00e1s szervezeti tanuls\u00e1ga az, hogy a modell teljes\u00edtm\u00e9nye \u00f6nmag\u00e1ban kev\u00e9s. Az ellen\u0151rizhet\u0151s\u00e9g a teljes \u00e9letciklus tulajdons\u00e1ga.<\/strong> A tervez\u00e9s, adatkezel\u00e9s, tesztel\u00e9s, bevezet\u00e9s, monitoroz\u00e1s \u00e9s v\u00e1ltoz\u00e1skezel\u00e9s egy\u00fctt d\u00f6nti el, hogy a rendszer ir\u00e1ny\u00edthat\u00f3-e.<\/p>\n\n\n\n A nyelvi modellek ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l az\u00e9rt k\u00fcl\u00f6n\u00f6sen fontosak, mert term\u00e9szetes nyelven kommunik\u00e1lnak. Ez a felhaszn\u00e1l\u00f3k sz\u00e1m\u00e1ra k\u00e9nyelmes, de kock\u00e1zatos is: a sz\u00f6veg k\u00f6nnyen emberinek, magabiztosnak \u00e9s szak\u00e9rt\u0151inek t\u0171nik, m\u00e9g akkor is, ha a tartalma ellen\u0151rz\u00e9st ig\u00e9nyel. A nyelvi modell nem egyszer\u0171 keres\u0151motor, hanem sz\u00f6vegkimenetet el\u0151\u00e1ll\u00edt\u00f3 rendszer, amely a bemenet, a tanult mint\u00e1zatok \u00e9s az aktu\u00e1lis be\u00e1ll\u00edt\u00e1sok alapj\u00e1n gener\u00e1l v\u00e1laszt.<\/p>\n\n\n\n A tipikus kimenetek k\u00f6z\u00e9 tartozik az \u00f6sszefoglal\u00f3, v\u00e1lasztervezet, ford\u00edt\u00e1s, kategoriz\u00e1l\u00e1s, inform\u00e1ci\u00f3kinyer\u00e9s, \u00fcgyf\u00e9lszolg\u00e1lati v\u00e1lasz, dokumentumelemz\u00e9s vagy tud\u00e1sb\u00e1zis-alap\u00fa aj\u00e1nl\u00e1s. Ezek hasznos szervezeti k\u00e9pess\u00e9gek lehetnek, de nem azonos kontrollt ig\u00e9nyelnek. A nyelvi modell kimenete kommunik\u00e1ci\u00f3s cselekv\u00e9ss\u00e9 v\u00e1lhat.<\/strong> Ha egy v\u00e1lasz \u00fcgyf\u00e9lhez, vezet\u0151h\u00f6z, hat\u00f3s\u00e1ghoz vagy szerz\u0151d\u00e9ses partnerhez ker\u00fcl, akkor reput\u00e1ci\u00f3s, jogi \u00e9s m\u0171k\u00f6d\u00e9si hat\u00e1sa is lehet.<\/p>\n\n\n\n A nyelvi modellek egyik legfontosabb hibakock\u00e1zata a pontatlan vagy nem ellen\u0151rz\u00f6tt \u00e1ll\u00edt\u00e1s. A szakirodalomban r\u00e9g\u00f3ta jelen van az a kritika, hogy a nagy nyelvi modellek foly\u00e9kony sz\u00f6veget \u00e1ll\u00edthatnak el\u0151 an\u00e9lk\u00fcl, hogy a felhaszn\u00e1l\u00f3 sz\u00e1m\u00e1ra egy\u00e9rtelm\u0171 lenne a v\u00e1lasz megb\u00edzhat\u00f3s\u00e1ga, eredete vagy t\u00e1rsadalmi k\u00f6vetkezm\u00e9nye (Bender et al., 2021).<\/p>\n\n\n\n Ez nem azt jelenti, hogy a nyelvi modellek haszn\u00e1lhatatlanok. Azt jelenti, hogy a szervezetnek pontosan meg kell hat\u00e1roznia, milyen c\u00e9lra, milyen ellen\u0151rz\u00e9ssel \u00e9s milyen felel\u0151ss\u00e9gi rendben alkalmazhat\u00f3k. A foly\u00e9kony nyelv nem bizony\u00edt\u00e9k a helyess\u00e9gre.<\/strong> A felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9snek \u00e9s a folyamatkontrollnak ezt a k\u00fcl\u00f6nbs\u00e9get vil\u00e1gosan kezelnie kell.<\/p>\n\n\n\n A nyelvi modellek m\u00e1sik kock\u00e1zata a kontextust\u00e9veszt\u00e9s. Egy modell \u00e1ltal\u00e1nos nyelvi mint\u00e1zatok alapj\u00e1n adhat v\u00e1laszt, de a szervezet saj\u00e1t szab\u00e1lyzata, szerz\u0151d\u00e9ses k\u00f6telezetts\u00e9ge, ipar\u00e1gi gyakorlata vagy jogi helyzete ett\u0151l elt\u00e9rhet. Ha a modell nem a megfelel\u0151 tud\u00e1sb\u00e1zisra, friss dokumentumra vagy j\u00f3v\u00e1hagyott tartalomra t\u00e1maszkodik, akkor a v\u00e1lasz ak\u00e1r eleg\u00e1nsan megfogalmazott, de szervezetileg hib\u00e1s is lehet.<\/p>\n\n\n\n Ilyenkor a kontroll nem puszt\u00e1n technikai. Sz\u00fcks\u00e9g van j\u00f3v\u00e1hagyott tud\u00e1sforr\u00e1sokra, tartalmi felel\u0151s\u00f6kre, friss\u00edt\u00e9si rendre \u00e9s olyan felhaszn\u00e1l\u00e1si szab\u00e1lyra, amely megmondja, mikor k\u00f6telez\u0151 emberi ellen\u0151rz\u00e9s. A nyelvi modell csak annyira szervezeti tud\u00e1s, amennyire kontroll\u00e1lt a tud\u00e1sk\u00f6rnyezete.<\/strong> Ellenkez\u0151 esetben a rendszer keverheti az \u00e1ltal\u00e1nos mint\u00e1zatokat a konkr\u00e9t szervezeti elv\u00e1r\u00e1sokkal.<\/p>\n\n\n\n A harmadik kock\u00e1zat az adatbevitel. A munkat\u00e1rsak gyakran dokumentumokat, \u00fcgyf\u00e9linform\u00e1ci\u00f3kat, szerz\u0151d\u00e9sr\u00e9szleteket, bels\u0151 jelent\u00e9seket vagy szem\u00e9lyes adatokat m\u00e1solnak be nyelvi modellekbe. Ez inform\u00e1ci\u00f3biztons\u00e1gi, adatv\u00e9delmi \u00e9s szerz\u0151d\u00e9ses probl\u00e9m\u00e1kat vethet fel, k\u00fcl\u00f6n\u00f6sen k\u00fcls\u0151 szolg\u00e1ltat\u00e1s haszn\u00e1latakor.<\/p>\n\n\n\n Ez\u00e9rt a nyelvi modellekhez vil\u00e1gos adatkezel\u00e9si szab\u00e1ly sz\u00fcks\u00e9ges. Mit lehet bevinni? Mit tilos? Milyen anonimiz\u00e1l\u00e1s vagy kivonatol\u00e1s sz\u00fcks\u00e9ges? Milyen k\u00f6rnyezetben haszn\u00e1lhat\u00f3 \u00e9rz\u00e9keny adat? Ki hagyhat j\u00f3v\u00e1 kiv\u00e9telt? Ezek n\u00e9lk\u00fcl a nyelvi modell haszn\u00e1lata gyorsan \u00e1rny\u00e9kfolyamatt\u00e1 v\u00e1lik.<\/p>\n\n\n\n A negyedik kock\u00e1zat a felhaszn\u00e1l\u00f3i t\u00falzott bizalom. A munkat\u00e1rs id\u0151t takar\u00edt meg, a v\u00e1lasz j\u00f3l hangzik, a rendszer gyors, ez\u00e9rt a kimenet k\u00f6nnyen \u00e1tcs\u00faszhat ellen\u0151rz\u00e9s n\u00e9lk\u00fcl a folyamatba. A sebess\u00e9g n\u00f6veli a hib\u00e1k terjed\u00e9si k\u00e9pess\u00e9g\u00e9t.<\/strong> Min\u00e9l gyorsabban ker\u00fcl egy kimenet t\u00f6bb dokumentumba, \u00fcgyf\u00e9lv\u00e1laszba vagy d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u0151 anyagba, ann\u00e1l fontosabb a mintav\u00e9teles ellen\u0151rz\u00e9s \u00e9s a j\u00f3v\u00e1hagy\u00e1si szab\u00e1ly.<\/p>\n\n\n\n A nyelvi modellek kontrolljai ez\u00e9rt elt\u00e9rnek a klasszikus predikt\u00edv modellek kontrolljait\u00f3l. Egy pontoz\u00f3 modelln\u00e9l gyakran m\u00e9rhet\u0151 pontoss\u00e1gi mutat\u00f3kat keres\u00fcnk. Egy generat\u00edv nyelvi modelln\u00e9l a kimenet min\u0151s\u00e9g\u00e9t sokszor tartalmi megfelel\u0151s\u00e9g, t\u00e9nyszer\u0171s\u00e9g, st\u00edlus, forr\u00e1sh\u0171s\u00e9g, adatv\u00e9delmi megfelel\u00e9s \u00e9s felhaszn\u00e1l\u00e1si c\u00e9l szerint kell \u00e9rt\u00e9kelni.<\/p>\n\n\n\n A tesztel\u00e9s sor\u00e1n \u00e9rdemes mintak\u00e9rd\u00e9seket, tiltott haszn\u00e1lati helyzeteket, \u00e9rz\u00e9keny adatokat \u00e9rint\u0151 pr\u00f3b\u00e1kat \u00e9s hib\u00e1s bemeneteket is vizsg\u00e1lni. A c\u00e9l nem az, hogy a rendszer minden lehets\u00e9ges k\u00e9rd\u00e9sre t\u00f6k\u00e9letes v\u00e1laszt adjon, hanem az, hogy a szervezet ismerje a korl\u00e1tait. A j\u00f3 teszt nem csak sikert, hanem hibam\u00f3dot keres.<\/strong> A hibam\u00f3dok felt\u00e1r\u00e1sa seg\u00edt meghat\u00e1rozni a haszn\u00e1lati korl\u00e1tokat \u00e9s az emberi ellen\u0151rz\u00e9s pontjait.<\/p>\n\n\n\n A nyelvi modellek eset\u00e9ben a napl\u00f3z\u00e1s is \u00e9rz\u00e9keny k\u00e9rd\u00e9s. Egyr\u00e9szt sz\u00fcks\u00e9g lehet arra, hogy visszakereshet\u0151 legyen, milyen kimenet alapj\u00e1n k\u00e9sz\u00fclt egy d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u0151 anyag vagy \u00fcgyf\u00e9lv\u00e1lasz. M\u00e1sr\u00e9szt a napl\u00f3k maguk is tartalmazhatnak bizalmas vagy szem\u00e9lyes adatot. A szervezetnek ez\u00e9rt a napl\u00f3z\u00e1st adatv\u00e9delmi \u00e9s inform\u00e1ci\u00f3biztons\u00e1gi szempontb\u00f3l is meg kell terveznie.<\/p>\n\n\n\n A fel\u00fcgyeletnek a nyelvi modellekn\u00e9l gyakorlati szab\u00e1lyokk\u00e1 kell v\u00e1lnia. P\u00e9ld\u00e1ul:<\/p>\n\n\n\n \u00fcgyf\u00e9lnek k\u00fcld\u00f6tt v\u00e1lasz csak emberi j\u00f3v\u00e1hagy\u00e1ssal mehet ki;<\/p>\n\n\n\n jogi vagy compliance tartalomn\u00e1l k\u00f6telez\u0151 szak\u00e9rt\u0151i ellen\u0151rz\u00e9s;<\/p>\n\n\n\n szem\u00e9lyes adat csak j\u00f3v\u00e1hagyott k\u00f6rnyezetben haszn\u00e1lhat\u00f3;<\/p>\n\n\n\n d\u00f6nt\u00e9si indokl\u00e1st nem lehet kiz\u00e1r\u00f3lag generat\u00edv kimenetre \u00e9p\u00edteni;<\/p>\n\n\n\n a modell v\u00e1lasza nem helyettes\u00edti a hivatalos szervezeti dokumentumot.<\/p>\n\n\n\n A nyelvi modellek \u00e9rt\u00e9ke \u00e9ppen abban van, hogy gyors\u00edtj\u00e1k az \u00e9rtelmez\u00e9st, el\u0151k\u00e9sz\u00edt\u00e9st \u00e9s kommunik\u00e1ci\u00f3t. De a gyors\u00edt\u00e1s csak akkor felel\u0151s, ha nem t\u00f6rli el az ellen\u0151rz\u00e9si pontokat<\/strong>. Az AI ir\u00e1ny\u00edt\u00e1si rendszernek ezt a hat\u00e1rt kell vil\u00e1gosan megh\u00faznia.<\/p>\n\n\n\n Az AI-rendszerek ir\u00e1ny\u00edt\u00e1s\u00e1ban h\u00e1rom t\u00e9nyez\u0151t mindig egy\u00fctt kell l\u00e1tni: a tan\u00edt\u00f3adatot, a modellt \u00e9s a felhaszn\u00e1l\u00e1si kontextust. Ha ezek k\u00f6z\u00fcl b\u00e1rmelyik kimarad, a kock\u00e1zat\u00e9rt\u00e9kel\u00e9s hi\u00e1nyos lesz. A technol\u00f3gia ugyanis nem \u00f6nmag\u00e1ban kock\u00e1zatos vagy biztons\u00e1gos, hanem abban a k\u00f6rnyezetben, ahol m\u0171k\u00f6d\u00e9sbe ker\u00fcl.<\/p>\n\n\n\n A tan\u00edt\u00f3adat azt hat\u00e1rozza meg, milyen mint\u00e1zatokat l\u00e1tott a rendszer a tanul\u00e1s sor\u00e1n. A modell azt hat\u00e1rozza meg, hogyan alak\u00edtja ezeket a mint\u00e1zatokat kimenett\u00e9. A felhaszn\u00e1l\u00e1si kontextus pedig azt hat\u00e1rozza meg, milyen k\u00f6vetkezm\u00e9nye van a kimenetnek. Az AI-kock\u00e1zat e h\u00e1rom elem tal\u00e1lkoz\u00e1s\u00e1n\u00e1l keletkezik.<\/strong> Ez\u00e9rt a szervezeti kontrollnak is mindh\u00e1romra ki kell terjednie.<\/p>\n\n\n\n Egy g\u00e9pi tanul\u00e1si modell p\u00e9ld\u00e1ul m\u0171k\u00f6dhet technikailag j\u00f3l, de rossz \u00fczleti k\u00f6rnyezetbe ker\u00fclhet. Egy \u00fcgyf\u00e9lcsoportokra tan\u00edtott aj\u00e1nl\u00f3rendszer hasznos lehet marketingben, de \u00e9rz\u00e9kenyebb lehet, ha p\u00e9nz\u00fcgyi hozz\u00e1f\u00e9r\u00e9st vagy kedvezm\u00e9nyeket befoly\u00e1sol. Ugyanaz a modell m\u00e1s k\u00f6vetkezm\u00e9nyekkel j\u00e1r att\u00f3l f\u00fcgg\u0151en, hogy inform\u00e1ci\u00f3t ad, rangsorol, d\u00f6nt\u00e9st t\u00e1mogat vagy automatiz\u00e1lt l\u00e9p\u00e9st ind\u00edt.<\/p>\n\n\n\n A kontextus teh\u00e1t nem h\u00e1tt\u00e9rinform\u00e1ci\u00f3. A felhaszn\u00e1l\u00e1si helyzet adja a modell val\u00f3di kock\u00e1zati s\u00faly\u00e1t.<\/strong> Egy bels\u0151 seg\u00e9deszk\u00f6z, egy \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3s rendszer \u00e9s egy joghat\u00e1ssal j\u00e1r\u00f3 d\u00f6nt\u00e9st\u00e1mogat\u00f3 megold\u00e1s elt\u00e9r\u0151 ir\u00e1ny\u00edt\u00e1si szintet ig\u00e9nyelhet, m\u00e9g akkor is, ha hasonl\u00f3 technol\u00f3gi\u00e1ra \u00e9p\u00fcl.<\/p>\n\n\n\n A tan\u00edt\u00f3adatn\u00e1l k\u00fcl\u00f6n\u00f6sen fontos az eredet, a jogszer\u0171s\u00e9g, a min\u0151s\u00e9g \u00e9s a reprezentativit\u00e1s. A modelln\u00e9l a teljes\u00edtm\u00e9ny, az ismert korl\u00e1tok, a v\u00e1ltoz\u00e1skezel\u00e9s \u00e9s az ellen\u0151rizhet\u0151s\u00e9g sz\u00e1m\u00edt. A kontextusn\u00e1l az \u00e9rintettek, a d\u00f6nt\u00e9si hat\u00e1s, az emberi fel\u00fcgyelet \u00e9s a hiba k\u00f6vetkezm\u00e9nye ker\u00fcl el\u0151t\u00e9rbe.<\/p>\n\n\n\n A h\u00e1rom elem \u00f6sszekapcsol\u00e1sa seg\u00edt elker\u00fclni a t\u00fal technikai kock\u00e1zatkezel\u00e9st. Egy AI ir\u00e1ny\u00edt\u00e1si rendszer nem csak azt k\u00e9rdezi, milyen algoritmust haszn\u00e1ltak, hanem azt is, hogy a rendszer milyen \u00fczleti probl\u00e9m\u00e1t old meg, milyen d\u00f6nt\u00e9sbe \u00e9p\u00fcl be, \u00e9s milyen \u00e9rintetti hat\u00e1ssal j\u00e1r. Az algoritmus ismerete \u00f6nmag\u00e1ban nem el\u00e9g a felel\u0151s ir\u00e1ny\u00edt\u00e1shoz.<\/strong> A szervezetnek a teljes m\u0171k\u00f6d\u00e9si l\u00e1ncot kell \u00e9rtenie.<\/p>\n\n\n\n Ezt a szeml\u00e9letet a NIST AI RMF is t\u00e1mogatja, amikor az AI-rendszerek kock\u00e1zatkezel\u00e9s\u00e9t kontextushoz k\u00f6t\u00f6tt folyamatk\u00e9nt kezeli. A keretrendszer govern, map, measure \u00e9s manage funkci\u00f3i arra k\u00e9sztetik a szervezetet, hogy el\u0151sz\u00f6r felt\u00e9rk\u00e9pezze a haszn\u00e1lati helyzetet, majd m\u00e9rje, kezelje \u00e9s ir\u00e1ny\u00edtsa a kock\u00e1zatokat (NIST, 2023).<\/p>\n\n\n\n A tan\u00edt\u00f3adat, modell \u00e9s kontextus kapcsolat\u00e1t \u00e9rdemes m\u00e1r az AI-nyilv\u00e1ntart\u00e1sban megjelen\u00edteni. Egy j\u00f3 nyilv\u00e1ntart\u00e1s nemcsak azt tartalmazza, hogy \u201emilyen modellr\u0151l\u201d van sz\u00f3, hanem azt is, hogy milyen adatb\u00f3l dolgozik, milyen kimenetet ad, ki haszn\u00e1lja, mire haszn\u00e1lja, \u00e9s milyen kontroll kapcsol\u00f3dik hozz\u00e1.<\/p>\n\n\n\n Ez k\u00fcl\u00f6n\u00f6sen fontos besz\u00e1ll\u00edt\u00f3i rendszerekn\u00e9l. Ha a szervezet nem l\u00e1tja a tan\u00edt\u00f3adatot vagy a modell bels\u0151 m\u0171k\u00f6d\u00e9s\u00e9t, akkor a kontextus- \u00e9s kimenetalap\u00fa kontrollok m\u00e9g fontosabb\u00e1 v\u00e1lnak. A korl\u00e1tozott technikai r\u00e1l\u00e1t\u00e1s er\u0151sebb szervezeti kontrollt ig\u00e9nyel.<\/strong> Ilyenkor a szerz\u0151d\u00e9ses felt\u00e9telek, szolg\u00e1ltat\u00f3i dokument\u00e1ci\u00f3, teljes\u00edtm\u00e9nyteszt, felhaszn\u00e1l\u00e1si korl\u00e1t \u00e9s incidensfolyamat v\u00e1lik meghat\u00e1roz\u00f3v\u00e1.<\/p>\n\n\n\n A felhaszn\u00e1l\u00e1si kontextus v\u00e1ltoz\u00e1sa \u00faj kock\u00e1zatot is teremthet. Egy modell eredetileg bels\u0151 riportol\u00e1sra k\u00e9sz\u00fclt, majd k\u00e9s\u0151bb \u00fcgyf\u00e9laj\u00e1nlatokban kezdik haszn\u00e1lni. Egy chatbot el\u0151sz\u00f6r munkat\u00e1rsi seg\u00e9deszk\u00f6z volt, majd \u00fcgyfelek is el\u00e9rik. Egy el\u0151rejelz\u0151 rendszer kor\u00e1bban tan\u00e1csad\u00f3 szerepet t\u00f6lt\u00f6tt be, k\u00e9s\u0151bb automatikus munkafolyamatot ind\u00edt.<\/p>\n\n\n\n Ezek a v\u00e1ltoz\u00e1sok nem puszt\u00e1n \u00fczleti b\u0151v\u00edt\u00e9sek. Ir\u00e1ny\u00edt\u00e1si \u00fajra\u00e9rt\u00e9kel\u00e9st ig\u00e9nyelnek. A haszn\u00e1lati c\u00e9l megv\u00e1ltoz\u00e1sa modellkock\u00e1zati esem\u00e9ny.<\/strong> Ha a c\u00e9l, az \u00e9rintetti k\u00f6r vagy a d\u00f6nt\u00e9si hat\u00e1s v\u00e1ltozik, a kor\u00e1bbi tesztel\u00e9s \u00e9s j\u00f3v\u00e1hagy\u00e1s m\u00e1r nem felt\u00e9tlen\u00fcl elegend\u0151.<\/p>\n\n\n\n A gyakorlati kontroll ez\u00e9rt a k\u00f6vetkez\u0151 k\u00e9rd\u00e9sekre \u00e9p\u00fclhet:<\/p>\n\n\n\n Milyen adatokb\u00f3l tanult vagy milyen adatokra t\u00e1maszkodik a rendszer?<\/p>\n\n\n\n Milyen modell- vagy technol\u00f3giat\u00edpus m\u0171k\u00f6dik a h\u00e1tt\u00e9rben?<\/p>\n\n\n\n Milyen kimenetet \u00e1ll\u00edt el\u0151?<\/p>\n\n\n\n Ki haszn\u00e1lja ezt a kimenetet?<\/p>\n\n\n\n Milyen d\u00f6nt\u00e9st, folyamatot vagy kommunik\u00e1ci\u00f3t befoly\u00e1sol?<\/p>\n\n\n\n Mi t\u00f6rt\u00e9nik, ha a kimenet hib\u00e1s?<\/p>\n\n\n\n Mikor kell \u00fajra\u00e9rt\u00e9kelni a rendszert?<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek egyszer\u0171ek, de szervezetileg er\u0151sek. K\u00e9pesek \u00f6sszek\u00f6tni az IT, compliance, jogi, inform\u00e1ci\u00f3biztons\u00e1gi, min\u0151s\u00e9g\u00fcgyi \u00e9s \u00fczleti szerepl\u0151k gondolkod\u00e1s\u00e1t. A c\u00e9l nem az, hogy mindenki technol\u00f3guss\u00e1 v\u00e1ljon, hanem az, hogy minden \u00e9rintett \u00e9rtse saj\u00e1t felel\u0151ss\u00e9gi pontj\u00e1t.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer akkor m\u0171k\u00f6dik j\u00f3l, ha a technol\u00f3giai k\u00fcl\u00f6nbs\u00e9gek konkr\u00e9t ir\u00e1ny\u00edt\u00e1si kontrollokban jelennek meg. Nem minden AI-rendszer ig\u00e9nyel azonos m\u00e9lys\u00e9g\u0171 valid\u00e1ci\u00f3t, magyar\u00e1zatot vagy fel\u00fcgyeletet, de minden AI-rendszerhez ar\u00e1nyos kontrollt kell rendelni. Az ar\u00e1nyoss\u00e1g azt jelenti, hogy a kontroll s\u00falya igazodik a rendszer technol\u00f3gi\u00e1j\u00e1hoz, kimenet\u00e9hez \u00e9s hat\u00e1s\u00e1hoz.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1si modellekn\u00e9l a kontrollok k\u00f6z\u00e9ppontj\u00e1ban \u00e1ltal\u00e1ban az adatmin\u0151s\u00e9g, a teljes\u00edtm\u00e9nym\u00e9r\u00e9s, a hibaar\u00e1ny, a driftfigyel\u00e9s \u00e9s a d\u00f6nt\u00e9si hat\u00e1s \u00e1ll. Egy oszt\u00e1lyoz\u00f3 vagy pontoz\u00f3 modell eset\u00e9ben tudni kell, hogyan teljes\u00edt a modell k\u00fcl\u00f6nb\u00f6z\u0151 esetekben, milyen hib\u00e1k jellemz\u0151ek, \u00e9s ki jogosult fel\u00fclb\u00edr\u00e1lni a kimenetet. A pontsz\u00e1m csak akkor hasznos, ha ismert a bizonytalans\u00e1ga.<\/strong> Ez\u00e9rt a felhaszn\u00e1l\u00f3k sz\u00e1m\u00e1ra nem csak az eredm\u00e9nyt, hanem annak \u00e9rtelmez\u00e9si korl\u00e1tait is vil\u00e1goss\u00e1 kell tenni.<\/p>\n\n\n\n A m\u00e9lytanul\u00e1si modellekn\u00e9l er\u0151sebb hangs\u00falyt kap a valid\u00e1l\u00e1si bizony\u00edt\u00e9k, az alcsoportos tesztel\u00e9s, a robusztuss\u00e1g, a v\u00e1ltoz\u00e1skezel\u00e9s \u00e9s a monitoroz\u00e1s. Ha a modell bels\u0151 logik\u00e1ja nehezen magyar\u00e1zhat\u00f3, akkor a szervezetnek m\u00e1s m\u00f3don kell bizony\u00edtania, hogy a m\u0171k\u00f6d\u00e9s megfelel\u0151en kontroll\u00e1lt. A bizony\u00edt\u00e9k nem mindig magyar\u00e1zat, de mindig ir\u00e1ny\u00edt\u00e1si sz\u00fcks\u00e9glet.<\/strong> A teszteredm\u00e9nyek, elfogad\u00e1si krit\u00e9riumok \u00e9s fel\u00fcgyeleti napl\u00f3k ilyenkor k\u00fcl\u00f6n\u00f6sen fontosak.<\/p>\n\n\n\n A nyelvi modellekn\u00e9l a kontrollok m\u00e1s jelleg\u0171ek. Itt nemcsak pontoss\u00e1got kell vizsg\u00e1lni, hanem tartalmi megfelel\u0151s\u00e9get, forr\u00e1sh\u0171s\u00e9get, adatv\u00e9delmi kock\u00e1zatot, kommunik\u00e1ci\u00f3s hat\u00e1st \u00e9s emberi j\u00f3v\u00e1hagy\u00e1si pontokat is. Egy nyelvi modelln\u00e9l a hib\u00e1s kimenet nem felt\u00e9tlen\u00fcl sz\u00e1mszer\u0171 t\u00e9ved\u00e9s; lehet f\u00e9lrevezet\u0151 megfogalmaz\u00e1s, hi\u00e1nyz\u00f3 korl\u00e1toz\u00e1s, rossz hangnem vagy nem j\u00f3v\u00e1hagyott \u00e1ll\u00edt\u00e1s is.<\/p>\n\n\n\n Ez\u00e9rt a nyelvi modellek kontrollja tartalmi \u00e9s folyamatkontroll egyszerre<\/strong>. Nem el\u00e9g technikai tesztet futtatni; azt is meg kell hat\u00e1rozni, milyen sz\u00f6veg mehet ki \u00fcgyf\u00e9lnek, milyen v\u00e1lasz ig\u00e9nyel szak\u00e9rt\u0151i ellen\u0151rz\u00e9st, \u00e9s mikor kell megtiltani a modell \u00f6n\u00e1ll\u00f3 haszn\u00e1lat\u00e1t.<\/p>\n\n\n\n Az al\u00e1bbi t\u00e1bl\u00e1zat \u00f6sszefoglalja a technol\u00f3giat\u00edpus \u00e9s az ir\u00e1ny\u00edt\u00e1si kontroll kapcsolat\u00e1t:<\/p>\n\n\n\n Technol\u00f3giat\u00edpus<\/p>\n\n\n\n Tipikus kimenet<\/p>\n\n\n\n F\u0151 ir\u00e1ny\u00edt\u00e1si kock\u00e1zat<\/p>\n\n\n\n Jellemz\u0151 kontroll<\/p>\n\n\n\n G\u00e9pi tanul\u00e1s<\/p>\n\n\n\n pontsz\u00e1m, el\u0151rejelz\u00e9s, besorol\u00e1s<\/p>\n\n\n\n hib\u00e1s minta, adatdrift, t\u00falzott bizalom<\/p>\n\n\n\n adatmin\u0151s\u00e9g, teljes\u00edtm\u00e9nym\u00e9r\u00e9s, \u00fajratesztel\u00e9s<\/p>\n\n\n\n M\u00e9lytanul\u00e1s<\/p>\n\n\n\n k\u00e9pfelismer\u00e9s, komplex oszt\u00e1lyoz\u00e1s, el\u0151rejelz\u00e9s<\/p>\n\n\n\n neh\u00e9z magyar\u00e1zhat\u00f3s\u00e1g, rejtett hibam\u00f3d<\/p>\n\n\n\n valid\u00e1l\u00e1si terv, robusztuss\u00e1gi teszt, monitoroz\u00e1s<\/p>\n\n\n\n Nyelvi modell<\/p>\n\n\n\n sz\u00f6veg, \u00f6sszefoglal\u00f3, v\u00e1lasz, javaslat<\/p>\n\n\n\n pontatlan vagy f\u00e9lrevezet\u0151 tartalom, adatbevitel<\/p>\n\n\n\n haszn\u00e1lati szab\u00e1ly, emberi j\u00f3v\u00e1hagy\u00e1s, tartalmi ellen\u0151rz\u00e9s<\/p>\n\n\n\n A t\u00e1bl\u00e1zat nem helyettes\u00edti a r\u00e9szletes kock\u00e1zat\u00e9rt\u00e9kel\u00e9st, de j\u00f3 kiindul\u00f3pontot ad. Seg\u00edt abban, hogy a szervezet ne egyetlen \u00e1ltal\u00e1nos AI-ellen\u0151rz\u0151 list\u00e1t alkalmazzon mindenre. Az egys\u00e9ges keret nem jelent egys\u00e9ges kontrollm\u00e9lys\u00e9get.<\/strong> A menedzsmentrendszer adhat k\u00f6z\u00f6s logik\u00e1t, de a kontrollokat a technol\u00f3gia \u00e9s a hat\u00e1s alapj\u00e1n kell finomhangolni.<\/p>\n\n\n\n A dokument\u00e1ci\u00f3s ig\u00e9nyek is elt\u00e9rnek. Egy g\u00e9pi tanul\u00e1si modelln\u00e9l r\u00e9szletesen kell dokument\u00e1lni az adatforr\u00e1sokat, a teljes\u00edtm\u00e9nymutat\u00f3kat \u00e9s a driftfigyel\u00e9st. Egy m\u00e9lytanul\u00e1si rendszern\u00e9l fontosabb lehet a valid\u00e1l\u00e1si terv, az ismert korl\u00e1tok, a tesztk\u00f6rnyezet \u00e9s a v\u00e1ltoz\u00e1skezel\u00e9s. Egy nyelvi modelln\u00e9l pedig a haszn\u00e1lati \u00fatmutat\u00f3, tiltott felhaszn\u00e1l\u00e1si esetek, j\u00f3v\u00e1hagy\u00e1si szab\u00e1lyok \u00e9s tartalmi min\u0151s\u00e9gellen\u0151rz\u00e9s ker\u00fcl el\u0151t\u00e9rbe.<\/p>\n\n\n\n A tesztel\u00e9sn\u00e9l ugyanez a logika \u00e9rv\u00e9nyes. G\u00e9pi tanul\u00e1sn\u00e1l m\u00e9r\u0151sz\u00e1mokra \u00e9s hibaar\u00e1nyokra \u00e9p\u00fcl\u0151 valid\u00e1ci\u00f3 sz\u00fcks\u00e9ges. M\u00e9lytanul\u00e1sn\u00e1l stressztesztekre, sz\u00e9ls\u0151 esetekre \u00e9s m\u0171k\u00f6d\u00e9si stabilit\u00e1sra is figyelni kell. Nyelvi modellekn\u00e9l tipikus k\u00e9rd\u00e9ssorok, vesz\u00e9lyes bemenetek, adatv\u00e9delmi pr\u00f3b\u00e1k \u00e9s tartalmi \u00e9rt\u00e9kel\u00e9s adhat megb\u00edzhat\u00f3bb k\u00e9pet.<\/p>\n\n\n\n A fel\u00fcgyelet technol\u00f3giat\u00edpusonk\u00e9nt szint\u00e9n elt\u00e9r\u0151. G\u00e9pi tanul\u00e1sn\u00e1l a modell teljes\u00edtm\u00e9ny\u00e9t \u00e9s driftj\u00e9t kell figyelni. M\u00e9lytanul\u00e1sn\u00e1l a hibam\u00f3dokat, \u00fajratan\u00edt\u00e1st \u00e9s m\u0171k\u00f6d\u00e9si k\u00f6rnyezetet. Nyelvi modellekn\u00e9l a felhaszn\u00e1l\u00f3i gyakorlatot, adatbevitelt, v\u00e1laszmin\u0151s\u00e9get \u00e9s j\u00f3v\u00e1hagy\u00e1si fegyelmet.<\/p>\n\n\n\n Ez\u00e9rt a fel\u00fcgyelet nem egyetlen kontrollpont, hanem \u00e9letciklus-szint\u0171 m\u0171k\u00f6d\u00e9s<\/strong>. A bevezet\u00e9s el\u0151tti tesztel\u00e9s, az \u00e9les m\u0171k\u00f6d\u00e9s monitoroz\u00e1sa, a felhaszn\u00e1l\u00f3i visszajelz\u00e9s, az incidensjelent\u00e9s \u00e9s az id\u0151szakos fel\u00fclvizsg\u00e1lat egy\u00fctt adja az AI-rendszer ir\u00e1ny\u00edthat\u00f3s\u00e1g\u00e1t.<\/p>\n\n\n\n A gyakorlati feladat egyszer\u0171en elv\u00e9gezhet\u0151 b\u00e1rmely szervezetben. V\u00e1lasszunk ki egy AI-alap\u00fa \u00fczleti alkalmaz\u00e1st, p\u00e9ld\u00e1ul \u00fcgyf\u00e9lszolg\u00e1lati asszisztenst, predikt\u00edv \u00e9rt\u00e9kes\u00edt\u00e9si modellt, dokumentumfeldolgoz\u00f3 eszk\u00f6zt vagy min\u0151s\u00e9gellen\u0151rz\u0151 rendszert. Ezut\u00e1n hat\u00e1rozzuk meg, hogy ink\u00e1bb g\u00e9pi tanul\u00e1si, m\u00e9lytanul\u00e1si vagy nyelvi modell jelleg\u0171 m\u0171k\u00f6d\u00e9st felt\u00e9telez\u00fcnk-e m\u00f6g\u00f6tte.<\/p>\n\n\n\n A k\u00f6vetkez\u0151 l\u00e9p\u00e9sben nevezz\u00fcnk meg legal\u00e1bb k\u00e9t ir\u00e1ny\u00edt\u00e1si kock\u00e1zatot. Egy \u00fcgyf\u00e9lszolg\u00e1lati nyelvi modelln\u00e9l ilyen lehet a pontatlan v\u00e1lasz \u00e9s a bizalmas adat bevitele. Egy predikt\u00edv \u00e9rt\u00e9kes\u00edt\u00e9si modelln\u00e9l ilyen lehet az elavult tan\u00edt\u00f3adat \u00e9s a t\u00falzott \u00fczleti t\u00e1maszkod\u00e1s. Egy k\u00e9pfelismer\u0151 m\u00e9lytanul\u00e1si rendszern\u00e9l ilyen lehet a nehezen magyar\u00e1zhat\u00f3 hiba \u00e9s a v\u00e1ltoz\u00f3 bemeneti k\u00f6rnyezet.<\/p>\n\n\n\n A feladat akkor hasznos, ha a technol\u00f3giai t\u00edpusb\u00f3l konkr\u00e9t kontrollig\u00e9ny k\u00f6vetkezik. P\u00e9ld\u00e1ul:<\/p>\n\n\n\n nyelvi modelln\u00e9l emberi j\u00f3v\u00e1hagy\u00e1s \u00e9s tiltott adatbevitel szab\u00e1lyoz\u00e1sa;<\/p>\n\n\n\n g\u00e9pi tanul\u00e1si modelln\u00e9l teljes\u00edtm\u00e9nym\u00e9r\u00e9s \u00e9s driftmonitoroz\u00e1s;<\/p>\n\n\n\n m\u00e9lytanul\u00e1si modelln\u00e9l valid\u00e1l\u00e1si terv \u00e9s v\u00e1ltoz\u00e1skezel\u00e9s;<\/p>\n\n\n\n \u00fcgyf\u00e9lhat\u00e1s eset\u00e9n panasz\u00fat \u00e9s visszakereshet\u0151 d\u00f6nt\u00e9si nyomvonal;<\/p>\n\n\n\n besz\u00e1ll\u00edt\u00f3i megold\u00e1s eset\u00e9n szerz\u0151d\u00e9ses \u00e9s inform\u00e1ci\u00f3biztons\u00e1gi ellen\u0151rz\u00e9s.<\/p>\n\n\n\n Ezzel v\u00e1lik a technol\u00f3giai tud\u00e1s ir\u00e1ny\u00edt\u00e1si tud\u00e1ss\u00e1. A c\u00e9l nem a modellek m\u00e9ly matematikai meg\u00e9rt\u00e9se, hanem a felel\u0151s d\u00f6nt\u00e9si k\u00e9pess\u00e9g.<\/strong> Egy min\u0151s\u00e9g\u00fcgyi, compliance, jogi, IT, inform\u00e1ci\u00f3biztons\u00e1gi vagy \u00fczleti vezet\u0151nek nem kell minden algoritmust r\u00e9szleteiben fejlesztenie, de tudnia kell, milyen kontrollk\u00e9rd\u00e9st kell feltennie.<\/p>\n\n\n\n A technol\u00f3giat\u00edpusok k\u00f6z\u00f6tti k\u00fcl\u00f6nbs\u00e9g v\u00e9gs\u0151 soron abban seg\u00edt, hogy a szervezet ne \u00e1ltal\u00e1noss\u00e1gban besz\u00e9ljen az AI-r\u00f3l. A g\u00e9pi tanul\u00e1sn\u00e1l az adatb\u00f3l tanult mint\u00e1zatokat kell fel\u00fcgyelni. A m\u00e9lytanul\u00e1sn\u00e1l a komplex modellstrukt\u00far\u00e1k bizony\u00edthat\u00f3 m\u0171k\u00f6d\u00e9s\u00e9t kell kontroll\u00e1lni. A nyelvi modellekn\u00e9l a sz\u00f6veges kimenetek szervezeti hat\u00e1s\u00e1t kell kezelni.<\/p>\n\n\n\n Egy \u00e9rett AI ir\u00e1ny\u00edt\u00e1si rendszer nem \u00e1ll\u00edtja, hogy minden kock\u00e1zat el\u0151re t\u00f6k\u00e9letesen megsz\u00fcntethet\u0151. Azt viszont el\u00e9ri, hogy a szervezet tudja, milyen technol\u00f3gi\u00e1t haszn\u00e1l, milyen kimenetet kap, milyen d\u00f6nt\u00e9shez kapcsolja, milyen korl\u00e1tokkal sz\u00e1mol, \u00e9s milyen kontrollal avatkozik be. Ez a felel\u0151s AI-ir\u00e1ny\u00edt\u00e1s gyakorlati alapja: a technol\u00f3giai k\u00fcl\u00f6nbs\u00e9gekb\u0151l vil\u00e1gos szervezeti felel\u0151ss\u00e9gek k\u00f6vetkeznek.<\/p>\n\n\n\n NIST AI Risk Management Framework: https:\/\/www.nist.gov\/itl\/ai-risk-management-framework<\/p>\n\n\n\n ISO\/IEC 42001:2023 \u00e1ttekint\u00e9s: https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n EU AI Act teljes sz\u00f6veg: https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj\/eng<\/p>\n\n\n\n Deep Learning Book: https:\/\/www.deeplearningbook.org<\/p>\n\n\n\n 3Blue1Brown \u2013 But what is a neural network?: https:\/\/www.youtube.com\/watch?v=aircAruvnKk<\/p>\n\n\n\n Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610\u2013623<\/em>. https:\/\/doi.org\/10.1145\/3442188.3445922<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep learning<\/em>. MIT Press. https:\/\/www.deeplearningbook.org<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n Mitchell, T. M. (1997). Machine learning<\/em>. McGraw-Hill. https:\/\/www.cs.cmu.edu\/~tom\/mlbook.html<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\nA g\u00e9pi tanul\u00e1s szervezeti m\u0171k\u00f6d\u00e9si logik\u00e1ja<\/h2>\n\n\n\n
M\u00e9lytanul\u00e1s: teljes\u00edtm\u00e9ny \u00e9s ellen\u0151rizhet\u0151s\u00e9g<\/h2>\n\n\n\n
Nyelvi modellek: kimenetek \u00e9s hibakock\u00e1zatok<\/h2>\n\n\n\n
Tan\u00edt\u00f3adat, modell \u00e9s felhaszn\u00e1l\u00e1si kontextus<\/h2>\n\n\n\n
Kontrollok technol\u00f3giat\u00edpus szerint<\/h2>\n\n\n\n
Tov\u00e1bbi olvasnival\u00f3<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n