Egy szervezetben a mesters\u00e9ges intelligencia ritk\u00e1n ott v\u00e1lik val\u00f3di k\u00e9rd\u00e9ss\u00e9, ahol el\u0151sz\u00f6r beszereznek egy \u00faj eszk\u00f6zt. A d\u00f6nt\u0151 pillanat ink\u00e1bb akkor \u00e9rkezik el, amikor az AI kimenete m\u00e1r emberek munk\u00e1j\u00e1t, \u00fcgyf\u00e9l\u00e9lm\u00e9nyt, \u00fczleti d\u00f6nt\u00e9st, megfelel\u0151s\u00e9gi kock\u00e1zatot vagy inform\u00e1ci\u00f3biztons\u00e1gi helyzetet befoly\u00e1sol.<\/p>\n\n\n\n
Ez\u00e9rt az AI ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l nem egyszer\u0171en technol\u00f3giai c\u00edmke. Egy v\u00e1llalati, k\u00f6zint\u00e9zm\u00e9nyi vagy szolg\u00e1ltat\u00f3i k\u00f6rnyezetben azt kell meg\u00e9rteni, hogy az adott rendszer milyen adatokat haszn\u00e1l, milyen kimenetet \u00e1ll\u00edt el\u0151, ki t\u00e1maszkodik erre a kimenetre, \u00e9s milyen k\u00f6vetkezm\u00e9nye lehet annak, ha a rendszer pontatlanul, elfogultan, \u00e1tl\u00e1thatatlanul vagy nem megfelel\u0151en m\u0171k\u00f6dik.<\/p>\n\n\n\n
Az ISO\/IEC 42001 alap\u00fa AI ir\u00e1ny\u00edt\u00e1si rendszer c\u00e9lja \u00e9ppen ez: az AI-t ne alkalmi innov\u00e1ci\u00f3k\u00e9nt, hanem ir\u00e1ny\u00edthat\u00f3 szervezeti k\u00e9pess\u00e9gk\u00e9nt kezelje. Az ISO\/IEC 42001 az AI ir\u00e1ny\u00edt\u00e1si rendszert olyan, egym\u00e1ssal \u00f6sszef\u00fcgg\u0151 szervezeti elemek rendszerek\u00e9nt \u00edrja le, amely politik\u00e1k, c\u00e9lok \u00e9s folyamatok r\u00e9v\u00e9n t\u00e1mogatja az AI-rendszerek felel\u0151s fejleszt\u00e9s\u00e9t, biztos\u00edt\u00e1s\u00e1t vagy haszn\u00e1lat\u00e1t (International Organization for Standardization [ISO], 2023).<\/p>\n\n\n\n
A mesters\u00e9ges intelligencia szervezeti meghat\u00e1roz\u00e1sakor nem az a legjobb kiindul\u00f3pont, hogy egy eszk\u00f6z mennyire \u201eokosnak\u201d t\u0171nik. Enn\u00e9l hasznosabb k\u00e9rd\u00e9s, hogy a rendszer adatokb\u00f3l, szab\u00e1lyokb\u00f3l vagy modellekb\u0151l milyen k\u00f6vetkeztet\u00e9st, javaslatot, el\u0151rejelz\u00e9st, tartalmat vagy d\u00f6nt\u00e9si kimenetet \u00e1ll\u00edt el\u0151.<\/p>\n\n\n\n
Az EU AI Act meghat\u00e1roz\u00e1sa szerint az AI-rendszer g\u00e9pi alap\u00fa rendszer, amely v\u00e1ltoz\u00f3 auton\u00f3mi\u00e1val m\u0171k\u00f6dik, a bevezet\u00e9s ut\u00e1n adaptivit\u00e1st mutathat, \u00e9s bemenetekb\u0151l olyan kimeneteket \u00e1ll\u00edt el\u0151, mint el\u0151rejelz\u00e9sek, tartalmak, aj\u00e1nl\u00e1sok vagy d\u00f6nt\u00e9sek, amelyek fizikai vagy virtu\u00e1lis k\u00f6rnyezetet befoly\u00e1solhatnak (European Parliament & Council of the European Union, 2024).<\/p>\n\n\n\n
Ez a meghat\u00e1roz\u00e1s vezet\u00e9si szempontb\u00f3l k\u00fcl\u00f6n\u00f6sen fontos. Nem csak a fejlett g\u00e9pi tanul\u00e1si modellekre ir\u00e1ny\u00edtja r\u00e1 a figyelmet, hanem minden olyan m\u0171k\u00f6d\u00e9sre, ahol a rendszer kimenete \u00fczleti, jogi, biztons\u00e1gi vagy emberi k\u00f6vetkezm\u00e9nnyel j\u00e1rhat. Egy spamfilter, egy \u00fcgyf\u00e9lszolg\u00e1lati chatbot, egy hitelk\u00e9pess\u00e9gi pontoz\u00f3 rendszer, egy munkaer\u0151-felv\u00e9teli el\u0151sz\u0171r\u0151 vagy egy predikt\u00edv karbantart\u00e1si modell m\u00e1s-m\u00e1s kock\u00e1zati profilt k\u00e9pvisel, de mindegyik eset\u00e9ben felmer\u00fclhet az ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9s.<\/p>\n\n\n\n
A szervezeti ir\u00e1ny\u00edt\u00e1sban ez\u00e9rt az AI nem technol\u00f3giai c\u00edmke, hanem hat\u00e1svizsg\u00e1lati k\u00e9rd\u00e9s<\/strong>. Egy rendszer akkor v\u00e1lik ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l jelent\u0151ss\u00e9, ha kimenete be\u00e9p\u00fcl a folyamatokba, d\u00f6nt\u00e9sekbe, \u00fcgyf\u00e9linterakci\u00f3kba vagy ellen\u0151rz\u00e9si mechanizmusokba.<\/p>\n\n\n\n A NIST AI Risk Management Framework hasonl\u00f3an kezeli az AI-rendszereket: olyan m\u0171szaki vagy g\u00e9pi alap\u00fa rendszerekr\u0151l besz\u00e9l, amelyek adott c\u00e9lok mellett el\u0151rejelz\u00e9seket, aj\u00e1nl\u00e1sokat vagy d\u00f6nt\u00e9seket \u00e1ll\u00edthatnak el\u0151, \u00e9s ezek val\u00f3s vagy virtu\u00e1lis k\u00f6rnyezetre hathatnak (National Institute of Standards and Technology [NIST], 2023). Ez meger\u0151s\u00edti, hogy az AI ir\u00e1ny\u00edt\u00e1sakor nem el\u00e9g a modellre figyelni; a teljes haszn\u00e1lati k\u00f6rnyezetet kell vizsg\u00e1lni.<\/p>\n\n\n\n Egy v\u00e1llalati AI ir\u00e1ny\u00edt\u00e1si rendszerben a meghat\u00e1roz\u00e1snak gyakorlati c\u00e9lja van. Seg\u00edt eld\u00f6nteni, hogy egy adott eszk\u00f6z, folyamat vagy szolg\u00e1ltat\u00e1s beker\u00fclj\u00f6n-e az AI-nyilv\u00e1ntart\u00e1sba, sz\u00fcks\u00e9ges-e r\u00e1 kock\u00e1zat\u00e9rt\u00e9kel\u00e9s, kell-e hozz\u00e1 fel\u00fcgyeleti kontroll, \u00e9s milyen dokument\u00e1ci\u00f3t kell fenntartani.<\/p>\n\n\n\n Ez\u00e9rt a hat\u00f3k\u00f6r nem a technol\u00f3gi\u00e1val, hanem a k\u00f6vetkezm\u00e9nyekkel kezd\u0151dik<\/strong>. Ha egy rendszer kimenete \u00e9rdemben befoly\u00e1solja, hogy ki kap szolg\u00e1ltat\u00e1st, milyen aj\u00e1nlatot l\u00e1t, milyen figyelmeztet\u00e9st kap egy munkat\u00e1rs, vagy milyen d\u00f6nt\u00e9si opci\u00f3 ker\u00fcl a vezet\u0151 el\u00e9, akkor ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l indokolt AI-rendszerk\u00e9nt kezelni.<\/p>\n\n\n\n Az AI fogalmi kezel\u00e9se az\u00e9rt is \u00f6sszetett, mert a szervezetek gyakran k\u00fcl\u00f6nb\u00f6z\u0151 nyelvet haszn\u00e1lnak ugyanarra a jelens\u00e9gre. Az \u00fczleti ter\u00fclet \u201eautomatiz\u00e1l\u00e1sr\u00f3l\u201d, az IT \u201emodellr\u0151l\u201d, a jog \u201ekock\u00e1zatos feldolgoz\u00e1sr\u00f3l\u201d, az inform\u00e1ci\u00f3biztons\u00e1g \u201e\u00faj t\u00e1mad\u00e1si fel\u00fcletr\u0151l\u201d, a compliance pedig \u201eellen\u0151rizhet\u0151s\u00e9gi hi\u00e1nyr\u00f3l\u201d besz\u00e9lhet. Az ISO\/IEC 22989 szerepe ebben az, hogy k\u00f6z\u00f6s terminol\u00f3giai alapot adjon az AI-val kapcsolatos kommunik\u00e1ci\u00f3hoz (ISO, 2022).<\/p>\n\n\n\n Egy j\u00f3 szervezeti meghat\u00e1roz\u00e1snak ez\u00e9rt h\u00e1rom r\u00e9teget kell lefednie:<\/p>\n\n\n\n milyen technol\u00f3giai m\u0171k\u00f6d\u00e9sr\u0151l van sz\u00f3;<\/p>\n\n\n\n milyen kimenetet \u00e1ll\u00edt el\u0151 a rendszer;<\/p>\n\n\n\n milyen szervezeti, emberi vagy \u00fczleti hat\u00e1st v\u00e1lt ki a kimenet.<\/p>\n\n\n\n A harmadik r\u00e9teg gyakran a legfontosabb. Lehet, hogy k\u00e9t rendszer technikailag hasonl\u00f3, de ir\u00e1ny\u00edt\u00e1si szempontb\u00f3l teljesen elt\u00e9r\u0151 figyelmet ig\u00e9nyel. Egy term\u00e9kle\u00edr\u00e1s-javaslatot k\u00e9sz\u00edt\u0151 eszk\u00f6z m\u00e1s kontrollszintet ig\u00e9nyel, mint egy olyan rendszer, amely \u00fcgyfeleket sorol kock\u00e1zati kateg\u00f3ri\u00e1ba.<\/p>\n\n\n\n Ebben az \u00e9rtelemben nem minden automatiz\u00e1l\u00e1s AI-kock\u00e1zat, de minden AI-hat\u00e1s ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9s<\/strong>. A szervezetnek nem az a dolga, hogy minden digit\u00e1lis eszk\u00f6zt egyform\u00e1n kezeljen, hanem az, hogy a kock\u00e1zat, a hat\u00e1s \u00e9s a felel\u0151ss\u00e9g alapj\u00e1n k\u00fcl\u00f6nbs\u00e9get tegyen k\u00f6z\u00f6tt\u00fck.<\/p>\n\n\n\n A meghat\u00e1roz\u00e1snak audit\u00e1lhat\u00f3nak is kell lennie. Ha egy bels\u0151 auditor, k\u00fcls\u0151 tan\u00fas\u00edt\u00f3 vagy fel\u00fcgyeleti szerepl\u0151 megk\u00e9rdezi, mi\u00e9rt ker\u00fclt egy rendszer az AI ir\u00e1ny\u00edt\u00e1si rendszer hat\u00f3k\u00f6r\u00e9be, a v\u00e1lasznak visszak\u00f6vethet\u0151nek kell lennie. Nem elegend\u0151 azt mondani, hogy \u201emert AI-t haszn\u00e1l\u201d; azt kell megmutatni, milyen d\u00f6nt\u00e9st, folyamatot, adatkezel\u00e9st vagy kock\u00e1zatot befoly\u00e1sol.<\/p>\n\n\n\n Ez a szeml\u00e9let seg\u00edt elker\u00fclni a k\u00e9t sz\u00e9ls\u0151s\u00e9get. Az egyik hiba, ha a szervezet minden \u00faj digit\u00e1lis eszk\u00f6zt AI-k\u00e9nt kezel, \u00e9s ezzel kezelhetetlen adminisztr\u00e1ci\u00f3t hoz l\u00e9tre. A m\u00e1sik hiba, ha csak a l\u00e1tv\u00e1nyos generat\u00edv AI-eszk\u00f6z\u00f6ket veszi \u00e9szre, mik\u00f6zben a h\u00e1tt\u00e9rben m\u0171k\u00f6d\u0151 pontoz\u00f3, oszt\u00e1lyoz\u00f3 vagy el\u0151rejelz\u0151 rendszerek kimaradnak az ir\u00e1ny\u00edt\u00e1sb\u00f3l.<\/p>\n\n\n\n A felel\u0151s megk\u00f6zel\u00edt\u00e9s k\u00f6z\u00e9pen helyezkedik el. A szervezet el\u0151sz\u00f6r azonos\u00edtja az AI-jelleg\u0171 m\u0171k\u00f6d\u00e9st, majd megvizsg\u00e1lja a kimenetet, az auton\u00f3mia m\u00e9rt\u00e9k\u00e9t, az emberi fel\u00fcgyeletet, az \u00e9rintetteket \u00e9s a lehets\u00e9ges hat\u00e1st. \u00cdgy az<\/strong> <\/strong>AI <\/strong>ir\u00e1ny\u00edt\u00e1si<\/strong> <\/strong>rendszer<\/strong> <\/strong>c\u00e9lja<\/strong> <\/strong>nem<\/strong> a technol\u00f3gia lass\u00edt\u00e1sa, hanem a felel\u0151s haszn\u00e1lat l\u00e1that\u00f3v\u00e1 t\u00e9tele<\/strong>.<\/p>\n\n\n\n Az AI-rendszerek ir\u00e1ny\u00edt\u00e1s\u00e1ban az egyik legfontosabb k\u00fcl\u00f6nbs\u00e9gt\u00e9tel az, hogy a rendszer csup\u00e1n kimenetet \u00e1ll\u00edt el\u0151, d\u00f6nt\u00e9st t\u00e1mogat, vagy maga ind\u00edt el automatiz\u00e1lt d\u00f6nt\u00e9st. Ez a h\u00e1rom m\u0171k\u00f6d\u00e9s gyakran \u00f6sszemos\u00f3dik, pedig szervezeti kock\u00e1zat \u00e9s felel\u0151ss\u00e9g szempontj\u00e1b\u00f3l elt\u00e9r\u0151 kontrollokat ig\u00e9nyel.<\/p>\n\n\n\n Az automatiz\u00e1lt kimenet lehet egyszer\u0171 sz\u00f6veg, besorol\u00e1s, \u00f6sszefoglal\u00f3, kock\u00e1zati jelz\u00e9s, el\u0151rejelz\u00e9s vagy tartalomjavaslat. Ilyenkor a rendszer nem felt\u00e9tlen\u00fcl d\u00f6nt, de olyan inform\u00e1ci\u00f3t hoz l\u00e9tre, amelyet emberek vagy m\u00e1s rendszerek felhaszn\u00e1lnak. Egy \u00fcgyf\u00e9lszolg\u00e1lati chatbot v\u00e1lasza p\u00e9ld\u00e1ul nem mindig d\u00f6nt\u00e9s, de hat\u00e1ssal lehet arra, hogy az \u00fcgyf\u00e9l milyen inform\u00e1ci\u00f3 alapj\u00e1n cselekszik.<\/p>\n\n\n\n A d\u00f6nt\u00e9st\u00e1mogat\u00e1s enn\u00e9l er\u0151sebb helyzet. A rendszer nem hoz v\u00e9gleges d\u00f6nt\u00e9st, de rangsorol, pontoz, aj\u00e1nl vagy kock\u00e1zati kateg\u00f3ri\u00e1t rendel egy esethez. Ilyenkor a d\u00f6nt\u00e9st\u00e1mogat\u00e1s akkor is befoly\u00e1sol, ha form\u00e1lisan ember d\u00f6nt<\/strong>. Egy vezet\u0151, \u00fcgyint\u00e9z\u0151 vagy szak\u00e9rt\u0151 k\u00f6nnyen t\u00e1maszkodhat a rendszer aj\u00e1nl\u00e1s\u00e1ra, k\u00fcl\u00f6n\u00f6sen akkor, ha az gyors, magabiztos \u00e9s sz\u00e1mszer\u0171nek t\u0171n\u0151 kimenetet ad.<\/p>\n\n\n\n A d\u00f6nt\u00e9sautomatiz\u00e1l\u00e1s ott kezd\u0151dik, ahol a rendszer kimenete k\u00f6zvetlen k\u00f6vetkezm\u00e9nyt v\u00e1lt ki. Ilyen lehet egy automatikusan elutas\u00edtott k\u00e9relem, egy automatikusan z\u00e1rolt fi\u00f3k, egy automatikus \u00e1raz\u00e1si d\u00f6nt\u00e9s vagy egy automatikusan kiv\u00e1ltott biztons\u00e1gi int\u00e9zked\u00e9s. Ebben az esetben a szervezetnek k\u00fcl\u00f6n\u00f6sen vil\u00e1gosan kell kezelnie a felel\u0151ss\u00e9get, az emberi fel\u00fclvizsg\u00e1lat lehet\u0151s\u00e9g\u00e9t \u00e9s a napl\u00f3zhat\u00f3s\u00e1got.<\/p>\n\n\n\n A k\u00fcl\u00f6nbs\u00e9gt\u00e9tel gyakorlati jelent\u0151s\u00e9g\u00e9t az adja, hogy nem minden AI-kimenethez kell ugyanaz a kontrollszint. Egy bels\u0151 \u00f6tletgener\u00e1l\u00f3 eszk\u00f6z eset\u00e9ben elegend\u0151 lehet a haszn\u00e1lati szab\u00e1lyzat, az adatv\u00e9delmi korl\u00e1t \u00e9s a munkat\u00e1rsi k\u00e9pz\u00e9s. Egy \u00fcgyf\u00e9ljogot, hozz\u00e1f\u00e9r\u00e9st vagy jelent\u0151s gazdas\u00e1gi \u00e9rdeket befoly\u00e1sol\u00f3 rendszer eset\u00e9ben viszont kock\u00e1zat\u00e9rt\u00e9kel\u00e9sre, dokument\u00e1lt fel\u00fcgyeletre \u00e9s ellen\u0151rizhet\u0151 d\u00f6nt\u00e9si folyamatra van sz\u00fcks\u00e9g.<\/p>\n\n\n\n A szervezetnek ez\u00e9rt nem az AI jelenl\u00e9t\u00e9t, hanem a kimenet szerep\u00e9t kell \u00e9rt\u00e9kelnie<\/strong>. Ugyanaz a technol\u00f3gia alacsonyabb kock\u00e1zat\u00fa lehet bels\u0151 adminisztrat\u00edv haszn\u00e1latban, \u00e9s magasabb kock\u00e1zat\u00fa lehet, ha \u00fcgyfelekre, munkav\u00e1llal\u00f3kra vagy alapvet\u0151 szolg\u00e1ltat\u00e1sokhoz val\u00f3 hozz\u00e1f\u00e9r\u00e9sre hat.<\/p>\n\n\n\n A kimenetek ir\u00e1ny\u00edt\u00e1s\u00e1hoz hasznos egy egyszer\u0171 kateg\u00f3riarendszer:<\/p>\n\n\n\n t\u00e1j\u00e9koztat\u00f3 kimenet, amely emberi \u00e9rtelmez\u00e9st ig\u00e9nyel;<\/p>\n\n\n\n aj\u00e1nl\u00f3 vagy rangsorol\u00f3 kimenet, amely d\u00f6nt\u00e9si opci\u00f3kat rendez;<\/p>\n\n\n\n pontoz\u00f3 vagy oszt\u00e1lyoz\u00f3 kimenet, amely szem\u00e9lyeket, \u00fcgyeket vagy objektumokat kateg\u00f3ri\u00e1ba sorol;<\/p>\n\n\n\n automatiz\u00e1lt kimenet, amely k\u00f6zvetlen rendszerl\u00e9p\u00e9st v\u00e1lt ki;<\/p>\n\n\n\n gener\u00e1lt tartalom, amely kommunik\u00e1ci\u00f3s, jogi, reput\u00e1ci\u00f3s vagy inform\u00e1ci\u00f3biztons\u00e1gi hat\u00e1st hordozhat.<\/p>\n\n\n\n Ez a tagol\u00e1s nem \u00f6nc\u00e9l\u00fa. Seg\u00edt meghat\u00e1rozni, hogy hol sz\u00fcks\u00e9ges emberi j\u00f3v\u00e1hagy\u00e1s, hol kell k\u00fcl\u00f6n tesztelni a pontoss\u00e1got, hol kell figyelni az elfogults\u00e1gra, hol sz\u00fcks\u00e9ges \u00fcgyf\u00e9lkommunik\u00e1ci\u00f3, \u00e9s hol kell biztos\u00edtani a visszakereshet\u0151 d\u00f6nt\u00e9si nyomvonalat.<\/p>\n\n\n\n Az emberi fel\u00fcgyelet k\u00fcl\u00f6n\u00f6sen fontos d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszerekn\u00e9l. Nem el\u00e9g kijelenteni, hogy \u201ea v\u00e9gs\u0151 d\u00f6nt\u00e9st ember hozza meg\u201d, ha a gyakorlatban az ember csak form\u00e1lisan kattint j\u00f3v\u00e1hagy\u00e1sra. A megb\u00edzhat\u00f3 AI-r\u00f3l sz\u00f3l\u00f3 eur\u00f3pai etikai ir\u00e1nymutat\u00e1s is hangs\u00falyozza az emberi auton\u00f3mia, a fel\u00fcgyelet, az \u00e1tl\u00e1that\u00f3s\u00e1g, a technikai robusztuss\u00e1g, az adatkezel\u00e9s, a m\u00e9lt\u00e1nyoss\u00e1g \u00e9s az elsz\u00e1moltathat\u00f3s\u00e1g k\u00f6vetelm\u00e9nyeit (High-Level Expert Group on Artificial Intelligence, 2019).<\/p>\n\n\n\n Ez\u00e9rt az emberi kontroll csak akkor val\u00f3s, ha van id\u0151, tud\u00e1s \u00e9s jogk\u00f6r elt\u00e9rni a g\u00e9pi javaslatt\u00f3l<\/strong>. Ha a munkat\u00e1rs nem \u00e9rti a kimenet jelent\u00e9s\u00e9t, nincs hozz\u00e1f\u00e9r\u00e9se a relev\u00e1ns h\u00e1tt\u00e9rinform\u00e1ci\u00f3hoz, vagy szervezeti nyom\u00e1s alatt mindig elfogadja a javaslatot, akkor a fel\u00fcgyelet nem t\u00e9nyleges kontroll, hanem adminisztrat\u00edv l\u00e1tszat.<\/p>\n\n\n\n A d\u00f6nt\u00e9sautomatiz\u00e1l\u00e1sn\u00e1l a napl\u00f3z\u00e1s \u00e9s a magyar\u00e1zhat\u00f3s\u00e1g is k\u00f6zponti k\u00e9rd\u00e9s. Nem minden AI-modell m\u0171k\u00f6d\u00e9se magyar\u00e1zhat\u00f3 teljes r\u00e9szletess\u00e9ggel laikusok sz\u00e1m\u00e1ra, de a szervezetnek k\u00e9pesnek kell lennie arra, hogy megmondja: milyen c\u00e9lra haszn\u00e1lja a rendszert, milyen bemenetek sz\u00e1m\u00edtanak, milyen korl\u00e1tai vannak a kimenetnek, ki felel a m\u0171k\u00f6d\u00e9s\u00e9rt, \u00e9s hogyan lehet hib\u00e1t vagy vit\u00e1s esetet kezelni.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer szempontj\u00e1b\u00f3l ez dokument\u00e1ci\u00f3s \u00e9s m\u0171k\u00f6d\u00e9si k\u00e9rd\u00e9s is. A dokument\u00e1ci\u00f3 nem az\u00e9rt kell, hogy pap\u00edron megfeleljen egy elv\u00e1r\u00e1snak, hanem az\u00e9rt, hogy a szervezet k\u00e9s\u0151bb rekonstru\u00e1lni tudja, mi t\u00f6rt\u00e9nt. Egy audit, incidens, \u00fcgyf\u00e9lpanasz vagy bels\u0151 vizsg\u00e1lat sor\u00e1n az lesz a d\u00f6nt\u0151, hogy a rendszer haszn\u00e1lata, j\u00f3v\u00e1hagy\u00e1sa, m\u00f3dos\u00edt\u00e1sa \u00e9s fel\u00fcgyelete visszakereshet\u0151-e.<\/p>\n\n\n\n A szervezeti gyakorlatban ez\u00e9rt \u00e9rdemes minden AI-rendszern\u00e9l r\u00f6gz\u00edteni:<\/p>\n\n\n\n milyen kimenetet \u00e1ll\u00edt el\u0151;<\/p>\n\n\n\n ki haszn\u00e1lja a kimenetet;<\/p>\n\n\n\n milyen d\u00f6nt\u00e9shez vagy folyamathoz kapcsol\u00f3dik;<\/p>\n\n\n\n van-e emberi fel\u00fclvizsg\u00e1lat;<\/p>\n\n\n\n milyen hibahat\u00e1s v\u00e1rhat\u00f3 pontatlan vagy f\u00e9lrevezet\u0151 kimenet eset\u00e9n;<\/p>\n\n\n\n milyen gyakran kell \u00fajra\u00e9rt\u00e9kelni a m\u0171k\u00f6d\u00e9st.<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek egyszer\u0171nek t\u0171nnek, de er\u0151s ir\u00e1ny\u00edt\u00e1si alapot adnak. Ha egy szervezet ezekre nem tud v\u00e1laszolni, akkor val\u00f3j\u00e1ban nem tudja, hogyan hat az AI a m\u0171k\u00f6d\u00e9s\u00e9re. Ilyenkor az AI-kock\u00e1zat nem a modellben, hanem a szervezeti vaks\u00e1gban keletkezik<\/strong>.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer kialak\u00edt\u00e1sakor k\u00fcl\u00f6nbs\u00e9get kell tenni az AI haszn\u00e1lata \u00e9s az AI fejleszt\u00e9se k\u00f6z\u00f6tt. Mindkett\u0151 ir\u00e1ny\u00edt\u00e1st ig\u00e9nyel, de nem ugyanazokkal a felel\u0151ss\u00e9gekkel, kontrollokkal \u00e9s dokument\u00e1ci\u00f3s ig\u00e9nyekkel.<\/p>\n\n\n\n AI-haszn\u00e1latr\u00f3l akkor besz\u00e9l\u00fcnk, amikor a szervezet k\u00e9sz eszk\u00f6zt, szolg\u00e1ltat\u00e1st, platformot, be\u00e9p\u00edtett funkci\u00f3t vagy k\u00fcls\u0151 modellt alkalmaz. Ilyen lehet egy generat\u00edv asszisztens, egy felh\u0151szolg\u00e1ltat\u00e1sba \u00e9p\u00edtett aj\u00e1nl\u00f3rendszer, egy \u00fcgyf\u00e9lszolg\u00e1lati chatbot, egy HR-szoftverben el\u00e9rhet\u0151 el\u0151sz\u0171r\u0151 funkci\u00f3 vagy egy \u00fczleti intelligencia platform predikt\u00edv modulja.<\/p>\n\n\n\n Ebben az esetben a haszn\u00e1l\u00f3 szervezet felel\u0151ss\u00e9ge nem sz\u0171nik meg att\u00f3l, hogy a modellt m\u00e1s fejlesztette<\/strong>. Tov\u00e1bbra is meg kell hat\u00e1rozni, mire haszn\u00e1lhat\u00f3 az eszk\u00f6z, milyen adatok vihet\u0151k be, kik f\u00e9rhetnek hozz\u00e1, milyen d\u00f6nt\u00e9sekben lehet r\u00e1 t\u00e1maszkodni, \u00e9s milyen esetekben tilos vagy korl\u00e1tozott a haszn\u00e1lata.<\/p>\n\n\n\n AI-fejleszt\u00e9sr\u0151l akkor besz\u00e9l\u00fcnk, amikor a szervezet saj\u00e1t modellt hoz l\u00e9tre, megl\u00e9v\u0151 modellt finomhangol, egy modellt saj\u00e1t adatvagyon\u00e1val tan\u00edt, vagy AI-funkci\u00f3t \u00e9p\u00edt be saj\u00e1t term\u00e9kbe, szolg\u00e1ltat\u00e1sba vagy bels\u0151 folyamatba. Itt a felel\u0151ss\u00e9g m\u00e9lyebb m\u0171szaki \u00e9s \u00e9letciklus-szint\u0171 kontrollokat ig\u00e9nyel.<\/p>\n\n\n\n A fejleszt\u0151i helyzetben vizsg\u00e1lni kell az adatforr\u00e1sokat, az adatmin\u0151s\u00e9get, a tan\u00edt\u00e1si \u00e9s tesztel\u00e9si elj\u00e1r\u00e1st, a modell teljes\u00edtm\u00e9ny\u00e9t, a torz\u00edt\u00e1s lehet\u0151s\u00e9g\u00e9t, az \u00fczemeltet\u00e9si k\u00f6rnyezetet, a v\u00e1ltoz\u00e1skezel\u00e9st \u00e9s az ut\u00f3lagos monitoroz\u00e1st. Az ISO\/IEC 23894 az AI-kock\u00e1zatkezel\u00e9s szervezeti folyamatokba integr\u00e1l\u00e1s\u00e1t hangs\u00falyozza, vagyis nem k\u00fcl\u00f6n\u00e1ll\u00f3 technikai mell\u00e9kfeladatk\u00e9nt, hanem ir\u00e1ny\u00edt\u00e1si tev\u00e9kenys\u00e9gk\u00e9nt kezeli a kock\u00e1zatot (ISO, 2023).<\/p>\n\n\n\n A k\u00e9t helyzet k\u00f6z\u00f6tti k\u00fcl\u00f6nbs\u00e9g nem mindig \u00e9les. Egy szervezet haszn\u00e1lhat k\u00fcls\u0151 nagy nyelvi modellt, de saj\u00e1t dokumentumt\u00e1rral, saj\u00e1t utas\u00edt\u00e1sokkal \u00e9s saj\u00e1t munkafolyamatba \u00e9p\u00edtve. Ilyenkor a k\u00fcls\u0151 \u00e9s bels\u0151 felel\u0151ss\u00e9gek \u00f6ssze\u00e9rnek. Ez\u00e9rt a beszerz\u00e9s, az integr\u00e1ci\u00f3 \u00e9s az \u00fczemeltet\u00e9s egy\u00fctt alkotja az AI-kontrollk\u00f6rnyezetet<\/strong>.<\/p>\n\n\n\n AI-haszn\u00e1lat eset\u00e9n a legfontosabb kontrollok \u00e1ltal\u00e1ban a k\u00f6vetkez\u0151k:<\/p>\n\n\n\n elfogadhat\u00f3 haszn\u00e1lati szab\u00e1lyok;<\/p>\n\n\n\n adatv\u00e9delmi \u00e9s inform\u00e1ci\u00f3biztons\u00e1gi korl\u00e1tok;<\/p>\n\n\n\n besz\u00e1ll\u00edt\u00f3i \u00e9s szerz\u0151d\u00e9ses ellen\u0151rz\u00e9s;<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9s;<\/p>\n\n\n\n kimenetek emberi ellen\u0151rz\u00e9se;<\/p>\n\n\n\n incidens- \u00e9s hibajelent\u00e9si folyamat;<\/p>\n\n\n\n rendszeres \u00fajra\u00e9rt\u00e9kel\u00e9s.<\/p>\n\n\n\n AI-fejleszt\u00e9s eset\u00e9n ezek kieg\u00e9sz\u00fclnek technikai \u00e9letciklus-kontrollokkal:<\/p>\n\n\n\n adatmin\u0151s\u00e9g \u00e9s adatvonal k\u00f6vet\u00e9se;<\/p>\n\n\n\n modellfejleszt\u00e9si dokument\u00e1ci\u00f3;<\/p>\n\n\n\n tesztel\u00e9si \u00e9s valid\u00e1l\u00e1si terv;<\/p>\n\n\n\n teljes\u00edtm\u00e9ny- \u00e9s robusztuss\u00e1gi m\u00e9r\u00e9s;<\/p>\n\n\n\n v\u00e1ltoz\u00e1skezel\u00e9s;<\/p>\n\n\n\n \u00e9les m\u0171k\u00f6d\u00e9s monitoroz\u00e1sa;<\/p>\n\n\n\n visszavon\u00e1si vagy le\u00e1ll\u00edt\u00e1si elj\u00e1r\u00e1s.<\/p>\n\n\n\n A szervezetnek mindk\u00e9t helyzetben vil\u00e1gos szerepeket kell kijel\u00f6lnie. Nem elegend\u0151, ha \u201eaz IT felel az AI-\u00e9rt\u201d, mert az AI hat\u00e1sa ritk\u00e1n marad tiszt\u00e1n technikai. Egy \u00fcgyf\u00e9lkezel\u00e9si AI-rendszerhez kell \u00fczleti folyamatgazda, adatv\u00e9delmi szerepl\u0151, inform\u00e1ci\u00f3biztons\u00e1gi kontroll, jogi \u00e9rt\u00e9kel\u00e9s, compliance-n\u00e9z\u0151pont \u00e9s felhaszn\u00e1l\u00f3i felel\u0151ss\u00e9g is.<\/p>\n\n\n\n Ez\u00e9rt az AI governance t\u00f6bbfunkci\u00f3s m\u0171k\u00f6d\u00e9s, nem egyetlen oszt\u00e1ly feladata<\/strong>. A sikeres AI ir\u00e1ny\u00edt\u00e1si rendszer nem att\u00f3l lesz er\u0151s, hogy sok szab\u00e1lyzatot \u00edr, hanem att\u00f3l, hogy a szab\u00e1lyok t\u00e9nylegesen \u00f6sszekapcsolj\u00e1k a technol\u00f3giai, \u00fczleti, jogi \u00e9s kock\u00e1zati szerepeket.<\/p>\n\n\n\n A haszn\u00e1lat \u00e9s fejleszt\u00e9s k\u00f6z\u00f6tti k\u00fcl\u00f6nbs\u00e9g a felel\u0151ss\u00e9gi m\u00e1trixban is megjelenik. Egy k\u00fcls\u0151 chatbot haszn\u00e1lat\u00e1n\u00e1l p\u00e9ld\u00e1ul a szervezetnek tudnia kell, milyen adat ker\u00fcl a szolg\u00e1ltat\u00f3hoz, hogyan t\u00f6rt\u00e9nik a napl\u00f3z\u00e1s, lehet-e a bevitt tartalmat tov\u00e1bbi modellfejleszt\u00e9sre haszn\u00e1lni, \u00e9s milyen korl\u00e1tok mellett jelenhet meg az \u00fcgyf\u00e9l fel\u00e9 a v\u00e1lasz. Saj\u00e1t chatbot fejleszt\u00e9sekor ehhez hozz\u00e1ad\u00f3dik a modellv\u00e1laszt\u00e1s, a tesztel\u00e9si terv, a tud\u00e1sb\u00e1zis min\u0151s\u00e9ge, a v\u00e1laszok valid\u00e1l\u00e1sa \u00e9s a folyamatos karbantart\u00e1s.<\/p>\n\n\n\n Az AI-haszn\u00e1lat k\u00f6nnyen l\u00e1tszik egyszer\u0171bbnek, mint amilyen val\u00f3j\u00e1ban. A munkat\u00e1rsak sokszor egy\u00e9ni produktivit\u00e1si eszk\u00f6zk\u00e9nt kezdik haszn\u00e1lni az AI-t, mik\u00f6zben \u00fczleti adatok, \u00fcgyf\u00e9ladatok, szerz\u0151d\u00e9ses inform\u00e1ci\u00f3k vagy bels\u0151 d\u00f6nt\u00e9s-el\u0151k\u00e9sz\u00edt\u0151 anyagok ker\u00fclhetnek a rendszerbe. Ilyenkor az \u00e1rny\u00e9k-AI ugyan\u00fagy ir\u00e1ny\u00edt\u00e1si kock\u00e1zat, mint az \u00e1rny\u00e9k-IT<\/strong>.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer egyik els\u0151 feladata ez\u00e9rt az AI-haszn\u00e1lat l\u00e1that\u00f3v\u00e1 t\u00e9tele. Nem b\u00fcntet\u0151 jelleggel, hanem az\u00e9rt, hogy a szervezet meg\u00e9rtse, hol jelenik meg AI a munkafolyamatokban. Ha nincs nyilv\u00e1ntart\u00e1s, nincs kock\u00e1zat\u00e9rt\u00e9kel\u00e9s. Ha nincs kock\u00e1zat\u00e9rt\u00e9kel\u00e9s, nincs ar\u00e1nyos kontroll. Ha nincs kontroll, a szervezet csak ut\u00f3lag szembes\u00fcl a probl\u00e9m\u00e1kkal.<\/p>\n\n\n\n A fejleszt\u00e9s oldal\u00e1n a legnagyobb kih\u00edv\u00e1s gyakran a modell \u00e9s a szervezeti c\u00e9l illeszt\u00e9se. Egy technikailag j\u00f3l teljes\u00edt\u0151 modell sem biztos, hogy megfelel a szervezet \u00e9rt\u00e9keinek, jogi k\u00f6telezetts\u00e9geinek vagy \u00fcgyf\u00e9lkapcsolati elv\u00e1r\u00e1sainak. Ez\u00e9rt a fejleszt\u00e9si d\u00f6nt\u00e9seket nem szabad kiz\u00e1r\u00f3lag pontoss\u00e1gi mutat\u00f3k alapj\u00e1n meghozni.<\/p>\n\n\n\n A NIST AI RMF k\u00fcl\u00f6n\u00f6sen hasznos szeml\u00e9leti keretet ad ehhez, mert a kock\u00e1zatkezel\u00e9st a govern, map, measure \u00e9s manage funkci\u00f3k ment\u00e9n szervezi. Ez a logika azt \u00fczeni, hogy az AI-kock\u00e1zatot el\u0151sz\u00f6r kontextusba kell helyezni, majd m\u00e9rni, kezelni \u00e9s szervezeti szinten ir\u00e1ny\u00edtani kell (NIST, 2023).<\/p>\n\n\n\n A gyakorlati tanuls\u00e1g egy\u00e9rtelm\u0171: az AI-fejleszt\u00e9s technikai projektk\u00e9nt indulhat, de ir\u00e1ny\u00edt\u00e1si rendszerk\u00e9nt kell m\u0171k\u00f6dnie<\/strong>. A modell \u00e9les\u00edt\u00e9se nem a folyamat v\u00e9ge, hanem a m\u0171k\u00f6dtet\u00e9s, monitoroz\u00e1s \u00e9s felel\u0151ss\u00e9gi kontroll kezdete.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer hat\u00f3k\u00f6r\u00e9nek kialak\u00edt\u00e1sakor azt kell vizsg\u00e1lni, hogy az AI-rendszer milyen szervezeti hat\u00e1st v\u00e1lt ki. Ez a megk\u00f6zel\u00edt\u00e9s seg\u00edt abban, hogy a kontrollok ne elm\u00e9leti szinten, hanem val\u00f3s folyamatokhoz kapcsol\u00f3djanak.<\/p>\n\n\n\n Az els\u0151 hat\u00e1skateg\u00f3ria a folyamatokra gyakorolt hat\u00e1s. Egy AI-eszk\u00f6z felgyors\u00edthat \u00fcgyint\u00e9z\u00e9st, automatiz\u00e1lhat ellen\u0151rz\u00e9st, el\u0151rejelezhet hib\u00e1t vagy javaslatot tehet er\u0151forr\u00e1s-eloszt\u00e1sra. Ez \u00e9rt\u00e9ket teremthet, de k\u00f6zben f\u00fcgg\u0151s\u00e9get is l\u00e9trehozhat. Ha a folyamat m\u00e1r a rendszer kimenet\u00e9re \u00e9p\u00fcl, a hib\u00e1s vagy el\u00e9rhetetlen AI m\u0171k\u00f6d\u00e9si kock\u00e1zatt\u00e1 v\u00e1lik.<\/p>\n\n\n\n Ebben a helyzetben a hat\u00e9konys\u00e1g n\u00f6veked\u00e9se \u00faj f\u00fcgg\u0151s\u00e9geket is l\u00e9trehoz<\/strong>. Egy szervezetnek ez\u00e9rt nemcsak azt kell m\u00e9rnie, mennyi id\u0151t takar\u00edt meg az AI, hanem azt is, milyen k\u00f6vetkezm\u00e9nye van annak, ha a rendszer hib\u00e1zik, torzul, le\u00e1ll vagy nem \u00e9rtelmezhet\u0151 kimenetet ad.<\/p>\n\n\n\n A m\u00e1sodik hat\u00e1skateg\u00f3ria az emberekre gyakorolt hat\u00e1s. Az AI befoly\u00e1solhatja munkat\u00e1rsak d\u00f6nt\u00e9seit, teljes\u00edtm\u00e9ny\u00e9rt\u00e9kel\u00e9s\u00e9t, feladatkioszt\u00e1s\u00e1t vagy szakmai auton\u00f3mi\u00e1j\u00e1t. \u00dcgyfelek, \u00e1llampolg\u00e1rok vagy p\u00e1ciensek eset\u00e9ben hat\u00e1ssal lehet az inform\u00e1ci\u00f3hoz jut\u00e1sra, a szolg\u00e1ltat\u00e1s min\u0151s\u00e9g\u00e9re, az elb\u00e1n\u00e1s m\u00e9lt\u00e1nyoss\u00e1g\u00e1ra vagy a panaszkezel\u00e9sre.<\/p>\n\n\n\n A harmadik kateg\u00f3ria az adatkezel\u00e9si hat\u00e1s. Az AI-rendszerek gyakran nagy mennyis\u00e9g\u0171 adatb\u00f3l dolgoznak, \u00e9s olyan mint\u00e1zatokat is k\u00e9pesek felt\u00e1rni, amelyeket a szervezet eredetileg nem felt\u00e9tlen\u00fcl vizsg\u00e1lt volna. Ez adatv\u00e9delmi, adatmin\u0151s\u00e9gi \u00e9s c\u00e9lhoz k\u00f6t\u00f6tts\u00e9gi k\u00e9rd\u00e9seket vet fel.<\/p>\n\n\n\n Ez\u00e9rt az adat nem puszta input, hanem ir\u00e1ny\u00edt\u00e1si felel\u0151ss\u00e9g<\/strong>. Az AI ir\u00e1ny\u00edt\u00e1si rendszernek tiszt\u00e1znia kell, honnan sz\u00e1rmazik az adat, milyen c\u00e9lb\u00f3l haszn\u00e1lhat\u00f3, mennyire megb\u00edzhat\u00f3, tartalmaz-e \u00e9rz\u00e9keny inform\u00e1ci\u00f3t, \u00e9s milyen korl\u00e1tok vonatkoznak a tov\u00e1bbi felhaszn\u00e1l\u00e1s\u00e1ra.<\/p>\n\n\n\n A negyedik kateg\u00f3ria a d\u00f6nt\u00e9sekre gyakorolt hat\u00e1s. Az AI \u00e1ltal el\u0151\u00e1ll\u00edtott javaslatok, pontsz\u00e1mok, rangsorok vagy el\u0151rejelz\u00e9sek megv\u00e1ltoztathatj\u00e1k a d\u00f6nt\u00e9shoz\u00f3k figyelm\u00e9t. Amit a rendszer kiemel, az fontosabbnak t\u0171nik; amit nem jelez, az k\u00f6nnyen h\u00e1tt\u00e9rbe szorul.<\/p>\n\n\n\n Ez k\u00fcl\u00f6n\u00f6sen d\u00f6nt\u00e9st\u00e1mogat\u00f3 rendszerekn\u00e9l \u00e9rz\u00e9keny. A szervezetnek vizsg\u00e1lnia kell, hogy a felhaszn\u00e1l\u00f3k mennyire \u00e9rtik a kimenet korl\u00e1tait, milyen gyakran t\u00e9rnek el a javaslatt\u00f3l, van-e visszajelz\u00e9si mechanizmus, \u00e9s hogyan t\u00f6rt\u00e9nik a hib\u00e1k korrekci\u00f3ja.<\/p>\n\n\n\n Az \u00f6t\u00f6dik kateg\u00f3ria a megfelel\u0151s\u00e9gi \u00e9s jogi hat\u00e1s. Az EU AI Act kock\u00e1zatalap\u00fa megk\u00f6zel\u00edt\u00e9se azt mutatja, hogy az AI-rendszerek nem egys\u00e9ges szab\u00e1lyoz\u00e1si s\u00faly\u00faak: a tiltott, magas kock\u00e1zat\u00fa, \u00e1tl\u00e1that\u00f3s\u00e1gi k\u00f6telezetts\u00e9g al\u00e1 es\u0151 vagy alacsonyabb kock\u00e1zat\u00fa haszn\u00e1latok elt\u00e9r\u0151 k\u00f6telezetts\u00e9geket vonhatnak maguk ut\u00e1n (European Parliament & Council of the European Union, 2024).<\/p>\n\n\n\n Ez\u00e9rt a jogi besorol\u00e1s nem helyettes\u00edti a szervezeti kock\u00e1zat\u00e9rt\u00e9kel\u00e9st<\/strong>. Egy rendszer akkor is lehet bels\u0151 kontrollszempontb\u00f3l jelent\u0151s, ha nem tartozik a legszigor\u00fabb jogi kateg\u00f3ri\u00e1ba. A szervezet saj\u00e1t kock\u00e1zati \u00e9tv\u00e1gya, ipar\u00e1ga, \u00fcgyf\u00e9lk\u00f6re \u00e9s m\u0171k\u00f6d\u00e9si k\u00f6rnyezete is sz\u00e1m\u00edt.<\/p>\n\n\n\n A hatodik kateg\u00f3ria az inform\u00e1ci\u00f3biztons\u00e1gi hat\u00e1s. Az AI \u00faj t\u00e1mad\u00e1si fel\u00fcleteket, adatki\u00e1raml\u00e1si lehet\u0151s\u00e9geket \u00e9s besz\u00e1ll\u00edt\u00f3i kitetts\u00e9geket hozhat l\u00e9tre. Generat\u00edv rendszerekn\u00e9l a promptok, a v\u00e1laszok, a be\u00e9p\u00edtett tud\u00e1sb\u00e1zisok, az API-kapcsolatok \u00e9s a k\u00fcls\u0151 modellek mind kontrollpontt\u00e1 v\u00e1lhatnak.<\/p>\n\n\n\n A hetedik kateg\u00f3ria a reput\u00e1ci\u00f3s \u00e9s bizalmi hat\u00e1s. Egy AI-rendszer hib\u00e1ja nem mindig technikai incidensk\u00e9nt jelenik meg a nyilv\u00e1noss\u00e1g el\u0151tt, hanem m\u00e9lt\u00e1nytalans\u00e1gk\u00e9nt, f\u00e9lrevezet\u0151 kommunik\u00e1ci\u00f3k\u00e9nt vagy felel\u0151tlen automatiz\u00e1l\u00e1sk\u00e9nt. A bizalom elveszt\u00e9se gyakran gyorsabb, mint a m\u0171k\u00f6d\u00e9s technikai helyre\u00e1ll\u00edt\u00e1sa.<\/p>\n\n\n\n A szervezetnek ez\u00e9rt az AI-hat\u00e1sokat nemcsak bels\u0151 m\u0171k\u00f6d\u00e9si, hanem \u00e9rintetti n\u00e9z\u0151pontb\u00f3l is \u00e9rt\u00e9kelnie kell<\/strong>. M\u00e1sk\u00e9nt l\u00e1tja ugyanazt a rendszert az \u00fczleti vezet\u0151, a fejleszt\u0151, az \u00fcgyf\u00e9l, a munkav\u00e1llal\u00f3, az auditor \u00e9s a fel\u00fcgyeleti hat\u00f3s\u00e1g.<\/p>\n\n\n\n Egy AI ir\u00e1ny\u00edt\u00e1si rendszer akkor m\u0171k\u00f6dik j\u00f3l, ha a hat\u00e1sok \u00e9rt\u00e9kel\u00e9se nem egyszeri megfelel\u0151s\u00e9gi gyakorlat. A rendszer k\u00f6rnyezete v\u00e1ltozik: \u00faj adat ker\u00fcl be, m\u00f3dosul a modell, v\u00e1ltozik a felhaszn\u00e1l\u00f3i magatart\u00e1s, m\u00e1s lesz a jogi k\u00f6rnyezet, vagy \u00faj \u00fczleti c\u00e9l jelenik meg. Ez\u00e9rt a kock\u00e1zat\u00e9rt\u00e9kel\u00e9snek id\u0151r\u0151l id\u0151re vissza kell t\u00e9rnie ugyanahhoz a k\u00e9rd\u00e9shez: ugyanazt a rendszert haszn\u00e1ljuk-e m\u00e9g, ugyanarra a c\u00e9lra, ugyanabban a kock\u00e1zati k\u00f6rnyezetben?<\/p>\n\n\n\n A gyakorlati \u00e9rt\u00e9kel\u00e9shez \u00e9rdemes egy egyszer\u0171 hat\u00e1sm\u00e1trixot haszn\u00e1lni:<\/p>\n\n\n\n Hat\u00e1ster\u00fclet<\/p>\n\n\n\n Ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9s<\/p>\n\n\n\n Tipikus kontroll<\/p>\n\n\n\n Folyamat<\/p>\n\n\n\n Mire \u00e9p\u00fcl be az AI-kimenet?<\/p>\n\n\n\n folyamatgazda, v\u00e1ltoz\u00e1skezel\u00e9s<\/p>\n\n\n\n Emberi hat\u00e1s<\/p>\n\n\n\n Kit \u00e9rint a kimenet?<\/p>\n\n\n\n emberi fel\u00fcgyelet, panasz\u00fat<\/p>\n\n\n\n Adat<\/p>\n\n\n\n Milyen adatb\u00f3l dolgozik a rendszer?<\/p>\n\n\n\n adatmin\u0151s\u00e9g, adatv\u00e9delmi kontroll<\/p>\n\n\n\n D\u00f6nt\u00e9s<\/p>\n\n\n\n Milyen d\u00f6nt\u00e9st befoly\u00e1sol?<\/p>\n\n\n\n napl\u00f3z\u00e1s, fel\u00fclvizsg\u00e1lat<\/p>\n\n\n\n Compliance<\/p>\n\n\n\n Van-e jogi vagy szab\u00e1lyoz\u00e1si k\u00f6vetkezm\u00e9ny?<\/p>\n\n\n\n besorol\u00e1s, dokument\u00e1ci\u00f3<\/p>\n\n\n\n Inform\u00e1ci\u00f3biztons\u00e1g<\/p>\n\n\n\n Milyen \u00faj t\u00e1mad\u00e1si fel\u00fclet keletkezik?<\/p>\n\n\n\n hozz\u00e1f\u00e9r\u00e9s, monitoroz\u00e1s<\/p>\n\n\n\n Bizalom<\/p>\n\n\n\n Milyen reput\u00e1ci\u00f3s hat\u00e1sa lehet?<\/p>\n\n\n\n transzparens kommunik\u00e1ci\u00f3<\/p>\n\n\n\n A t\u00e1bl\u00e1zat nem helyettes\u00edti a r\u00e9szletes kock\u00e1zatelemz\u00e9st, de seg\u00edt elind\u00edtani a besz\u00e9lget\u00e9st. K\u00fcl\u00f6n\u00f6sen hasznos akkor, amikor a szervezet m\u00e9g csak \u00e9p\u00edti az AI-nyilv\u00e1ntart\u00e1st, \u00e9s el kell d\u00f6ntenie, mely rendszerekkel foglalkozzon el\u0151sz\u00f6r.<\/p>\n\n\n\n A legfontosabb vezet\u0151i felismer\u00e9s az, hogy az AI-kock\u00e1zat nem kiz\u00e1r\u00f3lag technikai min\u0151s\u00e9g k\u00e9rd\u00e9se. Egy modell lehet pontos, de jogilag probl\u00e9m\u00e1s. Lehet gyors, de \u00e1tl\u00e1thatatlan. Lehet innovat\u00edv, de adatv\u00e9delmi szempontb\u00f3l t\u00fal kock\u00e1zatos. Lehet \u00fczletileg hasznos, de emberi fel\u00fcgyelet n\u00e9lk\u00fcl t\u00fal er\u0151s hat\u00e1st gyakorolhat a d\u00f6nt\u00e9sekre.<\/p>\n\n\n\n Ez\u00e9rt az<\/strong> <\/strong>AI <\/strong>ir\u00e1ny\u00edt\u00e1si<\/strong> <\/strong>rendszer<\/strong> <\/strong>az<\/strong> <\/strong>\u00fczleti<\/strong> <\/strong>\u00e9rt\u00e9k<\/strong> \u00e9s a felel\u0151ss\u00e9g k\u00f6z\u00f6tti kapcsolatot teremti meg<\/strong>. Nem az innov\u00e1ci\u00f3 ellen dolgozik, hanem annak felt\u00e9teleit teszi vil\u00e1goss\u00e1: milyen c\u00e9lra, milyen adatokkal, milyen kontrollokkal \u00e9s milyen fel\u00fcgyelettel haszn\u00e1lhat\u00f3 az AI.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer egyik legels\u0151 gyakorlati feladata a hat\u00f3k\u00f6r meghat\u00e1roz\u00e1sa. Ez azt jelenti, hogy a szervezet eld\u00f6nti, mely rendszerek, folyamatok, szolg\u00e1ltat\u00e1sok, besz\u00e1ll\u00edt\u00f3i megold\u00e1sok \u00e9s bels\u0151 haszn\u00e1lati m\u00f3dok tartoznak az AI-ir\u00e1ny\u00edt\u00e1s al\u00e1.<\/p>\n\n\n\n A hat\u00f3k\u00f6r-meghat\u00e1roz\u00e1s nem lehet puszt\u00e1n technol\u00f3giai lista. Ha csak azt keress\u00fck, hol szerepel a \u201emachine learning\u201d, \u201eAI\u201d, \u201eLLM\u201d vagy \u201epredictive analytics\u201d kifejez\u00e9s, k\u00f6nnyen kimaradnak olyan rendszerek, amelyek t\u00e9nylegesen befoly\u00e1solj\u00e1k a d\u00f6nt\u00e9seket. Ford\u00edtva is igaz: lehetnek olyan alacsony hat\u00e1s\u00fa AI-eszk\u00f6z\u00f6k, amelyek ar\u00e1nytalanul nagy adminisztr\u00e1ci\u00f3t kapn\u00e1nak, ha minden kontrollt ugyan\u00fagy alkalmazn\u00e1nk r\u00e1juk.<\/p>\n\n\n\n Ez\u00e9rt a hat\u00f3k\u00f6rbe von\u00e1s els\u0151 k\u00e9rd\u00e9se mindig a hat\u00e1s m\u00e9rt\u00e9ke<\/strong>. A szervezetnek azt kell meg\u00e9rtenie, hogy a rendszer kimenete mire hat, kiket \u00e9rint, mennyire automatiz\u00e1lt a felhaszn\u00e1l\u00e1sa, \u00e9s milyen k\u00f6vetkezm\u00e9nye lehet a hib\u00e1nak.<\/p>\n\n\n\n A hat\u00f3k\u00f6rbe von\u00e1sn\u00e1l \u00e9rdemes legal\u00e1bb h\u00e9t d\u00f6nt\u00e9si szempontot vizsg\u00e1lni:<\/p>\n\n\n\n A rendszer \u00e1ll\u00edt-e el\u0151 el\u0151rejelz\u00e9st, aj\u00e1nl\u00e1st, tartalmat, pontsz\u00e1mot, besorol\u00e1st vagy d\u00f6nt\u00e9si kimenetet?<\/p>\n\n\n\n A kimenet befoly\u00e1sol-e \u00fczleti, jogi, m\u0171k\u00f6d\u00e9si vagy emberi d\u00f6nt\u00e9st?<\/p>\n\n\n\n \u00c9rint-e \u00fcgyfeleket, munkav\u00e1llal\u00f3kat, \u00e1llampolg\u00e1rokat vagy m\u00e1s term\u00e9szetes szem\u00e9lyeket?<\/p>\n\n\n\n Haszn\u00e1l-e szem\u00e9lyes, \u00e9rz\u00e9keny, bizalmas vagy \u00fczletileg kritikus adatot?<\/p>\n\n\n\n Van-e automatiz\u00e1lt k\u00f6vetkezm\u00e9nye a kimenetnek?<\/p>\n\n\n\n K\u00fcls\u0151 besz\u00e1ll\u00edt\u00f3, felh\u0151szolg\u00e1ltat\u00f3 vagy harmadik f\u00e9l modellje r\u00e9szt vesz-e a m\u0171k\u00f6d\u00e9sben?<\/p>\n\n\n\n V\u00e1ltozhat-e a rendszer teljes\u00edtm\u00e9nye, adatk\u00f6rnyezete vagy haszn\u00e1lati m\u00f3dja az id\u0151 sor\u00e1n?<\/p>\n\n\n\n Ha ezek k\u00f6z\u00fcl t\u00f6bb k\u00e9rd\u00e9sre igen a v\u00e1lasz, a rendszert nagy val\u00f3sz\u00edn\u0171s\u00e9ggel indokolt bevonni az AI ir\u00e1ny\u00edt\u00e1si rendszer hat\u00f3k\u00f6r\u00e9be. Nem felt\u00e9tlen\u00fcl ugyanazzal a kontrollm\u00e9lys\u00e9ggel, de legal\u00e1bb nyilv\u00e1ntart\u00e1si, tulajdonosi, kock\u00e1zati \u00e9s fel\u00fcgyeleti szinten.<\/p>\n\n\n\n A hat\u00f3k\u00f6r kijel\u00f6l\u00e9s\u00e9nek alapja az AI-lelt\u00e1r. Ez nem egyszer\u0171 eszk\u00f6zlista, hanem ir\u00e1ny\u00edt\u00e1si nyilv\u00e1ntart\u00e1s. Tartalmaznia kell a rendszer nev\u00e9t, c\u00e9lj\u00e1t, tulajdonos\u00e1t, technol\u00f3giai jelleg\u00e9t, kimenett\u00edpus\u00e1t, \u00e9rintett folyamatait, adatforr\u00e1sait, besz\u00e1ll\u00edt\u00f3i kapcsolatait, kock\u00e1zati besorol\u00e1s\u00e1t \u00e9s fel\u00fclvizsg\u00e1lati st\u00e1tusz\u00e1t.<\/p>\n\n\n\n Egy j\u00f3l fel\u00e9p\u00edtett AI-lelt\u00e1rban a rendszer tulajdonosa ugyanolyan fontos adat, mint maga a technol\u00f3gia<\/strong>. Ha nincs felel\u0151s folyamatgazda, akkor a kock\u00e1zatkezel\u00e9s elm\u00e9leti marad. Valakinek tudnia kell, mi\u00e9rt haszn\u00e1lj\u00e1k a rendszert, milyen teljes\u00edtm\u00e9nyt v\u00e1rnak t\u0151le, mikor kell beavatkozni, \u00e9s hogyan t\u00f6rt\u00e9nik a v\u00e1ltoz\u00e1s j\u00f3v\u00e1hagy\u00e1sa.<\/p>\n\n\n\n A hat\u00f3k\u00f6rbe von\u00e1s nem egyszeri projekt. \u00daj eszk\u00f6z\u00f6k jelennek meg, megl\u00e9v\u0151 szoftverek kapnak AI-funkci\u00f3kat, \u00fczleti ter\u00fcletek pr\u00f3b\u00e1lnak ki generat\u00edv megold\u00e1sokat, besz\u00e1ll\u00edt\u00f3k \u00e9p\u00edtenek be automatikus aj\u00e1nl\u00f3rendszereket. Ez\u00e9rt a szervezetnek olyan folyamatot kell kialak\u00edtania, amely m\u00e1r beszerz\u00e9s, fejleszt\u00e9s, integr\u00e1ci\u00f3 vagy pr\u00f3bahaszn\u00e1lat el\u0151tt k\u00e9pes azonos\u00edtani az AI-jelleg\u0171 m\u0171k\u00f6d\u00e9st.<\/p>\n\n\n\n A beszerz\u00e9si folyamat k\u00fcl\u00f6n\u00f6sen fontos kontrollpont. Sok AI-rendszer nem saj\u00e1t fejleszt\u00e9sk\u00e9nt \u00e9rkezik, hanem szoftverszolg\u00e1ltat\u00e1s, felh\u0151platform, \u00fczleti alkalmaz\u00e1s vagy szakmai rendszer r\u00e9szek\u00e9nt. Ilyenkor az AI-kock\u00e1zat gyakran a besz\u00e1ll\u00edt\u00f3i l\u00e1ncon kereszt\u00fcl l\u00e9p be a szervezetbe<\/strong>.<\/p>\n\n\n\n A hat\u00f3k\u00f6rbe von\u00e1sn\u00e1l az is fontos, hogy a szervezet ne csak a magas kock\u00e1zat\u00fa rendszereket l\u00e1ssa. Az alacsonyabb kock\u00e1zat\u00fa AI-haszn\u00e1latokb\u00f3l is lehet tanulni: milyen k\u00e9pz\u00e9sre van sz\u00fcks\u00e9g, hogyan \u00e9rtik a munkat\u00e1rsak a kimeneteket, hol keletkezik adatv\u00e9delmi bizonytalans\u00e1g, \u00e9s milyen ir\u00e1ny\u00edt\u00e1si mint\u00e1k m\u0171k\u00f6dnek j\u00f3l.<\/p>\n\n\n\n Az ar\u00e1nyoss\u00e1g elve kulcsfontoss\u00e1g\u00fa. Egy bels\u0151 sz\u00f6veg\u00f6tletel\u0151 eszk\u00f6zre nem kell ugyanazt a kontrollk\u00e9szletet alkalmazni, mint egy \u00fcgyf\u00e9lmin\u0151s\u00edt\u0151 rendszerre. Ugyanakkor mindkett\u0151h\u00f6z kell vil\u00e1gos c\u00e9l, haszn\u00e1lati korl\u00e1t \u00e9s felel\u0151ss\u00e9g. Ez\u00e9rt a j\u00f3 AI-ir\u00e1ny\u00edt\u00e1s nem mindent szigor\u00edt, hanem mindent ar\u00e1nyosan kezel<\/strong>.<\/p>\n\n\n\n A hat\u00f3k\u00f6r kijel\u00f6l\u00e9sekor a szervezetnek c\u00e9lszer\u0171 h\u00e1rom kateg\u00f3ri\u00e1t kialak\u00edtania:<\/p>\n\n\n\n nyilv\u00e1ntartott, alacsony hat\u00e1s\u00fa AI-haszn\u00e1lat;<\/p>\n\n\n\n kontroll\u00e1lt, k\u00f6zepes hat\u00e1s\u00fa AI-rendszer;<\/p>\n\n\n\n kiemelt fel\u00fcgyeletet ig\u00e9nyl\u0151, magas hat\u00e1s\u00fa AI-rendszer.<\/p>\n\n\n\n Az els\u0151 kateg\u00f3ri\u00e1ban elegend\u0151 lehet az alapvet\u0151 nyilv\u00e1ntart\u00e1s, a haszn\u00e1lati szab\u00e1lyzat \u00e9s a k\u00e9pz\u00e9s. A m\u00e1sodikban m\u00e1r sz\u00fcks\u00e9g lehet kock\u00e1zat\u00e9rt\u00e9kel\u00e9sre, adatv\u00e9delmi \u00e9s inform\u00e1ci\u00f3biztons\u00e1gi ellen\u0151rz\u00e9sre, valamint id\u0151szakos fel\u00fclvizsg\u00e1latra. A harmadikban r\u00e9szletes dokument\u00e1ci\u00f3, vezet\u0151i j\u00f3v\u00e1hagy\u00e1s, er\u0151sebb emberi fel\u00fcgyelet, teljes\u00edtm\u00e9nym\u00e9r\u00e9s \u00e9s auditnyomvonal sz\u00fcks\u00e9ges.<\/p>\n\n\n\n A gyakorl\u00f3 feladat egyszer\u0171, de hat\u00e9kony: a szervezet v\u00e1lasszon ki h\u00e1rom olyan eszk\u00f6zt vagy folyamatot, amely AI-t haszn\u00e1lhat. Mindegyikn\u00e9l nevezze meg, milyen kimenetet \u00e1ll\u00edt el\u0151, milyen folyamatban haszn\u00e1lj\u00e1k, ki t\u00e1maszkodik r\u00e1, \u00e9s milyen k\u00f6vetkezm\u00e9nye lehet a hib\u00e1nak.<\/p>\n\n\n\n P\u00e9ld\u00e1ul egy \u00fcgyf\u00e9lszolg\u00e1lati chatbot kimenete \u00fcgyf\u00e9lv\u00e1lasz. Hat\u00e1sa az \u00fcgyf\u00e9l t\u00e1j\u00e9kozotts\u00e1g\u00e1ra, el\u00e9gedetts\u00e9g\u00e9re \u00e9s esetleges jog\u00e9rv\u00e9nyes\u00edt\u00e9s\u00e9re terjedhet ki. Egy HR-el\u0151sz\u0171r\u0151 eszk\u00f6z kimenete rangsor vagy alkalmass\u00e1gi jelz\u00e9s lehet, amely munkav\u00e1llal\u00f3i es\u00e9lyeket befoly\u00e1solhat. Egy predikt\u00edv karbantart\u00e1si modell kimenete meghib\u00e1sod\u00e1si el\u0151rejelz\u00e9s, amely \u00fczemeltet\u00e9si d\u00f6nt\u00e9sekre \u00e9s er\u0151forr\u00e1s-tervez\u00e9sre hat.<\/p>\n\n\n\n A gyakorlat l\u00e9nyege nem az, hogy minden v\u00e1laszt azonnal jogi kateg\u00f3ri\u00e1ba soroljunk. A c\u00e9l az, hogy az AI-rendszer kimenete \u00e9s szervezeti hat\u00e1sa l\u00e1that\u00f3v\u00e1 v\u00e1ljon<\/strong>. Am\u00edg ez nem t\u00f6rt\u00e9nik meg, a szervezet val\u00f3j\u00e1ban nem tudja, milyen AI-k\u00e9pess\u00e9get m\u0171k\u00f6dtet.<\/p>\n\n\n\n Az AI ir\u00e1ny\u00edt\u00e1si rendszer \u00e9retts\u00e9ge ott kezd\u0151dik, amikor a szervezet egy konkr\u00e9t p\u00e9ld\u00e1r\u00f3l \u00f6n\u00e1ll\u00f3an el tudja d\u00f6nteni, mi\u00e9rt indokolt vagy nem indokolt AI-rendszerk\u00e9nt kezelni. Ehhez nem kell minden munkat\u00e1rsnak adatkutat\u00f3v\u00e1 v\u00e1lnia, de sz\u00fcks\u00e9g van k\u00f6z\u00f6s fogalmi alapra, d\u00f6nt\u00e9si szempontokra \u00e9s felel\u0151ss\u00e9gi rendre.<\/p>\n\n\n\n A vezet\u0151i tanuls\u00e1g vil\u00e1gos: az AI ir\u00e1ny\u00edt\u00e1sa nem a technol\u00f3gia ut\u00f3lagos ellen\u0151rz\u00e9se, hanem a szervezeti m\u0171k\u00f6d\u00e9s tudatos kialak\u00edt\u00e1sa. Az AI csak akkor v\u00e1lik fenntarthat\u00f3 k\u00e9pess\u00e9gg\u00e9, ha a szervezet tudja, hol haszn\u00e1lja, mire t\u00e1maszkodik benne, milyen kock\u00e1zatot v\u00e1llal, \u00e9s hogyan tud beavatkozni, ha a rendszer nem a k\u00edv\u00e1nt m\u00f3don m\u0171k\u00f6dik.<\/p>\n\n\n\n A mesters\u00e9ges intelligencia szervezeti \u00e9rtelmez\u00e9se ez\u00e9rt nem defin\u00edci\u00f3s gyakorlat, hanem felel\u0151ss\u00e9gi fordul\u00f3pont. Egy j\u00f3l m\u0171k\u00f6d\u0151 AI ir\u00e1ny\u00edt\u00e1si rendszer nem azt k\u00e9rdezi el\u0151sz\u00f6r, hogy egy eszk\u00f6z el\u00e9g fejlett-e ahhoz, hogy AI-nak nevezz\u00fck. Azt k\u00e9rdezi, hogy a rendszer milyen kimenetet hoz l\u00e9tre, milyen d\u00f6nt\u00e9st vagy folyamatot befoly\u00e1sol, kiket \u00e9rint, \u00e9s milyen kontrollok sz\u00fcks\u00e9gesek ahhoz, hogy a haszn\u00e1lata felel\u0151s, ellen\u0151rizhet\u0151 \u00e9s ar\u00e1nyos maradjon.<\/p>\n\n\n\n NIST AI Risk Management Framework \u2013 hivatalos \u00e1ttekint\u0151 oldal: https:\/\/www.nist.gov\/itl\/ai-risk-management-framework<\/p>\n\n\n\n European Commission \u2013 AI Act \u00e1ttekint\u00e9s: https:\/\/digital-strategy.ec.europa.eu\/en\/policies\/regulatory-framework-ai<\/p>\n\n\n\n OECD AI Principles: https:\/\/oecd.ai\/en\/ai-principles<\/p>\n\n\n\n ISO\/IEC 42001:2023 szabv\u00e1nyoldal: https:\/\/www.iso.org\/standard\/81230.html<\/p>\n\n\n\n NIST AI RMF 1.0 explainer video: https:\/\/www.nist.gov\/video\/introduction-nist-ai-risk-management-framework-ai-rmf-10-explainer-video<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj<\/p>\n\n\n\n High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI<\/em>. European Commission. https:\/\/digital-strategy.ec.europa.eu\/en\/library\/ethics-guidelines-trustworthy-ai<\/p>\n\n\n\n International Organization for Standardization. (2022). ISO\/IEC 22989:2022: Information technology \u2014 Artificial intelligence \u2014 Artificial intelligence concepts and terminology<\/em>. ISO. https:\/\/www.iso.org\/standard\/74296.html<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 23894:2023: Information technology \u2014 Artificial intelligence \u2014 Guidance on risk management<\/em>. ISO. https:\/\/www.iso.org\/standard\/77304.html<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/81230.html<\/p>\n\n\n\n National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0)<\/em>. U.S. Department of Commerce. https:\/\/doi.org\/10.6028\/NIST.AI.100-1<\/p>\n\n\n\nKimenetek, d\u00f6nt\u00e9st\u00e1mogat\u00e1s \u00e9s automatiz\u00e1lt d\u00f6nt\u00e9sek<\/h2>\n\n\n\n
AI-haszn\u00e1lat \u00e9s AI-fejleszt\u00e9s: k\u00e9t elt\u00e9r\u0151 ir\u00e1ny\u00edt\u00e1si helyzet<\/h2>\n\n\n\n
Szervezeti hat\u00e1sok \u00e9s kock\u00e1zati kateg\u00f3ri\u00e1k<\/h2>\n\n\n\n
Hogyan d\u00f6nthet\u0151 el, mi ker\u00fclj\u00f6n a hat\u00f3k\u00f6rbe?<\/h2>\n\n\n\n
Tov\u00e1bbi olvasnival\u00f3<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n