Egy AI-alap\u00fa \u00f6n\u00e9letrajz-el\u0151sz\u0171r\u0151 els\u0151 r\u00e1n\u00e9z\u00e9sre hat\u00e9kony eszk\u00f6znek t\u0171nik: gyorsabban rendezi a jelentkez\u0151ket, cs\u00f6kkenti az adminisztr\u00e1ci\u00f3t, \u00e9s egys\u00e9gesebb d\u00f6nt\u00e9si alapot \u00edg\u00e9r. A val\u00f3di k\u00e9rd\u00e9s azonban nem az, hogy az eszk\u00f6z k\u00e9pes-e rangsort k\u00e9sz\u00edteni, hanem az, hogy a rangsor milyen mint\u00e1kb\u00f3l tanul, milyen embereket \u00e9rint, \u00e9s milyen szervezeti d\u00f6nt\u00e9sek \u00e9p\u00fclnek r\u00e1.<\/p>\n\n\n\n
Az AI-rendszerek elfogults\u00e1ga nem puszt\u00e1n technikai hiba. Lehet adatmin\u0151s\u00e9gi probl\u00e9ma, rosszul megv\u00e1lasztott c\u00e9lv\u00e1ltoz\u00f3, hi\u00e1nyos tesztel\u00e9s, egyenl\u0151tlen felhaszn\u00e1l\u00e1si k\u00f6rnyezet vagy hib\u00e1s d\u00f6nt\u00e9si folyamat k\u00f6vetkezm\u00e9nye. Az AI ir\u00e1ny\u00edt\u00e1si rendszer feladata, hogy az elfogults\u00e1got ne ut\u00f3lagos reput\u00e1ci\u00f3s v\u00e1ls\u00e1gk\u00e9nt, hanem el\u0151re azonos\u00edtand\u00f3, m\u00e9rhet\u0151, dokument\u00e1land\u00f3 \u00e9s kontroll\u00e1lhat\u00f3 kock\u00e1zatk\u00e9nt kezelje.<\/p>\n\n\n\n
Az elfogults\u00e1g AI-k\u00f6rnyezetben azt jelenti, hogy egy rendszer kimenete egyes szem\u00e9lyekre vagy csoportokra n\u00e9zve indokolatlanul kedvez\u0151tlenebb, pontatlanabb vagy h\u00e1tr\u00e1nyosabb k\u00f6vetkezm\u00e9nyt eredm\u00e9nyezhet. Ez nem mindig sz\u00e1nd\u00e9kos, \u00e9s nem mindig l\u00e1tv\u00e1nyos. Egy modell akkor is torz\u00edthat, ha a fejleszt\u0151k nem akarnak diszkrimin\u00e1lni, a felhaszn\u00e1l\u00f3k j\u00f3hiszem\u0171ek, \u00e9s a szervezet hat\u00e9konys\u00e1got szeretne n\u00f6velni.<\/p>\n\n\n\n
Az AI-rendszerek k\u00fcl\u00f6n\u00f6sen \u00e9rz\u00e9kenyek a t\u00f6rt\u00e9neti mint\u00e1kra. Ha egy szervezet kor\u00e1bbi d\u00f6nt\u00e9seiben voltak torz\u00edt\u00e1sok, az adatok ezeket meg\u0151rizhetik. Ilyenkor a m\u00faltbeli d\u00f6nt\u00e9sek tan\u00edt\u00f3anyagg\u00e1 v\u00e1lhatnak<\/strong>, \u00e9s a modell nem kijav\u00edtja, hanem feler\u0151s\u00edti a kor\u00e1bbi m\u0171k\u00f6d\u00e9s hib\u00e1it. Ez\u00e9rt az AI-elfogults\u00e1g vizsg\u00e1lata nem v\u00e1laszthat\u00f3 le a szervezeti folyamatr\u00f3l, amelyben a rendszer m\u0171k\u00f6dni fog.<\/p>\n\n\n\n Az ISO\/IEC TR 24027 kifejezetten az AI-rendszerekben \u00e9s AI-t\u00e1mogatott d\u00f6nt\u00e9shozatalban megjelen\u0151 torz\u00edt\u00e1sokat t\u00e1rgyalja, \u00e9s hangs\u00falyozza, hogy az elfogults\u00e1g a teljes \u00e9letciklusban megjelenhet: adatgy\u0171jt\u00e9sben, tervez\u00e9sben, tan\u00edt\u00e1sban, tesztel\u00e9sben, \u00e9rt\u00e9kel\u00e9sben, folyamatos tanul\u00e1sban \u00e9s haszn\u00e1latban is (International Organization for Standardization [ISO], 2021). Ez a n\u00e9z\u0151pont az\u00e9rt fontos, mert az elfogults\u00e1g nem egyetlen fejleszt\u00e9si ponton keletkezik. Sokszor t\u00f6bb apr\u00f3 d\u00f6nt\u00e9s \u00f6sszead\u00f3d\u00e1sa hozza l\u00e9tre.<\/p>\n\n\n\n Egy AI ir\u00e1ny\u00edt\u00e1si rendszerben az elfogults\u00e1g nem elszigetelt etikai t\u00e9ma. Kapcsol\u00f3dik a kock\u00e1zat\u00e9rt\u00e9kel\u00e9shez, a kontrollkijel\u00f6l\u00e9shez, az adatir\u00e1ny\u00edt\u00e1shoz, a felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9shez, a besz\u00e1ll\u00edt\u00f3i fel\u00fcgyelethez, a panaszkezel\u00e9shez \u00e9s az audit\u00e1lhat\u00f3s\u00e1ghoz. Ebben a m\u00e9lt\u00e1nyoss\u00e1g ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9ss\u00e9 v\u00e1lik<\/strong>, mert a szervezetnek bizony\u00edtania kell, hogy felismerte, \u00e9rt\u00e9kelte \u00e9s kezelte a lehets\u00e9ges h\u00e1tr\u00e1nyos hat\u00e1sokat.<\/p>\n\n\n\n A diszkrimin\u00e1ci\u00f3 akkor v\u00e1lik k\u00fcl\u00f6n\u00f6sen s\u00falyoss\u00e1, ha az AI-kimenet emberek jogaira, lehet\u0151s\u00e9geire, szolg\u00e1ltat\u00e1shoz val\u00f3 hozz\u00e1f\u00e9r\u00e9s\u00e9re, munkav\u00e1llal\u00e1si es\u00e9lyeire vagy t\u00e1rsadalmi meg\u00edt\u00e9l\u00e9s\u00e9re hat. Egy \u00fcgyf\u00e9lszolg\u00e1lati rangsorol\u00e1s, hitelb\u00edr\u00e1lati t\u00e1mogat\u00e1s, HR-el\u0151sz\u0171r\u00e9s vagy csal\u00e1sfelder\u00edt\u00e9si rendszer nem csup\u00e1n adatokat dolgoz fel. D\u00f6nt\u00e9si k\u00f6rnyezetet form\u00e1l.<\/p>\n\n\n\n Az EU AI Act kock\u00e1zatalap\u00fa megk\u00f6zel\u00edt\u00e9se is abb\u00f3l indul ki, hogy egyes AI-haszn\u00e1latok k\u00fcl\u00f6n\u00f6sen er\u0151s hat\u00e1ssal lehetnek az emberek biztons\u00e1g\u00e1ra, jogaira \u00e9s alapvet\u0151 \u00e9rdekeire (European Parliament & Council of the European Union, 2024). Ez nem jelenti azt, hogy minden AI-rendszer azonos szigorral kezelend\u0151, de azt igen, hogy a szervezetnek vil\u00e1gosan kell l\u00e1tnia, mely haszn\u00e1lati esetek hordoznak magasabb \u00e9rintetti kock\u00e1zatot.<\/p>\n\n\n\n Az elfogults\u00e1g \u00fczleti szempontb\u00f3l is kock\u00e1zat. Egy torz \u00fcgyf\u00e9lmodell rossz c\u00e9lcsoportokat v\u00e1laszt, egy hib\u00e1s HR-modell j\u00f3 jel\u00f6lteket sz\u0171r ki, egy pontatlan kock\u00e1zati modell f\u00e9lrevezeti a d\u00f6nt\u00e9shoz\u00f3kat. Ilyenkor a torz\u00edt\u00e1s nemcsak igazs\u00e1gtalan, hanem rossz d\u00f6nt\u00e9st is eredm\u00e9nyez<\/strong>. A szervezet egyszerre vesz\u00edthet hat\u00e9konys\u00e9get, bizalmat \u00e9s megfelel\u0151s\u00e9gi stabilit\u00e1st.<\/p>\n\n\n\n A technol\u00f3giai teljes\u00edtm\u00e9ny \u00f6nmag\u00e1ban nem elegend\u0151. Egy modell lehet \u00e1tlagosan pontos, mik\u00f6zben bizonyos alcsoportokra n\u00e9zve rosszul m\u0171k\u00f6dik. Buolamwini \u00e9s Gebru (2018) arcfelismer\u00e9si rendszereket vizsg\u00e1l\u00f3 kutat\u00e1sa \u00e9ppen arra mutatott r\u00e1, hogy a teljes\u00edtm\u00e9nyk\u00fcl\u00f6nbs\u00e9gek csoportok k\u00f6z\u00f6tt jelent\u0151sek lehetnek, \u00e9s az \u00e1tlagos mutat\u00f3k elfedhetik az egyenl\u0151tlen hibaar\u00e1nyokat. A tanuls\u00e1g \u00e1ltal\u00e1nosabb: a szervezetnek nemcsak azt kell m\u00e9rnie, hogy a rendszer \u00f6sszess\u00e9g\u00e9ben j\u00f3l teljes\u00edt-e, hanem azt is, hogy kikn\u00e9l hib\u00e1zik.<\/p>\n\n\n\n Az AIMS szempontj\u00e1b\u00f3l ez\u00e9rt az elfogults\u00e1g azonos\u00edt\u00e1sa nem lehet ut\u00f3lagos min\u0151s\u00e9gellen\u0151rz\u00e9s. M\u00e1r a haszn\u00e1lati eset meghat\u00e1roz\u00e1sakor tiszt\u00e1zni kell, hogy a rendszer emberekre vonatkoz\u00f3 \u00e9rt\u00e9kel\u00e9st, rangsorol\u00e1st, szegment\u00e1l\u00e1st, aj\u00e1nl\u00e1st vagy d\u00f6nt\u00e9st\u00e1mogat\u00e1st ad-e. Ha igen, az \u00e9rintetti hat\u00e1st m\u00e1r a tervez\u00e9skor vizsg\u00e1lni kell<\/strong>, mert k\u00e9s\u0151bb sokkal nehezebb korrig\u00e1lni a be\u00e9p\u00fclt torz\u00edt\u00e1sokat.<\/p>\n\n\n\n A szervezeti felel\u0151ss\u00e9g ott kezd\u0151dik, hogy az AI-kimenetet nem tekintj\u00fck semleges t\u00e9nynek. A modell statisztikai mint\u00e1zatokat, kor\u00e1bbi d\u00f6nt\u00e9seket, adatszerkezeteket \u00e9s fejleszt\u0151i v\u00e1laszt\u00e1sokat t\u00fckr\u00f6z. Ha ezek torzak, hi\u00e1nyosak vagy rosszul illeszkednek a haszn\u00e1lati helyzethez, a kimenet is torzulhat.<\/p>\n\n\n\n Az elfogults\u00e1g kezel\u00e9se ez\u00e9rt nem egyszer\u0171en azt jelenti, hogy \u201et\u00f6bb adatot\u201d kell gy\u0171jteni. A t\u00f6bb adat ak\u00e1r t\u00f6bb torz\u00edt\u00e1st is jelenthet, ha az adat rosszul reprezent\u00e1lja az \u00e9rintetteket, vagy ha a c\u00e9lv\u00e1ltoz\u00f3 eleve probl\u00e9m\u00e1s. Ebben a mennyis\u00e9g nem helyettes\u00edti az adatmin\u0151s\u00e9get<\/strong>, \u00e9s az adatmin\u0151s\u00e9g nem puszt\u00e1n technikai, hanem szervezeti \u00e9s etikai k\u00e9rd\u00e9s is.<\/p>\n\n\n\n A felel\u0151s AI-ir\u00e1ny\u00edt\u00e1s l\u00e9nyege, hogy a szervezet ne v\u00e1rja meg, am\u00edg a torz\u00edt\u00e1s panasz, auditmeg\u00e1llap\u00edt\u00e1s vagy nyilv\u00e1nos botr\u00e1ny form\u00e1j\u00e1ban jelenik meg. Az elfogults\u00e1got a kock\u00e1zat\u00e9rt\u00e9kel\u00e9s r\u00e9szek\u00e9nt kell el\u0151re azonos\u00edtani, rangsorolni \u00e9s kontrollhoz k\u00f6tni. \u00cdgy a m\u00e9lt\u00e1nyoss\u00e1gi k\u00e9rd\u00e9s nem ut\u00f3lagos magyar\u00e1zkod\u00e1s, hanem tervezett ir\u00e1ny\u00edt\u00e1si tev\u00e9kenys\u00e9g lesz.<\/p>\n\n\n\n Az AI-elfogults\u00e1g egyik leggyakoribb forr\u00e1sa az adat. A tan\u00edt\u00f3adat t\u00fckr\u00f6zheti a kor\u00e1bbi szervezeti gyakorlatokat, t\u00e1rsadalmi egyenl\u0151tlens\u00e9geket, hi\u00e1nyz\u00f3 csoportokat, m\u00e9r\u00e9si hib\u00e1kat vagy torz adatgy\u0171jt\u00e9si logik\u00e1t. Ha egy HR-rendszert olyan adatokon tan\u00edtanak, amelyekben a kor\u00e1bbi sikeres jel\u00f6ltek k\u00f6re nem volt kiegyens\u00falyozott, a modell megtanulhatja ezt a mint\u00e1zatot.<\/p>\n\n\n\n Az adatb\u00f3l ered\u0151 elfogults\u00e1g nem mindig l\u00e1tszik k\u00f6zvetlen\u00fcl. Egy modell akkor is haszn\u00e1lhat v\u00e9dett vagy \u00e9rz\u00e9keny jellemz\u0151kre utal\u00f3 k\u00f6zvetett mint\u00e1zatokat, ha mag\u00e1t a jellemz\u0151t nem kapja meg bemenetk\u00e9nt. Ilyenkor a proxyv\u00e1ltoz\u00f3k rejtett kock\u00e1zatot hordoznak<\/strong>, mert l\u00e1tsz\u00f3lag semleges adatokon kereszt\u00fcl m\u00e9gis csoportk\u00fcl\u00f6nbs\u00e9geket id\u00e9zhetnek el\u0151. P\u00e9ld\u00e1ul lak\u00f3hely, munkat\u00f6rt\u00e9net, int\u00e9zm\u00e9nyi h\u00e1tt\u00e9r vagy nyelvi mint\u00e1zat bizonyos helyzetekben k\u00f6zvetett jelz\u0151k\u00e9nt m\u0171k\u00f6dhet.<\/p>\n\n\n\n A g\u00e9pi tanul\u00e1s m\u00e9lt\u00e1nyoss\u00e1gi szakirodalma r\u00e9g\u00f3ta hangs\u00falyozza, hogy a torz\u00edt\u00e1s forr\u00e1sai sokf\u00e9l\u00e9k lehetnek: adatreprezent\u00e1ci\u00f3, m\u00e9r\u00e9si hiba, c\u00edmk\u00e9z\u00e9si d\u00f6nt\u00e9sek, aggreg\u00e1ci\u00f3s probl\u00e9m\u00e1k, \u00e9rt\u00e9kel\u00e9si metrik\u00e1k \u00e9s felhaszn\u00e1l\u00e1si k\u00f6rnyezet egyar\u00e1nt szerepet j\u00e1tszhatnak (Mehrabi et al., 2021). Ez az\u00e9rt l\u00e9nyeges, mert az elfogults\u00e1got nem lehet egyetlen kontrollal kezelni. T\u00f6bb ponton kell vizsg\u00e1lni.<\/p>\n\n\n\n A rosszul megv\u00e1lasztott c\u00e9lv\u00e1ltoz\u00f3 k\u00fcl\u00f6n\u00f6sen vesz\u00e9lyes. A c\u00e9lv\u00e1ltoz\u00f3 azt fejezi ki, hogy a modell mit pr\u00f3b\u00e1l megtanulni vagy el\u0151rejelezni. Ha ez hib\u00e1san t\u00fckr\u00f6zi a val\u00f3di \u00fczleti vagy emberi c\u00e9lt, a modell form\u00e1lisan j\u00f3l teljes\u00edthet, m\u00e9gis rossz d\u00f6nt\u00e9si logik\u00e1t t\u00e1mogat. Egy \u00f6n\u00e9letrajz-el\u0151sz\u0171r\u0151 p\u00e9ld\u00e1ul nem felt\u00e9tlen\u00fcl a val\u00f3di alkalmass\u00e1got tanulja meg, hanem azt, hogy a m\u00faltban kik jutottak tov\u00e1bb.<\/p>\n\n\n\n Ebben a c\u00e9lv\u00e1ltoz\u00f3 a szervezeti \u00e9rt\u00e9k\u00edt\u00e9let technikai lenyomata<\/strong>. Ha a szervezet nem vizsg\u00e1lja meg, hogy a kiv\u00e1lasztott c\u00e9l val\u00f3ban indokolt, m\u00e9lt\u00e1nyos \u00e9s a munkak\u00f6r szempontj\u00e1b\u00f3l relev\u00e1ns-e, a modell olyan mint\u00e1t optimaliz\u00e1lhat, amely nem felel meg a felel\u0151s d\u00f6nt\u00e9shozatalnak. A c\u00e9lv\u00e1ltoz\u00f3 kiv\u00e1laszt\u00e1sa ez\u00e9rt nem kiz\u00e1r\u00f3lag adattudom\u00e1nyi k\u00e9rd\u00e9s.<\/p>\n\n\n\n A modellb\u0151l ered\u0151 elfogults\u00e1g akkor jelenhet meg, ha az algoritmus bizonyos mint\u00e1zatokat t\u00fal er\u0151sen s\u00falyoz, rosszul \u00e1ltal\u00e1nos\u00edt, elt\u00e9r\u0151 pontoss\u00e1ggal m\u0171k\u00f6dik alcsoportokon, vagy olyan d\u00f6nt\u00e9si hat\u00e1rt alak\u00edt ki, amely egyes csoportokra kedvez\u0151tlenebb. A modell komplexit\u00e1sa ezt tov\u00e1bb nehez\u00edtheti. Min\u00e9l kev\u00e9sb\u00e9 \u00e1tl\u00e1that\u00f3 a m\u0171k\u00f6d\u00e9s, ann\u00e1l nagyobb sz\u00fcks\u00e9g van c\u00e9lzott tesztel\u00e9sre \u00e9s magyar\u00e1zhat\u00f3s\u00e1gi kontrollokra.<\/p>\n\n\n\n A modelltesztel\u00e9s hi\u00e1nyoss\u00e1gai szint\u00e9n torz\u00edt\u00e1shoz vezethetnek. Ha csak az \u00e1tlagos pontoss\u00e1got m\u00e9rj\u00fck, k\u00f6nnyen elmaradhat az alcsoportos vizsg\u00e1lat. Ha csak technikai teljes\u00edtm\u00e9nymutat\u00f3kat haszn\u00e1lunk, kimaradhat a d\u00f6nt\u00e9si hat\u00e1s. Ha a tesztadat nem reprezentat\u00edv, a teszt biztons\u00e1g\u00e9rzetet adhat, mik\u00f6zben a val\u00f3s m\u0171k\u00f6d\u00e9sben a rendszer m\u00e1sk\u00e9pp viselkedik.<\/p>\n\n\n\n Egy AI ir\u00e1ny\u00edt\u00e1si rendszerben ez\u00e9rt a tesztel\u00e9snek nem szabad kiz\u00e1r\u00f3lag modellfejleszt\u00e9si l\u00e9p\u00e9sk\u00e9nt megjelennie. A tesztel\u00e9snek ir\u00e1ny\u00edt\u00e1si funkci\u00f3ja is van: bizony\u00edt\u00e9kot ad arr\u00f3l, hogy a szervezet vizsg\u00e1lta a kock\u00e1zatot. Ilyenkor a teszt nem technikai formalit\u00e1s, hanem kontrollbizony\u00edt\u00e9k<\/strong>. Az audit\u00e1lhat\u00f3s\u00e1g szempontj\u00e1b\u00f3l fontos, hogy a teszt c\u00e9lja, m\u00f3dszere, eredm\u00e9nye \u00e9s k\u00f6vetkezm\u00e9nye dokument\u00e1lt legyen.<\/p>\n\n\n\n A folyamatb\u00f3l ered\u0151 elfogults\u00e1g k\u00fcl\u00f6n\u00f6sen gyakori szervezeti probl\u00e9ma. El\u0151fordulhat, hogy a modell \u00f6nmag\u00e1ban elfogadhat\u00f3an m\u0171k\u00f6dik, de a felhaszn\u00e1l\u00f3k rosszul \u00e9rtelmezik a kimenetet, t\u00fal nagy d\u00f6nt\u00e9si s\u00falyt adnak neki, vagy nem haszn\u00e1lj\u00e1k az emberi fel\u00fclvizsg\u00e1lati lehet\u0151s\u00e9get. Ilyenkor a diszkrimin\u00e1ci\u00f3s kock\u00e1zat nem a modellk\u00f3dban, hanem a d\u00f6nt\u00e9si folyamatban jelenik meg.<\/p>\n\n\n\n Selbst \u00e9s munkat\u00e1rsai (2019) arra figyelmeztetnek, hogy a m\u00e9lt\u00e1nyoss\u00e1got nem lehet puszt\u00e1n technikai absztrakci\u00f3k\u00e9nt kezelni, mert az AI-rendszerek t\u00e1rsadalmi \u00e9s szervezeti k\u00f6rnyezetben m\u0171k\u00f6dnek. Ez az AIMS szempontj\u00e1b\u00f3l kulcstanuls\u00e1g. A m\u00e9lt\u00e1nyoss\u00e1g nem v\u00e1laszthat\u00f3 le a haszn\u00e1lati kontextusr\u00f3l<\/strong>, mert ugyanaz a modell m\u00e1s folyamatban m\u00e1s hat\u00e1st v\u00e1lthat ki.<\/p>\n\n\n\n Az egyenl\u0151tlen felhaszn\u00e1l\u00e1si k\u00f6rnyezet szint\u00e9n torz\u00edt\u00f3 t\u00e9nyez\u0151. Ha egy AI-eszk\u00f6zt k\u00fcl\u00f6nb\u00f6z\u0151 r\u00e9gi\u00f3kban, nyelveken, \u00fcgyf\u00e9lcsoportokban vagy szervezeti egys\u00e9gekben haszn\u00e1lnak, de a tan\u00edt\u00f3adat csak egy r\u00e9szter\u00fcletet t\u00fckr\u00f6z, a rendszer teljes\u00edtm\u00e9nye egyenetlen lehet. Egy chatbot p\u00e9ld\u00e1ul j\u00f3l m\u0171k\u00f6dhet gyakori \u00fcgyf\u00e9lk\u00e9rd\u00e9sekre, de gyeng\u00e9n teljes\u00edthet speci\u00e1lis nyelvi mint\u00e1k, fogyat\u00e9koss\u00e1ggal kapcsolatos \u00fcgyek vagy ritk\u00e1bb helyzetek eset\u00e9n.<\/p>\n\n\n\n Az elfogults\u00e1g forr\u00e1sait ez\u00e9rt h\u00e1rom szinten kell vizsg\u00e1lni:<\/p>\n\n\n\n adatforr\u00e1sb\u00f3l ered\u0151 torz\u00edt\u00e1s;<\/p>\n\n\n\n modellm\u0171k\u00f6d\u00e9sb\u0151l ered\u0151 torz\u00edt\u00e1s;<\/p>\n\n\n\n szervezeti folyamatb\u00f3l \u00e9s haszn\u00e1latb\u00f3l ered\u0151 torz\u00edt\u00e1s.<\/p>\n\n\n\n Ez a h\u00e1rmas bont\u00e1s seg\u00edt abban, hogy a szervezet ne csak a modellt vizsg\u00e1lja, hanem a teljes d\u00f6nt\u00e9si l\u00e1ncot. A d\u00f6nt\u00e9si l\u00e1nc minden pontja torz\u00edthat<\/strong>, ez\u00e9rt a kontrolloknak is t\u00f6bb ponton kell megjelenni\u00fck.<\/p>\n\n\n\n A gyakorlatban ez azt jelenti, hogy az adatk\u00e9szletet reprezentativit\u00e1s, relevancia \u00e9s min\u0151s\u00e9g szerint kell vizsg\u00e1lni. A modellt alcsoportos teljes\u00edtm\u00e9ny, hibat\u00edpusok \u00e9s magyar\u00e1zhat\u00f3s\u00e1g alapj\u00e1n kell \u00e9rt\u00e9kelni. A folyamatot pedig felhaszn\u00e1l\u00f3i szerepek, d\u00f6nt\u00e9si s\u00faly, emberi fel\u00fcgyelet, panaszkezel\u00e9s \u00e9s dokument\u00e1ci\u00f3 alapj\u00e1n kell ellen\u0151rizni.<\/p>\n\n\n\n Egy szervezet akkor kezeli \u00e9retten az elfogults\u00e1got, ha nem egyetlen okot keres. A torz\u00edt\u00e1s sokszor r\u00e9tegzett. Egy hi\u00e1nyos adatforr\u00e1s, egy rosszul v\u00e1lasztott c\u00e9lv\u00e1ltoz\u00f3 \u00e9s egy t\u00falzottan automatiz\u00e1lt d\u00f6nt\u00e9si folyamat egy\u00fctt sokkal nagyobb kock\u00e1zatot jelent, mint k\u00fcl\u00f6n-k\u00fcl\u00f6n. Ez\u00e9rt az AIMS-ben az elfogults\u00e1gi kock\u00e1zatot rendszerszinten kell \u00e9rt\u00e9kelni.<\/p>\n\n\n\n A k\u00f6zvetlen diszkrimin\u00e1ci\u00f3 viszonylag k\u00f6nnyebben felismerhet\u0151. Akkor mer\u00fcl fel, ha egy AI-rendszer kifejezetten v\u00e9dett vagy \u00e9rz\u00e9keny jellemz\u0151 alapj\u00e1n ad kedvez\u0151tlenebb kimenetet. Ilyen jellemz\u0151 lehet p\u00e9ld\u00e1ul a nem, \u00e9letkor, fogyat\u00e9koss\u00e1g, etnikai hovatartoz\u00e1sra utal\u00f3 adat vagy m\u00e1s olyan szem\u00e9lyes tulajdons\u00e1g, amelynek haszn\u00e1lata k\u00fcl\u00f6n\u00f6sen \u00e9rz\u00e9keny d\u00f6nt\u00e9si helyzetben.<\/p>\n\n\n\n A k\u00f6zvetett diszkrimin\u00e1ci\u00f3 nehezebb. Ilyenkor a rendszer l\u00e1tsz\u00f3lag semleges v\u00e1ltoz\u00f3kat haszn\u00e1l, de ezek bizonyos csoportokra ar\u00e1nytalan h\u00e1tr\u00e1nyt eredm\u00e9nyezhetnek. Ebben a semleges v\u00e1ltoz\u00f3 is hordozhat csoporthat\u00e1st<\/strong>, ha a val\u00f3s t\u00e1rsadalmi vagy szervezeti k\u00f6rnyezetben er\u0151sen egy\u00fctt j\u00e1r v\u00e9dett jellemz\u0151kkel. Ez\u00e9rt nem elegend\u0151 azt ellen\u0151rizni, hogy a modell k\u00f6zvetlen\u00fcl haszn\u00e1l-e \u00e9rz\u00e9keny adatot.<\/p>\n\n\n\n A k\u00f6zvetett diszkrimin\u00e1ci\u00f3 felismer\u00e9s\u00e9hez hat\u00e1selemz\u00e9sre van sz\u00fcks\u00e9g. A szervezetnek azt kell vizsg\u00e1lnia, hogy az AI-kimenetek eloszl\u00e1sa hogyan alakul k\u00fcl\u00f6nb\u00f6z\u0151 csoportokn\u00e1l, van-e elt\u00e9r\u0151 hibaar\u00e1ny, elt\u00e9r\u0151 elutas\u00edt\u00e1si ar\u00e1ny, elt\u00e9r\u0151 rangsorol\u00e1si minta vagy elt\u00e9r\u0151 hozz\u00e1f\u00e9r\u00e9si k\u00f6vetkezm\u00e9ny. Barocas, Hardt \u00e9s Narayanan (2023) is hangs\u00falyozz\u00e1k, hogy a g\u00e9pi tanul\u00e1s m\u00e9lt\u00e1nyoss\u00e1gi k\u00e9rd\u00e9sei egyszerre statisztikai, jogi, t\u00e1rsadalmi \u00e9s d\u00f6nt\u00e9si probl\u00e9m\u00e1k.<\/p>\n\n\n\n Az egyik gyakori hiba, hogy a szervezet kiz\u00e1r\u00f3lag bemeneti v\u00e1ltoz\u00f3kat vizsg\u00e1l. Ha nem szerepel a modellben \u00e9rz\u00e9keny jellemz\u0151, akkor a kock\u00e1zatot alacsonynak tekinti. Ez hamis biztons\u00e1g\u00e9rzetet adhat. A diszkrimin\u00e1ci\u00f3t a kimeneti hat\u00e1s fel\u0151l is vizsg\u00e1lni kell<\/strong>, mert az \u00e9rintettet nem az adatmez\u0151 neve, hanem a d\u00f6nt\u00e9s k\u00f6vetkezm\u00e9nye \u00e9rinti.<\/p>\n\n\n\n Egy \u00f6n\u00e9letrajz-el\u0151sz\u0171r\u0151 p\u00e9ld\u00e1ul nem felt\u00e9tlen\u00fcl haszn\u00e1lja a jelentkez\u0151 nem\u00e9t vagy \u00e9letkor\u00e1t. M\u00e9gis kialak\u00edthat olyan mint\u00e1zatot, amely bizonyos karriermegszak\u00edt\u00e1sokat, int\u00e9zm\u00e9nyi h\u00e1ttereket, nyelvi fordulatokat vagy munkat\u00f6rt\u00e9neti szerkezeteket kedvez\u0151tlen\u00fcl \u00e9rt\u00e9kel. Ha ezek egyes csoportokat ar\u00e1nytalanul \u00e9rintenek, a kock\u00e1zat k\u00f6zvetett diszkrimin\u00e1ci\u00f3s jelleg\u0171 lehet.<\/p>\n\n\n\n A v\u00e9dett vagy \u00e9rz\u00e9keny jellemz\u0151kkel kapcsolatos kock\u00e1zat nem mer\u00fcl ki abban, hogy ezek megjelennek-e az adatk\u00e9szletben. Az is k\u00e9rd\u00e9s, hogy sz\u00fcks\u00e9ges-e a kezel\u00e9s\u00fck a m\u00e9lt\u00e1nyoss\u00e1gi tesztel\u00e9shez. Bizonyos esetekben \u00e9ppen az alcsoportos hat\u00e1svizsg\u00e1lathoz lehet sz\u00fcks\u00e9g megfelel\u0151en v\u00e9dett \u00e9s jogszer\u0171en kezelt \u00e9rz\u00e9keny adatokra. Ez \u00f6sszetett adatv\u00e9delmi, jogi \u00e9s ir\u00e1ny\u00edt\u00e1si k\u00e9rd\u00e9s, amelyet nem lehet \u00e1ltal\u00e1nos tilt\u00e1ssal vagy \u00e1ltal\u00e1nos enged\u00e9llyel kezelni.<\/p>\n\n\n\n Az AI Act a magas kock\u00e1zat\u00fa AI-rendszerek eset\u00e9ben k\u00fcl\u00f6n\u00f6s figyelmet ford\u00edt az adatok \u00e9s adatir\u00e1ny\u00edt\u00e1s min\u0151s\u00e9g\u00e9re, bele\u00e9rtve a relevanci\u00e1t, reprezentativit\u00e1st \u00e9s a hib\u00e1k kezel\u00e9s\u00e9t (European Parliament & Council of the European Union, 2024). Ez az elv a m\u00e9lt\u00e1nyoss\u00e1gi gondolkod\u00e1sban is hasznos. Az adatk\u00e9szlet min\u0151s\u00e9ge megfelel\u0151s\u00e9gi k\u00e9rd\u00e9s is lehet<\/strong>, nem csup\u00e1n modellfejleszt\u00e9si optimaliz\u00e1l\u00e1s.<\/p>\n\n\n\n A k\u00f6zvetlen \u00e9s k\u00f6zvetett diszkrimin\u00e1ci\u00f3 megk\u00fcl\u00f6nb\u00f6ztet\u00e9s\u00e9t gyakorlati ellen\u0151rz\u0151 k\u00e9rd\u00e9sek seg\u00edthetik:<\/p>\n\n\n\n Haszn\u00e1l-e a rendszer k\u00f6zvetlen\u00fcl v\u00e9dett vagy \u00e9rz\u00e9keny jellemz\u0151t?<\/p>\n\n\n\n Haszn\u00e1l-e olyan v\u00e1ltoz\u00f3t, amely k\u00f6zvetetten ilyen jellemz\u0151re utalhat?<\/p>\n\n\n\n Van-e elt\u00e9r\u0151 kimeneti ar\u00e1ny k\u00fcl\u00f6nb\u00f6z\u0151 csoportokn\u00e1l?<\/p>\n\n\n\n Van-e elt\u00e9r\u0151 hibaar\u00e1ny vagy t\u00e9ves besorol\u00e1si minta?<\/p>\n\n\n\n Az AI-kimenet befoly\u00e1sol-e hozz\u00e1f\u00e9r\u00e9st, rangsort, es\u00e9lyt vagy meg\u00edt\u00e9l\u00e9st?<\/p>\n\n\n\n Van-e emberi fel\u00fclvizsg\u00e1lat, panaszlehet\u0151s\u00e9g vagy korrekci\u00f3?<\/p>\n\n\n\n Dokument\u00e1lt-e, hogy a szervezet m\u00e9rlegelte a m\u00e9lt\u00e1nyoss\u00e1gi kock\u00e1zatot?<\/p>\n\n\n\n Ezek a k\u00e9rd\u00e9sek nem helyettes\u00edtik a jogi \u00e9rt\u00e9kel\u00e9st, de seg\u00edtenek abban, hogy a szervezet id\u0151ben felismerje a kock\u00e1zatos mint\u00e1kat. A korai felismer\u00e9s cs\u00f6kkenti a k\u00e9s\u0151bbi k\u00e1r s\u00faly\u00e1t<\/strong>, mert a kontrollok m\u00e9g a bevezet\u00e9s el\u0151tt vagy a m\u0171k\u00f6d\u00e9s korai szakasz\u00e1ban m\u00f3dos\u00edthat\u00f3k.<\/p>\n\n\n\n A diszkrimin\u00e1ci\u00f3s kock\u00e1zat nem mindig egy\u00e9rtelm\u0171en m\u00e9rhet\u0151. Vannak helyzetek, ahol kev\u00e9s adat \u00e1ll rendelkez\u00e9sre, bizonytalanok az alcsoportok, vagy neh\u00e9z eld\u00f6nteni, milyen m\u00e9lt\u00e1nyoss\u00e1gi mutat\u00f3 lenne megfelel\u0151. Ez nem ok arra, hogy a szervezet ne foglalkozzon a k\u00e9rd\u00e9ssel. Ilyenkor \u00f3vatosabb megfogalmaz\u00e1sra, kvalitat\u00edv \u00e9rt\u00e9kel\u00e9sre, szak\u00e9rt\u0151i bevon\u00e1sra \u00e9s fokozott monitoroz\u00e1sra lehet sz\u00fcks\u00e9g.<\/p>\n\n\n\n Az emberi fel\u00fcgyelet k\u00fcl\u00f6n\u00f6sen fontos olyan helyzetekben, ahol az AI-kimenet emberek es\u00e9lyeit vagy meg\u00edt\u00e9l\u00e9s\u00e9t befoly\u00e1solja. Ugyanakkor az emberi fel\u00fcgyelet \u00f6nmag\u00e1ban nem garancia. Ha a felhaszn\u00e1l\u00f3 nem \u00e9rti a modell korl\u00e1tait, ha t\u00falzottan b\u00edzik a pontsz\u00e1mban, vagy ha szervezeti nyom\u00e1s miatt ritk\u00e1n b\u00edr\u00e1lja fel\u00fcl a kimenetet, a kontroll gyenge marad.<\/p>\n\n\n\n Itt az emberi fel\u00fcgyeletnek d\u00f6nt\u00e9si jogosults\u00e1got is kell jelentenie<\/strong>. Nem el\u00e9g, ha valaki form\u00e1lisan \u201er\u00e1n\u00e9z\u201d a kimenetre. A fel\u00fclvizsg\u00e1l\u00f3nak \u00e9rtenie kell, mikor indokolt elt\u00e9rni az AI-javaslatt\u00f3l, hogyan kell dokument\u00e1lni az elt\u00e9r\u00e9st, \u00e9s milyen esetekben kell a rendszert vagy a folyamatot fel\u00fclvizsg\u00e1lni.<\/p>\n\n\n\n A k\u00f6zvetlen \u00e9s k\u00f6zvetett diszkrimin\u00e1ci\u00f3 felismer\u00e9se v\u00e9gs\u0151 soron azt ig\u00e9nyli, hogy a szervezet ne csak az algoritmust k\u00e9rdezze meg, hanem a d\u00f6nt\u00e9si k\u00f6rnyezetet is. Kinek van hatalma a kimenet alapj\u00e1n d\u00f6nteni? Ki viseli a h\u00e1tr\u00e1nyt? Ki tud panaszt tenni? Ki l\u00e1tja a kock\u00e1zati jeleket? Ezek a k\u00e9rd\u00e9sek teszik az AI-ir\u00e1ny\u00edt\u00e1st \u00e9letszer\u0171v\u00e9.<\/p>\n\n\n\n Az elfogults\u00e1g kezel\u00e9se nem z\u00e1rul le az \u00e9les\u00edt\u00e9s el\u0151tti teszttel. Az AI-rendszer m\u0171k\u00f6d\u00e9si k\u00f6rnyezete v\u00e1ltozhat, az adatok eltol\u00f3dhatnak, a felhaszn\u00e1l\u00f3k m\u00e1shogy kezdhetik haszn\u00e1lni az eszk\u00f6zt, \u00e9s az \u00fczleti c\u00e9l is m\u00f3dosulhat. Ez\u00e9rt a tesztel\u00e9s \u00e9s a monitoring egy\u00fctt ad megb\u00edzhat\u00f3bb kontrollt.<\/p>\n\n\n\n A tesztel\u00e9s els\u0151 c\u00e9lja annak meg\u00e9rt\u00e9se, hogy a rendszer milyen pontoss\u00e1ggal \u00e9s milyen hibamint\u00e1zatokkal m\u0171k\u00f6dik. Egy \u00e1tlagos teljes\u00edtm\u00e9nymutat\u00f3 azonban kev\u00e9s. A szervezetnek vizsg\u00e1lnia kell, hogy a hib\u00e1k hogyan oszlanak meg k\u00fcl\u00f6nb\u00f6z\u0151 csoportok, helyzetek \u00e9s felhaszn\u00e1l\u00e1si k\u00f6rnyezetek szerint. Ebben az \u00e1tlagos pontoss\u00e1g elfedheti a csoporth\u00e1tr\u00e1nyt<\/strong>, ez\u00e9rt alcsoportos \u00e9s hat\u00e1salap\u00fa \u00e9rt\u00e9kel\u00e9sre is sz\u00fcks\u00e9g lehet.<\/p>\n\n\n\n A m\u00e9lt\u00e1nyoss\u00e1gi tesztel\u00e9s nem mindig egyszer\u0171. K\u00fcl\u00f6nb\u00f6z\u0151 m\u00e9lt\u00e1nyoss\u00e1gi mutat\u00f3k elt\u00e9r\u0151 c\u00e9lokat fejezhetnek ki, \u00e9s nem minden mutat\u00f3 alkalmazhat\u00f3 minden d\u00f6nt\u00e9si helyzetben. Egyes esetekben az egyenl\u0151 hibaar\u00e1ny, m\u00e1skor az egyenl\u0151 hozz\u00e1f\u00e9r\u00e9si ar\u00e1ny, megint m\u00e1skor az egyedi indokolhat\u00f3s\u00e1g ker\u00fcl el\u0151t\u00e9rbe. A v\u00e1lasztott mutat\u00f3t ez\u00e9rt dokument\u00e1lni kell.<\/p>\n\n\n\n A dokument\u00e1ci\u00f3ban nemcsak az eredm\u00e9nyt kell r\u00f6gz\u00edteni, hanem a d\u00f6nt\u00e9si logik\u00e1t is. Mi\u00e9rt ezt a m\u00e9lt\u00e1nyoss\u00e1gi szempontot v\u00e1lasztotta a szervezet? Milyen csoportokat vizsg\u00e1lt? Milyen adatok \u00e1lltak rendelkez\u00e9sre? Milyen korl\u00e1tai vannak a m\u00e9r\u00e9snek? Milyen kontroll k\u00f6vetkezik az eredm\u00e9nyb\u0151l? Itt a dokument\u00e1ci\u00f3 a szakmai m\u00e9rlegel\u00e9st teszi l\u00e1that\u00f3v\u00e1<\/strong>. En\u00e9lk\u00fcl a m\u00e9lt\u00e1nyoss\u00e1gi teszt csak nehezen \u00e9rtelmezhet\u0151 sz\u00e1mhalmaz.<\/p>\n\n\n\n A monitoring a m\u0171k\u00f6d\u00e9s k\u00f6zbeni v\u00e1ltoz\u00e1sokra figyel. Egy HR-el\u0151sz\u0171r\u0151n\u00e9l monitorozhat\u00f3 p\u00e9ld\u00e1ul az egyes csoportok tov\u00e1bbjut\u00e1si ar\u00e1nya, a fel\u00fclvizsg\u00e1latok eredm\u00e9nye, a felhaszn\u00e1l\u00f3i fel\u00fclb\u00edr\u00e1l\u00e1sok gyakoris\u00e1ga, a panaszok sz\u00e1ma \u00e9s a modell teljes\u00edtm\u00e9ny\u00e9nek id\u0151beli v\u00e1ltoz\u00e1sa. Egy \u00fcgyf\u00e9lmodelln\u00e9l vizsg\u00e1lhat\u00f3 az aj\u00e1nlatok eloszl\u00e1sa, a hib\u00e1s besorol\u00e1sok ar\u00e1nya vagy a negat\u00edv \u00fcgyf\u00e9lvisszajelz\u00e9sek mint\u00e1zata.<\/p>\n\n\n\n A monitoringnak el\u0151re meghat\u00e1rozott beavatkoz\u00e1si szab\u00e1lyokra van sz\u00fcks\u00e9ge. Ha egy mutat\u00f3 romlik, ha egy csoportn\u00e1l ar\u00e1nytalan elt\u00e9r\u00e9s jelenik meg, vagy ha n\u0151 a panaszok sz\u00e1ma, tudni kell, mi t\u00f6rt\u00e9nik. A rendszer \u00fajratesztel\u00e9se, a haszn\u00e1lat felf\u00fcggeszt\u00e9se, a c\u00e9lv\u00e1ltoz\u00f3 fel\u00fclvizsg\u00e1lata, az adatfriss\u00edt\u00e9s vagy a d\u00f6nt\u00e9si folyamat m\u00f3dos\u00edt\u00e1sa mind lehets\u00e9ges v\u00e1lasz lehet.<\/p>\n\n\n\n Ebben a monitoring csak akkor kontroll, ha beavatkoz\u00e1shoz vezet<\/strong>. Ha a szervezet jelent\u00e9seket k\u00e9sz\u00edt, de nem d\u00f6nt a roml\u00f3 mutat\u00f3kr\u00f3l, a monitoring nem cs\u00f6kkenti \u00e9rdemben a kock\u00e1zatot. Az AIMS-ben ez\u00e9rt a monitoringnak felel\u0151se, gyakoris\u00e1ga, k\u00fcsz\u00f6b\u00e9rt\u00e9ke \u00e9s d\u00f6nt\u00e9si \u00fatvonala kell legyen.<\/p>\n\n\n\n Az ISO\/IEC 42001 menedzsmentrendszer-logik\u00e1ja szerint az AI-val kapcsolatos folyamatokat, felel\u0151ss\u00e9geket, kock\u00e1zatokat \u00e9s kontrollokat szervezeti rendszerbe kell illeszteni (ISO, 2023). Ez azt jelenti, hogy a m\u00e9lt\u00e1nyoss\u00e1gi vizsg\u00e1lat nem maradhat egy projektcsapat egyszeri gyakorlatak\u00e9nt. Be kell \u00e9p\u00fclnie a haszn\u00e1lati eset j\u00f3v\u00e1hagy\u00e1s\u00e1ba, az \u00e9letciklus-kontrollokba, a v\u00e1ltoz\u00e1skezel\u00e9sbe \u00e9s a bels\u0151 auditba.<\/p>\n\n\n\n A m\u00e9lt\u00e1nyoss\u00e1gi dokument\u00e1ci\u00f3 minim\u00e1lis elemei a k\u00f6vetkez\u0151k lehetnek:<\/p>\n\n\n\n az AI-haszn\u00e1lati eset c\u00e9lja \u00e9s d\u00f6nt\u00e9si hat\u00e1sa;<\/p>\n\n\n\n az \u00e9rintett szem\u00e9lyek vagy csoportok le\u00edr\u00e1sa;<\/p>\n\n\n\n az adatforr\u00e1sok \u00e9s c\u00e9lv\u00e1ltoz\u00f3k vizsg\u00e1lata;<\/p>\n\n\n\n az elfogults\u00e1gi kock\u00e1zatok azonos\u00edt\u00e1sa;<\/p>\n\n\n\n a k\u00f6zvetlen \u00e9s k\u00f6zvetett diszkrimin\u00e1ci\u00f3s kock\u00e1zatok \u00e9rt\u00e9kel\u00e9se;<\/p>\n\n\n\n a tesztel\u00e9si m\u00f3dszer \u00e9s eredm\u00e9nyek r\u00f6gz\u00edt\u00e9se;<\/p>\n\n\n\n a monitoringmutat\u00f3k \u00e9s beavatkoz\u00e1si szab\u00e1lyok meghat\u00e1roz\u00e1sa;<\/p>\n\n\n\n a kontrollok, felel\u0151s\u00f6k \u00e9s fel\u00fclvizsg\u00e1lati pontok kijel\u00f6l\u00e9se;<\/p>\n\n\n\n a maradv\u00e1nykock\u00e1zati d\u00f6nt\u00e9s dokument\u00e1l\u00e1sa.<\/p>\n\n\n\n Ez a strukt\u00fara seg\u00edt abban, hogy a szervezet ne csak elvi szinten besz\u00e9ljen m\u00e9lt\u00e1nyoss\u00e1gr\u00f3l. A dokument\u00e1lt m\u00e9lt\u00e1nyoss\u00e1g audit\u00e1lhat\u00f3 m\u0171k\u00f6d\u00e9st teremt<\/strong>, mert a d\u00f6nt\u00e9sek, indokl\u00e1sok \u00e9s bizony\u00edt\u00e9kok visszakereshet\u0151k lesznek.<\/p>\n\n\n\n A tesztel\u00e9s \u00e9s monitoring mellett a felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9s is fontos kontroll. A felhaszn\u00e1l\u00f3knak \u00e9rteni\u00fck kell, hogy az AI-kimenet nem v\u00e9gleges igazs\u00e1g, hanem d\u00f6nt\u00e9st\u00e1mogat\u00f3 jelz\u00e9s lehet. Tudniuk kell, milyen helyzetben kell \u00f3vatosnak lenni\u00fck, mikor kell fel\u00fclvizsg\u00e1latot k\u00e9rni\u00fck, \u00e9s hogyan kell dokument\u00e1lniuk az elt\u00e9r\u00e9st. A t\u00falzott bizalom ugyanis maga is elfogults\u00e1gi kock\u00e1zatot er\u0151s\u00edthet.<\/p>\n\n\n\n A besz\u00e1ll\u00edt\u00f3i AI-rendszerekn\u00e9l a szervezetnek k\u00fcl\u00f6n\u00f6sen figyelnie kell a bizony\u00edt\u00e9kokra. Ha egy k\u00fcls\u0151 eszk\u00f6z rangsorol, pontoz vagy aj\u00e1nl, a szervezetnek akkor is felel\u0151ss\u00e9ge van a haszn\u00e1lati hat\u00e1s\u00e9rt. Nem elegend\u0151 azt elfogadni, hogy a szolg\u00e1ltat\u00f3 \u201efair\u201d vagy \u201eobjekt\u00edv\u201d rendszert k\u00edn\u00e1l. Sz\u00fcks\u00e9g lehet dokument\u00e1ci\u00f3ra, teszteredm\u00e9nyekre, v\u00e1ltoz\u00e1s\u00e9rtes\u00edt\u00e9sre, auditjogra vagy legal\u00e1bb szerz\u0151d\u00e9ses kontrollokra.<\/p>\n\n\n\n A High-Level Expert Group on AI (2019) a megb\u00edzhat\u00f3 AI egyik kulcsk\u00f6vetelm\u00e9nyek\u00e9nt nevezi meg a sokf\u00e9les\u00e9get, a diszkrimin\u00e1ci\u00f3mentess\u00e9get \u00e9s a m\u00e9lt\u00e1nyoss\u00e1got, tov\u00e1bb\u00e1 az \u00e1tl\u00e1that\u00f3s\u00e1got \u00e9s elsz\u00e1moltathat\u00f3s\u00e1got is. Ezek a k\u00f6vetelm\u00e9nyek j\u00f3l illeszkednek az AIMS gyakorlati gondolkod\u00e1s\u00e1hoz. A m\u00e9lt\u00e1nyoss\u00e1g akkor ir\u00e1ny\u00edthat\u00f3, ha felel\u0151ss\u00e9g \u00e9s bizony\u00edt\u00e9k kapcsol\u00f3dik hozz\u00e1<\/strong>.<\/p>\n\n\n\n A m\u00e9lt\u00e1nyoss\u00e1gi dokument\u00e1ci\u00f3 nem arra val\u00f3, hogy a szervezet t\u00f6k\u00e9letess\u00e9get \u00e1ll\u00edtson mag\u00e1r\u00f3l. Arra val\u00f3, hogy bemutassa: azonos\u00edtotta a relev\u00e1ns kock\u00e1zatokat, indokolt d\u00f6nt\u00e9st hozott, ar\u00e1nyos kontrollokat vezetett be, \u00e9s k\u00e9pes \u00e9szlelni a m\u0171k\u00f6d\u00e9s k\u00f6zben megjelen\u0151 probl\u00e9m\u00e1kat. Ez a bizony\u00edthat\u00f3 gondoss\u00e1g egyik leger\u0151sebb form\u00e1ja.<\/p>\n\n\n\n Egy AI-alap\u00fa \u00f6n\u00e9letrajz-el\u0151sz\u0171r\u0151 j\u00f3 p\u00e9lda arra, hogy az elfogults\u00e1g t\u00f6bb ponton is megjelenhet. A rendszer c\u00e9lja lehet a jelentkez\u0151k el\u0151zetes rangsorol\u00e1sa, a minim\u00e1lis felt\u00e9telek ellen\u0151rz\u00e9se vagy a toborz\u00f3i figyelem ir\u00e1ny\u00edt\u00e1sa. A kock\u00e1zat att\u00f3l f\u00fcgg, hogy a kimenet milyen d\u00f6nt\u00e9si s\u00falyt kap: csak seg\u00e9djelz\u00e9s, vagy t\u00e9nylegesen meghat\u00e1rozza, ki jut tov\u00e1bb.<\/p>\n\n\n\n Az els\u0151 kock\u00e1zati pont a tan\u00edt\u00f3adat. Ha a modell kor\u00e1bbi sikeres jel\u00f6ltek adataib\u00f3l tanul, akkor a m\u00faltbeli kiv\u00e1laszt\u00e1si gyakorlatot tekinti mint\u00e1nak. Ha ebben a gyakorlatban bizonyos csoportok alulreprezent\u00e1ltak voltak, a modell ezt teljes\u00edtm\u00e9nyjelz\u00e9sk\u00e9nt \u00e9rtelmezheti. Ilyenkor a kor\u00e1bbi siker fogalma torz lehet<\/strong>, \u00e9s a modell nem az alkalmass\u00e1got, hanem a m\u00faltbeli kiv\u00e1laszt\u00e1si mint\u00e1t tanulja meg.<\/p>\n\n\n\n A m\u00e1sodik kock\u00e1zati pont a c\u00e9lv\u00e1ltoz\u00f3. Mit jelent az, hogy valaki \u201ej\u00f3 jel\u00f6lt\u201d? Interj\u00fara h\u00edvt\u00e1k? Felvett\u00e9k? Bev\u00e1lt? Hossz\u00fa ideig maradt? J\u00f3l teljes\u00edtett? Ezek k\u00fcl\u00f6nb\u00f6z\u0151 c\u00e9lok, \u00e9s elt\u00e9r\u0151 torz\u00edt\u00e1sokat hordozhatnak. Ha a c\u00e9lv\u00e1ltoz\u00f3 nem kapcsol\u00f3dik szorosan a munkak\u00f6r t\u00e9nyleges k\u00f6vetelm\u00e9nyeihez, a modell kimenete f\u00e9lrevezet\u0151 lehet.<\/p>\n\n\n\n A harmadik kock\u00e1zati pont az \u00f6n\u00e9letrajz sz\u00f6veges feldolgoz\u00e1sa. A nyelvi mint\u00e1zatok, int\u00e9zm\u00e9nynevek, karrierutak, megszak\u00edt\u00e1sok, \u00f6nbemutat\u00e1si st\u00edlusok vagy kulcsszavak elt\u00e9r\u0151en jelenhetnek meg k\u00fcl\u00f6nb\u00f6z\u0151 jelentkez\u0151i csoportokn\u00e1l. Ebben a sz\u00f6veges jel is t\u00e1rsadalmi mint\u00e1kat hordozhat<\/strong>, ez\u00e9rt a nyelvi modell vagy sz\u00f6vegelemz\u0151 komponens kimenet\u00e9t k\u00fcl\u00f6n is vizsg\u00e1lni kell.<\/p>\n\n\n\n A negyedik kock\u00e1zati pont a felhaszn\u00e1l\u00f3i \u00e9rtelmez\u00e9s. Ha a toborz\u00f3 a modell pontsz\u00e1m\u00e1t objekt\u00edv min\u0151s\u00edt\u00e9sk\u00e9nt kezeli, cs\u00f6kkenhet a szakmai m\u00e9rlegel\u00e9s. Ha a rendszer \u201ealacsony illeszked\u00e9st\u201d jelez, a toborz\u00f3 tal\u00e1n nem olvassa el figyelmesen az \u00f6n\u00e9letrajzot. Ilyenkor a modell nem d\u00f6nt automatikusan, m\u00e9gis er\u0151s d\u00f6nt\u00e9si hat\u00e1st gyakorol.<\/p>\n\n\n\n Az \u00f6t\u00f6dik kock\u00e1zati pont a visszacsatol\u00e1s. Ha a rendszer \u00e1ltal el\u0151resorolt jel\u00f6ltek nagyobb figyelmet kapnak, \u0151k nagyobb es\u00e9llyel jutnak tov\u00e1bb. A k\u00e9s\u0151bbi tan\u00edt\u00f3adatban ez meger\u0151s\u00edtheti a modell eredeti mint\u00e1it. Ilyenkor a modell saj\u00e1t d\u00f6nt\u00e9si k\u00f6rnyezet\u00e9t alak\u00edtja<\/strong>, \u00e9s a visszacsatol\u00e1s miatt a torz\u00edt\u00e1s id\u0151vel stabiliz\u00e1l\u00f3dhat.<\/p>\n\n\n\n Egy ilyen haszn\u00e1lati esetn\u00e9l legal\u00e1bb n\u00e9gy elfogults\u00e1gi vagy diszkrimin\u00e1ci\u00f3s pontot \u00e9rdemes r\u00f6gz\u00edteni:<\/p>\n\n\n\n Kock\u00e1zati pont<\/p>\n\n\n\n Lehets\u00e9ges torz\u00edt\u00e1s<\/p>\n\n\n\n Lehets\u00e9ges kontroll<\/p>\n\n\n\n Tan\u00edt\u00f3adat<\/p>\n\n\n\n m\u00faltbeli kiv\u00e1laszt\u00e1si torz\u00edt\u00e1s \u00fajratanul\u00e1sa<\/p>\n\n\n\n adatreprezentativit\u00e1si vizsg\u00e1lat, t\u00f6rt\u00e9neti d\u00f6nt\u00e9sek elemz\u00e9se<\/p>\n\n\n\n C\u00e9lv\u00e1ltoz\u00f3<\/p>\n\n\n\n nem a val\u00f3s munkak\u00f6ri alkalmass\u00e1got m\u00e9ri<\/p>\n\n\n\n c\u00e9lv\u00e1ltoz\u00f3 szakmai \u00e9s compliance-fel\u00fclvizsg\u00e1lata<\/p>\n\n\n\n Sz\u00f6vegfeldolgoz\u00e1s<\/p>\n\n\n\n nyelvi vagy karrier\u00fatbeli mint\u00e1k ar\u00e1nytalan s\u00falya<\/p>\n\n\n\n alcsoportos tesztel\u00e9s, magyar\u00e1zhat\u00f3s\u00e1gi vizsg\u00e1lat<\/p>\n\n\n\n Pontsz\u00e1m haszn\u00e1lata<\/p>\n\n\n\n t\u00falzott toborz\u00f3i bizalom a kimenetben<\/p>\n\n\n\n felhaszn\u00e1l\u00f3i k\u00e9pz\u00e9s, d\u00f6nt\u00e9si \u00fatmutat\u00f3, emberi fel\u00fclvizsg\u00e1lat<\/p>\n\n\n\n Visszacsatol\u00e1s<\/p>\n\n\n\n a kor\u00e1bbi modellhat\u00e1s be\u00e9p\u00fcl az \u00faj adatokba<\/p>\n\n\n\n monitoring, id\u0151szakos \u00fajra\u00e9rt\u00e9kel\u00e9s, kontroll\u00e1lt tan\u00edt\u00f3adat-friss\u00edt\u00e9s<\/p>\n\n\n\n A t\u00e1bl\u00e1zat nem azt jelenti, hogy minden \u00f6n\u00e9letrajz-el\u0151sz\u0171r\u0151 sz\u00fcks\u00e9gszer\u0171en diszkriminat\u00edv. Azt mutatja meg, hogy a diszkrimin\u00e1ci\u00f3s kock\u00e1zat t\u00f6bb ponton keletkezhet, \u00e9s mindegyik m\u00e1s kontrollt ig\u00e9nyel. Az elfogults\u00e1g kezel\u00e9se c\u00e9lzott kontrollokat k\u00edv\u00e1n<\/strong>, nem \u00e1ltal\u00e1nos j\u00f3 sz\u00e1nd\u00e9kot.<\/p>\n\n\n\n A haszn\u00e1lati eset j\u00f3v\u00e1hagy\u00e1sakor a szervezetnek d\u00f6nt\u00e9st kell hoznia arr\u00f3l, milyen szerepe lehet az AI-kimenetnek. Lehet-e automatikus kiz\u00e1r\u00f3 ok? Csak rangsorol\u00e1si javaslat? K\u00f6telez\u0151-e emberi fel\u00fclvizsg\u00e1lat? L\u00e1that\u00f3-e a jel\u00f6lt sz\u00e1m\u00e1ra, hogy AI-t\u00e1mogatott el\u0151sz\u0171r\u00e9s t\u00f6rt\u00e9nik? Van-e panasz- vagy korrekci\u00f3s lehet\u0151s\u00e9g? Ezek nem puszt\u00e1n HR-folyamatk\u00e9rd\u00e9sek, hanem AI-ir\u00e1ny\u00edt\u00e1si kontrollok.<\/p>\n\n\n\n A bels\u0151 audit szempontj\u00e1b\u00f3l a legfontosabb k\u00e9rd\u00e9s az, hogy a szervezet tudja-e bizony\u00edtani a gondoss\u00e1got. Megvan-e a haszn\u00e1lati eset le\u00edr\u00e1sa? Azonos\u00edtott\u00e1k-e az adat-, modell- \u00e9s folyamatkock\u00e1zatokat? T\u00f6rt\u00e9nt-e alcsoportos tesztel\u00e9s? Dokument\u00e1lt\u00e1k-e a c\u00e9lv\u00e1ltoz\u00f3 indokolts\u00e1g\u00e1t? Meghat\u00e1rozt\u00e1k-e az emberi fel\u00fclvizsg\u00e1lat szerep\u00e9t? Van-e monitoring? Ezekre a k\u00e9rd\u00e9sekre visszakereshet\u0151 bizony\u00edt\u00e9k kell.<\/p>\n\n\n\n Itt az audit\u00e1lhat\u00f3s\u00e1g nem pap\u00edrmunka, hanem felel\u0151ss\u00e9gi t\u00e9rk\u00e9p<\/strong>. Megmutatja, hogy ki d\u00f6nt\u00f6tt, milyen inform\u00e1ci\u00f3k alapj\u00e1n, milyen kock\u00e1zatot fogadott el, \u00e9s milyen kontrollt m\u0171k\u00f6dtet. Ha k\u00e9s\u0151bb panasz, incidens vagy megfelel\u0151s\u00e9gi k\u00e9rd\u00e9s mer\u00fcl fel, ez a t\u00e9rk\u00e9p seg\u00edt rekonstru\u00e1lni a d\u00f6nt\u00e9si logik\u00e1t.<\/p>\n\n\n\n Az \u00f6n\u00e9letrajz-el\u0151sz\u0171r\u0151 p\u00e9ld\u00e1ja azt is megmutatja, hogy az emberi d\u00f6nt\u00e9shoz\u00f3 nem t\u0171nik el az AI haszn\u00e1lat\u00e1val. A felel\u0151ss\u00e9g nem adhat\u00f3 \u00e1t a modellnek. A szervezetnek kell meghat\u00e1roznia, milyen c\u00e9lra haszn\u00e1lhat\u00f3 a rendszer, milyen korl\u00e1tokkal, milyen fel\u00fcgyelettel \u00e9s milyen bizony\u00edt\u00e9kok mellett.<\/p>\n\n\n\n A gyakorlati tanuls\u00e1g vil\u00e1gos: egy AI-d\u00f6nt\u00e9si helyzetben k\u00fcl\u00f6n kell v\u00e1lasztani az adatforr\u00e1sb\u00f3l, modellm\u0171k\u00f6d\u00e9sb\u0151l \u00e9s szervezeti folyamatb\u00f3l fakad\u00f3 elfogults\u00e1gi kock\u00e1zatokat. Ha ez a megk\u00fcl\u00f6nb\u00f6ztet\u00e9s siker\u00fcl, a kontrollok is pontosabbak lesznek. Az adatprobl\u00e9m\u00e1ra adatir\u00e1ny\u00edt\u00e1si kontroll kell, a modellprobl\u00e9m\u00e1ra tesztel\u00e9s \u00e9s valid\u00e1l\u00e1s, a folyamatprobl\u00e9m\u00e1ra d\u00f6nt\u00e9si szab\u00e1ly, k\u00e9pz\u00e9s \u00e9s fel\u00fcgyelet.<\/p>\n\n\n\n Az elfogults\u00e1g \u00e9s diszkrimin\u00e1ci\u00f3 felismer\u00e9se nem az AI elutas\u00edt\u00e1s\u00e1t szolg\u00e1lja. A c\u00e9l az, hogy a szervezet ne engedje \u00e1t emberek es\u00e9lyeit, hozz\u00e1f\u00e9r\u00e9s\u00e9t vagy meg\u00edt\u00e9l\u00e9s\u00e9t olyan rendszernek, amelynek korl\u00e1tait nem \u00e9rti \u00e9s nem kontroll\u00e1lja. A felel\u0151s AI ir\u00e1ny\u00edt\u00e1si rendszer ott kezd\u0151dik, ahol a technol\u00f3giai \u00edg\u00e9ret mell\u00e9 bel\u00e9p a bizony\u00edthat\u00f3, dokument\u00e1lt \u00e9s folyamatosan fel\u00fclvizsg\u00e1lt m\u00e9lt\u00e1nyoss\u00e1gi gondolkod\u00e1s.<\/p>\n\n\n\n ISO\/IEC TR 24027:2021 \u00e1ttekint\u00e9s: https:\/\/www.iso.org\/standard\/77607.html<\/p>\n\n\n\n ISO\/IEC 42001:2023 \u00e1ttekint\u00e9s: https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n EU AI Act teljes sz\u00f6veg: https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj\/eng<\/p>\n\n\n\n Ethics Guidelines for Trustworthy AI: https:\/\/digital-strategy.ec.europa.eu\/en\/library\/ethics-guidelines-trustworthy-ai<\/p>\n\n\n\n Fairness and Machine Learning: https:\/\/fairmlbook.org<\/p>\n\n\n\n Gender Shades tanulm\u00e1ny: https:\/\/proceedings.mlr.press\/v81\/buolamwini18a.html<\/p>\n\n\n\n Barocas, S., Hardt, M., & Narayanan, A. (2023). Fairness and machine learning: Limitations and opportunities<\/em>. MIT Press. https:\/\/fairmlbook.org<\/p>\n\n\n\n Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, Proceedings of Machine Learning Research, 81<\/em>, 77\u201391. https:\/\/proceedings.mlr.press\/v81\/buolamwini18a.html<\/p>\n\n\n\n European Parliament & Council of the European Union. (2024). Regulation (EU) 2024\/1689 laying down harmonised rules on artificial intelligence<\/em>. Official Journal of the European Union. https:\/\/eur-lex.europa.eu\/eli\/reg\/2024\/1689\/oj\/eng<\/p>\n\n\n\n High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI<\/em>. European Commission. https:\/\/digital-strategy.ec.europa.eu\/en\/library\/ethics-guidelines-trustworthy-ai<\/p>\n\n\n\n International Organization for Standardization. (2021). ISO\/IEC TR 24027:2021: Information technology \u2014 Artificial intelligence (AI) \u2014 Bias in AI systems and AI aided decision making<\/em>. ISO. https:\/\/www.iso.org\/standard\/77607.html<\/p>\n\n\n\n International Organization for Standardization. (2023). ISO\/IEC 42001:2023: Information technology \u2014 Artificial intelligence \u2014 Management system<\/em>. ISO. https:\/\/www.iso.org\/standard\/42001<\/p>\n\n\n\n Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A survey on bias and fairness in machine learning. ACM Computing Surveys, 54<\/em>(6), 1\u201335. https:\/\/doi.org\/10.1145\/3457607<\/p>\n\n\n\n Selbst, A. D., Boyd, D., Friedler, S. A., Venkatasubramanian, S., & Vertesi, J. (2019). Fairness and abstraction in sociotechnical systems. Proceedings of the Conference on Fairness, Accountability, and Transparency<\/em>, 59\u201368. https:\/\/doi.org\/10.1145\/3287560.3287598<\/p>\n","protected":false},"excerpt":{"rendered":" Az AI elfogults\u00e1g komoly szervezeti kock\u00e1zat, amely befoly\u00e1solja a d\u00f6nt\u00e9seket \u00e9s \u00e9rintheti az emberek jogait. A bejegyz\u00e9s bemutatja az elfogults\u00e1g forr\u00e1sait \u00e9s kezel\u00e9s\u00e9nek m\u00f3djait.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_sas_skip_auto_schedule":false,"_sas_force_auto_schedule":false,"footnotes":""},"categories":[761],"tags":[816,812,808,810,773,818,771,772,815,814,817],"series":[],"class_list":["post-711","post","type-post","status-publish","format-standard","hentry","category-iranyitasi-rendszer-aims","tag-adatiranyitas","tag-adatminoseg","tag-ai-elfogultsag","tag-diszkriminacio","tag-dontestamogatas","tag-felhasznalasi-kornyezet","tag-iranyitasi-rendszer","tag-kockazatertekeles","tag-meltanyossag","tag-modellteszteles","tag-szervezeti-felelosseg"],"yoast_head":"\nAz elfogults\u00e1g forr\u00e1sai: adat, modell \u00e9s folyamat<\/h2>\n\n\n\n
K\u00f6zvetlen \u00e9s k\u00f6zvetett diszkrimin\u00e1ci\u00f3 felismer\u00e9se<\/h2>\n\n\n\n
Tesztel\u00e9s, monitoring \u00e9s m\u00e9lt\u00e1nyoss\u00e1gi dokument\u00e1ci\u00f3<\/h2>\n\n\n\n
\u00d6n\u00e9letrajz-el\u0151sz\u0171r\u0151 p\u00e9lda: hol jelenhet meg torz\u00edt\u00e1s?<\/h2>\n\n\n\n
Tov\u00e1bbi olvasnival\u00f3<\/h2>\n\n\n\n
Felhaszn\u00e1lt szakirodalom<\/h2>\n\n\n\n