Hosszú időn át komoly újítónak számítottak azok a cégek, melyek mesterséges intelligenciát használnak, mára azonban a nyilvánosság előtt is elérhetővé váltak a különböző technológiák. Aki még nem vezetett be ilyen megoldást, az is gondolkodik azon, hol tudnák megkönnyíteni az új AI-vezérelt eszközök a munkáját, és nyitott annak alkalmazására. Manapság azonban már egyre több szempontnak kell megfelelni a mesterséges intelligencia-rendszereknek ahhoz, hogy megbízzunk bennük – emelte ki Rusznyák András, a Deloitte Data és AI csapatának vezetője. Szerinte egy egyszerű modell esetében ma a két legfontosabb szempont a kiszámíthatóság és az átláthatóság, tehát a felhasználók egyrészt szeretnék tudni, hogy melyek a rendszer korlátai, és azokon belül egyébként kiszámíthatóan és következetesen viselkedik-e. Amennyiben nem csupán egy modellt vizsgálunk, hanem egy teljes rendszert, akkor bejön a képbe a biztonság és a hozzáférhetőség is.
Szerintem a mesterséges intelligencia használata közben az egyik legnagyobb nehézséget a tesztelhetőség jelenti
– ismertette Schin Lotár, az OTP Mesterséges Intelligencia Kompetencia Központjának vezetője. Szerinte nem a megbízhatóságot kell maximálni, inkább az elvárásokat kell a realitások talajára hozni. Tehát, ha tudom, hogy egy rendszer nem száz százalékosan megbízható, akkor ne hozzam olyan helyzetbe, ahol százszázalékos megbízhatóság az elvárás
– tette hozzá a szakértő.
A Deloitte szakembere, Rusznyák András úgy gondolja, hogy a mesterséges intelligenciát használó rendszerek legnagyobb kihívása az adatminőség biztosítása, ezekből az adatokból lehet ugyanis tanítani a rendszereket. Ezektől függ az, hogy mennyire lesz pontos, és mennyire lesz elfogult, alapvetően ezeken az adatokon keresztül tudjuk ezt befolyásolni a végső modellnél, hogy mennyire jól teljesíti a megbízhatósági feltételeket. Szerinte gyakran futnak bele abba, hogy nem elég tiszták vagy hiányosak az adatok, ezért először azokat kell rendbe tenni, mielőtt modellt kezdenének építeni.
Mi egy erősen szabályozott környezetben működünk, a megbízhatóságnak van egy ilyen olyan aspektusa is, hogy az ügyfelek megbíznak-e benne, hogy nem használjuk fel úgy az adataikat például, hogy nem járultak hozzá
– hangsúlyozta Schin Lotár.
Amikor nekiállunk a fejlesztésnek, vagy akár modellválasztásnak, akkor nagyon tudatosnak kell lennünk az elején. Látjuk például, hogy az általános GPT modellek nem annyira vannak kihegyezve a magyar nyelvre
– egészítette ki Rusznyák András.
A közelmúltban megjelent magyar mesterséges intelligencia körképben is az etikai kockázatok voltak az egyik legnagyobb olyan terület, ahol a szervezetek azt vallották, hogy kevésbé vannak a felmerült kockázatokra felkészülve.
Ha a megbízható mesterséges intelligenciáról beszélgetünk, az elszámoltathatóság és a felelősségvállalás kérdése is gyakran megjelenik. A Deloitte szakértői szerint ebben a tekintetben nagyon nagy szerepe lesz a szabályozói környezetnek, amely kötelezővé teszi, hogy minden egyes modell tulajdonosa felel a döntéseiért. Minél előrébb haladunk az automatizálási skálán, minél nagyobb autonómiát adunk ezeknek a modelleknek, annál inkább szükség lesz arra, hogy automatikusan hoznak döntéseket, ennek ellenére maradjon egy ember a háttérben, aki felelősséget is vállal ezekért a döntésekért.
Jelenleg nagy különbségek vannak a cégek elvárásai között. Ahol még nem használnak mesterséges intelligenciát vagy nem jutott el a szervezet széles rétegéhez, ott sokaknál a tapasztalatból kiindulva eleve alacsonyak az elvárások. Vannak ezzel szemben olyanok, akik csak a hírekből tájékozódnak, és egészen irreális elvárásokkal keresik meg a szakembereket, melyeket aztán vissza kell vinni a realitások talajára
– részletezte Rusznyák András. Éppen ezért szerinte fontos az emberek oktatása, hogy megmutassák nekik, mi ma a mesterséges intelligencia, milyen problémákra tud választ adni és milyen elvárások reálisak vele szemben.
Az AI-megoldások használatával kapcsolatban még az őszinteséget emelte ki Schin Lotár. Úgy gondolja, hogy nem szabad elbagatellizálni a probléma komplexitását, sokan úgy beszélnek erről a területről, hogy csak fognak egy modellt, és az működik, de ez nem így van. Tapasztalatai szerint a komplexitás egyre növekszik, egyre nagyobb kihívás egy megbízható, jó rendszert lefejleszteni és élesíteni. A szakemberek szerint egy új MI-rendszer bevezetésekor kiemelt fontosságú, hogy az ne kényszer legyen, érdemes többször alaposan végiggondolni, hogy az adott szervezeten belül milyen területeken, milyen feladatokra lehet használni a modern technológiát.
