A Deloitte már tizennegyedik éve elemzi a technológiai szektor globális fejlődését, Tech Trends névre keresztelt kiadványa a következő évek fejlődési irányait meghatározó, piacot formáló aktuális trendjeit tartalmazza. Egy évvel ezelőtt az adattechnológia közelgő aranykora volt a dokumentum fő vonulata. A 2023-as tanulmány egyik kiemelt trendje pedig a mesterséges intelligenciával ellátott rendszerek bizalmi kérdéseivel foglalkozik.
A számítástechnika már rég túlmutat azokon a kezdetleges megoldásokon, amelyek egyszerű, logikai feltételek kiértékelése által segítik a döntéstámogatást. A mesterséges intelligencia a megfelelő minőségű adatbázisok felhasználásával az emberi agy számára is gyakran értelmezhetetlen összefüggések felder��tése révén, komplex, kognitív képességeket igénylő feladatok megoldását kínálja – ilyen a képfeldolgozás például az önvezető autóknál, vagy a nyelvi elemek feldolgozása a chatbotoknál.
A mesterséges intelligenciával vezérelt rendszerek egyik megkerülhetetlen hátránya, hogy a rendszer kimenetei gyakran csak nagy erőfeszítésekkel visszakövethetők, ráadásul sokszor bizonyulhatnak helytelennek
– mutatta be Barta Gergő, a Deloitte Magyarország kockázatkezelési tanácsadás üzletágának szenior menedzsere.
A piacon napi szinten több száz új MI megoldás érhető el, és a legnagyobb szolgáltatók MI rendszerei között csak minimális teljesítménybeli különbség van. A legprofibb nyelvi alkalmazások ma már mind a GPT-3 modellt alkalmazzák, tehát jogosan merülhet fel a kérdés, hogy ki tudja az MI-ben rejlő erőt a leghatékonyabban kihasználni. A kutatás eredményei alapján napjainkban már a kielégítő teljesítményt nem is maga az algoritmus/modell határozza meg, hanem az, hogy a végfelhasználók értik-e és egyetértenek-e az MI döntéseivel.
Emberi sajátosság, hogy nem fogadjuk el azt, amit nem értünk, így a legerősebb eszköz is egy egyszerű kőbalta egy bizalmatlan munkatárs kezében. A jövő sikeres mesterséges intelligenciájának létrehozását az ösztönzi majd a legnagyobb mértékben, hogy a fejlesztőcégek azt transzparens és megmagyarázható módon adják-e oda a felhasználók kezébe. Ha a felhasználók bizalmatlanok és nem hiszik, hogy az MI támogatja őket a mindennapi teendőikben, akkor nem fogják az MI-t használni, és annak bevezetése nem fog megtérülni
– egészítette ki Kiss Dániel, a Deloitte Magyarország technológiai tanácsadás üzletágának partnere.
Gondoljunk úgy az MI-re, mint egy új munkatársra! Egy csapatot csak egy olyan új kolléga tud hatékonyan támogatni, aki nyitott, képes az őszinte kommunikációra, hajlandóságot mutat a visszajelzésekre a teljesítmény növelése érdekében, és így tovább. Ha az új MI munkatárs transzparens, könnyen megérthető, rugalmas és megbízható, akkor a munkafolyamatok természetes szereplőjévé válhat, egy frissen felvett kollégához hasonlóan.
A Deloitte által elkészített elemzése szerint három jól meghatározható pilléren alapszik a megbízható mesterséges intelligencia.
Transzparens adatgyűjt��s
A transzparens adatgyűjtés lehetőséget biztosít az érintettek számára, hogy megértsék, miért van szükség bizonyos adatok felhasználására és hogy azok milyen módon kerülnek feldolgozásra. A felhasználók így megfelelően kontrollált környezetben hozhatnak megalapozott döntéseket arról, hogy az MI eszköz valós értéket tud-e a számukra létrehozni.
Megmagyarázhatóság
Az MI egyik legnagyobb kihívása a fekete-doboz jellegéből adódik. Ez azt jelenti, hogy számos algoritmus-család csak nagyon nagy erőforrás-ráfordítással válik értelmezhetővé, mely természetes bizalmatlanságra ad okot. A fekete-dobozokat azonban lehet fehéríteni, ha a végfelhasználók már a probléma definiálásánál jelen vannak és a rendszer fejlesztésében is részt vesznek, sőt, saját szakértői véleményt szolgáltatnak az egyes feladatok megoldásánál, azt tesztelik, majd értelmezik az egyes kimeneteket.
A tökéletes nem létezik
A mindennapi munka során hozzászokhattunk, hogy az általunk használt alkalmazások többé-kevésbe úgy működnek, ahogy azokat alapjaiban el is várjuk. A CRM rendszerben felvett új szállító például már megjelenik a képernyőn a következő számlázáskor, vagy a helyesen beírt jelszó után hozzáférhetünk a vállalati erőforrásokhoz.
A mesterséges intelligencia esetében a legtöbb esetben valószínűségekkel fogunk találkozni, ezért a kérdés az, hogy egy adott MI modell milyen pontossággal tud választ adni egy adott problémára – ez pedig csak nagyon ritka esetben lesz 100 százalékos. Az MI esetén ugyanis nincs hibás döntés, csak historikus adat alapján történő becslés, amit a felhasználóknak kell értelmezniük. Az MI egyelőre nem döntéshozó, hanem döntéstámogató: ezt a felhasználóknak is meg kell érteniük, és ennek szellemében használniuk a mesterséges intelligenciát.
Az MI-vel ellátott alkalmazások és technológiák olyan feltörekvő képességek birtokában vannak, melyekről a legtöbb felhasználó úgy gondolja, hogy azok az emberek kizárólagos felségterületébe tartoznak. Ahogy a szervezetek ezen képességeket implementálják, kiemelten fontos, hogy már a tervezési fázisban körültekintően kitérjenek a felhasználókkal történő interakciókra és arra, hogy felmérjék, hogy milyen hatással lesznek az intelligens alkalmazások a bizalomra. Számos vállalat számára az MI gyökeres pozitív változást, és így bevételnövekedést vagy költségcsökkentést eredményezhet, a bizalom hiánya azonban akadályt gördíthet az ambiciózus projektek elé
– zárta gondolatait Barta Gergő.
