Bár hasonló esetek ritkán kerülnek nyilvánosságra Magyarországon, a jelenség itthon is releváns. A hazai vállalatok jelentős része még nem rendelkezik átfogó AI-stratégiával és szabályozással, miközben a dolgozók már aktívan használják ezeket az alkalmazásokat a hétköznapokban.
Éppen ezért, úttörő kutatást készített az ESET termékek hazai forgalmazója, a Sicontact Kft.: egy eddig vizsgálatlan, mégis égető témát térképeztek fel vállalati környezetben, amely elsőként kapcsolja össze a mesterséges intelligenciát, az IT-biztonságot és a mentális egészséget. Korábban még senki sem vizsgálta e három kulcsfontosságú terület kölcsönhatását a munka világában, így a kutatás hiánypótló eredményekkel szolgál.
Az ingyenesen letölthető felmérés eredményeit összefoglaló MI a baj? mesterséges intelligencia, IT-biztonság és mentális egészség című iparági riport is megerősíti, hogy a shadow AI jelenség gyorsan terjed; a vállalatok jelentős része nincs felkészülve a munkavállalók által önállóan bevezetett mesterséges intelligencia-eszközök kezelésére. A kutatás szerint a válaszadók 75 szézaléka szerint túl könnyelműen osztunk meg adatokat az AI-val, 63 százalékuk pedig úgy véli, hogy az emberek túlságosan megbíznak abban, amit az AI javasol.
Láthatatlan kockázatok a mindennapi működésben
A shadow AI több szinten is veszélyt jelenthet a szervezetek számára:
- Adatszivárgás: a chatbotokba beírt üzleti információk adatszivárgáshoz vezetnek, külső rendszerekbe kerülhetnek, ami különösen nagy üzleti kockázat
- Jogszabályi kockázatok: az adatok akár az EU-n kívül is tárolódhatnak, ami GDPR-problémákat vet fel
- Hibás döntések: az AI által generált, de nem ellenőrzött tartalom használata nem csak félrevezető, hanem emberi ellenőrzés nélkül hibás üzleti döntések meghozatalához járulhat hozzá
- Sérülékeny kód: fejlesztési feladatoknál hibás vagy biztonsági réseket tartalmazó kód keletkezhet
- Kártékony alkalmazások: terjednek a hamis AI-eszközök, melynek céljai az adat- és pénzlopás
A helyzetet tovább bonyolítja az úgynevezett autonóm AI-agentek megjelenése, amelyek képesek önállóan feladatokat végrehajtani, akár érzékeny rendszerekhez hozzáférve.
