„A shadow AI használatával kapcsolatos legnagyobb kockázat nem feltétlenül egyetlen adatvédelmi incidens vagy egy hibás AI-válasz megjelenése a vállalati működésben, hanem az a fokozatos folyamat, amelynek során a munkáltató elveszíti az ellenőrzést a szervezetben keletkező információk, döntések és munkafolyamatok felett” – hívja fel a figyelmet a szakember.
Az irányítás célja nem a tiltás, hanem a biztonságos AI-használat
Egységes irányítás nélkül az elszigetelten vagy vállalati jóváhagyás nélkül használt AI-megoldások jogszabályi, pénzügyi és reputációs kockázatokat hordoznak. A hatékony AI-irányításnak ezért a szervezet teljes AI-portfóliójára kell kiterjednie, beleértve a munkavállalók által önállóan használt alkalmazásokat is, és össze kell hangolnia az adatkezelési, biztonsági és compliance szempontokat. Az AI-irányítás akkor támogatja valóban az innovációt, ha a szervezet működéséhez, kultúrájához és konkrét felhasználási eseteihez igazodik.
„A shadow AI használata megfelelőségi szempontból is egyre nagyobb jelentőségű” – érvel dr. Szűcs László. „Az Európai Unió MI-rendelete abból indul ki, hogy a szervezeteknek ismerniük kell az általuk alkalmazott AI-rendszereket, megfelelő irányítási és kockázatkezelési mechanizmusokat kell működtetniük, valamint szükség esetén dokumentálniuk kell az AI használatát. Ha a munkavállalók tömegesen használnak olyan eszközöket, amelyekről a munkáltatónak nincs tudomása, akkor ezeknek a kötelezettségeknek a teljesítése jelentősen megnehezülhet. A szervezet könnyen olyan helyzetbe kerülhet, hogy papíron rendelkezik AI-szabályzattal, a gyakorlatban azonban nem képes ellenőrizni, milyen mesterségesintelligencia-rendszerekkel dolgoznak a munkatársai. Ez különösen problémás lehet olyan iparágakban, ahol szigorú adatkezelési vagy megfelelőségi követelmények érvényesülnek” – teszi hozzá.
