A “Barátnőm, Cayla” nevű, az AI segítségével működő babát a német hatóságok tavaly betiltották és felszólították a szülőket: saját érdekükben semmisítsék meg ezt a játékot.
Az ilyen, internet-alapon működő játék közvetít a gyártó adatfeldolgozó központjába mindent, amit a gyerek babájának mond, majd a rendszer válaszol a kicsinek. A gyártók azzal hirdetik ezeket a termékeket, hogy segítik a gyermekek nevelését.
Pedagógusok, adatvédelmi szakértők szerint azonban az AI-játékok bizonyos hasznuk mellett (például felkészíthetnek a gyerekeket a robotokkal végzett munkára) egész sor veszélyt is hordoznak.
A szülő ugyanis egyáltalán nem lehet bizonyos abban, hogy a válaszok, amelyeket gyereke kérdéseire kap, megegyeznek-e a szülőktől közvetített értékekkel, s általában mód nyílik a használó minden fajta manipulálására. Nem is beszélve arról a lehetőségről, hogy hekkelik a rendszert.
Nincs válasz többek között arra, hogyan reagálnak a játékgyárak szoftverei, ha egy gyerek arról beszél “intelligens” babájának, hogy öngyilkos szeretne lenni, vagy arról, hogy szexuális erőszak áldozatává vált?
Miután a gyártók mindent, amit a kicsi babájának mond, hosszabb távon rögzítenek, így egyre többet tudnak a játék használójáról – ezzel pedig adott esetben vissza is élhetnek.
A szakértők szerint a rendezetlen helyzet azt jelenti, hogy a gyártók megsértik a gyermekek jogait rögzítő nemzetközi egyezményt és komoly veszélynek teszik ki a használókat.
Arra van szükség, hogy utólagos tiltás, bírságolás helyett az AI-játékok gyártóit eleve kötelezzék: csak biztonságos, engedélyezett tartalmú szoftvereket használjanak, amelyek pozitív hatással vannak a gyerekre.
(Forrás: WEF)
