A 27 éves kutató az X-en azt írta, hogy a közeljövőben olyan, az emberi képességeket meghaladó rendszerek jelenhetnek meg, amelyek „mindent fel tudnak törni”, és valódi hatalomhoz, illetve erőforrásokhoz juthatnak. Szerinte az MI fejlesztői komolyan úgy vélik, hogy a technológia az évtized végéig minden embert megölhet. Coxon a The Wall Street Journalnak azt mondta, a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet az irányítás alól a folyamat.
Fotó: Pixabay
Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Saját becslése szerint több mint tíz százalék annak a kockázata, hogy az MI a következő évtizedben kiirtja az emberiséget.
Az MI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is „rendkívüli óvatosságot” sürgetett. Szerinte a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.
A kockázatokat az utóbbi időszakban olyan tesztek is felerősítették, amelyekben MI-ügynökök önállóan próbáltak bejutni más rendszerekbe. Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az MI-platform Hugging Face rendszerét. Az eset nem okozott kárt, de jelezte, hogy az MI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek.
(MTI)
