Komoly kockázatai vannak a mesterséges intelligenciának
A vitathatatlan előnyök mellett komoly kockázatokkal is jár a mesterséges intelligencia (artificial intelligence, AI) alkalmazásnak terjedése – áll a brit kormány által ismertetett átfogó szakértői jelentésben. Rishi Sunak miniszterelnök szerint szélsőséges esetekben fennáll annak a veszélye is, hogy az emberiség teljesen elveszíti ellenőrzését az AI-technológia felett.
A 45 oldalas tanulmány, amelyet a tudományos, innovációs és technológiaügyi minisztérium megbízásából állított össze egy szakértői testület, a brit kormány által november elejére összehívott nemzetközi AI-biztonsági csúcs vitairata.
A dolgozat szerzői által említett fő kockázatok között szerepel, hogy a mesterséges intelligencia alkalmazása megkönnyítheti a biológiai, a vegyi és a sugárszennyezést okozó fegyverek előállítását, illetve a kibertámadások végrehajtását.
A különböző AI-modellek ugyanis „személyre szabott” tudományos ismeretekkel láthatják el az egyes felhasználókat, útmutatást nyújthatnak az adott cél eléréséhez szükséges laboratóriumi munkához, és információval szolgálhatnak a biológiai és vegyi alapanyagok beszerzésének lehetséges módozatairól is.
Az AI-rendszerek használatával a fenyegetést jelentő felhasználók mindemellett időt is megtakaríthatnak. A mesterséges intelligencia például máris elősegítette olyan számítógépes vírusok előállítását, amelyek az észlelés megnehezítése végett időről időre módosulnak.
Az ilyen vírusok előállítása korábban meglehetősen hosszú időbe telt, ám egyes hackercsoportok fórumainak használói máris arról számolnak be, hogy a ChatGPT és más hasonló eszközök használatával lehetővé vált számukra a kártékony szoftverek (malware) gyors előállítása számos különböző programnyelven.
A tanulmány szerzői szerint az emberi tényezőket kihasználó, pszichológiai manipulációt alkalmazó, úgynevezett social engineering-típusú módszer a mesterséges intelligenciával megerősítve már most szerepel a kiberbűnözők rendszeresen használt eszköztárában. Ez a kombinált eszköz képes például olyan emberek hangjának tökéletes utánzására, akikben a kiszemelt célszemély megbízik.
Rishi Sunak brit miniszterelnök a brit tudományos akadémia szerepét betöltő Royal Society rendezvényén felszólalva kijelentette: a brit hírszerzés helyzetértékelését is felhasználó kormányjelentést erőteljes figyelmeztetésnek kell tekinteni, ugyanis a terrorszervezetek a mesterséges intelligencia használatával az eddigieknél is súlyosabb pusztítást tudnak okozni.
A brit kormányfő idézte azt a közös nyilatkozatot is, amelyet nemrégiben több száz vezető AI-szakértő tett közzé. A felhívás aláírói szerint globális szinten kell elsődleges fontosságú feladattá tenni annak megakadályozását, hogy a mesterséges intelligencia az emberiség pusztulását okozza. Ezt a kockázatot a kutatók szerint ugyanúgy kell kezelni, mint a világjárványok, vagy a nukleáris háború veszélyét.
A brit miniszterelnök kijelentette: a legvalószínűtlenebb, szélsőséges forgatókönyvek megvalósulása esetén az a kockázat is felmerülhet, hogy az emberiség teljesen elveszíti az ellenőrzést a mesterséges intelligencia felett.
Rishi Sunak szerint a brit kormány mindezekre tekintettel hívta össze a világ első globális AI-biztonsági csúcstalálkozóját, amelyre Kínát is megívta. „Tudom, hogy többek szerint Kínát ki kellett volna zárni, de nem létezhet komoly AI-stratégia anélkül, hogy legalább megpróbálnánk bevonni a világ összes vezető AI-hatalmát” – fogalmazott a brit kormányfő.
Kertész Róbert, az MTI tudósítója