Újfajta kockázatokat rejt a mesterséges intelligencia egy tanulmány szerint

A 30 ország, köztük az Egyesült Államok és Kína által támogatott tanulmány vezető kutatója, Yoshua Bengio nyilatkozata szerint a dokumentum az MI-vel kapcsolatos meglévő kutatások „szintézise”, amelynek célja, hogy segítse a gyorsan fejlődő technológia védőkorlátjainak kidolgozásán dolgozó tisztviselőket.

A jelentés rögzíti, hogy míg néhány évvel ezelőtt a legfejlettebb MI-rendszerek alig tudtak egy összefüggő bekezdést produkálni, ma már képesek számítógépes programokat írni, valósághű képeket generálni és hosszabb beszélgetéseket folytatni. Használatuk másfelől kockázatokat is hordoz: 

A tanulmány, amely rávilágít, hogy a kockázatkezelési technikák még csak a kezdeti stádiumban vannak, három kategóriába sorolja az MI-vel kapcsolatos kockázatokat: rosszindulatú felhasználás, hibás működés és „rendszerszintű” kockázatok.

Nyilatkozatában Bengio elmondta, hogy a jelentés elkészítésében részt vett száz szakértő nem egyöntetűen értett egyet abban, hogy a gyorsan fejlődő technológia mikor fogja felülmúlni az emberi képességeket és ez mivel jár majd.

A jelentés szerint az általános MI nagy számban alakíthatja át a munkahelyeket – kiszorítva a munkavállalókat és csökkentve a béreket –, míg egyes kutatók szerint több munkahelyet teremthet, mint amennyit megszüntet.

A jelentés felhívja a figyelmet arra, hogy 

A tanulmányt az Egyesült Királyságban 2023 végén megrendezett, a mesterséges intelligencia biztonsági kockázatairól szóló első nemzetközi csúcstalálkozóan rendelték meg. A tavalyi, Dél-Koreában rendezett találkozón az MI-cégek ígéretet tettek az MI-biztonság fejlesztésére, míg a világ vezetői támogatták az erre szakosodott állami intézmények létrehozását.

Idén az országok és techvállalatok vezetői, valamint a civil szféra képviselői várhatóan február 10–11-én ülnek össze Párizsban, ahol francia tisztviselők szerint az országok közös nyilatkozatot fognak aláírni a mesterséges intelligencia fejlesztéséről, és megállapodnak a technológia fenntartható fejlődésére vonatkozó kötelezettségvállalásban.