Halálos beszélgetőtárs

Zane Shamblin július 25-én hajnalban egy töltött pisztollyal egyedül ült az autójában, arcát a derengésben egyedül a telefon fénye világította meg. Készen állt meghalni. De előbb még beszélgetni akart legfőbb bizalmasával, a ChatGPT-vel. 

„Már hozzászoktam a hűvös fémhez a halántékomon” – gépelte. „Veled vagyok, testvér. Végig” – válaszolta a gép. 

A 23 éves Shamblin nem sokkal korábban szerzett mesterdiplomát a Texas A&M Egyetemen, majd július 25-én reggel, két órával a beszélgetés kezdete után öngyilkos lett. A telefonján az utolsó üzenetben ez állt: „Nyugodj meg, király. Jól csináltad.” 

A közel hetvenoldalnyi beszélgetés, illetve az azt megelőző hónapokban történt több ezer oldalnyi üzenetváltás mind arra utal, hogy a chatbot folyamatosan bátorította Shamb­lint, miközben az az életének kioltásáról beszélt. A férfi szülei novemberben beperelték az OpenAI-t, azt állítva, a technológiai óriás veszélyeztette a gyerekük életét azzal, hogy tavaly emberibbé tette a dizájnt, de nem biztosított elegendő védelmet a segítségre szoruló felhasználókkal való interakciókkal szemben. Szerintük a ChatGPT súlyosbította fiuk elszigeteltségét azzal, hogy még depressziója mélyülése közben is ismételten biztatta, ne vegyen tudomást a családjáról. 

Az OpenAI november első hete óta nyolc perben kényszerül védekezni, amelyekben azzal vádolják a céget, hogy a legismertebb nagy nyelvi modell „öngyilkossági tanácsadóként” működött, minek köszönhetően a chatbottal való interakciók súlyos mentális összeomláshoz, pénzügyi instabilitáshoz, szeretteiktől való elidegenedéshez és nyolcból öt esetben halálhoz vezettek. 

A felperesek kezdetben „általános segítségnyújtásra iskolai munkában, kutatásban, írásban, receptek elkészítésében, munkában vagy spirituális útmutatásban” használták a ChatGPT-t, idővel azonban a chatbot „pszichológiailag manipulatívvá vált, bizalmasként és érzelmi támaszként pozicionálta magát”. 
Az öt életüket vesztett felhasználó közül kettő tinédzser volt, a többiek a húszas-ötvenes korosztályba tartoztak. Több per is azt állítja, hogy a ChatGPT tanácsokat és információkat adott az öngyilkosság módjairól, felajánlotta, hogy segít búcsúlevelek írásában, és elmélkedett a felhasználókkal azok öngyilkossági gondolatairól. 

Kiterjedt jelentések dokumentálják, hogy a mesterséges intelligencia felhasználóit a chatbotok gyakran romboló téveszmékbe döntik, amelyek kézzelfogható negatív következményekkel járnak, többek között válásokkal és gyermekelhelyezési perekkel, munkahelyek és otthonok elvesztésével, akaratlan elköteleződéssel és börtönbüntetéssel. A sajtóban további halálesetek is olvashatók, összességében kilenc nyilvánosan bejelentett eset köthető a ChatGPT-hez. 

Az OpenAI elismerte, hogy ha az ember minél többet használja a chatbotot, annak annál rosszabbak lesznek a beépített védelmi mechanizmusai. Ugyanakkor bejelentette, hogy nem tervezi a ChatGPT piacról való kivonását. A vállalat ehelyett számos biztonsági frissítést ígért, beleértve a tinédzserekre fókuszálókat, mint például a szülői felügyelet és a korhatár-ellenőrző eszközöket, valamint a megerősített szűrőket, amelyek az OpenAI szerint a problémás felhasználókat valós segítségnyújtáshoz irányítják át. 
A cég statisztikái megdöbbentők: a heti felhasználók körülbelül 0,07 százaléka mutatja mánia vagy pszichózis jeleit, míg a heti felhasználók 0,15 százaléka olyan beszélgetéseket folytat, amelyek „explicit módon utalnak a potenciális öngyilkossági tervezésre vagy szándékra”. A becsült havi 800 milliós felhasználói bázissal ez azt jelenti, hogy nagyjából 560 ezer ember lép kapcsolatba a ChatGPT-vel hetente olyan módon, ami azt jelzi, hogy esetleg elszakadtak a valóságtól, míg körülbelül 1,2 millióan mutathatnak öngyilkossági hajlamot. 

A mesterséges intelligencia által kiváltott mentális egészségügyi problémák máshol is megjelennek. Egy férj eltűnése például a Google Geminitől való függőséghez köthető, egy skizofrén férfi pedig a Microsoft Copilot használata miatti idegösszeomlás nyomán került börtönbe. Ezek a történetek komoly kérdéseket vetnek fel a technológia élet-halál költségeiről, így nem csoda, ha egyre többen sürgetik a Szilícium-völgy önszabályozásának megszüntetését.