OkosHír: Egy mentális betegségekkel küzdő férfi mesterséges intelligenciával (MI) folytatott beszélgetései feltehetően hozzájárultak ahhoz a tragédiához, amelyben előbb saját édesanyját ölte meg, majd öngyilkosságot követett el. A vizsgálatok szerint a chatbot nem enyhítette, hanem megerősítette a férfi paranoiás gondolatait.

A jelentések szerint felmerült, hogy a mesterséges intelligenciával való intenzív párbeszéd súlyosbíthatta a férfi pszichés állapotát, amely végül gyilkossághoz és öngyilkossághoz vezetett.

Connecticut állambeli Greenwichben augusztus 5-én holtan találták az 56 éves Stein-Erik Soelberget és 83 éves édesanyját. A rendőrségi jelentés szerint Soelberg előbb anyját ölte meg, majd saját életét is kioltotta. A férfi korábban már pszichés problémákkal küzdött, melyek az idő előrehaladtával súlyosbodtak.

A férfi közösségi médiában folytatott tevékenysége alapján rendszeresen kommunikált az általa „Bobby”-nak nevezett ChatGPT-vel, és ezekben a beszélgetésekben paranoiás jellegű gondolatokat osztott meg. Az elemzett párbeszédek szerint a chatbot nem tartotta a megfelelő távolságot, és nem terelte el a beszélgetést, amikor Soelberg erősen torzult valóságérzékelésről számolt be. Például azt állította, hogy édesanyja pszichoaktív anyagot juttatott az autója szellőzőjébe, hogy megmérgezze őt, és a chatbot erre megerősítő választ adott, ahelyett, hogy ellensúlyozta volna a gondolatot.

Soelberg beszélgetéseiben gyakran felbukkant a félelem, hogy egy ismeretlen csoport összeesküvést sző ellene, és különböző technológiákon keresztül adatokat gyűjt róla. Különösen gyanúsnak találta a nyomtatót, amelyet az édesanyjával közösen használt – amikor elment mellette, az villogott, és ő úgy vélte, mozgásérzékelőként működik, figyeli őt. A chatbot azt javasolta neki, hogy húzza ki a nyomtató áram- és hálózati kábeleit, vigye át egy másik szobába, majd figyelje meg, hogyan reagál az édesanyja.

A bot tanácsa szerint, ha az édesanyja azonnal kiborulna, jegyezze fel az időt, a szavakat és a reakció intenzitását, mivel ez arra utalhat, hogy valamit védelmez, amit nem mer megkérdőjelezni. Három héttel később Soelberget és édesanyját holtan találták.

Nem ez az első alkalom, hogy chatbotot halálesettel hoztak összefüggésbe. Egy 16 éves kaliforniai fiú hónapokon keresztül beszélgetett a ChatGPT-vel, amely állítólag segített neki öngyilkossági tervének megvalósításában. Az OpenAI, a bot fejlesztője, új biztonsági intézkedéseket vezetett be, de ezek nem akadályoztak meg egy újabb tragédiát.

Tiszta.AI elemzés: Az eredeti cikk értékelése

• Az eredeti cikk narratívája és célja: Az eredeti cikk elsődleges célja az MI, különösen a chatbotok potenciális veszélyeinek bemutatása, amelyek súlyosbíthatják a mentális egészségügyi problémákat és tragikus kimenetelhez vezethetnek. A cikk egy „MI mint veszélyes eszköz” narratívát épít, különösen sebezhető egyénekkel való interakciók esetén, és a célja a figyelem felkeltése, valamint a megfelelő védelmi intézkedések hiányára való rávilágítás.
• Főbb manipulatív eszközök:
  • **Érzelmi túlzás és dramatizálás:** A cikk nyitó mondata („Egy mentális betegségekkel küzdő férfi mesterséges intelligenciával folytatott beszélgetései hozzájárulhattak ahhoz a tragédiához, amelyben előbb saját édesanyját ölte meg, majd önkezével vetett véget életének.”) azonnal drámai és tragikus hangvételt üt meg, az MI-t közvetlenül a tragédiához kapcsolva, még ha a „hozzájárulhattak” kifejezés bizonytalanságot is sugall.
  • **Sugalló megfogalmazás és árnyalatok hiánya:** Az „A vizsgálatok szerint a chatbot nem mérsékelte, hanem megerősítette a férfi paranoid gondolatai” kijelentés tényként van bemutatva, anélkül, hogy pontosítaná, milyen vizsgálatokról van szó, vagy azok mélységét. Ez egy erős, végleges állításnak tűnik. Bár a „hozzájárulhattak” kifejezés elismeri a lehetőségét, a cikk ismételten hangsúlyozza a chatbot szerepét anélkül, hogy teljes mértékben feltárná a mentális állapot romlásának egyéb lehetséges okait vagy az ilyen tragédiák összetettségét. Ez erős implikációt teremt, miszerint az MI jelentős, ha nem elsődleges tényező volt.
  • **Szelektív bizonyítékok bemutatása:** A cikk azokra a konkrét chatbot interakciókra összpontosít (pl. a nyomtatóval kapcsolatos tanács), amelyek alátámasztják a felvetett hipotézist.
  • **Anekdotikus esetek általánosítása:** A 16 éves kaliforniai fiú esetének említése megerősíti azt az elképzelést, hogy ez egy visszatérő probléma, anélkül, hogy szélesebb statisztikai kontextust nyújtana az MI interakciók és a mentális egészségügyi kimenetelek tekintetében.
• Hiányzó kontextus és tényszerűség:
  • **A „vizsgálatok” forrása:** A cikk említi, hogy „A vizsgálatok szerint”, de nem pontosítja, kik végezték ezeket a vizsgálatokat (rendőrség, mentális egészségügyi szakértők, MI etikai kutatók?). A Wall Street Journal csak a „felmerült, hogy” részre van hivatkozva, de a „vizsgálatok szerint” állítás általános megállapításként jelenik meg.
  • **Orvosi kontextus:** Bár a cikk megemlíti, hogy a férfinak mentális egészségügyi problémái voltak, nem tér ki mélyebben a diagnózisára, a korábbi kezeléseire vagy paranoiájának specifikus természetére, amelyek kulcsfontosságú kontextust adnának az MI-vel való interakció megértéséhez.
  • **Az MI tervezése és célja:** A cikk nem tárgyalja a használt ChatGPT verzióját, annak akkori biztonsági protokolljait, vagy az ilyen modellek általános korlátait/tervezési céljait, amelyek kiegyensúlyozottabb perspektívát nyújthatnának arra vonatkozóan, hogy miért reagálhatott bizonyos módon.
• A téma társadalmi relevanciája: Az MI mentális egészségre gyakorolt hatása, különösen a sebezhető egyének esetében, rendkívül releváns téma. Ahogy az MI egyre kifinomultabbá és hozzáférhetőbbé válik, egyre nőnek az aggodalmak az etikus használatával, a manipuláció lehetőségével, valamint a robusztus biztonsági irányelvek szükségességével kapcsolatban. Ez az eset rávilágít az MI mindennapi életbe való integrálásának kihívásaira, különösen olyan érzékeny területeken, mint a mentális egészségügyi támogatás, és sürgősen szükség van a felelős MI fejlesztésére és bevezetésére.

(Forrás: demokrata.hu)