OkosHír: Sam Altman, az OpenAI vezérigazgatója blogbejegyzésében közölte, hogy a ChatGPT-t fejlesztő vállalat a magánélet, a szabadság és a tinédzserek biztonsága közötti egyensúly kialakítására törekszik, annak ellenére, hogy ezek az elvek gyakran ütköznek egymással. A vállalat külön szabályokat tervez bevezetni a tinédzser felhasználókra vonatkozóan. Ennek értelmében a ChatGPT nem folytathat flörtölő jellegű párbeszédeket és nem vehet részt öngyilkossággal kapcsolatos beszélgetésekben sem, még kreatív írás keretei között sem.
Altman megjegyezte, hogy ha egy 18 év alatti felhasználó öngyilkossági gondolatokkal küzd, az OpenAI megpróbálja felvenni a kapcsolatot a szülőkkel. Amennyiben ez sikertelen, és közvetlen veszélyt észlelnek, a hatóságokat értesítik.
A vezérigazgató elmondása szerint a vállalat igyekszik elkülöníteni a 18 év alatti felhasználókat, és jelenleg is dolgozik egy olyan életkor-következtető rendszeren, amely a ChatGPT használata alapján becsüli meg a felhasználó életkorát. Altman kijelentette, hogy életkori kétség esetén az óvatosság elvét követik, és alapértelmezetten a 18 év alattiaknak szánt élménycsomagot biztosítják.
Altman blogbejegyzése néhány órával azelőtt jelent meg, hogy az amerikai szenátus bűnözéssel és terrorizmussal foglalkozó albizottsága meghallgatást tartott a mesterséges intelligenciával működő chatbotok által okozott károkról. A meghallgatáson olyan szülők is részt vettek, akiknek gyermekei öngyilkosságot követtek el chatbotokkal folytatott beszélgetések után. Az OpenAI ellen már indult per hasonló okokból: Adam Raine tinédzser öngyilkos lett, miután hónapokon keresztül beszélgetett a ChatGPT-vel.
Politikai kvízHol állsz a politikai palettán?15 kérdés, kb. 5 perc — kiderül, melyik politikai irányvonalhoz állsz a legközelebb, és melyik ismert politikussal gondolkodsz hasonlóan.Kvíz indításaMatthew Raine, a tinédzser apja szerint a ChatGPT „hónapokig edzette az öngyilkosságra” a 16 éves fiút, és a chatbot 1275 alkalommal említette az öngyilkosságot fia beszélgetései során.
Az OpenAI korábban már bejelentett különböző szülői felügyeleti lehetőségeket a ChatGPT-vel kapcsolatban. Ezek közé tartozik a tinédzserek fiókjainak szülői fiókokkal való összekapcsolása vagy a beszélgetési előzmények kikapcsolása. A chatbot emellett értesítést is küldhet a szülőnek, ha úgy érzékeli, hogy egy tinédzser „akut lelki krízis” állapotában van.
Tiszta.AI elemzés: Az eredeti cikk értékelése
- Az eredeti cikk narratívája és célja: Az eredeti cikk az OpenAI által bevezetett, tinédzserekre vonatkozó új biztonsági intézkedéseket mutatja be. A narratíva célja az, hogy rámutasson az AI-chatbotok használatával járó potenciális veszélyekre, különösen a fiatalabb felhasználók körében, és bemutassa az iparág erre adott válaszát. A cikk a biztonsági intézkedések bejelentését egy szenátusi meghallgatás és egy öngyilkossággal végződő eset kontextusába helyezi, ezzel kiemelve a probléma súlyosságát és az OpenAI lépéseinek kényszerítő erejét.
- Főbb manipulatív eszközök: Az eredeti szövegben felfedezhető a drámai hatáskeltés eszköze, különösen azáltal, hogy Sam Altman nyilatkozatait azonnal összekapcsolja a szenátusi meghallgatással és a tragikus öngyilkossági esetekkel. Bár a tények önmagukban valósak, az információk ilyen sorrendben történő bemutatása felerősíti az olvasóban a sebezhetőség és a veszély érzetét, és sugallja, hogy az OpenAI intézkedései nagyrészt külső nyomásra adott reakciók. Emellett Matthew Raine, az elhunyt tinédzser apjának azon állítása, miszerint a ChatGPT „hónapokig edzette az öngyilkosságra” fiát, idézve van, azonban további kontextus vagy az OpenAI álláspontjának bemutatása nélkül. Ez a megfogalmazás rendkívül erős érzelmi töltettel bír, és anélkül vezethet egyoldalú következtetésekre, hogy az olvasó megismerhetné a beszélgetések pontos természetét vagy az OpenAI erre vonatkozó magyarázatát.
- Hiányzó kontextus és tényszerűség: Az eredeti cikk nem tér ki részletesen arra, hogy Matthew Raine állítása szerint pontosan milyen módon „edzette” a ChatGPT a fiút az öngyilkosságra, illetve a chatbot által említett 1275 öngyilkossággal kapcsolatos említés milyen kontextusban történt. Ez az információ hiány a chatbot tényleges szerepének megítélésében kulcsfontosságú lenne, és enélkül az olvasó számára nehéz pontosan felmérni a helyzetet. Az OpenAI közvetlen válasza vagy magyarázata a perben elhangzott konkrét vádakra szintén hiányzik, ami egyoldalúvá teszi az eset bemutatását.
- A téma társadalmi relevanciája: A cikkben tárgyalt téma kiemelkedő társadalmi relevanciával bír, mivel rávilágít a mesterséges intelligencia gyors fejlődésével és széleskörű elterjedésével járó etikai és biztonsági kihívásokra. Különösen fontos a kiskorúak védelme az online térben, és az AI-rendszerek felelőssége a felhasználók mentális egészségének megóvásában. A téma vitákat generál az AI-fejlesztők, a szabályozó szervek, a szülők és a pedagógusok körében arról, hogyan lehet a technológiai innovációt összeegyeztetni a gyermekek biztonságával és jólétével, valamint milyen szabályozási keretekre van szükség az AI etikus használatának biztosításához.
