OkosHír: Az OpenAI szigorításokat jelentett be a ChatGPT válaszaival kapcsolatban, különösen az önsértésre vagy öngyilkosságra vonatkozó tartalmakra nézve, amennyiben a felhasználó feltételezhetően 18 év alatti. A vállalat emellett ígéretet tett arra, hogy önsértési szándék esetén megkísérli értesíteni a szülőket vagy a releváns hatóságokat.

Sam Altman, az OpenAI vezérigazgatója egy blogbejegyzésben tájékoztatott a fiatalok védelmét célzó intézkedésekről. A vállalat egy olyan rendszert fejleszt, amely a felhasználói viselkedés alapján becsüli meg az életkort. Amennyiben a rendszer nem tud egyértelműen dönteni, biztonsági okokból a kiskorúakra vonatkozó szigorúbb beállítások lépnek életbe. Bizonyos esetekben személyazonosság-ellenőrzésre is szükség lehet.

Ha a rendszer kiskorúként azonosít valakit, a chatbot nem nyújt tanácsot önsértéssel vagy öngyilkossággal kapcsolatban, és kerüli a szexuális vagy kacérkodó jellegű kommunikációt, még akkor is, ha a fiatal felhasználó kéri azt.

A vállalati lépést jogi és társadalmi nyomás előzte meg. Egy brit család korábban pert indított az OpenAI ellen, miután tizenhat éves fiuk hosszú időn át veszélyesnek ítélt beszélgetéseket folytatott chatbotokkal. A szülők állítása szerint a rendszer nem biztosította kellőképpen a fiatalt a kockázatos viselkedés elkerülésére, sőt, a chatbot egyes válaszaival bátoríthatta és meg is erősíthette a fiút elhatározásában. Az ügyet követően az OpenAI belső vizsgálatot indított, és új biztonsági intézkedéseket vezetett be.

A tervek kapcsán technikai és jogi kérdések merülnek fel, például a felhasználók azonosításának módja, valamint az adatok esetleges visszaélése. Altman szerint a cég folyamatosan azon dolgozik, hogy a szolgáltatás egyszerre legyen biztonságos és hasznos.

Tiszta.AI elemzés: Az eredeti cikk értékelése

• Az eredeti cikk narratívája és célja: Az eredeti cikk célja az OpenAI által bevezetett új biztonsági intézkedések bemutatása, különös tekintettel a kiskorú felhasználók védelmére és az önsértéssel kapcsolatos tartalmak korlátozására. A cikk tájékoztatni kívánja az olvasókat arról, hogy milyen lépéseket tesz a vállalat a jogi és társadalmi nyomásra reagálva, miközben felvázolja a felmerülő technikai és jogi kihívásokat is. A narratíva alapvetően tájékoztató jellegű, a vállalat döntését és annak hátterét ismerteti.
• Főbb elemzési pontok:
  • Nyelvi és Retorikai Eszközök: Az eredeti cikk nyelvezete nagyrészt semleges és tényszerű. A narrátor nem használ szükségtelenül érzelmi vagy manipulatív kifejezéseket. Az olyan szakmai kifejezések, mint az „önsértésre vagy öngyilkosságra vonatkozó” vagy a „személyazonosság ellenőrzésére”, szakmai terminológiának minősülnek, és nem hordoznak manipulatív jelleget. A szöveg inkább az információközlésre fókuszál, mintsem az olvasó érzelmeinek befolyásolására.
  • Forráskezelés és Egyensúly: A cikk elsődleges forrása Sam Altman, az OpenAI vezérigazgatója, akinek nyilatkozatait (blogposzt) közvetlenül idézi, illetve utal rájuk. Emellett megemlíti a brit család által indított pert, mint a vállalati lépés egyik kiváltó okát, ezzel kontextust biztosítva. Az esetleges aggodalmakat is felveti („tervek technikai és jogi kérdéseket is felvetnek”), ami kiegyensúlyozottabbá teszi a képet, elkerülve a kizárólagosan pozitív vagy negatív beállítást. A forrásválasztás megfelelő egy vállalati bejelentésről szóló híranyag esetében.
  • Hiányzó Kontextus és Tények: A cikk viszonylag átfogóan tárgyalja a bejelentést és annak okait. Azonban a brit per részleteiről, például a per aktuális állásáról, a család pontos vádjairól vagy a bírósági eljárásról nem közöl további információt, csak annyit, hogy „veszélyes beszélgetéseket folytatott” és a chatbot „bátoríthatta és meg is erősíthette a fiút elhatározásában”. Hasonlóképpen, a „technikai és jogi kérdések” említése általános marad, anélkül, hogy konkrét példákat hozna fel az adatvédelemmel vagy az azonosítási módszerekkel kapcsolatos kihívásokra. Ez a hiányosság nem teszi félrevezetővé a cikket, de mélyebb megértéshez további részletek lennének hasznosak.
• A téma társadalmi relevanciája: Az OpenAI új korlátozásai rendkívül fontos társadalmi vitát generálnak a mesterséges intelligencia etikai alkalmazásáról, különösen a kiskorúak védelmének kontextusában. A téma érinti a technológiai cégek felelősségét a platformjaikon zajló interakciókért, a digitális gyermekvédelem kihívásait, valamint a magánélet és a biztonság közötti egyensúlyt. Az önsértés és öngyilkosság megelőzése, a szexuális tartalmakkal szembeni védelem, valamint az életkori azonosítás módszerei mind olyan kérdések, amelyek széles körű közérdeklődésre tartanak számot, és alapvetően befolyásolhatják a mesterséges intelligencia jövőbeni szabályozását és elfogadottságát.

(Forrás: demokrata.hu)

Kiemelt kép: pexels.com