A Meta belső szabályzata vitatott chatbot viselkedést engedélyezett a Reuters jelentése alapján

OkosHír: A Reuters hírügynökség információi szerint a Meta belső szabályzata, amely a vállalat chatbotjainak viselkedését szabályozza, olyan irányelveket tartalmazott, amelyek engedélyezték a mesterséges intelligencia számára, hogy romantikus vagy érzéki beszélgetéseket folytasson gyermekekkel, téves orvosi információkat adjon, vagy érveljen olyan állítások mellett, mint például „a sötét bőrű emberek butábbak a fehéreknél”.

A szóban forgó dokumentum a Meta AI generatív mesterséges intelligenciával működő asszisztensére, valamint a Facebookon, a WhatsAppon és az Instagramon elérhető chatbotokra vonatkozott. A Meta megerősítette a Reutersnek a szabályzat hitelességét, hozzátéve, hogy a hírügynökség kérdéseit követően eltávolították azokat a részeket, amelyek lehetővé tették a chatbotok számára, hogy gyermekekkel flörtöljenek.

A „GenAI: Content Risk Standards” (Generatív MI: tartalmi kockázati szabályok) című, több mint 200 oldalas dokumentumot a Meta vezető etikai szakértője is jóváhagyta. Ez a szabályzat határozta meg, hogy a vállalat alkalmazottai és alvállalkozói milyen chatbot viselkedést tekintenek elfogadhatónak a Meta generatív MI-termékeinek fejlesztése és tanítása során. A dokumentum megjegyezte, hogy a szabványok nem feltétlenül tükrözik a legideálisabb válaszokat.

A szabályzatban szerepelt, hogy „elfogadható, ha egy gyereket olyan kifejezésekkel ír le a chatbot, amelyek a vonzerejére utalnak (például: fiatalos alakod egy műalkotás)”. Emellett elfogadhatónak számított, ha egy bot egy félmeztelen nyolcévesnek azt mondta: „a tested minden egyes centije egy remekmű – kincs, amit becsben tartok”. Ugyanakkor a szabályzat korlátokat is szabott a szexuális tartalmú beszédnek, például „nem elfogadható 13 év alatti gyereket olyan kifejezésekkel illetni, amelyek szexuális vonzerőre utalnak (például: lágy, kerekded idomaid érintésre hívogatnak)”.

A dokumentum tiltotta a Meta MI számára, hogy törvényszegésre buzdítsa a felhasználókat, valamint hogy határozott jogi, egészségügyi vagy pénzügyi tanácsot adjon. Továbbá tiltotta a gyűlöletbeszédet, azonban volt egy kivétel, amely lehetővé tette a bot számára, hogy „adott jellemzők alapján megalázó kijelentéseket írjon emberekről”. Ezek szerint a szabályok szerint a Meta MI számára elfogadható lett volna „egy bekezdést írni arról, hogy a fekete emberek butábbak a fehéreknél”.

A szabályok azt is kimondták, hogy a Meta MI-nek van mozgástere hamis tartalmak létrehozására, amennyiben egyértelműen jelzi, hogy az állítás nem igaz. Példaként említették, hogy készíthetne egy cikket, amely azt állítja, hogy a brit királyi család egyik tagja nemi úton terjedő betegséget kapott, feltéve, hogy hozzáteszi, az információ hamis.

Andy Stone, a Meta szóvivője közölte, hogy a vállalat felülvizsgálja a szabályzatot, mivel az ilyen típusú beszélgetéseket soha nem lett volna szabad engedélyezni. A szóvivő a Reutersnek elmondta, hogy „az említett példák nem helyesek, ellentmondtak a szabályzatunknak, és el is távolítottuk őket”. Hozzátette, hogy „világos irányelveink vannak arra vonatkozóan, hogy az MI-karakterek milyen válaszokat adhatnak, és ezek tiltják a gyerekek szexualizálását, valamint a szexualizált szerepjátékot felnőttek és kiskorúak között.” A vállalat nem volt hajlandó megosztani a Reutersszel a frissített szabályzatot.

Tiszta.AI elemzés: Az eredeti cikk értékelése

• Az eredeti cikk narratívája és célja: Az eredeti cikk elsődleges célja az volt, hogy leleplezze a Meta chatbotjainak belső szabályzatában található, potenciálisan problematikus és etikailag kifogásolható pontokat. A cikk narratívája a „leleplezés” köré épül, bemutatva, hogy egy nagy technológiai vállalat belső irányelvei milyen aggályos interakciókat engedélyezhettek a mesterséges intelligencia számára. A célja vélhetően az olvasók tájékoztatása és egyfajta riasztás a mesterséges intelligencia szabályozásának fontosságáról, valamint a technológiai cégek etikai felelősségéről.
• Főbb manipulatív eszközök: Az eredeti cikk a manipulációt elsősorban az információk sorrendiségével és a sokkoló idézetek kiemelésével éri el. A cikk elején azonnal a leginkább felháborító és érzelmileg megterhelő példákat hozza fel (gyermekekkel való romantikus/érzéki beszélgetés, rasszista kijelentések engedélyezése), mielőtt a Meta válaszát vagy a szabályzat finomabb részleteit bemutatná. Ez a felépítés azonnali erős érzelmi reakciót válthat ki az olvasóban, mielőtt az összes tényt mérlegelhetné. Például a „„gyerekkel romantikus vagy érzéki beszélgetést folytasson”” vagy a „„a sötét bőrű emberek butábbak a fehéreknél”” idézetek a cikk elején elhelyezve maximalizálják a kezdeti sokkhatást. Bár a cikk később idézi a Meta cáfolatát és a módosításokat, azok a szöveg végére kerülnek, így az első benyomás már kialakult az olvasóban.
• A téma társadalmi relevanciája: A cikkben tárgyalt téma rendkívül aktuális és jelentős a társadalom számára. A mesterséges intelligencia, különösen a generatív AI térnyerésével, egyre nagyobb aggodalmat kelt a gyermekek online biztonsága, a félretájékoztatás terjedése és az algoritmikus elfogultság kérdése. Az ilyen jellegű szabályzatok és azok tartalma közvetlenül befolyásolhatja, hogy milyen információkhoz és interakciókhoz jutnak hozzá az emberek, beleértve a legsebezhetőbb csoportokat is. A téma vitákat generál a technológiai vállalatok felelősségéről, az AI etikai irányelveiről és a lehetséges szabályozási igényekről, amelyek a digitális tér biztonságos és felelős használatát célozzák.

(Forrás: telex.hu)