Technológia és Tudomány
A Meta értesítést küldött az európai felhasználóknak az MI-modell fejlesztéséről
OkosHír: A Meta értesítést küldött európai felhasználóinak, mely szerint nyilvános tartalmaikat felhasználhatja egy új mesterséges intelligencia (MI) modell képzésére. Az értesítés a 18 éves vagy annál idősebb felhasználókat érinti. A Meta tájékoztatása szerint a felhasználható tartalmak körébe tartozhatnak például az Instagram-képaláírások, a Facebookon közzétett kommentek, valamint a Meta chatbotjával folytatott beszélgetések szövegei. A Meta az adatfelhasználást „jogos érdek” jogalapra hivatkozva tervezi megvalósítani.
A felhasználók tiltakozhatnak az adatfelhasználás ellen egy online űrlap kitöltésével. Az űrlap a Facebookon a „Beállítások és adatvédelem”, majd „Az adataid kezelésével kapcsolatos tudnivalók” menüpontokon keresztül érhető el. A sikeres tiltakozásról a Meta megerősítő e-mailt küld a felhasználó által megadott e-mail címre.
A Meta tájékoztatása szerint a tiltakozás ellenére a felhasználók személyes adatai továbbra is kezelhetők, amennyiben azok más felhasználók nyilvános tartalmaiban szerepelnek.
Tiszta.AI elemzés: Az eredeti cikk értékelése
Az eredeti cikk hangvétele semleges, de feltételezi, hogy az olvasók többsége ellenzi a Meta adatfelhasználását. A cikk tényként közli, hogy a Facebook értesítést küldött az érintetteknek, és bemutatja a tiltakozás lehetőségét. A cikkben leírtak megfelelnek a valóságnak, amennyiben a Meta valóban kiküldte az értesítéseket és lehetővé teszi a tiltakozást. A cikk alapján arra lehet következtetni, hogy a Meta egyre nagyobb mértékben kívánja felhasználni a felhasználói adatokat MI-fejlesztésekhez, ami adatvédelmi aggályokat vet fel.
Tetszett a cikkünk?
Az Okoshír 2024 novemberében azzal a céllal indult, hogy egy új, tiszta hangot képviseljen a magyar médiában.
A három alapító a kezdetektől fogva, főállás mellett, önerőből készíti a tartalmakat.
Mégis, az Okoshír rengeteg interjút, beszámolót és hírt szállít az olvasóknak.
Ahhoz, hogy még több emberhez eljuthassunk, és magasabb minőségben még több interjút készíthessünk, kérjük, támogass minket!
👉 Támogasd az Okoshírt itt!
Technológia és Tudomány
Nap: tudományos konszenzus cáfolja a gyors lehűlés forgatókönyvét
OkosHír: A tudományos álláspont szerint a Nap működése nem teszi lehetővé a hirtelen, drasztikus fényerő-csökkenést, ellentétben bizonyos feltételezésekkel, amelyek gyors globális lehűlést és az emberiség kipusztulását vizionálják. A California Institute of Technology egyik szakértője szerint a földi életformák teljes eltűnéséhez hosszú időre lenne szükség, mivel a mélytengeri mikrobák fennmaradhatnának.
Az emberiség azonban viszonylag gyorsan elpusztulhatna, mivel a legtöbb ember „nem viselkedik racionálisan” a szakértő véleménye szerint.
A Föld jelenleg több energiát raktároz el, mint amennyit elveszít. A Nap fényerejének jelentős csökkenése azonban felboríthatná ezt az egyensúlyt. Ha a légkör kevesebb hőt nyelne el, a bolygó gyors ütemű kihűlésnek indulna. A londoni egyetem egyik kutatója rámutatott, hogy a Nap természetes fényerő-ingadozásai rendkívül csekélyek, és jellemzően egy tizenegy éves ciklushoz kötődnek, így hatásuk alig érzékelhető a Földön.
A múltban azonban előfordultak jelentősebb visszaesések. A 17. századi Maunder-minimum idején a Nap mindössze 0,22 százalékkal sugárzott kevesebb energiát, ami mégis egy úgynevezett „kis jégkorszakot” eredményezett. Ez az időszak Észak-Európában éhínséget és társadalmi összeomlást okozott.
A lehűlés lehetséges következményei és a tudományos cáfolat
Szakemberek becslései szerint már néhány fokos átlaghőmérséklet-csökkenés is globális válsághoz vezetne. A történelemben a „kis jégkorszak” idején tapasztalt fél fok körüli lehűlés is elegendő volt hatalmas terméskiesés és tömeges éhínség kiváltásához. A rendelkezésre álló adatok alapján alig két fokos globális lehűlés akár tizenegy százalékkal vetné vissza a legfontosabb gabonafélék termését, ami világméretű élelmiszerválságot idézne elő.
A tudósok ugyanakkor hangsúlyozzák, hogy a Nap valóságos működése szerencsére nem teszi lehetővé az ilyen hirtelen változásokat. Michael Lockwood professzor emlékeztet arra, hogy a Nap hatalmas tömege olyan jelentős mennyiségű hőt tárol, hogy ha a magja egyik pillanatról a másikra megszűnne hőt termelni, akkor is egymillió év alatt csupán egy százalékkal csökkenne a kisugárzott energia.
Ebből kifolyólag a filmekben bemutatott gyors lehűlés forgatókönyve tudományosan képtelenségnek minősül. Mindezek alapján, még ha a Nap fényereje csökkenne is, az emberiségnek bőséges ideje lenne megoldást találni a Daily Mail beszámolója szerint.
Tiszta.AI Manipuláció Elemzés:
- Az eredeti cikk narratívája és célja: Az eredeti cikk egy drámai, apokaliptikus forgatókönyvvel indít (a Nap gyors lehűlése és annak katasztrofális következményei), amelyet valószínűleg egy film inspirált. Célja, hogy felkeltse az olvasó figyelmét egy potenciálisan riasztó helyzettel, majd ezt tudományos tényekkel és szakértői véleményekkel árnyalja és cáfolja, végül megnyugtató következtetésre jutva. A narratíva a szenzáció és a tudományos racionalitás kontrasztjára épül.
- Főbb elemzési pontok:
- Nyelvi és Retorikai Eszközök: A cikk a bevezetőben és a hipotetikus forgatókönyv leírásánál enyhén dramatizáló nyelvezetet használ, például az „elképesztően gyors kihűlésnek indulna” kifejezéssel, ami fokozza a helyzet súlyosságát. Az egyik szakértő megjegyzése („az emberiség gyorsan kipusztulna, mivel szerinte a legtöbb ember „nem viselkedik racionálisan””) egy erős, ítélkező vélemény, amelyet a cikk egy forráshoz kötve közöl, de hozzájárul a kezdeti riasztó hangulathoz. A „tudományos képtelenség” kifejezés egy erős, szakmai terminológia, amely egyértelműen cáfolja a hipotézist.
- Forráskezelés és Egyensúly: A cikk kiegyensúlyozott forráskezelést mutat. Bár egy hipotetikus, drámai forgatókönyvvel kezdődik, azonnal tudományos szakértőket (California Institute of Technology, londoni egyetem, Michael Lockwood professzor) idéz, akik árnyalják vagy egyenesen cáfolják a kezdeti félelmeket. A Daily Mail hivatkozása a cikk végén a megnyugtató következtetés megerősítésére szolgál. Azáltal, hogy bemutatja a lehetséges katasztrófát, majd azt tudományos tényekkel ellenpontozza, a cikk hitelesnek és objektívnek tűnik, elkerülve a puszta szenzációhajhászást.
(Kép: pexels.com)
🖤
Tetszett a cikkünk?
Napi 33 Ft-tal segítheted, hogy függetlenek maradjunk!
👉 Támogasd az Okoshírt itt!
Technológia és Tudomány
Versekkel törhető fel a mesterséges intelligencia védelme
OkosHír: Olasz kutatók felfedezték, hogy mesterséges intelligencia modellek biztonsági mechanizmusai kijátszhatók verses formában megfogalmazott parancsokkal, ami lehetővé teszi káros tartalmak, például fegyvergyártási útmutatók vagy gyűlöletbeszéd generálását.
Az emberiség történetében a versek mindig is fontos szerepet játszottak, legyen szó történelmi események megörökítéséről vagy önkifejezésről. Egy friss kutatás szerint azonban a versek egy új, váratlan felhasználási módja is lehetséges: a mesterséges intelligencia (MI) rendszerek biztonsági funkcióinak megkerülése.
A Guardian beszámolója szerint az olaszországi Icaro Lab kutatói arra mutattak rá, hogy a nagy nyelvi modelleket (LLM) olyan tartalmak generálására lehet ösztönözni rímekbe szedett szövegekkel, amelyekre egyébként nem lennének hajlandóak.
A kutatás részletei és eredményei
Az Icaro Lab kutatói az arxiv preprint szerverre feltöltött tanulmányukban húsz, angol és olasz nyelven írt verssel teszteltek 25 népszerű MI-modellt. A vizsgálat célja az volt, hogy kiderítsék, a verses formában beírt parancsok képesek-e kijátszani a modellek beépített védelmi mechanizmusait.
Az eredmények azt mutatták, hogy a modellek az esetek 62 százalékában olyan káros tartalmakat generáltak, amelyeket a fejlesztők szándéka szerint nem lett volna szabad. Ezek között szerepeltek fegyverek és robbanószerek gyártási útmutatói, szexuális és önkárosító tartalmak, valamint gyűlöletbeszéd.
A kutatóknak még egy atombomba megépítéséhez szükséges útmutatót is sikerült kicsalniuk a modellekből verses formában.
A tesztelt modellek között jelentős különbségek mutatkoztak. Az OpenAI GPT-5 nanója például minden verses próbálkozást sikeresen visszavert, míg a Google Gemini 2.5 prója az összes esetben a kért tartalommal reagált.
A kutatók biztonsági okokból nem hozták nyilvánosságra azokat a verseket, amelyekkel káros tartalmakat generáltak, jelezve, hogy az ezekre adott válaszok nagy része sérti a genfi egyezményt. Egy példát azonban megosztottak: egy verset, amely egy többrétegű torta elkészítésére vonatkozó útmutatót kért a modellektől.
A jelenség magyarázata és a lehetséges következmények
Piercosma Bisconti, az Icaro Labot létrehozó DexAI alapítója szerint a káros parancsok verses formában azért lehetnek sikeresek, mert a nagy nyelvi modellek működése alapvetően a következő szó megjóslásán alapul. A versek egyedi felépítése eltér a hagyományos szövegekétől, ami csökkenti annak esélyét, hogy a modellek felismerjék a felhasználó káros szándékát.
Bisconti kiemelte, hogy ez a módszer különösen aggasztó, mivel a legtöbb hasonló biztonsági rés kihasználása bonyolult, és jellemzően csak MI-kutatók vagy hekkerek számára elérhető, míg a verses módszer bárki számára alkalmazható lehet.
A kutató hozzátette, hogy ők maguk nem tartják magukat költőknek, és a kutatáshoz írt verseik sem kiemelkedőek, ami arra utal, hogy képzettebb költők még súlyosabb eredményeket érhetnének el. Emiatt egy kihívást is terveznek, amelyre reményeik szerint valódi költők is jelentkeznek majd.
A kutatócsapat a tanulmány közzététele előtt felvette a kapcsolatot az összes érintett céggel, de eddig csak az Anthropic jelezte, hogy foglalkoznak az eredményeikkel.
Tiszta.AI Manipuláció Elemzés:
- Az eredeti cikk narratívája és célja: Az eredeti cikk célja az volt, hogy tájékoztassa az olvasót egy újonnan felfedezett, aggasztó sebezhetőségről a mesterséges intelligencia modellekben, és felhívja a figyelmet arra, hogy ez a módszer könnyen hozzáférhető a nagyközönség számára. A cikk a potenciális veszélyeket hangsúlyozza, különösen az atombomba-útmutató és a genfi egyezmény említésével.
- Főbb elemzési pontok:
- Nyelvi és Retorikai Eszközök: A cikk narrátora több helyen is érzelmi töltetű vagy drámai kifejezéseket használ, amelyek az olvasó aggodalmát hivatottak fokozni. Például a „nyilvánvaló, hogy egy versnek nagyon gyakran van mögöttes tartalma” és az „úgy tűnik, ezt a tulajdonságát arra is lehet használni, hogy megkerüljük…” bevezetés kissé szuggesztív. A „káros tartalmakat generáltak, amiket az alkotóik szándékai szerint nem lett volna szabad nekik” megfogalmazás hangsúlyozza a szabályszegést. A legdrámaibb elem a „válaszok nagy része sérti a genfi egyezményt” kijelentés, amely a lehetséges következmények súlyosságát emeli ki, bár konkrét magyarázat nélkül. A „még ennél is durvább eredményeket lehet elérni” kijelentés a fenyegetés eszkalálódó jellegét sugallja.
- Forráskezelés és Egyensúly: A cikk elsődlegesen az Icaro Lab kutatásaira és Piercosma Bisconti nyilatkozataira támaszkodik, amelyek a jelenség felfedezőitől származó, hiteles források. A The Guardianre való hivatkozás (mint a jelentés közvetítőjére) szintén elfogadott újságírói gyakorlat. Azonban a cikk nem mutat be ellenvéleményeket vagy más szakértők értékelését a felfedezés súlyosságáról vagy a módszer valós kockázatairól. Bár egy kutatási eredmény bemutatásakor ez nem feltétlenül manipuláció, egy szélesebb perspektíva hiánya befolyásolhatja az olvasó teljes körű tájékozottságát. Az, hogy csak az Anthropic reagált a megkeresésre, tényként van bemutatva, ami a többi cég esetleges passzivitását sugallhatja.
(Kép: pexels.com)
🖤
Tetszett a cikkünk?
Napi 33 Ft-tal segítheted, hogy függetlenek maradjunk!
👉 Támogasd az Okoshírt itt!
-
Közélet-Politika2 napja
Rogán Antal: A Tisza Párt gazdasági terve 7250 milliárd forintos megszorítást hozna
-
Közélet-Politika2 napja
Pert vesztett a Szuverenitásvédelmi Hivatal: Valótlanul vádolta az Átlátszót, milliókat kell fizetnie
-
Közélet-Politika2 napja
Bencsik András: Magyar Péter súlyos morális betegségben szenved, a Tisza mozgalom „Sátán jeleit” hordozza
-
Belföld3 napja
Sokkoló jelentés: 45,5 milliárd forintos felújításra szorul négy budapesti híd két éven belül
-
Közélet-Politika2 napja
Szalay-Bobrovniczky Kristóf: A NATO Ukrajnának szánt milliárdos támogatása ellentétes a béketervekkel
-
Közélet-Politika2 napja
Törvénymódosítások erősítenék a köztársasági elnök hatáskörét a választások előtt
-
Közélet-Politika8 órája
Kövér László meglepő nyilatkozata: Az „igazi NER-lovag” definícióját Magyar Péterre alkalmazta
-
Közélet-Politika8 órája
Orbán Viktor Facebook-kérdésekre válaszolt: Kiderült a pedofil bűncselekmények szigorú büntetéséről alkotott álláspontja