OkosHír: Egy kiberbiztonsági kutató hozzáférést szerzett a Chat & Ask AI alkalmazás 25 millió felhasználójának adataihoz. A Google Firebase platformjának hibás beállítása miatt több mint 300 millió magánbeszélgetés vált olvashatóvá külső fél számára. A Codeway által fejlesztett Chat & Ask AI alkalmazás több mint 50 millió letöltéssel rendelkezik az Apple és a Google áruházaiban. Egy Harry néven ismert kutató feltárta, hogy a szoftver adatbázisa egy évek óta ismert konfigurációs hiba miatt védtelen maradt. A szakember összesen 25 millió felhasználó 300 millió üzenetéhez fért hozzá korlátozás nélkül. A kinyert adatok tartalmazták a küldés pontos idejét, a választott nyelvi modellt és a felhasználók egyedi beállításait is. A hozzáférés a Google Firebase platformjának helytelen kezeléséből adódott.

Érzékeny adatok és biztonsági kockázatok

Az érintett adatbázisban a kutató számos visszaélésre alkalmas vagy önveszélyes magatartásra utaló párbeszédet talált. Egyes felhasználók kábítószer-előállítási technológiákról kérdeztek, míg mások öngyilkossági módszerekről érdeklődtek a gépi algoritmustól.

Az incidens rávilágít az MI-alapú csevegők biztonsági korlátaira is. Bár a nagy nyelvi modellek rendelkeznek belső tiltásokkal, a tárolt adatok védelme a felületet biztosító fejlesztő felelőssége. Az OpenAI korábbi adatai szerint hetente több millió felhasználó folytat érzékeny, mentális egészséggel kapcsolatos beszélgetéseket ezekkel az eszközökkel.

Hirdetés

A kutató január 20-án értesítette a fejlesztőcéget a felfedezett hiányosságokról. A Codeway a bejelentést követően néhány órán belül kijavította a hibát minden érintett alkalmazásában. Az adatszivárgás mértéke és a jogosulatlan hozzáférések pontos száma jelenleg nem ismert.

Politikai kvízHol állsz a politikai palettán?15 kérdés, kb. 5 perc — kiderül, melyik politikai irányvonalhoz állsz a legközelebb, és melyik ismert politikussal gondolkodsz hasonlóan.Kvíz indítása

Tiszta.AI Manipuláció Elemzés

Narratíva és cél
Az eredeti beszámoló a technikai mulasztást összekapcsolja az MI morális és társadalmi veszélyeivel. A cél a figyelemfelkeltés a felhasználói adatok sérülékenységére, de ezt sokkoló példákkal támasztja alá.
Nyelvi eszközök
A forrásszöveg olyan érzelmileg telített kifejezéseket használ, mint a „bombázták”, „különösen ijesztő” vagy „aggasztónak találta”. Ezek a szavak objektív tények helyett a szerző és a kutató szubjektív megélését közvetítik az olvasó felé.
Hiányzó kontextus
A szöveg elmossa a határvonalat a platformfejlesztő (Codeway) és az MI-modellt gyártó cégek (pl. OpenAI) felelőssége között. Emellett nem említi, hogy a Firebase-sérülékenység szinte minden esetben emberi mulasztás (hibás jogosultságkezelés), nem pedig a rendszer technikai hibája.

(Forrás: telex.hu)