OkosHír: A mesterséges intelligencia (MI) elterjedése jelentős energiafelhasználással jár, melynek környezeti hatásai egyre nagyobb figyelmet kapnak. A pontos energiaigény nehezen mérhető, mivel a fejlesztő cégek üzleti titokra hivatkozva nem közölnek részletes adatokat.
Az MI modellek energiaigénye függ a modell összetettségétől és a felhasznált paraméterek számától. Minél több paramétert vesz figyelembe egy modell a válaszadás során, annál több energiára van szüksége. A legnépszerűbb MI-k többsége nem nyílt forráskódú, így a fejlesztők nem hozzák nyilvánosságra a működésükhöz szükséges energia mennyiségét.
A ChatGPT-hez hasonló MI-k energiafelhasználásának becslésére az MIT Technology Review végzett elemzést, melyben szakértőkkel konzultáltak, különböző MI-modelleket vizsgáltak meg, jelentéseket összegeztek és megkeresték az MI-k mögött álló cégeket.
Az MI-k adatközpontokban működnek, melyek szerverekkel és hűtőrendszerekkel vannak tele. A válaszadás során fejlett grafikus egységeket (GPU-kat) használnak, melyek jelentős energiafogyasztással járnak. Emellett szükség van processzorokra és a rendszerek hűtésére is.
Az MI-k betanítása is energiaigényes folyamat. Például a GPT-4 betanításához az OpenAI becslések szerint 100 millió dollárt és 50 gigawattóra energiát használt fel. A szakértők szerint az MI számítási kapacitásának 80-90 százaléka az emberek kérdéseire adott válaszok generálására megy el.
Egy kérdés energiaigénye függ a modelltől és az adatközpont áramhálózatától. A gyártók üzleti titokra hivatkoznak, de az is elképzelhető, hogy az adatok rontanának a cégek megítélésén.
Nyílt forráskódú modellek alapján a kutatók fel tudják mérni például az Nvidia H100-as csipjének energiaigényét. Eddigi mérések alapján egy LLM teljes energiaköltsége nagyjából a GPU energiaköltségének kétszerese.
A Michigani Egyetem kutatói a Meta nyílt forráskódú Llama modelljén tesztelték az energiafelhasználást. A Llama 3.1 8B változatban egy válasz nagyjából 114 joule energiát igényelt. A Llama 3.1 405B változatban egy interakció 6706 joule-ba került. Minél komplexebb a modell, annál több energiát használ.
Politikai kvízHol állsz a politikai palettán?15 kérdés, kb. 5 perc — kiderül, melyik politikai irányvonalhoz állsz a legközelebb, és melyik ismert politikussal gondolkodsz hasonlóan.Kvíz indításaA képgenerálás másképp működik, mint a szövegalkotás. A Stable Diffusion 3 Medium képgenerátor GPU-ja 1141 joule-t fogyaszt egy válaszhoz. A diffúziós modelleknél a teljes működés energiahasználatára a GPU-k energiafelhasználásának duplázása lehet a becslés.
A videók energiaigénye is jelentős. A kínai Zhipu AI CogVIdeoX modelljének augusztusi verziója 109 000 joule-t igényelt. A három hónappal későbbi új verzió 3,4 millió joule-t használt fel egy 5 másodperces videóhoz.
Egy példa szerint 15 kérdés feltételezése egy LLM-nek és egy 5 másodperces videó generálása 2,9 kilowattórányi áramot használhat fel.
A cégek nem hajlandóak kiadni a pontos méréshez szükséges adatokat, ezért a becslések nem pontosak.
Az adatközpontok energiaéhsége és környezetszennyezése a 2010-es évek elején készült becslések szerint vészjósló volt. A technológia fejlődésével ezek a becslések nem igazolódtak be, és 2010 és 2018 között a világ számítási kapacitása 550 százalékkal emelkedett, miközben ennek energiaára alig emelkedett.
2018 után a trend megint rossz irányba fordult. 2018-ban a teljes áramhasználat 1,9 százalékáért voltak felelősek az adatközpontok, 2024-ben ez a szám már 4,4 volt. Jelenlegi becslések alapján 2028-ra az MI felelhet majd az USA áramhasználatának 6-12 százalékáért.
A Microsoft, a Google és az Amazon a világ legszárazabb részein telepít új adatközpontokat, ami a helyi víz- és áramellátást kockáztatja. A már működő adatközpontok jelentős részben károsabb, fosszilis energiaforrásokra támaszkodnak. A Harvard egy kutatása alapján az adatközpontok szénalapú áramhasználata 48 százalékkal magasabb, mint az amerikai átlag.
Az sem mindegy, hogy egy adatközpont milyen áramkörön van. Kaliforniában egy prompt kilowattóránként 70 gramm széndioxid-kibocsátásnyi fosszilis alapú energiába kerülhet nappal, de éjszaka akár 300 gramm is lehet.
A ChatGPT napi egymilliárd kérdést kap. Becslések szerint ez egy év alatt ugyanannyi áramot használ, mint bő tízezer amerikai háztartás.
Azokban az országokban, ahol sok adatközpont van, az emberek a saját pénztárcájukon is megérezhetik a hatásokat. Például az USA-ban a techóriások kedvezményes áron kapják az áramot a szolgáltatóktól, aminek előfordul, hogy a hétköznapi fogyasztók fizetik meg a különbözetet. Egy 2024-es jelentés szerint a virginiaiak átlagosan akár havi 37,5 dollárral fizethetnek többet, hogy ellensúlyozzák az adatközpontok áramdíját.
Bár az egyes kérdések, képgenerálások nem használnak sok energiát, de sok kicsi sokra megy. Fontos lenne, hogy a cégek transzparensek legyenek azzal kapcsolatban, hogy az adatközpontjaik mennyi áramot használnak, hogy a felhasználók is tudják, milyen ára van a szolgáltatásoknak.
Az MIT Technology Review szerint okot ad optimizmusra, hogy ahogy fejlődnek a modellek, jó eséllyel hatékonyabban működnek majd. Emellett a számítógépekben és szerverekben használt csipek is egyre hatékonyabbak, és hasonló várható az adatközpontoktól is. A gyártók állítják, hogy nagyban dolgoznak a még jobb léghűtéses rendszereken, de egyelőre inkább pont, hogy léghűtésről állnak át a vízhűtésre.
Tiszta.AI elemzés: Az eredeti cikk értékelése
- Az eredeti cikk több helyen is érzelmi töltetű megfogalmazásokat használt, például a „mintha nem lenne holnap” kifejezés az éghajlatváltozással kapcsolatban, ami dramatizálja a helyzetet.
- A cikkben következtetésként tálalt feltételezések is szerepelnek, például amikor azt állítja, hogy a cégek azért titkolják az adatokat, mert azok rontanának a megítélésükön. Ez egy feltételezés, amelyet nem támasztanak alá bizonyítékokkal.
- A cikkben tett állítások általánosságban megfelelnek a valóságnak, de a pontos energiafelhasználási adatok hiánya miatt sok becslésen alapul.
- A cikkben leírtakból arra lehet következtetni, hogy a mesterséges intelligencia elterjedése jelentős energiafelhasználással jár, amelynek környezeti és gazdasági hatásai is lehetnek.
- Az esemény hatással lehet a magyar közéletre is, mivel felhívja a figyelmet a technológiai fejlődés környezeti terheire és a transzparencia fontosságára.
