Asi každý z nás už niekedy vyskúšal pomoc od chatbota, akým je napríklad ChatGPT. Používanie jazykových modelov umelej inteligencie však nie je bez environmentálnych dôsledkov. Hoci sa to na prvý pohľad nezdá, každý jeden výstup, ktorý model vygeneruje, má svoju uhlíkovú stopu. Tá vzniká už pri výpočte odpovedí, keď sa vstupné slová premieňajú na tzv. tokeny a spracúvajú vo výpočtovom procese.
Nemeckí výskumníci skúmali, ako veľmi tieto procesy zaťažujú životné prostredie. Zamerali sa na 14 modelov s rôznou veľkosťou a porovnávali ich na súbore 1 000 štandardizovaných otázok. Výsledky ukázali, že modely, ktoré používajú podrobné uvažovanie pred vytvorením odpovede, spotrebujú podstatne viac energie ako tie, ktoré generujú výhradne stručné výstupy.
Modely s dôrazom na “premýšľanie“ vygenerovali v priemere 543 tokenov pred odpoveďou, kým stručné modely len približne okolo 38. To znamená, že emisná stopa týchto výstupov je až 50-násobne vyššia. Zároveň sa však ukázalo, že vyššia náročnosť na emisie neznamená automaticky vyššiu presnosť odpovedí.
Začneme sa správať zodpovednejšie?
Najpresnejší bol model Cogito so 70 miliardami parametrov, ktorý dosiahol 84,9 % úspešnosť, no vyprodukoval trikrát viac CO2 ako iné porovnateľne veľké modely. Otázky zo zložitých oblastí ako filozofia či algebra navyše generovali výrazne vyššie emisie než jednoduchšie témy ako dejepis.
Výskum ukazuje, že existuje kompromis medzi presnosťou a ekologickým dopadom umelej inteligencie. Vedci preto odporúčajú používateľom uvažovať, kedy a ako AI využívajú, a či na danú úlohu naozaj potrebujú výkonný model. Výber menšieho alebo úspornejšieho modelu a výzva na stručnejšie odpovede môžu výrazne znížiť uhlíkovú stopu, a tak aj ušetriť planétu.
Mohlo by vás zaujímať:
- Autá budú musieť používať viac recyklovaných materiálov, rozhodla EÚ
- Technológia, ktorá chráni včely: Elektronický veterinár pre úle
- Neznášate komáre? Tieto rastliny vám pomôžu s nimi skoncovať
Napríklad pri modeli DeepSeek R1 by zodpovedanie 600 000 otázok viedlo k emisiám porovnateľným s letom Londýn–New York a späť. Iný model, Qwen 2.5, dokáže odpovedať na trikrát viac otázok pri rovnakej záťaži. Ak by používatelia poznali reálnu cenu bežných požiadaviek, mohli by sa rozhodovať zodpovednejšie.
Zdroj: TechXplore