Niektoré otázky pre AI vytvoria až 50-krát viac emisií ako iné

. Výsledky ukázali, že modely, ktoré používajú podrobné uvažovanie pred vytvorením odpovede, spotrebujú podstatne viac energie ako tie, ktoré generujú výhradne stručné výstupy.
emisie chatbot
Zdroj: ChatGPt

Asi každý z nás už niekedy vyskúšal pomoc od chatbota, akým je napríklad ChatGPT. Používanie jazykových modelov umelej inteligencie však nie je bez environmentálnych dôsledkov. Hoci sa to na prvý pohľad nezdá, každý jeden výstup, ktorý model vygeneruje, má svoju uhlíkovú stopu. Tá vzniká už pri výpočte odpovedí, keď sa vstupné slová premieňajú na tzv. tokeny a spracúvajú vo výpočtovom procese.

Nemeckí výskumníci skúmali, ako veľmi tieto procesy zaťažujú životné prostredie. Zamerali sa na 14 modelov s rôznou veľkosťou a porovnávali ich na súbore 1 000 štandardizovaných otázok. Výsledky ukázali, že modely, ktoré používajú podrobné uvažovanie pred vytvorením odpovede, spotrebujú podstatne viac energie ako tie, ktoré generujú výhradne stručné výstupy.

gaming a botanika

Modely s dôrazom na “premýšľanie“ vygenerovali v priemere 543 tokenov pred odpoveďou, kým stručné modely len približne okolo 38. To znamená, že emisná stopa týchto výstupov je až 50-násobne vyššia. Zároveň sa však ukázalo, že vyššia náročnosť na emisie neznamená automaticky vyššiu presnosť odpovedí.

Začneme sa správať zodpovednejšie?

Najpresnejší bol model Cogito so 70 miliardami parametrov, ktorý dosiahol 84,9 % úspešnosť, no vyprodukoval trikrát viac CO2 ako iné porovnateľne veľké modely. Otázky zo zložitých oblastí ako filozofia či algebra navyše generovali výrazne vyššie emisie než jednoduchšie témy ako dejepis.

Výskum ukazuje, že existuje kompromis medzi presnosťou a ekologickým dopadom umelej inteligencie. Vedci preto odporúčajú používateľom uvažovať, kedy a ako AI využívajú, a či na danú úlohu naozaj potrebujú výkonný model. Výber menšieho alebo úspornejšieho modelu a výzva na stručnejšie odpovede môžu výrazne znížiť uhlíkovú stopu, a tak aj ušetriť planétu.

Mohlo by vás zaujímať:

Napríklad pri modeli DeepSeek R1 by zodpovedanie 600 000 otázok viedlo k emisiám porovnateľným s letom Londýn–New York a späť. Iný model, Qwen 2.5, dokáže odpovedať na trikrát viac otázok pri rovnakej záťaži. Ak by používatelia poznali reálnu cenu bežných požiadaviek, mohli by sa rozhodovať zodpovednejšie.

Zdroj: TechXplore

Total
0
Shares
Podobné články