Agenții AI consumă de 136 de ori mai multă energie decât ChatGPT

Pe scurt

• Agenții AI consumă de 136,5 ori mai multă energie pe interogare decât chatbot-urile.
• Studiul a fost realizat de Institutul de Știință și Tehnologie Avansată din Coreea (KAIST).
• Un agent AI poate consuma în medie 348,41 watt-oră pentru o singură interogare complexă.
• Proiecțiile sugerează că utilizarea zilnică a agenților AI ar putea duce la o cerere globală de 199 gigawați.

Studiul recent realizat de Institutul de Știință și Tehnologie Avansată din Coreea (KAIST) a scos la iveală o problemă majoră legată de consumul de energie al agenților AI. Aceștia, care sunt capabili să îndeplinească sarcini complexe, consumă de 136,5 ori mai multă energie pe interogare decât chatbot-urile precum ChatGPT. Această diferență semnificativă în consumul de energie ridică întrebări importante despre viabilitatea infrastructurii energetice globale, mai ales în contextul în care companii mari, cum ar fi Google, se confruntă deja cu dificultăți în a satisface cererea de energie.

Agenții AI, spre deosebire de chatbot-uri, nu se limitează la a oferi un singur răspuns. Aceștia planifică și execută multiple etape pentru a îndeplini o sarcină dată. De exemplu, atunci când un utilizator cere ajutor pentru planificarea unei vacanțe, agentul AI efectuează căutări online, colectează informații din diverse surse și efectuează calcule. Acest proces complex necesită un consum de energie semnificativ, ceea ce contribuie la creșterea cererii de electricitate.

De ce agenții AI consumă atât de multă energie?

Un aspect important al studiului KAIST este că agenții AI au un timp de răspuns mult mai lung decât chatbot-urile standard. Aceasta se datorează, în parte, utilizării ineficiente a unităților de procesare grafică (GPU). Conform cercetătorilor, aceste GPU-uri petrec o mare parte din timp așteptând răspunsuri de la surse externe sau alte instrumente software, fără a efectua calcule. Chiar și în timpul acestor perioade de așteptare, sistemele continuă să consume energie, ceea ce contribuie la consumul total de electricitate.

Testele au arătat că un agent AI poate consuma, în medie, 348,41 watt-oră pentru o interogare complexă. În comparație, un agent care folosește modelul Llama-3.1-Instruct 70B de la Meta consumă de 136,5 ori mai multă energie pe interogare decât un chatbot obișnuit. Alte sisteme de agenți, precum LATS, se apropie de un consum de 62,1 ori mai mult decât un chatbot standard.

Impactul asupra infrastructurii energetice

Cercetătorii estimează că, dacă agenții AI vor fi utilizați pe scară largă, cererea globală de electricitate ar putea ajunge la aproximativ 199 gigawați. Această valoare este echivalentă cu aproape jumătate din consumul mediu de electricitate al Statelor Unite. Astfel, adoptarea pe scară largă a agenților AI nu afectează doar companiile tehnologice, ci are implicații directe asupra infrastructurii electrice a țărilor.

Profesorul Rhu Min-soo sugerează că soluția acestei probleme nu constă doar în dezvoltarea de software mai eficient. Este necesară o revizuire a microcipurilor și infrastructurii energetice a centrelor de date pentru a face față cerințelor tot mai mari generate de agenții AI. Aceasta ar putea include dezvoltarea unor soluții inovatoare care să reducă consumul de energie și să optimizeze utilizarea resurselor.

În concluzie, consumul ridicat de energie al agenților AI reprezintă o provocare semnificativă care necesită atenție și soluții inovatoare. Pe măsură ce tehnologia avansează, este esențial ca dezvoltatorii să se concentreze nu doar pe performanță, ci și pe sustenabilitate.

Întrebări frecvente

Ce este un agent AI?

Un agent AI este un sistem de inteligență artificială capabil să îndeplinească sarcini complexe prin procesarea informațiilor și luarea deciziilor.

De ce consumă agenții AI atât de multă energie?

Agenții AI consumă multă energie deoarece efectuează multiple etape pentru a îndeplini o sarcină, ceea ce implică un proces complex de calcul.

Care este impactul agenților AI asupra infrastructurii energetice?

Adoptarea pe scară largă a agenților AI ar putea duce la o cerere globală de electricitate de aproximativ 199 gigawați, afectând astfel infrastructura energetică a țărilor.

Ce soluții sunt propuse pentru reducerea consumului de energie?

Cercetătorii sugerează dezvoltarea de software mai eficient și revizuirea microcipurilor și infrastructurii energetice a centrelor de date.

Despre acest articol

Sursă originală: donanimhaber.com

Acest articol a fost redactat de redacția TechnoLife pe baza informațiilor din sursa citată, cu asistența unor instrumente AI pentru traducere și structurare. Conținutul este verificat editorial înainte de publicare. Pentru orice corecție factuală, ne poți contacta prin pagina de Contact.