We schreven het laatst al: een simpel dank je wel zeggen tegen ChatGPT kost klauwen met geld. Gelukkig niet voor jou persoonlijk, maar wel voor OpenAI, als we CEO Sam Altman mogen geloven. Maar, hoeveel elektriciteit kost het nou precies wanneer je een prompt intikt en verstuurt? Dat kun je nu berekenen.
Hugging Face-ontwikkelaar Julien Delavande besloot om een soort rekenmachine te maken die je precies kan vertellen hoeveel elektriciteit je vraag aan ChatGPT, Google Gemini, Microsoft Copilot of welke AI-chatbot dan ook kost. Je vindt hem onder de naam ChatUI-energy. Het lijkt in dat opzicht ook niet helemaal op een rekenmachine: wat je voor je krijgt is een ChatGPT-achtig scherm waarin je dan kunt kijken welke AI-chatbots veel stroom gebruiken.
De tool laat je modellen, taken en strategieën (zoals redeneren) vergelijken, zodat je een betere beslissing kunt nemen. De ontwikkelaar zegt ook dat zelfs energiebesparingen die klein en nietszeggend lijken, enorm kan oplopen als het met miljoenen tegelijk gaat. Het gaat daarbij niet alleen om kosten en energie, maar ook om het milieu dat eronder lijdt.
De maker schrijft: “Om deze kosten beter vergelijkbaar te maken, vergelijken we ze met alledaagse activiteiten (zoals het opladen van een telefoon of autorijden) met behulp van EPA-gebaseerde equivalenten (Environmental Protection Agency). Met projecten zoals de AI Energy Score en breder onderzoek naar de energievoetafdruk van AI, dringen we aan op transparantie in de open-source gemeenschap. Op een dag kan energieverbruik net zo zichtbaar zijn als voedingswaarde-etiketten op voedsel!”
Grappig dat hij dat noemt, want we hebben juist in Europa nu te stellen met nieuwe wetgeving waardoor smartphones binnenkort een energielabel krijgen. Zo weet je hoe repareerbaar je telefoon is, maar ook hoe lang de batterijduur. Vanaf juni is dit in de EU verplicht op smartphones en tablets, maar ook op bijvoorbeeld advertenties die je maakt met daarin smartphones of tablets. De labels tonen ook de bekende A tot en met E-schaal van hoe groen het apparaat is, wat je op dit moment al gewend bent van drogers en wasautomaten.
Het zou geen gekke gedachte zijn als AI-chatbots ook zo’n label zouden krijgen, al is het daarbij waarschijnlijk een stuk moeilijker om er echt een vinger op te leggen hoe het nu precies zit: er wegen teveel fluctuerende factoren mee. Maar goed, Julien Delavande kan het met zijn calculator toch enigszins in kaart brengen. Volgens de tool is het schrijven van een mail door Llama 3.3 70B waarschijnlijk zo’n 0,1841 Wattuur. Dat is gelijk aan het toasten van een broodje in je broodrooster voor 0,02 seconden. Het is maar een schatting, maar het geeft je wel een beter beeld van alle radertjes die draaien achter wat we dagelijks doen.
