Her elektronik cihaz ve hizmette olduğu gibi, yapay zekanın da enerji ayak izi bulunmaktadır. Google, AI’nın enerji tüketimini ‘yok denecek seviyeye’ indirmek için gece gündüz çalıştığını söylüyor. Ancak bu hedefe ulaşmak kolay değil.
Bir Gemini sorgusu yaklaşık beş damla su tüketiyor
Google’ın son raporuna göre, geçtiğimiz yıl Gemini AI’nın enerji tüketiminde %30’a varan bir azalma sağlandı. Firma, metin başına ortalama enerji tüketimini 33 kat azalma ile düşürdüğünü belirtiyor. Bu, 12 aylık bir süre zarfında gerçekleşti. Bu süreçte bağlı karbondioksit ayak izi ise 44 kat azalmış durumda.
Google, bunu sağlamak için “tam yığın” yaklaşımını benimsediğini vurguluyor. Bu yöntem, enerjinin verimliliğini en üst düzeye çıkarırken optimal sonuçlar almaya da yardımcı oluyor. Şirket, bu yaklaşımın tüm AI katmanlarının optimize edilmesini içerdiğini belirtiyor. Model mimarileri gibi Mixture-of-Experts (MoE), algoritmalar ve Tensor İşleme Birimleri (TPU), daha az enerji ve kaynak tüketecek şekilde yeniden tasarlanmalı. Bunun uygulanması, büyük miktarda araştırma ve geliştirme gerektiriyor.
Gemini AI’nın bir ortalama metin sorgusu yaklaşık 0.24 watt-saat (Wh) enerji tüketiyor. Bu da yaklaşık dokuz saniye kadar bir televizyonun enerji tüketimine eşdeğer.
Google, AI’nın enerji ayak izini neredeyse sıfıra indirmeyi hedefliyor
Gemini’nin enerji ayak izi, rakipleri olan ChatGPT’ye göre daha düşük olmasına rağmen, teknoloji devi yine de bu rakamı ‘neredeyse önemsiz’ olacak bir seviyeye indirmeyi istiyor.
Google mühendislik başkan yardımcısı Amin Vahdat “Henüz olmamız gereken yerde değiliz. Ancak bizi diğer bilgi kaynaklarıyla kıyaslanabilir bir seviyeye getirdik,” diyor.