Yapay Zeka Enerji Kullanımı.
Günlük hayatımızda neredeyse her alanda karşımıza çıkan yapay zeka uygulamaları, her soruda doğrudan bir maliyet yaratıyor: enerji tüketimi. Büyük dil modelleri (LLM – Large Language Models), metin oluşturma veya sorulara yanıt verme gibi görevlerde görünüşte basit çalışsa da, arka planda oldukça enerji yoğun bir süreç yürütüyor. OpenAI CEO’su Sam Altman’ın ifadesine göre, ChatGPT’nin tek bir sorgusu, “bir fırının bir saniyede kullandığı enerji kadar” tüketim gerçekleştiriyor.
Ancak bu sadece yüzeyde görünen kısmı. Uzmanlar, ortalama bir yapay zeka sorgusunun enerji kullanımını belirlemenin son derece karmaşık olduğunu ve yalnızca şirketlerin gerçek verilere sahip olduğunu belirtiyor.
Büyük Dil Modelleri Neden Bu Kadar Enerji Tüketiyor?
Yapay zeka modelleri, özellikle GPT-4 gibi milyarlarca parametreye sahip olanlar, sıradan donanımlarda çalıştırılamıyor. Bunun yerine, yüksek performanslı GPU’lar içeren veri merkezlerine yükleniyorlar. Bu merkezler ise günün her saati enerji çekiyor. 2024 itibarıyla ABD’deki enerji tüketiminin yaklaşık %4,4’ü veri merkezlerinden kaynaklanıyor. Bu oranın 2028 yılına kadar %12’ye çıkması bekleniyor.
Modelin büyüklüğü, yanıt hızının gerekliliği ve sunucuların soğutma ihtiyaçları gibi faktörler, bu enerji tüketimini daha da artırıyor.
Yapay Zeka Karbon Ayak İzi Neden Hesaplanamıyor?
Her modelin eğitim süreci haftalarca sürebilir ve binlerce GPU kullanımı gerektirir. Ancak şirketler, bu süreçlerde ne kadar veri, ne tür enerji ya da hangi algoritmaları kullandıklarını şeffaf şekilde paylaşmıyor. Sonuç olarak, yapay zekanın eğitimi esnasında ortaya çıkan karbon salımları, büyük ölçüde bilinmiyor.
Çıkarım süreci – yani kullanıcının yaptığı sorguların modellenip yanıt üretilmesi – daha fazla enerji kullanımı yaratır çünkü bu adım milyarlarca kez tekrarlanır.
LLM’lerin Enerji Tüketimi Nasıl Ölçülür?
Meta ve DeepSeek gibi şirketlerin açık kaynak modelleri, araştırmacıların çıkarım esnasındaki enerji tüketimini doğrudan ölçmesine olanak tanıyor. Almanya’da yapılan bir araştırma, bazı akıl yürütme (reasoning) modellerinin, basit modellerden 50 kata kadar daha fazla enerji tükettiğini ortaya koydu. Bir LLM’nin yanıt üretmesi sırasında işlediği her kelime ya da “jeton”, doğrudan enerji tüketimini etkiliyor.
Örneğin, 70 milyar parametreli DeepSeek R1 modeliyle 600.000 sorgu çalıştırmak, Londra-New York gidiş-dönüş uçuşuyla benzer karbon salımına neden oluyor.
Kullanıcılar Ne Yapabilir?
- Her iş için büyük model kullanmak zorunda değilsiniz. Küçük modeller basit sorgular için yeterlidir.
- Nazik davranmaya gerek yok: Her “teşekkür ederim”, modelin daha fazla jeton işlemesi anlamına gelir.
- Chatbot kullanımını enerji tüketiminin yoğun olduğu saatlerin dışında yapmak fark yaratabilir.
Hugging Face’in oluşturduğu AI Energy Score gibi araçlar, farklı görevler için hangi modellerin ne kadar verimli olduğunu gösteriyor. Bu tür ölçüm sistemleri, kullanıcıların daha çevreci tercih yapmasına katkı sağlıyor.
Sektör Ne Yapmalı?
Uzmanlar, ev aletlerinde olduğu gibi yapay zeka modelleri için de enerji verimliliği sınıflandırmaları yapılmasını öneriyor. Örneğin, günde milyonlarca sorguya yanıt veren bir modelin B+ seviyesinin altında enerji sınıfına sahip olması kabul edilmemeli.
Veri merkezlerinin enerji kaynaklarının da yeniden düzenlenmesi gerekiyor. Aksi takdirde, yapay zekanın yaygınlaşması enerji şebekelerini zorlayacak boyutlara ulaşabilir.
Daha fazla yapay zeka içeriği için Yapay Zeka ve Robotik kategorimizi ziyaret edin.
