CometAPI ile geliştirinBirden çok model için tek bir API mi gerekiyor?İş akışını Playground'da test edin, ardından model ve maliyet kullanım senaryonuza uyduğunda bir API anahtarı oluşturun.
OpenAI'nin CEO'su Sam Altman, ortalama bir ChatGPT sorgusunun yaklaşık 0.000085 galon su (yaklaşık 0.32 mililitre, bir sorgunun yaklaşık on beşte biri) kullandığını kamuoyuna açıkladı.
OpenAI'nin CEO'su Sam Altman, kamuoyuna yaptığı açıklamada, ortalama ChatGPT sorgusu kullanımları ≈0.000085 galon suyun (yaklaşık 0.32 mililitre(yaklaşık bir çay kaşığının on beşte biri) ve ≈0.34 watt-saat Sorgu başına elektrik tüketimi. Ölçeklendirildiğinde sorgu başına düşen bu rakam anlamlı hale geliyor, ancak daha önceki birçok korkutucu başlığın iddia ettiğinden çok daha düşük kalıyor. sağlanan Altman'ın sorgu başına enerji ve ChatGPT'ye hizmet veren veri merkezlerinin su kullanım verimliliği hakkındaki varsayımlarını kabul ediyorsunuz. Farklı varsayımlar (özellikle farklı Su Kullanım Etkinliği, WUE değerleri) kullanılarak yapılan bağımsız analizler, birkaç kat daha yüksek veya daha düşük olabilen sayılar üretmektedir.
Tek bir ChatGPT sorgusu gerçekte ne kadar su tüketiyor?
Netlik, kaynak ataması ve güncel API terminolojisi açısından gözden geçirildi.
OpenAI (ve CEO'su) ne dedi?
OpenAI'nin CEO'su ve sözcüleri kamuoyuna yaptıkları açıklamalarda, sorgu başına çok küçük bir su rakamı teklif ettiler: kabaca Sorgu başına 0.32 mililitre, yaklaşık olarak şuna dönüşür 0.000085 galon (≈8.45×10⁻⁵ gal). Bu, sorgu başına yaklaşık bir çay kaşığının on beşte biri kadar suya denk gelir ve şirketler bireysel etkileşimlerin küçük marjinal etkisini göstermeye çalışırken en sık alıntılanan rakamdır.
Bağımsız tahminler neden farklıdır?
Bağımsız araştırmacılar ve STK'lar farklı bir yaklaşım kullanıyor: Sorgu başına tüketilen elektrik enerjisini tahmin ediyorlar, ardından bunu bir su yoğunluğu (Elektrik birimi başına kullanılan su) sorgusu başına su sayısını elde etmek için kullanılır. İki yaygın girdi parçası şunlardır:
Sorgu başına enerji. Birkaç teknik tahmin, ChatGPT tarzı yanıtları şu yakınlığa koyuyor: 2–4 watt-saat (Wh) sorgu başına (2.9 Wh yaygın olarak alıntılanan merkezi bir tahmindir). Yani 0.0029 kWh sorgu başına.
Su yoğunluğu (WUE / kWh başına su). Veri merkezi ölçümleri tasarıma ve bölgeye göre değişiklik gösterir. Sıkça alıntılanan "endüstri ortalaması" Su Kullanım Etkinliği (WUE) yaklaşık olarak kWh başına 1.8 litre (≈0.475 galon/kWh) — ancak ölçülen değerler geniş bir aralıktadır (kapalı devre hava sistemleri için sıfıra yakın değerden, buharlaştırıcı sistemler için tüketim veya çekilme olarak bildirildiğinde kWh başına birkaç litreye kadar).
Bunları bir araya koyduğumuzda basit bir dönüşüm elde ederiz:
Enerji bazlı tahmin (~5 ml / 0.0014 gal) OpenAI'nin sorgu başına rakamından bir büyüklük sırası daha büyük (0.32 ml). Sorgu başına enerji, su kullanım verimliliği (WUE), elektrik üretiminden dolaylı suyun dahil edilip edilmeyeceği ve modelin hangi kısmının (eğitim mi yoksa çıkarım mı) "bir sorguya" tahsis edileceği hakkındaki farklı varsayımlar, bu açığın büyük bir kısmını açıklamaktadır. Aralıklar ve hassasiyet analizi için aşağıya bakın.
Veri merkezi soğutma sistemleri elektriği su kullanımına nasıl dönüştürüyor?
"Su kullanımı" ne anlama geliyor: tüketim mi, su çekme mi?
"Bir veri merkezi tarafından kullanılan su" ifadesi farklı anlamlara gelebilir:
Yerinde tüketim (buharlaştırılmış): Soğutma kulelerinde/adiabatik sistemlerde buharlaştırılan ve yerel su kütlelerine geri döndürülmeyen su. Bu genellikle yerel su stresi için en önemli sorundur.
Para çekme: Bir kaynaktan (nehir, göl, su katmanı) alınan ve daha sonra (muhtemelen daha sıcak veya kimyasal olarak işlenmiş) geri verilen su. Tüketim düşük olsa bile, çekilme büyük olabilir.
Dolaylı su (elektriğe gömülü): Veri merkezlerine (termoelektrik santraller, hidroelektrik santralleri vb.) güç sağlayan elektriği üretmek için kullanılan su. Birçok yaşam döngüsü çalışması bunu da ekler.
Raporlar ve düzenleyiciler bu metriklerin farklı kombinasyonlarını kullanır. Operasyonel ve yerel olarak anlamlı bir gösterge olarak, WUE (BT enerjisinin kWh başına tüketilen litre) yaygın olarak kullanılır; yaşam döngüsü ve politika tartışmaları içinse genellikle elektrik üretiminden elde edilen dolaylı su eklenir.
Soğutma teknolojileri ve su yoğunluğu
Soğutma yaklaşımı önemlidir:
Hava soğutmalı / kapalı devre soğutulmuş su sistemler sahip olabilir çok düşük yerinde su tüketimi (sıfıra yakın WUE) ancak daha yüksek elektrik enerjisi kullanımı ve elektrikte daha yüksek gömülü su.
Buharlaştırıcı soğutma / soğutma kuleleri (elektrik maliyetlerinin veya verimliliğin tercihleri yönlendirdiği yaygın yerlerde) tasarım gereği su tüketilir; büyük tesislerin su kullandığı belgelenmiştir günde milyonlarca galon sıcak ve kuru bölgelerde.
Titiz bir inceleme (Nature/npj Clean Water), tüketim değerlerinin sıfıra yakın bir değerden sıfıra kadar büyük ölçüde değiştiğini belgelemiştir. kWh başına 4.4 litre (ve tasarıma ve iklime bağlı olarak büyüklük sırasına göre daha büyük olabilen çekilmeler). Bu değişkenlik, sorgu başına su sayılarının iki büyüklük sırasından daha fazla olmasının temel nedenidir.
ChatGPT büyük ölçekte günde/yılda kaç galon tüketiyor?
Senaryo aritmetiği — şeffaf varsayımlar
Üç senaryo hesaplayalım bir ChatGPT sorgusunu, yaygın olarak belirtilen girdileri kullanarak yapın ve ardından varsayımsal sorgu hacimlerini varsayarak günlük toplamlara ölçekleyin.
Girdiler
Sorgu başına enerji: 2.9 Wh = 0.0029 kWh (merkezi tahmin).
Su yoğunlukları (üç durum):
Düşük WUE: 0.2 L/kWh (çok su tasarruflu, kapalı sistemler).
Sektör ortalaması WUE: 1.8 L/kWh (geniş çapta kullanılan kıyaslama).
Yüksek WUE: 4.4 L/kWh (Literatürde gözlenen üst sınır).
Sorgu başına sonuçlar (litre ve galon):
Düşük WUE (0.2 L/kWh): 0.0029 × 0.2 = 0.00058 L = 0.58 ml ≈ 0.000153 gal.
Ortalama WUE (1.8 L/kWh): 0.0029 × 1.8 = 0.00522 L = 5.22 ml ≈ 0.00138 gal.
Yüksek WUE (4.4 L/kWh): 0.0029 × 4.4 = 0.01276 L = 12.76 ml ≈ 0.00337 gal.
(Dönüşümler: 1 L = 1000 ml; 1 L = 0.264172 gal.)
Ölçeklendirilmiş örnek (ChatGPT günde 1 milyar sorguyu işliyorsa):
Düşük Su Kullanım Miktarı: 0.58 ml × 1e9 ≈ 580,000 litre/gün ≈ 153,000 galon/gün.
Ortalama WUE: 5.22 ml × 1e9 ≈ 5.22 milyon litre/gün ≈ 1.38 milyon galon/gün.
Yüksek Su Kullanım Miktarı: 12.76 ml × 1e9 ≈ 12.76 milyon litre/gün ≈ 3.37 milyon galon/gün.
Bunlar makul ve açıklayıcı sayılardır; şunu gösterirler: sorgu başına sayılar çok küçük olsa bile toplam su kullanımı anlamlı olabilirSon raporlar, hiper ölçekli tesis kümelerinin halihazırda tükettiğini gösteriyor yılda yüz milyonlarca ila milyarlarca galon bazı bölgelerde.
Eğitim ve çıkarım neden önemlidir?
İki ek niteleyici şarttır:
Eğitim modelleri (Modeli oluşturmak için tek seferlik işlem) muazzam bir enerji tüketir ve bu nedenle büyük bir su ayak izine sahip olabilir; ancak bu tüketim, gelecekteki birçok çıkarım sorgusunda amorti edilir. Eğitim tahminleri modele özgüdür ve genellikle sorgu başına çıkarım ayak izlerinden çok daha büyüktür.
sonuç (Kullanıcıların her gün gördüğü yanıtlar) yinelenen maliyettir ve yukarıdaki sorgu başına hesaplamaların odak noktasıdır.
Eğitim ve çıkarımı net bir tahsis olmadan birleştiren raporlama, sorgu başına ayak izlerini abartacaktır; tersine, eğitimi göz ardı etmek, bir modelin yaşam boyu ayak izini küçümsemek anlamına gelir. Bağımsız analizler, bunların hangilerini içerdiğini dikkatlice belirtir.
Büyük bir modelin (GPT-3/4 gibi) eğitimi ne kadar su tüketir?
Büyük transformatör modellerini eğitmek, bireysel komutları yanıtlamaktan çok daha fazla su gerektiren, tek seferlik bir faaliyettir. Li ve ark. (2023) tarafından yapılan önemli, hakemli/baskı öncesi bir analiz, GPT-3 eğitimi ABD'deki hiper ölçekli veri merkezleri ~700,000 litreyi doğrudan buharlaştırın tatlı suyun (≈ ~185,000 galon) eğitim çalışması sırasında - ve eğilimler devam ederse, 2020'lerin ortalarına kadar yapay zeka ile ilgili su çekimlerinin milyarlarca metreküp olacağını öngördüler. Bu örnek, eğitimin mutlak su miktarı açısından aylarca süren operasyonel çalışma süresiyle rekabet edebileceğini gösteriyor. arXiv
Eğitimin su yoğunluğu, yoğun GPU kümelerinde uzun, sürekli ve yüksek kullanımlı çalışmalardan ve tasarıma bağlı olarak önemli miktarda buharlaşma suyu tüketimine dayanan soğutma sistemlerinden kaynaklanır. Eğitim, bölüm bölümdür ancak büyüktür; çıkarım süreklidir ancak birim başına küçüktür. İkisi birlikte, bir modelin yaşam boyu su ayak izini belirler.
Antrenman neden bu kadar susuz?
Süre ve yoğunluk: Antrenman koşuları, maksimum güç kullanımına yakın bir seviyede, günlerce hatta haftalarca sürebilir.
Yüksek ısı akısı: GPU'lar ve paketlemeler yoğun ısı üretir ve bu da genellikle verimli (ve bazen su destekli) soğutma gerektirir.
ölçek: En son modellerin eğitimi, kümelenmiş raflarda binlerce GPU gerektirebilir.
Bölgesel kısıtlamalar: Su kıtlığı çeken bir bölgede buharlaştırıcı soğutma kullanan aynı eğitim kümesi, soğuk bir iklimde kuru soğutucularla soğutulan bir kümeye göre yerel su stresi açısından çok daha kötüdür.
ChatGPT'nin su ayak izini etkileyen son haberler neler?
OpenAI'nin altyapı genişlemesi ve konum seçimleri
Son raporlar, OpenAI'nin Arjantin'de büyük bir veri merkezi projesi için dikkat çekici bir niyet mektubu da dahil olmak üzere büyük altyapı projelerini aktif olarak sürdürdüğünü gösteriyor. Bu proje, inşa edilirse önemli miktarda bilgi işlemi tek bir bölgede yoğunlaştıracak ve bölgesel su/enerji dinamiklerini değiştirecek. Konum önemlidir: kıyı veya nemli bölgeler, geri dönüştürülmüş suya erişim ve yerel düzenlemelerin tümü Su Kullanımı Verimliliğini (WUE) şekillendirir.
Endüstri daha düşük su tasarımlarına doğru ilerliyor
Büyük bulut sağlayıcıları kullanıma sunuluyor su tasarrufu sağlayan veri merkezi tasarımları: Microsoft, yapay zeka iş yüklerini çalıştırabilen yeni nesil tasarımlar hakkında planlar ve vaka çalışmaları yayınladı sıfıra yakın yerinde buharlaşan su çip düzeyinde soğutma ve diğer yeniliklerin (2024-2025'te duyurulacak) benimsenmesiyle. Bu mühendislik yaklaşımları, yaygın olarak benimsenirse, zamanla sorgu başına su ayak izini önemli ölçüde azaltabilir.
Sonuç
"Kaç galon" sorusu aldatıcı derecede basittir. Sorgu başına bir sayı gibi 0.000085 galon cesaret verici derecede küçüktür ve modern bulut hizmetlerinin enerji ve su açısından optimize edildiğini iletmeye yardımcı olur - ancak sadece tek parça Bulmacanın özü. Asıl mesele, kümülatif tüketim, eğitimin uzun vadeli etkileri ve büyük tesislerin nerede konumlandığıyla ilgili. Bağımsız araştırmalar (Li ve ark.), devlet laboratuvarı raporları (LBNL) ve son sektör yorumları (Altman) aynı pratik sonuca varıyor: Yapay zekanın su ayak izi yönetilebilir; ancak bu ancak daha iyi şeffaflık, daha akıllı soğutma seçenekleri, model tasarımında verimlilik ve yerel su kaynaklarını korumaya yönelik politika uyumuyla mümkün.
Başlamak için ChatGPT modelini keşfedin: GPT-5 Pro 'nin yetenekleri Oyun Alanı ve danışın API kılavuzu Ayrıntılı talimatlar için. Erişimden önce, lütfen CometAPI'ye giriş yaptığınızdan ve API anahtarını edindiğinizden emin olun. Kuyrukluyıldız API'si Entegrasyonunuza yardımcı olmak için resmi fiyattan çok daha düşük bir fiyat teklif ediyoruz.
