Bu hafta bir Tenstorrent Blackhole geliştirici kartı sipariş edebilirsiniz. Fiyatı 999 $, stokta var ve yaklaşık iki hafta içinde gönderiliyor. Meta MTIA'yı ise kamuya açık bir kanaldan satın alamaz veya kiralayamazsınız; Meta, MTIA'yı kendi iş yükleri için konuşlandırdığı silikon olarak tanımlıyor.
Her iki şirket de önde gelen yapay zekâ çipi şirketleri arasında sayılıyor. Bu yazının konusu, bu iki durum arasındaki mesafe.
Devamı satıcı satıcı ilerliyor: neyi elde edebilirsiniz, hangi kanaldan ve donanım elinize geçtikten sonra yazılım size neye mal olur.
Özetle
- Genel olarak kiralanabilir: AMD Instinct hâlâ NVIDIA dışındaki en geniş genel bulut ayak izine sahip, ancak ürün hattı ilerledi. AMD, MI400 Serisi'ni Temmuz 2026'da duyurdu; buna karşın kiralık olarak bulma olasılığınız en yüksek sistemler hâlâ MI300X, MI325X ve MI350 serisi.
- Tek bulut: Google'ın TPU'ları Google Cloud'da kalıyor; TPU7x Ironwood Mart 2026'dan beri genel kullanıma açık. AWS Trainium ve Inferentia ise AWS'de kalıyor.
- API artı özel altyapı: Groq, Cerebras ve SambaNova barındırılan çıkarım sunuyor, ancak yalnızca API demek artık doğru değil. Her birinin artık özel ya da yerinde bir yolu da var.
- Tedarik edebileceğiniz donanım: Tenstorrent, Blackhole kartlarını doğrudan satıyor. Qualcomm ise Dragonfly veri merkezi hızlandırıcılarını yalnızca yol haritası duyuruları olarak değil, kurumsal satış görüşmesi yoluyla sunuyor.
- Sınırlı ya da dahili: Intel Gaudi 3, seçili IBM Cloud dağıtımlarında erişilebilir olmayı sürdürüyor; Crescent Island'ın ise 2026'nın ikinci yarısında müşteri örneklemesine girmesi bekleniyor. Etched, ilk raflarının 2026 yazında sözleşmeli müşterilere gideceğini söylüyor. Meta MTIA ve Microsoft Maia ise kamuya açık self servis hızlandırıcılar değil, dahili ya da Azure'a entegre çözümler olarak kalıyor.
Bu Makalenin Kapsamadığı Konular
Üç konu bilinçli olarak çerçevenin dışında tutuldu ve aşağıdaki her satıcı durumu Ağustos 2026'yı yansıtıyor.
- Fiyatlandırma. Buradaki soru donanımı elde edip edemeyeceğiniz, üzerinde bir saatin kaça mal olduğu değil.
- Tahmin. Kimin kazanacağına dair bir öngörü yok.
- Tüketici ve masaüstü kartları. Konu, veri merkezi ve bulut hızlandırıcıları.
Bir yapay zekâ hızlandırıcısında işlem gücü elde etmenin beş yolu
Bu yazıdaki hızlandırıcıları beş erişim yolu kapsıyor: birden çok bulutta kiralama, tek bulut üzerinden kiralama, barındırılan API erişimi, özel ya da doğrudan satın alınabilir donanım ve geniş çapta self servis olmayan ürünler için sınırlı kurumsal erişim. Bazı şirketler artık bu yollardan birden fazlasını kapsıyor. Ayrı bir grup ise tamamen dahili kalıyor; silikonu kiralamanın ya da satın almanın kamuya açık bir yolu yok.
Erişim bir durumdur, şirketin kalıcı bir özelliği değil. Yeni nesiller çıktıkça, bulutlar donanım ekledikçe ya da kaldırdıkça, satıcılar tedarik kanallarını açtıkça ya da kapattıkça değişir. Ayrıca kalite ya da ölçek hakkında hiçbir şey söylemez. İşlem gücüne nasıl ulaşacağınızı anlatır ve bir ismin üzerine gidebileceğiniz bir şey olup olmadığına o kanal karar verir.
NVIDIA, veri merkezi yapay zekâ hızlandırıcı gelirinin büyük çoğunluğunu elinde tutuyor, neredeyse her bulutta bulunuyor ve CUDA, diğer her şeyin kendisiyle kıyaslandığı yüzey. Buradaki diğer yapay zekâ hızlandırıcı şirketleri ise kendilerine ne kadar farklı yollarla ulaşıldığı için ilginç.
| Satıcı ve ürün | Erişim katmanı | Nasıl elde edilir | Yazılım yığını | İş Yükü | Durum |
|---|---|---|---|---|---|
| NVIDIA (referans, alternatif değil) | Birçok bulut | Neredeyse her bulut sağlayıcı | CUDA | Eğitim ve çıkarım | Genel kullanıma açık |
| AMD Instinct MI300X | Birçok bulut | Vultr, TensorWave, Oracle Cloud, DigitalOcean, Crusoe, Hot Aisle, RunPod, Seeweb, Cirrascale | ROCm | Eğitim ve çıkarım | Genel kullanıma açık |
| AMD Instinct MI325X | Birçok bulut | Vultr, TensorWave, DigitalOcean | ROCm | Eğitim ve çıkarım | Genel kullanıma açık |
| Google TPU7x (Ironwood) | Tek bulut | Google Cloud | JAX ve PyTorch/XLA üzerinden PyTorch | Eğitim ve çıkarım | 31 Mart 2026'dan beri genel kullanıma açık |
| AWS Trainium | Tek bulut | AWS EC2 Trainium örnekleri ve UltraServers (Trn2, Trainium3) | Neuron SDK | Eğitim ve çıkarım | Genel kullanıma açık |
| AWS Inferentia2 | Tek bulut | AWS EC2 Inf2 örnekleri | Neuron SDK | Çıkarım | Genel kullanıma açık |
| Groq LPU | Barındırılan API ve özel altyapı | GroqCloud ve GroqMetal | OpenAI uyumlu API ve Groq yığını | Çıkarım | Mevcut |
| Cerebras WSE-3 ve CS-3 | Barındırılan API, kurumsal bulut, yerinde | Cerebras Cloud ve CS-3 sistemleri | Cerebras yazılım yığını | Eğitim ve çıkarım | Mevcut |
| SambaNova SN50 | Barındırılan API, özel, yerinde | SambaCloud ve SambaRack | SambaStack | Çıkarım | Müşteri sevkiyatı 2026'nın ikinci yarısında başlıyor |
| Intel Gaudi 3 | Seçili bulut | IBM Cloud bulut | Intel Gaudi yazılım paketi | Eğitim, ince ayar ve çıkarım | Seçili kullanılabilirlik |
| Tenstorrent Blackhole | Donanımı satın alın | Doğrudan Tenstorrent'ten | Açık kaynaklı TT-Metalium yığını | Çıkarım ve geliştirme işi | Stokta, yaklaşık iki hafta içinde gönderilir |
| Qualcomm AI200, AI250 ve AI300 | Kurumsal satış | Satış ekibiyle iletişime geç | Qualcomm yapay zekâ yazılım yığını | Çıkarım | AI200 2026'da bekleniyor, AI250 örneklemesi 2027'de, AI300 örneklemesi 2028'de bekleniyor |
| Etched Sohu | Sözleşmeli dağıtımlar | Kurumsal sözleşmeler | Etched yazılım yığını | Transformer çıkarımı | İlk raflar 2026 yazında gönderiliyor |
| Meta MTIA | Elde edilemez | Harici bir yol yok | Meta'nın dahili araçları | Meta'nın kendi sıralama, öneri ve GenAI işleri | Yalnızca dahili |
| Microsoft Maia 200 | Dahili, Azure'a entegre | Microsoft veri merkezleri | Maia SDK | Çıkarım | Dahili olarak konuşlandırılmış, kamuya açık self servis örneği yok |
Neredeyse her yerde kiralayabileceğiniz seçenek: AMD Instinct
Buradaki NVIDIA alternatifleri arasında en geniş sağlayıcı ayak izi AMD Instinct'te: MI300X ve MI325X tek bir hiperölçekleyiciye bağlı olmak yerine birden çok bulut ve neocloud sağlayıcısında bulunuyor. AMD, MI455X öncülüğünde MI400 Serisi'ni Temmuz 2026'da duyurdu, ancak eski nesiller hâlâ önemli, çünkü mevcut kiralama dağıtımlarında karşınıza daha çok onlar çıkıyor. ROCm, mevcut PyTorch iş yüklerinin çoğu için bu yazıdaki en kısa yazılım taşıması olmayı sürdürüyor.
Kısıt donanım değil. MI300X, 750 W'lık bir modülde 304 CDNA3 hesaplama birimi üzerinden 5,3 TB/sn hızında 192 GB HBM3 taşıyor. MI325X bunu 6 TB/sn hızında 256 GB HBM3E ve 1000 W'a çıkarıyor; bu kapasite, AMD'nin ilk başta duyurduğu 288 GB'ın altında kaldı.
CUDA çekirdekleri NVIDIA'nın saydığı birimdir; AMD ise hesaplama birimi sayar ve ikisi birbirine çevrilmez, bu yüzden bellek ve bant genişliği satıcılar arasında daha yararlı bir karşılaştırma sağlar.
Yazılım tarafındaki durum değişti, itibar ise geriden geliyor. ROCm'in PyTorch desteği bir topluluk çatallamasında yaşamak yerine resmî PyTorch deposuna upstream edildi ve güncel ROCm sürümleri güncel çerçeveleri takip ediyor. ROCm 7.14.0, AMD'nin daha geniş yapay zekâ yazılım ekosistemine yönelik güncel entegrasyonlarının yanı sıra PyTorch 2.12'yi destekliyor.
Benim okumam şu: insanların hâlâ anlattığı sürtünme ne veri işleme hızı ne de çerçeve desteği. Bu bir arkeoloji meselesi. Bir CUDA kurulumu gecenin üçünde bozulduğunda, o hata metnine biri çoktan denk gelmiş ve çözümü yazmıştır. ROCm'de arama sonuçları daha ince, dolayısıyla zaman düzeltmeye değil aramaya gidiyor. Bu maliyet hiçbir kıyaslama testinde görünmez.
AMD'nin hızlandırıcı çalışması veri merkezinin de ötesine uzanıyor; yığını üzerinde öğrenecek ucuz donanım istiyorsanız bu önemli.
AMD'nin mini PC küme demosu aynı şirketin tüketici silikonu üzerinde çalışıyor.
Google TPU ve AWS Trainium'un her biri tam olarak tek bir bulutta kiralanabiliyor
Google'ın TPU7x'i ve AWS'nin Trainium'u genel kullanıma açık ve ikisi de tek bir sağlayıcıya kilitli. TPU, Google Cloud'da çalışıyor. Trainium ve Inferentia AWS'de çalışıyor. Hiçbiri size AMD ya da NVIDIA'nın çoklu sağlayıcı taşınabilirliğini vermiyor ve bu kısıt, tek tek herhangi bir teknik özellikten daha belirleyici olabilir.
TPU7x, Google'ın yedinci nesil Ironwood ailesindeki ilk sürüm ve 31 Mart 2026'da genel kullanıma açıldı. Google onu büyük ölçekli eğitim ve çıkarım için konumlandırıyor. Trillium v6e hâlâ mevcut; Ironwood ise Google'ın genel kullanıma açık güncel TPU nesli olmayı sürdürüyor. Google ayrıca sekizinci nesil TPU 8t ve TPU 8i'yi duyurdu, ancak ikisi de hâlâ yakında olarak listeleniyor.
TPU'lar hakkındaki en yararlı bilgi teknik föyde yer almıyor. Ücretsiz bir giriş yolu var: Colab ve Kaggle TPU çalışma ortamları sunuyor, TPU Research Cloud ise araştırmacılara süre tahsis ediyor. Bu ücretsiz giriş, bulut bütçesi bağlamadan önce TPU yazılım yolunu denemenizi sağlıyor; yine de ücretsiz hizmetlerin özellikle en yeni Ironwood donanımını sunacağı varsayılmamalı.
AWS kendi silikonuna Trainium örnekleri ve UltraServers ile, ayrıca Inferentia2 için Inf2 örnekleriyle ulaşıyor. Trainium3 UltraServers Aralık 2025'te genel kullanıma açıldı ve önceki Trn2 UltraServers'taki 64'ten çıkarak 144 çipe kadar ölçekleniyor. Her şey Neuron SDK üzerinden geçiyor. AWS, taşıma maliyetini çoğu satıcıdan daha iyimser biçimde sunuyor.
AWS Trainium sayfası vLLM, HuggingFace Transformers ve TorchTitan'ın Trainium üzerinde özel kod ve taşıma çabası olmadan yerel olarak çalıştığını belirtiyor. Bu, satıcının kendi ürünü hakkındaki iddiası; bağımsız olarak doğrulanmış bir sonuç değil.
İkisi de bilinçli yapılmaya değer bir takasın içinde. İkinci bir silikon tedarikçisi kazanıyor, o iş yükünü işi baştan yapmadan başka bir buluta taşıma yeteneğinizi kaybediyorsunuz; bu, zaten tek sağlayıcıya bağlanmış bir ekibe neredeyse hiçbir şeye mal olmaz, bağlanmamak üzerine kurulmuş bir ekibe ise her şeye.
Belleğe sığması gerekenler seçimi önce kısıtlar: Trainium3 çipi başına 144 GB, satan kim olursa olsun, Ironwood'un 192 GB'ından farklı bir planlama sorunudur.
Groq, Cerebras ve SambaNova barındırılan API'lerin ötesine geçiyor
Groq, Cerebras ve SambaNova barındırılan çıkarım sunuyor, ama API artık erişim hikâyesinin tamamı değil. Groq, GroqCloud'u özel GroqMetal altyapısıyla eşliyor. Cerebras, yerinde çalışabilen CS-3 sistemlerinin yanında bulut erişimi sunuyor. SambaNova ise SambaRack ve SambaStack'in yanında SambaCloud sunuyor. Ayrım artık ne kadar altyapı denetimine ihtiyaç duyduğunuz ve kurumsal satın alma sürecinde ne kadar ileri gitmeye razı olduğunuz.
Groq's LPU packs 230MB of on-die SRAM with 80 TB/s of internal bandwidth, a design that trades memory capacity for latency, and GroqCloud exposes it as an OpenAI-compatible endpoint. The ownership story attached to it carries dates worth keeping. On 24 December 2025, Groq entered a non-exclusive inference technology licensing agreement with NVIDIA, and said founder Jonathan Ross and president Sunny Madra would join NVIDIA. Groq continues to operate independently. Simon Edwards, previously its chief financial officer, stepped up to lead it at the time of the deal; check the company for current leadership before citing it.
Groq'un kendi duyurusu GroqCloud'un kesintisiz çalışmayı sürdüreceğini söylüyor.
Mart 2026'daki GTC'de NVIDIA, Vera Rubin platformunun içinde NVIDIA Groq 3 LPU'yu tanıttı.
NVIDIA'nın Vera Rubin duyurusu 256 LPU işlemcili bir LPX rafını tanımlıyor; 2026'nın ikinci yarısında sunulacak.
Cerebras fiziksel olarak tam tersi yolu seçiyor: 900.000 çekirdek ve 44 GB yonga içi SRAM barındıran tek bir gofret ölçeğinde parça, 125 PFLOPs olarak belirtiliyor.
Cerebras'ın çıkarım sayfası 5 $ ücretsiz kredi sunuyor ve geçişi yalnızca iki kod değişikliği olarak tarif ediyor. Planlama açısından bir ayrım hâlâ önemli: self servis API kolay çıkarım yolu; eğitim, ince ayar, ayrılmış kapasite ve yerinde CS-3 dağıtımları ise kurumsal yolun daha ilerisinde duruyor.
SambaNova'nın güncel donanım hikâyesinin merkezinde, raf başına 16 adet beşinci nesil SN50 RDU üzerine kurulu SambaRack SN50 var. SambaCloud barındırılan yol olmayı sürdürüyor; SambaRack ve SambaStack ise yerinde ya da barındırılan ortamlarda çalışabilen özel altyapı sağlıyor.
Barındırılan erişim üçü için de hâlâ en kolay giriş noktası, ama artık ürünün tamamını anlatmıyor.
Tenstorrent, sahip olabileceğiniz donanım satıyor
Tenstorrent, bu yazıdaki tek satıcı ki hızlandırıcısını birey olarak doğrudan satın alabilirsiniz, üstelik bir yatırım kararı sayılmayacak bir fiyata.
Tenstorrent'in donanım sayfası Blackhole p100a'yı 999 $, p150a ve p150b'yi 1.399 $ olarak listeliyor; stokta ve yaklaşık iki hafta içinde gönderiliyor. Yazılım yığını tamamen açık kaynak.
Kartlar 120 Tensix çekirdeği ve 16 RISC-V çekirdeği taşıyor; p100a'da 28 GB, p150 ikilisinde 32 GB GDDR6 var ve 300 W'a kadar çekiyorlar. p150a ve p150b, p100a'da bulunmayan QSFP-DD Ethernet portları ekliyor; kartları birbirine bağlamayı düşünüyorsanız alacağınız bunlar. HPCwire, raf ölçeğindeki Galaxy Blackhole'un 28 Nisan 2026'da 110.000 $'dan başlayarak genel kullanıma açıldığını bildirdi; eski Wormhole hattı da 12.000 $'lık TT-LoudBox iş istasyonu dâhil satışta kalmayı sürdürüyor.
Bu çekince, karar açısından fiyat kadar belirleyici ve doğrudan o eski kartı işaret ediyor. Tenstorrent'in dokümantasyonunun, eğitimlerinin ve doğrulanmış model desteğinin çoğu hâlâ Wormhole'u hedefliyor. Blackhole'un yazılım desteği ise döngüsünün daha başında. Somut olarak: bu, gerçek bir taşıma işi yapmaya ve dokümanlar bittiğinde kaynak kodu okumaya razı olan birine uygun. Mevcut PyTorch kodunun değişmeden çalışmasını isteyen birine uygun değil ki bu son derece makul bir beklenti.
Qualcomm, Intel ve Etched'in erişim yolları daha dar
Bu üçü, birbirinden bağımsız nedenlerle daha dar erişim yollarının ardında duruyor. Qualcomm, kurumsal dağıtımlar etrafında çok nesilli bir veri merkezi hızlandırıcı yol haritası kuruyor. Intel Gaudi 3 seçili IBM Cloud dağıtımlarında erişilebilir kalırken Crescent Island müşteri örneklemesine doğru ilerliyor. Etched ise ilk Sohu raflarının 2026 yazında self servis bir bulut hizmeti üzerinden değil, kurumsal sözleşmeler karşılığında gideceğini söylüyor.
Qualcomm'un veri merkezi yol haritası artık Dragonfly AI200, AI250 ve yeni duyurulan AI300'ü kapsıyor; çıkarıma odaklı yıllık bir hızlandırıcı temposuyla. Bu, bugün bir bulut hesabına ekleyebileceğiniz türden self servis hızlandırıcı kiralaması değil, kurumsal odaklı bir yol olmayı sürdürüyor.
Intel öğretici olan taraf, çünkü Gaudi 3 hiçbir zaman geniş bir bulut ayak izine ulaşmadı, ama ortadan da kalkmadı. IBM Cloud, Dallas, Washington DC ve Frankfurt'taki dağıtımlar dâhil olmak üzere seçili kullanılabilirlik kapsamında Gaudi 3 hızlandırmalı sanal sunucu profilleri sunmayı sürdürüyor. Intel'in bir sonraki adımı, 2026'nın ikinci yarısında müşteri örneklemesine girmesi beklenen, çıkarıma odaklı GPU Crescent Island. Gaudi 3 bugün dar bir seçenek, kapanmış bir seçenek değil.
Etched, transformer çıkarımına özelleşmiş bir ASIC olan Sohu'yu geliştiriyor. Şirket 800 milyon dolar topladı, çalışan A0 silikonuna sahip, 1 milyar doların üzerinde imzalı müşteri sözleşmesi bildiriyor ve ilk rafların 2026 yazında gönderilmesi planlanıyor. Performans iddiaları kendisine ait ve bağımsız olarak ölçülmedi; dolayısıyla veri işleme rakamları burada işe yarayan kısım değil. İşe yarayan kısım yazılım yığını. Etched çipi, rafı ve yazılım ortamını tek bir özelleşmiş platform olarak kuruyor; bu yüzden CUDA dönemi servis yığınının olduğu gibi taşınacağını varsaymayın. Bu, çok büyük ölçekte transformer çıkarımı yürüten sözleşmeli bir müşteri için işe yarayabilir, ama hızlandırıcılar arası taşınabilirliğe bağımlı bir ekip için çok daha büyük bir bağlanma demek.
Yalnızca dahili silikon ve başkaları için çip üreten firmalar
İki durum dışarıdan bakınca bir yapay zekâ çipi şirketine benziyor, ama davranışları hiç de aynı değil. Meta ve Microsoft, kendi işlettikleri ve kimseye satmadıkları hızlandırıcılar tasarlıyor. Broadcom ve Marvell ise başka şirketlerin mimarileri için silikon tasarlayıp hayata geçiriyor. İki grubun da bir geliştiricinin kiralayabileceği bir ürünü yok ve nedenlerinin birbiriyle hiçbir ortak yanı yok.
Meta'nın MTIA'sı birinci türün en net örneği.
Meta'nın kendi mühendislik yazısı uygulamalarında hem organik içerik hem de reklamlar genelinde çıkarım iş yükleri için yüz binlerce MTIA çipinin konuşlandırıldığını anlatıyor; MTIA 300 sıralama ve öneri eğitimi için hâlihazırda üretimde, MTIA 400, 450 ve 500 ise yaklaşık altı aylık bir tempoyla planlanıyor. Bu, tek bir saatini bile asla kiralayamayacağınız devasa miktarda silikon.
Microsoft'un durumu kenarlarda daha yumuşak. Ocak 2026'da tanıtılan Maia 200, Microsoft'un güncel şirket içi çıkarım hızlandırıcısı ve halihazırda kendi veri merkezlerinde konuşlandırılmış durumda; Maia SDK ise önizleme olarak sunuluyor. Microsoft şu an kamuya açık, self servis bir Maia örneğini belgelemiyor, dolayısıyla bu karşılaştırmada hâlâ dahili ya da Azure'a entegre tarafta yer alıyor.
Broadcom ve Marvell ise yine bambaşka bir şey ve bunu netleştirmekte fayda var, çünkü adları sürekli NVIDIA'nınkinin yanında geçiyor. Google'ın TPU'su işe yarar bir örnek. TPU ürününün ve mimarisinin sahibi Google; Broadcom ise ara bağlantıları, paketlemeyi ve mimariden üretilebilir silikona giden yolu kapsayabilen özel silikon tasarım ve uygulama işini katıyor. Broadcom, geliştiricilere doğrudan ne TPU ne de başka bir genel amaçlı hızlandırıcı satıyor. 2026 mali yılının ilk çeyrek sonuçlarına göre yapay zekâ segmenti geliri 8,4 milyar dolara ulaştı, yıllık yüzde 106 artışla; bu da adının her yerde olmasını açıklıyor. Yine de kiralayabileceğiniz bir çip değil.
İşte tam burada üreticiler sözcüğü, taşıyamayacağı bir yükü taşımaya başlıyor. Broadcom ve Marvell çip üretmiyor, yukarıda sayılan yapay zekâ çipi üreticilerinin çoğu da üretmiyor: neredeyse hepsi fabrikasız, yani silikonu tasarlayıp üretimi tamamen başkasına yaptırıyorlar.
Bir erişim yolunu iş yükünüzle eşleştirmek
Ölçekli eğitim, pratik seçenekleri hızla daraltıyor: geniş çapta bulunabilen AMD Instinct, tek buluta bağlı TPU ya da Trainium, veya kurumsal bir Cerebras dağıtımı. Üretimde çıkarım daha fazla yol açıyor, çünkü Groq, Cerebras ve SambaNova hem barındırılan hizmetler sunuyor hem de bir tür özel altyapı sağlıyor. Deneme aşaması ise yine daha geniş: ücretsiz TPU erişiminden kendi makinenize takabileceğiniz bir Tenstorrent kartına kadar.
Bu sınırlar bir tablonun gösterebileceğinden daha yumuşak. Soru yalnızca silikonun ne yapabildiği değil; ona nereden ulaşabildiğiniz, mevcut yazılım yığınınızın ne kadarının bu geçişten sağ çıktığı ve ortaya çıkan iş yükünün ileride başka bir yere taşınıp taşınamayacağı. Cerebras kurumsal altyapı üzerinde hem eğitim hem çıkarım yapabiliyor; Trainium ise AWS'ye bağlı kalıyor.
Bunların hiçbiri NVIDIA'yı yerinden etmiyor. Çoğu ekip için asıl soru CUDA'dan ayrılıp ayrılmamak değil, yanında ikinci bir yığını sürdürmenin değip değmediği.
Hangi kartı boyutlandıracağınız bulunduğunuz yerde kalırsanız geriye kalan karardır ve bu, buradakinden başka bir egzersizdir.
Kanal, çipten daha belirleyici. Masanızdaki bir kart ile başkasının API'sinin arkasındaki aynı sınıf silikon, veri işleme hızı birbirine yaklaşsa bile aynı araç değildir; çünkü biri henüz aklınıza gelmemiş şeyleri denemenize izin verir, diğeri ise zaten nasıl soracağınızı bildiğiniz şey için sizi token başına faturalandırır.
Sıkça Sorulan Sorular
Bir Google TPU'yu gerçekten kiralayabilir misiniz?
Evet. Google'ın şu anda genel kullanıma açık Ironwood TPU'su olan TPU7x, Google Cloud'da ve yalnızca orada bulunuyor. Eski TPU nesilleri de mevcut; Colab, Kaggle ve TPU Research Cloud bazı iş yükleri için ücretsiz TPU erişimi sağlıyor. JAX yerel yol olmayı sürdürüyor, PyTorch ise PyTorch/XLA üzerinden çalışıyor.
Mevcut PyTorch kodunu en az çabayla hangi NVIDIA alternatifi çalıştırır?
Çoğu durumda AMD Instinct: ROCm resmî olarak desteklenen bir PyTorch arka ucu, yani kod yolu zaten var. Google'ın TPU'su PyTorch'u bir çeviri katmanı olan PyTorch/XLA köprüsü üzerinden çalıştırıyor. AWS, vLLM, HuggingFace Transformers ve TorchTitan'ın Trainium üzerinde taşıma çabası olmadan çalıştığını söylüyor ki bu satıcının kendi iddiası. En uçta ise Etched'in Sohu'su kendi özelleşmiş yazılım yığınını kullanıyor; dolayısıyla ROCm ya da PyTorch/XLA'ya kıyasla belirgin biçimde daha fazla taşıma işi bekleyin.
Çiplerini kiralayamıyorsanız Broadcom ve Qualcomm neden NVIDIA'nın rakibi sayılıyor?
Farklı nedenlerle. Broadcom, geliştiricilere doğrudan standart bir hızlandırıcı satmak yerine, kendi hızlandırıcısını yapan şirketler için özel silikon üzerinde çalışıyor. Qualcomm kendi Dragonfly hızlandırıcılarını tasarlıyor ve AI200, AI250 ile AI300 artık veri merkezi yol haritasında; ancak erişim, normal bir self servis bulut kiralaması değil, kurumsal odaklı. İkisi de yapay zekâ altyapısında rekabet ediyor, ama geliştiricilere NVIDIA ya da AMD ile aynı kamuya açık erişim modelini sunmadan.
Bir yapay zekâ hızlandırıcısını kiralamak yerine satın alabilir misiniz?
Evet. Tenstorrent, Blackhole geliştirici kartlarını doğrudan satıyor: p100a için 999 $'dan, p150a ve p150b için 1.399 $'a kadar, stokta ve yaklaşık iki hafta içinde teslim, tamamen açık kaynak bir yazılım yığınıyla. Çekince fiyat kadar önemli: dokümantasyonun ve doğrulanmış model desteğinin çoğu hâlâ eski Wormhole kartını hedefliyor, dolayısıyla mevcut kodun değişmeden çalışmasını beklemek yerine taşıma için zaman ayırın.
Tartışma
Yorumlar
Tartışmaya katılmak için giriş yapın.