Etched AI

Etched AI, 2022 yılında Kaliforniya’da kurulan ve özellikle transformer tabanlı yapay zeka modellerini hızlandırmak için özel donanımlar geliştiren bir girişimdir. Şirketin öncü ürünü olan Sohu çipi, yalnızca transformer mimarilerini çalıştırmak üzere tasarlanmış bir uygulamaya özel tümleşik devre (ASIC) olup, genel amaçlı GPU’lara kıyasla önemli performans ve enerji verimliliği avantajları sunar. Transformer modellerine odaklanması sayesinde yapay zeka uygulamalarında yüksek hız ve düşük maliyet hedeflenmektedir. Peter Thiel gibi önemli yatırımcıların da yer aldığı 120 milyon dolarlık Seri A yatırımıyla desteklenen Etched AI, yapay zeka donanımı alanında devrim yaratmayı amaçlamaktadır.

Etched, Harvard’dan ayrılan Gavin Uberti ve Chris Zhu tarafından kurulan ve yaklaşık 120 milyon dolarlık bir yatırım turuyla desteklenen bir şirkettir. Etched’in vizyonu, transformer tabanlı yapay zeka modelleri için optimize edilmiş, verimli ve gücünü sadece belirli bir alana harcayan özel ASIC çipleri tasarlamaktır. Bu girişim, NVIDIA'nın AI pazarındaki baskın konumuna meydan okumayı amaçlamaktadır.

Sohu, TSMC’nin 4nm teknolojisiyle üretilen ve sadece transformer mimarisini çalıştırmak üzere optimize edilmiş bir ASIC çipidir. Geleneksel GPU’lardan farklı olarak, genel hesaplamalar için tasarlanmamış, yalnızca belirli bir işleve odaklanan donanımlar içermektedir. Bu da çok daha yüksek verimlilik ve enerji tasarrufu sağlamaktadır.

Sohu Dünyanın İlk Transformer Özellikli Çipi (ASIC)

Sohu’nun temel farkı, NVIDIA’nın en yeni GPU modellerine oranla 10 kat daha hızlı ve maliyet etkin olmasıdır. Yapılan testlerde, 8 adet Sohu çipi, 160 adet NVIDIA H100 GPU’nun yerini alabiliyor.

• 144 GB HBM3E bellek kapasitesi sayesinde, trilyon parametreli yapay zeka modellerini çalıştırabilme yeteneğine sahiptir.
• Tek bir devasa çekirdek tasarımı, verileri daha verimli bir şekilde işleyerek hesaplamaların daha doğrudan gerçekleşmesini sağlar.
• Daha az enerji tüketimi sayesinde, yapay zeka altyapılarının enerji verimliliğini artırır.

Sohu ile NVIDIA Ürünlerinin Performans Karşılaştırması

Sohu, tamamen açık kaynak yazılım desteği sunarak geliştiricilere daha fazla esneklik sağlar. Transformer mimarisine özel optimize edilmiş bir yazılım yığını sayesinde, geleneksel yapay zeka donanımlarında bulunan gereksiz yazılım katmanlarını ortadan kaldırır ve doğrudan verimli hesaplamalar yapar.

Sohu’nun sunduğu düşük gecikme süreleri ve yüksek verimlilik, onu şu alanlarda öne çıkarıyor:

• Gerçek zamanlı sesli asistanlar: Milisaniyeler içinde binlerce kelime işleyerek, daha doğrusal ve anlamlı insan-makine etkileşimi sağlar.
• Kod yazma ve derinlemesine arama algoritmaları: Paralel şekilde binlerce yanıtı karşılaştırabilir, kod yazma sürecini daha verimli hale getirebilir.
• Multicast spekülatif kodlama: Daha karmaşık AI modelleri için gerçek zamanlı çıktı üretme kapasitesine sahiptir.

Sohu, yapay zeka çözümleri sunan firmalar için daha az enerji tüketen daha uygun maliyetli bir alternatif olarak konumlandırılıyor. NVIDIA’nın yapay zeka pazarındaki baskın konumu, rakiplerin pazar payı alabilmesini zorlaştırsa da, spesifik bir alana odaklanan çözümler zamanla daha fazla benimsenebilir.

Ancak Sohu’nun uzun vadeli başarısı, transformer mimarisinin yapay zeka alanında baskın kalıp kalmayacağına bağlıdır. Şirket CEO’su Uberti de bu riskin farkında olarak şu çarpıcı yorumu yapmaktadır:

“Eğer transformer’lar kaybolursa, biz de kayboluruz. Ancak eğer bu mimari devam ederse, biz dünyanın en büyük şirketlerinden biri oluruz.”

Etched ve Sohu, yapay zeka donanımının geleceğini yeniden tanımlayan bir adım olabilir. Özel optimize edilmiş yapay zeka çiplerinin, genel ama gücülü GPU’lara karşı rekabet avantajı sağlayabileceği bu projeyle görülmektedir. Ancak, bu girişimin başarılı olup olmayacağını önümüzdeki yıllar belirleyecektir. Eğer Etched, Sohu’yu zamanında pazara sunabilir ve yapay zeka endüstrisinin büyüyen ihtiyaçlarını karşılayabilirse, yapay zeka donanım dünyasında yeni bir eşik aşılabilir.