Nvidia, yapay zeka konusunda uzmanlaşmış bir Mac mini'yi piyasaya sürüyorNvidia, yapay zeka araştırmacılarını ve öğrencilerini çok özel, çok güçlü ve aynı zamanda çok pahalı bir mini bilgisayarla donatmak istiyor.
Nvidia üretken yapay zeka teknolojilerinin gelişmesine olanak sağlayan temel taştır. Endüstrinin büyük bir kısmı Nvidia'nın GPU'larının ve sunucularının yeteneklerine güveniyor. Ve şirket burada durmak istemiyor. Aslında araştırmacılara yönelik bir mini bilgisayar pazarlayacak. veri bilimcileri ve öğrencilere; Bu “AI süper bilgisayarı”, 200 milyara kadar parametreyle büyük dil modelleri (LLM) ile çalışmalarına olanak tanıyacak.
Masaüstündeki başlıca dil modelleri
Büyük bir dil modelinin parametreleri, LLM'nin tahminlerde bulunmasına veya metin üretmesine olanak tanıyan öğelerdir. Parametre, sinir ağının farklı bileşenleri arasındaki iç bağlantıları tanımlamak için model tarafından kullanılan bir sayıdır. Basitçe söylemek gerekirse, her parametre sanki modelin kelimeler, kavramlar veya fikirler arasındaki ilişkileri anlamasına yardımcı olan küçük bir cetvel veya ağırlıktır.
Bir fikir vermek gerekirse, Meta'nın en iyi LLM'si olan Llama'nın 3.1 versiyonunda 405 milyar parametre var. Nvidia'nın bu “Digits projesi” ile zaten çok yetenekli bir makine sunduğunu söylemek yeterli, özellikle de iki tanesini birbirine bağlayıp 405 milyar parametreyi çalıştırmak mümkün olduğu için. Kullanıcılar yerel olarak prototip oluşturabilecek ve modelleri test edebilecek.
© Nvidia
Bu bilgisayarın kalbinde, Grace Blackwell mimarisini temel alan ve 1 petaflop'a kadar yapay zeka performansı sunabilen bir çip üzerinde sistem (SoC) olan GB10 Superchip yer alıyor. Çip, NVLink-C2C ara bağlantı sisteminin yardımıyla Grace CPU'ya (20 verimli Arm mimarisi çekirdeği) bağlanan yeni nesil CUDA çekirdekleri ve beşinci nesil Tensor çekirdeklerini içeren bir GPU'yu birleştiriyor. MediaTek bu yeni motorun geliştirilmesine yardımcı oldu.
Ve tüm bunlara güç sağlamak için yakınlarda bir nükleer reaktöre gerek yok: basit bir standart elektrik prizi yeterli olacaktır. Her mini bilgisayarda 128 GB birleşik bellek ve 4 TB'a kadar SSD depolama alanı bulunur. Hepsi Mac mini'yi anımsatan bir tasarımda.
Project Digits, 3.000 dolardan başlayan fiyatlarla Mayıs ayında satışa sunulacak. Yapay zekanın maliyeti var!
Nvidia
Nvidia üretken yapay zeka teknolojilerinin gelişmesine olanak sağlayan temel taştır. Endüstrinin büyük bir kısmı Nvidia'nın GPU'larının ve sunucularının yeteneklerine güveniyor. Ve şirket burada durmak istemiyor. Aslında araştırmacılara yönelik bir mini bilgisayar pazarlayacak. veri bilimcileri ve öğrencilere; Bu “AI süper bilgisayarı”, 200 milyara kadar parametreyle büyük dil modelleri (LLM) ile çalışmalarına olanak tanıyacak.
Masaüstündeki başlıca dil modelleri
Büyük bir dil modelinin parametreleri, LLM'nin tahminlerde bulunmasına veya metin üretmesine olanak tanıyan öğelerdir. Parametre, sinir ağının farklı bileşenleri arasındaki iç bağlantıları tanımlamak için model tarafından kullanılan bir sayıdır. Basitçe söylemek gerekirse, her parametre sanki modelin kelimeler, kavramlar veya fikirler arasındaki ilişkileri anlamasına yardımcı olan küçük bir cetvel veya ağırlıktır.
Bir fikir vermek gerekirse, Meta'nın en iyi LLM'si olan Llama'nın 3.1 versiyonunda 405 milyar parametre var. Nvidia'nın bu “Digits projesi” ile zaten çok yetenekli bir makine sunduğunu söylemek yeterli, özellikle de iki tanesini birbirine bağlayıp 405 milyar parametreyi çalıştırmak mümkün olduğu için. Kullanıcılar yerel olarak prototip oluşturabilecek ve modelleri test edebilecek.
© Nvidia
Bu bilgisayarın kalbinde, Grace Blackwell mimarisini temel alan ve 1 petaflop'a kadar yapay zeka performansı sunabilen bir çip üzerinde sistem (SoC) olan GB10 Superchip yer alıyor. Çip, NVLink-C2C ara bağlantı sisteminin yardımıyla Grace CPU'ya (20 verimli Arm mimarisi çekirdeği) bağlanan yeni nesil CUDA çekirdekleri ve beşinci nesil Tensor çekirdeklerini içeren bir GPU'yu birleştiriyor. MediaTek bu yeni motorun geliştirilmesine yardımcı oldu.
Ve tüm bunlara güç sağlamak için yakınlarda bir nükleer reaktöre gerek yok: basit bir standart elektrik prizi yeterli olacaktır. Her mini bilgisayarda 128 GB birleşik bellek ve 4 TB'a kadar SSD depolama alanı bulunur. Hepsi Mac mini'yi anımsatan bir tasarımda.
Project Digits, 3.000 dolardan başlayan fiyatlarla Mayıs ayında satışa sunulacak. Yapay zekanın maliyeti var!
Kaynak :01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
Nvidia