Yapay zeka, NVIDIA teknolojileriyle çalışma şeklinizi nasıl değiştiriyor?NVIDIA RTX ve GeForce RTX teknolojileri projelerinizin gerçekleştirilmesi için vazgeçilmez hale geldi.
Sadece birkaç ay önce yapay zeka gelecekle eş anlamlıydı. Günümüzde günlük hayatımızın bir parçası haline geldi. “PC AI” çağıyla birlikte yapay zeka, bilgisayarlarımıza mükemmel bir şekilde entegre oluyor ve her zamankinden daha iddialı, inanılmaz projeleri hayata geçirmek için daha verimli çalışmamıza olanak tanıyor. İşte bu nedenle NVIDIA, size en iyi araçları sunmak için şimdi yeni NVIDIA RTX ve GeForce RTX teknolojilerini sunuyor.
Bu yeni teknolojiler, yapay zeka ile hızlandırılmış görevlerin performansını değerlendirmenin yeni bir yolunu ve masaüstü bilgisayarlar arasında seçim yaparken anlaşılması zor olabilecek yeni bir dili ortaya çıkarıyor. ve dizüstü bilgisayarlar mevcuttur. Oyuncular ve PC Gaming tarafından iyi bilinen saniyedeki kare sayısını (FPS) unutun, artık AI ile TOPS ve Tokenlardan bahsediyoruz. İşte hızlı bir genel bakış.
geforce rtx GPU serisini keşfedin
PC'lerden teknolojinin ÜSTÜNLERİNE
Dolayısıyla yaklaşabileceğimiz ilk ölçüm TOPS veya “Saniyede Trilyonlarca İşlem”dir. Trilyonlar önemli kelime
Burada yapay zekanın işleyebileceği oldukça büyük bir büyüklük sırasının altını çiziyor. TOPS, bir motorun gücüne benzer şekilde ham performansın bir ölçüsüdür.
Örneğin Microsoft'un yakın zamanda duyurduğu Copilot+ bilgisayar serisini ele alırsak. Bu seri, saniyede 40 trilyondan fazla işlem gerçekleştirebilen sinirsel işlem birimlerini (NPU'lar) içerir. Bu, yerel bir sohbet robotuna önceki güne ait notlarınızın nerede olduğunu sormak gibi bazı hafif yapay zeka destekli görevler için yeterli olan 40 TOPS'luk bir çalışma süresidir.
Ancak birçok üretken yapay zeka görevi daha zorludur ve çok daha fazla kaynak gerektirir. NVIDIA RTX ve GeForce RTX GPU'ların devreye girdiği yer burasıdır. Bu nedenle ikincisi, tüm üretken görevler için benzersiz bir performans sunma kapasitesine sahiptir. GeForce RTX 4090 GPU'yu ele alırsak ikincisi 1.300 TOPS'tan fazla güç sunabilir. Bu sayede, AI destekli dijital içerik oluşturmayı (DCC), PC oyunlarında AI süper çözünürlüğünü, metin veya videolardan görüntü oluşturmayı, büyük yerel dil modellerini (LLM'ler) sorgulamayı ve çok daha fazlasını (ve sorunsuz bir şekilde) yönetebileceksiniz. .
Oyun için jetonlar
TOPS yeni önlemlerin bir parçası ancak tek önlem bunlar değil. LLM'nin performansı, model tarafından üretilen token sayısıyla ölçülür. Basitçe söylemek gerekirse tokenlar LLM'nin çıktısıdır. Örneğin, bir belirteç bir cümledeki bir kelime, hatta noktalama işareti veya boşluk olabilir. Yapay zeka ile hızlandırılmış görevlerin performansı “saniye başına jeton” cinsinden ölçülebilir.
Yüksek Lisans birçok modern yapay zeka sisteminin kalbinde yer alacaktır. Bu nedenle, birden fazla girdiyi (örneğin, tek bir uygulamadan veya birden fazla uygulamadan) işleyebilme yeteneği çok önemlidir. Toplu iş boyutu veya tek bir çıkarım geçişinde aynı anda işlenen girdilerin sayısı bu nedenle önemli bir faktördür. Daha büyük gruplar eşzamanlı girişlerin performansını artırırken, özellikle daha büyük şablonlarla birleştirildiğinde daha fazla belleğe ihtiyaç duyarlar.
NVIDIA, büyük miktarlarda özel video RAM'i (VRAM), Tensor çekirdekleri ve TensorRT-LLM yazılımı sayesinde RTX GPU'larının LLM'ye mükemmel şekilde uygun olmasını sağlamıştır. Böylece GeForce RTX GPU'lar yüksek hızda 24 GB'a kadar VRAM ve 48 GB'a kadar NVIDIA RTX GPU'lar sunarak daha büyük modelleri yönetmeyi ve parti boyutlarını artırmayı mümkün kılıyor.
Daha da ileri gitmek için NVIDIA, RTX GPU'larının Tensor Çekirdeklerinden, yani derin öğrenme ve üretken yapay zeka modelleri için gereken yoğun bilgi işlem işlemlerini önemli ölçüde hızlandıran özel yapay zeka hızlandırıcılarından da yararlanmasını sağlıyor. Dolayısıyla bir uygulama NVIDIA TensorRT SDK'yı kullandığında, RTX GPU'larla donatılmış 100 milyondan fazla Windows PC'de ve iş istasyonunda daha da iyi üretken yapay zekanın kilidini açar.
Işık hızında metinden görsellere geçin
Bu yeni teknolojiler sayesinde üretken yapay zeka süreçleri büyük ölçüde hızlanıyor. Bu nedenle görüntü oluşturma hızının ölçülmesi performansı değerlendirmenin başka bir yoludur. Ve NVIDIA teknolojileri bir kez daha bize olağanüstü sonuçlar sunmayı başarıyor.
En basit hesaplama yöntemlerinden biri, kullanıcıların metinsel açıklamaları kolayca karmaşık görsel temsillere dönüştürmesine olanak tanıyan popüler bir görüntü tabanlı yapay zeka modeli olan Stable Diffusion'ı kullanmaktır. Bu, bir metin komutu gireceğiniz ve bundan bir görüntü (veya video) oluşturulacağı Midjourney'in ilkesidir.
Stabil Difüzyon ile kullanıcılar, istenen sonucu elde etmek için metin istemlerinden görselleri hızlı bir şekilde oluşturabilir ve iyileştirebilirler. NVIDIA'nın RTX GPU'su sayesinde bu sonuçlar, AI modelinin bir CPU veya NPU üzerinde işlenmesinden daha hızlı üretilebiliyor.
Elbette TensorRT eklentisini kullanırsanız performans daha da yüksek olur. RTX kullanıcıları, SDXL Base kontrol noktası belirleme özelliğiyle istemlerden iki kata kadar daha hızlı görüntüler oluşturarak Stabil Difüzyon iş akışlarını önemli ölçüde basitleştiriyor.
Stable Diffusion 3, Stability AI'nin merakla beklenen yeni metinden görüntüye modelidir. İkincisi ayrıca performansı %50 artıran TensorRT'yi kullanıyor. Yeni TensorRT model iyileştirici sayesinde hızlanma %70'e kadar çıkabilir. Bu optimize edici aynı zamanda bellek tüketiminde %50'lik bir azalmaya da olanak tanır.
geforce rtx GPU serisini keşfedin
NVIDIA ile ortaklaşa
Sadece birkaç ay önce yapay zeka gelecekle eş anlamlıydı. Günümüzde günlük hayatımızın bir parçası haline geldi. “PC AI” çağıyla birlikte yapay zeka, bilgisayarlarımıza mükemmel bir şekilde entegre oluyor ve her zamankinden daha iddialı, inanılmaz projeleri hayata geçirmek için daha verimli çalışmamıza olanak tanıyor. İşte bu nedenle NVIDIA, size en iyi araçları sunmak için şimdi yeni NVIDIA RTX ve GeForce RTX teknolojilerini sunuyor.
Bu yeni teknolojiler, yapay zeka ile hızlandırılmış görevlerin performansını değerlendirmenin yeni bir yolunu ve masaüstü bilgisayarlar arasında seçim yaparken anlaşılması zor olabilecek yeni bir dili ortaya çıkarıyor. ve dizüstü bilgisayarlar mevcuttur. Oyuncular ve PC Gaming tarafından iyi bilinen saniyedeki kare sayısını (FPS) unutun, artık AI ile TOPS ve Tokenlardan bahsediyoruz. İşte hızlı bir genel bakış.
geforce rtx GPU serisini keşfedin
PC'lerden teknolojinin ÜSTÜNLERİNE
Dolayısıyla yaklaşabileceğimiz ilk ölçüm TOPS veya “Saniyede Trilyonlarca İşlem”dir. Trilyonlar önemli kelime
Burada yapay zekanın işleyebileceği oldukça büyük bir büyüklük sırasının altını çiziyor. TOPS, bir motorun gücüne benzer şekilde ham performansın bir ölçüsüdür.
Örneğin Microsoft'un yakın zamanda duyurduğu Copilot+ bilgisayar serisini ele alırsak. Bu seri, saniyede 40 trilyondan fazla işlem gerçekleştirebilen sinirsel işlem birimlerini (NPU'lar) içerir. Bu, yerel bir sohbet robotuna önceki güne ait notlarınızın nerede olduğunu sormak gibi bazı hafif yapay zeka destekli görevler için yeterli olan 40 TOPS'luk bir çalışma süresidir.
Ancak birçok üretken yapay zeka görevi daha zorludur ve çok daha fazla kaynak gerektirir. NVIDIA RTX ve GeForce RTX GPU'ların devreye girdiği yer burasıdır. Bu nedenle ikincisi, tüm üretken görevler için benzersiz bir performans sunma kapasitesine sahiptir. GeForce RTX 4090 GPU'yu ele alırsak ikincisi 1.300 TOPS'tan fazla güç sunabilir. Bu sayede, AI destekli dijital içerik oluşturmayı (DCC), PC oyunlarında AI süper çözünürlüğünü, metin veya videolardan görüntü oluşturmayı, büyük yerel dil modellerini (LLM'ler) sorgulamayı ve çok daha fazlasını (ve sorunsuz bir şekilde) yönetebileceksiniz. .
Oyun için jetonlar
TOPS yeni önlemlerin bir parçası ancak tek önlem bunlar değil. LLM'nin performansı, model tarafından üretilen token sayısıyla ölçülür. Basitçe söylemek gerekirse tokenlar LLM'nin çıktısıdır. Örneğin, bir belirteç bir cümledeki bir kelime, hatta noktalama işareti veya boşluk olabilir. Yapay zeka ile hızlandırılmış görevlerin performansı “saniye başına jeton” cinsinden ölçülebilir.
Yüksek Lisans birçok modern yapay zeka sisteminin kalbinde yer alacaktır. Bu nedenle, birden fazla girdiyi (örneğin, tek bir uygulamadan veya birden fazla uygulamadan) işleyebilme yeteneği çok önemlidir. Toplu iş boyutu veya tek bir çıkarım geçişinde aynı anda işlenen girdilerin sayısı bu nedenle önemli bir faktördür. Daha büyük gruplar eşzamanlı girişlerin performansını artırırken, özellikle daha büyük şablonlarla birleştirildiğinde daha fazla belleğe ihtiyaç duyarlar.
NVIDIA, büyük miktarlarda özel video RAM'i (VRAM), Tensor çekirdekleri ve TensorRT-LLM yazılımı sayesinde RTX GPU'larının LLM'ye mükemmel şekilde uygun olmasını sağlamıştır. Böylece GeForce RTX GPU'lar yüksek hızda 24 GB'a kadar VRAM ve 48 GB'a kadar NVIDIA RTX GPU'lar sunarak daha büyük modelleri yönetmeyi ve parti boyutlarını artırmayı mümkün kılıyor.
Daha da ileri gitmek için NVIDIA, RTX GPU'larının Tensor Çekirdeklerinden, yani derin öğrenme ve üretken yapay zeka modelleri için gereken yoğun bilgi işlem işlemlerini önemli ölçüde hızlandıran özel yapay zeka hızlandırıcılarından da yararlanmasını sağlıyor. Dolayısıyla bir uygulama NVIDIA TensorRT SDK'yı kullandığında, RTX GPU'larla donatılmış 100 milyondan fazla Windows PC'de ve iş istasyonunda daha da iyi üretken yapay zekanın kilidini açar.
Işık hızında metinden görsellere geçin
Bu yeni teknolojiler sayesinde üretken yapay zeka süreçleri büyük ölçüde hızlanıyor. Bu nedenle görüntü oluşturma hızının ölçülmesi performansı değerlendirmenin başka bir yoludur. Ve NVIDIA teknolojileri bir kez daha bize olağanüstü sonuçlar sunmayı başarıyor.
En basit hesaplama yöntemlerinden biri, kullanıcıların metinsel açıklamaları kolayca karmaşık görsel temsillere dönüştürmesine olanak tanıyan popüler bir görüntü tabanlı yapay zeka modeli olan Stable Diffusion'ı kullanmaktır. Bu, bir metin komutu gireceğiniz ve bundan bir görüntü (veya video) oluşturulacağı Midjourney'in ilkesidir.
Stabil Difüzyon ile kullanıcılar, istenen sonucu elde etmek için metin istemlerinden görselleri hızlı bir şekilde oluşturabilir ve iyileştirebilirler. NVIDIA'nın RTX GPU'su sayesinde bu sonuçlar, AI modelinin bir CPU veya NPU üzerinde işlenmesinden daha hızlı üretilebiliyor.
Elbette TensorRT eklentisini kullanırsanız performans daha da yüksek olur. RTX kullanıcıları, SDXL Base kontrol noktası belirleme özelliğiyle istemlerden iki kata kadar daha hızlı görüntüler oluşturarak Stabil Difüzyon iş akışlarını önemli ölçüde basitleştiriyor.
Stable Diffusion 3, Stability AI'nin merakla beklenen yeni metinden görüntüye modelidir. İkincisi ayrıca performansı %50 artıran TensorRT'yi kullanıyor. Yeni TensorRT model iyileştirici sayesinde hızlanma %70'e kadar çıkabilir. Bu optimize edici aynı zamanda bellek tüketiminde %50'lik bir azalmaya da olanak tanır.
geforce rtx GPU serisini keşfedin
01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
NVIDIA ile ortaklaşa