Tarayıcıda Yapay Zekâ Çalıştırma Performansı

Son zamanlarda sunucuya istek göndermeden yapay zekâ modelini doğrudan kullanıcının cihazında çalıştıran cihaz üstü yöntem yaygınlaşıyor. Tarayıcı içinde çalıştırmanın kurulum gerektirmemesi ve girdiğiniz içeriğin dışarı çıkmaması gibi avantajları var. Karşılığında model dosyasının indirilmesi gerekir ve hesaplamada kullanılan bellek ile güç de azımsanmayacak düzeydedir. Web Bench'in yapay zekâ çıkarımı bu durumu tahmin etmek için isteğe bağlı bir maddedir. Sabit test cümleleriyle metin üretir, sabit bir görüntüyü modele verip hızı ölçer; kişisel belgelerinizi veya fotoğraflarınızı okumaz. Hızlı ve standart teste her zaman dahil edilen bir madde olmadığını da bilin. Bu madde yalnızca cihazınızın tarayıcıda yapay zekâ işlerini ne ölçüde kaldırabileceğini tahmin etmek içindir. Tarayıcıda yapay zekâ çalıştırma teknolojisi hızla gelişiyor ve destek kapsamı birkaç ayda genişleyebilir; daha önce çalışmayan bir cihazsa tarayıcıyı güncelleyip yeniden denemeye değer.

Yapay zekâ otomatik olarak indirilmez. Yalnızca model indirmeyi kabul etme seçeneğini kendiniz açarsanız gerekli dosyalar Hugging Face'in herkese açık CDN'inden ve jsDelivr'den alınır; varsayılan değer kapalıdır. İndirme boyutunu ve bellek ile güç kullanımını kontrol ettikten sonra seçin. İndirilen dosyaları tarayıcı önbellekte tutabilir ve site verileri ayarlarından silebilirsiniz. Kabul etmezseniz yapay zekâ maddesi çalıştırılmaz ve toplam puandan da çıkarılır. Dolayısıyla yapay zekâ dahil sonuçlarla dahil olmayan sonuçlar farklı yapılandırmalardır; aynı sıralama tablosuymuş gibi karıştırıp karşılaştırmayın. Sonucu paylaşırken de yapay zekânın dahil olup olmadığını birlikte yazın. İndirme sırasında mobil veri kullanımını ve pil durumunu da göz önünde bulundurarak seçim yapmak daha iyidir.

Çalışma yolu cihaz durumuna göre değişir. WebGPU kullanılabiliyorsa hesap GPU üzerinde yapılır; kullanılamıyorsa WASM yoluyla çalıştırılır ve bu durum sonuçta ayrıca belirtilir. WASM hesabı CPU ile yaptığı için aynı cihazda bile çok daha yavaş çıkabilir; bu bir arıza değil, çalışma yolu farkıdır. Modelin duyarlılığına göre de hız ve bellek kullanımı değişir. Değer işlem hızı olduğundan yüksek olan iyidir, ancak cihaz ısınırsa veya bellek yetmezse büyük ölçüde değişebilir. Tek seferlik bir sayı yerine aynı koşulda tekrarlanan aralık olarak okuyun ve referans değer olarak kabul edin. Ölçüm bittikten sonra da sonuçlar yalnızca sıralamaya kayıt onayıyla sunucuya gönderilir. Aynı model ve aynı girdiyle karşılaştırmak adil olduğundan, yalnızca yolu ve duyarlılığı aynı olan sonuçları birbiriyle kıyaslayın. Seçtiğiniz ayarı istediğiniz zaman değiştirebilirsiniz ve indirme istemiyorsanız yapay zekâ olmadan da diğer maddeleri yeterince ölçebilirsiniz.