Wydajność AI w przeglądarce: jak ją sprawdzić

Coraz częściej modele AI działają bezpośrednio na urządzeniu użytkownika, bez wysyłania zapytań na serwer. Uruchomienie w przeglądarce nie wymaga instalacji, a wpisane treści nie opuszczają urządzenia. W zamian trzeba pobrać plik modelu, a pamięć i energia potrzebne do obliczeń są niemałe. Wnioskowanie AI w Web Bench to opcjonalny test pozwalający ocenić taką sytuację. Generuje tekst z użyciem stałych zdań testowych i podaje modelowi stały obraz, aby zmierzyć szybkość, a prywatnych dokumentów ani zdjęć nie odczytuje. Wiedz też, że nie jest on zawsze częścią szybkiego i podstawowego testu. To tylko sposób na ocenę, jak dobrze urządzenie radzi sobie z zadaniami AI w przeglądarce. Technologia uruchamiania AI w przeglądarce szybko się rozwija i zakres obsługi może się poszerzyć w ciągu kilku miesięcy, więc jeśli urządzenie wcześniej nie działało, warto po aktualizacji przeglądarki spróbować jeszcze raz.

AI nie jest pobierane automatycznie. Tylko gdy sam włączysz opcję zgody na pobranie modelu, potrzebne pliki są pobierane z publicznego CDN Hugging Face i z jsDelivr, a domyślnie opcja jest wyłączona. Zanim zdecydujesz, sprawdź rozmiar pobierania oraz zużycie pamięci i energii. Pobrane pliki przeglądarka może przechowywać w cache i można je usunąć w ustawieniach danych witryn. Bez zgody test AI nie jest uruchamiany i nie wchodzi do wyniku łącznego. Dlatego wyniki z AI i bez AI to różne konfiguracje i nie wolno ich mieszać w jednym rankingu. Przy udostępnianiu wyniku zaznacz też, czy zawiera AI. Przy pobieraniu warto również wziąć pod uwagę zużycie danych mobilnych i stan baterii.

Ścieżka wykonania zależy od urządzenia. Jeśli WebGPU jest dostępne, obliczenia wykonuje GPU, a gdy nie, działa zamiast niego ścieżka WASM i informujemy o tym osobno w wynikach. WASM liczy na CPU, więc nawet na tym samym urządzeniu może być znacznie wolniejszy, co nie jest usterką, tylko różnicą ścieżki wykonania. Szybkość i zużycie pamięci zależą także od precyzji modelu. Wartość to szybkość przetwarzania, więc wyższa jest lepsza, ale może się mocno zmienić, gdy urządzenie się nagrzeje albo zabraknie pamięci. Zamiast pojedynczej jednorazowej liczby czytaj zakres z powtórzeń w tych samych warunkach i traktuj go jako orientacyjny. Także po zakończeniu pomiaru wynik jest wysyłany na serwer tylko po zgodzie na dodanie do rankingu. Uczciwe porównanie wymaga tego samego modelu i tych samych danych wejściowych, więc zestawiaj tylko wyniki o tej samej ścieżce i precyzji. Wybrane ustawienia możesz zmienić w dowolnej chwili, a jeśli nie chcesz niczego pobierać, pozostałe testy można w pełni zmierzyć bez AI.