Performances de l'IA exécutée dans le navigateur

De plus en plus, on exécute des modèles d'IA directement sur l'appareil de l'utilisateur, sans envoyer de requête à un serveur : c'est l'approche on-device. Dans le navigateur, elle ne demande aucune installation et ce que vous saisissez ne sort pas de l'appareil. En contrepartie, il faut télécharger les fichiers du modèle, et la mémoire et l'énergie consommées pour le calcul sont loin d'être négligeables. L'inférence IA de Web Bench est un test facultatif destiné à estimer cette situation. Il génère du texte à partir de phrases de test fixes et fournit une image fixe au modèle pour mesurer la vitesse, sans lire vos documents ni vos photos personnels. Sachez aussi que ce test n'est pas systématiquement inclus dans la mesure standard ni dans la mesure rapide. Il sert uniquement à estimer dans quelle mesure votre appareil peut absorber des tâches d'IA dans le navigateur. Cette technologie progresse rapidement et la prise en charge peut s'élargir en quelques mois : si un appareil n'exécutait pas ce test auparavant, il vaut la peine de réessayer après avoir mis à jour le navigateur.

L'IA n'est jamais téléchargée automatiquement. Ce n'est que si vous activez vous-même l'option d'accord au téléchargement du modèle que les fichiers nécessaires sont récupérés depuis le CDN public de Hugging Face et jsDelivr, et la valeur par défaut est désactivée. Choisissez après avoir vérifié la taille du téléchargement ainsi que l'utilisation de la mémoire et de l'énergie. Les fichiers reçus peuvent être conservés dans le cache du navigateur et supprimés depuis les réglages des données du site. Sans votre accord, le test d'IA n'est pas exécuté et il est aussi exclu du score total. Un résultat avec IA et un résultat sans IA correspondent donc à des configurations différentes : il ne faut pas les mélanger comme s'il s'agissait du même classement. Quand vous partagez un résultat, indiquez aussi si l'IA était incluse. Au moment du téléchargement, il est préférable de tenir compte de la consommation de données mobiles et de l'état de la batterie.

Le chemin d'exécution varie selon l'appareil. Si WebGPU est utilisable, le calcul se fait sur le GPU ; sinon, il passe par le chemin WASM et cela est indiqué séparément dans le résultat. WASM calcule avec le CPU et peut donc être bien plus lent sur le même appareil, ce qui n'est pas une panne mais une différence de chemin d'exécution. La précision du modèle modifie aussi la vitesse et l'utilisation de la mémoire. La valeur est une vitesse de traitement, donc meilleure quand elle est élevée, mais elle peut changer fortement si l'appareil chauffe ou si la mémoire vient à manquer. Plutôt qu'un seul chiffre isolé, lisez-la comme une fourchette obtenue en répétant la mesure dans les mêmes conditions, et considérez-la comme une valeur indicative. Même après la fin de la mesure, les résultats ne sont envoyés au serveur qu’avec votre accord pour le classement. Comme la comparaison n'est équitable qu'avec le même modèle et la même entrée, ne comparez que des résultats qui ont le même chemin et la même précision. Vous pouvez modifier à tout moment l'option choisie, et si vous ne souhaitez pas télécharger, vous pouvez parfaitement mesurer le reste sans IA.