ブラウザでのAI実行性能

最近は、サーバーにリクエストを送らず、ユーザーの端末で直接AIモデルを実行するオンデバイス方式が増えています。ブラウザ内で実行すれば、インストールが不要で、入力した内容が外部に出ないという利点があります。その代わり、モデルファイルをダウンロードする必要があり、計算に使うメモリや電力も無視できません。Web BenchのAI推論は、こうした状況を見極めるための任意項目です。固定のテスト文でテキストを生成し、固定の画像をモデルに入力して速度を測り、個人の文書や写真は読み取りません。クイック測定や標準測定に常に含まれる項目ではないという点も知っておいてください。この項目は、あくまで自分の端末がブラウザでのAI作業をどの程度こなせるかを見極める用途です。ブラウザでAIを動かす技術は急速に発展しており、数か月で対応範囲が広がることもあるので、以前は動かなかった端末なら、ブラウザを更新してからもう一度試してみる価値があります。

AIは自動でダウンロードされることはありません。モデルのダウンロードに同意する選択を自分でオンにした場合にのみ、Hugging Faceの公開CDNとjsDelivrから必要なファイルを取得し、デフォルトはオフです。ダウンロード容量とメモリ・電力の使用を確認してから選んでください。ダウンロードしたファイルはブラウザがキャッシュに保管することがあり、サイトデータの設定から削除できます。同意しない場合、AI項目は実行せず、総合スコアからも除外します。したがって、AIを含む結果と含まない結果は異なる構成であり、同じランキング表のように混ぜて比較してはいけません。結果を共有するときも、AIを含むかどうかをあわせて記載してください。ダウンロードの際は、モバイルデータの使用量やバッテリーの状態も考慮して選ぶのがよいでしょう。

実行経路は端末の状況によって変わります。WebGPUが使えればGPU上で計算し、使えなければWASMの経路で代わりに実行して、その事実を結果に別途表示します。WASMはCPUで計算するため、同じ端末でもはるかに遅くなることがありますが、これは故障ではなく実行経路の違いです。モデルの精度によっても、速度とメモリ使用量は変わります。値は処理速度なので高いほど良いのですが、端末が熱くなったりメモリが不足したりすると、大きく変わることがあります。一度きりの数字ではなく、同じ条件で繰り返した範囲として読み、参考値として受け止めてください。測定が終わったあとも、結果はランキング登録に同意した場合のみサーバーに送信します。公平に比較するには同じモデルと同じ入力が必要なので、経路と精度が同じ結果どうしだけを比べてください。選択した設定はいつでも変更でき、ダウンロードを望まない場合は、AIなしでも残りの項目を十分に測定できます。