브라우저에서 AI 실행 성능

요즘은 서버에 요청을 보내지 않고 사용자의 기기에서 직접 AI 모델을 실행하는 온디바이스 방식이 늘고 있습니다. 브라우저 안에서 실행하면 설치가 필요 없고, 입력한 내용이 밖으로 나가지 않는다는 장점이 있습니다. 대신 모델 파일을 내려받아야 하고, 계산에 쓰는 메모리와 전력이 만만치 않습니다. Web Bench의 AI 추론은 이런 상황을 가늠하기 위한 선택 항목입니다. 고정된 테스트 문장으로 텍스트를 생성하고 고정된 이미지를 모델에 입력해 속도를 재며, 개인 문서나 사진은 읽지 않습니다. 기본 측정과 빠른 측정에 항상 포함되는 항목이 아니라는 점도 알아 두세요. 이 항목은 어디까지나 내 기기가 브라우저에서 AI 작업을 어느 정도 소화할 수 있는지 가늠하는 용도입니다. 브라우저에서 AI를 돌리는 기술은 빠르게 발전하고 있어 몇 달 만에도 지원 범위가 넓어질 수 있으니, 이전에 실행되지 않았던 기기라면 브라우저를 업데이트한 뒤 다시 시도해 볼 만합니다.

AI는 자동으로 다운로드되지 않습니다. 모델 다운로드에 동의하는 선택을 직접 켠 경우에만 Hugging Face의 공개 CDN과 jsDelivr에서 필요한 파일을 받으며, 기본값은 해제입니다. 다운로드 용량과 메모리·전력 사용을 확인한 뒤 선택하세요. 받은 파일은 브라우저가 캐시에 보관할 수 있고 사이트 데이터 설정에서 지울 수 있습니다. 동의하지 않으면 AI 항목은 실행하지 않고 총점에서도 제외합니다. 따라서 AI를 포함한 결과와 포함하지 않은 결과는 서로 다른 구성이므로 같은 순위표처럼 섞어서 비교하면 안 됩니다. 결과를 공유할 때도 AI 포함 여부를 함께 적어 두세요. 다운로드 시점에는 모바일 데이터 사용량과 배터리 상태도 함께 고려해 선택하는 편이 좋습니다.

실행 경로는 기기 상황에 따라 달라집니다. WebGPU를 쓸 수 있으면 GPU 위에서 계산하고, 쓸 수 없으면 WASM 경로로 대신 실행하며 이 사실을 결과에 따로 표시합니다. WASM은 CPU로 계산하므로 같은 기기라도 훨씬 느리게 나올 수 있는데, 이는 고장이 아니라 실행 경로의 차이입니다. 모델의 정밀도에 따라서도 속도와 메모리 사용이 달라집니다. 값은 처리 속도라 높을수록 좋지만, 기기가 뜨거워지거나 메모리가 부족해지면 크게 달라질 수 있습니다. 일회성 숫자 하나보다 같은 조건에서 반복한 범위로 읽고, 참고값으로 받아들이세요. 측정이 끝난 뒤에도 결과는 순위 등록에 동의한 경우에만 서버로 전송합니다. 같은 모델과 같은 입력으로 비교해야 공정하므로 경로와 정밀도가 같은 결과끼리만 견주어 보세요. 선택한 설정은 언제든 바꿀 수 있으며, 다운로드를 원하지 않는다면 AI 없이도 나머지 항목을 충분히 측정할 수 있습니다.