Ollama Benchmark - Compare LLMs Locally 용 Google Chrome

LLM을 위한 효율적인 벤치마킹 도구

Ollama Benchmark는 Mistral, LLaMA 및 Qwen과 같은 다양한 대형 언어 모델(LLM)을 벤치마킹하고 비교하려는 사용자를 위해 설계된 Chrome 확장 프로그램입니다. 이 도구는 여러 모델을 동시에 테스트할 수 있게 하여 성능에 대한 포괄적인 분석을 제공합니다. 사용자는 프롬프트 기반 벤치마크 테스트를 실행하여 토큰 수, 응답 시간 및 처리 속도를 평가할 수 있으며, 이는 AI 워크플로를 최적화하는 데 유용한 자원입니다.

이 확장 프로그램은 .txt, .csv 또는 .json과 같은 여러 형식으로 결과를 내보낼 수 있는 기능을 포함하여 여러 가지 기능을 제공합니다. 또한 로컬 및 원격 Ollama API를 모두 지원합니다. 추가로, 이 도구는 설정 및 결과를 로컬에 저장하여 사용자 개인 정보를 보장하며, 처리 중에 데이터가 수집되지 않습니다. 영어와 터키어로 제공되는 다국어 인터페이스를 갖춘 Ollama Benchmark는 완전히 무료로 사용할 수 있어 다양한 사용자에게 접근 가능합니다.