Gemma 4 모델 GPU별 성능 벤치마크 비교

Gemma 4 모델 GPU 성능 테스트 결과

Gemma 4 Dense(31B) 모델과 MoE(26B) 모델을 다양한 GPU 환경에서 테스트한 결과가 공유되었습니다.

테스트 환경

테스트에 사용된 GPU는 다음과 같습니다:

단건 처리와 다건 동시 처리 두 가지 시나리오로 성능을 측정했습니다.

주요 발견사항

가장 흥미로운 결과는 RTX 6000 PRO Blackwell이 A100보다 토큰 처리 속도가 더 빠르게 나왔다는 점입니다.

이는 최신 Blackwell 아키텍처의 개선된 성능을 보여주는 결과로, AI 추론 작업에서 새로운 아키텍처의 효율성을 확인할 수 있었습니다.

의미