|
|
|
 |
 |
| |
 |
제 목 :
[엔비디아] 베라 루빈·블랙웰 에이전트 X 벤치마크 결과 공개 |
 |
작성자 :
|
등록일 : 2026-08-25 오후 8:52:50 |
|
|
 |
 |
 |
엔비디아가 베라 루빈 NVL72와 블랙웰 GB300 NVL72의 세미애널리시스 에이전트X(SemiAnalysis AgentX) 벤치마크 결과를 공개하며, 에이전틱 AI 추론 성능과 전력 효율의 새로운 기준을 제시했다.
AI 에이전트는 추론을 단일 턴 상호작용에서 여러 단계에 걸친 추론, 도구 호출, 하위 에이전트 조정, 턴 사이 다량의 컨텍스트 연결 등 다단계 워크플로우로 확장했다. 이러한 변화의 규모는 실제 소비량에서도 뚜렷하게 나타난다. 오픈라우터(OpenRouter)의 State of AI 보고서가 실제 사용 데이터 100조 토큰을 분석한 결과, 요청당 평균 프롬프트 토큰 수가 약 4배 증가했으며, 단일 에이전트 요청이 일반 채팅에 비해 15배 더 많은 토큰을 소비하는 것으로 나타났다.
이러한 워크로드에서 하드웨어 성능을 정확하게 평가하는 것은 새로운 과제를 제시한다. 유용한 벤치마크는 현실적인 동시성 조건 하에서 긴 컨텍스트 프리필(prefill), KV 캐시 재사용, 인터랙티브 디코딩, 툴 호출 간격, 분산형 전문가 혼합(mixture of experts, MoE) 실행을 모두 반영해야 한다. 또한 적절한 사용자 경험을 유지하면서 AI 팩토리의 전력 예산 중 얼마나 많은 부분이 유용한 에이전트 처리량으로 전환되는지도 보여줘야 한다.
|
|
|
|
| 덧글쓰기 |
 |
|
|
|
|
|
|
|
|
|
|
최신게임뉴스
총 140949의
게시물이 있습니다. 
