엔비디아 NVIDIA GTC 2024 Keynote 리뷰
엔비디아가 GTC라는 컨퍼런스를 개최했습니다. 한마디로 엔비디아 측에서는 새로운 신기술을 내보이는 컨퍼런스라고 생각하시면 됩니다. 결론부터 이야기 했을 때 NVIDIA는 반도체기업이 아니라 소프트웨어 플랫폼 기업이라는 것을 강조를 하였고 소프트웨어 구독 서비스 NIM을 발표하기도 했습니다.
Blackwell B200 GPU
- 올해 말 출시예정
- 지금까지 AI를 위한 반도체 중 가장 성능이 뛰어날 것으로 예상
사람들이 주목하고 있는 블랙웰 아키텍처 기반의 B200 이라는 GPU가 발표됐습니다. 지금까지 나온 AI를 위한 반도체 중에서는 성능이 가장 좋은 것으로 예상되고 있고 올해 말에 출시예정이라고 합니다.
B200의 트렌스포머 엔진
- 트랜스포머 기반 AI 실행에 최적화
- 2080억개의 트랜지스터
ChatGPT는 트랜스포머 기반으로 작동이 됩니다. LLM과 같이 트랜스포머 기반으로 작동하는 AI모델을 하드웨어에서 더 빨리 수행할 수 있도록 트렌스포머 엔진이 장착되어 있습니다. 2080억개의 트랜지스터가 장착되어 있기 때문에 그 만큼 AI실행에 있어서 최적화 되어 있는 반도체라고 할 수 있습니다.
Blackwell GB200 NVL72
- Hopper : 8000 GPUs | 15MW
- Blackwell GB200 NVL72 : 2000GPUs | 4MW
- 인퍼런스 성능 30배
B200 두 개와 GraceCPU 한 개를 보드로 묶어서 나온 제품이 GB200이라고 합니다. 결국 GB200들이 모여서 데이터센터에 들어간다고 보면 됩니다. 이 제품은 기존 Hopper아키텍처와 GPT모델에 사용하는 똑같은 조건에서 15MW 전력을 사용하는데에 8,000개의 GPU가 필요한데 비해서 Blackwell GB200 NVL72의 경우에는 4MW전략을 사용하는데 2000개의 GPU가 필요하다고 합니다.
그 만큼 기존제품 대비 적은 GPU로 전력량이 적게 들어간다는 것을 강조하고 있으며, 추론성능은 기존 제품과 30배가 차이가 난다고 합니다. 이를 통해 기후예측, 디지털 트윈, 바이오 혁명, 로봇 공학 등 모든 산업에 기여하고 있다고 주장하고 있습니다.
더 많은 콘텐츠 -> 엔비디아(NVIDIA) 7가지 비즈니스모델