라이젠 AI 헤일로 495, 192GB면 더 빠를까
192GB는 큰 모델을 ‘올리는’ 능력이지 ‘빠르게 돌리는’ 능력이 아니다. 대역폭은 273GB/s로 128GB급과 비슷하고, 300B 일반 모델은 단순 계산상 초당 2토큰을 넘기 어렵다. 국내 출시는 아직 확인되지 않았다.
192GB는 큰 모델을 ‘올리는’ 능력이지 ‘빠르게 돌리는’ 능력이 아니다. 대역폭은 273GB/s로 128GB급과 비슷하고, 300B 일반 모델은 단순 계산상 초당 2토큰을 넘기 어렵다. 국내 출시는 아직 확인되지 않았다.