Apresentando o acelerador e a plataforma AMD Instinct MI325X
ARQUITETURA DE NÚCLEO AMD CDNATM DE 3ª GERAÇÃO: Utiliza tecnologia avançada de empilhamento de matrizes e chiplets. Este design de ponta foi criado especificamente para conduzir as cargas de trabalho de IA mais exigentes, oferecendo desempenho, eficiência e escalabilidade incríveis.
CAPACIDADE DE MEMÓRIA: Com enorme memória HMB3E, esses aceleradores lidam facilmente com grandes conjuntos de dados e cálculos complexos, tornando-os ideais para inferência de IA, treinamento de IA e análise de dados. Uma plataforma alimentada por 8 aceleradores de GPU AMD InstinctTM MI325X ostenta dois terabytes de memória alucinantes com latência reduzida em comparação com a concorrência. MI325-015 A plataforma MI325X oferece escalabilidade perfeita como um substituto imediato para a plataforma Instinct MI300X.
Aumente a eficiência multitarefa e otimize a utilização de recursos ao mesmo tempo em que oferece suporte a várias máquinas virtuais e modelos de IA extensivos.
LARGURA DE BANDA DE MEMÓRIA: Experimente transferência rápida de dados, rendimento aprimorado
e latência minimizada, permitindo acesso rápido a grandes conjuntos de dados, acelerando os processos de treinamento de IA. Melhore a escalabilidade e ofereça suporte a dados complexos de alta resolução com facilidade, otimizando a utilização do núcleo da GPU para inferência de IA eficiente e em tempo real. Transforme seus recursos de IA com velocidade e eficiência excepcionais de processamento de dados, gerando soluções de IA mais poderosas.
Projetado para acelerar cargas de trabalho modernas
As crescentes demandas de IA generativa, modelos de linguagem grande, inferência e treinamento de aprendizado de máquina colocam demandas de nível superior nos aceleradores de GPU.
A GPU discreta AMD Instinct MI325X oferece desempenho superior em um amplo conjunto de tipos de dados necessários para software de IA, incluindo FP16, BF16, FP8 e INT8 usados em inferência e treinamento de alta precisão.
MI325-002 Uma memória HBM3E de 256 GB líder do setor MI325-001A e largura de banda de 6 TB/s permite que um único acelerador contenha e processe um modelo de parâmetro de um trilhão, reduzindo o custo total de propriedade para modelos de linguagem grande selecionados. MI325-003
O suporte para escassez de matriz economiza ainda mais o uso de memória e aumenta a velocidade computacional, ajudando a permitir o dimensionamento sustentável de soluções de IA em data centers, acelerando o tempo de lançamento no mercado e aprimorando o desempenho.
Integrado ao software AMD ROCmTM, o acelerador oferece suporte a estruturas principais de IA e HPC, simplificando a implantação.
A compatibilidade perfeita e imediata com a plataforma AMD Instinct MI300X vem por meio do forte suporte de nossos parceiros OEM, estruturas líderes do setor e milhares de modelos de linguagem grande.
