Descrição
Modelos PyTorch em GPU podem usar técnicas torchao de otimização em sistemas compatíveis com ROCm/HIP. Engenheiros de ML podem experimentar quantização, compressão de modelos e fluxos eficientes de inferência em pilhas AMD GPU. Ele altera comportamento de execução de modelos, então precisão e compatibilidade devem ser validadas.