Descrição
Modelos PyTorch em GPU podem usar técnicas torchao de otimização para quantização e fluxos eficientes de inferência. Engenheiros de ML podem experimentar compressão e aceleração de modelos em hardware compatível. Ele altera comportamento de execução de modelos, então precisão e compatibilidade devem ser validadas.