Descrição
Aplicativos C++ conseguem executar modelos PyTorch e operações com tensores com suporte a aceleração CUDA.
Este pacote é útil para projetos de aprendizado de máquina, ferramentas de pesquisa, serviços de inferência, simulações e aplicativos que precisam da API C++ do PyTorch em vez de Python. Ele não adiciona uma interface de treinamento de modelos por si só; desenvolvedores vinculam a biblioteca e fornecem modelo, dados e código de execução.
Cargas de GPU podem consumir muita memória, energia e tempo. Valide modelos, entradas, requisitos de privacidade e compatibilidade de drivers antes de usar em produção.