Descrição
Modelos de linguagem locais podem usar ROCm para aceleração em GPUs AMD compatíveis. Isso ajuda usuários a executar modelos de IA localmente com melhor desempenho que inferência apenas por CPU.
É um pacote de desenvolvimento do Ollama para sistemas ROCm. Revise suporte do driver, tamanho dos modelos, uso de disco e privacidade dos prompts antes do uso.