Descrição
Modelos grandes de linguagem podem ser explorados e executados localmente por um aplicativo de desktop. Ele ajuda usuários a baixar modelos compatíveis, conversar com eles, testar prompts e usar inferência local sem depender de um serviço de IA hospedado para cada pedido.
Modelos locais ainda exigem confiança e julgamento. Downloads podem ser grandes, respostas podem estar erradas ou conter vieses, e prompts sensíveis continuam acessíveis a pessoas ou softwares com acesso à máquina.