Descrição
Executores locais e remotos de modelos de linguagem podem ser usados por uma interface web com uma camada de API compatível com OpenAI. É útil para equipes e pessoas que querem chat, gerenciamento de modelos e endpoints de integração em torno de ferramentas como Ollama.
Interfaces web de LLM podem armazenar prompts, arquivos, chaves de API, histórico de conversas e contas de usuário. Proteja o servidor, revise acesso aos modelos e evite exposição pública sem autenticação.