Sherpa AI Server#
Sherpa AI Server – é um aplicativo de serviço web destinado ao treinamento, uso e re-treinamento de grandes modelos de linguagem (LLM) dentro de um ambiente corporativo fechado. O Sherpa AI Server combina um armazenamento vetorial de documentos, gerenciamento de modelos offline, suporte a diversos modelos de inteligência artificial – de diferentes tamanhos, com quantização e sem, sua execução em GPU ou CPU, design de cadeias de processamento de dados, acesso via API, plataforma de robotização e interface web, e muito mais.
Sherpa AI Server é um Centro de Inteligência Artificial que contém funcionalidades:
· grandes modelos de linguagem (LLM) em um ambiente fechado;
· chat web para funcionários da empresa no estilo ChatGPT com histórico e diálogos;
· suporte ao idioma russo;
· respostas a perguntas sobre documentos próprios;
· armazenamento vetorial de documentos embutido;
· API para qualquer aplicativo da empresa, compatível com OpenAI;
· integração com Sherpa RPA - trabalho com LLM a partir de scripts de robôs;
· segurança, privacidade, monitoramento, auditoria;
· modo multiusuário e multithread;
· escolha entre mais de 300 modelos de linguagem disponíveis;
· trabalho com CPU / GPU e os métodos mais modernos de quantização e batching de redes neurais;
· possibilidade de integração com qualquer plataforma RPA nacional por meio de API.
Sherpa AI Server possui uma ampla gama de capacidades e funcionalidades, que permitem ser utilizado como:
· chatbot para suporte ao cliente;
· chatbot para suporte a usuários internos;
· chatbot para respostas sobre o conteúdo de documentos corporativos e bases de conhecimento;
· construtor de documentos, gerador de contratos, vagas, relatórios, notas analíticas;
· robô advogado, robô vendedor, robô de recursos humanos, robô entrevistador,
robô documentalista, etc.;
· extração de dados estruturados e não estruturados de documentos, incluindo escaneados, e sua inserção em sistemas de informação;
· geração de planos de conteúdo, postagens de blog, artigos, resenhas, comentários, comunicados de imprensa, resumos, e-mails, newsletters, apresentações, etc.;
· geração de código, testes unitários, macros, consultas, comentários e documentação de código;
· análise semântica e análise de sentimento de comentários e feedbacks de clientes;
· BI (Business Intelligence) textual e de voz para dados corporativos;
· cópia em massa de edições de documentos, rastreamento e suporte a mudanças na documentação normativa.