Diagrama de implantação do Sherpa AI Server em conjunto com Robôs#

Em boa qualidade, pode ser baixado aqui:

A extensão do diagrama de implantação da plataforma Sherpa RPA descreve o uso do componente Sherpa AI Server como parte da plataforma de robotização para a implementação de cenários utilizando inteligência artificial e
grandes modelos de linguagem.

Todos os componentes do Sherpa AI Server são instalados localmente na rede do Cliente, sem conexão com servidores externos ou serviços SaaS. A implantação do Sherpa AI Server é realizada por meio de um contêiner Docker.

Composição da solução#

  1. Interface web do usuário para comunicação direta com o grande modelo de linguagem
  2. Armazenamento vetorial-semântico
  3. Servidor de inferência do grande modelo de linguagem
  4. Servidor de embedding do grande modelo de linguagem

Configuração de rede#

A configuração de portas e protocolos de rede do Sherpa AI Server pode ser ajustada para atender a todos os requisitos comuns de firewall. Para interação com o servidor web, utiliza-se https, sendo opcional o uso de http. Ao instalar com TLS, o cliente deve fornecer os certificados necessários, colocando-os no caminho /opt/app/config/certs/, renomeando-os para aiserver.crt e aiserver.key.

Mecanismos de autenticação#

A autenticação de usuários web no Sherpa AI Server é realizada por meio de login e senha. A autenticação de aplicativos externos, incluindo robôs da plataforma Sherpa RPA, é feita por meio de um token de API.