AGENTE AVALIADOR BASEADO EM LLM DE ARQUITETURA HÍBRIDA, E CONJUNTO DE AGENTE AVALIADOR BASEADO LLM COMPREENDENDO UM ENSEMBLE DE LLMS JURADOS

Classificação IPC

Resumo técnico

AGENTE AVALIADOR BASEADO EM LLM DE ARQUITETURA HÍBRIDA, E CONJUNTO DE AGENTE AVALIADOR BASEADO LLM COMPREENDENDO UM ENSEMBLE DE LLMS JURADOS. A presente invenção refere-se a um agente avaliador baseado em LLM com arquitetura híbrida, que é uma amálgama das arquiteturas single prompt e multi prompt conhecidas. O agente avaliador híbrido (30) da presente invenção compreende um agente ponteiro (31) configurado com descrições curtas, de um ou duas linhas de texto, de pilares de diretrizes ou regras a serem seguidas e avalia uma interação (40) de um usuário (geralmente com um chatbot) para identificar quais pilares ou regras podem ter sido abordados nessa interação. O agente ponteiro (31) informa a um agente avaliador quais pilares ou regras foram identificados. O agente avaliador (32) é configurado com prompts detalhados e específicos de cada um dos pilares de diretrizes ou regras e realiza chamadas apenas para aqueles pilares ou regras identificadas pelo agente ponteiro (31). Assim, o agente avaliador (32) evita chamadas LLMs desnecessárias, reduzindo o custo computacional e latência. Ademais, como os prompts do agente avaliador (32) são especializados para cada pilar ou regra, a precisão e especificação são altas. A presente invenção prevê ainda um conjunto de agente avaliador baseado em um ensemble de LLMs jurados, onde pelo menos um dos LLM jurados é o agente avaliador baseado em LLM com arquitetura híbrida (30).