Por Que Tornar os Agentes Autônomos Úteis é Tão Difícil

Agente, o termo se tornou um tópico quente em 2023—você provavelmente ouviu falar de AutoGPT, Stanford Town, BabyAGI, e incontáveis outros "agentes baseados em LLM." Estes não são apenas conceitos; são agentes reais que podem sentir seu ambiente, planejar seus próximos passos e executar tarefas.

"Esse é definitivamente o futuro!" as pessoas gritavam. Foi durante essa onda que puppyone foi fundado. No entanto, conforme as pessoas começaram a integrar esses agentes em seus fluxos de trabalho, imediatamente perceberam que era muito mais desafiador do que antecipado.

Em resumo: Agentes hoje ainda não são tão úteis quanto pensávamos que seriam.

Por Que Tornar os Agentes Autônomos Úteis é Tão Difícil?

No ano passado, oferecemos agentes aos nossos usuários e entrevistamos pessoas ao nosso redor. Surpreendentemente, até aqueles mais entusiasmados sobre agentes deram uma resposta consistente: eles não estão usando "agentes totalmente autônomos" na colaboração real.

Tomadores de decisão que compram capacidades de agentes enfrentam uma preocupação persistente:

Quem assume responsabilidade se um erro do agente levar a danos irreparáveis?

Em configurações empresariais, é amplamente aceito que alcançar tanto autonomia completa quanto estabilidade total em agentes é desafiador. O trade-off entre essas duas qualidades é uma questão crucial que todo usuário empresarial tem que responder. Nossos casos do mundo real atuais sugerem que empresas tendem a priorizar estabilidade sobre autonomia.

Vamos considerar um cenário hipotético: Se um agente pudesse economizar 10 minutos diários para um funcionário mas carregasse um risco de 5% de causar uma perda de $5 milhões para a empresa, você compraria?

Duas questões chave:

1. Em qual caso o custo do erro de um agente é baixo?

2. Em qual caso o custo de verificar se o agente cometeu um erro é baixo?

Ao iterar nessas duas questões, podemos identificar SaaS potenciais para agentes. RPA (Automação de Processos Robóticos) e Flow. Eles são naturalmente adequados para implementação porque ou garantem estabilidade ou limitam as capacidades do agente através de regras rigorosas. Esta abordagem minimiza o custo dos erros de um agente e melhora interpretabilidade do processo, tornando possível rastrear problemas para passos específicos no processo.

A propósito, isso também explica por que mais de 50% dos cenários de aplicação de agentes estão em RAG (Geração Aumentada por Recuperação) Q&A e tarefas CRUD simples. Esses cenários contornam as questões críticas mencionadas acima.

De Que Forma as Capacidades de um Agente Podem Ser Usadas?

Apenas abordando as duas questões chave mencionadas acima um produto de agente pode verdadeiramente encontrar seu PMF. Vamos examinar dois exemplos:

Zapier (Produto RPA)

Zapier, um produto RPA típico, está pivotando em direção a agentes. Em abril de 2023, o agente do Zapier estreou na loja de plugins OpenAI como uma ferramenta que gera fluxos de trabalho fixos de uma única frase (texto para fluxo de trabalho). Também foi destaque no DevDay da OpenAI em novembro de 2023.

No Zapier, o LLM (Modelo de Linguagem Grande) funciona mais como um copiloto gerador de fluxo de trabalho RPA do que um agente. O valor do LLM reside em simplificar criação de fluxo de trabalho RPA, não em tomar decisões de execução em tempo real. A maioria dos usuários pagantes busca soluções para problemas que RPA pode lidar, alinhando com o posicionamento original do Zapier: "Como sincronizar informações de um software para outro."

Muitos produtos similares existem, como Make, que essencialmente estendem RPA para a era LLM. Oferecem estabilidade completa e operação livre de erros mas carecem de autonomia.

Retool Workflow (Produto Flow)

Retool, uma empresa SaaS bem estabelecida, lançou seu produto de fluxo de trabalho em setembro de 2023. Esta oferta fornece uma estrutura de edição sem código que foca em edição de fluxo de trabalho low-code e inclui otimizações específicas para RAG.

Produtos similares neste espaço incluem Dify, FastGPT, LangFlow e Flowise. Essas ferramentas permitem edição de agente rápida e fácil através de interfaces, contrastando com limitações rígidas do RPA no "comportamento do agente". Embora incorporem LLMs em certas etapas, a maioria das decisões lógicas são lidadas por lógica dura, minimizando o papel do uso de ferramentas. Esta abordagem garante a estabilidade da saída do agente através da estrutura.

Produtos-Flow são particularmente bem adequados para abordar casos extremos dentro de empresas e se alinham perfeitamente com processos internos. Atualmente, os produtos de agente mais amplamente adotados em configurações empresariais se enquadram neste tipo.

O que é puppyone?

Puppyone é uma startup fundada em 2023,

Atualmente fornecemos serviços RAG para empresas, envolvendo a construção, implantação e manutenção de um sistema RAG.

O objetivo final do puppyone é construir um espaço de trabalho centrado em agentes que colabora com humanos.