Warum es so schwer ist, autonome Agenten nützlich zu machen

Agent, der Begriff wurde 2023 zu einem heißen Thema – Sie haben wahrscheinlich von AutoGPT, Stanford Town, BabyAGI und unzähligen anderen "LLM-basierten Agenten" gehört. Dies sind nicht nur Konzepte; es sind echte Agenten, die ihre Umgebung wahrnehmen, ihre nächsten Schritte planen und Aufgaben ausführen können.

"Das ist definitiv die Zukunft!", schrien die Leute. In dieser Welle wurde puppyone gegründet. Als die Leute jedoch begannen, diese Agenten in ihre Arbeitsabläufe zu integrieren, stellten sie sofort fest, dass es viel schwieriger war als erwartet.

Kurz gesagt: Agenten sind heutzutage immer noch nicht so nützlich, wie wir dachten.

Warum ist es so schwer, autonome Agenten nützlich zu machen?

Letztes Jahr haben wir unseren Benutzern Agenten angeboten und Leute in unserem Umfeld befragt. Überraschenderweise gaben selbst diejenigen, die am enthusiastischsten über Agenten waren, eine einheitliche Antwort: Sie verwenden keine "vollständig autonomen Agenten" in der tatsächlichen Zusammenarbeit.

Entscheidungsträger, die sich für Agentenfähigkeiten entscheiden, haben eine anhaltende Sorge:

Wer trägt die Verantwortung, wenn der Fehler eines Agenten zu irreparablem Schaden führt?

In Unternehmensumgebungen ist allgemein anerkannt, dass es schwierig ist, sowohl volle Autonomie als auch vollständige Stabilität bei Agenten zu erreichen. Der Kompromiss zwischen diesen beiden Eigenschaften ist eine entscheidende Frage, die jeder Unternehmensanwender beantworten muss. Unsere aktuellen Praxisfälle deuten darauf hin, dass Unternehmen dazu neigen, Stabilität über Autonomie zu stellen.

Betrachten wir ein hypothetisches Szenario: Wenn ein Agent einem Mitarbeiter täglich 10 Minuten sparen könnte, aber ein 5%iges Risiko hätte, dem Unternehmen einen Schaden von 5 Millionen US-Dollar zu verursachen, würden Sie ihn kaufen?

Zwei Schlüsselfragen:

1. In welchem Fall sind die Kosten für den Fehler eines Agenten niedrig?

2. In welchem Fall sind die Kosten für die Überprüfung, ob der Agent einen Fehler gemacht hat, niedrig?

Durch die Iteration dieser beiden Fragen können wir potenzielle SaaS für Agenten identifizieren. RPA (Robotic Process Automation) und Flow. Sie eignen sich von Natur aus für die Implementierung, da sie entweder Stabilität garantieren oder die Fähigkeiten des Agenten durch strenge Regeln einschränken. Dieser Ansatz minimiert die Kosten für die Fehler eines Agenten und verbessert die Interpretierbarkeit des Prozesses, sodass Probleme auf bestimmte Schritte im Prozess zurückverfolgt werden können.

Übrigens erklärt dies auch, warum über 50 % der Anwendungsfälle von Agenten in RAG (Retrieval-Augmented Generation) Q&A und einfachen CRUD-Aufgaben liegen. Diese Szenarien umgehen die oben genannten kritischen Probleme.

Auf welche Weise können die Fähigkeiten eines Agenten genutzt werden?

Nur durch die Beantwortung der beiden oben genannten Schlüsselfragen kann ein Agentenprodukt wirklich seinen PMF finden. Betrachten wir zwei Beispiele:

Zapier (RPA-Produkt)

Zapier, ein typisches RPA-Produkt, schwenkt in Richtung Agenten um. Im April 2023 debütierte der Agent von Zapier im OpenAI-Plugin-Store als Werkzeug, das aus einem einzigen Satz feste Arbeitsabläufe generiert (Text zu Workflow). Er wurde auch auf dem DevDay von OpenAI im November 2023 vorgestellt.

In Zapier fungiert das LLM (Large Language Model) eher als ein Copilot zur Generierung von RPA-Workflows als als Agent. Der Wert des LLM liegt in der Vereinfachung der Erstellung von RPA-Workflows, nicht in der Entscheidungsfindung bei der Echtzeitausführung. Die meisten zahlenden Benutzer suchen nach Lösungen für Probleme, die RPA bewältigen kann, was mit der ursprünglichen Positionierung von Zapier übereinstimmt: "Wie man Informationen von einer Software zur anderen synchronisiert."

Es gibt viele ähnliche Produkte, wie z. B. Make, die RPA im Wesentlichen in die LLM-Ära erweitern. Sie bieten vollständige Stabilität und fehlerfreien Betrieb, aber es fehlt ihnen an Autonomie.

Retool Workflow (Flow-Produkt)

Retool, ein etabliertes SaaS-Unternehmen, brachte im September 2023 sein Workflow-Produkt auf den Markt. Dieses Angebot bietet ein No-Code-Bearbeitungsframework, das sich auf die Low-Code-Workflow-Bearbeitung konzentriert und spezifische Optimierungen für RAG enthält.

Ähnliche Produkte in diesem Bereich sind Dify, FastGPT, LangFlow und Flowise. Diese Tools ermöglichen eine schnelle und einfache Bearbeitung von Agenten über Schnittstellen und stehen im Gegensatz zu den starren Einschränkungen von RPA für das "Agentenverhalten". Obwohl sie LLMs in bestimmten Phasen einbeziehen, werden die meisten logischen Entscheidungen von harter Logik gehandhabt, wodurch die Rolle der Werkzeugnutzung minimiert wird. Dieser Ansatz gewährleistet die Stabilität der Ausgabe des Agenten durch das Framework.

Flow-Produkte eignen sich besonders gut für die Behandlung von Grenzfällen in Unternehmen und lassen sich nahtlos in interne Prozesse integrieren. Derzeit fallen die am weitesten verbreiteten Agentenprodukte in Unternehmensumgebungen in diesen Typ.

Was ist puppyone?

puppyone ist ein 2023 gegründetes Startup,

Wir bieten derzeit RAG-Dienste für Unternehmen an, die den Aufbau, die Bereitstellung und die Wartung eines RAG-Systems umfassen.

Das ultimative Ziel von puppyone ist es, einen agentenzentrierten Arbeitsbereich zu schaffen, der mit Menschen zusammenarbeitet.