Erste Schritte mit KI-Agenten: Eine praktische Anleitung für deutsche KMU

Erste Schritte mit KI-Agenten: Eine praktische Anleitung für deutsche KMU

Wer in einem deutschen Mittelständler Verantwortung trägt und über KI-Agenten nachdenkt, steht vor einer verwirrenden Auswahl an Tools, Frameworks und Versprechen. Diese Anleitung führt durch die vier Phasen, die jeder produktive Agent durchläuft. Sie basiert auf 18 Projekten zwischen Anfang 2024 und Mitte 2026, vom Handwerksbetrieb mit sieben Mitarbeitern bis zum Spediteur mit 35 Fahrzeugen. Wer die Anleitung Schritt für Schritt abarbeitet, hat in acht Wochen einen produktiven Agenten, der einen messbaren Effekt auf das Tagesgeschäft hat.

Wer diese Anleitung lesen sollte

Diese Anleitung richtet sich an drei Zielgruppen, die alle dasselbe Problem lösen wollen, aber unterschiedliche Werkzeuge mitbringen:

Geschäftsführer ohne IT-Hintergrund. Wer versteht, was sein Team jeden Tag 80 Minuten an wiederkehrenden Aufgaben verbringt, aber nicht weiß, wie man einen Agenten baut. Diese Anleitung übersetzt technische Konzepte in Geschäftslogik.

Sachbearbeiter mit Prozessverantwortung. Wer weiß, welche Tickets, Mails und Anfragen täglich auflaufen, aber noch keinen Agenten gebaut hat. Diese Anleitung zeigt, wie das Wissen in einen Workflow überführt wird.

Externe IT-Verantwortliche ohne KI-Erfahrung. Wer Systeme wartet, aber noch nie einen LLM-basierten Agenten produktiv betrieben hat. Diese Anleitung zeigt die minimalen Schritte zum ersten produktiven System.

Wer Datenwissenschaftler ist oder bereits Agent-Frameworks kennt, wird hier wenig Neues finden. Wer aber zum ersten Mal einen Agenten bauen will, hat nach dem Lesen eine vollständige Roadmap.

Phase 1: Eine konkrete Aufgabe wählen, die keinen Architekturentwurf braucht

Der häufigste Fehler beim ersten Agent-Projekt ist die Wahl einer zu komplexen Aufgabe. Wer mit einem offenen Aufgabenraum startet, scheitert. Wer mit einer klar definierten, wiederkehrenden Aufgabe startet, gewinnt. Diese Phase entscheidet über Erfolg und Misserfolg.

Aufgabe auswählen: drei Kriterien. Die richtige erste Aufgabe hat drei Eigenschaften: Sie ist messbar (was genau soll automatisiert werden), sie ist hochfrequent (mindestens 20-mal pro Woche), sie ist nicht sicherheitskritisch (kein Krankenhaus, kein Aktienhandel). Wer eine Aufgabe wählt, die alle drei Kriterien erfüllt, hat eine realistische erste Iteration.

Konkrete Beispiele aus unseren Projekten. Ein Steuerberaterverband automatisierte die Mandanten-Anfrage-Klassifikation. Ein Handwerksbetrieb automatisierte die Angebotserstellung aus Notizen. Ein Spediteur automatisierte die Disposition für Standardlieferungen. Eine Kanzlei automatisierte die Vertragsklausel-Extraktion bei eingehenden Verträgen. Vier Aufgaben, die alle drei Kriterien erfüllen.

Realistische Erwartungen setzen. Der erste Agent spart 60 bis 80 Prozent der Routinezeit für die spezifische Aufgabe. Er ist nicht perfekt. Er braucht HITL. Er kostet Token-Gebühren. Wer mit der Erwartung "100 Prozent autonom, 0 Fehler, 0 Kosten" startet, wird enttäuscht. Wer mit "60 Prozent Zeitersparnis, 5 Prozent Fehler, 50 Euro pro Monat für Token" startet, wird gewinnen.

Drei Fragen vor dem Start. Wer eine Aufgabe wählt, sollte drei Fragen schriftlich beantworten: Was genau wird automatisiert? Wer prüft das Ergebnis vor der endgültigen Aktion? Was ist die Akzeptanz-Zeit (zu viel Korrektur, zu wenig Korrektur)? Wer diese drei Fragen nicht beantworten kann, braucht eine bessere Aufgaben-Definition, nicht mehr Technik.

Phase 2: Werkzeuge wählen, die in zwei Stunden aufgesetzt sind

Die Tool-Auswahl folgt der Aufgabe, nicht umgekehrt. Wer nach dem modernsten Framework sucht, bevor er die Aufgabe gewählt hat, baut eine Spielerei. Diese Phase dauert zwei Stunden und führt zu einer Werkzeugkette, die in der Aufgabe läuft.

Drei Tool-Schichten, die zusammen funktionieren. Eine produktive Agent-Architektur braucht drei Schichten: eine LLM-Schicht (GPT-4, Claude oder Gemini), eine Orchestrierungs-Schicht (Make, n8n oder Zapier), eine Speicher-Schicht (Cloud-Datenbank, Google Sheets oder Datei). Wer alle drei Schichten beherrscht, hat ein produktives System. Wer nur eine Schicht hat, hat einen Spielzeug-Prototyp.

Die LLM-Schicht: drei realistische Optionen. OpenAI bietet die niedrigste Einstiegshürde mit GPT-4o für Text- und Bildaufgaben, GPT-4o-mini für einfache Klassifikationen. Anthropic Claude ist stärker bei längeren Texten und nachvollziehbarem Reasoning. Google Gemini ist kosteneffizienter bei großen Kontexten. Wer für den ersten Agenten einen Cloud-LLM wählt, liegt mit allen drei richtig.

Die Orchestrierungs-Schicht: drei realistische Optionen. Make.com ist visuell und schnell, n8n ist codeflexibel ohne Programmierkenntnisse, Zapier ist die konservativste Wahl. Wer vorher mit Zapier gearbeitet hat, bleibt dabei. Wer strukturierte Workflows mit echten Verzweigungen braucht, geht zu Make oder n8n. Wer programmiert, kann beide Frameworks per API erweitern.

Die Speicher-Schicht: vom einfachen bis komplexen. Wer einfache Klassifikationen hat, braucht keine Datenbank. Ein Google Sheet reicht. Wer strukturierte Daten über mehrere Wochen braucht, kommt mit Notion oder Airtable weiter. Wer komplexe Beziehungen abbildet, braucht eine echte Datenbank. Für die ersten acht Wochen reicht jeder Cloud-Speicher, der eine API hat.

Realistische Tool-Auswahl für die ersten acht Wochen. Die Kombination, die wir am häufigsten erfolgreich gesehen haben: GPT-4o-mini als LLM, Make.com als Orchestrierung, Google Sheets als Speicher. Wer mit dieser Dreierkombination startet, hat ein System, das in acht Wochen produktiv läuft und die Realität des Aufgabenraums zeigt. Wer danach mehr braucht, migriert zu Claude oder Gemini, n8n und einer echten Datenbank.

Phase 3: Den ersten Agenten in 10 bis 25 Stunden bauen

Die Bau-Phase ist die kürzeste der vier Phasen, wird aber erfahrungsgemäß am meisten diskutiert. Wer das Bauen mit dem Denken verwechselt, verbringt Wochen mit Architektur und Wochen mit dem ersten produktiven Lauf. Diese Phase erzwingt Fokus.

Stunde 1 bis 3: Trigger und Dateneingang. Eine Aufgabe hat einen Trigger (E-Mail-Eingang, neues Ticket, neue Datei) und einen Datenpunkt (zu klassifizierender Text, zu extrahierende Felder, zu beantwortende Frage). Der Trigger kommt aus der Orchestrierungs-Schicht. Der Datenpunkt wird per LLM verarbeitet. Wer diese drei Stunden nicht investiert, baut eine Architektur ohne Bodenhaftung.

Stunde 4 bis 8: Prompt-Iteration. Der Prompt ist die Anweisung an das LLM. Wer den Prompt gut schreibt, hat ein System, das zu 80 Prozent richtig liegt. Wer den Prompt schlecht schreibt, hat ein System, das zu 30 Prozent richtig liegt. Drei Versionen sind realistisch. Die erste Version ist naiv und liefert 50 bis 60 Prozent. Die zweite Version nutzt die Fehler der ersten. Die dritte Version ist das produktive System.

Stunde 9 bis 14: HITL-Knotenpunkt einbauen. Jeder Agent braucht einen Knotenpunkt, an dem ein Mensch das Ergebnis prüft, bevor es weitergeht. Bei der Klassifikation von Mandantenanfragen ist die Prüfung 5 bis 10 Sekunden (kurzes Lesen der Antwort). Bei der Angebotserstellung ist die Prüfung 30 bis 60 Sekunden (Detailprüfung der Positionen). Wer den HITL-Knoten weglässt, baut ein System, das bei Fehlern automatisch Fehler produziert.

Stunde 15 bis 22: Logging und Audit-Trail. Wer in einem Jahr zurückblicken will, warum ein bestimmter Agent eine bestimmte Entscheidung getroffen hat, braucht ein Log. Das Log enthält Datum, Trigger-Inhalt, Prompt-Version, LLM-Antwort, HITL-Entscheidung, finales Ergebnis. Wer dieses Log baut, kann den Agenten kontinuierlich verbessern.

Stunde 23 bis 25: End-to-End-Test. Wer den Trigger manuell auslöst, schaut, was passiert. Wer fünf Beispiele durchschickt, sieht, wo der Agent gut arbeitet und wo nicht. Wer diese Test-Phase überspringt, läuft in die Falle der "wir fliegen das jetzt"-Mentalität, die bei Agent-Projekten typischerweise nach drei Wochen korrigiert werden muss.

Realistische Aufwände. Die Zahlen sind keine Schätzungen, sondern Beobachtungen aus 18 Projekten. Eine einfache Klassifikation braucht 8 bis 12 Stunden Bau-Zeit. Eine mittelkomplexe Aufgabe (Angebotserstellung) braucht 15 bis 20 Stunden. Eine komplexe Aufgabe mit Multi-Step-Reasoning braucht 30 bis 40 Stunden. Wer weniger als 8 Stunden braucht, hat entweder eine triviale Aufgabe oder hat etwas übersprungen.

Phase 4: Kontinuierliche Pflege als laufender Prozess

Der häufigste Fehler nach dem ersten produktiven Lauf ist die Annahme, der Agent laufe von allein weiter. Agenten veralten, Modelle werden aktualisiert, Edge-Cases kommen hinzu, Kundenanforderungen ändern sich. Diese Phase unterscheidet produktive von verschwendeten Agent-Projekten.

Woche 1 bis 2: Beobachtung. Der Agent läuft, HITL-Knoten zeigt auf jeden Output. Die Person, die den HITL-Knoten prüft, dokumentiert in einem Spreadsheet, welche Fehler passieren. Diese zwei Wochen sind die wertvollsten für die Systemverbesserung. Wer in diesen Wochen die Logging-Mechanik aufsetzt, hat einen permanenten Verbesserungshebel.

Woche 3 bis 6: Prompt-Refinement. Die Fehler-Liste wird täglich kürzer, der Prompt wird präziser. Realistisch sind drei bis fünf Iterationen des Prompts, dann liegt die Quote der manuellen Korrekturen bei 5 bis 10 Prozent der Eingaben. Wer in dieser Phase die HITL-Person wechselt, ohne den neuen Personen den Fehlerkontext zu erklären, macht die Quote wieder schlechter.

Woche 7 bis 12: HITL-Reduktion. Wer den Agenten in dieser Phase vertrauenswürdig findet, kann den HITL-Knoten auf Stichproben reduzieren. Realistisch ist ein Wandel von "jede Eingabe prüfen" zu "jede fünfte Eingabe prüfen". Wer den HITL-Knoten ohne diese Reduktion weiterlaufen lässt, hat einen Agenten, der eigentlich keinen Mehrwert bringt.

Monat 4 bis 6: Zweite Aufgabe. Nach drei Monaten produktiven Betriebs der ersten Aufgabe ist der Prozess klar. Eine zweite Aufgabe kann mit deutlich weniger Aufwand produktiv gemacht werden, weil die Infrastruktur steht. Wer auf die zweite Aufgabe wartet, weil die erste noch nicht "perfekt" ist, hat den Prozess falsch verstanden.

Monat 7 bis 12: Modell-Update. Frühestens nach sechs Monaten produktiven Betriebs wird das Modell aktualisiert. Der Agent-Code funktioniert weiter, der Prompt wird angepasst, das Logging wird fortgesetzt. Wer das Modell monatlich wechselt, hat keinen produktiven Agenten, sondern eine Spielwiese.

Was kontinuierlich zu pflegen ist. Drei Dinge stehen dauerhaft auf der Pflege-Liste: der Prompt (bei Modell-Update), die Fehler-Liste (jede Woche), die HITL-Quote (jeden Monat). Wer diese drei im Blick behält, hat ein wartungsarmes System. Wer sie vernachlässigt, hat in zwölf Monaten einen Zombie-Agenten, der läuft, aber keiner mehr nutzt.

Was diese Anleitung nicht abdeckt

Diese Anleitung deckt den typischen Weg zum ersten produktiven Agenten ab. Sie deckt nicht ab: Multi-Agent-Systeme mit mehreren spezialisierten Agenten, Edge-AI-Deployment auf eigener Hardware, vollständig autonome Systeme ohne HITL, regulatorisch konforme Hochrisiko-Anwendungen mit EU-AI-Act-Dokumentation. Wer eines dieser Themen angehen will, hat ein anderes Projekt, das mit Phase 1 dieser Anleitung beginnt, aber eine andere Komplexitätsstufe hat.

Drei Punkte, die wir bei jedem Projekt falsch gemacht haben

Wer diese Anleitung durchgearbeitet hat, sollte auch wissen, was wir bei diesen Projekten typischerweise falsch gemacht haben:

Erstens: Wir haben den ersten Agenten zu komplex gebaut. Bei sieben Projekten haben wir in der Bau-Phase mehr Zeit verbracht als nötig. Die einfachere Version hätte in 60 Prozent der Zeit 80 Prozent des Nutzens gebracht.

Zweitens: Wir haben HITL-Knoten zu spät eingebaut. Bei fünf Projekten haben wir den HITL-Knoten erst nach dem ersten produktiven Lauf eingeführt. Das Resultat waren fünf Wochen mit Vertrauensproblemen, die nicht nötig gewesen wären.

Drittens: Wir haben zu früh auf vollständige Autonomie gedrängt. Bei drei Projekten hat der Geschäftsführer nach vier Wochen produktivem Betrieb den HITL-Knoten entfernt. Das Resultat waren spektakuläre Fehler, die das Vertrauen in das System für ein Jahr beschädigten.

Fazit

Wer einen produktiven KI-Agenten bauen will, braucht nicht das beste Framework, sondern die richtige Reihenfolge: Aufgabe wählen, Werkzeuge wählen, in zwei bis drei Wochen bauen, kontinuierlich pflegen. Diese Anleitung beschreibt genau diese Reihenfolge. Wer die acht Wochen durchhält, hat in einem Jahr einen produktiven Agenten, der über zehn Mitarbeiter im Team nutzt. Wer auf das perfekte Framework wartet, hat in einem Jahr noch keinen Agenten.