API-basierte KI-Integration: RAG, Agenten und Unternehmensarchitektur

Der tatsächliche Wert betrieblicher KI-Projekte liegt nicht allein in der Modellleistung, sondern darin, wie sicher und kontrolliert die KI mit bestehenden Unternehmenssystemen zusammenarbeitet. Eine KI-Anwendung ohne Anbindung an CRM, ERP, E-Commerce, Support, Dokumentenverwaltung und Datenquellen kann schnell zu einem eigenen Datensilo werden.

API-basierte KI-Integrationen ermöglichen die kontrollierte Anbindung von LLM-, RAG-, KI-Agenten- und Automatisierungsschichten an bestehende Unternehmenssysteme.

Was ist API-basierte KI-Integration?

Dabei nutzt eine KI-Anwendung definierte API-Schnittstellen, um Daten aus externen Systemen abzurufen oder kontrollierte Vorgänge auszuführen.

Beispielanbindungen:

CRM,
ERP,
Produktkatalog,
Bestandssystem,
Ticketsystem,
Unternehmensdokumente,
Analysesysteme.

Modell-, Daten- und Werkzeugebene trennen

In einer soliden Architektur greift das LLM nicht direkt auf jedes System zu.

Die Ebenen lassen sich wie folgt trennen:

Benutzer oder Anwendung,
KI-Orchestrierungsschicht,
Autorisierung und Richtlinien,
API- oder Werkzeugebene,
Unternehmensdatenquellen.

Wann wird RAG verwendet?

Retrieval-Augmented Generation kann eingesetzt werden, wenn ein Modell anhand aktueller, überprüfter Unternehmensinformationen antworten soll.

Eine kuratierte Wissensbasis kann beispielsweise Folgendes enthalten:

Produktdokumentation,
Verfahren,
Hilfezentrum,
Vertragsvorlagen,
technische Dokumentation.

Daraus lässt sich eine kuratierte Wissensbasis aufbauen.

RAG und API sind nicht das Gleiche

RAG dient vor allem dem Abrufen von Informationen. Eine API kann Echtzeitdaten lesen oder Vorgänge in einem System ausführen.

„Wie lauten unsere Versandbedingungen?“ lässt sich über RAG beantworten; „Wo ist meine Bestellung?“ über eine sichere Bestell-API.

Wann ist ein KI-Agent erforderlich?

Der Agent kann mehr als ein Werkzeug verwenden, um ein Ziel zu erreichen, anstatt nur eine Antwort zu erzeugen.

Zum Beispiel:

klassifiziert die Kundenanfrage,
prüft den CRM-Eintrag,
fragt die Bestell-API ab,
findet das passende Verfahren in der Wissensbasis,
erstellt einen Handlungsvorschlag.

Berechtigungen des Agenten begrenzen

Einem KI-Agenten Administratorrechte für alle Systeme zu geben, ist ein erhebliches Sicherheitsrisiko.

Für jedes Werkzeug ist Folgendes festzulegen:

zulässige Vorgänge,
zugängliche Daten,
Aufruflimits,
genehmigungspflichtige Aktionen,
Audit-Protokolle.

Diese Vorgaben müssen für jedes Werkzeug definiert sein.

Authentifizierung und Autorisierung

Die Identität des Nutzers im System muss auch auf der KI-Ebene erhalten bleiben.

Kunden sollten beispielsweise nur ihre eigenen Bestellungen sehen; Beschäftigte sollten nur auf die ihrer Rolle erlaubten Daten zugreifen können.

API-Gateway-Nutzung

Bei mehreren KI-Anwendungen und Diensten lassen sich Authentifizierung, Aufruflimits, Protokollierung und Richtlinienprüfungen über ein zentrales API-Gateway verwalten.

Strukturierte Ausgabe

Modellausgaben in einem definierten JSON-Format oder Schema statt als Freitext können die Zuverlässigkeit der Automatisierung erhöhen.

Diese Ausgabe muss auch von der Anwendung überprüft werden.

Halluzinationen von Werkzeugergebnissen unterscheiden

Die vom Modell erstellte Vorhersage und die überprüften tatsächlichen Daten aus der API sind nicht dasselbe.

Die Benutzeroberfläche und die Systemarchitektur müssen diese Unterscheidung beibehalten.

Beobachtbarkeit

Es reicht nicht, nur HTTP 200 in der KI-Integration zu sehen.

Überwacht werden können:

Latenz,
Token-Kosten,
Anzahl der Werkzeugaufrufe,
fehlgeschlagene API-Aufrufe,
Fallback-Rate,
Rate der Weiterleitung an Menschen,
Rückmeldungen zu falschen Antworten.

Versionierung von Prompts und Modellen

Ausgaben können sich ändern, wenn das Modell oder der System-Prompt geändert wird. Deshalb sollten Änderungen an Prompts, Modellen und Werkzeugschemata versioniert werden.

Personenbezogene und sensible Daten

Nicht alle Daten sollten an das Modell gesendet werden. Bei personenbezogenen und geschäftlich sensiblen Daten sind Datenminimierung, Maskierung, Anbieterbedingungen sowie anwendbare KVKK-/DSGVO-Pflichten zu prüfen.

Fallback-Konzept

Der Hauptbetrieb sollte nicht vollständig stillstehen, wenn der KI-Anbieter oder die Integration vorübergehend ausfällt.

Für kritische Prozesse kann ein Wechsel zu einem klassischen regelbasierten Fallback oder menschlicher Unterstützung vorgesehen werden.

Wie man einen PoC startet?

Bei betrieblicher KI-Integration ist ein einzelner Anwendungsfall ein sinnvollerer Einstieg, als alle Systeme in einem Projekt zusammenzuführen.

Ein Einstieg wäre etwa ein Support-Assistent auf Basis von Produktdokumenten oder Ticket-Klassifizierung mit CRM-Anreicherung.

Der Ansatz B10

B10 Digital Agency konzipiert KI-Projekte als Unternehmenssysteme, die in die Daten- und Softwarearchitektur integriert sind, statt als eigenständige Chatbots.

Fazit

Erfolgreiche betriebliche KI-Architektur erfordert mehr als die Wahl des richtigen Modells. Werden Datenquellen, API-Berechtigungen, RAG, Agentenwerkzeuge, Beobachtbarkeit und menschliche Kontrolle gemeinsam gestaltet, wird KI zu einem verlässlichen Teil des bestehenden digitalen Ökosystems.