Sprachmodelle mit Systemzugriff

Was ist Function Calling?

Mit Function Calling können wir Sprachmodelle (LLMs) so konfigurieren, dass sie gezielt Funktionen in unserem Backend aufrufen – z. B. um Kundendaten abzurufen, einen Termin zu buchen oder Informationen aus einem System bereitzustellen.

Anstatt dass der Chatbot einfach nur einen Text generiert, erkennt er anhand der Eingabe des Nutzers, welche Funktion er aufrufen muss – und liefert die passenden Parameter gleich mit.

Function Calling einfach erklärt

Schritt 1 – Tool Definition & Nutzeranfrage

• Entwicklerseite: Definiert, welche Funktionen dem Modell zur Verfügung stehen und welchen Zweck sie erfüllen. (z.B. get_weather(location))
• Nutzerseite: Ein Benutzer fragt z. B.: „Wie ist das Wetter in Luzern?“
• Modell erkennt: Dafür könnte eine passende Funktion aufgerufen werden.

Schritt 2 – Tool Call durch das Modell

• Das Modell analysiert die Anfrage und erkennt, dass ihm einen passende Funktion für diese Anfrage zur verfügung steht.
• Das Modell teilt dem System mit, mit welchen Parametern es die Funktion aufrufen soll.

Schritt 3 – Ausführung im Backend

• Das System für die Funktion tatsächlich aus.
• Die Funktion ruft z. B. ein Wetter-API auf und liefert das Ergebnis als JSON zurück.

Schritt 4 – Ergebnis zurück ans Modell

• Das Modell erhält jetzt: {"temperature": 14}
• Zusammen mit dem bisherigen Gesprächsverlauf wird dieser Wert in den Kontext geladen.

Schritt 5 – Modell generiert Antwort

• Das Modell erstellt nun aufgrund bekannten Informationen eine passende Antwort in natürlicher Sprache, z. B.: „Es ist zurzeit 14 °C in Luzern.“

Unser Einsatz von Function Calling

• Automatisierte Terminvereinbarung direkt im Chat
• Dynamischer Aufruf spezifischer Datenbankabfragen auf Nutzerwunsch
• Anbindung an das Ticketsystem zur Statusabfrage oder Ticketerstellung

Mit Function Calling wird der Chatbot zum echten Interface für digitale Prozesse. Verständlich in natürlicher Sprache, technisch präzise im Hintergrund.

Und das Beste: Wir passen die Funktionalitäten flexibel an Ihre individuellen Anforderungen an. Auf Kundenwunsch integrieren wir jederzeit weitere Function-Calling-Schnittstellen, um den Chatbot noch besser auf Ihre spezifischen Geschäftsprozesse zuzuschneiden.

Vorteile für unsere Kunden

• Schnellere Antwortzeiten dank direkter Anbindung an interne Systeme
• Weniger Fehler durch strukturierte, kontrollierte Funktionsaufrufe
• Natürlichere Benutzererfahrung, bei der Sprache und Systemlogik nahtlos zusammenarbeiten

Ausblick

Für uns ist Function Calling ein Meilenstein in der Entwicklung intelligenter digitaler Assistenten. Zukünftig möchten wir diese Technologie noch stärker mit bestehenden Systemen wie Datenbanken, Kalenderschnittstellen oder Echtzeit-Services verknüpfen.

Interesse geweckt?

Gerne zeigen wir dir in einer Live-Demo, wie du diese Funktionen für dein Projekt nutzen kannst.