KI-Grundlagen

Dieses Kapitel vermittelt Grundlagen der KI: was KI leisten kann, wo ihre Grenzen liegen und wie ihre Ergebnisse geprüft werden. Diese Grundlagen helfen in der täglichen Arbeit mit Agenten, Workflows und Automatisierungen. Agenten sind KI-Programme mit einer festen Aufgabe, eigenem Wissen und eigenen Fähigkeiten (siehe Agenten verstehen).

Wie KI funktioniert

Künstliche Intelligenz (KI) steht für Computerprogramme, die Aufgaben übernehmen, für die typischerweise menschliche Fähigkeiten nötig sind: Muster erkennen, Sprache verstehen und erzeugen, Dokumente klassifizieren, inhaltliche Ähnlichkeiten finden oder Informationen aus Bildern und Dokumenten gewinnen.

Moderne KI erhält diese Fähigkeiten nicht aus Regeln, die Entwickler programmieren. Ein KI-Modell lernt stattdessen Muster aus sehr großen Datenmengen und wendet das Gelernte auf neue Aufgaben an.

Für verschiedene Aufgaben gibt es verschiedene Arten von KI-Modellen:

• Sprachmodell – ein KI-Modell, das Text versteht und erzeugt: Es beantwortet Fragen, fasst Dokumente zusammen und formuliert Entwürfe.
• Multimodales Modell – ein KI-Modell, das verschiedene Arten von Eingaben verarbeitet – etwa Text und Bilder. Es beschreibt z. B. den Inhalt eines Fotos oder beantwortet Fragen zu einem Bild.
• OCR-Modell – ein KI-Modell, das Text aus Dokumenten und Bildern ausliest. OCR steht für Optical Character Recognition.
• Embedding-Modell – ein KI-Modell, das inhaltliche Ähnlichkeiten zwischen Texten erkennt. Es ermöglicht die semantische Suche im Unternehmenswissen, die nach Bedeutung statt nach exakten Wörtern sucht.

Vier Eigenschaften gelten für jedes Sprachmodell – und damit auch für die Arbeit mit incoreon AI:

• Gelernt, nicht spezifiziert. Das Verhalten eines Modells stammt aus gelernten Mustern – nicht aus einer Vorgabe, die jemand vollständig prüfen und garantieren könnte.
• Plausibel, nicht verifiziert. Ein Sprachmodell kann von sich aus nicht nachschlagen – das ermöglichen ihm z. B. Fähigkeiten und Wissen eines Agenten. Die Antwort erzeugt das Modell trotzdem selbst: die statistisch wahrscheinlichste. Plausibel ist nicht dasselbe wie richtig.
• Nicht vollständig reproduzierbar. Dieselbe Frage kann zu unterschiedlichen Antworten führen.
• Flüssig formuliert, unabhängig von der Richtigkeit. Antworten klingen durch ihre Formulierung überzeugend. Es gibt kein zuverlässiges Signal dafür, wann sich das Modell unsicher ist.

Chancen und Risiken

KI hilft beim Formulieren, übernimmt wiederkehrende Arbeit und erschließt Unternehmenswissen. Zugleich entstehen Risiken, die bei der Nutzung im Blick zu behalten sind.

Was KI bringt:

• Texte entwerfen, zusammenfassen und überarbeiten – etwa E-Mails, Berichte und Antworten
• Operative Prozesse automatisieren, sodass sie ohne manuelle Bearbeitung laufen
• Unternehmenswissen erschließen, sodass Antworten aus eigenen Dokumenten entstehen
• Wiederkehrende Aufgaben abgeben, sodass Zeit für andere Arbeit bleibt

Was schiefgehen kann:

• Halluzination – eine Antwort, die überzeugend klingt, aber falsch oder erfunden ist
• Verzerrung (Bias) – systematisch einseitige Ergebnisse, die aus einseitigen Mustern der Trainingsdaten stammen
• Blindes Vertrauen – Fehler, die ungeprüft übernommen werden
• Datenschutz – sensible Daten, die in fremden KI-Diensten außerhalb der Kontrolle des Unternehmens verarbeitet werden

Menschen entscheiden, Agenten unterstützen

Agenten-Ergebnisse sind Vorschläge, keine Entscheidungen. Agenten bereiten Entwürfe, Zusammenfassungen und Entscheidungsgrundlagen vor – die Entscheidungen treffen Menschen.

KI-Ausgaben können falsch sein und gleichzeitig richtig klingen. Ein Agent, der Geschäftsdaten verarbeitet, kann Informationen erfinden. Die größte Gefahr ist nicht der Fehler selbst, sondern die ungeprüfte Übernahme: Unentdeckte Fehler wandern in Entscheidungen, Kundenantworten und Ergebnisse.

KI-Ausgaben sind deshalb ein Vorschlag – wie ein erster Entwurf: Die KI übernimmt den Großteil der Arbeit; die Verantwortung für das Ergebnis bleibt bei der nutzenden Person. Alles, was in eine Entscheidung, eine Kundenantwort oder einen Geschäftsdatensatz einfließt, sollte vor der Verwendung gegen die tatsächlichen Daten geprüft werden.

Agenten beantworten dieselbe Frage nicht immer identisch. Bei unpassenden Antworten („Erneut versuchen...“) wählen oder die Anfrage konkreter formulieren (siehe Antworten prüfen und nachsteuern).

Wann Agenten auf eine Person warten

incoreon AI verbindet selbstständiges Handeln von Agenten mit menschlicher Kontrolle. Was ein Agent allein ausführt und wo er auf eine Person wartet, ergibt sich aus zwei Stellen: aus der Anweisung des Agenten und aus den Aufgaben der Automatisierung.

Automatisierungen laufen ohne manuellen Start: „E-Mail-Eingang“ startet den Agenten bei jeder eingehenden E-Mail eines Postfachs, „Zeitplan“ startet ihn zu festgelegten Zeiten (siehe Automatisierung und Workflows).

Die Ergebnisse einer Automatisierung landen als ToDos oder Informationen bei den zuständigen Personen: ToDos warten auf Bearbeitung oder Entscheidung, Informationen halten die Empfängerinnen und Empfänger über alles Neue auf dem Laufenden. Die Aufgaben der Automatisierung legen fest, wer ToDos und Informationen erhält (siehe ToDos und Informationen).

Braucht ein Workflow eine Entscheidung oder Bearbeitung, wartet er auf die zuständige Person. Erst die Bearbeitung durch die Person setzt den Workflow fort: Bei einer Entscheidungs-ToDo geht die gewählte Option an den Agenten zurück. Bei einer Prozess-ToDo geht der Chatverlauf der Bearbeitung an den Agenten zurück. Fachlich wird dieses Prinzip Human in the Loop genannt: Der Agent fährt erst fort, wenn eine Person entschieden oder bearbeitet hat (siehe Wie ein Workflow abläuft).

Es empfiehlt sich, die eigene Konfiguration zu kennen: Was bearbeitet die Plattform von selbst – und wo wartet sie auf eine ausdrückliche Freigabe? Wer das weiß, behält die Kontrolle über das autonome Handeln der Agenten (siehe Aufgaben für Automatisierung festlegen und Agenten-Komponenten im Detail).

Steuerungsmöglichkeiten im Überblick

Agenten arbeiten im Chat auf Anfrage oder laufen automatisiert – in beiden Fällen lässt sich ihre Arbeit steuern. Die wichtigsten Möglichkeiten:

• Automatisierungen pausieren – jede Automatisierung lässt sich einzeln pausieren und fortsetzen; inaktive Automatisierungen laufen nicht ab (siehe Automatisierungen verwalten).
• Fähigkeiten und Werkzeuge pro Agent festlegen – Fähigkeiten lassen sich pro Agent zu- oder abschalten. Eigene Fähigkeiten werden über MCP-Server angebunden; MCP ist ein standardisierter Anschluss für zusätzliche Funktionen und externe Systeme – vergleichbar mit einem USB-Anschluss. Eine solche Fähigkeit umfasst verschiedene Werkzeuge, jeweils eine Einzelfunktion. Jedes Werkzeug lässt sich aktivieren oder deaktivieren (siehe Fähigkeiten konfigurieren und Guide: Eigenen MCP-Server einbinden).
• Eigene MCP-Server nur mit Erlaubnis – einem Agenten lassen sich eigene MCP-Server erst hinzufügen, wenn die Benutzergruppe, die den Agenten verwaltet, die entsprechende Erlaubnis hat. Globale Admins erteilen die Erlaubnis über die Option „Eigene MCP Server erlauben“ (siehe Eigene MCP Server erlauben).
• Kostenlimit pro Agent festlegen – erreicht ein Agent sein monatliches Kostenlimit, stellt incoreon die Arbeit des Agenten ein; die Oberfläche zeigt den Grund an (siehe Verhalten bei erreichtem Kostenlimit).

Gesetzlicher Rahmen

Der EU AI Act – die Verordnung der Europäischen Union über künstliche Intelligenz – setzt den gesetzlichen Rahmen für alle, die KI-Systeme bereitstellen oder nutzen. Er verbietet Praktiken, die Menschen schädigen oder benachteiligen – etwa täuschende Manipulation oder das Einstufen und Benachteiligen von Menschen nach ihrem sozialen Verhalten. incoreon unterstützt verbotene Praktiken nicht. Welche Praktiken im Einzelnen verboten sind, steht im vollständigen Text der Verordnung.

Diese Verbote gelten für alle Agenten – auch für selbst erstellte.

Der EU AI Act sieht zudem vor, dass Unternehmen, die KI-Systeme nutzen, die Kompetenz ihrer Mitarbeitenden im Umgang mit KI fördern. Diese Dokumentation unterstützt dabei: Sie erklärt, was KI leistet, wo ihre Grenzen liegen und wie Ergebnisse geprüft werden. Auf Anfrage unterstützt incoreon Unternehmen bei der Schulung ihrer Mitarbeitenden.

Hilfe und Feedback

Fragen und Probleme klärt das Kapitel Troubleshooting und Support – mit einer Fehler-ID beschleunigt der Support die Bearbeitung (siehe Fehlermeldungen und deren Bedeutung). Feedback und Meldungen zu Auswirkungen der KI nehmen die bestehenden Support-Kanäle entgegen.