KI Glossar
Stand: 28.08.2026
Grundbegriffe & Architektur
LLM (Large Language Model / Sprachmodell) Ein auf großen Textmengen trainiertes Modell, das Sprache versteht und generiert. Beispiel: GPT-4 oder Claude sind LLMs, die darauf trainiert wurden, aus einem Prompt eine passende Antwort zu erzeugen.
Cognitive Architecture (Kognitive Architektur) Ein Gesamtentwurf, der Denken in definierte Teilprozesse wie Wahrnehmung, Gedächtnis, Planung und Entscheidung zerlegt. Beispiel: SOAR und ACT-R sind klassische kognitive Architekturen, die menschliches Problemlösen in einzelne Module nachbilden.
Multi-Agent Systems (Multi-Agenten-Systeme) Systeme, in denen mehrere spezialisierte KI-Agenten koordiniert zusammenarbeiten. Beispiel: Ein Agent recherchiert, ein zweiter plant und ein dritter führt aus – gemeinsam bearbeiten sie eine komplexe Aufgabe.
Human-in-the-Loop Ein Prozessmuster, bei dem menschliche Prüf- oder Freigabepunkte fest in einen automatisierten Ablauf eingebaut sind. Beispiel: Ein Kreditvergabe-Algorithmus schlägt eine Entscheidung vor, die erst nach Prüfung durch einen Sachbearbeiter wirksam wird.
Reference Monitor Ein Sicherheitskonzept: eine Instanz, die jede sicherheitsrelevante Aktion prüft, bevor sie ausgeführt werden darf. Beispiel: In einem Betriebssystem prüft ein Reference Monitor jede Dateizugriffsanfrage gegen die Zugriffsrechte, bevor sie ausgeführt wird.
Memory View (allgemein) Der Ausschnitt eines gemeinsamen Gedächtnis- bzw. Datenbestands, auf den ein einzelner Akteur in einem System Zugriff hat. Beispiel: In einem CRM-System sehen Vertriebsmitarbeitende nur die Kundendaten ihrer eigenen Region, nicht den gesamten Datenbestand.
Governance, Sicherheit & Zuverlässigkeit
AI Governance Steuerung, Kontrolle und Absicherung von KI-Systemen durch Regeln, Gremien und Prozesse. Beispiel: Ein Unternehmen richtet ein AI-Governance-Gremium ein, das festlegt, welche KI-Systeme welche Entscheidungen eigenständig treffen dürfen.
Safety Engineering Disziplin zur systematischen Absicherung technischer bzw. KI-Systeme gegen Fehler und Risiken. Beispiel: Safety Engineering legt fest, welche Rückfallebene ein autonomes Fahrzeug nutzt, wenn ein Sensor ausfällt.
Fail-closed Sicherheitsprinzip: Bei Unklarheit, Widerspruch oder veralteter Information wird zugunsten der sichereren Option entschieden, nicht zugunsten der Aktion. Beispiel: Kann ein Zugangssystem die Berechtigung einer Person nicht eindeutig prüfen, verweigert es lieber den Zutritt, statt ihn im Zweifel zu gewähren.
Graceful Degradation Kontrollierter, geordneter Funktionsabbau eines Systems bei Störungen statt eines harten Totalausfalls. Beispiel: Fällt die Internetverbindung eines Smart-Home-Systems aus, schaltet es auf lokale Basisfunktionen um, statt komplett auszufallen.
Escalation (Eskalation) Weiterleitung eines unklaren oder kritischen Falls an eine höhere Prüf- oder Entscheidungsinstanz. Beispiel: Kann ein Chatbot eine Kundenanfrage nicht zweifelsfrei klären, eskaliert er sie automatisch an eine menschliche Mitarbeiterin.
Provenance (Herkunftsnachweis) Dokumentierte Nachvollziehbarkeit, woher eine Information stammt und wie sie verändert wurde. Beispiel: Bei einem KI-Trainingsdatensatz wird die Provenance jedes Datenpunkts erfasst, um später nachzuvollziehen, woher er stammt.
Shadow Mode (Shadow Deployment) Ein System läuft parallel zum realen Betrieb mit, trifft aber selbst keine wirksamen Entscheidungen, sondern wird nur beobachtet und ausgewertet. Beispiel: Ein neues Betrugserkennungsmodell läuft drei Monate im Shadow Mode neben dem produktiven System mit, um zu sehen, ob es dieselben Fälle richtig markiert hätte.
Selbstmodifizierende Systeme Systeme, die in der Lage sind, ihren eigenen Code, ihre Regeln oder ihre Parameter eigenständig zu verändern. Beispiel: Ein Forschungssystem, das eigenständig seinen eigenen Trainingsprozess anpasst, gilt als selbstmodifizierendes System und wirft eigene Sicherheitsfragen auf.
Metriken & Bewertung
Goal Alignment (Zielausrichtung) Grad, in dem das tatsächliche Verhalten eines Systems mit dem eigentlich beabsichtigten Ziel übereinstimmt. Beispiel: Ein Empfehlungsalgorithmus, der rein auf Klickzahlen optimiert, ist möglicherweise nicht mit dem eigentlichen Ziel „zufriedene Nutzer" aligned.
Hidden Assumptions (implizite Annahmen) Unausgesprochene Prämissen, auf denen eine Entscheidung oder Strategie beruht, ohne dass sie geprüft wurden. Beispiel: Eine Preisstrategie geht implizit davon aus, dass Kunden preissensibel sind – eine Annahme, die nie explizit hinterfragt wurde.
Decision Reversal Metrik dafür, wie oft eine getroffene Entscheidung nachträglich korrigiert oder rückgängig gemacht werden muss. Beispiel: Wird eine Beförderungsentscheidung innerhalb von drei Monaten wieder rückgängig gemacht, zählt das als Decision Reversal.
Near Miss Detection Systematisches Erfassen von Beinahe-Fehlern, bevor daraus ein echter Schaden entsteht. Beispiel: In der Luftfahrt werden Beinahe-Kollisionen erfasst und ausgewertet, um Muster zu erkennen, bevor ein echter Unfall passiert.
Calibration (Kalibrierung) Grad, in dem die von einem Modell angegebene Unsicherheit mit den tatsächlich eintretenden Ergebnissen übereinstimmt. Beispiel: Ein gut kalibriertes Wettermodell, das „70 % Regenwahrscheinlichkeit" vorhersagt, sollte an rund 70 % dieser Tage tatsächlich Regen zeigen.
Anchoring-Effekt (Ankereffekt) Kognitive Verzerrung, bei der ein zuerst genannter Wert die Bewertung nachfolgender Informationen unbewusst beeinflusst. Beispiel: Wird zuerst ein hoher Preis genannt, empfinden Kundinnen einen danach genannten niedrigeren Preis als besonders günstig – unabhängig vom tatsächlichen Wert.
Counterfactual Reasoning (kontrafaktisches Schließen) Analyse alternativer Verläufe: was wäre passiert, wenn eine Bedingung anders gewesen wäre. Beispiel: Ein Kreditmodell prüft kontrafaktisch, ob dieselbe Person bei nur leicht höherem Einkommen einen Kredit erhalten hätte.
Drift (Concept Drift / Model Drift) Allmähliche Veränderung der Datenverteilung oder Umgebung, die ein Modell mit der Zeit ungenauer macht. Beispiel: Ein Betrugserkennungsmodell wird über Monate ungenauer, weil sich das Verhalten der Nutzer verändert hat – das nennt man Concept Drift.
Simulation, Robotik & Physical AI
Physical AI KI-Systeme, die nicht nur digital agieren, sondern über Sensorik und Aktorik physisch mit der realen Welt interagieren. Beispiel: Ein Lagerroboter, der Objekte erkennt, einen Greifpfad plant und physisch danach greift, ist ein Beispiel für Physical AI.
Perception, Planning, Actuation (Wahrnehmung, Planung, Ausführung) Die drei klassisch getrennt evaluierten Teilschritte eines physisch handelnden KI-Systems. Beispiel: Ein selbstfahrendes Auto erkennt ein Hindernis (Perception), berechnet eine Ausweichroute (Planning) und lenkt entsprechend (Actuation).
World Model (Weltmodell) Die interne Repräsentation eines Systems davon, wie sich seine Umgebung verhält und auf Aktionen reagiert. Beispiel: Ein Roboter nutzt sein internes World Model, um vorherzusagen, was passiert, wenn er einen Gegenstand anstößt, bevor er die Aktion ausführt.
Digital Twin (digitaler Zwilling) Eine virtuelle Entsprechung eines realen Systems, an der Veränderungen simuliert werden, bevor sie real umgesetzt werden. Beispiel: Ein digitaler Zwilling einer Fabrikhalle simuliert den Materialfluss, bevor eine neue Maschine physisch aufgestellt wird.
WorldClaw Ein Open-World-Generator zur automatisierten Erzeugung begehbarer 3D-Simulationswelten. Beispiel: WorldClaw kann genutzt werden, um automatisiert offene Trainingswelten für ein Lern- oder Simulationsszenario zu erzeugen.
Unreal-basierte Simulationsumgebungen Auf der Unreal Engine aufgebaute virtuelle Welten, die für Trainings- oder Testzwecke genutzt werden. Beispiel: Eine auf der Unreal Engine gebaute virtuelle Fabrikhalle dient als Trainingsumgebung für einen Lagerroboter.
SimWorld Eine Simulationsumgebung zum risikofreien Testen von Handlungsstrategien. Beispiel: SimWorld wird genutzt, um verschiedene Strategien eines Agenten virtuell zu testen, bevor sie real eingesetzt werden.
Isaac Sim Eine Robotik-Simulationsplattform (NVIDIA) zum Testen von Wahrnehmung, Planung und Steuerung. Beispiel: Ein Robotikteam testet die Greifbewegung eines Arms tausendfach in Isaac Sim, bevor der reale Roboter überhaupt eingeschaltet wird.
CARLA Eine Open-Source-Simulationsumgebung speziell für autonomes Fahren. Beispiel: Ein autonomes Fahrsystem wird in CARLA mit simuliertem Regen und dichtem Kreuzungsverkehr getestet, bevor es auf echte Straßen kommt.
Forschungsfelder & Disziplinen
Causal Inference (Kausale Inferenz) Methoden, um aus Daten tatsächliche Ursache-Wirkungs-Beziehungen abzuleiten statt bloßer Korrelationen. Beispiel: Mit Causal-Inference-Methoden wird geprüft, ob eine Marketingkampagne tatsächlich die Ursache für gestiegene Verkaufszahlen war oder nur zeitlich zusammenfiel.
Decision Theory (Entscheidungstheorie) Mathematisches Rüstzeug, um unter Unsicherheit zwischen Handlungsoptionen abzuwägen. Beispiel: Die Entscheidungstheorie hilft abzuschätzen, welche von mehreren unsicheren Investitionsoptionen den höchsten erwarteten Nutzen bringt.
Organizational Science (Organisationsforschung) Forschungsfeld, das untersucht, wie Organisationen tatsächlich funktionieren – oft abweichend von ihren formalen Regeln. Beispiel: Organisationsforschung untersucht, warum Teams trotz klarer Zielvorgaben häufig nach informellen, ungeschriebenen Regeln handeln.
Human-AI Cooperation Forschungsfeld zur Zusammenarbeit zwischen Mensch und KI-System, bei der beide Seiten ihre jeweiligen Stärken einbringen. Beispiel: Eine Radiologin und ein KI-System befunden gemeinsam ein Röntgenbild: die KI markiert Auffälligkeiten, der Mensch stellt die endgültige Diagnose.
Population / Societal Models Agentenbasierte Modelle, die untersuchen, wie sich Anreize und Verhalten in ganzen Bevölkerungsgruppen oder Systemen entwickeln. Beispiel: Ein agentenbasiertes Populationsmodell simuliert, wie sich eine Steueränderung über Jahre auf das Verhalten unterschiedlicher Bevölkerungsgruppen auswirkt.
Tools & Infrastruktur
MCP (Model Context Protocol) Ein offenes Protokoll, über das KI-Modelle standardisiert auf externe Werkzeuge, APIs und Datenquellen zugreifen können. Beispiel: Ein MCP-Server stellt einer KI-Anwendung Zugriff auf einen Kalender bereit, ohne dass dafür eine eigene Individual-Integration geschrieben werden muss.
Ollama / lokale Modelle Software zum Betrieb von Sprachmodellen direkt auf der eigenen Hardware statt über einen Cloud-Dienst. Beispiel: Statt Anfragen an einen Cloud-Dienst zu senden, betreibt ein Entwickler mit Ollama ein Sprachmodell lokal auf dem eigenen Rechner, um sensible Daten nicht extern zu teilen.
Hinweis: Die Definitionen sind aus dem Kontext der beiden NYXA-Quelldokumente destilliert; die Beispiele sind zur Veranschaulichung frei formuliert und nicht selbst dem Dokument entnommen.