Auditable & Trustworthy AI

AI Governance ist der Rahmen aus Richtlinien, Kontrollen und Rechenschaftspflichten, den eine Organisation aufbaut, um sicherzustellen, dass ihre KI-Systeme sicher, rechtskonform und transparent eingesetzt werden — er legt fest, wer verantwortlich ist, wie Ergebnisse geprüft werden und wie Risiken gesteuert werden.

Eine AI Hallucination liegt vor, wenn ein KI-System eine Ausgabe erzeugt, die flüssig und selbstbewusst wirkt, aber sachlich falsch oder frei erfunden ist — sie präsentiert erfundene Informationen, Quellen oder Schlussfolgerungen als wahr, weil das Modell sie aus Mustern statt aus Belegen generiert hat.

AI Provenance ist die dokumentierte Herkunft und Historie der Daten, Quellen und Modelle hinter einem KI-Ergebnis — sie hält fest, woher Informationen stammen, wie sie verändert wurden und welches Modell das Ergebnis erzeugt hat, sodass sich seine Herkunft nachvollziehen lässt.

AI Traceability ist die Fähigkeit, jedes KI-generierte Ergebnis bis zu den genauen Eingaben, Quellen und Verarbeitungsschritten nachzuvollziehen, die es hervorgebracht haben — sie schafft eine lückenlose Kette vom Endergebnis bis zu den Belegen und der Logik, die dahinterstehen.

AI Transparency ist der Grad, zu dem die Daten, Quellen, Denkschritte und Grenzen eines KI-Systems überprüfbar sind, sodass Nutzer verstehen, was das System tut, worauf es beruht und woher seine Antworten stammen, statt es als undurchsichtiges Werkzeug hinzunehmen.

Auditable AI ist ein System künstlicher Intelligenz, dessen Ausgaben sich einsehen, erklären und bis zu ihren Quellen und ihrer Herleitung zurückverfolgen lassen, sodass jede Empfehlung oder jedes Ergebnis im Nachhinein von einem Menschen überprüft, verifiziert und verteidigt werden kann.

Deterministic AI ist ein System, dessen Verhalten festgelegten, definierten Regeln oder Strukturen folgt, sodass dieselben Eingangsgrößen jedes Mal dieselben, vorhersehbaren Ergebnisse hervorbringen – im Gegensatz zu probabilistischen Modellen, deren Antworten variieren können und sich nicht garantiert wiederholen lassen.

Explainable AI (XAI) ist eine Reihe von Methoden und Systemdesigns, die die Denkschritte hinter den Ausgaben eines KI-Modells für Menschen nachvollziehbar machen, sodass Menschen erkennen können, warum eine bestimmte Vorhersage, Empfehlung oder Antwort zustande kam, statt sie einfach hinzunehmen.

Grounded AI ist künstliche Intelligenz, deren Ausgaben in verifizierten, abrufbaren Quellen verankert sind, statt Text allein aus statistischen Mustern zu erzeugen — jede Antwort ruht auf echten Belegen, die sich auffinden und bestätigen lassen.

Human-in-the-Loop ist ein Gestaltungsprinzip für KI-Systeme, bei dem Menschen die Ausgaben des Systems an entscheidenden Stellen prüfen, lenken oder freigeben — die menschliche Urteilskraft bleibt so bei folgenreichen Entscheidungen maßgeblich, statt die KI autonom und ohne Aufsicht handeln zu lassen.

Eine KI-Blackbox ist ein System künstlicher Intelligenz, dessen interne Denkschritte verborgen oder unzugänglich sind — Nutzer sehen die Ausgabe, können aber nicht nachvollziehen, wie sie zustande kam, welche Eingaben sie bestimmt haben oder ob ihr für eine gegebene Entscheidung vertraut werden kann.

Quellenattribution ist die Praxis, jeden Teil einer KI-Ausgabe mit dem konkreten Dokument, Datensatz oder der Referenz zu verknüpfen, aus der er stammt — sodass ein Leser genau sieht, woher eine Aussage kommt, und den zugrunde liegenden Beleg zur Überprüfung öffnen kann.

Responsible AI ist die Praxis, künstliche Intelligenz so zu gestalten und einzusetzen, dass sie fair, transparent, rechenschaftspflichtig und sicher ist — Systeme respektieren menschliche Aufsicht, vermeiden Schaden und liefern Ergebnisse, die sich erklären und vertreten lassen.

Retrieval-Augmented Generation (RAG) ist ein KI-Verfahren, das relevante Informationen aus einer vertrauenswürdigen Wissensquelle abruft und sie im Moment der Generierung an ein Sprachmodell übergibt, sodass die Ausgabe des Modells auf realen, aktuellen Belegen beruht statt allein auf seinem Training.