Von Regeln zu Wahrscheinlichkeiten

Wenn heute vom „KI-Hype“ die Rede ist, wirkt es oft, als sei künstliche Intelligenz erst seit wenigen Jahren relevant. Doch die Idee reicht mehr als 60 Jahre zurück: Schon Alan Turing beschrieb, wie menschliches Denken auf einen Computer übertragen werden könnte. Im Jahr 1956 wurde der Begriff „Artificial Intelligence“ bei der Dartmouth-Konferenz in den USA geprägt – die Geburtsstunde der modernen KI-Forschung. In den Anfangsjahren versuchte man, die KI regelbasiert zu beschreiben. Wissen wurde in klare Definitionen gegossen wie: Ein Stuhl hat vier Beine, eine Sitzfläche und eine Lehne. Diese symbolischen Ansätze waren transparent und leicht nachvollziehbar. Doch die reale Welt mit ihrer Komplexität und vielen Ausnahmen brachte das Modell schnell an seine Grenzen. Dies führte zum ersten „KI-Winter“, einer gewissen Frustration gegenüber der KI.

Heute verstehen wir unter KI meist maschinelles Lernen: Neuronale Netze lernen aus Milliarden von Datenpunkten, erkennen Muster und treffen Entscheidungen auf Basis von Wahrscheinlichkeiten. Dies ist jedoch eigentlich nur eine Untermenge der KI. Der Haken dieses Modells ist, dass es schwer durchschaubar ist. Seine Entscheidungswege lassen sich kaum nachvollziehen. Besonders bei generativer KI kommt das Problem der „Halluzinationen“ hinzu: plausible, aber erfundene Fakten, die in der Realität nicht existieren. „Das kann ein fiktives Buch sein, das einem vorgeschlagen wird oder eine nicht vorhandene wissenschaftliche Referenz“, warnt Professor Rolf Drechsler. „In sensiblen Bereichen wie der Medizin oder der Forschung kann das schwerwiegende Folgen haben und das Vertrauen in diese Bereiche beeinträchtigen.“

Wo Kontext oder Interaktion fehlt: Die Grenzen der KI in der Praxis

Trotz ihrer beeindruckenden Leistungen stößt KI an klare Grenzen, wenn menschliches Urteilsvermögen und Kontextverständnis gefragt sind. In der Medizin erkennt sie Tumore zwar durch einen Abgleich mit Tausenden von Bilddaten äußerst präzise, doch bei völlig neuen Befunden können diese Systeme versagen. Ohne ärztliche Kontrolle drohen Fehldiagnosen. Ähnlich verhält es sich im Straßenverkehr: Assistenzsysteme navigieren das Auto über lange Strecken unfallfrei, da sie typische Verkehrssituationen „gelernt” haben. Rollt jedoch plötzlich ein Ball vom Gehweg, erkennt das Fahrzeug zwar das Hindernis, kann aber nicht abschätzen, dass möglicherweise ein Kind hinterherläuft. Dieses implizite Hintergrundwissen fehlt der KI. Und auch in der digitalen Welt zeigen sich viele Schwachstellen. Deepfakes und Halbwahrheiten verbreiten sich online und in den sozialen Medien rasend schnell. Das ist besonders in der Politik ein massives Problem, zumal nicht alle Inhalte als KI-generiert gekennzeichnet werden. Viele Systeme kommunizieren zudem aktuell noch in nur eine Richtung, also liefern uns Inhalte und arbeiten dafür oft mit unserem Nutzungsverhalten. Ein Streamingdienst zeigt uns beispielsweise Filmvorschläge auf Basis unserer bisherigen Filmwahl an, wir können ihm aber nicht erklären, warum wir einen bestimmten Film mochten oder nicht. „Sie geben uns etwas vor, aber nicht in einer Form, in der wir wirklich mit ihnen interagieren können“, meint Drechsler. Da dies technisch aber leicht umzusetzen ist, wird es in diesem Bereich bald mehr davon geben, ist er sich sicher.

Forschung für transparente Entscheidungen

Mit seiner Forschung möchte Professor Rolf Drechsler Erklärbarkeit für KI und technische Systeme schaffen. Da Menschen die riesigen Datenmengen, auf denen maschinelles Lernen beruht, nicht nachvollziehen können, geht es bei der Erklärbarkeit nicht um die Offenlegung einzelner Gewichtungen. Er sieht Parallelen zwischen den aktuellen Systemen, die so optimiert sind, dass sie das wahrscheinlichste Ergebnis liefern, und menschlicher Intuition. „Wir haben ja häufig so ein Bauchgefühl, bei dem ich sage: Ich glaube, das ist momentan das Richtige“, erklärt er. „Dieses navigiert uns im Alltag oft, mal in die richtige, mal in die falsche Richtung. Wenn man Personen nach den Beweggründen ihres Handelns fragt, können sie aber in der Regel ein logisches Argument anführen, ohne stundenlang detailliert auf alle Erfahrungen im Leben einzugehen, die zu diesem Handeln geführt haben.“

Dass Systeme so eine Erklärung aus sich selbst heraus generieren können, ist eines seiner größten Ziele in der Forschung zur „erklärbaren KI“. Wissenschaftler:innen entwickeln hierfür sogenannte „Weltmodelle”, in denen die KI nicht mehr nur auf Basis von Bilddaten lernen, sondern eine Art interne digitale Nachbildung der Realität verinnerlichen soll. „Idealerweise erklärt sich die KI die Gesamtsituation, bevor sie entscheidet”, betont Drechsler, „der aktuelle Stand ist jedoch, dass sie Entscheidungen treffen und diese dann mit Wahrscheinlichkeiten erklären.“ Es macht auch Sinn, verschiedene Modelle miteinander zu ergänzen. So kann beim Weltmodell eine regelbasierte Leitlinie den Rahmen vorgeben, in der die KI agieren darf. „Das kann man sich ähnlich wie die menschlichen Grundgesetze vorstellen“, erklärt Drechsler. Entscheidend ist hierbei auch eine strikte Priorisierung: Es muss festgelegt werden, welche Funktionen wann Vorrang haben und was unbedingt stabil bleiben muss, um die Sicherheit und Funktionalität der Systeme zu gewährleisten. Dies verdeutlicht sich beispielsweise gut bei autonomen Fahrzeugen: Wenn die Navigation ausfällt, ist das weniger schlimm als wenn die Bremsen versagen.

Die Arbeit des Graduiertenkollegs „CAUSE – Concepts and Algorithms for – and Usage of – Self-Explaining Digitally Controlled Systems“ der Universitäten Bremen, Hamburg und Oldenburg zeigt, dass Erklärbarkeit auch in der Anwendung entscheidend ist. Am Beispiel eines Windparks entwickelt das CAUSE-Team selbstdiagnostische Systeme, die bei einem Turbinenausfall nicht nur die Störung melden, sondern auch die Ursache, wie Hardware, Software oder Umwelteinflüsse erklären sollen. Die Forschungsgruppe arbeitet an Mensch-Maschine- und Maschine-Maschine-Schnittstellen. Ein Kernprinzip ist dabei die zielgruppengerechte Aufbereitung: Wartungstechniker:innen erhalten detaillierte Analysen, während Bediener:innen kompakte, verständliche Hinweise bekommen.

Fragen und gesellschaftliche Verantwortung

Die Erklärbarkeit stellt jedoch nicht nur eine technische Herausforderung dar, sondern löst auch tiefgreifende ethische Debatten aus. Was dürfen KI-Systeme und was nicht? Darf eine KI Informationen zurückhalten, wenn sie erkennt, dass Menschen diese missbrauchen würden? Ab wann haben KI-Systeme so etwas wie ein Gewissen? In welchen Bereichen darf eine KI eingesetzt werden und in welchen nicht? Antworten auf diese Fragen haben auch eine kulturelle Dimension. So ist der Einsatz von KI in einigen Kulturen akzeptierter als in anderen. Schließlich sind für die KI klare Leitlinien und gesetzliche Rahmenbedingungen in jeder Gesellschaft unverzichtbar. Nur so lässt sich sicherstellen, dass KI nicht nur effizient, sondern auch verantwortungsvoll eingesetzt wird.

Zwei Entwicklungen für die Zukunft

Rolf Drechslers Vision für erklärbare KI lässt sich auf zwei Ebenen zusammenfassen: Erstens sollte die Erklärbarkeit bereits im technischen Entwurfsprozess eines Systems fest verankert werden. Zweitens muss auf gesellschaftlicher Ebene Transparenz über gesammelte Daten und Entscheidungslogiken gesetzlich und institutionell geregelt werden. KI-Systeme müssen sich offenbaren und rechtfertigen, warum sie etwas tun. „Für einen demokratischen Entscheidungsprozess ist es sehr wichtig, dass eindeutig ist, wie eine Meinung zustande kommt“, betont er.

Summer of AI

Im Sommer 2026 wird Bremen zu einem internationalen Treffpunkt für Künstliche Intelligenz. Auf der internationalen KI-Tagung IJCAI (International Joint Conference on Artificial Intelligence), die vom 15. bis 21. August stattfindet, diskutieren KI-Expert:innen aus der ganzen Welt über aktuelle Themen rund um das Thema KI.

Parallel zur Konferenz bietet der „Summer of AI” im Juli und August 2026 ein vielfältiges Programm zum Thema KI aus den Bereichen Wissenschaft, Technologie, Wirtschaft, Bildung und Kultur. Mit öffentlichen Vorträgen, Mitmachangeboten, KI-Lounges, Netzwerkformaten und Kunstaktionen präsentiert sich Bremen als attraktiver Standort für KI und digitale Transformation.