KI-basierte Entscheidungen verstehen
Redaktion: Universität Duisburg-Essen
PRESSEMITTEILUNG
Essen/gc. Können Unternehmen Künstlicher Intelligenz vertrauen? Forscher am Softwaretechnik-Institut paluno der Universität Duisburg-Essen (UDE) haben KI-Systeme entwickelt, die bei Geschäftsprozessen unterstützen. Das Besondere: Neben genauen Prognosen und Vorschlägen für Prozessanpassungen liefern die Systeme Erklärungen für ihre Ergebnisse.
In kürzester Zeit Zusammenhänge in großen Datenmengen erkennen, das macht Künstliche Intelligenz (KI) zu einem wertvollen Werkzeug bei der Entscheidungsfindung. Das gilt auch für die beiden KI-Systeme, die das Team um die UDE-Professoren Andreas Metzger und Klaus Pohl entwickelt hat: Das eine System erlaubt sehr genaue Vorhersagen und kann beispielsweise in der Logistik helfen, Verspätungen von Transportmitteln frühzeitig zu erkennen. Das zweite System empfiehlt, ob und wann ein laufender Prozess angepasst werden sollte. Wenn etwa Störungen im Bahnverkehr vorhergesagt werden, zeigt das System, wann es kostengünstiger ist, den Transport von den Schienen auf Lkw umzudisponieren.
Doch die hohe Leistungsfähigkeit der KI hat ihren Preis: Das Wissen, das die Systeme durch maschinelles Lernen aufbauen, steckt tief in abertausenden Verknüpfungen eines neuronalen Netzes. Anwender:innen können kaum nachvollziehen, was die Systeme gelernt haben und ob die Verknüpfungen sinnvoll sind. „Den Vorhersagen und Empfehlungen von KI-Systemen sollte man daher nicht blind vertrauen“, sagt Prof. Metzger. „Wir forschen deshalb daran, wie sich die KI-Systeme so gestalten lassen, dass sie verständliche Erklärungen ihrer Ergebnisse liefern.“
Das paluno-Team hat dazu Techniken entwickelt, die einen Einblick in das interne Verhalten der KI-Systeme ermöglichen und dabei an Erkenntnisse über menschliche Erklär- und Verstehensprozesse anknüpft. Berücksichtigt wurde zum einen, dass sich Menschen für kontrafaktische Zusammenhänge interessieren. Die computergenerierten Erklärungen zeigen, welche anderen Eingaben in die KI zu einem anderen Ergebnis geführt hätten. Zum anderen sind die Erklärungen selektiv und erklären nur diejenigen Ereignisse im Lernprozess des KI-Systems, die ausschlaggebend für die Ergebnisse waren. Darüber hinaus arbeitet das Team aktuell an interaktiven Schnittstellen zwischen Mensch und KI-System. Konkret soll ein Chatbot ähnlich wie ChatGPT entwickelt werden, der Nutzer die interne Funktionsweise der KI-Systeme erklärt.
Die UDE-Forschungsarbeiten, die mit insgesamt rund 800.000 Euro gefördert werden, starteten im kürzlich abgeschlossenen EU-Projekt DataPorts und werden im neuen EU-Projekt DYNABIC fortgeführt. Hier werden KI-basierte Lösungen entwickelt, um Betreibern kritischer Infrastrukturen eine Entscheidungsunterstützung für die proaktive Anpassung aufgrund von Cyber-Attacken zu liefern.
Wissenschaftliche Ansprechpartner:
Prof. Dr. Andreas Metzger
Software Systems Engineering (SSE)
Tel. 0201 183 4650
andreas.metzger@paluno.uni-due.de
Weitere Informationen:
_____________________________________