Unsicherheiten in Foundation Models
Redaktion: Bergische Universität Wuppertal
PRESSEMITTEILUNG
Wuppertal/gc. Bilderkennung wird schon jetzt an vielen Stellen eingesetzt: zum Beispiel beim Entsperren von Smartphones, bei der Produktsuche und bei autonomen Fahrsystemen. Wie Künstliche Intelligenz (KI) künftig zuverlässiger Gesichter und Objekte erkennen kann, daran arbeiten Forschende der Bergischen Universität Wuppertal.
Ziel des Forschungsprojekts REFRAME ist es, die Möglichkeiten und Grenzen sogenannter Foundation Models in der computergestützten Bilderkennung zu untersuchen und neue Methoden zur Verbesserung dieser Modelle zu entwickeln. Foundation Models bilden die Basis für viele KI-Anwendungen in der Bilderkennung. Sie werden anhand von Milliarden von Datensätzen aus dem Internet trainiert, etwa mit Bildern und dazugehörigen Beschreibungen, und können dadurch vielfältige Aufgaben bewältigen.
So bekommen diese Modelle ein breites Grundlagenwissen und entwickeln neue Fähigkeiten. „Sie sind aber mit so vielen Daten trainiert worden, dass wir nicht wissen, wo ihre Grenzen liegen – an welcher Stelle sie also nicht mehr funktionieren“, erklärt Dr. Matthias Rottmann, Nachwuchsgruppenleiter für zuverlässige und effiziente künstliche Intelligenz an der Bergischen Universität. Das werde vor allem dann ein Problem, wenn Bilderkennung dort eingesetzt wird, wo Zuverlässigkeit erforderlich ist, etwa bei Unfallvermeidungssystemen.
Neue Methoden zur Erkennung
von Unsicherheiten in Foundation Models
Die Forschenden widmen sich daher den Fragen: Wie zuverlässig sind diese Modelle, wie gut lassen sie sich erklären, und wie können sie gezielt an spezifische Anforderungen angepasst werden? Das Team der Bergischen Universität Wuppertal unter der Leitung von Rottmann erforscht dabei neue Methoden zur Erkennung von Unsicherheiten in den Modellen. Außerdem untersuchen die Forschenden, inwieweit das Wissen der Modelle verallgemeinerbar ist.
Die Forschungsergebnisse sind besonders für sicherheitskritische Anwendungen wie in der Medizin, Robotik oder beim automatisierten Fahren von großer Bedeutung. „Das Projekt leistet damit einen wichtigen Beitrag zur Weiterentwicklung von Künstlicher Intelligenz und unterstützt die aktuellen Ziele der KI-Strategie der Bundesregierung“, so Matthias Rottmann.
Das Forschungsprojekt
REFRAME ist ein gemeinsames Forschungsprojekt des Fraunhofer Heinrich-Hertz-Instituts (HHI) in Berlin, des Leibniz-Instituts für Agrartechnik und Bioökonomie in Potsdam und der Bergischen Universität Wuppertal. Unter der Leitung des Fraunhofer HHI kombiniert das Konsortium Grundlagenforschung und anwendungsorientierte Forschung, um Foundation Models sicherer und effizienter zu machen. Es wird vom Bundesministerium für Bildung und Forschung im Bereich resiliente Künstliche Intelligenz (KI) gefördert.
Wissenschaftliche Ansprechpartner:
PD Dr. Matthias Rottmann
Applied and Computational Mathematics (ACM) Group
Telefon 0202 439 1706
rottmann@uni-wuppertal.de
______________________________________