Suchen

Donnerstag, 2. Mai 2024

Blackbox KI

Einblick ins Innenleben
Redaktion: FOKUS - Fraunhofer-Institut für Offene Kommunikationssysteme
PRESSEMITTEILUNG
Berlin/gc. Künstliche Intelligenz (KI) findet zunehmend Eingang in industrielle Anwendungen. Doch KI agiert in weiten Teilen wie eine Blackbox: Die Berechnungen sind für Anwenderinnen und Anwender oft intransparent – mangelndes Vertrauen ist die Folge.

Das Europäische Forschungsprojekt XMANAI unter Beteiligung von Fraunhofer FOKUS und weiteren 14 Partnern hat daher den Blick in die KI geöffnet und macht ihre Entscheidungsprozesse nachvollziehbar.

Künstliche Intelligenz hat in der industriellen Produktion das Potenzial, Fertigungsprozesse schneller, preisgünstiger und weniger fehleranfällig zu gestalten: So können Produktionsausfälle durch Wartung oder Reparatur von defekten Komponenten besser geplant werden durch eine frühzeitige Prognose von Maschinenfehlern. Grundlage dafür bilden große Datenmengen zum Beispiel aus Sensoren zur Überwachung der Maschinen, auf deren Basis die KI zunächst trainiert wird und später die Berechnungen durchgeführt werden. Aufgrund der immensen Datenmengen und komplexen Verarbeitung sind die Ergebnisse für die Mitarbeitenden allerdings kaum nachvollziehbar. Fehlendes Vertrauen in KI-Systeme ist die Folge: Die Möglichkeiten der KI werden daher oft nicht ausgeschöpft oder Industrieunternehmen verlassen sich sogar weiterhin auf herkömmliche Vorgehensweisen, da die Entscheidungen der KI für sie nicht transparent sind.

Im Projekt XMANAI, finanziert im Rahmen des Europäischen Forschungsprogramms Horizon 2020, haben 15 Forschungspartner eine Plattform entwickelt, die den transparenten Einsatz von industrieller KI unterstützt: Durch interaktive Visualisierungen wie Wissensgraphen, Datendiagramme und Erläuterungen in natürlicher Sprache können die Mitarbeitenden auch ohne vertiefte KI-Kenntnisse nachvollziehen, welche Daten und Algorithmen für die Berechnungen relevant sind und wie sie die KI beeinflussen. Damit alle Daten dieser »erklärbaren KI« genau, aktuell und vollständig sind und somit die Verlässlichkeit der Plattform gesichert ist, hat Fraunhofer FOKUS Werkzeuge für das Datenmanagement entwickelt – von Import über die Speicherung von Daten bis hin zur (halb-)automatisierten Aufbereitung dieser Daten. Übergeordnetes Ziel ist dabei die niedrigschwellige und sichere Nutzung der vorhandenen Daten.

XMANAI-Plattform für Industriepartner
Um die Funktionen, Darstellungen und Metriken der XMANAI-Plattform für verschiedene industrielle Anwendungsfälle zu testen, haben alle Projektpartner über eine jeweils eigene App Zugang zu den Services erhalten und konnten sie über mehrere Monate in die industrielle Fertigung integrieren. Dadurch konnte XMANAI für die speziellen Bedürfnisse und Eigenheiten der Fertigungsindustrie geprüft werden. Eine der wichtigsten Erkenntnisse ist, dass die Plattform durch offene, standardbasierte Schnittstellen sowohl den Zugang zur KI als auch die Interoperation mit On-Premise-Umgebungen ermöglicht. XMANAI macht damit die »erklärbare KI« zum zentralen Referenzpunkt für eine transparente Datennutzung in Fertigungsprozessen. Die Ergebnisse des vierjährigen Forschungsprojekts sind über die Projektwebsite öffentlich zugänglich und fließen in die Verbesserung industrieller Software-Anwendungen ein.

Das Europäische Projekt XMANAI
Das Horizon-2020-Projekt XMANAI wurde von 01.11.2020 bis 30.04.2024 im Rahmen des Forschungsprogramms Horizon 2020 finanziert. Geleitet wird das Projekt mit insgesamt 15 europäischen Partnern aus Wirtschaft und Wissenschaft, darunter Ford und Whirlpool, vom italienischen Softwareentwicklungsunternehmen TXT e-solutions. Der Geschäftsbereich Digital Public Services (DPS) bei Fraunhofer FOKUS beteiligte sich als Partner für das Echtzeit-Datenmanagement und war wissenschaftlicher Koordinator des Projekts.

Fachkontakt:
Fraunhofer-Institut FOKUS
Dr.-Ing. Yury Glikman
Gruppenleiter
Geschäftsbereich Digital Public Services
Telefon: +49 30 3463 7125
yury.glikman@fokus.fraunhofer.de

Pressekontakt:
Fraunhofer-Institut FOKUS
Leiter Corporate Communications
und Leiter Geschäftsstelle SIRIOS
Niklas Reinhardt
Telefon: +49 30 3463 7594
niklas.reinhardt@fokus.fraunhofer.de

Fraunhofer FOKUS erforscht die Digitale Vernetzung und ihre Auswirkungen auf Gesellschaft, Wirtschaft und Technologie. Seit 1988 unterstützt es Wirtschaftsunternehmen und öffentliche Verwaltung in der Gestaltung und Umsetzung des digitalen Wandels. Dazu bietet Fraunhofer FOKUS Forschungsleistungen von der Anforderungsanalyse über Beratung, Machbarkeitsstudien, Technologieentwicklung bis hin zu Prototypen und Piloten in den Geschäftsbereichen Digital Public Services, Future Applications and Media, Quality Engineering, Smart Mobility, Software-based Networks und Vernetzte Sicherheit an.

Mit rund 490 Mitarbeiterinnen und Mitarbeitern in Berlin und einem jährlichen Budget von 36,1 Millionen Euro gehört Fraunhofer FOKUS zu den größten IKT-Instituten der Fraunhofer-Gesellschaft. Es erwirtschaftet gut 80 Prozent seines Budgets aus Aufträgen der Industrie und der öffentlichen Hand: https://www.fokus.fraunhofer.de.

Weitere Informationen:
______________________________________