Vertrauenswürdigkeit als Differenzierungsmerkmal
Redaktion: Westfälische Hochschule
PRESSEMITTEILUNG
Gelsenkirchen/gc. Welche Bedingungen müssen erfüllt sein, damit Unternehmen KI-Herstellern vertrauen und deren KI-Lösungen nutzen?
Diese Frage steht im Fokus des Forschungsprojekts „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“, das seit letztem Jahr am Institut für Internet-Sicherheit - if(is) der Westfälischen Hochschule läuft. Nun liefert eine Studie erste Ergebnisse.
Im Rahmen des vom „Bundesministerium für Digitales und Verkehr“ (BMDV) geförderten Projekts „TrustKI – Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ wurde Ende 2023 die erste Anwender-Studie durchgeführt. Hierbei standen zwei Fragestellungen im Fokus: Ist eine Vertrauenswürdigkeits-Plattform für KI-Lösungen geeignet, um einen unternehmerischen Entscheidungsprozess sowohl im Hinblick auf die KI-Lösung als auch einen zuverlässigen KI-Anbieter für Führungskräfte grundlegend zu vereinfachen? Und: Welche Voraussetzungen müssen dafür vorliegen?
Den Nutzerinnen und Nutzern von KI-Lösungen ist der Aufbau eines reellen Vertrauensverhältnisses, basierend auf Vertrauenswürdigkeit, sehr wichtig. Das ist eines der zentralen Ergebnisse der Anwender-Studie „TrustKI“, die das Institut für Internet-Sicherheit - if(is) durchgeführt hat. Eine Erklärung dafür liegt nach Ansicht von Prof. Norbert Pohlmann auf der Hand: „Die Veränderungen, die mit der zunehmenden Nutzung von Künstlicher Intelligenz einhergehen, werden absehbar sowohl die Gesellschaft insgesamt als auch jeden einzelnen Menschen immer stärker betreffen.“
Virtuelle Assistenten wie „ChatGPT“ oder „Microsoft Copilot“ zeigen bereits heute eindrucksvoll, wie zügig die Marktdurchdringung von KI-Anwendungen vonstattengeht und welche Effekte sich daraus ergeben. Daher lässt sich leicht nachvollziehen, dass das Bedürfnis der Anwendenden nach Vertrauenswürdigkeit und damit einhergehenden bestimmten Werten deutlich zugenommen hat. Eine entsprechend ethisch orientierte Handlungsweise der KI-Anbieter ist nachdrücklich gewünscht, wie die Studienergebnisse belegen.
263 Führungskräfte aus Unternehmen wurden befragt
Um das Vertrauen der Anwenderinnen und Anwender zu gewinnen, müssen KI-Anbieter vertrauenswürdig und transparent agieren. Diesbezüglich haben die befragten Personen klare Anforderungen formuliert, was hier aus ihrer Sicht für einen nachhaltigen Vertrauensaufbau notwendig ist: Um einen Nachweis ihrer Vertrauenswürdigkeit zu erbringen, müssen KI-Anbieter unter anderem verbindlich relevante Kriterien bezüglich des Vertrauenswürdigkeits-Aspekts ‚Integrität‘ erfüllen sowie dem Anspruch nach einer ‚holistischen Transparenz‘ nachkommen.
Konkrete Ergebnisse
Nachfolgend ausgewählte Ergebnisse zur Integrität, die sich unter anderem im Wertekodex des KI-Anbieters manifestiert:
● Die Bedeutung der Frage, auf welchem Wege
KI-Anbieter die ethischen Anforderungen der
Gesellschaft umsetzen, lässt sich an der hohen
Zustimmung ablesen. In diesem Kontext waren
die Teilnehmenden besonders daran interessiert
zu erfahren, ob „ein Ethik-Gremium im Unter-
nehmen etabliert wurde und welche Verantwortung
sowie Befugnisse dieses reell hat“.
● Dem Anerkennen bzw. der Umsetzung des
Nicht-Schädigungsprinzips im Kontext der
Integrität maßen die Teilnehmenden eine
hohe Bedeutung bei. So ist es für die Mehr-
zahl der Teilnehmenden substanziell, dass
sie darüber informiert werden, auf welche
Funktionalitäten der KI-Anbieter zum Wohle
des Kunden verzichtet. Ebenso besteht ein
hoher Informationsbedarf bezüglich der
Folgenabschätzung – hier wollten die
Teilnehmenden nicht nur mehr darüber
erfahren, ob der KI-Anbieter eine Folgen-
abschätzung vornimmt, sondern auch,
wie diese umgesetzt wird.
Nachfolgend ausgewählte Ergebnisse zur holistischen Transparenz, die über die originären Anforderungen zur Transparenz der KI-Lösung hinausgeht:
● Im Kontext der holistischen Transparenz wurde
seitens der Teilnehmenden darauf Wert gelegt,
dass sie mehr Informationen zum verantwortungs-
vollen Umgang mit der Technologie explizit im
Kontext der Privatheit erhalten, auch weil dies
wesentlich im Hinblick auf mögliche Manipulation
ist.
● Auf die Frage, ob der KI-Anbieter erläutern sollte,
welche Prozesse etabliert wurden, um zu gewähr-
leisten, dass sich keine Beschäftigten über die
festgelegten (ethischen) Werte und Regeln hin-
wegsetzen kann, gab die Mehrzahl der Befragten
an, dass sie dies wissen möchte.
Die kompletten Ergebnisse der Anwender-Studie „TrustKI“ sowie den entsprechenden Forschungsbericht stellt das Forschungsteam gerne zur Verfügung.
Zur Studie
Basierend auf der Annahme, dass spezifische Kriterien zum Aufbau eines Vertrauensverhältnisses erfüllt sein müssen, lag der Fokus der Anwender-Studie „TrustKI“ darauf, auf Grundlage des etablierten Vertrauenswürdigkeits-Modells zu untersuchen, was im Kontext der sieben Vertrauenswürdigkeits-Aspekte zur Beurteilung der Vertrauenswürdigkeit von KI-Anbietern geeignet ist (Vertrauenswürdigkeitsmodell).
Hier geht’s zur Studie: http://www.vertrauenswürdigkeit.com
Zum Forschungsprojekt
Das dreijährige Forschungsprojekt „Vertrauenswürdigkeits-Plattform für KI-Lösungen und Datenräume“ wurde Anfang 2023 gestartet. Das Projekt wird im Rahmen der „Innovationsoffensive KI“ durch das Bundesministerium für Digitales und Verkehr gefördert.
Informationen zum Institut für Internet-Sicherheit – if(is)
Das Institut für Internet-Sicherheit – if(is) ist eine innovative, unabhängige und wissenschaftliche Einrichtung der Westfälischen Hochschule. Erklärtes Ziel ist einen Mehrwert an Vertrauenswürdigkeit und Sicherheit im Internet herzustellen. Dabei sieht sich das if(is) als Impulsgeber für richtungsweisende Orientierungshilfen und innovative Lösungsansätze: In enger Zusammenarbeit mit vielen Partnern aus Wirtschaft, Wissenschaft und Politik agieren die Wissenschaftler proaktiv, um notwendige Anpassungen und Änderungen auch zeitnah umsetzen zu können.
Wissenschaftliche Ansprechpartner:
Institut für Internet-Sicherheit – if(is)
Westfälische Hochschule
Ulla Coester
Telefon: 0179 46 020 30
coester@internet-sicherheit.de
Prof. Dr. Norbert Pohlmann
Telefon: +49 (209) 95 96 515
Handy: +49 (173) 30 21 838
Weitere Informationen:
______________________________________