KI-Anwendung soll im Kampf helfen
Redaktion: ZB MED - Informationszentrum Lebenswissenschaften
PRESSEMITTEILUNG
Köln/gc. Die DFG (Deutsche Forschungsgemeinschaft) finanziert seit Dezember 2022 über die nächsten drei Jahre ein Projekt von ZB MED, das der Bekämpfung von Desinformation in den Life Sciences dient.
Im Projekt „Automatic Quality Assessment: NLP-Verfahren zur semantischen Kartierung von lebenswissenschaftlichen Texten“ – kurz AQUAS – wird unter anderem eine Anwendung erstellt, die auf Künstlicher Intelligenz basiert.
Das Ziel: unbekannte Texte aufgrund semantischer Kriterien graduell einzuordnen als wissenschaftlich, populärwissenschaftlich oder desinformierend. Ebenfalls werden ergänzende Informationen zur guten wissenschaftlichen Praxis der Publikationen bereitgestellt. Die Anwendung wird in das ZB MED-Suchportal LIVIVO integriert.
Das wachsende Aufkommen von bewusst oder unbewusst verbreiteten Falschinformationen stellt die demokratische Gesellschaft vor eine große Herausforderung. Politische Interessengruppen streuen sogenannte Desinformationen, um den öffentlichen Diskurs zu bestimmen.
Von den Rezipienten können diese Falschinformationen teils nur schwer entlarvt werden. Da sich Desinformationen auch in wissenschaftlichen Informationsangeboten finden, betrifft diese Entwicklung auch Wissenschaftler:innen. Insbesondere in der Medizin kann dies gesundheitsgefährdende Auswirkungen haben.
Hier setzt das Projekt AQUAS an. Das ZB MED-Team wird den ersten deutschsprachigen Datensatz zur Desinformation in den Lebenswissenschaften erstellen. Für die Identifizierung folgt AQUAS den Einschätzungen unter anderem der Bundeszentrale für politische Bildung, des ARD-Faktenfinders sowie der NGO MedWatch. Auf Basis des Datensatzes wird dann eine Machine-Learning-Anwendung entwickelt, die es ermöglicht, unbekannte Literatur vollautomatisiert in ihrer graduellen Ähnlichkeit als wissenschaftlich, populärwissenschaftlich und desinformierend zu klassifizieren.
Ebenso erhalten die Nutzer bei einzelnen Titeln ergänzende Informationen zu deren Compliance mit einer guten wissenschaftlichen Praxis, wie sie die DFG vorschreibt. Dies betrifft die Zitierungen, das Peer Review oder auch den Retraction-Status, also den nachträglichen Rückzug eines Artikels durch eine Zeitschrift nach Bekanntwerden von Fehlern. Auch das dient der Identifikation von Fehl- und Desinformationen.
AQUAS geht es nicht darum, eine abschließende Leseempfehlung zu geben oder gar Inhalte zu zensieren. Mit der Veröffentlichung der Informationen über das ZB MED-Suchportal LIVIVO unterstützt AQUAS die Leser:innen darin, eine informierte Einschätzung über die (pseudo-)wissenschaftliche Literatur zu treffen.
Im Sinne von Open Science stellt ZB MED sowohl den Datensatz und das Modell als auch den Workflow zum Training sowie die Software zum Betrieb des Dienstes nach Möglichkeit offen bereit. So kann die Anwendung nachgenutzt und auch für andere Themenfelder adaptiert werden. Auch wird das KI-Verfahren den Nutzern transparent kommuniziert.
Weitere Informationen:
______________________________________