Die Frage ist, was KI noch nicht kann
Redaktion: Universitätsmedizin der Johannes Gutenberg-Universität Mainz
PRESSEMITTEILUNG
Mainz/gc. Wo liegen die Risiken von großen Sprach- oder Basismodellen bei der Auswertung medizinischer Bilddaten? Die potenzielle Schwachstelle sind Textinformationen! Ist in Bildern Text integriert, kann dieser das Urteilsvermögen von KI-Modellen bei der Analyse medizinischer Bilddaten negativ beeinflussen. Das haben Forschende unter der Federführung der Universitätsmedizin Mainz und des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit der TU Dresden im Rahmen ihrer Studie „Incidental Prompt Injections on Vision–Language Models in Real-Life Histopathology“ herausgefunden. Die Studienergebnisse sind in der Fachzeitschrift NEJM AI erschienen.