Am 1. März 2023 fand im Rahmen der BMBF Förderbekanntmachung „KI-basierte Assistenzsysteme für prozessbegleitende Gesundheitsanwendungen“ ein Auftakttreffen der insgesamt 14 Verbundprojekte statt. Etwa 70 Forschende kamen in den Räumlichkeiten der XITASO GmbH zusammen und diskutierten über die Voraussetzungen für einen sinnvollen Einsatz von KI im Klinikalltag.
Das Ziel der Förderbekanntmachung ist die Erforschung und Entwicklung Interaktiver Technologien, die Prozesse in der klinischen Gesundheitsversorgung vereinfachen und Fachkräften somit mehr Zeit für die empathische Begleitung und medizinische Behandlung von Menschen geben sollen. Die 14 geförderten Projekte decken mit ihren Forschungsideen nahezu alle Bereiche des Klinikalltags ab – von der Registrierung über die Behandlung bis zur Nachsorge. Eine Projektübersicht finden Sie hier.
Bei dem Auftakttreffen in Augsburg stand die Vernetzung im Vordergrund. Unter den Teilnehmenden befanden sich sowohl Expertinnen und Experten aus dem medizinischen Bereich, aber auch aus den Bereichen Informatik und Softwaredesign. In den moderierten Workshops thematisierten die Teilnehmenden vor allem die Potenziale und Grenzen von KI-Modellen im medizinischen Kontext. Dabei wurden diese auch Algorithmen gegenübergestellt, die zwar zuverlässig und berechenbar funktionieren, denen es jedoch insgesamt an Flexibilität und Komfort fehle.
„KI wird keine Medizinerinnen und Mediziner ersetzen – und wenn doch, dann nur solche, die sich nicht von einer KI helfen lassen wollen“
In einem Workshop zum Thema „Herausforderungen bei der Anwendung von KI in der Gesundheitsversorgung“ wurde unter anderem über das menschliche Bedürfnis diskutiert, KI-Entscheidungen nachvollziehen zu können. Die Teilnehmenden waren sich darüber einig, dass der Mensch im Zusammenspiel mit KI stets das letzte Wort haben müsse, da er unabhängig von der KI-Empfehlungen für sein Handeln verantwortlich sei. Der Einsatz von KI im medizinischen Kontext sei eben nicht vergleichbar mit einem Navigationsassistenten, bei dem es im Grunde egal sei, wie er die Route berechnet hat, solange er den Menschen nur ans Ziel bringt. Jedoch gab es auch differenziertere Sichtweisen. So hieß es beispielsweise auch: Nicht jeder Mensch müsse jede KI-Entscheidung verstehen – auch nicht im medizinischen Kontext. Schließlich würde man sich bei der Einnahme von Medikamenten auch auf den Rat seiner Ärztin oder seines Arztes verlassen, ohne genau zu wissen, wie die Präparate im Einzelnen wirken. Umso mehr komme Medizinerinnen und Medizinern daher aber eine sehr wichtige Kontroll- und Vermittlungsfunktion zu.
Ein anderer Workshop widmete sich der Frage, wie man die Nutzerakzeptanz und die Praktikabilität von medizinischen Anwendungen sicherstellen könne. Einen Schwerpunkt in der Diskussion nahm dabei die Praktikabilität von VR/AR Anwendungen im OP-Saal ein. Die Teilnehmenden tauschten zunächst praktische Erfahrungen über gut funktionierende Anwendungsbeispiele – wie etwa die Operationsvorbereitung oder das Training aus. Darüber hinaus thematisierten sie Bereiche in denen es noch Verbesserungspotenzial gäbe – etwa bei der Ergonomie oder beim Interface. Besonders für den Bereich Ausbildung und des berufsbegleitenden Trainings wurde ein starker Mehrwert bei den Teilnehmern gesehen. Kritischer wurde der Einsatz in einer realen OP bewertet, da hier noch viele technologische Einschränkungen existieren. Anschließend wurden die von den Projekten eingesetzten Methoden der Nutzerzentrierung besprochen. Es wurde eine kleine Sammlung von Methoden und Techniken zur praktischen Nutzenden Einbindung erstellt und die Vor- und Nachteile diskutiert.
„Alle Daten, die wir jetzt nicht richtig digitalisieren, gehen uns für immer verloren“
Im Workshop mit dem Titel „Zugang und Qualität von Daten als Grundlage für KI“ wurden die Voraussetzungen für ein möglichst effizientes Training von KI-Modellen diskutiert. Dabei zeigte sich, dass die Bereitstellung verwertbarer Datensätze eine der größten Hürden von KI im Kontext von medizinischen Anwendungen darstellt. Entweder seien Daten aus Datenschutzgründen nicht zugänglich oder sie wurden auf eine Weise erhoben, die nur eine eingeschränkte Verwertung ermöglicht. Zudem betonten die Teilnehmenden, dass die Erhebung von Daten in Deutschland noch immer mühsame Zusatzarbeit bedeute, die parallel zum medizinischen Tagesgeschäft anfalle. Hier brauche man bessere Prozesse, die eine automatisierte Datenerfassung erlaube. Wichtig sei zudem, dass die etwa 1.800 Krankenhäuser und Kliniken in Deutschland ein besseres Verständnis für ihre eigene Rolle bei der Digitalisierung von Prozessen entwickeln. Es reiche nicht aus, nur Daten zur Verfügung zu stellen. Wichtig sei auch die Expertise, die Daten zu deuten.
Im Workshop „Regulatorische Hürden und Interoperabilität“ stellten die Teilnehmenden zunächst ihren persönlichen Bezug zu regulatorischen Vorgaben vor. Dabei zeigte sich, dass die Zulassung eines Medizinprodukts von einigen Projekten zwar angestrebt werde, dass die vielen zu beachtenden Anforderungen auf EU-, Bundes- und Länderebene sehr aufwendig seien und oftmals eine abschreckende Wirkung hätten. Die Teilnehmenden waren sich einig darüber, dass das Erfüllen aller erforderlichen Regularien im Rahmen eines Forschungs- und Entwicklungsprojekts kaum möglich sei, weil dies den Forschungsanteil zu stark schrumpfen würde.
Das nächste Vernetzungstreffen innerhalb der Bekanntmachung wird voraussichtlich im kommenden Jahr stattfinden.
Weitere Informationen:
https://www.interaktive-technologien.de/foerderung/bekanntmachungen/kias