Am 05.02.2024 fand die digitale Abschlussveranstaltung der Projekte im Rahmen der Bekanntmachung „Adaptive Technologien für die Gesellschaft – Intelligentes Zusammenwirken von Mensch und Künstlicher Intelligenz“ statt.
Die neun Projekte der Förderrichtlinie „Adaptive Technologien für die Gesellschaft – Intelligentes Zusammenwirken von Mensch und Künstlicher Intelligenz“ beschäftigten sich mit vielen spannenden und gewichtigen Themen rund um den Einsatz von Künstlicher Intelligenz (KI).
Bei den Ergebnispräsentationen der Projekte auf der digitalen Abschlussveranstaltung zeigte sich, wie vielseitig KI eingesetzt werden kann. So entwickelten die Forschenden beispielsweise KI-basierte Systeme zur Unterstützung bei der:
Die Projektergebnisse wurden begleitend in Form von multimedialen Ergebnissteckbriefen veröffentlicht.
Anschließend teilten sich die Teilnehmenden auf einen von drei Workshops auf:
Im Workshop zum Thema „interaktive KI-Systeme“ äußerten die Forschenden mehrfach den Wunsch nach flexibleren Rahmenbedingungen für Forschungsprojekte mit KI-Beteiligung. Die Schritte, die im Rahmen der Projektbearbeitung zur Datensammlung vorgesehen seien, ließen sich kaum in drei Jahren Förderlaufzeit realisieren. Da die Forschungsteams ihre gesammelten Daten weiternutzen und verwerten wollten, wären eine längere Förderdauer oder entsprechende Folgeprojekte empfehlenswert. Bei der MeKI-Förderlinie wäre zudem eine Begleitforschung hilfreich gewesen, um „lessons learned“ verfügbar zu machen.
Die Forschenden stellten sich im Workshop zudem die Frage, wie sich in der Interaktion mit KI die Balance zwischen menschlicher Kontrolle und KI-Unterstützung halten ließe. Wegen der unterschiedlichen Anforderungen der Nutzenden müsse die Anpassungsfähigkeit der Interaktion das Ziel sein. Prof. Gerken hält VR-Simulationen zur Unterstützung der KI-Projekte für nur bedingt geeignet, weil in der Realität mit der Robotik anders umgegangen werde, als virtuell.
Prof. Dr. Ursula Hertha Hübner und Mareike Przysucha von der Hochschule Osnabrück stellten in ihrem Workshop das OMOP-System vor. OMOP steht für Observational Medical Outcomes Partnership und bezeichnet ein Programm, das Beobachtungsdaten zur Medikamentenauswertung sammelt. OMOP-Daten werden vorwiegend für klinische Studien herangezogen. Eine KI schafft aus diesen Daten Evidenz.
In Deutschland verwenden viele Forschende Daten aus „HL7 FHIR“. Dieses Akronym steht für „Fast Healthcare Interoperability Resources“ bzw. „schnell zusammenarbeitende Ressourcen im Gesundheitswesen“. Prof. Hübner plädiert für einen Standardisierungsansatz für Datenbanken aus der elektronischen Patientenakte. Dieses Datenmodell müsste einheitliches Vokabular verwenden und ließe sich dann datenschutzkonform auswerten und problemlos analysieren, um daraus Evidenz zu schaffen. Zurzeit gebe es international sehr viele unterschiedliche Vokabulare, was Auswertung und Vergleichbarkeit erschwere.
Im dritten Workshop ging es um den AI-Act. Der AI-Act ist ein Vorschlag der Europäischen Kommission für eine EU-Verordnung zur Regulierung von KI. In diesem Entwurf werden KI-Anwendungen nach Risiko klassifiziert. Anhand dieser Skala teilten die Teilnehmenden ihre Projekte in die Klassen „Hochrisiko“ (Medizintechnik, Infrastruktur, Verkehr) und „nicht akzeptables Risiko“ (KI, die Verhalten beeinflussen will und verboten werden soll) ein.
Als Risiken des AI-Acts arbeiteten sie heraus:
Chancen des AI-Acts wären wiederum:
Links zu weiteren KI-nahen Bekanntmachungen: