Bild: Shutterstock
Please scroll down for the English Version!
Jetzt ist Mitmachen gefragt:
Die Europäische Kommission hat am 6. Juni 2025 eine öffentliche Konsultation zu sogenannten „KI-Systemen mit hohem Risiko“ gestartet. Noch bis zum 18. Juli 2025 können Bürger:innen, Fachorganisationen und Institutionen ihre Meinung einbringen. Data Saves Lives Deutschland unterstützt diesen Weg ausdrücklich – denn bei digitaler Transformation im Gesundheitswesen ist Transparenz und Mitbestimmung unverzichtbar.
Aber zuerst: Was ist der AI - Act?
Der AI Act ist die weltweit erste umfassende Regulierung künstlicher Intelligenz. Die Verordnung wurde 2021 von der Europäischen Kommission vorgeschlagen, im Frühjahr 2024 politisch beschlossen und ist seit dem 1. August 2024 in Kraft. Ab 2026 soll sie schrittweise vollständig wirksam werden.
Der AI Act arbeitet mit einem risikobasierten Ansatz: KI-Systeme werden in vier Risikokategorien unterteilt – von „unvertretbar“ (verboten) bis „geringes Risiko“ (frei verwendbar). Besonders im Fokus stehen dabei sogenannte „KI-Systeme mit hohem Risiko“, also Anwendungen, die erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte haben – zum Beispiel im Gesundheitswesen, in der Bildung oder öffentlichen Verwaltung.
Warum ist das jetzt für das Gesundheitswesen relevant?
KI-Systeme werden im medizinischen Bereich zunehmend eingesetzt – z. B. bei der Analyse von radiologischen Aufnahmen wie z.B. MRT-Bildern, in der digitalen Entscheidungsunterstützung oder in der Verwaltung von Behandlungsprozessen, wie zum Beispiel Arztbriefen usw. Viele dieser Anwendungen fallen künftig unter die „Hochrisiko“-Kategorie – und unterliegen damit strengen Anforderungen:
Zuverlässigkeit und Nachvollziehbarkeit
Menschliche Kontrolle statt Black Box
Datensicherheit und Transparenz
Ethische und soziale Folgenabschätzung
Besonders wichtig ist dabei der Umgang mit Gesundheitsdaten. Sie sind auf der einen Seite hochsensibel und müssen besonders geschützt werden. Gleichzeitig sind sie entscheidend für Forschung, Innovation und die Verbesserung von Versorgung. Der AI Act trägt diesem Spannungsfeld Rechnung und verlangt ein Gleichgewicht zwischen Datenschutz und gesellschaftlichem Nutzen.
Was passiert jetzt mit der öffentlichen Konsultation?
Öffentliche Konsultationen passieren immer wieder. Mit diesem Prozess fragt die Europäische Kommission Bürgerinnen und Bürger der Europäischen Union immer wieder um ihre Meinung. Damit erhalten wir alle, die wir in einem der EU Mitgliedsstaaten leben und arbeiten die Chance, unsere Meinung kund zu tun.
In der aktuellen Konsultation bittet die Europäische Kommission um Rückmeldungen zur konkreten Umsetzung des AI Acts – etwa zu:
der Definition und Einstufung „hochrisikobehafteter“ Systeme,
Anforderungen an Dokumentation und Transparenz,
dem Umgang mit sensiblen Daten im Gesundheitsbereich,
der Einbindung von Nutzer:innen und Betroffenen.
Mehr über AI wissen? Wir haben da etwas vorbereitet!
Unsere Online-Session zu KI im Gesundheitswesen
Wer tiefer in das Thema AI (artificial intelligence) oder künstliche Intelligenz einsteigen will, dem empfehlen wir unsere aufgezeichnete DSL DE Online-Session:
„AI auf Rezept?“ – mit Prof. Björn Eskofier (FAU Erlangen-Nürnberg)
Darin geht es u. a. um:
Wo KI heute schon eingesetzt wird,
welche Potenziale und Risiken es gibt,
und wie wir als Gesellschaft gute Rahmenbedingungen schaffen können.
Wir haben alle Infos inklusive Blogpost, Link zur Aufzeichnung hier zusammen gefasst: Zur AI Session von DSL DE
Warum es wichtig ist und sich lohnt, mitzumachen!
Diese Konsultationen sind mehr als technische Abfragen – sie sind ein wichtiges demokratisches Werkzeug. Die Rückmeldungen fließen direkt in die Umsetzung und Auslegung des Gesetzes ein. Damit tragen wir, indem wir mitmachen, maßgeblich dazu bei, wie KI in Europa gestaltet wird – und auch, wie Gesundheitsdaten künftig verwendet werden dürfen.
Bei Data Saves Lives Deutschland setzen wir uns seit Jahren dafür ein, dass gute Information, verständliche Kommunikation und echte Partizipation gemeinsam den Rahmen für gesunde, tragfähige Digitalkonzepte bilden. Deshalb ist das Mitmachen bei solchen Konsultationen kein Nebenschauplatz – sondern zentral.
Ob als Patient:in, Fachkraft, Bürger:in oder Forscher:in: Jede Stimme zählt.
Hier geht es zur Konsultation:
Jetzt teilnehmen – und mitgestalten!
🗓️ Offen bis zum 18. Juli 2025
🔗 Zur Konsultation auf Deutsch
Die Umfrage kann auch in anderen Sprachen abgerufen werden!
English Version
Artificial intelligence in healthcare: Have your say now – the EU consultation on the AI Act is open!
News and events, digitalization, ePA (electronic patient record in Germany) and legislation
Now is the time to get involved:
On June 6, 2025, the European Commission launched a public consultation on so-called “high-risk AI systems.”Citizens, professional organizations, and institutions have until July 18, 2025 to share their opinions. Data Saves Lives Germany strongly supports this initiative, as transparency and co-determination are essential for digital transformation in healthcare.
But first: What is the AI Act?
The AI Act is the world's first comprehensive regulation of artificial intelligence. The regulation was proposed by the European Commission in 2021, adopted politically in spring 2024, and has been in force since August 1, 2024. It is set to become fully effective in stages starting in 2026.
The AI Act takes a risk-based approach: AI systems are divided into four risk categories – from “unacceptable” (prohibited) to “low risk” (freely usable). Particular focus is placed on so-called “high-risk AI systems,” i.e., applications that have a significant impact on health, safety, or fundamental rights – for example, in healthcare, education, or public administration.
Why is this relevant for healthcare now?
AI systems are increasingly being used in the medical field – e.g., in the analysis of radiological images such as MRI scans, in digital decision support, or in the management of treatment processes, such as doctor's letters, etc. Many of these applications will fall into the “high risk” category in the future – and will therefore be subject to strict requirements:
Reliability and traceability
Human control instead of black boxes
Data security and transparency
Ethical and social impact assessment
The handling of health data is particularly important in this context. On the one hand, it is highly sensitive and must be protected with special care. At the same time, it is crucial for research, innovation, and improving healthcare. The AI Act takes this tension into account and calls for a balance between data protection and societal benefits.
What happens now with the public consultation?
Public consultations happen all the time. Through this process, the European Commission regularly asks citizens of the European Union for their opinions. This gives all of us who live and work in one of the EU member states the opportunity to express our views.
In the current consultation, the European Commission is asking for feedback on the concrete implementation of the AI Act, for example on:
the definition and classification of “high-risk” systems,
documentation and transparency requirements,
the handling of sensitive data in the healthcare sector,
the involvement of users and affected parties.
Want to know more about AI? We've got something for you!
Our online session on AI in healthcare
If you want to delve deeper into the topic of AI (artificial intelligence), we recommend our recorded DSL DE online session:
“AI on prescription?” – with Prof. Björn Eskofier (FAU Erlangen-Nürnberg)
It covers topics such as:
Where AI is already being used today,
what potential and risks there are,
and how we as a society can create favorable conditions.
We have summarized all the information, including a blog post and a link to the recording, here: To the AI session by DSL DE
Why it is important and worthwhile to participate!
These consultations are more than technical inquiries – they are an important democratic tool. The feedback flows directly into the implementation and interpretation of the law. By participating, we are making a significant contribution to how AI is shaped in Europe – and also to how health data may be used in the future.
At Data Saves Lives Germany, we have been working for years to ensure that good information, understandable communication, and genuine participation together form the framework for healthy, sustainable digital concepts. That is why participating in such consultations is not a side issue – it is central.
Whether you are a patient, professional, citizen, or researcher, every voice counts.
Click here to participate in the consultation:
Participate now – and help shape the future!
🗓️ Open until July 18, 2025
🔗 To the consultation in German and English
The survey is also available in other languages!