KI und Recht

Maßgeblich sind hierbei insbesondere

• die Datenschutz-Grundverordnung (DSGVO)
  In logopädischen Praxen gehen die Beschäftigten mit sensiblen Gesundheitsdaten um. Diese unterliegen einem erhöhten Schutz (nach Art. 9 DSGVO)
  und
• die berufliche Schweigepflicht (§ 203 StGB)
  Logopäd*innen sind zur Verschwiegenheit nach § 203 StGB verpflichtet. Diese Schweigepflicht gilt auch beim Einsatz von KI.
  sowie
• die EU-Verordnung über Künstliche Intelligenz (EU-KI-Verordnung/AI Act), die schrittweise Anwendung findet und erstmals einen verbindlichen Rechtsrahmen für den Einsatz von KI-Systemen schafft. Sie reguliert den Gebrauch von KI innerhalb der EU mit dem Ziel eines sicheren, transparenten und menschenzentrierten Einsatzes von KI. Den Regelungen unterliegen alle – nicht nur die Anbieter*innen, sondern auch die Nutzer*innen.
  

Wo liegen die rechtlichen Grenzen des KI-Einsatzes?

KI darf in der täglichen Arbeit in der logopädischen Praxis ausschließlich unterstützend eingesetzt werden − bei organisatorischen Aufgaben, der Dokumentation und der Therapievorbereitung (z.B. für die Erstellung von Therapiematerialien (Bildmaterial, Arbeitsblätter oder Übungstexte).

Dabei müssen KI-generierte Inhalte immer vor der weiteren Verwendung fachlich ausgewählt, überprüft, therapeutisch bewertet und angepasst werden, eine ungeprüfte Übernahme ist nicht zulässig. Urheberrechtlich sind solche Inhalte nicht geschützt, da keine menschliche schöpferische Leistung vorliegt. Allerdings kann nicht ausgeschlossen werden, dass die Inhalte bereits bestehenden Werken ähneln oder von ihnen abgeleitet sind; in solchen Fällen kann dies als Bearbeitung oder Umgestaltung im Sinne des Urheberrechts gelten. Die Verantwortung für eine urheberrechtskonforme Nutzung liegt vollständig bei der logopädischen Praxis.

Fazit: Der Einsatz von KI erfordert immer eine wirksame menschliche Aufsicht. Entscheidungen mit Auswirkungen auf Patient*innen müssen von qualifizierten Fachpersonen getroffen oder überprüft werden. Die fachliche und therapeutische Verantwortung verbleibt also immer bei der behandelnden Logopädin bzw. dem behandelnden Logopäden. Sie ist – und das wundert nicht – nicht durch eine KI ersetzbar.

Hier wird klar: Alles nicht so einfach… Schulungen und rechtliche Beratungen sind essenziell, um Inhalte korrekt zu nutzen und mögliche rechtliche Risiken zu erkennen und zu vermeiden.

Was gilt zum Thema Qualifikation und Schulung der Mitarbeitenden?

Nutzen Ihre Mitarbeiter*innen vielleicht schon eine KI, ohne dass Sie es wissen? Dann haben wir es mit der sogenannten „Schatten-KI“ zu tun. Im ersten Moment hört sich dies vielleicht harmlos an („Kann schon sein, aber was ich nicht weiß, macht mich nicht heiß“), aber ganz so einfach ist die Sache nicht. Ganz im Gegenteil, denn wenn in logopädischen Praxen mit KI-Systemen gearbeitet wird, dann müssen alle Mitarbeitende, die KI-Systeme nutzen, über eine ausreichende Kompetenz verfügen. Die EU-KI-Verordnung verpflichtet Anwender*innen dazu, KI nur dann einzusetzen, wenn sie deren Funktionsweise, Grenzen und Risiken auch verstehen.

Für die Praxis bedeutet das, Arbeitgebende haben Pflichten, die sie vor dem Einsatz der KI erfüllen müssen, nämlich:

• Anbieten von gezielten Schulungen zu Funktionsweise, Einsatzbereichen und Risiken der eingesetzten KI,
• Aufsetzen von klaren internen Regelungen, welche Mitarbeitenden KI nutzen dürfen und zu welchem Zweck,
• Sensibilisieren für Datenschutz, Schweigepflicht und mögliche Fehlentscheidungen.

Wer führt Schulungen durch?

Dies können sein:

• externe Fortbildungsanbieter*innen,
• Datenschutz-Fachstellen (ggf. mit Gesundheitsbezug),
• Rechtsanwält*innen mit entsprechendem Schwerpunkt.

Eine formale staatliche Zertifizierung ist derzeit nicht erforderlich, entscheidend ist hierbei vor allem die fachliche und inhaltliche Qualität der Schulung.

Mindestinhalte von KI-Schulungen:

• Grundlagen: Funktionsweise, Trainingsprinzipien und typische Fehler von KI-Systemen,
• konkrete Einsatzmöglichkeiten und Grenzen im logopädischen Praxisalltag,
• Risiken wie Fehlinformationen („Halluzinationen“) und Verzerrungen,
• Datenschutz, DSGVO und Schweigepflicht (§ 203 StGB),
• Verantwortlichkeiten, Haftungsfragen und menschliche Aufsicht.

Wie sieht es mit Datenschutz, Schweigepflicht und Transparenz gegenüber Patient*innen aus?

Der Einsatz von KI unterliegt denselben datenschutzrechtlichen Anforderungen wie auch andere Softwarelösungen. Insbesondere ist sicherzustellen:

• die DSGVO-Konformität der eingesetzten Systeme (z. B. Datensicherheit, Speicherort, keine unzulässige Drittstaatenübermittlung),
• der Abschluss eines Auftragsverarbeitungsvertrags (AVV) mit dem/der Anbieter*in, sofern personenbezogene oder gesundheitsbezogene Daten verarbeitet werden.

Darüber hinaus verlangen sowohl die DSGVO als auch die EU-KI-Verordnung Transparenz gegenüber Patient*innen. Diese müssen darüber informiert werden, dass und in welcher Form KI im Rahmen ihrer Behandlung eingesetzt wird. Hier reicht ein allgemeiner Hinweis, etwa durch einen Praxisaushang oder eine mündliche Information. Kommuniziert ein KI-System direkt mit Patient*innen (z. B. in Form eines Telefonassistenten), muss klar erkennbar sein, dass es sich um eine KI handelt, z. B.:
„Hallo, hier ist der KI-Telefonassistent der logopädischen Praxis.“

Wird KI rein intern eingesetzt und werden keine personenbezogenen oder rückführbaren Patientendaten verarbeitet, besteht auch keine Informationspflicht gegenüber Patient*innen, dass man eine KI (bspw. zur Praxisorganisation) nutzt.

Auf einen Blick: Das ist wichtig

• KI ersetzt niemals die fachliche Verantwortung oder therapeutische Entscheidungen.
• KI erfordert menschliche Aufsicht,
• KI nur mit geschulten Mitarbeitenden und DSGVO-konformen Systemen nutzen
  KI erfordert einen bewussten Umgang mit urheberrechtlichen Fragen und eine transparente Kommunikation mit Patient*innen.

 

---

Warum der dbl das Thema KI aktiv mitgestaltet›