#101 KI in der Medizin – wie sieht es der Jurist? Teil 3: KI als Unterstützung im Medizinbetrieb:

00:00:01: Ersetzen wird uns die KI als Menschen, hoffentlich nicht.

00:00:04: Wir werden als speziesweite Inhalten bleiben und wir müssen eben schauen wie wir jetzt mit diesem Geist den wir aus der Flasche gelassen haben

00:00:12: umgehen.

00:00:34: Hallo und herzlich willkommen zu Schmerzmedizin konkret, dem Podcast der Deutschen Gesellschaft für Schmerzen Medizin.

00:00:40: Haben Sie heute schon mit Ihrer Arztpraxis geplaudert?

00:00:43: Oder war es vielleicht ein Chatbot?

00:00:45: Die künstliche Intelligenz ist in der Medizin nicht mehr wegzudenken – sie vereinbart Termine, schreibt Arztbriefe, wertet Röntgenbilder aus und schlägt auf Therapien vor!

00:00:53: Schon heute fragen viele vor dem Arztbesuch die KI, sie tippen ihre Symptome in eine App und die Diagnose kommt in Sekunden.

00:01:00: Klingt nach Fortschritt!

00:01:02: Wirft aber für uns alle riesige Fragen auf – wo laden all diese mit KI erzeugten Daten?

00:01:08: Wer schützt beine Daten wenn diese in Praxis oder Klinik mithilfe der KI erworben wurden?

00:01:13: Wie sieht das aus Sicht des Juristen mit Chatbots aus, die zum Beispiel als Bekleidung bei Depressionen angesetzt werden?

00:01:19: Was ist eine Cloud?

00:01:20: Wie weit geht Überwachung mit der KI?

00:01:23: Was bedeutet das auch fürs Arbeitsrecht?

00:01:26: Ja, heute schauen wir erneut hinter die Kulissen was rechtlich beim Einsatz von KI zu beachten ist.

00:01:31: Wie KI unseren Medizinbetrieb verbessern kann ohne dass der Mensch und seine Rechte dabei auf der Strecke bleiben Und dafür begrüße ich erneut unseren Experten, Prof.

00:01:40: Dr.

00:01:40: Joar-Heinz Uwe Dettling.

00:01:41: Er ist Rechtsanwalt in Stuttgart seit Zwei Tausend Neunzehn Honorarprofessor an der Universität Hohenheim in Studgart mit Vorlesungen zum KI Recht und Digitalrecht und zum Gesundheitswirtschaftsrecht.

00:01:53: Liebe Herr Professor Dettlingen, schön dass Sie wieder dabei sind.

00:01:56: Guten Tag!

00:01:57: Danke für die erneute Einladung.

00:01:58: Ja und wir reden von einer digitalen Infrastruktur, die notwendig ist um den Einsatz vom KI-System für jegliche medizinische Anwendung zu ermöglichen.

00:02:07: Nur dann können diese Systeme auch zuverlässig funktionieren, die persönlichen Daten geschützt werden.

00:02:12: Doch was heißt das?

00:02:14: Und da fallen eben solche Begriffe wie Cloud, Chatbot und und und Wir hatten ja schon mal über Chatbots gesprochen.

00:02:20: aber Was ist denn jetzt eigentlich wirklich so ein Chatbot?

00:02:24: Was bedeutet das und wie wird er denn sinnvoll eingesetzt?

00:02:28: Cloud, Chatbot KI.

00:02:30: Das ist natürlich ein technisches Wunderwerk eine technische Meisterleistung etwas was natürlich aber auch sehr viel Rechenkapazität erfordert.

00:02:40: und diese Rechen Kapazität hat natürlich nicht hier erlebt habe sondern dafür brauche ich große Rechenzentren das heißt letztendlich große Server-Serverfarmen Und die hat natürlich jeder Arzt bei sich in der Praxis stehen.

00:02:55: das geht schon für den Räumlichkeiten ja nicht.

00:02:57: Das heißt, viele KI-Anwendungen bedürfen einer so großen Rechenleistung, dass man hier nur mit externen Serverbetreiber und Rechenzentrumsbetreber zusammenarbeiten kann.

00:03:12: Und das ist die Cloud!

00:03:14: Wir hatten in der ersten Folge schon von den BuzzWords gesprochen, die gerne in der IT-Prosche verwendet werden.

00:03:22: Cloud hat also nichts mit Wolken zu tun, sondern das sind sehr physische Geräte.

00:03:28: Das sind einfach nur Server und Computer mit riesigen Rechenleistungen, mit riesigem Datenspeicherkapazitäten.

00:03:38: Die werden natürlich nicht von den Arztprax für die Krankenhäusern selber betrieben, sondern von sonstigen Betreibern.

00:03:45: Und diese Betreber haben natürlich Zugriff auf all das, was auf ihren Servern gespeichert wird!

00:03:52: Und deswegen haben wir hier natürlich den Konflikt.

00:03:55: Auf der einen Seite natürlich diese modernen Hochleistungswegen, Tools und Werkzeuge hier einzusetzen auch dem Patienten zur Verfügung zu stellen zugänglich zu machen auf der anderen Seite aber ihre Daten hier zu schützen.

00:04:10: Es war insbesondere im Krankenhausbereich lange Zeit umstritten und unterschiedlich geregelt auch in den Landeskrankenhausen gesetzt und unterschiedlich geregelt, ob beispielsweise Krankenhäuser Patientendaten in der Cloud speichern dürfen.

00:04:26: Das heißt auf Servern von Betreibern von Rechenzentren speichert dürfen oder ob sie ihre Patientendaten immer auf eigenen Servern On-Premises im Krankenhaus selber speicheren müssen.

00:04:41: Wir haben in den letzten Jahren hier eine Regelung im SGB Römisch-V bekommen.

00:04:47: Die sagt, die Glaubspeicherung ist zulässig aber natürlich nicht ohne Weiteres.

00:04:53: Der Datenschutz muss gewährleistet sein und das bedeutet beispielsweise dass die Server innerhalb der Europäischen Union physisch sein müssen und auch sonst müssen die Server natürlich entsprechend sicher sein.

00:05:07: Die Daten müssen sicher sein, sie dürfen da nicht verschwinden.

00:05:11: Es muss gewährleistet sein dass nur befugte Personen dann Zugang zu diesen Daten bekommen.

00:05:17: und all das ist geregelt in Bestimmungen des SGB Römisch V über den Datenschutz und über die Nutzung von Cloud-Serverdiensten durch Leistungsabbringer in der gesetzlichen Krankenversicherung.

00:05:32: Und diese Bestimmungen sehen auch wiederum vor, eine genaue Detailierung der Anforderung durch eine bestimmte Verordnung.

00:05:39: Diese Verordnung ist inzwischen auch erlassen worden.

00:05:42: also wir haben Bürokratie ja die sehr genau regelt und welchen Voraussetzungen laut Server sicher sind und eingesetzt werden dürfen.

00:05:52: aber das dient natürlich letztendlich dem Patientenschutz dient den Datenschutz, dient dazu dass die von dritten Cloud-Betreibern zur Verfügung gestellt werden, genauso sicher sind wie wenn die Server vom Krankenhaus oder der Arztpraxis selber betrieben werden würden.

00:06:11: Wie wenn also die Daten auf den eigenen Rechnern, eigenen Computer und der Arzpraxis des Krankenhauses gespeichert wären?

00:06:18: Und die Patienten müssen jetzt natürlich, denke ich auch darüber aufgeklärt werden wie das funktioniert mit diesen Clouds oder mit so einem Chatbot und was ist dann wichtig?

00:06:28: Was muss da aufgeklärt werden.

00:06:30: Also hier haben wir natürlich einen großen Bereich in dem vor allem die Datenschutzbeauftragten sich tummeln.

00:06:37: Wir haben ja generell im Datenschützrecht die Anforderungen an die Aufklärung der Patienten.

00:06:44: Sie kennen die seitenweisen Aufklärungsschreiben, was man dann alles sehr sorgfältig durchliest als Patient.

00:06:51: Alles vollständig versteht und nach intensiven Verhandlungen mit der Arztpraxis dann letztendlich akzeptiert und unterschreibt.

00:07:00: Erfordertes sind auch entsprechende Datenschutzkonzepte, die müssen dargelegt werden.

00:07:05: also letztendlich ist das halt die Idee unseres Datenschutz rechts dass man den Datenschütze ernst nimmt, dass man von vornherein sicherstellt, dass die Daten sicher sind.

00:07:17: des Einverständnis der Patienten insbesondere auch reprivatpatienten muss dann eben schriftlich auch eingeholt werden.

00:07:24: Die Patienten müssen unterschreiben, müssen über Einverständnis erklären.

00:07:29: im gesetzlichen Bereich haben wir das mehr gesetzlich geregelt aber immer unter der Voraussetzung dass man die Daten nach den sehr detaillierten, sehr strengen Bestimmungen verarbeitet.

00:07:42: also insofern Einfach Datenschutz nach wie vor live.

00:07:46: Der Datenschütz wird nicht einfacher durch KI, sondern eher noch komplizierte.

00:07:52: aber man kann einfach nur generell sagen KI ändert nichts an den hohen Anforderungen an den Datenschutzen.

00:07:58: Jetzt haben sie gesagt, das Ganze wird in einer Cloud gesichert und dann gibt es eine Verordnung.

00:08:02: Und diese Cloud, dass es im Prinzip ein Rechenzentrum was auf EU-Ebene stehen muss also kann ich irgendwo in China beheimatet sein.

00:08:11: jetzt ist natürlich die Frage wie wir denn so eine cloud gesichern

00:08:14: durch den Betreiber.

00:08:16: insbesondere der betreiber schließt mit der Arztpraxis einen Sprengen Vertrag ab und der Betreibers verpflichtete technische und organisatorischen Maßnahmen sogenannte Toms zu ergreifen, um sicherzustellen dass niemand Zugang hat zu den Servern und zu den Daten auf den Servern die dazu nicht befugt ist.

00:08:38: Also da gibt es entsprechende Befugniskonzepte, da gibt's Qualitätsmanagement Systeme natürlich in denen alles genau dokumentiert ist.

00:08:47: Da gibt es Rechtezuordnungen.

00:08:49: also wer hat welche Rechte?

00:08:52: Wer hat Zugang zu welchen Bereichen des Servers Passwortschutz etc.

00:08:59: Das sind so die üblichen datenschutzrechtlichen Sicherheitsmaßnahmen, um sicherzustellen dass kein unbefugter Zugriff auf bestimmte Daten auf den Surfern

00:09:10: hat.

00:09:10: Jetzt hatten Sie im vorherigen Podcast gesagt und das sind sogenannte C-Fünf Clouds.

00:09:16: was heißt das?

00:09:17: C fünf ist einfach nur eine Bezeichnung für einen bestimmten Standard für einen bestimmten Sicherheitsstandard, der hier eingehalten werden muss.

00:09:26: Das ist der aktuelle Standard.

00:09:29: Der wird in Zukunft dann vielleicht C-Sex heißen wenn er weiterentwickelt wird, aber das ist der Standard, der entwickelt wurde auch durch die zuständigen Behörden.

00:09:38: Durch das Bundesamt für Sicherheit in der Informationstechnologie in Zusammenarbeit dann auch mit den zuständigem Behörde für die EPA beispielsweise, für die Telematikinfrastruktur, also der Gemathik.

00:09:51: Also herren sich die Behördien sozusagen verständigt auf einen bestimmten Sicherheitsstandard, der vorgegeben ist und der entsprechend einzuhalten ist.

00:10:00: Das heißt, wenn eine Arztpraxis oder eine Klinik eine Cloud benutzt die eine C-Fünf Standardisierung hat dann ist er eigentlich gesichert.

00:10:08: Auf der sicheren Seite?

00:10:09: Ja genau!

00:10:10: Aber darauf muss man auch achten.

00:10:12: also das ist schon sehr wichtig.

00:10:13: wie gesagt ich hatte es ja schon in einem früheren Podcast auch gesagt Man kann nicht einfach nur in JetGPT Patienten Daten eingeben und sich daran patieren als Brief verschreiben lassen.

00:10:25: Das ist natürlich der Datenschutzrechtliche Totsender, also alle Systeme die man einsetzt, Chatbots die man ein setzt, Übersetzungssysteme oder auch Systeme, die helfen Arztbriefe zu erstellen.

00:10:39: all diese Systeme müssen Systeme sein, die dem C-Fünf Standard entsprechen.

00:10:45: das ist eigentlich eine der wichtigsten Aufgaben von Arztpraxen darauf zu achten nur solche Systeme zu verwenden.

00:10:53: Entweder hat man die dann auf den eigenen Servern, nicht jedes System ist ja so extrem rechnintensiv sondern Übersetzungssystem dürfte jetzt sich in Grenzen halten.

00:11:03: das sollte dann vielleicht auch eigene Server liegen aber auch sonstige aufwendiger KI Anforderungen die mit Patienten Daten gefüttert werden oder auf Cloud-Servern laufen.

00:11:17: Die dürfen nur auf solchen Servern laufen, dessen Betreiber die C-V Zertifizierung

00:11:23: hat.".

00:11:23: Jetzt hören wir aber immer trotz aller Sicherheit das es Heckerangriffe gibt – Auf Kliniken und Arztpraxen?

00:11:31: Wie kann man sich davor schützen?

00:11:34: Was sollte man da vielleicht auch noch beachten?

00:11:37: Was ist da rechtlich dann wichtig wenn es einen Hecker Angriff gegeben hat?

00:11:42: ganz generell das große Thema Cybersecurity.

00:11:45: Auch da haben wir inzwischen sehr strenge Fortnomen auch von EU-Ebene, die sicherstellen sollen und die Unternehmen auch dazu verpflichten.

00:11:56: Beispielsweise kritische Infrastrukturen.

00:11:58: an Krankenhäuser bestimmter Größe gehören ja auch können auch dazu gehören, aber auch Krankenhäuser außerhalb der kritischen Infrastrukturen.

00:12:06: Die sollen und das ist genau die Idee dieser Bestimmung im SGB Römisch V unabhängig davon ob ich jetzt kritische Infrastruktur bin oder nicht?

00:12:16: Ich muss als Leistungsabbringer im Gesundheitswesen die Sicherheit bieten, die ich auch gegebenenfalls als kritische Infrastruktur Wir bieten was das heißt.

00:12:25: Ich brauche entsprechende Spezialisten, ich darf nur entsprechende Service-Systeme nutzen die entsprechend sicher sind und ich muss immer updaten usw.

00:12:34: Das Thema IT wird natürlich auch in Arztpraxen immer wichtiger.

00:12:41: Ohne IT-Spezialist kann ich eine Arztpraxis nicht mehr betreiben.

00:12:45: Und wenn es jetzt zu einem Hackerangriff gekommen ist, was mache ich dann?

00:12:49: Also was muss ich da jetzt ganz dringend tun?

00:12:52: Es kommt auch darauf an, was passiert ist.

00:12:54: Da helfen natürlich dann auch Behörden.

00:12:57: in der Regel oder je nach Art und Weise des Angriffes, kann man seine eigenen Systeme überhaupt nicht mehr benutzen.

00:13:04: Oder man muss dann schnell alles runterfahren versuchen die Dinge zu nutzen.

00:13:08: das sind Aktivitäten für Spezialisten Das ist einfach ein krimineller Akt!

00:13:14: Das ist natürlich strafbar.

00:13:16: Und wie man sich dann genau verhält und wie man es sich dagegen wehrt dafür hat man seine Spezialistin Dafür hat man auch sein IT-Haus aus der Situation dann irgendwie rauszukommen, soweit es überhaupt irgendwie möglich ist.

00:13:32: Aber der beste Schutz ist natürlich der präventive Schutz also immer auf dem aktuellsten Stand der Cyber-Sicherheit zu sein dass sonst Heckerangriff überhaupt nicht passieren kann.

00:13:42: Wenn er passiert ist das in der Regel eine mittlere Katastrophe und dann muss man sich helfen lassen von seinen IT Spezialisten Von den Behörden.

00:13:53: Das hilft nicht.

00:13:55: Ein Unglück, ein Unglücksfall bei dem man versuchen muss gut wie möglich dabei herauszukommen.

00:14:02: Ja das ist das eine Thema.

00:14:03: und das andere Thema was wir ja auch schon besprochen haben ist dass die KI ja immer weiter lernt und ich denke je mehr Daten da sind und auch gerade den großen Rechenzentrum kann sie natürlich auch da lernen.

00:14:16: Wer stellt diese Rechenzentren zum Lernen bereit?

00:14:19: Sind es die gleichen wie die Cloud, in denen jetzt Daten gespeichert werden oder wie funktioniert das.

00:14:24: Wie kann ich jetzt da lernen?

00:14:26: Also

00:14:26: das ist natürlich ein sehr spannendes Thema, dass letztendlich die sekundären Datennutzung betrifft.

00:14:33: Wir haben ja jetzt eigentlich immer zunächst mal über die Primärdatennutzungen gesprochen und wie sicher muss das Krankenhaus, muss die Arztpraxis Daten der eigenen Patienten speichern, verarbeiten um die eigene Behandlung der Patienten dann auch sicherzustellen.

00:14:53: Was Sie ansprechen ist das Weiterlernen.

00:14:55: da braucht man ja so viel Daten wie möglich und auch da ist die Europäische Union natürlich sehr stark engagiert.

00:15:02: Es gibt ganz neu und frisch den European Health Data Space, EHDS also die europäische Verordnung über den europäischen Gesundheitsdatenraum.

00:15:13: wir haben schon seit etwas längerer Zeit und zur eigenes Gesundheitsdaten-Nutzungsgesetz auf nationaler Ebene.

00:15:21: Das ist schon in Vorbereitung auf diese EU-Verordnung erlassen worden, wir haben auch Regelungen zu unserer elektronischen Patientenakte und hier wiederum Regelungen dazu dass wenn kein Widerspruch kommt diese Daten möglichst anonymisiert oder jedenfalls hoch pseudonymisiert gesammelt werden können für bestimmte Projekte im Bereich der Forschung auf Antrag.

00:15:51: Zuständig ist hier das Bundesinstitut für Arzneimittel und Medizinprodukte, das B-Farm.

00:15:56: Das sammelt also die Daten insbesondere auch die Krankenkassendaten oder die Patientendaten von den Krankenkassen in anonymisierter Weise oder jedenfalls hoch pseudonymisiererweise und stellt diese Daten dann in dieser hoch pseudaonymisierten, anonymisierten Form dann für Forschungsvorhaben zur Verfügung.

00:16:19: Und es müssen aber nicht nur Forschungsvorgaben im engeren Sinne sein, es können dann gegebenfalls auch Vorhaben von Medizinproduktenherstellern sein ihre KI sozusagen damit zu trainieren.

00:16:31: also so wird ein Pool geschaffen.

00:16:35: das ist das Ziel von Echtdaten mit deren Hilfe man dann Forschungsprojekte durchführen kann aber auch KI trainieren kann.

00:16:44: Das ist natürlich ein gewisser Prozess, der aber sehr geordnet abläuft und bei dem sichergestellt ist dass hier keine nicht anonymisierten oder nicht hoch pseudonymisierten Patientendaten verwendet werden so das die Rückverfolgbarkeit auf den einzelnen Patienten praktisch ausgeschlossen ist.

00:17:02: Aber das große Ziel ist da und die rechtlichen Bestimmungen dafür sind vorhanden Echtdaten haben, mit denen man dann wieder KI zum Beispiel sehr gut trainieren kann.

00:17:17: Denn je besser die Daten, desto besser die KI und je schlechter die Daten, destor schlechter der KI.

00:17:23: Jetzt fehlt noch ein weiteres Thema nämlich das Arbeitsrecht.

00:17:26: Man kann sich ja auch vorstellen dass die KI zur Überwachung von Angestellten verwendet werden kann oder auch Dienstpläne, die man damit machen kann.

00:17:34: Das ist sicher auch einfacher die KI die Dienstplähne machen zu lassen als je nachdem wie viel da involviert sind, also für wie viele Angestelle man das machen muss und was gilt es jetzt dabei zu beachten?

00:17:48: Unser KI-Verordnung ist auch ein kleines bisschen arbeitsrecht geworden.

00:17:54: Ich hatte ja schon im frühen Prädkast gesagt Medizinprodukte und sonstige spezifisch regulierte Produkte sind nicht die einzige Kategorie von Hochrisikrokazie-Systemen – es gibt noch weitere!

00:18:10: Kategorien von Hochrisikokai-Systemen.

00:18:13: Dazu gehören Gesichtserkennungssysteme oder es gehören beispielsweise auch Systeme dazu, mit denen Bewerbungen analysiert und ausgewählt werden.

00:18:23: also der Einsatz von KI zur Auswahl von Bewerbern bedeutet dass diese KI eine Hochrisiko KI ist und damit nur dann erst dann auf den Markt gebracht werden kann wenn sie CE zertifiziert ist, also ein Konformitätsbewertungsverfahren nach der KI-Verordnung durchgeführt hat oder durchlaufen und bestanden hat.

00:18:49: Dadurch sichergestellt worden ist, dass diese Bewerbungssoftware auch tatsächlich richtig funktioniert und allen gesetzlichen Anforderungen entspricht.

00:19:02: Insofern ist KI recht teilweise auch arbeitsrecht.

00:19:08: Es gibt darüber hinaus noch Regelungen im Betriebsratrecht.

00:19:14: Wir haben jetzt bei den Arztbrechsten Praxen nicht so viele Betriebesräte, aber im Krankenhausbereich etwa das Betriebersräte auch darüber informiert werden müssen ob KI zur Überwachung von Arbeitnehmern eingesetzt wird oder nicht und Also das ist auch ein Mitbestimmungsthema.

00:19:35: Das ist aber ein nationales, nationalrechtliches Thema weil das Nationales Arbeitsrecht dann berührt.

00:19:41: Aber KI hat auch viele arbeitsrechtliche Auswirkungen und ist auch in vielerlei Hinsicht hier reguliert.

00:19:49: Ja, also das heißt Erstellung von Dienstplänen und so, das dürfte dann aber kein Hochrisiko-Medizinprodukt sein.

00:19:56: Erstellung von Dienstblänen, das sehe ich jetzt

00:19:59: nicht,

00:19:59: dass es ein Hochrisikosystem ist.

00:20:03: Irren ist menschlich, irren ist auch kairig wenn man so will.

00:20:09: Und wenn halt beim Dienstblein mal was schief geht, dann ist es sicherlich ärgerlich.

00:20:15: Der Arbeitgeber selber hat dann auch ein großes Interesse daran, nur solche Systeme zu verwenden die hier richtig und sauber und gut funktionieren.

00:20:23: Aber das ist keine regulierte KI.

00:20:27: Jeder Arbeitgebe hat natürlich in Interesse dran eine KI zu kaufen, die gut funktioniert und sich entsprechende Gewährleistungen geben zu lassen.

00:20:37: kann man natürlich auch schauen, gibt es da sonstige Zertifizierungen für diese KI?

00:20:42: Wie funktioniert die?

00:20:43: das ist so wie bei allen anderen Produkten dann auch.

00:20:46: Dann vergleicht man eben schaut welches besser, welches schlechter oder welches passt besser und da ist man dann sozusagen im rein privaten oder beruflichen geschäftlichen Bereich wo man eben schauen muss dass die Tools, die Werkzeuge die man verwendet, die Mittel die man einsetzt hat möglichst gut funktionieren.

00:21:06: Aber reguliert wäre ein Dienstplan, eine Dienstplan auch KI nicht.

00:21:12: Sind wir jetzt mal im Team und da ist natürlich die nächste Frage – wen kann die KI im Team ersetzen?

00:21:17: Oder werden wir alle irgendwann von der KI ersetzt?

00:21:20: und ja wie gehen wir mit solchen Fragen um?

00:21:25: Das sind natürlich ganz, ganz großen Fragen!

00:21:27: die sich berechtigterweise stellen, also da muss man kein Verschwörungstheoretiker sein um sich diesen Fragen zu stellen.

00:21:36: Denn wir haben ja im ersten Postgres gesehen Wir haben jetzt Software, wir haben den Maschinen unser logisches Denken beigebracht und unser logises Denken ist eigentlich unsere schärfste Waffe, um unser Leben zu bewältigen, auch überlegen zu sein.

00:21:51: Und wir haben jetzt, indem wir den Maschinen unseres logisches Denken beigebracht haben unser Logisches Denk mit deren Rechenkapazitäten verknüpft.

00:22:01: Das ist natürlich schon eine gewaltige Power und eine große Herausforderung für uns insgesamt als Menschen.

00:22:09: Man sollte da schon einen gesunden Respekt davor haben einfach nur die Dinge so abtun und sagen, ja, die Menschen werden oder jedenfalls im Berufen.

00:22:22: Darum geht es.

00:22:22: ja, KI wird nie Menschen ganz ersetzen können das muss man möglicherweise differenziert sein stehen.

00:22:30: also es wird viele berufliche Bereiche geben in denen die KI irgendwann mal besser sein wird.

00:22:36: und dann was das einzige was da noch bleibt ist die menschliche Aufsicht über KI Also die Frage, ob wir ersetzt werden oder nicht.

00:22:44: Die ist differenziert zu beantworten.

00:22:46: auf der anderen Seite muss man sagen Wir sind ja nicht unbedingt geboren umzuarbeiten und je mehr Maschinen uns Arbeit abnehmen umso besser.

00:22:55: dann ist jetzt nur noch die Frage Wie verteilt man denn sozusagen die Gewinne aus dieser Arbeit?

00:23:01: Und dann sind wir bei dem Thema Verteilung.

00:23:05: und die Frage hat unser guter Alter Karl Marx dann irgendwann doch noch recht, dass wir kein privates Eigentum mehr brauchen um zur Arbeit zu motivieren.

00:23:14: Also da stellen sich in der Tat sehr große Fragen mit denen wir uns beschäftigen müssen und wo wir nicht einfach so sagen können nach ja Wir werden schon nicht ersetzbar sein Es wird neue Themen geben Neue Fragen geben Insgesamt insbesondere mit menschlicher Aufsicht.

00:23:33: es wird sich auch Rausstellen und zeigen, wie gut die KI's dann wirklich sind.

00:23:39: Wir alle machen ja die Erfahrung, dass wir bei Chatbots landen in irgendwelchen Hotlines landen und da nicht mehr rauskommen, nicht so ein Ergebnis kommen, dann keinen menschlichen Ansprechpartner mehr bekommen um irgendwas zu bestellen oder irgendwas abzubestellen, um irgendetwas zu ändern.

00:23:55: Da verzweifelt man schon auch.

00:23:57: also der Wunsch nach einem menschlichem Ansprech-Partner vielleicht dann in Zukunft auch wieder nicht zu unterschätzen.

00:24:05: Wir müssen schauen, wo die Entwicklung hingeht?

00:24:08: In der Regel liegt die Wahrheit irgendwo in der Mitte und es gibt eine Mischung.

00:24:12: Manchmal ist die KI besser, manchmal ist der Mensch besser.

00:24:16: Ich würde einfach nur sagen gut dass wir beides haben und ersetzen wird uns die KI als Menschen hoffentlich nicht!

00:24:24: Wir werden als speziesweite hin erhalten bleiben und wir müssen eben Geist, den wir aus der Flasche gelassen haben und gehen.

00:24:33: Ja ich glaube da wird sich die Zukunft noch einiges tun.

00:24:37: Da werden wir vielleicht auch noch den einen oder anderen Podcast nachzuhören.

00:24:40: aber das war jetzt erstmal unsere kleine Serie zum Thema KI in der Medizin und damit sind wir mit dem Podcast KI als Unterstützung im Medizinbetrieb ChatbotsKI Arbeitsrecht Glauben IT-Sicherheit jetzt auch erst mal am Ende und ich fass nochmal kurz zusammen.

00:24:59: Also die Clouds sind eben ganz wichtig, weil wir brauchen um das alles was wir jetzt über die KI Anwendungen erfahre, was wir da bekommen können, brauchen wir einfach große Rechenzentren, die das Ganze speichern.

00:25:15: und das sind eben diese Clouds und diese riesigen Speicherkapazitäten, die können halt nicht in der Praxis oder auch in Krankenhäusern direkt vor Ort sein.

00:25:24: Deswegen gibt es eben da spezielle Rechenzentren und die werden dann zertifiziert, und da ist es eben wichtig für alle Betreiber, dass sie darauf achten wenn sie ein System verwenden bei dem Daten eingespeist werden von Patienten und zu Diagnose zur Behandlung, was auch immer oder nur um einen Arztbrief zu erstellen.

00:25:47: Dann ist es wichtig, dass eine sogenannte C-V Zertifizierung stattgefunden hat.

00:25:52: Das ist nämlich der zeitgeltende Sicherheitsstandard für diesen mutwendigen Rechenzentrum, um die ganzen Daten sicher aufzubewahren.

00:26:03: Und wir haben auch darüber gesprochen, dass der Datenschutz gewährleistet sein müsste und dafür müssen wir auch sorgen.

00:26:12: Es ist ganz wichtig Patienten entsprechend aufzuklären und unterschreiben zu lassen damit sie wissen wo ihre Daten gespeichert werden wie das Ganze geregelt ist.

00:26:22: Das ist natürlich nicht immer so einfach alles durchzulesen zu verstehen, das ist wirklich manchmal nicht einfach.

00:26:32: Aber da müssen wir uns schon auf die Betreiber verlassen.

00:26:35: und es ist auch wichtig für uns als Betreber – ich spreche jetzt da für meine Kollegen, für die Ärzte und natürlich auch für die Krankenhäuser -, dass wir uns an die entsprechenden Sicherheitssysteme halten, dass wir nie strengen Verordnungen wirklich nutzen.

00:26:57: Ganz wichtig, dass wir die IT haben.

00:26:58: Wir brauchen diese Cyber Security, die schützt uns auch vor Hackerangriffen und dafür haben wir eben auch IT-Spezialisten.

00:27:07: Wir sind ja angehalten in Praxen und auch in den Krankenhäusern nur spezielle Systeme zu verwenden damit eben kein Hacker da reinkommt.

00:27:17: Wir müssen dafür sorgen das es immer auf dem neuesten Stand ist.

00:27:20: alles was kommt an Updates muss gemacht werden.

00:27:25: Jetzt haben wir natürlich auch überlegt, wenn wir so Rechenzentrum haben mit riesigen Daten.

00:27:29: Wie kann das auch der KI helfen, damit sie weiter lernen können?

00:27:33: Und auch da gibt es natürlich verschiedene Gesetzen unter anderem des Gesundheitsdaten-Nutzungsgesetzes und wir haben auch eine elektronische Patientenakte.

00:27:42: Da ist es so, wenn Patienten nicht widersprechen oder auch in diesen ganzen Gesetzen dass B-Farm diese Daten sammeln kann und anonymisiert, und zwar hoch anonymisiert für Forschung oder auch für das KI Training von Medizinprodukten zur Verfügung stellen kann auf Antrag.

00:28:01: Also es geht nicht einfach so automatisch – das muss beantragt werden!

00:28:06: KI gilt natürlich auch ins Arbeitsrecht und das ist auch noch mal wichtig, dass es da spezielle Sachen gibt.

00:28:13: wenn es um Überwachung geht von eben Personen oder auch im Gesichtserkennungssystem oder ähnliches muss zum Beispiel auch der Betriebsrat informiert werden.

00:28:23: Und auch das müssen die Arbeitnehmer wissen, was da passiert.

00:28:28: Wenn es jetzt nur darum geht irgendwelche Dienstpläne mit KI zu erstellen dann ist das natürlich wieder ein ganz anderes Sicherheitssystem, was wir da machen können.

00:28:37: Die letzte große Frage wird die KI uns irgendwann ersetzen?

00:28:42: So, wir gehen mal davon aus dass Menschen und KI zusammenarbeiten müssen.

00:28:46: Wir haben den Maschinen jetzt unser logisches Denken beigebracht und es ist sicher auch gut und wichtig das wird das haben und dass wir da natürlich nochmal sehr viele Möglichkeiten haben.

00:28:55: aber letztendlich denke ich Es ist für uns auch wichtig, dass wir die Aufsichtspflicht weiterhin haben und das wir natürlich als Menschen so nicht zu ersetzen sind.

00:29:08: Ja, liebe Herr Prof.

00:29:08: Dittling ganz herzlichen Dank für diese informativen Podcast zum Thema KI in der Medizin.

00:29:15: aus juristischer Sicht also war echt super.

00:29:18: Wollt mich!

00:29:19: Ich danke Ihnen.

00:29:20: Ja aber rund um Schmerzen im Palliativmedizin finden Sie viele weitere interessante Podcasts in unserer Mediathek Und zudem erscheinen alle vierzehn Tage Donnerstags neue Podcasts mit spannendem Inhalt.

00:29:32: Abonnieren Sie uns, damit sie nichts verpassen!

00:29:34: Hören Sie rein und sagen es weiter!

00:29:36: Für's erste bedanke ich mich ganz herzlich bei allen die uns zuhören.

00:29:40: Bleiben Sie gesund, bleiben Sie interessiert, schalten Sie wieder ein wenn es heißt Hallo und Herzlich Willkommen zum Schmerzmedizin konkret dem Podcast der Deutschen Gesellschaft für Schmerzen

00:29:50: Medizin.

00:29:54: Wir freuen uns über Ihre Nachricht an

00:29:57: info-podcast.edgschmerzmedizin.de.

00:30:02: Alle Infos finden Sie auch in den Shownotes.

00:30:05: Dieser Podcast dient der Information und ersetzt nicht das Gespräch mit einer Ärztin oder einem Arzt.