Folge: 99 Staatsmodernisierung trifft Datenschutz – Darum brauchen wir "KI-Reallabore" und nicht nur "Reallabore"

00:00:04:

00:00:12: Herzlich willkommen, meine Damen und Herren.

00:00:14: zum Data Agenda Datenschutz Podcast.

00:00:17: Heute ist der im August XXVIII und es ist der Podcast mit der Nummer Nr.

00:00:23: ninety-neunzig Und er hat heute die Überschrift Staatsmodernisierung trifft Datenschutzt.

00:00:32: Dafür brauchen wir realer Bohre und

00:00:37: nicht

00:00:38: nur realer.

00:00:40: Ja, dieser Titel des Podcasts ist nicht so hundertprozentig snackable aber er ist hundert prozentig richtig und außerbekräftig und deswegen haben wir uns dazu entschieden ihn zu wählen.

00:00:56: heute.

00:00:56: wer sind wir?

00:01:00: Wir ist eine vergleichsweise große Runde, bestehend aus wenn ich mich mit zäle vier Juristen und einem Mediziner.

00:01:08: Ich fang in Anfraubädchereienfolge an!

00:01:11: Ich freue mich sehr, dass zum ersten Mal im Data Agenda Datenschutz Podcast ist Herr Dennis Lehmkämper.

00:01:17: Er ist der Landesdatenschutzbeauftragte gegen Niedersachsen.

00:01:23: Und herzlich willkommen, Herr Lehmkempfer.

00:01:27: Ja, herzlichen Dank für die Einlage.

00:01:30: Ja, freut mich sehr.

00:01:31: Alfa Witt geht es weiter mit Tobias Geber.

00:01:34: das ist der Landesbeauftragte für Datenfluss-Infektionsfreiheit in Baden-Württemberg.

00:01:39: Der ist schon mal öfter hier und ja...

00:01:43: Man freut sich auch

00:01:45: darüber.

00:01:48: Nicht wieder wählen, hätte Dieter Tomasek früher gesagt.

00:01:50: Er war schon so oft hier aber über sowas setzen wir uns natürlich locker hinweg und das wissen unsere jungen Zuhörer ja auch gar nicht mehr dass es so war.

00:01:59: Dann würde ich weitermachen alphabetisch mit Doktor Dominik Roderburg.

00:02:07: Der ist Richter in Oberlandes Gericht Und

00:02:11: hat

00:02:12: die Keitnie- und Ladenschutzwelt erstmalig beglückt mit einem Erstling in seiner Eigenschaft als Berichterstatter des Meta-KI-Trainingsverfahrens und hat da mit dem Senat zusammen eine Entscheidung getroffen, die dann doch länger gehalten hat, als man dachte.

00:02:35: Und das hat ihn bewogen in Sachen KI weiterzumachen.

00:02:41: Er ist aktuell abgeordnet in die Staatskanzlei des Landes Nordrhein-Westfalen, dort ist er Leiter des Referats, Staatsmodernisierung und ja nicht wie wir am Anfang mal überlegt haben ob man das auch nennen könnte Weltrechtslösung.

00:03:02: Wir fangen an mit der Staatsmodernisierung und die Weltrettslösungen, das machen wir dann hier im Podcast.

00:03:09: Ja, auch dabei ist Professor Dr.

00:03:13: Dr.

00:03:13: Felix.

00:03:14: Das haben wir, er ist Leiter der Neuropathologie an der Uniklinik Heidelberg einer der Träge des deutschen Krebspreises.

00:03:23: Es ist zwanzig sechsundzwanzig und ja ein Forscher von Weltrang.

00:03:30: das hört er bestimmt gerne oder?

00:03:33: Felix

00:03:36: Das wäre ich gern.

00:03:37: Wir wollen es nicht übertreiben, aber trotzdem freue ich mich sehr hier wieder dabei zu sein.

00:03:41: Ich darf's aber treiben!

00:03:42: Du kannst ja bei der Wahrheit bleiben... Aber gut, kannst du jetzt entkräften meinen Aufschlag?

00:03:50: Naja, aber ich glaube, ihr sollt uns mit dem Thema befassen.

00:03:54: Die Forschungsrunde braucht immer so ein bisschen.

00:03:57: Ja warum sind wir hier?

00:04:00: Es gibt mit Blick auf die Staatsmodernisierung in Nochterwestfalen ein Gesetz, das heißt Kairialaborgesetz und natürlich auch einen etwas sperriger Name für ein Gesetz.

00:04:15: Das ist jetzt nicht hundertprozentig eine Meldung wo die Medien rauf springen.

00:04:19: aber es ist ja noch bei Westfalen schon ne Meldungen gewesen dass Kairi Alabor gesetzt entwurf.

00:04:25: Warum?

00:04:26: Weil es das erste Gesetz ist im Sinne der KI-Verordnung etablieren möchte auf Landesebene und nicht nur ein realer Bohr, denn realer Bore gibt es schon.

00:04:41: Um von vornherein mal mich zu kommenten was ist der Unterschied sehr vereinfacht?

00:04:47: Und ob nicht ganz seriös ausgedruckt zwischen einem KI-Realabor und einem Realabor?

00:04:54: Die sind beide in der KI Verordnung angelegt.

00:04:58: Ein Karrierealabor ist ein Schutzraum, in dem unter gewissen Freistellungen von der DSGVO unterbehördlicher Aufsicht Daten verarbeitet werden können.

00:05:15: Das ist eine der Privilegien die man da hat.

00:05:19: wenn man da Karibinstemen entwickelt dann bekommt man am Ende einen sogenannten Abschlussbericht und das nicht daran dass dann die Behörden und die Entwickler dieser KI-Systeme dort zusammengearbeitet haben, um ihr KI eine Systeme zu entwickeln, die nicht ganz ohne Risiko sind.

00:05:39: Und ein solches KI- System möchte Felix Samen entwickeln.

00:05:46: Es gibt einen Forschungsprojekt das heißt EUNCAN AI ist ein Pathfinder Projekt.

00:05:52: ich bin auch beteiligt mache mit der Vorforschöpfel Medienrecht die Kalknion Daten schutzreichtlicher Begleitung dieses Projekts.

00:06:01: Dieses Projekt möchte, sage ich jetzt nicht erklärt gleich Felix Sahn.

00:06:07: dann werden Sie Wissengiebezuhörenden und Zuhörer was da passieren soll und warum das wichtig ist.

00:06:14: Daneben gibt es noch so genannte Reallabor.

00:06:17: Davon gibt es schon ganz viele in Deutschland im Bund und Ländern.

00:06:23: Der Unterschied ist ein realer Bohr, das können Sie theoretisch in jeder Kindergartengruppe aufmachen.

00:06:33: Kindergartenleitungen mit dem Landesdatenschutzbeauftragten des jeweiligen Landes zusammen und dann wird diskutiert, ob man unter welchen Voraussetzungen man im Kindergachten Sprachbots einsetzen kann für die Kinder.

00:06:46: Und er wird das Führung wieder abgewogen und sagt der Landesdatenschutzbeauftrage, das finde ich eigentlich soweit okay wenn ich mir das so anhöre.

00:06:55: Dann beschwert sich aber das erste Elterntag nachdem beschlossen worden ist darüber, dass da personenbezogene Daten verletzt werden.

00:07:03: Und dann kann natürlich nicht großartig in irgendeiner Form was gemacht werden, weil da gibt es keinerlei Abschlussbericht, das wirklich intensiv geprüft und so weiter.

00:07:12: Dieses Beispiel ist nicht hundertprozentig trauriger, aber es zeigt mal im extremen... Was der Unterschied ist denn?

00:07:19: Im Karrierealabor, da müssen die Artikel sechs bis neunundvierzig der Karrierverordnung abgearbeitet werden.

00:07:24: Das hat seinen Grund, weil man eben Werkzeuge entwickelt, wie eine gewisse Sorgfalt drücken wir es mal etwas um Vertrieben ausbrauchen und das hat sich der Gesetzgeber der KI-Verordnung so ausgedrückt.

00:07:40: Und in Nordrhein-Westfalen soll ein solches Gesetz KI realer Wohre ermöglichen.

00:07:45: auf Bundesebene gibt es das noch nicht in anderen Ländern wenn ich richtig informiert bin auch nicht und deswegen sind wir heute mal so ein bisschen zusammen gekommen immer in die Länder einzuhören konkret nach Baden-Müttenberg Niedersachsen, vielleicht noch zur Transparenz.

00:08:01: Ich sind Mitglieder von der Groderburg im Kaliexpertenrat Staatsmodernisierung in Nordrhein-Westfalen und da werden solche Dinge diskutiert und das wurden sie eben auch bevor des Gesetzes in den Hofstadium kamen.

00:08:26: So viel vielleicht zur Vorrede.

00:08:30: Jetzt würde ich gerne Herrn Dr.

00:08:32: Roderburg bitten, uns einfach mal zu berichten was passiert in Nordrhein-Westfalen?

00:08:38: Warum ist das mit ziemlich zeitlichen Druck entstanden?

00:08:46: Ich verrate kein Geheimnis.

00:08:47: Nächstes Jahr ist in Nordhain Westfalen Wahl und da musste das... gute Gründe jetzt noch passieren, einfach damit es gut weitergeht.

00:09:00: Also und damit wir die Sachen vorangtreiben und man nicht in die sagen wie lange man bangestünden kann.

00:09:07: Und deswegen vielleicht einfach mal was das Gesetz?

00:09:12: Was macht das?

00:09:14: Ja vielen Dank

00:09:16: lieber Frau Schwachmann

00:09:17: für die Einladung Und Einleitung, zunächst nachdem ich mit so vielen Beruflichen und Titeln und Ämtern vorgestellt wurde.

00:09:26: Ich bin natürlich nicht dienstlich hier sondern privat.

00:09:29: alles was im Vorgenden kommt ist eine persönliche Auffassung meinerseits und nicht die Auffassung der Staatskanzlei NRW oder Garlis Olgi Kölnz.

00:09:40: So, was haben wir in... Aber

00:09:42: weiteres Nachmittag um vierzehn und dreiß ich schon gar nicht mehr.

00:09:45: Das hätte ich niemals unterstellt, aber du hast völlig recht.

00:09:48: vielen Dank für den Hinweis.

00:09:49: Ich denke das gilt für alle anderen die nach dir reden auch.

00:09:53: Aber ich bin dir sehr dankbar dass du in deiner Freizeit diese Unterbereiche hast.

00:10:00: Vielen Dank!

00:10:01: Was haben wir denn in NRW gemacht?

00:10:03: Wir standen in der W. Es wurde bereits gerade gesagt vor der Herausforderung, dass Ende im Jahr zwei Tausendundzwanzig die federale Modernisierungsagenda beschlossen wurde.

00:10:14: Von da an waren in NRW noch ungefähr anderthalb Jahre zur Verfügung bis die Legislaturperiode endete und wir standen natürlich vor der Problematik der Diskontinuität.

00:10:27: das heißt wir müssen ein wenig aufs Gas treten wenn wir mit Gesetzen noch in dieser Legislaturperiode durchkommen wollen.

00:10:36: Ziel der Staatsorganisierung NRW war ganz einfach, nicht einfach kleine Stellschräubchen zu drehen sondern Strukturveränderungen zu schaffen.

00:10:45: das haben wir etwa gemacht mit einem Gesetz kommunales Regelbefreiungsgesetz.

00:10:51: Das heißt die Kommunen können von Landesrecht unter bestimmten Voraussetzungen sich eine Dispens erteilen lassen um eben recht genauer Passgenauer vor Ort anwenden zu können.

00:11:03: Ein weiterer ganz wichtiger Punkt war die Einführung des Prinzipes der Beweislastunkehr, Beweislastunkehr meint in dem Zusammenhang Verwaltungsaufwand.

00:11:12: den man abschaffen will muss man nicht mehr rechtfertigen sondern derjenige der Verwaltung aufhand beibehalten will ist von nun an in der Rechtfertigungslast.

00:11:20: beispielsweise haben wir gesagt sämtliche Bericht landesrechtlichen berichtspflichtenden NRW sind abgeschafft.

00:11:25: Es sei denn, sie bleiben in einer Rechtsverordnung drin als ausdrücklich erhalten.

00:11:30: Das Gleiche haben wir mit den Schriftformen gemacht.

00:11:32: Sämtliche Schrift-Formerfohrennisse sind in NRW abgeschauft.

00:11:36: Ab im Jahr ist es seit dem.

00:11:39: Sie sind in einer Rechtsverordnung ausdrücklich erhalten worden.

00:11:45: In einem weiteren Gesetz Haben wir was im Haftungsrecht gemacht und dann ging es weiter mit dem Gesetz, das hier in Rehle steht.

00:11:52: Nämlich mit dem fünften Entlastungsgesetz, das Gesetz für KI-Realabore in NRW.

00:11:58: Hintergrund ist ganz einfach und das erklärt auch so ein bisschen die Zusammensetzung des Expertenrates, der eben geschildert wohl.

00:12:07: Dass ich eine freundliche Einladung nach Heidelberg erhalten habe und mir da bei Professor Sam einige Dinge im KI-Bereich ansehen konnte und eben auch bestimmte Hindernisse, die da bestehen werden und die nachher sicher noch thematisiert werden wahrgenommen haben.

00:12:24: Dann haben wir überlegt hier in NRW Was können wir tun, um den Transfer von Spitzenforschung in konkrete Produkte zu erleichtern?

00:12:36: Was können machen, um Forschungen an KI mit KI ganz allgemein zu erleichtern.

00:12:43: Da sind wir auf die Idee des KI-Reallabors gekommen aus der KI Verordnung.

00:12:49: Das heißt, wo konkrete gesetzliche regulatorische Erleichterungen bestehen eben nicht das ein bisschen drastisch umschrieben, Kindergarten-Realaborer sondern das echte gesetzlich geregelte mit regulatorischen Vereinfachungen versehene KI Realabor.

00:13:08: Da es weder rechtlich noch tatsächlich ganz einfach ist ein solches Labor an den Start zu bringen insbesondere wenn man jedenfalls zu diesem Zeitpunkt mehr oder weniger ganz allein auf weiter Flur war, haben wir einen KI-Expertenrat gegründet für KI und Staatsmodernisierung.

00:13:26: Den wir dann auf der einen Seite rechtlich besetzt haben mit Professor Schwachtmann in diesem Rat auch vorsitzt und eben mit Prof.

00:13:36: Samen um sozusagen die technischen und wissenschaftlichen Herausforderungen noch besser verstehen zu können.

00:13:42: in diesem Rahmen haben wir dann das fünfte Entlastungsgesetz vorbereitet und standen da von Anfang an vor der Problematik, die ja bereits zuvor in dem Aufsatz von Professor Schwachen und Prof.

00:13:59: Keber, wenn ich richtig orientiert bin, in der FAZ bearbeitet wurde, nämlich dürfen wir das überhaupt?

00:14:05: Sind wir in NRW berechtigt ein solches KI-Realabor einzurichten?

00:14:11: Schaut man ins EU-Richt, ist die Antwort zunächst mal relativ einfach.

00:14:15: Da steht drin ja auch regionale Kairialabore sind erlaubt.

00:14:18: so könnte man sagen naja das was wir machen ist mindestens mal regional.

00:14:23: lokale Laboris sind ja auch erlaubt, da gehen wir ja weit darüber hinaus.

00:14:26: Also kein Problem.

00:14:28: das Problem ist allerdings dass dort steht, dass das Zustände von zuständigen Behörden getan werden darf.

00:14:34: dann stellt sich sofort die Frage wer ist denn zuständige Behörde?

00:14:37: Das ist mal ganz grob gesagt fein halten lassen weg die Marktüberwachungsbehörde.

00:14:43: so und da hat der Bund im Kiek in einer ersten Fassung war es noch unklarer daraufhin haben.

00:14:53: Eine Bundesratsinitiative wurde gestartet von zahlreichen Ländern, in dem wir den Bund versucht haben aufzufahren zu sagen.

00:14:59: Also sagt das bitte klarer dass wir das dürfen.

00:15:03: eine Gegenausführung des Bundes sagt ja also das Problem ist da und das verstehen wir alles aber es besteht überhaupt keinen Regelungsbedarf weil das dürft ihr auch jetzt schon.

00:15:12: jedenfalls meinen Verständnis so von dieser Gegenäußerung.

00:15:17: Dann wurde das Bundesgesetz aber geändert und es kam der Paragraf II Absatz VI hinzu.

00:15:26: Und Paragraph II Absat VI sagt im Wesentlichen jede Landesbehörde, die ein KI-System betreibt ist Markteüberwachungsbehörden und so unsere Schussfolgerung darf damit auch einen KI Rehalaborer betreiben.

00:15:40: Und das war unser Ankünfungspunkt zu sagen, dass was wir da tun ist damit rechtlich eindeutig zulässig.

00:15:46: Wir sind als Land berechtigt auf dieser Basis KI Real Labore zu errichten in die öffentliche Betreiber rein dürfen, indem wir aber auch Startups reinlassen können, beispielsweise wenn wäre in NRW auf die Chemische Industrie gucken, indem wir Betreiber von solchen Anlagen reinlassen dürfen.

00:16:06: Also wo wir ein ganz breites Spektrum haben an Potenzial für Forschung, Wirtschaftentwicklung und so weiter.

00:16:15: Und dann sind wir halt losgegangen, haben das Gesetz geschrieben um, ja man kann es so sagen Wir wollten dadurch aus einer Spitze der Bewegung stehen.

00:16:24: Wir haben uns gedacht wenn wir als erstes ein Labor gründen werden wir Forscher-Forscherinnen akquirieren können, die zu uns kommen Und haben das Gesetz dann mit einem Kabinettbefluss vom zehnten Juni in die Verbändeanhörung gegeben.

00:16:37: Die Verbänderanhörung ist jetzt rum.

00:16:41: Und jetzt stehen wir halt vor zwei Herausforderungen, erstens so ein KI-Realabor tatsächlich einzurichten.

00:16:49: Was technisch nicht völlig trivial ist auch kostenmäßig und auf der anderen Seite natürlich auf die Anregungen in der Verbände anhörung einzugehen dem Rechnung zu tragen beim Landtag so einzubringen, dass es besprochen war, Konnexilverdiskontinuität, das eben noch rechtzeitig kommen kann.

00:17:10: Dass wir möglichst schnell damit jetzt unterwegs

00:17:14: sind.".

00:17:17: Was ist der Vorteil von einem solchen Labor?

00:17:19: Um das nochmal glasklar zu sagen, Rolf Schwachmann hat das bereits darauf eingegangen Wir erhoffen uns bestimmte regulatorische Erleichterungen insbesondere im Datenschutzrecht KI, Artikel neunfünfzig KI-Forschung.

00:17:38: So Professor Sam wird das nachher noch erläutern.

00:17:43: wo die Gehvoraus, wo die spezifischen Herausforderungen sind.

00:17:48: aber man muss sagen in Zeiten von Big Data ist es halt sehr schwierig Daten zuverlässig zu anonymisieren.

00:17:55: damit ist man sofort in der DSGVO und dann trifft man auf die Schwierigkeit bis wo ist Forschung?

00:18:03: Abo ist Produkt.

00:18:05: Und da wir meinen, erkannt zu haben dass wir ein bestimmtes Problem haben Forschung in Produkte zu transferieren wollten wir halt ein solches Labor Eröffnen und damit die Möglichkeit eröffnen den Transfer zu erleichtern.

00:18:21: das ist in aller Kürze sozusagen Die Geschichte des NRW Gesetzes.

00:18:29: Vielen Dank von meiner Seite.

00:18:30: vielleicht noch eine Rückfrage.

00:18:32: Es ist ja eine Besonderheit mit Blick auf die Datenschutzaufsicht.

00:18:37: Ja, verzerr'n!

00:18:38: Das habe ich angesichts der geballten Datenschutzaufsicht im Podcast versammelt und das habe ich gleich getraut...

00:18:44: Ich wollte überheimlichen.

00:18:46: Aber vielleicht nur von meiner Seite.

00:18:49: es gibt ein Vorbild in Nordrhein-Westfalen spezifische Landesdatenschutzbehörden zu Grundes gibt es für die Landesanstaltvermedien im Landesmediengesetz Und der Sachgrund ist, dass auf besonderen Sachverstand man bauen muss und dafür eben einfach sich dafür entscheiden kann.

00:19:12: War das die Motivation, Dominic des Landesgesetzgebers?

00:19:17: Also wir haben in NRW eine Regelung getroffen oder sind in die Verbändeanhörung gegangen offen gelassen, wer die Datenschutzaufsicht später innehaben wird.

00:19:34: Wir haben auf der einen Seite die Option gelassen das sozusagen der allgemeinen Datenschutzaussicht später zu geben aber auf der anderen Seite auch und das hast du ja vollkommen zu Recht angesprochen in NRW haben wir ja medienbereich eine spezielle Datenschutsaussicht ein ähnliches konstrukt zu errichten.

00:19:51: Hintergrund ist ganz einfach dass wir dazu dient hier eine solche verbände anhörung Besonderheit des NRW-Rechts, dass man bevor man beim Parlament ein Gesetz einbringt auf die Verbände fragen kann, Experten fragen kann.

00:20:07: Dass wir uns halt unsicher waren ob das ein Fall

00:20:11: für die

00:20:12: allgemeine Datenschutzaufsicht ist oder ob es nicht angesichts der Spezifika von KI.

00:20:18: Das muss erst sehr schnell gehen.

00:20:19: Man arbeitet in kleinen hochspezialisierten Teams.

00:20:24: Ob das nicht Ähnlich ist wie Medienrecht auch grundrechtliche Besonderheiten hinzukommen, die auch hier bestehen.

00:20:33: Wir haben eine sehr stark forschungsorientierte Landschaft sozusagen vor uns und da haben wir das zunächst mal offen gehalten, ist in der Gesetzesbegründung im Gesetz drin und müssen jetzt mal schauen, wie wir weiter machen?

00:20:51: Ich bin überzeugt ich werde heute Vorstellige hören mit welcher Richtung es gehen könnte.

00:20:59: Aber bevor wir auf die Datenschutzrechtlichen Fragen von Aufsichtseite-Perspektive aus anderen Ländern eingehen, das woran an Physik sahen.

00:21:11: Ja, du hast es angesprochen Dominic, dass KI realer Bohr gibt.

00:21:20: Privilegien, weil es eben was Besonderes ist benutzen Öffnungsklausel der DSKFO und der KI-Verordnung für eine Datenverarbeitung im KI-Reralabor.

00:21:32: Jetzt ist es so dass man natürlich auch unter dem Forschungsprivileg Daten verarbeitet machen darf.

00:21:39: das Gesundheitsdatennutzungsgesetz Landesrecht lässt das zu und da kommt man ja vielleicht schon relativ weit.

00:21:47: auf der anderen Seite sind solche KI Systeme natürlich auch Produkte und sie sollen am Ende des Tages natürlich auch weltweit verkauft werden, damit man überall davon profitieren kann.

00:22:03: Und das ist natürlich nicht ohne vor dem Hintergrund dass KI wenn sie autonom agiert, sich befreit und auf merkwürdige Ideen kommt.

00:22:16: Und wenn ein KI-System überhaupt keinen Genom entschlüsseln soll – das kann man aus Gehirn da möglicherweise machen – aber sich dann vielleicht doch dazu entscheidet, weil es vielleicht sinnvoll ist für den Forschungsauftrag, wo dies verboten ist, dann stehen wir natürlich nicht nur vor dem Problem der Datenverarbeitung sondern auch vor dem darüber hinausgehenden Problem, dass das besser... viele auch gesehen haben und das man an der Stelle eben einfach offenkommuniziert auch aushandelt in der Behörde, unterbehördliche Aufsicht.

00:22:48: Was wollen wir als Gesellschaft haben?

00:22:52: Dass man dann am Ende sich zum Mittel sagt ja soweit gehen wir gemeinsam Und dass wäre so ein bisschen die beiden Facetten des KI.

00:22:58: realer Boah ist einmal die datenschutzrechtliche Geschichte und dann aber auch das wirklich sehr beantwortungsvolle entwickeln eines Produktfetiks.

00:23:11: Jetzt, was hast du genau vor in deinem Forschungsprojekt oder diesen Forschungs-Projekt mehr beteiligt?

00:23:22: Richtig ist ein größeres Konsortium, das an diesem Forschungsprogramm betaligt ist und es ist auch nur stellvertretend und beispielhaft für eine Menge Forschungsprojekte auf dem Gebiet.

00:23:31: Ich bin jetzt gerade zufällig hier auf einem Workshop für künstliche Intelligenz der deutschen Gesellschaft für Hematologie und Onkologie.

00:23:37: Das heißt, Sie kann sein Medizin natürlich betrifft und bewegt, um große Potenziale hat.

00:23:43: In unserem konkreten Projekt ja auch schon mal angeklungen.

00:23:46: anderer Stelle geht es darum dass wir speziell für Patientinnen und Patienten mit Hirntumoren den Behandlungsweg verbessern.

00:23:54: Es schneller geht das man weniger lange aufbefunden warten muss, dass man schon während der Operation die besten möglichen Entscheidungen treffen kann zum Ausmaß der Operation der Geweberentfernung Und ähnliches.

00:24:07: Das geht dann so, dass wir vom ersten Moment der Arzt-Patienten-Kontaktaufnahme zum Beispiel in der Ambulanz oder in der Praxis eine KI einsetzen auf einen Patient zustimmen und diese KI nicht nur mithört zu mitschreiben das gibt es ja schon sondern aktiv auch eingreifend sagt hier.

00:24:24: diese Frage wäre noch gutzustellen oder auch dieser Test die als nächstes gutzumachen kann würden aus nächstes zb Bild geben.

00:24:31: untersuchen wie NRT von der KI mit begutachtet Die Operation würde mit geplant von der KE, die Gewebeuntersuchung wurde von der CE mit begleitet.

00:24:41: Die genomischen Analysen sind quasi auch bei wirklich sehr hochsinnselten Daten von wunderbaren Gruppen, wenn sich um Patienten mit Hirnturmorren gerade auch um Kinderhandelwaffe und das alles soll aber dann dazu führen dass sich sehr viel Wissen für den individuellen Fall sehr rasch akkumuliert und man nicht an vier Wochen später sagt, ah ja hätten wir die Informationen gehabt, dann hätten wir vielleicht die Operation anders geplant und dann ist es natürlich zu spät Darin noch was zu ändern.

00:25:10: Ja und vielleicht einmal zur Frage des Risikos, siehst du Risiken die in so einem Kontext entstehen gerade von dem eben angesprochenen Hintergrund?

00:25:28: das KI wenn Sie agentisch agiert eben möglicherweise oder nicht möglicherweise ist ja schon passiert, Dinge tut die man einfangen muss.

00:25:37: Da arbeiten wir natürlich dran Wege zu finden wie man KI Inseln und Kontext einfängt überwacht und ähnliches mehr.

00:25:45: aber einfach nochmal um die Dimension klarzumachen.

00:25:48: das muss in irgendeiner Form verantwortbar sein für jemand der so ein System entwickelt für den es kauft er versichert und auch der ist einsetzt in der Medizin.

00:25:58: also nochmal um Wo siehst du, die Risiken sind da oder nicht?

00:26:08: Das größte und das offensichtlichste Risiko liegt natürlich darin.

00:26:11: Dass eine Vorhersage der KI also einfach eine Aussage der KAI einfach falsch ist.

00:26:17: Also bestes Beispiel während der Operation sagt die KI, dass es ein bösartiger Tumor.

00:26:22: Die Operation wird entsprechend darauf ausgerichtet und nachher stüllt sich heraus.

00:26:26: Es stimmt nicht.

00:26:27: Und es lässt sich nicht mehr an zumindest nicht ohne zweite Operation weiteres Gewebe entnehmen oder umgekehrt,

00:26:35: wenn

00:26:36: akkursiv operiert wurde lässt sich das Geweb ja auch nicht wieder einsetzen.

00:26:39: Das heißt also es wäre so die ganz plakativ offensichtliche Problematik.

00:26:43: Unser System ist ja schon vom Design her so ausgerichtet dass man an vielen einzelnen Stellen des Ergebnisses eines einzigen Prozessschritts als Mensch auch wieder anschauen kann, bemutachten kann prüfen kann.

00:26:54: Es könnte sich aber auch vorstellen, dass man sehr viel agentischeres System baut, Aufgaben in der Klinik verschaltet.

00:27:02: Also die Ambulanz, die Zuteilung von Plätzen im OP und die Zuteilung von Betten auf der Station.

00:27:08: Und da dreht man die Zielkonflikte, die wir am Alltag in Kliniken haben natürlich dann auch India KI aus.

00:27:15: Das heißt also wie kann man eine begrenzte Zahl von Beten auf die Anzahl von Patientinnen und Patienten, die diese Betten prinzipiell brauchen verteilen?

00:27:23: Wie wird

00:27:24: denn da eine Priorisierung vorgenommen?

00:27:26: und wollen wir die der KI alleine überlassen?

00:27:28: Wenn wir das tun wissen über alle Parameter, die die KI in dieser Entscheidung einfließen lässt.

00:27:33: Bescheid und sind das die, die wir aus menschlicher Sicht auch für die Richtigen halten?

00:27:39: Ja.

00:27:40: Echtlich.

00:27:41: Piage gehört in den Kreis der hochkanten RKN-Systeme, Medizinprodukte unabhängig davon noch mal.

00:27:50: Nehmen wir nicht über verbotenes, sondern reden über wenn man so will, wünscht es unter besonderen Verhaushetzungen.

00:27:58: Und jetzt würde ich gerne mal Antubias Keber weitergeben.

00:28:03: Vielleicht mit Blick auf die Frage natürlich, was Dominic Hohlerburg gesagt hat, wie kann man das aus sich machen?

00:28:09: Das ist klar, dass wir das führen wollen aber auch nochmal ich glaube es ist wichtig.

00:28:13: Thema Gesundheitsdatennutzungsrecht KI-Recht, Rolle der Realabore.

00:28:21: Ich glaube man kann es so wegnehmen.

00:28:22: wir beide Herr Lindkamper auch sind uns einig dass man KI-Realabore braucht und das in Nordrhein-Westfalen richtig und wichtige Dinge passieren.

00:28:34: Das wäre jetzt im Prinzip nicht die Hürde über die wir springen müssen hier in dieser Runde sondern vielmehr um die Frage immer unterstellt Wir haben was wie kriegt man sie in die Fläche ausgerollt?

00:28:44: Was würde man den anderen Ländern berücksichtigen können und müssen, wenn man es macht um aus dieser Idee vielleicht so ein bisschen auch Honig zu saugen.

00:28:50: Und darauf aufzubauen als Frage Daten, Gesundheitsdaten-Nutzungsrecht wäre für mich super spannend, wie bald kommt man da schon?

00:28:58: Wo beginnt dann letztlich das KI-Realabor relevant zu werden, sodass man es braucht?

00:29:04: Und natürlich die Frage wer übernimmt da sinnvollerweise die Aufsicht innerhalb der Marktüberwachungsbehörde im KI Realabor.

00:29:15: Ja, das waren schon viele Fragen.

00:29:17: Ich will vielleicht in dem ersten Schritt nochmal den etwas allgemeineren Bogen auch zur Überschrift dieses Podcasts schlagen.

00:29:27: Staatsmodernisierung und KI-Realaboration.

00:29:29: Warum glaube ich hat das eine mit dem anderen ziemlich viel

00:29:32: zu tun?

00:29:34: Moderner Staat bedeutet auch moderne Behörden Und modern jedenfalls in meinen Augen ist auch lernende Behörde sein zu dürfen.

00:29:43: Und das wiederum bedeutet, dass man Möglichkeiten haben muss.

00:29:48: Die vielleicht ein bisschen über das hinausgehen und was wir bis jetzt kennen.

00:29:52: Vom Grundsatz her ist es so ich bin Teil der Exekutive, ich bin an Gesetz und Recht gebunden.

00:29:57: Ich schaue also... Was sagt die DSGVO?

00:30:00: Im Forschungskontext schau' ich okay wie weit reicht ein Forschungsprivileg!

00:30:06: Und dann auch in Lichte der Forschungsfreiheit komme ich da zu bestimmten Ergebnissen.

00:30:13: Und dann gibt es aber irgendwann und das weiß ich aus vielen Beratungen, also wir beraten ja übrigens nicht nur Kindergärten lieber Rolfi sondern nach Möglichkeit alle die von uns Dinge wissen wollen.

00:30:29: In diesen Beratung stellen wir immer wieder fest mit Blick auf das Forschungsprivileg wird geforscht und auch Großartiges geleistet.

00:30:38: und dann kommt irgendwann die Stelle die wir Transfer oder Translation sagen, die Mediziner nennen.

00:30:47: Das heißt also wo ich die Erkenntnisse produktiv auf die Straße bringen und dann hat das Recht die Vorstellung naja ab dann gilt das Forschungsprivileg nicht mehr und irgendwelche anderen Regeln gelten dann gibt es nicht mehr so viel Beinfreiheit.

00:31:05: Und das ist eine Solvorstelle, die ist schwierig und ein KI-Realabor also ein echtes... Ihr habt ja jetzt schon häufig darauf hingewiesen was das genau ist.

00:31:16: Das gibt einem glaube ich die Beinffreiheit, die es ja die Translation an der Stelle auch möglicher macht.

00:31:23: Das heißt, ich glaube dass es ein ganz wichtiges Instrument.

00:31:27: Und was ich dann vielleicht jetzt noch zu diesem allgemeinen Teil, wie die schaue ich auf das Gesetz in Nordrhein-Westfalen?

00:31:35: Also das erste.

00:31:37: Was ich wirklich gut finde ist zu sagen wir machen das auf Landesebene.

00:31:42: Ich glaube, wir brauchen da auch ein Stück weit Mut.

00:31:43: Das ist ja politisch momentan häufiger mal im Raum und das glaube ich auch und find das erstmal an der Stelle absolut richtig.

00:31:53: Wenn ich in Baden-Württemberg das machen würde, wäre meine Vorstellung ein ganz klein bisschen anders.

00:31:58: Ich glaube und wahrscheinlich gilt in Niedersachsen dasselbe wir haben ordentlich auch KI Kompetenz.

00:32:04: richtig ist sehr technisch absolut sehe ich auch so.

00:32:08: aber da haben wir schon ganz gute Leute auch im Arbeitskreis KI und da könnte man das vielleicht ja ein bisschen schmaler ausgestalten würde ich meinen.

00:32:20: Aber wie gesagt erst mal die Grundidee, dass wir das auch auf Landesebene brauchen.

00:32:24: übrigens KI wenn eine Polizei das macht oder eine Schule macht oder ne Hochschule macht.

00:32:30: es ist doch originäre Landeszuständigkeit und Von daher finde ich das vom Grundansatz erst mal nur absolut richtig.

00:32:41: Und dann muss man in so einem KI-Realabor dann tatsächlich auch gucken, wie weit bis wohin geht die Forschung?

00:32:46: Wann ist der Übergabepunkt?

00:32:48: Wie weit komme ich mit dem Landeskrankenhausgesetz im bestimmten Konstellationen?

00:32:53: Das ist sehr spezifisch und das wird man vor Ort mit Expertise vor Ort am besten regeln können.

00:33:02: Vielen Dank Tobias!

00:33:03: Eine Rückfrage hätte ich noch.

00:33:06: Es gibt schon, habe ich letztens gelesen in einer medizinischen Fachzeitschrift, KI-Systeme die auf Basis von GPEI in der medizinische Diagnostikbehandlung eingesetzt werden sollen.

00:33:26: Das ist glaube ich der Plan.

00:33:30: Wie siehst du das denn?

00:33:32: Also aus meinem KI rechtlichen Verständnis sind das Werkzeuge für hoch riskanten Einsatz.

00:33:40: Die kann man, für meine Begriffe jetzt nur schwerlich finde ich in die Behandlung nehmen.

00:33:49: oder wie siehst Du das aus Perspektive der Datenschutzaufsichtsbehörde?

00:33:53: solche Sachen gibt es ja... Ich glaube, ich noch gar nicht erwähnt in meinem Buch über Leben mit KI von einem Fall geschrieben.

00:34:03: Wo das schon passiert und da äußere ich mich dazu kritisch so nach dem Motto also man macht eben mit einem Taschenmesser keinen Luftbohrer und Schnitt selbst wenn es geht warum?

00:34:14: weil es dafür eben Regeln gibt und die lauten eben bei Medizinprodukten Spezialwerbzeugung.

00:34:19: jetzt gibt's natürlich Leute die sagen kommt das probieren einfach schon mal aus Die Fälle sind dokumentiert.

00:34:27: Wie siehst du das denn?

00:34:28: Also kann man gleich auch einen Nebenkämpfer noch weitergeben, die Frage.

00:34:31: Aber ja...

00:34:35: Ja, also wir sind hier bei Gesundheitsdaten in einem hoch sensiblen Bereich und dann wirft das natürlich die Fragen auf.

00:34:43: Was passiert mit diesen Daten?

00:34:45: Wenn sie in irgendeiner Weise in Interaktion mit großen Modellen treten oder auch wenn Erkenntnisse aus bestimmten Modellen gewonnen werden, die vielleicht nicht im spezifischen europäischen deutschen Kontext.

00:35:04: Da ist ja dann zum Beispiel auch die Frage, welche Trainingsdaten benutzt wurden?

00:35:09: Welche Erkenntnisse darauf, wenn z.B.

00:35:12: US-amerikanische Datensätze benutzt worden.

00:35:15: können diese überhaupt valide eingesetzt werden um Erkenntnisse?

00:35:21: Wir, ja für Menschen in Europa ist das überhaupt übertragbar.

00:35:26: Wird weiter trainiert mit bestimmten Daten die eingegeben werden?

00:35:30: Also da hängen ganz viele Fragen dran gerade hier in dem hoch sensiblen Bereich und auch – es ist auch schon angesprochen worden – eine ganz spezifische Frage, die wir leider bei vielen Medizinprojekten haben wann ist eigentlich Anonymisierung erreicht auch mit Blick auf KI-Modelle.

00:35:49: Und das sind ganz schwierige Fragen und für diese Fragen eignet sich hervorragend so eine Testumgebung, oder ja, die Testumgabung ist falsch aber ein reglementierter Bereich in dem man sich ganz eng zusammensetzt und ganz eng gemeinsam arbeitet.

00:36:05: Ich habe mal ganz davon abgesehen dass ich mir auf den Modell wünsche, dass er auf Daten trainiert ist, die jetzt nicht wie soll man sagen das Weltwissen in Sicht war ein, sondern spezifisches Fastwissen.

00:36:16: Da ist ja die, wenn wir sagen, Handelstationsrange

00:36:21: viel

00:36:21: größer.

00:36:22: Also ich glaube das ist ein werkzeugrechtliches Thema und es ist nicht euer Britt.

00:36:26: aber Ja, Ich würde zuhendem gerne übergehen.

00:36:32: Vielleicht nochmal zur Frage NRW?

00:36:37: Ich kann mir vorstellen dass sie sich nicht großartig anders sehen als Tobias Kleber, dass die Rolle der Datenschussaufsicht in einem solchen Gesetz auch in die Richtung gehen können, wie eine WC offen gelassen.

00:36:50: Aber das ist eben einfach auch bei den Datenschutzaufstiegern Köln-Isa verstand gebt.

00:36:55: Aber vielleicht zur vorgelagerten Frage.

00:36:58: Artikel zwei Absatz sechs und Verfassungsrecht.

00:37:02: Es gibt Stimmen, die sagen dass sei verfassungswidrig sowie es Geber hat das eben so ein bisschen angedeutet.

00:37:09: kann er sich nicht richtig vorstellen?

00:37:11: Das innerhalb der Handbreike der Außenwirkungsmöglichkeit von Artikel zwei Absatz sechs.

00:37:18: Verfassungswierigkeit anzusiedeln wäre, würden Sie das teilen?

00:37:22: Das ist ja schon ein ganz gewichtiger Punkt im Ansatz.

00:37:28: Also

00:37:29: ich teile da die Einschätzung von Tobias Kehwa ganz eindeutig und würde auch nicht sagen dass es ein verfassungsrechtliches Problem ist.

00:37:40: Ich halte das an dieser Stelle tatsächlich eher für ein Bürokratie Minimierungsproblem und würde mit Blick auf die Datenschutzaufsicht tatsächlich dafür plädieren, wenn eine Datenschutzzufsicht wie ich das von Baden-Württemberg weiß.

00:37:58: Wie ich das für meine Behörde in Anspruch nehmen würde KI Sachverstand aufgebaut hat in den letzten Jahren?

00:38:07: Das haben wir ja mit einem gewissen Kraftakt uns aus dem quasi datenschutzrechtlichen Fleische geschnitten, weil wir es für wichtig halten und hielten oder hielte und halten.

00:38:21: Dann sollte man diese Landeskompetenz nutzen.

00:38:24: Ich würde den Blick da gerne ein bisschen weiten, weil das ist richtig dass das für Medizinprojekte, Medizinprodukte glaube ich besonders wichtig ist.

00:38:35: aber es kann in ganz vielen Bereichen auch für KMU natürlich sehr, sehr sinnvoll sein auf Landesebene so ein KI-Reallabor dieser besonderen Art zu haben.

00:38:51: Denn gerade Startups aber auch ein normales KMu hat häufig nicht die Compliance Kapazitäten um das überhaupt abzubilden und von daher Rate ich meiner Landesregierung aktiv zu, sich auch auf einen ähnlichen Weg zu machen aber ausdrücklich und das will ich hier auch deutlich sagen.

00:39:15: Ausdrücklich unter zur Hilfenahme der vorhandenen datenschutzrechtlichen Kompetenz.

00:39:24: Die Frage ist dann immer wie gestalte ich das aus?

00:39:28: Und da hat NRW einen Weg beschritten.

00:39:30: Ich würde für einen anderen plädieren

00:39:33: Aber

00:39:34: Ganz grundsätzlich bin ich begeistert, dass NRW da vorangeht.

00:39:38: Muss ich ehrlich sagen weil ich halte das für ein ganz ganz wichtiges Thema eben nicht nur in diesem Medizinbereich sondern auch gegebenenfalls in Bereichen wir haben es gesagt Niedersachsen werden würden welche Autoländer auch vielleicht im Bereich autonomen Autogummes fahren und ähnliches.

00:40:00: Da ist viel denkbar.

00:40:01: da ist noch lange nicht alles ausbuchstabiert Und da haben wir vielleicht die Chance

00:40:08: auch

00:40:09: neue Maßstäbe zu setzen, obwohl in anderen Bereichen KI-Entwicklungen schon sehr weit ist.

00:40:15: Kann man glaube ich mit so einem Instrument wirkliche echte Innovationsförderung?

00:40:21: Also da bringen Sie ja wirklich einen ganz spannenden Gedanken nochmal nach vorne.

00:40:24: Staatsmodernisierung mit der Facette Wirtschaftsförderungen Das ist ja eine interessante Situation.

00:40:33: Hier sitzen zwei Landesdatenschlüssebeauftragte, die tragen ihre Landesregierungen zum Jagen.

00:40:40: Ich weiß nicht ob sie in irgendeiner Form das auch sowieso vorhaben aber wenn ich dir richtig verstehe Leben camp bei dann sagen Sie doch naja überlegt es doch mal wir haben ne Bundesnetzagentur, die soll das ja alles machen Aber die Schlangen vor der Tür der Bundesnetzagentur werden länger und länger Und man muss hier in einer Form jetzt Rechen und Projekte voranbringen.

00:41:03: Und warum soll denn nicht in jedem Bundesland ein Wettbewerb entstehen, eine Landschaft von Realaboren?

00:41:12: Wo?

00:41:13: und das haben Sie ja zu Recht gesagt es gibt gute Gründe wenn es Richtung Gemeinden.

00:41:19: wohl sagt ich jetzt mal also es gibt bestimmte Voraussetzungen, wann man in realabor ein muss.

00:41:23: Medizin ist so was aber eben immer dann wenn's um öffentliche Interessen geht.

00:41:27: grundsätzlich kommt man da rein.

00:41:31: Na ja, warum soll man das nicht auch im Land vorhand treiben und sagen, wenn ich komme zu uns nach Norrland-Westfalen.

00:41:39: Und wenn da alles voll ist dann natürlich auch nach Baden-Württemberg oder nach Niedersachsen oder wo auch immer.

00:41:44: Oder vielleicht sind die Wege hier auch kürzer?

00:41:46: Wir wollen uns ja nicht gegenseitig das nehmen.

00:41:49: Im Gegenteil, wir plebieren ja hier für eine Offenheit, die ich mir natürlich auch von der Bundesnetzagentur kommunikativ wünschen zu sagen, naja klar in der KI-Verordnung steht drin.

00:42:00: Man kann auf regionaler Ebene Readerbohrer aufmachen im Chemie steht nichts anderes drin und dann lassen wir es doch mal so machen

00:42:08: von Verfassungswidrigkeiten

00:42:10: wollen man hier doch sinnvollerweise nicht reden sondern lieber davon ja dass wir die Welt ein kleines Stückchen besser machen können.

00:42:19: für mich als Datenschützer Ich will nicht sagen zuerst mal, aber eine Situation in der ich in die Gestaltungsrolle komme und Sinn in dem es nur günstiger Verstehen erleben könnte.

00:42:30: Da ist das ein bisschen ähnlich?

00:42:33: Ja, ich finde schon auch in anderen Dingen Sinn in meinem Job.

00:42:37: Aber es ist so... Und das ist, ich glaube, dass es auch immer eine Frage der Grundüberzeugung für mich ist ja etwas in Verruf geradene Föderalismus genau das nämlich das Ringen um die beste Lösung für das Problem.

00:42:55: Und, dass gelingt an der einen Stelle dem ein Land besser und an der anderen Stelle dem andern Land.

00:43:01: Wir haben glaube ich wenig gewonnen wenn das alles zentral staatlich irgendwie vorgegeben wird weil dann, wenn ich mir unsere sehr mittelständische Wirtschaftsstruktur mal abgesehen von wenigen großen Playern anschaue weil dann die tatsächlich sich einreihen vor der Tür, der Bundesnetzagentur.

00:43:23: Da kann eine Menge verloren gehen.

00:43:25: von daher halte ich das tatsächlich für ne Chance und

00:43:28: Ich

00:43:29: kann sagen nicht werde meinen Teil dazu beitragen dass solche Chancen genutzt werden.

00:43:36: Und wir haben doch mit dem mit der Möglichkeit Kairial Labore dieser Art zu machen.

00:43:43: Ich würde fast sagen erstmals die Chance da auch ein bisschen, ja ich will nicht sagen kreativer aber ein bisschen weniger bedenkenhaft in diesem engen Raum die Grenzen auszubuchstabieren.

00:44:01: Das ist als Innovationsförderung ausdrücklich gedacht und dann sollten es auch nutzen.

00:44:06: und wenn nur einer Innovation macht, geht das immer auch nur in eine Richtung.

00:44:15: Das wäre sehr präzise gesagt, wenn Sie eigentlich sagen.

00:44:18: Ich sehe zum ersten Mal Sinn in meiner Tätigkeit.

00:44:20: Aber ich seh zum ersten mal Innovations- und Gestaltungsmöglichkeit.

00:44:25: Natürlich ist der Datenschutz eine wichtige Aufgabe völlig klar.

00:44:30: aber was ich meinte war das, was Sie gesagt haben und da bestätigen sie das ja letztlich.

00:44:34: Das macht dann noch ne ganz andere Offenheit im Approach.

00:44:41: zu dem zu sagen wie schön es ist dass wir solche Sachen vorantragen können.

00:44:46: Hätte ich vor ein paar Jahren nicht gesagt, dass hier jemand aus dem Staatsplanationsreferaten, Klinikdirektor und zwei Datenschutzbeauftragte aus den Wendern sitzt und sagen Mensch lieber Gesetzgeber können wir das nicht mal machen.

00:45:00: Wir haben keine Innovationen Wirtschaftsförderung und Forschungsförderungen getreiben mit guten Lösungen aus dem Datenschultz.

00:45:09: also Ich finde was ist Ja, zeichnen irgendwie in dieser KI-Welt.

00:45:21: Wo man natürlich auch finde ich ja eine andere Nachdenklichkeit hat.

00:45:32: Ich kann das alles zusammenfassen aber ich kann auch nochmal so ein bisschen ganz kurz Umschlusswort bitten Dominic Roderburg was ist die?

00:45:43: Das Takeaway hier Wenn man ein EKG fragt, diese vier Takeaways.

00:45:48: Das ist jetzt nicht KI, das bin ich aber trotzdem nach Takeaways, frage aus dieser Sitzung was würdest du sagen?

00:45:58: Ich

00:45:59: bin wirklich sehr froh dass wir da also hier zwei Datenschutzbeauftragte uns hier bestätigen, dass wir auf dem richtigen Weg sind.

00:46:12: Jetzt die Frage der Aufsicht, die lasst mir jetzt an der Stelle weg aber das wir im Grundsatz auf dem auf dem Richtigen Weg sein.

00:46:21: Ich halte es nämlich für ganz wichtig.

00:46:22: Staatsmodernisierung meint ja nicht nur wie vielleicht im Bereich des Schriftforchmann macht die Dinger einfach weg und man erleichtert so den Staat um Bürokratie.

00:46:33: Staats modernisierung hat aus meiner Sicht einen ganz wichtigen zweiten Aspekt, in diesem KI-Gesetz sehr deutlich wird, nämlich dass man den Staat so gestaltet, dass man so Rahmenbedingungen schafft.

00:46:47: Dass eben das was uns eben Professor Sam erzählt hat möglich wird.

00:46:52: sozusagen da müssen wir hinkommen.

00:46:55: Wir müssen Rahmenbedienungen schaffen und gerade im Datenschutz risikoorientierte Rahmenbedingerungen schaffen die eben unterscheiden werden hier die Daten benutzt, um Werbung zu machen.

00:47:07: Um hier eine Kaffeemaschine zu verkaufen am Ende des Tages?

00:47:10: oder aber ist das Risiko hier viel geringer sozusagen weil hier wertvolle wichtige zentrale medizinische Forschung betrieben wird?

00:47:18: Ich kann mir nämlich kaum vorstellen dass auch nur einer der Patienten von Herrn Sam dagegen wäre, dass das passiert.

00:47:27: Und dieses Risiko, weil da eben kaum ein Risiko besteht bei Herrn Samen.

00:47:32: Wenn er das richtig macht die Daten bleiben wie ihn, die Daten gehen nicht zu Versicherungen und so weiter und sofort.

00:47:38: Und diese gestalterische Aufgabe, der müssen wir uns stellen und dass hier zwei Datenschutz beauftragt, das genauso sehen, das macht mich beinahe ein wenig froh.

00:47:49: Ja es ist schon

00:47:50: gut und man merkt das auch so ein bisschen, dass ich das frohe muss ja auch sagen... Das Herr Dr.

00:47:56: Hoderburg oder der Ministerpräsidenten NRW, den Digitalminister ein bisschen schwindelig gespielt hat mit den fünf Modernisierungspaketen, die da im Sommer kam und jetzt wenn sie immer mehr und immer mehr das nächste, aber ich kann mir verraten ist so eine Idee wie man KI in die Verwaltung einsetzt mit Bedarfnahmen auf Artikel twenty-two DSGVO.

00:48:17: Das sind ja auch sehr wichtige Themen die wir brauchen, damit der Gesetzgeber an dieser Stelle eben auch einen Rahmen schaffen kann.

00:48:26: Felix, findest du nicht in dem wieder?

00:48:28: Was Dominic Rodegorff gesagt hat oder hast da andere Schwerpunkte?

00:48:35: Doch!

00:48:35: Dann

00:48:36: können wir sich sehr leicht wiederfinden und ich denke es ist im Prinzip ja auch etisch geboten diese Möglichkeiten zu nutzen aufgrund der Herausforderung, die wir in der Medizin immer noch haben und ist dann eben aber richtig zu machen, sodass wir gerade auch schon gehört haben, eben dabei keine Risiken entstehen.

00:48:56: Hippocortes eiltgeleistet hat – da muss man das Beste tun!

00:49:01: Wenn

00:49:02: ich mal ganz kurz einen Zwischenruf machen darf und eine kleine persönliche Anekdote erzählen darf, mein Zwillingsbruder ist ebenfalls in der Krebsforschung tätig im Bereich der Gastroentrologie.

00:49:14: Und als damals in Chicago dieses erste Medikament gegen Bauspreicheldrüsenkrebs sozusagen vorgestellt wurde, bekam ich nachts um zwei ein Anruf von ihm weil er mir das unbedingt erzählen wollte.

00:49:28: Weil da zwanzig tausend Forscher erzählt er mehr im Raum standen und Standing Ovations klatscht dass man endlich was hat für diese Patienten.

00:49:37: und ich glaube genau den Punkt müssen wir berücksichtigen.

00:49:39: der dürfen nicht mit Regulatorik da die Forscher, Forscherinnen alleine lassen und Sachen verhindern.

00:49:45: Die wie Felix Sam gerade gesagt hat ethisch zwingend geboten sind.

00:49:49: das ist das was ich mit Risikoorientierung meine.

00:49:51: es ist einfach ein Unterschied verkaufe ich eine Kaffeemaschine oder aber rette ich Menschen?

00:49:56: Und da müssen wir unterscheiden.

00:50:00: Ja sowohl der Produktentwicklung als auch in dem Anwendenszenario.

00:50:05: Ich glaube, da gibt es wenig Widerspruch von Baden-Württemberg oder?

00:50:10: Wie sieht's aus?

00:50:13: Ja, KI-Realaborbe gerne mit den LFDIs.

00:50:16: Also in so weit absolute Zustimmung Dennis Linkemper.

00:50:20: aber einen Punkt und das ist wirklich wichtig dass das klingt jetzt wieder ein bisschen metaphysisch Aber diese lernende Behörde sein dürfen.

00:50:27: Das hat auch was eine Zukunftsfähigkeit zu tun.

00:50:30: insgesamt wenn ich in solche Projekte eingebunden werde sehe Was is top notch?

00:50:36: Wo übersprechen wir gerade?

00:50:38: Nicht nur Forschung sondern eben auch nach dem Übergabepunkt auf die Straße gehend.

00:50:45: Das bildet bei mir eine Kompetenz, die ich dann auch wieder weitergeben kann und das macht das Ganze zukunftsfähiger.

00:50:51: also auch der Meta-Ebene finde ich das ein extrem wichtiges Instrument.

00:50:56: Ich find es super wichtig dass du den Punkt machst weil ich eben auch gerne den Start haben möchte als Produktentwickler.

00:51:04: Das ist was, das man aushandeln muss!

00:51:07: Das ist wie nur Art Filter durch die es geben wird.

00:51:09: Wir lernen alle und am Ende sind wir auch alle verantwortlich sitzen allen in einem Boot und haben diese wirklich kraft-und machtvollen Werkzeuge aber auch große riviken Werken auf den Markt gebracht und ich weiß jetzt nicht ob das Bild jedem passt.

00:51:27: Im Atomrecht des Genehmigungsverfahren mache ich auch nicht im Anzeige Verfahren, sondern da gibt es sehr Gefahr und der riskanz angemessene Maßnahmen.

00:51:42: Das ganze Umweltrecht ist voll

00:51:44: davon.

00:51:44: Und ich finde wir müssen diese Formen des Werkzeugrechts eben auch in ihre Möglichkeiten aber auch in ihren Risiken denken so dass wird er wirklich auch die Verantworten dafür tragen können, Herr Lebenkenber.

00:51:57: Wie sehen Sie das?

00:51:59: Ja ich glaube dass ist das A und O. wir müssen alle da noch ganz viel lernen.

00:52:04: Ich habe dazu beginnt meine Amtszeit hier in Niedersachsen ein KI-Expertengremium für meine Behörde einberufen zwölf Niedersechsinnen und Niederson, die eigentlich nur zu drei speziellen Fragestellungen was sagen sollten, aber wir haben immer noch einen regelmäßigen mehr punktuellen Austausch mit den Naturwissenschaftlern.

00:52:28: Mit den Juristinnen und Juristen einfach um in die Welt raus zu gucken und mitzubekommen was wird da draußen geforscht?

00:52:38: Und dieser auf.

00:52:40: das Gespräch mit Ihnen hat mir deutlich gezeigt dass es die Frage eigentlich nicht lautet ob Datenschutz und Innovation bei KI zusammenhossen sondern dass das eigentlich die Aufforderung ist, dass Datenschutz und Innovation zusammenpassen.

00:52:55: Und die Herausforderung dabei ist beides klug miteinander zu organisieren – aus meiner Sicht, das sei mir gestattet, ausdrücklich föderal über die Länder.

00:53:07: Dann sind, glaube ich, Karriereallabore ein echter Standortvorteil für allen.

00:53:15: So steht in der FE-Verordnung, so steht es in der Verfassung, da kann man es ja auch machen!

00:53:20: Ja, vielen Dank.

00:53:23: Das war ein schönes Schlusswort für die mit den Data-Agenda Datenschutz Podcast Nummer neunundneunzig vom achtenzwanzigsten August zwanzig sechstenzwanzig unter der Überschrift Staatsmodell der Visierung trifft Datenschutzt.

00:53:39: da brauchen wir Karrierealabore und nicht nur Reallaborre.

00:53:46: Vielen herzlichen Dank an Doktor Domeck Roderburg, Professor Felix Saar.

00:53:54: Eber-Lebencamper für dieses offene Gespräch über ein aus meiner Sicht wichtiges Thema.

00:54:04: Vielen Dank fürs Zuhören.

00:54:06: und bis zum nächsten Data Agenda Datenschutz Podcast!

00:54:10: Das war der Data Agender Datenschutz Podcast – Der Experten Talk mit Prof.

00:54:16: Dr.

00:54:17: Rolf Schwartmann.