Folge 94: KI-Reallabore, Kinder und Gesundheit. Was Digitalrechte und Medizinforschung verbindet.

00:00:04:

00:00:12: Herzlich willkommen, meine Damen und Herren.

00:00:14: zum Data Agenda Datenschutz Podcast unter der Überschrift KI Real Labore Kinder und Gesundheit was Digitalrechte und Medizin Forschung verbindet.

00:00:26: Heute zeichnen wir auf am zweiten Juli Data-Agenda Datus Podcast und ich habe immer ganz besondere Gäste, aber heute eben ganz besonders.

00:00:43: Besondere Gästen finde ich auch in der Konstellation von den Personen hier.

00:00:48: Ich fange mal in alphabetischer Einfolge an mit Markus Beckerdahl.

00:00:53: Markus Beckedal ist den meisten bekannt als jemanden, der in der Digitalisierung eine wichtige Rolle spielt.

00:01:07: Er hat eine gewichtige Stimme, er ist ja der Gründer des Zentrums für Digitalrechte und Demokratie.

00:01:14: Stimmt das?

00:01:15: Hallo Markus Becadal!

00:01:17: Ja, das stimmt.

00:01:18: Das Zentrum für Digitalrecht und Demokraties habe ich im vergangenen Jahr gegründet und wir wollen für eine informiertere Debatte über die Digitalisierung sorgen und vor allen Dingen Big Tech Grenzen aufzeigen und für digitale Souveränität werben.

00:01:36: Das passt, glaube ich zu dem was wir heute hier machen.

00:01:41: Ich würde mal weitergehen in der alphabetschen Reihenfolge mit Lucia Burkhardt.

00:01:45: Lucia Burghard ist Wissenschaftsmitarbeiterin an der Kölner Forschungsstelle für Medienrecht.

00:01:51: Es ist sie seit Anfang letzten Monatslieder.

00:01:55: Sie war das vorher auch schon.

00:02:01: Was sagen, juristisch hochbegabt?

00:02:03: Nein, sage ich jetzt nicht.

00:02:04: Aber ich denke mir auf jeden Fall ist die Juristik sehr gut und ich freue mich total dass sie wiedergekommen ist nach dem zweiten Examen.

00:02:12: erst hatte es nur das erste.

00:02:13: uns hat eine gemeinsame Zeit miteinander verbunden und jetzt ist sie wieder da Und Ich freu mich sehr darüber weil sie nämlich direkt in wichtige tolle Forschungsprekte eingebunden wird.

00:02:26: hallo du sehr workart.

00:02:30: Hallo, die Runde.

00:02:30: Ich freue mich auch sehr hier zu sein.

00:02:32: Jetzt ist ja schon viel über mich gesagt.

00:02:34: Ich bin Juristin und ich Forscherfam im Datenschutz- und KI Recht.

00:02:38: Weil jetzt hier, weil ich ab September in dem EU-KNAI Forschungsprojekt mitarbeitet vom Felix Samt, das hier uns gleich noch vorgestellt wird.

00:02:45: Und kann vielleicht gleich ein bisschen zu den rechtlichen Rahmenbedingungen erzählen?

00:03:00: Erstliche Direkte der Neuropathologie des Uniklinikums Heidelberg.

00:03:06: Ich habe schon mehr vorkratuliert, ich mache es natürlich trotzdem noch mal.

00:03:09: Träger des deutschen Krebspreises, für translazionale Forschung.

00:03:16: Für alle die jetzt transnational gehört haben das ist falsch!

00:03:19: Es ist translazonale Forschungen, die übersetzt so... Das kann man glaube ich nur sagen die Theorien, die Praxis und Da ist er ganz weit vorne.

00:03:34: Ja, herzlichen Dank, dass ich heute dabei sein darf und danke auch für die schönen Worte!

00:03:39: Es ist transnational, es ist aber häufig dann eine Autokorrektänderung intrans- national und das ist es auch in dieser Hinsicht und darüber werden wir vielleicht auch heute noch sprechen können.

00:03:49: denn was hier unserem Projekt des Plakativ EU Ken AI heißt?

00:03:54: Das kennst du eigentlich für Kenntsein diesem Akronym geht's eben darum Forschung im Bereich der Hirntumore so zu betreiben, dass wir den Betroffenen deutlich besser helfen können als wir es bisher können.

00:04:07: Allerdings gehört da einiges an Daten dazu und das stellt uns natürlich auch vor Herausforderungen.

00:04:12: Ja absolut!

00:04:14: Und Transparenzhinweis in diesem Forschungsprojekt, das eine EU-Fördung bekommen hat, da haben sich ganz viele beworben, ganz wenige was bekommen.

00:04:26: Ich halte die Kölner Forschschrift für Medienrechte, Herr Kölln.

00:04:29: Frau Burkert hat schon gesagt zuständig für die Daten- und KI rechtliche Abdeckung der Themen in den nächsten paar Jahren viel zu tun.

00:04:40: Das ist herausfordernd dieses Pathfinderprojekt.

00:04:43: aber wir freuen uns auch drauf weil wenn man da nicht verarbeitet, wofür denn sonst?

00:04:52: beim juristischen Datenschutzleben immer oft sagen nein, sagen müssen.

00:04:58: Wenn es um Datenverarbeitung ging und das kommt manchmal halt vor, sind der Datenschutzzchützer auch verschrien, dass das eben einfach das Recht für die Grenzen ist.

00:05:07: Das ist das erste Mal in meinem Datenschussrecht im Leben, dass dies ermöglicht werden soll was wir hier machen Da werden wir gleich darauf eingehen.

00:05:20: Das KI-Rechen, das Datenschutzrecht gibt durchaus Möglichkeiten und das ist der zweite Teil des Podcasts mit dem wir uns heute befassen wollen.

00:05:28: Und die erste Teil ist, dass wir reden wollen über den Bericht der Expertenkommission für Jugendschützen in der digitalen Welt auch da wieder Transparenz sind weil es nämlich angehörte.

00:05:43: In der letzten Woche am vierzehnzen Juli sind die Handlungsempfehlungen rausgekommen und kann es nicht über alle Handlungsempfehlungen sprechen.

00:05:51: Über Altersgrenzen könnten wir hier die ganze Zeit sprechen, aber das passiert an anderer Stelle auch ganz oft und ist ein wichtiges Thema.

00:05:57: Aber das wollen wir hier nicht, sondern wir haben uns diese Sachen herausgesucht, die für Markus Beckendahl relevant sind denn ihm geht es natürlich auch bei Jugendlichen um digitale Souveränität um ein Europa, das nicht abhängig ist von

00:06:15: großen Plattformen.

00:06:17: Und da würde ich ganz gern mal vier Handlungsempfehlungen rausgreifen und dann kann man ja vielleicht mal in der Reihenfolge, wie sie in dem Bericht stehen einfach ein bisschen was zu sagen.

00:06:30: Also fangen wir einmal an mit K-Easy Pferdchen.

00:06:33: Das K-easy Pfärdchen ist mein Liebling, woran liegt das?

00:06:37: In diesem Schreibtisch, wo ich gerade sitze, habe ich mir vor zwei Jahren überlegt, dass so etwas an Nordrhein-Westfalen Schulen geben soll mit einem Zertifikat usw.

00:06:45: Das war damals nicht der Zeitpunkt, wo man dem näher trat aber die Zeit geht ja weiter und die guten Ideen tragen sich dann durch die Zeit.

00:06:53: und dann kam ich irgendwann in die Kommission und wir hatten auch bei der GD schon ein bisschen kein Easy Pferdchen immer gemacht, aber in der Kommission hat man dann Gefallen dran gefunden auch ein Projekt der Bundesrepublik, zumindest mal gibt es die Aufforderung zur Passekampagne dazu.

00:07:11: KISI-Pferdchen bedeutet das in Grundschulen ein Online-Zertifikat erworben werden soll.

00:07:18: Hundschulkinder und das heißt nicht, dass die da schon fertig sind mit ihrer KI-Kompetenz.

00:07:22: Sondern es heißt halt, dass sie wie bei einer Schluckimpfung die Menschen meines Alters kennen lassen noch.

00:07:27: Da gab's früher in der Schule immer so ein Zuckerstück und dann hieß das Schluckempfung ist süß, Kinderlähmungen ist grausam.

00:07:34: Und dann war das aber nicht schlimm und man konnte das nehmen und man kriegt keine Kinderlämung.

00:07:38: Und weiß ich ob das Bild bei KI sieht?

00:07:40: Quetschen passt.

00:07:40: Aber zumindest mal ist es was ermöglichendes.

00:07:43: Es verbietet nicht.

00:07:44: Das muss man manchmal auch bei Kindern und Jugendlichen, das mitmachen, dass es dabei sein.

00:07:51: Aber eben wie beim Schwimmen auch unter Mitfähigkeiten halt dabei sind.

00:07:58: und ich weiß noch sehe Pferdchen dann, du kannst jetzt mit zur Sandbank schwimmen und muss nicht mehr am Rand bleiben wenn die anderen ins Meer gehen.

00:08:08: Und das fand ich ein tolles Bild der Ermöglichung, dass wir einfach mitmachen darf, wenn man das vorher gelernt hat.

00:08:15: Das ist letztlich auch was den Gesetzgeber Der KI-Forten sagt, KI Kompetenz muss vermittelt werden durch Betreiber von KI System und das KI-Siebwärtschen.

00:08:24: Schulen sind auch Betreber.

00:08:26: Ist es für die Kinder?

00:08:27: Dann gibt es den AI-Kompagnen über den wir reden wollen.

00:08:35: Ki-Freunde für Kinder.

00:08:37: Ganz, ganz furchtbare Sache finde ich persönlich mal zu outen.

00:08:41: Also das ist ein Kind wo man schon gar nicht will dass das in sozialen Netzwerken mit einem frühen Alter oder mit Handys unterwegs ist dann auf einmal bei Snapchat mein AI untergejubelt kriegt und dann so einen Bord irgendwie anfängt wir sind best friends forever bff Und du kannst mir alles erzählen.

00:09:00: also Furchtbar finde ich und das in der Regel unterm Aller der Eltern.

00:09:04: Da war unsere Empfehlung.

00:09:06: Altersgrenzen kann man so stehen wie man will, aber für Eilkompendienz unter Drei Zin nicht.

00:09:14: also das war eine klare Ansage aus der Empfehling.

00:09:18: und dann haben wir noch kindgerechte Kainer.

00:09:20: kommen zum ersten Mal zu den Realaboren.

00:09:23: denn wenn Kindgerechte in Europa entwickelt werden soll an der Zukunft der Demokratie dann bei den Kindern auf jeden Fall in digitale Souveränität.

00:09:34: und das ist ein großes Brett, ein dickes Brett, was man da bohren muss.

00:09:38: Aber es lohnt sich eben auch an der Stelle vielleicht auch im Realaborg das zu machen.

00:09:43: Das ist auch wirklich adressiert dafür Reallabore zur Verfügung zu stellen usw.

00:09:50: Ja dann haben wir noch die Handlungsempfehlungsfünfzig frauenswürdige Lattformen Öffentlichkeit herstellen Und gerade auf Jugendlichen die Möglichkeit geben, sich frei zu schwimmen und von den Plattformen zu emanzipieren.

00:10:07: Also das wären so vier Punkte.

00:10:09: Ja Markus Becker da ich schmeiße einfach mal rein!

00:10:12: Ich bin davon überzeugt du wirst dich da schon zurechtfinden in dem Vier-Eck dieser vier Empfehlungen.

00:10:25: Ja, danke dafür.

00:10:26: Also das Sehpferdchen klingt natürlich erst mal schön so ne?

00:10:29: Der erste Gedanke der mir kam war, dass es natürlich sinnvoll steht und fällt natürlich aber auch immer mit einer Weiterbildung der Lehrerinnen sozusagen die nicht immer quasi up-to-date sind.

00:10:41: Das ist ja auch schon das klassische Problem oder die klassische Herausforderung der Vermittlung von Digitalkompetenzen.

00:10:47: wenn man da Lehrer quasi Ja, alleine lässt sie nicht ausreichend weiterbildet.

00:10:53: Dann sind Sie nicht in der Lage diese Kompetenzen auch an Schüler zu vermitteln die im Zweifelsfall untereinander durch Peer Review und so weiter sich selbst all die Probleme und alle Herausforderungen beibringen Tipps und Tricks geben wer welche Erfahrung gemacht hat und so viel schneller lernen.

00:11:15: was aber meine Grund Herausforderung für das Seepferdchen ist, dass... steht und fällt eigentlich auch mit der Frage, ob Schulen und das Bildungssystem eine souveräne KI hat.

00:11:25: Weil sonst kommen wir wieder in das klassische Problem rein, dass so die Vermittlung des Sehpferdchen eigentlich ein Produkttraining ist.

00:11:33: sozusagen wenn man dann denkt naja benutzen ja alle Chatchi PT quasi weil jeder hat mittlerweile einen kostenlosen Zugang Dann unterrichten wir mal wie man passend Chachipiti nutzt.

00:11:45: Das kann und sollte es nicht sein.

00:11:47: Wir sollten nicht den Fehler wiederholen den wir in vierzig Jahren Microsoft Monopol gemacht haben, dass wir in den Schulen eigentlich Menschen für die Anwendung in Microsoft Software trainieren und nicht in der Kompetenzvermittlung von generell Office-Sweeten.

00:12:04: Dann passt

00:12:05: das doch im Prinzip mit der Kindgerechnik an diese Handlungsempfehl darauf aufsetzt.

00:12:09: Achtundvierzig ist das ja, der Punkt ist absolut valide Die Kinder sind nur so gut, wie die Lehrer es auf.

00:12:16: Das sind aber unterschiedliche Stränge.

00:12:18: und ja also Handlungsempfehlungen darf man nicht isoliert rausgreifen.

00:12:23: Und dann setzt sich halt den Kontext und die greifen natürlich einander.

00:12:26: insofern finde ich das natürlich prima, dass direkt hervorhebt uns sagst Also wir brauchen die digitalen Souveränität und keine Flugung für die Produkte, die ist am Ende gerade nicht sein sollen, sondern zur Kompetenz gehört natürlich auch Kritik

00:12:40: zu können.

00:12:44: die auf Basis der DSGVO sind, wo wir genauer wissen oder zumindest nachvollziehen können wie die Systeme funktionieren damit an diesen Systemen im Bildungsbereich mit Kinder und Jugendlichen sozusagen diese Trainings vollzogen werden können.

00:13:04: Dann, Companions ist ein Thema was uns beim Zentrum für Digitalrechte und Demokratie sehr viel beschäftigt hat in diesem Frühjahr.

00:13:12: Wir haben einen Rechtsgutachten erstellt weil wir der Meinung waren dass dieses Thema noch überhaupt nicht ausreichend diskutiert wird vor allen Dingen in der Politik noch nicht angekommen ist.

00:13:21: deswegen war da sehr oft Wirklich, dass da auch konkrete Handlungsempfehlungen drin stand in eurem Kommissionsbericht.

00:13:30: Bei Companions haben wir es einerseits mit Geschäftsmodellen zu tun die explizit virtuelle Freundschaften anbieten.

00:13:37: Da gibt das eine ganze Menge Plattformen, die mittlerweile relativ problematisch sind.

00:13:41: aber ihr müsst natürlich noch verschiedene andere gesellschaftliche technologische Entwicklungen berücksichtigen, nämlich dass Menschen auch mit den klassischen Chatbots von ChatGPT, Claude und Co.

00:13:52: so umgehen wie mit einem reinen virtuell freunde Chatbot.

00:13:58: das heißt diese Allzweckwaffe die ein Die Claude, Gemini, Krok oder Chatchi Petit darstellen werden halt von Menschen unterschiedlich genutzt und eine ganze Menge Menschen nutzen mittlerweile diese Chatbots als virtuelle Beziehungen.

00:14:17: Und gerade da brauchen wir eine bessere demokratische Kontrolle darüber wie das funktioniert weil die Forschung zeigt schon dass irgendwie ein kleiner Prozentsatz an Nutzerinnen psychische Probleme dort entwickelt.

00:14:33: Und ein kleiner Prozentsatz klingt jetzt erst mal nicht viel, aber wenn man hunderte Millionen Nutzerinnen hat und einen kleinen Prozensatz davon abzählt dann sind das ja sehr viele Menschen.

00:14:42: also wir sprechen uns eigentlich dafür aus in unserem Gutachten Das erst mal.

00:14:48: Companions generell und zwar nicht nur diese expliziten Geschäftsmodelle, sondern auch die Nutzungsarten in den großen Chatbots.

00:14:56: Aber auch wenn beispielsweise in Spielen auf einmal virtuelle Freunde vorkommen als High Risk AI im AI-Akt eingestuft werden muss – das ist eine politische Entscheidung, die die EU treffen kann.

00:15:07: Dafür setzen wir uns ein.

00:15:09: aber wir sind noch der Meinung also eigentlich sollten Companions für Kinder und Jugendliche bis zu achtzehn Jahre verboten werden, solange wir nicht genau wissen wie diese Teile funktionieren.

00:15:19: Deswegen waren wir ein bisschen enttäuscht dass irgendwie das ja auch schon mal gesagt über Altersgrenzen kann man diskutieren, dass in diesem Handlungsempfehlung halt nur bis dreizehnt drin steht und wir glauben auch, dass fünfzehn- sechzehnjährige sehr vulnerabel sind und quasi von diesen Systemen irgendwie reingezogen werden können weil mit züchtigen Schäden da wieder raus laufen können.

00:15:43: Ganz kurz vielleicht als total.

00:15:47: Zugleich ist es natürlich so, dass immer die Ermöglichung und die Befähigung eine Rolle spielt.

00:15:53: Und Altersgrenzen bis achtzehn natürlich auch immer eine Frage der Durchsetzbarkeit sind.

00:15:57: Und da kann man wirklich, wenn man in der Wunschlelle leben würde sagen na klar das machen wir nicht.

00:16:03: Aber auf der anderen muss man natürlich sehen, man kann ein Kind sagen bis sechzehn kommst du auch ganz gut ohne Alkohol klar.

00:16:09: aber man kann nicht sagen ohne Digitalisierung kommt es mit Sechzehnt ganz gut klar sondern sie sind ja damit so befasst wie mit der Luft zum Atmen und das ist halt schon den Punkt dem man natürlich auch sehen und diskutieren muss usw.

00:16:27: Ja, was ich ein ganz, ganz verliebend Punkt finde ist soziale Netzwerke haben lange gar nicht so das Problem in uns erzeugt.

00:16:40: Nach zwanzig Jahren sagten wir richtig USA, deswegen macht es süchtig und muss vor zwanziger Jahren auch schon.

00:16:45: Aber jetzt ist es ein Mangel im Produkt und jetzt tut's halt weh!

00:16:49: Das ist natürlich eine ganz interessante Entwicklung.

00:16:52: auf der rechtlichen Seite bei sozialen Netzwerken finde ich auch sehr gut rausgebracht.

00:16:59: Es ist ja so, dass wir einen Kommunikationsraum haben für Menschen wo die Bots in Anführungsstrichen was zuspielen machen.

00:17:07: Der Kommunikationraum AI, Chatgibbigthe oder wie sie nicht alle heißen is ja wirklich nur Mensch.

00:17:14: Mathematik da ist der Mensch allein!

00:17:18: mit den Zahlen im Vektoraum und der Autonomie aus diesen Zahlen.

00:17:21: Und das ist ein Anliegen, was mir total am Herzen liege in meinem Überleben mit KI-Wuch, KI für Kinder spielt eine große Rolle wo ich wirklich auch denke mein Gott!

00:17:30: Das ist schon wirklich Wahnsinn dass wir es auf einmal jetzt von jetzt auf gleich gar nicht mehr mit Menschen zu tun haben sondern dass autonome Technik auf einmal anfängt.

00:17:40: ja Kinder, nein das ist nicht gut oder böse nennen wie ein Tier ja auch nicht gut oder böse ist, wenn es beißt.

00:17:47: Sondern einfach nur aus seiner Autonomie raus Dinge hervorbringt.

00:17:52: Das macht dir das auch Sorge?

00:17:55: Wie mir das also du klare ich komische frage bis achtzehn schon gar nicht.

00:18:01: Ja und ich glaube auch sozusagen dass man die Anbieter verpflichten kann zu kontrollieren ob einen Nutzer jetzt unter achtzehn ist oder über achtzehnt sozusagen.

00:18:14: Da müssen wir gar nicht erst über Altersverifikationssysteme sprechen, sondern ich gehe mal davon aus dass diese Systemes so intelligent sind das die schon rausfinden ob man jetzt sozusagen mit einem fünfzehnjährigen, sechzehnjährigen, siebzehn jährigen und dann mit dem dreienvierzigjährigen kommuniziert allein über Die verwendete Sprache, die in den Wortschatz und so weiter.

00:18:35: Und alleine da...

00:18:39: Das ist ja auch ein Rechtsproblem natürlich.

00:18:40: Also wenn man Biometrie benutzt um das rauszukriegen läuft man von anderes Problem natürlich.

00:18:49: Die machen das schon!

00:18:51: Also alle Studien deuten darauf hin, dass sie es machen sozusagen auch wenn Sie's nicht machen dürfen.

00:18:56: Das ist ein weiteres Problem.

00:18:58: aber dann werden wir eventuell schon machen und wie man auch sagen so müssen das heute auch einsetzen um zu verhindern, dass bestimmte Funktionalitäten wiederum ich will ja nicht, dass unter achtzehn Jahre komplett von der Digitalisierung ausgeschlossen werden die sollen von mir aus sowas rennt wie möglich KI-Tools nutzen und ob die Zukunft vorbereitet sein Aber bestimmte funktionen dieser AI-Companions sozusagen.

00:19:20: Die sollte man vor Kindern und Jugendlichen fernhalten, weil sie die gesellschaftlichen Auswirkungen und Risiken sind viel höher als die Vorteile.

00:19:31: Und das ist eine politische Entscheidung.

00:19:35: Also sehr wervalider Punkt finde ich also dass es mir um ehrlich zu sein ums Vorsicht auszudrücken überhaupt nicht geheuer wie schnell sich das etabliert hat und auch, aber auch da wieder K-I-Siebpferdchen.

00:19:48: Das müsste den Kindern gesagt werden was sie hier gerade besprechen auf kindgerechte Weise.

00:19:52: Sie redet nicht mehr mit Menschen und es ist halt ja für Kinder und Lehrer.

00:20:00: Ja, wir haben einfach mal zurückgegucken auf Weizenbaum und das ELISA Experiment wo schon vor Fünfzig Jahre vor diesem primitiven Tool saßen und natürlich wussten, das ist einfach ein primitives Tool.

00:20:17: Aber anfingen sich trotzdem dann so... also sich so vorzustellen dass man da auf einmal in einem Menschen kommuniziert.

00:20:23: Also das sind die menschliche Psyche Die gar nicht so rational arbeitet wie man denn denkt sozusagen.

00:20:30: Und das ist die große Gefahr von diesen Systemen Total

00:20:34: plus Anker-Effekt.

00:20:35: Automatisierungsbei, es ist ja Elisa Effekt die menschliche Neigung einem Computer mehr zu führen und der Weißenbaum wollte das Gegenteil beweisen und war völlig baff dass sein ich sage jetzt mal dispektiv nicht komischer Hobel, der gar nichts mit KI zu tun hatte auf einmal die Menschen mehr in den Band zog und überzeugte als anderen Menschen.

00:20:52: und der Ankereffekt keine Mann, der ja sagt wenn ich einen Anker habe gedanklich Krieg irgendetwas gesagt und das klingt plausibel, dann liege ich rein von meiner Gehirnaufstellung schon nicht mehr weg davon.

00:21:08: Und hier haben wir sie ich bin auch so großes Großes sagen vor unsere Kinder und uns selber davon fern zu halten.

00:21:17: die Fernheiten sind davon abgrenzen dass der Mensch eben nicht die Maschine ist und da ist der Eliza Effekt natürlich lange bekannt aber er hat es noch.

00:21:26: Ja, davor beschützt das Wissen, dass wir nicht klarkommen.

00:21:30: Aber vertrauenswürdige Plattformen, das wäre noch ein Punkt, der die doch wahrscheinlich Handlungsempfehlung Fünfzig anliegen ist oder?

00:21:46: Das war auf jeden Fall irgendwie der, wo ich die meisten Superteen für habe.

00:21:50: Weil wir setzen uns beim Zentrum für die Gitarrechte und Demokratie ein, dass bestehende Regeln konsequent in Engagement durchgesetzt werden auch wenn man Angst hat das Donald Trump die Autozölle erhöhen sollte weil es geht hier bei den Regeln zur Plattformregulierung um die Sicherung von Wettbewerb von Meinungsfreiheit und Demokraties.

00:22:08: Aber die besten Regeln, die wir gar nicht erst haben bringen auch überhaupt nichts.

00:22:14: Selbst wenn man sie konsequent durchsetzt, werden wir dann weiterhin komplett abhängig bleiben von wenigen Plattformen in der Hand von noch weniger Menschen, die alleine bestimmen können wie diese Plattform funktionieren.

00:22:25: Das heißt um einen öffentlichen Diskursraum in Zukunft irgendwie... weiter hin zu haben, so wie wir es eigentlich aus der Vergangenheit gewohnt waren.

00:22:34: Brauchen wir demokratische Plattformen die wir fördern müssen?

00:22:38: Die wir aufbauen müssen.

00:22:40: und hier gibt es verschiedene Modelle, die schon quasi in der Entwicklung sind.

00:22:46: Zarte Pflänzchen kann man sie nennen Mastodonnen und das Fediverse auf der einen Seite sehr nördig aber da machen Leute ihre Freizeit als Opensourcing oder BlueSky mit dem Ableger Eurosky Und ich finde hier hat er Start.

00:23:00: Aber auch der öffentlich-rechtliche Rundfunk eine Verpflichtung sozusagen durch gezielte Innovationsförderungen, diese demokratischen Öffentlichkeiten weiter zu stärken und auch mit Geldmittel in die Hand zu nehmen um ja die Nutzerfreundlichkeit zu erhöhen.

00:23:17: Damit wir halt auch Plattformen bekommen, die wir gerne nutzen wollen, die einfach zu nutzen sind, unsere Demokratie auch teilweise offensiv bekämpfen wollen.

00:23:33: Anreize schaffen heißt die Handlungsempfehlung, der Bericht... Die Handlungsempfehlung sind geschrieben, dafür ist er noch nicht fertig.

00:23:41: das geht ja weiter bis September.

00:23:44: hast du was an konkreten Anreizen wo man sich überlegen könnte?

00:23:51: Dafür dass ihr habt ja viele Ideen als Wind Tank?

00:23:54: Na

00:23:56: ja, auf der einen Seite muss man eigentlich das öffentlich-rechtliche System konsequent weiterdenken.

00:24:00: Die acht fünf Milliarden Euro die über die Haushaltsabgabe in dem System drin sind.

00:24:05: ich glaube wenn man heutzutage den öffentlich rechtlichen Rundfunk neu konzipieren würde würde man Meinungsvielfalt weniger berücksichtigen wie früher sondern eher Technologie Neutralität als Auftrag in den Vordergrund stellen.

00:24:17: und wenn man jetzt nur ein bis zehn Prozent dieser Haushalts abgabe verwendet um Innovationsprojekte zu ermöglichen, die auf Basis und offenen Standards Open Source Software funktionieren.

00:24:30: Dann hätten wir eine Revolution, die uns ermöglichend würde, dass wir offene demokratische Räume fördern könnten.

00:24:37: Ansonsten gibt es natürlich auch im Rahmen von Innovationsförderung Ansätze, die die Bundesregierung schon seit Jahren erfolgreich macht.

00:24:44: das Forschungsministerium hatte mit dem Prototype Fund eine Innovationsförderung, wo bis zu fünfzigtausend Euro für bestimmte gesellschaftliche Fragestellungen immer pro Runde ausgegeben werden.

00:24:54: Wo Nürt sich dann irgendwie ein halbes Jahr mit beschäftigen können?

00:24:57: oder die Sprint, die Innovationsagentur quasi, die wiederum ja Kursenteils im Wirtschaftsministerium und Digitalministerium untergeordnet ist bietet hier auch verschiedenste Möglichkeiten in challenges innovative Projekte zu fördern.

00:25:14: das sind alles Ansätze Wo wir glauben, wenn man den politischen Willen hätte dann wäre es möglich darüber Geld in ein System zu pumpen um diese Innovation und demokratische Räume zu ermöglichen.

00:25:28: Und auch so ermöglichend dass daran ja natürlich nicht nur gemeinwohl orientierte Infrastrukturen entstehen können sondern auch kommerzielle Player agieren können die aber in einem interoperablen offenen Umwelt miteinander agieren Können gemeinsam diese Öffentlichkeiten bauen können nach Vorstellungen die demokratischer sind als diese Black Boxen, die wir alle nutzen und nicht mehr verstehen.

00:25:51: Ja konkrete Anhaltspunkte.

00:25:53: Klar das ist genau das was wir auch natürlich irgendwie wie sehen und Anreize schaffen dann auch nach Europa zu tragen.

00:26:01: Das ist das Mittel der Wahl.

00:26:02: Die Sprünthaste genannt klar?

00:26:04: Das ist prima aber am Ende des Tages müssen wir das anewollen Und es ist eine wichtige Handlungsempfehlung aus meiner Sicht.

00:26:11: Die hat über den Tellerrand hinaus schaut.

00:26:13: Und bei allem, was wir gemacht haben, haben wir natürlich auch mit Demut anerkannt.

00:26:18: Dass die Europäische Union diese Sachen reguliert und deswegen macht den Bericht ja auch aus, dass wir dahin adressieren und national Alleingänge eben einfach für rechtlich und politisch nicht sinnvoll halten so mühsam das halt ist in einem Straten verbunden zu leben der auf guten Willen angewiesen ist.

00:26:42: Vielen Dank bis dahin.

00:26:43: Ich bitte die Runde mal öffnen und würde gerne Marfilix jetzt dramaturgisch einwinden, wir haben geredet über das was Europa leisten soll und muss um die Demokratie zu stärken, die Demokratien zu fördern.

00:27:02: Das ist ein ganz wichtiges Anliegen aber die Demokraties relevant mehr, wenn man nicht so gesund ist aus der Perspektive des Einzelnen.

00:27:14: Das heißt Gesundheitsförderung und Demokratieförderungen sind zwei ganz wichtige Ziele für Europa Und das bringt dich natürlich in den ins Gespräch.

00:27:24: Denn erzähl mal von einem Forschungsprojekt dass du initiiert hast.

00:27:32: Es ist ein großer Forschungsverbund mit neuropathologischen Fragen, um genau zu sein.

00:27:41: Mit Gehirntumor-Klassifikationen befasst.

00:27:45: Gehirn-Tumore gibt es in der absoluten Zahl zu viele aber immer noch absolut ja wenig.

00:27:54: Aber dann wenn die Gehörntumore da sind, dann gibt's eine große Vielzahl von sehr nah beieinander liegenden Gehirnentumoren und da kommt der menschliche Arzt Ich komme da an Grenzen oder er kann Hilfe brauchen, Unterstützung brauchen.

00:28:09: Ich glaube das ist so das Bild was man hat.

00:28:12: und da setzt ja das Forschungsprojekt EI an.

00:28:17: Und wenn du es erzählt hast dann wäre der nächste Schritt dass Lucía Burgart mal sagt was das mit Datenschutz und KI-Recht zu tun hat.

00:28:27: Felix ist natürlich auch mittlerweile selber schon halber KI-Rechtsexpert und sehr, sehr sensibel in diesen Dingen.

00:28:34: aber trotzdem glaube ich es fühlt sich noch sicherer wenn er das Rechtliche nicht machen muss.

00:28:42: zur Arzt

00:28:44: Ich finde mich vor allem sicherer, wenn nachher jemand anderes Schuld ist.

00:28:47: also ich sagen kann der oder die war beteiligt uns dazu beraten.

00:28:51: Aber im Ernst würde es gar nicht mal so trennen, wie der Demokratie und mit der Gesundheitsfürsorge.

00:28:56: Da ist ja letztlich auch eine Aufgabe des Staates in der er und auch der Staat verbunden irgendwo Einfluss nehmen muss und auch da sein müssen einfach zeigen kann was die Demokratie kann.

00:29:08: und stellt man sich jetzt einmal vor Die Regulation in der EU würde dazu führen, dass wir in zwei drei Jahren sehen.

00:29:14: Gut in Australien und USA anderswo geht es den Leuten der Gesundheitsversorgung besser?

00:29:19: Weil die nutzen eine large Language Model aus zum Beispiel in USA Und das ist einfach toll für verschiedene Fragestellungen Dann würde sich wahrscheinlich auch die Gesetzgebung ändern, weil der Druck einfach so groß wäre zu sagen okay wir müssen diese Vorteile mitnehmen.

00:29:32: Auf der anderen Seite wäre dann wieder eine sehr große Abhängigkeit wie zum Beispiel über Microsoft, die ja zum Beispiel Schleswig-Holstein gerade zu überwinden versucht aber es wird nicht.

00:29:42: Dann wäre dieser Abhängigkeits sogar im Gesundheitswesen da.

00:29:45: und ganz praktisch Näher hat sie sich ja schon, denn wie viele Patientinnen und Patienten konsultieren heute erst ChatGPT bevor Sie zum Arzt gehen oder zur Ärztin?

00:29:56: Und wie viele Dinge werden z.B.

00:29:58: auch in der Praxis für Haut- und Geschlechtskrankheiten nicht angesprochen bei ChatGAPT aber schon Ja.

00:30:02: also diesen ganzen Hintergrund muss man ja zu Betrachtungen der Wahrheit auch mitdenken.

00:30:07: Aber zu unserem Projekt um was Konkretes zu besprechen unserem Projekt geht es darum die Versorgung von Patientinnen und Patienten mit Hirntumoren zu verbessern.

00:30:17: Du hast schon richtig gesagt, Rolf Hirnturmore sind absolut vergleichsweise selten zur Lunge, Melanom, Kolon, Brustkrebs

00:30:24: usw.,

00:30:26: allerdings ist die Überlebens- wahrscheinlichkeit in der Überlebendstauer bei einer Hirntummerdiagnose leider sehr schlecht zumindest bei vielen.

00:30:34: es gibt auch Gutartikel.

00:30:35: oder bei vielen Dioplastomen zum Beispiel ist ein Begriff den vielleicht viele schon gehört haben immer noch ein Tumor, der mit einer kurzen Überlebungszeit trotz aggressiver Therapie vergesellschaftet ist.

00:30:45: Und wir haben in den letzten Jahren schon festgestellt ohne Deep Learning mit einfachem maschinellem Lernen, wenn man sehr große Datenmengen untersucht findet man dort Ansätze für eine bessere Prognoseabschätzung und teils auch für eine besondere Therapie für eine individuelle Therapie, für eine schonendäre Therapie vor allem aber für eine wirksame Therapie.

00:31:02: Nun war natürlich die oder ist immer noch die Hoffnung und Erwartung dass modernen KI-Methoden, mit Deep Learning Methoden.

00:31:09: Den gesamten Behandlungsfahrt von der ersten Vorstellung in der Ambulanz zum Beispiel mit einer Epilepsie, mit einer Armschwäche und anderen Beschwerden sind ja sehr unspezifisch beim Hirntumor diesen Prozess über die MRT-Bildgebung, über die Operation bis hin zur Gewebeuntersuchung und später auch der Empfehlung für die Therapie mit KI unterstützen können.

00:31:28: Nicht ersetzen können aber unterstützen.

00:31:30: Man würde zum Beispiel durch die KI dann schon sehr viel genauer und vielleicht auch an Stellen wo man nicht jeden Tag mehrere Dutzend Hirntumorpatienten betreut wissen was ist die richtige MRT Bildgebung für den Fall?

00:31:43: aus diesem System heraus sagen können, was es vielleicht die richtige Klinik um jemanden weiter zu überweisen.

00:31:48: Was ja heute auch ein System ist, das noch nicht so ganz ausgegangen ist.

00:31:51: Man würde intraoperativ also während der Kopf noch offen ist, würde man schon Informationen über den Tumor gewinnen, die die Operation leiten können statt vier Wochen später dann befunden zu haben und zu sagen, oh, dann hätten wir es vielleicht bei seiner ausgemacht.

00:32:03: Das sind alles Dinge, die wir hier verfolgen und das braucht natürlich Mengen an Daten und weil es zwar nicht so viele hier in Tumore gibt aber die eine sehr große Diversität haben, brauchen wir sehr viele Daten um alles abzudecken.

00:32:15: Damit nichts vergessen wird und niemand zurück gelassen wird.

00:32:17: sozusagen das kommt nicht von einem Zentrum allein aus einem Bundesland alleine nicht aus einem Staat allein Und es sind natürlich auch Daten einer offensichtlich vulnerable Gruppe die bis hin in das Genom dieser vulnerablen Gruppe reichen.

00:32:28: ja und da haben wir quasi jede Dimension von Schwierigkeit im Datenrecht schon angesprochen aber sie ist aus meiner Sicht und da bin ich ja nicht alleine notwendig diese Dinge alle mit einzubeziehen um eben Schritte voranzukommen.

00:32:43: Ja, vielen Dank.

00:32:44: Also ich glaube jetzt haben wir von dem Ansatz eine gute Idee.

00:32:49: vielleicht willst du noch mal ganz konkret werden?

00:32:52: Ich finde das wirklich spannend für Leute, die das nicht wissen.

00:32:55: Wir haben dich im Labor besucht und da gibt es interessante Sachen, die du erzählst, die man auch dann sieht oder von eurem KI-Modell, dass ihr entwickelt habt.

00:33:07: Darum geht's ja letztlich bei uns, wobei dafür ist rechtlich Ja, da hat bloß sich ein Ränzen gekommen seit wo die Universitätsverwaltung ja nicht so glücklich war dass du Leben rettest.

00:33:20: Zumindest mal aus rechtlichen Gründen wenn man das mal so blöd sagen darf.

00:33:23: Jetzt ist es immer kurz zur Einordnung zu sagen damit das wirklich sehr plastisch was eure KI gemacht hat und wo es die rechtlichen Probleme gab und wie ihr aus der Nummer rausgekommen seid?

00:33:36: Ja also dass die Universität Verwaltungen Widerstand geleistet hätte, würde ich jetzt so natürlich nicht formulieren.

00:33:41: Aber es ist tatsächlich so dass wir über einen sehr großen Datensatz von sich tausend oder über hunderttausend Fällen in der Lage waren neue Muster zu erkennen beziehungsweise Der Algorithmus war in der Lage, neue Muster zu erkennen.

00:33:55: Und so hat sich zum Beispiel herausgestellt, dass bei einigen Fällen, wo das Überleben länger oder kürzer war als die Diagnose eigentlich erwarten ließ, dass es sich gar nicht um diese Diagnosen handelte.

00:34:04: Es war alles lege Artis korrekt diagnostiziert nach Lehrbuch sozusagen.

00:34:08: Man hatte nur mit diesem großen Datensatz und mit der Anwendung von entsprechenden bioinformatischen Methoden festgestellt da gibt's Subgruppen von Tumor oder es gibt vielleicht auch Tumoor-Arten.

00:34:18: Da kommt vielleicht mal einer in Rio vor, einer in Genf, einer eine Hamburg.

00:34:22: Man hat noch gar nicht gewusst, dass das eine eigene Tumorart ist.

00:34:25: Und jetzt durch diese Mustererkennung in denen uns die KI voraus ist, hat man zum ersten Mal festgestellt, da ist was Eigenes und dieser eigenen Tumore waren vorher so wie gesagt nicht bekannt, sodass sie irgendeine andere Diagnose bekommen haben, die nach Lehrbuch am besten passt also anstatt der vorherigen Wissenschaft durchaus richtig aber eben nicht wirklich biologisch und klinisch abgebildet hat, was bei den Betroffenen passiert.

00:34:48: Und das ist jetzt viel besser möglich!

00:34:50: Wir wissen jetzt, dass es doppelt so viele Arten von Tumoren unter Arten hier in Tumorn gibt und können sehr viel genauer diagnostizieren und dementsprechend auch beraten.

00:34:59: So, nun war es aber tatsächlich so dass wir als für diese Methode publiziert hatten sehr viele Anfragen hatten von Kolleginnen und Kollegen die gesagt haben naja das ist ja toll.

00:35:07: Das wollen wir auch nutzen oder wollen es weiternutzen wenn sie's wissenschaftlich schon genutzt haben.

00:35:12: Und da kamen wir genau in den Bereich zu sagen Ist es nur ein Medizinprodukt?

00:35:16: Ist es einen möglicherweise sogar ein KI-Modizintrodukt?

00:35:19: kann man das in Verkehr bringen?

00:35:20: wie kann man es in Verkehr prägen?

00:35:21: und das war tatsächlich der Grund wo das schon richtig erkannt.

00:35:24: ich bin jetzt auch sensibel Vermutlich zu Recht.

00:35:27: Die Verwaltung einer der beteiligten Institutionen, sind ja mehrere gesagt hat Moment mal das können wir so ohne weiteres gar nicht machen.

00:35:34: Das müssen wir uns näher anschauen und da ist mir auch klar geworden dass sicherlich auch kein Geheimnis, dass diese Dinge natürlich es nichts sind was jeden Tag zehnfach gemacht wird von der Rechtsabteilung eine öffentliche Einrichtung und was in gewisser Hinsicht um den Begriff zu benutzen hier auch ein Neuland ist.

00:35:51: Und das können als europäische Demokratie, also auch im Sinne der Patientinnen und Patienten.

00:35:59: Es muss da vorangehen.

00:36:01: Und eine Sache – und hoffentlich kommen wir auf die noch zu sprechen – sind ja die KI-Realaborer, die uns vielleicht künftig hilft, das besser hinzukriegen?

00:36:09: Ja, klar!

00:36:11: Die Verwaltung hat natürlich einen Punkt wenn sie sagt man kann damit Genome entschlüssen, Menschenklonen.

00:36:18: Okay, habt ihr so ein Datenfeld?

00:36:21: Was braucht er denn von dem Datenfeld?

00:36:23: Braucht da alles vom Genom oder vielleicht ein bisschen und so weiter.

00:36:27: Das ist natürlich die andere Seite des Menschenverstandes, die noch mal nachfragt, wenn die KI am Werke ist oder der Mensch die KI einsetzt.

00:36:37: Man muss es verstehen!

00:36:40: Jetzt geht's nicht darum... Wirkweise der Autonomie, der KI zu verstehen.

00:36:48: Man versteht ja vielleicht auch nicht warum ein Hund ein besonders gutes Näschen hat.

00:36:52: Er hat das eben einfach und man muss aber sich wenn man ihn einsetzt eben darauf einrichten dass er eben einfach auch beißen kann, wenn er unterwegs ist und dass das wenig kontrollierbar ist.

00:37:03: Aber trotzdem braucht man einen Hund denn man riecht nicht so gut wie der Hund und war noch so intensifisch.

00:37:09: Das hat mich was mal sucht und das ist ja bei KI nicht großartig an.

00:37:13: Das Sprichmal ist darauf angewiesen dieses autonome Werkzeug, weil es ja quasi gesetzte Definitionen und auch technisch ist einzusetzen zugleich aber den Rahmen so zu kontrollieren, dass das verantwortbar ist.

00:37:28: Du hast angesprochen, das Datenschutzrecht und die KI-Verordnung ins Spiel bringen.

00:37:34: Beginnen wir mal beim Datenschurzrecht des Datenschutzzrechts.

00:37:40: Das ist ja... bisschen zu recht picky, wenn es darum geht Daten die man zu bestimmten Zwecken erhoben hat und das Zweck Veränderung weiterzuverarbeiten.

00:37:49: Und wenn man das macht und davon hast du berichtet dass ihr das macht denn die Daten sind ja nicht zum KI Training oder zur Diagnostik von Gehirntumoren erhoben worden Da brauchen wir dafür Lösungen.

00:38:01: Und die Lösungen, die finden sich in Ansätzen, fungele ich mal vorsichtig.

00:38:05: Lucia Burghardt spitzt schon die Ohren weil da sind wir natürlich jetzt sehr genau im European Health Data Space und im Gesundheitsdaten-Nutzungsgesetz.

00:38:17: aber keiner hat es einfach.

00:38:20: Die Juristen, die solche Medizinprodukte begleiten eben leider auch nicht.

00:38:26: Das ist jetzt nicht, wie wir sagen, hundert Prozent dessen was man will um eine stabile auch rechtliche und rechtssicher Lösung zu bekommen.

00:38:34: Und jetzt gibt es in der KI-Verordnung etwas zu wenig belichtete die befasst sich mit sogenannten KI-Realaborren.

00:38:48: Und jetzt muss man aufpassen, der Begriff KI Realabor und Realabor fällst zueinander wie Wienerschnitzel und Schnitzelwiener Art.

00:38:56: Das ist ganz anderes.

00:38:58: Das Realabor wäre das Schnitzlwienerkart und es ist ein KI vor Artikel sechszig geregelt.

00:39:06: D.h.,

00:39:07: der Realabor außerhalb von KI Realaboren.

00:39:10: und da arbeitet man eben unter schon etwas datlos rechtlich regulierteren Verhältnissen, aber eben nicht unter einer Öffnungsklausel die in KI-Realaboren wirkt.

00:39:24: KI-realabore sind geregelt in den Regeln von fünf bis neun und fünftiger KI-Verordnung.

00:39:28: Das sind die Wiener Schnütze.

00:39:30: Und das Schnitz der Wien A ist der Sechzig.

00:39:34: Dann gibt es jenseits dessen natürlich auch noch Datenverarbeitung.

00:39:37: Jetzt würde ich mal so ein bisschen zuspitzen auf das was wir brauchen Im KI-Realabor, der wird öffentlich zu Meinwohlzwecken am Ende des Tages ganz besondere KI entwickelt.

00:39:55: Dann braucht man für den Rechenkapazität.

00:39:59: Das Bild habe ich immer verwendet, so ein bisschen für die da reinkommen wie eine Schrauberbude in der Vorstadt.

00:40:05: Es gibt ja in der vorstadt so Schrauberbuden Da hat man alten Opel Kapitän.

00:40:09: Man kann selber auch gut schrauben und einen TÜV kriegen Hat aber die Hebebühne das Werkzeug nicht.

00:40:13: Also fährt man dahin und sagt was mache sich denn um den über einen Tüv zu kriegen?

00:40:17: Und dann sagen da die Leute in der Schraubebuhne Ja fragen wir auf die Hülbühnen Guck mal Mark usw.

00:40:21: Dann redet man drüber was man machen muss, wenn man dann aus der Schrauberbudu da rausfährt.

00:40:26: Dann hat man gute Chancen mit dem Arztgespräch in fünf Strichen, den man bekommt über einen TÜV zu kommen.

00:40:32: und ein KI-Realabor ist so etwas.

00:40:35: Das ist ein Realabor.

00:40:37: Da sitzen Experten drin und unter anderem viele Experten die markt Aufsicht.

00:40:42: das eine besitzen eben auch Datenschutzaufsichtsbehörden.

00:40:45: Diese datenschutzt aufsichts.

00:40:47: Behörden bei Vertreterinnen und Vertretern, die da drin sitzen müssen Ahnung haben von dem, was passiert.

00:40:54: Da muss ein Felix Darm reinkommen und sagen hier habe ich Daten zu einem Genom das muss sich in Teilen entschlüsseln.

00:41:02: Dann sagt er von der Datenschutzaufsicht Aha warum denn?

00:41:04: Er sagt Felix-Darm weil also es muss über verstehen.

00:41:07: Und dann wird das ausgehandelt.

00:41:09: und wenn das ausgehandelt worden ist, sagt die KI Verordnung da gibt Ich einen bislich gesprochen Beipass an der DSGVO vorbei und lasst die DSGFO über eine Öffnungsklausel einfach mal außen vor.

00:41:25: Das heißt, ich darf im KI Reallabor, weil da besonderer Schutz besteht durch Aufsichtsbehörden, die da beteiligt sind und besondere Expertise besteht, eben mehr machen auch nach dem Willen der KI-Verordnung, die eine Eröffnungsklausel aus.

00:41:44: Diese Stelle ist jetzt wichtig für meine Begriffe, weil sie schließt eben die Lücke zwischen dem was das Datenschutzrecht der medizinischen Forschung nicht ermöglicht und was das KI-Realaboree eben schon ermöglich.

00:41:59: Und solche KI-realaboreen gibt es noch nicht.

00:42:02: Das ist ein bisschen die schlechte Nachricht.

00:42:03: unser Forschungsprojekt läuft schon aber... Was es gibt, sind so normale Realabore.

00:42:09: Normale Realaboren heißt dann geht es am Markt auf das bürre.

00:42:12: Schilder den Problem, da schreibt ein Brief zurück und sagen kannst du so machen.

00:42:16: Damit habe ich aber in der Schrauberbude keinen gehabt, der die Hebebühne zur Verfügung gestellt hat, der mir geholfen hat.

00:42:23: Und diese Realabora müssen noch entstehen.

00:42:25: jetzt tun wir mal so sie sind entstanden.

00:42:27: Es gibt einen Gesetz ist in wenigen Wochen gemacht worden, dass jetzt in die Verbändeanhörung geht.

00:42:34: Dass ein KI-Realabor tatsächlich etabliert ist das erste deutschlandweit.

00:42:39: Stimmt mal gut!

00:42:40: Jetzt müsste nur noch eins kommen und wenn es dann da wäre, dann würden ja wir mit unserem Forschungsprojekt auch reinkommen, wo auch immer sind der Welt ist.

00:42:51: Vielleicht geht's um Russland oder welcher.

00:42:53: Man kann auch woanders sehen.

00:42:54: Wir können vielleicht auch einen Litdown gucken ob es das gibt.

00:42:58: Wir müssen irgendwo trainieren.

00:43:01: Aber wie wir mal sagen, Herr Bork hat was passiert jetzt da genau im Realaborg?

00:43:09: Was am normalen Datenschutzrechtlichen zulässig das Umfeld nicht passieren

00:43:15: kann.

00:43:17: Ja, also ein Kernaspekt haben Sie jetzt ja auch schon gesagt.

00:43:19: Man braucht für jede Datenverarbeitung insbesondere medizinischen Kontext eine Rechtsgrundlage und daher herrscht leider aktuelle enorme Unsicherheit.

00:43:27: Das sieht man ja auch daran wie es jetzt gelaufen ist bei dem so eben geschilderten Projekt.

00:43:32: Man weiß nicht genau worauf stützen wird die Verarbeitungen welche Rechtsgrundlagen greifen?

00:43:35: Insbesondere wenn man Medizindprodukte mit KI recht kombiniert.

00:43:40: Also wenn man KI Produkte entwickelt das ist natürlich Sehr, sehr schade und tier schafft das Kairealabor jetzt erst mal vor allem Rechtssicherheit.

00:43:48: Weil da gibt es eine Norm die Juristen wollen ja immer auslegen aber die ist nicht besonders auslegungsbedürftig.

00:43:55: Die bestimmt einfach die Verarbeitung von auch medizinischen Daten im Kaire Alabor um KI-Systeme zu trainieren, ist zulässig.

00:44:02: Insofern könnten sich alle Beteiligten hier sehr sicher sein, dass man das so produziert und herstellt, dass es sich eben im gesicherten Rechtsrahmen bewegt.

00:44:12: Ich finde es schade, dass was notwendig ist eigentlich weil diese Forschung, das sind ja die Dinge, die wir eigentlich wollen also Schade, daß sie in KI realer Bohr dafür brauchen oben rechts sicher zu arbeiten.

00:44:23: aber So ist es aktuell und es ist ja auch eine große Chance.

00:44:27: insofern Das ist der Punkt eins.

00:44:30: Und es gibt aber noch einen zweiten Punkt und den finde ich persönlich fast noch ein bisschen verrückter, wo ein KI-Realabor helfen kann.

00:44:36: Und zwar ist es gegenwärtig so dass wenn man ein KI System entwickelt und auf den Markt bringt dann treffen eine viele Anbieterpflichten was ja auch sinnvoll ist.

00:44:46: Man musste besorgen das System genau und robust ist, man muss eine Risikobewertung machen.

00:44:52: Man muss das System registrieren und anmelden und all diese Pflichten greifen ab dem Zeitpunkt des Inverkehrbrings.

00:45:00: Und dass es auch dann der Fall wenn man das KI-System andere zur Verwendung gibt – und das ist bei medizinischen Produkten – auch der Fall, wenn man diese Systeme zum Zwecke der klinischen Prüfung weitergibt?

00:45:12: Das ist natürlich total absurd!

00:45:15: treffen all diese Pflichten die Anbieter schon in dem Zeitpunkt, indem man eigentlich noch daran arbeitet herauszufinden wie müssen wir das System gestalten damit es robust ist.

00:45:25: Damit es sicher ist da müssen dieses Systeme schon gekennzeichnet sein bevor sie überhaupt fertig beforst sind.

00:45:32: und dass es gerade im medizinischen Bereich schräg weil eben gerade hier gibt es klinische Prüfungen braucht es Klinische prüfungen.

00:45:39: also beim gerechtslösung daraus wäre dann lassen wir die klinischen prüfungen.

00:45:42: aber das kann ja nicht die Lösung sein.

00:45:45: Und das Problem entsteht aktuell, weil die KI-Verordnung eben an diesem Zeitpunkt des Inverkehrbringens abstellt und nur eine Ausnahme regelt.

00:45:54: Es gibt nämlich eine Ausnahme für Tests unter Realbedingungen – und die gilt aber nicht!

00:45:59: Das ist jetzt ein Plotfest der mich auch selbst überrascht hat für Medizinprodukte.

00:46:03: Das ist so ein bisschen aus einer dogmatischen Kette entstanden ist, Wirklich ungünstig.

00:46:08: Passt auch überhaupt nicht zum Gesamtregelungskonzept, weil für Medizinprodukte gibt es natürlich auch die Möglichkeit, die Produkte zuvor zu testen.

00:46:17: Der Gesetzgeber hat das gesehen und möchte das jetzt auch anpassen.

00:46:21: Noch ist es aber so Klinische Prüfungen sind aktuell nicht möglich mit medizinischen KI-Produkten Es sei denn man bewegt sich im KI-Realabor.

00:46:31: Da ist das möglich.

00:46:32: Und deswegen auch Deswegen Total fundamental, dass wir diese Karrierealabore schaffen und auch den Forschungseinrichtungen zur Verfügung stellen, damit die Produkte auch getestet werden können.

00:46:44: Also da haben Felix und ich oder andere uns ja zu Aktivisten irgendwie über kurz entwickelt.

00:46:49: Wir hatten eine gemeinsame Veranstaltung bei Felix im Minisymposium verlautbert wurde, ein Tag vorher.

00:46:58: Wir wollen jetzt die KI-Verordnung ändern und wir schmeißen dann die Medizinprodukte aus dem Anhang eins

00:47:03: raus.".

00:47:03: Soweit da hieß es super!

00:47:04: Dann haben wir jetzt weniger Regulierung und dann saßen wir in dieser kleinen Runde und dann hieß das dann... Na ja was heißt das denn?

00:47:10: Was für uns war der Felix?

00:47:13: Und nach zwei drei Minuten schweigen?

00:47:17: Ja ich glaube schon weil da können.

00:47:22: Das war der Zeitpunkt, wo ich ein bisschen echt nervös wurde.

00:47:27: Dann haben wir mit ein paar Leuten geredet aus ganz unterschiedlicher Herkunft.

00:47:30: Da war man da das Datenschissbeauftragte dabei, aber auch mal einen Phytiksamen dabei von der Staatspolitisierungsabteilung NRW-Politiker und so weiter.

00:47:37: Aber alle gesagt, jetzt müssen wir einfach mal hier auch Axel Forske als Senna, der sagte ja, dass ist so was auch nicht so gewünscht, aber muss aufpassen jetzt.

00:47:45: Sondern dann haben wir diesen Beitrag geschrieben natürlich weil er den Beitrag gelesen haben, auch nicht passiert.

00:47:52: Ich glaube es hatte auch noch andere Gründe in der Politik dass man sich nicht geeinigt hat und das ist gut gegangen.

00:47:57: Das ist wirklich gut gegangen, dass die KI-Realabore offen geblieben sind diese Schutzräume für Medizinprodukte nur die Maschinen aus dem Anhang eins rausgeflogen sind.

00:48:07: jetzt muss man so tief in der Materie stecken wie das die meisten nicht tun überhaupt das Problem zu begreifen wird dann gesehen hat da muss man auch Glück haben, dass sie sich realisiert.

00:48:18: Und dann war der nächste Schritt, wir brauchen ein KI-Realabor.

00:48:21: in den Nochner Westfalen ist zumindest mal jetzt im Kabinettengesetz beschlossen.

00:48:24: Es geht durch die Verbändeanhörungen.

00:48:26: da sind wir auf jeden Fall schon so weit, dass es ist.

00:48:29: ja.

00:48:30: also das ist wirklich glaube ich echt Punkt.

00:48:33: Ja was sagst du Markus Becketal?

00:48:35: Ist doch irgendwie irgendwie hach.

00:48:39: Also das Datenschutzrecht ist bestimmt nicht schlecht meint und auch gute Ideen hat.

00:48:47: Aber dann steht man davor, wenn man nicht wirklich so wach ist wie man das halt isst.

00:48:54: Wenn man sich damit von vornherein befasst, dann schreibt man an den Ding vorbei und man hat Glück, wenn die Politik es versteht denn da gibt eine große Debatte.

00:49:02: in der Politik war auch überhaupt keine Alaborer sprich Wienerschnitzel.

00:49:06: wir haben doch die Schnitzelwiener Art.

00:49:09: ja aber das ist es nicht.

00:49:11: nach und an der Stelle Ja, wie wirkt das auf dich?

00:49:14: Du bist ja im KI-Realaborthema immer sagen Neuling.

00:49:20: Ich

00:49:21: bin auf jeden Fall immer ein bisschen irritiert dass es quasi diese KI Realabore gibt aber dann auch wiederum nicht gibt.

00:49:29: also dass der Gesetzgeber sich schon vorgestellt hat irgendwie das ist eine gute Sache um halt solche Anwendungen zu ermöglichen Aber gleichzeitig die der verantwortliche Staat sich nicht drum gekümmert hat dass es diese Real-Labore auch jetzt schon zum praktischen Nutzen gibt.

00:49:43: Also, das Hennel und Allproblem immer noch besteht und vollkommen unklar ist, wann kann man denn endlich mal anfangen?

00:49:50: Das kann ja auch nicht Aufgabe oder das kann ja gar nicht irgendwie die Intention dahinter gewesen sein.

00:49:57: also man hätte eigentlich schon parallel quasi mit dem Beschließen der Regulierung anfangen müssen digitale Varäneinfrastrukturen dafür bereitstellen zu müssen, damit halt in diesem Rahmen das Ganze jetzt genutzt werden kann.

00:50:12: Weil wir wollen alle irgendwie nicht an Gehirntumoren sterben wenn es sich auch verhindern lässt.

00:50:18: Gleichzeitig möchte ich natürlich auch nicht dass Elon Musk irgendwie meine Gen-Daten und meine Gehirndaten bekommt, wenn er der Einzige ist, der dann irgendwann ein Wettbewerbsvorsprung hat und quasi Anwendungen dafür schon auf den Markt gebracht hat.

00:50:35: Genau so ist es, aber da kannst du mal sagen Felix damit der Markus auch beruhigt ist was passieren soll?

00:50:41: Wofür wir kämpfen denn ist ja genau das!

00:50:43: Es ist wirklich genau das was sie am Anfang gesagt.

00:50:46: die Themen liegen auf ganz wundersame Weise doch sehr nah beieinander.

00:50:50: Wir bauen ein KI-Modell in Europa und wir

00:50:53: brauchen

00:50:54: excuse my French verdammt nochmal jetzt dieses Recht dazu im Realaborg Ja, sag mal genau was es ist.

00:51:03: Weil wir reden ja davon wirklich ein Medizinprodukt und zugleich ein KI-Modell gar kein System, ein Modell zu speisen aus Gehirn Daten das dann auch nicht halluciniert und dass auch wirklich ganz ganz hart an dem ist, was es denn man will ja Simulationen von Behandlungen aus den Dingern ableiten.

00:51:24: Es gibt ja schon Studien die sehr verlässlich sind Stichwort Delphi Studie in der Prognose von solchen Sachen.

00:51:33: Und das wird ja Leben retten, in dem Moment wo es da ist und an der Stelle... Mach auch nochmal hier eine glühende Rede dafür.

00:51:44: Das musst du dir auch einsetzen!

00:51:50: Ja genau wie du sagst wir wollen ein modellbauendes gezielt zu diesem Zweck gebaut ist und nicht nebenher auch, bis man sich probiert daran medizinische Antworten zu geben.

00:52:00: Denn das ist ja das was wir aktuell bei den großen Modellen sehen.

00:52:02: Das heißt, wir nehmen echte Daten die aus Gesprächen mit Patientinnen und Patienten in Stadten sind echte MRT-Daten gemeinsam mit denen verläuft wurde, mit den Informationen aus dem Gewebe des nachher untersucht wurden aus der Vergangenheit mit dem was letztlich mit den Patienten passiert ist, welche Medikamente angesprochen haben.

00:52:23: Welche auch nicht angesprochen habe oder zumindest in einer Verlängerung geführt haben.

00:52:27: und das würde man dann wenn es funktioniert und wir hoffen ja auf das KI-Realabor und darauf dass es entwickelt geprüft und dann freigegeben werden kann, würde dazu führen dass auch nachts um drei in einer Ambulanz wo vielleicht jemand schon übernächtig ist oder nicht unbedingt ein Spezialist für Hintumore trotzdem die richtigen Fragen gestellt werden.

00:52:47: Und trotzdem der Patient sofort die richtige weiteren Schritte machen kann ohne auf etwas zu warten, ohne etwas unnötigs zu machen das man während der Operation schon sagen kann da es einen gutartiger Tumor operiere den so oder das ein bösartiger tumor operiert den anders.

00:53:02: Wir hatten solche Fälle hier, wir hatten zum Beispiel einen Fall.

00:53:06: Es ist auch noch in der experimentellen Prüfung.

00:53:08: Das heißt es konnte jetzt nicht einfließen.

00:53:09: aber das war im Prinzip In der Simulation so dass wir während der Operation festgestellt haben es waren unterschied von schwarz und weiß zwischen der Erwartungen welchen Tumor sich handelt und der tatsächlichen Tumordiagnose.

00:53:22: Es schien bösartig, es war aber gutartig und sobald wir diese Dinge wirklich in die Anwendung bringen können wo wir eben den Rechtsrahmen für brauchen dann wird sich das sofort bemerkbar machen.

00:53:31: Dann wird man nicht mehr Wochen später sagen müssen, gut wenn man das gewusst hätte, hätte man statt einer Biopsie eine größere Operation gemacht oder umgekehrt, sondern man wird es sofort schon für die Planung und während der Operation wissen.

00:53:45: Und man wird auch aus den verschiedenen möglichen Medikationen, die es gibt hoffentlich in Zukunft wirksamere identifizieren können für die individuellen Fälle.

00:53:56: Das Wort Neuland benutze ich selten habe ich mal gehört Stimmt nicht von mir, aber alternativlos war es.

00:54:03: Aber ich glaube Neuland und Alternativlos kann man beide in einen Hut werfen.

00:54:07: das ist hier Neulands und Alternativlos auch wenn man das beisellen benutzen sollte.

00:54:11: Wer geht's meine persönliche Meinung?

00:54:13: Also das macht ja auch Lucia Burg als sehr deutlich die junger Wissenschaftlerin, die seit der Keimburg gar nichts sein.

00:54:21: wo bin Umfeld, dass das nicht geht.

00:54:27: Ich meine klar macht ja lang genug Datenschutzrecht um die Bedacht man alle zu kennen und auch seriös genug zu sein.

00:54:32: aber na klar ich mein in USA da stellen sich die Fragen von Felix Samnich der wird alles im Modell von Profik oder Open Eye gedonnert und da gibt es keine Datentrennung.

00:54:44: Da gibt's keine Frage.

00:54:45: wie ist das hier?

00:54:45: Wie ist das da?

00:54:46: Da haut man wirklich einfach in diesen Riesen für viel, viel Geld wahnsinnig zum starken Ding das alles rein.

00:54:58: Felix, eine Frage noch für die Techniker?

00:55:01: Das ist ein kleines Modell, dass er nicht vergleichbar mit dem was in Truffix so baut.

00:55:05: Warum reicht es trotzdem?

00:55:07: Ihr habt doch mit einem sehr, wie soll man sagen, lab-präsentativ aus repräsentativen arbeiten Modell ganz tolle Ergebnisse erzielt.

00:55:21: Ist da auch ein wichtiger Punkt, dass man jetzt nicht von vornherein sagt wir können direkt geflint ins Korn werfen weil der ohnehin nicht anstecken könnte gegen das was die machen?

00:55:29: Ich glaube das Argument stimmt nicht.

00:55:31: Ja, das stimmt nicht!

00:55:33: Wir haben wirklich gesehen, dass auch in vergleichsweise kleinen Daten setzen und mit überschaubarer Computerleistung wird deutlich weiterkommen am Beispiel der Hirntumordiagnose wenn der Input besser anotiert ist.

00:55:47: Das heißt also wenn wir als Experten für neuropathologie vorher den Datensatz schon sehr genau kuratiert haben, hingeschrieben haben.

00:55:53: Das ist Tumorzelle, das ist Blutgefährnis, dieses und jenes Und wir sind mit einem Bruchteil der Daten von dem was zum Beispiel US-Kolleginnen und Kollegen gemacht haben zu einer höheren Präzession gekommen.

00:56:06: Da macht sich also wirklich bemerkbar wenn man so schön sagt es Domain Knowledge zusammen kommt mit der Technik.

00:56:12: Das ist tatsächlich extrem hilfreich, extrem vielversprechend und schon gezeigt worden.

00:56:17: Aber wir wollen jetzt weitergehen!

00:56:19: Wir wollen nicht nur an mikroskopischen Bildern oder einer Sorte von moleklaren Daten die Diagnostik besser machen als bisher, zeist genauer und präziser für die einzelnen Subgruppen sondern wir wollen ja verschiedene Datentypen zusammenführen also medikamentöse Reaktionen des Gewebes, die Eigenschaften des Gehebes auf verschiedenen Ebenen der Genetik RNA der Proteine und so weiter.

00:56:45: Das ist vielversprechender als diese einzelnen Analysen, die wir bisher gemacht haben.

00:56:48: aber das braucht natürlich große Computerleistung und dementsprechend kann ich jetzt nicht mein Notebook hier als KI-Realabor bezeichnen.

00:56:54: erstens also ich darf es natürlich nicht alleine aber selbst wenn die entsprechende Behördes machen würde wird es nicht reichen.

00:56:59: Also eine gewisse IT braucht man da und das haben wir eben schon gehört Die ist bisher noch nicht zusammen mit der Rechtsregelung gedacht worden.

00:57:10: Das ist auch was, wo man vielleicht gerne Europäer ist oder hoffentlich vor Europäern ist.

00:57:14: Weil das ist ja eine Idee die ist total klasse.

00:57:17: es gibt ja schlaue Köpfe menschlich konfektionieren, das dann vorkuratieren und genau so ein Ding bauen.

00:57:27: Das geht natürlich durch Artikel sechs bis neunvierzig KI-Verordnung durch was auch sonst denn das ist Hochrisiko-KI.

00:57:32: aber da ist es geherrtet.

00:57:34: und wenn ich so einen Ding habe ja da haben doch die Leute den USA aufpasst dran und sie haben vielleicht selber keinen Bock mehr auf das was Elon Musk so rauszaubert, so random überspitzen oder jedenfalls nicht mit der Präzision.

00:57:47: Und das ist doch auch für Europa wirklich ein Plus zu sagen, ja abgerechnet wird später.

00:57:53: Wir machen das jetzt und ich kann ja auch tun, dass das was du schon entwickelt hast so vor der KI-Verordnung

00:58:01: usw.,

00:58:02: wird ja in den USA von der Krankenkasse bezahlt wenn ich es richtig sehe, der Heidelberg Classifier, den Du entwickelt hast und für den die weltlich vielleicht ein bisschen zu viel gesagt oder bist ja sehr anerkannt in deiner Bubble genau deswegen.

00:58:19: Schön, dass du sagst vielen Dank!

00:58:20: Es war das ja nicht alleine da waren auch andere.

00:58:22: dabei muss ich mal an der Stelle sagen aber es ist so.

00:58:24: tatsächlich diese Anwendung ist in den USA nun schon in dieses System der Abrechnung oder Erfassung eingezogen und die regulatorischen Hürden sind obwohl es auch hier Fuß gefasst hat im Europa tatsächlich ein bisschen höher oder wie kann ich mal sagen höher?

00:58:39: Das muss auf beiden Seiten gut geprüft werden aber etwas langsamer Sanger vielleicht besser so gewesen.

00:58:46: Ja, ich finde das macht irgendwie Hoffnung.

00:58:51: Wir sind ja losgestiegen bei Was soll Europa leisten?

00:58:54: Mit Markus hat er gesagt naja gut wir müssen die Digitalen Solidität schaffen Und sind dann ja ganz unversehens zu einem Use Case gekommen, wo das auch wirklich wichtig ist und wo auch finde ich mit dem überschaubaren Aufwand dann auch Markt entstehen kann.

00:59:08: Denn ich glaube dass was wir hier machen muss man sauber bauen.

00:59:11: Man muss es auch nicht sensieren.

00:59:13: Das ist ein großes Problem.

00:59:14: Das braucht einen Abschlussbericht.

00:59:15: Es muss mehr oder weniger verkauft werden, wenn der Single nicht funktioniert.

00:59:20: steht natürlich Fedexam doof da, wenn da irgendwie Hallucination oder irgendwas rauskommt.

00:59:25: Genau das darf halt nicht passieren und da muss man eben das Datenschutzrecht darauf anwenden können.

00:59:32: Und dann haben wir doch echt etwas Tolles geschaffen finde ich in Europa mit unserem Spirit und mit unserer Idee.

00:59:39: Das ist was sie am Anfang sagte.

00:59:41: Das für mich Startschütze ist eine ganz neue Betrachtung.

00:59:45: Das macht total Spaß.

00:59:47: Deswegen konnte ich natürlich auch... Das ist ja Burkhardt Gewinn, der die Welt zu Füßen liegt juristisch betrachtet.

00:59:54: Da macht sie da trotzdem so was halt.

00:59:56: Aber das ist aber auch eine feine Sache oder?

01:00:00: Ja total es ist ein wahnsinnig inshiriendes Projekt und ich freue mich total dass man hier mal jetzt Datenschutz- und medizinische Forschung zusammenbringen kann weil ich fühle auch eben schon Ich bin gerne Europäerin und ich mag auch den europäischen Datenschütz.

01:00:14: Es ist natürlich blöd wenn wir in dieser Stelle einen Riegel vorschieben, deswegen eine Lösung zu finden wie wir hier jetzt innereuropäischen mit europäischen Daten und europäischer Technik und europäischen Menschen.

01:00:24: Und vereinbar mit dem Europäischen Datenschutz an die Spitze der medizinischen KI kommen.

01:00:29: das ist wirklich wahnsinnig spannend und da gebe ich gerne mein ganze juristische Energie rein dass wir das schaffen.

01:00:38: geben Sie nicht alles fein andere Sachen im Leben noch aber es ist toll mit jemandem zusammenzuarbeiten insgesamt in der Runde also Vielen Dank.

01:00:49: Also das war ein schöner inspirierender Podcast mit zwei ganz unterschiedlichen und doch sehr, sehr verbandten Themen.

01:00:54: Und ich habe hier einen Bericht vor mir, der heißt Entwicklungsstärken verantworten übernehmen.

01:00:58: Das ist ja auch eine schöne Überschrift über das was passieren soll.

01:01:02: So heißt nämlich den Bericht der unabhängigen Expertenkommission Kinder- und Jugendschuss in der digitalen Welt.

01:01:07: Da sind wir mit eingestiegen hat Markus Beckendahl eingeordnet, was ihm gefallen hat und was ihm nicht gefallen.

01:01:13: Aber das Meister hat ihn ja irgendwie nach meiner zumindest mal Erinnerung zumal bin ich schlecht gefallen.

01:01:18: also Luft nach oben aber immer oder Markus?

01:01:22: Ja auf jeden Fall.

01:01:23: Also es ist zumindest mal interessanter Vorschlag oder interessante Vorschläge die für eine informiertere Debatte sorgen können und da sollten wir weitermachen.

01:01:35: Ja, super.

01:01:36: Es war viel Arbeit in der kurzen Zeit.

01:01:37: Wir hatten ja nicht die ganze Zeit.

01:01:38: Da mussten neun Monate schon fertig werden weil wir von der Politik getrieben wurden.

01:01:44: aber jetzt bin ich auch froh dass es da liegt und das ist auch von einem kritischen Beobachter mannig im Bausenbogen verrissen wird.

01:01:50: also ich glaube so weit kann ich gehen.

01:01:54: Vielen Dank Felix Wahn, dass du uns das hier dargestellt hast und sehr verständlich Warum es wichtig ist, dass es realer Bohre gibt und das hat uns Lucio Bokart ja noch mal vor Augen geführt.

01:02:13: Und auch schön mit welchen Melanen man so etwas arbeitet.

01:02:18: Das muss irgendwie auch sein.

01:02:19: Sonst geht's nicht gut weiter oder Frau Bokard?

01:02:26: Ich musste auch eher aufpassen.

01:02:27: Ich konnte nur arbeiten, weil ich mit so viele Lachen bei der Sache bin.

01:02:31: Aber so macht Arbeiten Spaß, würde ich auch sagen.

01:02:34: So durch die medizinische Verfassung bekommt man das Gefühl wirklich was sehr, sehr Sinnvolles zu tun.

01:02:39: ja

01:02:40: Sie sprechen ja gerade meiner Fürsorgepflicht für den Arbeitgeber der Technik Hochschule Köln.

01:02:44: Da muss ich natürlich sehr, sehr aufpassen dass sie da nicht über die Strenge schlagen ist.

01:02:49: das müssen wir noch darüber reden.

01:02:51: Das sind alle freue ich mich sehr.

01:02:56: Vielen Dank in die Runde an Markus Becker da, Lucia Burghardt-Philix Sam.

01:03:03: Für diesen Data Agenda Datenschutz Podcast kann ihre Allerburg Kinder und Gesundheit was Digitalrechte und Medizinforschung verbindet aufgenommen am zweiten, siebten, zwanzig, sechsundzwanzig Data Agender Podcast Nummer vierneinzig.

01:03:18: Vielen Dank an alle die hier waren und ja vielen Dank fürs zuhören.

01:03:26: Data Agienda Datenschuss Podcast und bis zum nächsten Mal!

01:03:35: Das war der Data Agenda Datenschutz Podcast.

01:03:39: Der Experten Talk mit Professor Dr.

01:03:41: Rolf Schwartmann.