Alle Episoden

KI-Reallabore dienen nach der KI-Verordnung dazu, KI zu wichtigen, aber zugleich hochriskanten Zwecken zu entwickeln. In jedem Mitgliedstaat der EU muss mindestens ein KI-Reallabor gegründet werden. Es dürfen und sollen aber mehr sein. In Nordrhein-Westfalen soll bald ein Gesetzesentwurf verabschiedet werden. Im Podcast stellt Dr. Dominik Roderburg, Leiter des Referats Staatsmodernisierung in der Staatskanzlei NRW, den Gesetzesentwurf vor. Neuropathologe Felix Sahm erklärt, warum er für seine Forschung auf ein KI-Reallabor angewiesen ist. Bemerkenswert ist, dass Tobias Keber, LfDI Baden-Württemberg, und Denis Lehmkemper, LDI Niedersachsen, das Gesetz in NRW begrüßen. Beim Datenschutz wollen sie allerdings in ihren Bundesländern ein Wörtchen mitreden,...

Smarte Brillen sind auf dem Vormarsch und viele Argumente pro und contra sind ausgetauscht. Ein DataAgenda-Datenschutz-Podcast kommt natürlich nicht ohne eine Diskussion der Probleme der DS-GVO und des TDDDG aus. Sie gehen von der Reichweite der Haushaltsausnahme, über Fragen der Zulässigkeit und der Betroffenenrechte bis hin zur Zulässigkeit des Produkts nach dem TDDDG, denn natürlich muss für Brillen, in denen Kameras und Mikrophone versteckt sind, auch ein Verbot diskutiert werden. Wenn man aber Technik nicht verhindern will, sondern Produkte regulieren muss, kommt es vor allem auf die Produktgestaltung an. Darüber, wie man smarte Brillen so kenntlich machen kann, dass man...

Der Einsatz Künstlicher Intelligenz (KI) durch Gerichte in der Rechtsprechung muss gleich mehrere rechtliche Hürden überwinden. Sie ergeben sich vordringlich aus dem Grundgesetz, das nur den menschlichen Richter kennt. Er darf sich aber unterstützen lassen. Wo die Grenze zur Ersetzung überschritten ist, besprechen ich mit Dr. Moritz Köhler, Experte für richterliche Verantwortung und Künstliche Intelligenz. Auch in der Verwaltung darf der Staat sich von KI nur helfen lassen. Insgesamt sind dabei Blicke in die DSGVO und die KI-VO unverzichtbar, wenn es um Entscheidungen geht, die von oder mit Hilfe von KI getroffen werden. Unter der Überschrift Staatsmodernisierung sollen mit KI...

„Es kommt darauf an.“ Das ist eine Lieblingsantwort von Juristen. Sie ist oft unbefriedigend, aber ebenso oft richtig.
Bei der Frage, ob und wofür man in der Rechtsberatung ein digitales Hilfsmittel einsetzt – etwa ein sogenanntes deterministisches Expertensystem, das sich mit Vollkornbrot vergleichen lässt, oder eine generative KI, die eher einem „AI-Burger“ entspricht –, kommt es ganz besonders auf den Zweck und den Einsatzbereich an.
Darum geht es in diesem Podcast mit Michael Grupp und Eva-Maria Pottkämper von Bryter sowie Rechtsanwalt Sascha Kremer, der Legal-Tech-Produkte in seiner Praxis einsetzt. Wir diskutieren außerdem, warum für die Justiz andere Maßstäbe beim Einsatz...

Das „KI-Seepferdchen“ wurde von der unabhängigen Expertenkommission „Kinder und Jugendschutz in der digitalen Welt“ im Juni 2026 als Maßnahme vorgeschlagen. Es geht darum, Kinder schon im Grundschulalter mit den Möglichkeiten und Risiken von KI in Form von Chatbots vertraut zu machen. Die Vermittlung von KI-Kompetenz ist eine Rechtspflicht auch für Schulen und Schulträger. Die Expertenkommission legt ein Konzept vor, das von Bund und Ländern kurzfristig umgesetzt werden kann. Sebastian Gutknecht, Direktor der Bundeszentrale für Kinder- und Jugendmedienschutz (BZKJ), und Rolf Schwartmann sind Mitglieder der Kommission. Sie berichten dem Technikjournalisten Jörg Schieb darüber, wie das „KI-Seepferdchen“ ins Werk gesetzt werden kann...

Die unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ hat am 24. Juni 2026 ihre Handlungsempfehlungen vorgelegt. Der Bericht trägt den Titel „Entwicklung stärken, Verantwortung übernehmen“ und befasst sich insbesondere mit den Auswirkungen Künstlicher Intelligenz auf Kinder und Jugendliche.

Markus Beckedahl, der Gründer des Zentrums für Digitalrechte und Demokratie, diskutiert das „KI-Seepferdchen“ (HE 12), die Gefahren durch AI Companions (HE 46), Anreize für eine vertrauenswürdige europäische Plattform- und Dateninfrastruktur (HE 50) sowie die Entwicklung kindgerechter KI im Sinne der digitalen Souveränität der EU (HE 48). Letztere soll und kann in KI-Reallaboren nach Art. 57 bis 59 KI-VO entwickelt werden....

Die Digitale Souveränität Europas ist ein Gebot dieser Zeit. Die menschliche Hoheit in Zeiten zu behalten, in denen KI-Systeme uns das Denken abnehmen können, ist ein anderes. Die Menschen in Europa müssen nun beweisen, dass sie den Herausforderungen gewaschen sind. Die EU und ihre Mitgliedstaaten müssen einen regulatorischen Rahmen schaffen, der Menschenrechte und gute wirtschaftliche Rahmenbedingungen möglich macht.

Im DataAgenda-Podcast spreche ich mit Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz über Digitale Souveränität, AI-Companions, die Anforderungen an automatisierte Einzelentscheidungen nach der KI-VO und der DS-GVO und die Ergänzung des Grundgesetzes um das „Staatsziel Mensch“ über mein Buch „Über Leben...

Die KI-Verordnung soll mit Wirkung ab August 2026 geändert werden. Entsprechend laufen die Verhandlungen zwischen dem EU-Parlament, den EU-Mitgliedstaaten und der EU-Kommission auf Hochtouren. Eigentlich sollten sie bereits am 28. April 2026 abgeschlossen sein. Doch eine Einigung konnte nicht erzielt werden. Kai Zenner, Büroleiter des Europaabgeordneten Axel Voss (EVP), berichtet aus dem Maschinenraum der Verhandlungen über das Scheitern im April und skizziert die möglichen weiteren Wege für das Schicksal der Änderungen an der KI-Verordnung. Eine Entscheidung darüber soll am 11. Mai fallen.

KI ist ein Werkzeug, welches vielfältig eingesetzt wird. Das erfordert Verständnis für die neue Technik und Kompetenz für den Einsatz. Allerdings kann KI auch Kompetenzen in Menschen entfalten und gezielt eingesetzt werden, um sich seiner selbst bewusster zu werden. Wie das gehen kann, erklärt die Buchautorin Céleste Spahić im DataAgenda Datenschutz Podcast.

Im DataAgenda-Podcast Folge 79 hat Kai Zenner über die anstehenden Änderungen der KI-Verordnung berichtet, die im August 2026 Geltung erlangen sollen. Einer der Gegenstände der Änderung betrifft das sog. New Legal Framework in Anhang 1. Die dort unter Abschnitt A aufgelisteten Harmonisierungsvorschriften führen zu einer Doppelregulierung. Deshalb sollen die dort aufgeführten Produkte in Abschnitt B überführt werden, sodass Abschnitt B hinfällig würde. Mit dieser Änderung käme es zu weitreichenden Konsequenzen. Die in Abschnitt 1 aufgeführten Produktgruppen unterfielen der Regulierung der KI-Verordnung nur noch sehr eingeschränkt. Das brächte nicht nur Vereinfachungen, sondern es würde den betroffenen Unternehmen und Forschungseinrichtungen auch das...