Alle Episoden

An Bildungseinrichtungen geht es darum, Wissen zu vermitteln und dessen Erwerb zu prüfen.
Hochschulen und Schulen sollen moderne Werkzeuge zur Unterstützung der Studierenden beim Ablegen von Prüfungen unterstützen. Dazu zählt auch der Einsatz generativer KI. Deren pauschales Verbot ist weder sinnvoll noch zeitgemäß. Allerdings muss müssen die rechtlichen Rahmenbedingen klar definiert werden. So müssen Prüfungsordnungen den zulässigen Einsatz von KI-Systemen klar regeln. Hier ist bei Abschlussprüfungen per Hausarbeit, etwa Bachelor- und Masterarbeiten und auch bei sonstigen Prüfungen zu bestimmen, wann die zulässige Unterstützung durch ein KI-System überschritten ist. Im Vordergrund steht schließlich die Möglichkeit der Bewertung der menschlichen Eigenleistung von...

KI spricht nicht nur, sondern sie handelt auch. Mit KI-Agenten erweitert der Mensch seinen Handlungsradius an autonome Werkzeuge, allerdings ohne seine Verantwortung zu delegieren. Die Chancen und Risiken des KI-Einsatzes stehen für den Digitalexperten Jörg Schieb in einem Verhältnis von 50:50. Wir sprechen im Jubiläumspodcast darüber, was ein Agent eigentlich ist, wo Agenten im Unternehmen sinnvoll helfen, welche Frage des Datenschutzes beantwortet werden müssen, wo die Probleme von Schatten-KI liegen und warum neue Angriffsflächen durch sog. Prompt Injection bestehen.

KI-Reallabore dienen nach der KI-Verordnung dazu, KI zu wichtigen, aber zugleich hochriskanten Zwecken zu entwickeln. In jedem Mitgliedstaat der EU muss mindestens ein KI-Reallabor gegründet werden. Es dürfen und sollen aber mehr sein. In Nordrhein-Westfalen soll bald ein Gesetzesentwurf verabschiedet werden. Im Podcast stellt Dr. Dominik Roderburg, Leiter des Referats Staatsmodernisierung in der Staatskanzlei NRW, den Gesetzesentwurf vor. Neuropathologe Felix Sahm erklärt, warum er für seine Forschung auf ein KI-Reallabor angewiesen ist. Bemerkenswert ist, dass Tobias Keber, LfDI Baden-Württemberg, und Denis Lehmkemper, LDI Niedersachsen, das Gesetz in NRW begrüßen. Beim Datenschutz wollen sie allerdings in ihren Bundesländern ein Wörtchen mitreden,...

Smarte Brillen sind auf dem Vormarsch und viele Argumente pro und contra sind ausgetauscht. Ein DataAgenda-Datenschutz-Podcast kommt natürlich nicht ohne eine Diskussion der Probleme der DS-GVO und des TDDDG aus. Sie gehen von der Reichweite der Haushaltsausnahme, über Fragen der Zulässigkeit und der Betroffenenrechte bis hin zur Zulässigkeit des Produkts nach dem TDDDG, denn natürlich muss für Brillen, in denen Kameras und Mikrophone versteckt sind, auch ein Verbot diskutiert werden. Wenn man aber Technik nicht verhindern will, sondern Produkte regulieren muss, kommt es vor allem auf die Produktgestaltung an. Darüber, wie man smarte Brillen so kenntlich machen kann, dass man...

Der Einsatz Künstlicher Intelligenz (KI) durch Gerichte in der Rechtsprechung muss gleich mehrere rechtliche Hürden überwinden. Sie ergeben sich vordringlich aus dem Grundgesetz, das nur den menschlichen Richter kennt. Er darf sich aber unterstützen lassen. Wo die Grenze zur Ersetzung überschritten ist, besprechen ich mit Dr. Moritz Köhler, Experte für richterliche Verantwortung und Künstliche Intelligenz. Auch in der Verwaltung darf der Staat sich von KI nur helfen lassen. Insgesamt sind dabei Blicke in die DSGVO und die KI-VO unverzichtbar, wenn es um Entscheidungen geht, die von oder mit Hilfe von KI getroffen werden. Unter der Überschrift Staatsmodernisierung sollen mit KI...

„Es kommt darauf an.“ Das ist eine Lieblingsantwort von Juristen. Sie ist oft unbefriedigend, aber ebenso oft richtig.
Bei der Frage, ob und wofür man in der Rechtsberatung ein digitales Hilfsmittel einsetzt – etwa ein sogenanntes deterministisches Expertensystem, das sich mit Vollkornbrot vergleichen lässt, oder eine generative KI, die eher einem „AI-Burger“ entspricht –, kommt es ganz besonders auf den Zweck und den Einsatzbereich an.
Darum geht es in diesem Podcast mit Michael Grupp und Eva-Maria Pottkämper von Bryter sowie Rechtsanwalt Sascha Kremer, der Legal-Tech-Produkte in seiner Praxis einsetzt. Wir diskutieren außerdem, warum für die Justiz andere Maßstäbe beim Einsatz...

Das „KI-Seepferdchen“ wurde von der unabhängigen Expertenkommission „Kinder und Jugendschutz in der digitalen Welt“ im Juni 2026 als Maßnahme vorgeschlagen. Es geht darum, Kinder schon im Grundschulalter mit den Möglichkeiten und Risiken von KI in Form von Chatbots vertraut zu machen. Die Vermittlung von KI-Kompetenz ist eine Rechtspflicht auch für Schulen und Schulträger. Die Expertenkommission legt ein Konzept vor, das von Bund und Ländern kurzfristig umgesetzt werden kann. Sebastian Gutknecht, Direktor der Bundeszentrale für Kinder- und Jugendmedienschutz (BZKJ), und Rolf Schwartmann sind Mitglieder der Kommission. Sie berichten dem Technikjournalisten Jörg Schieb darüber, wie das „KI-Seepferdchen“ ins Werk gesetzt werden kann...

Die unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ hat am 24. Juni 2026 ihre Handlungsempfehlungen vorgelegt. Der Bericht trägt den Titel „Entwicklung stärken, Verantwortung übernehmen“ und befasst sich insbesondere mit den Auswirkungen Künstlicher Intelligenz auf Kinder und Jugendliche.

Markus Beckedahl, der Gründer des Zentrums für Digitalrechte und Demokratie, diskutiert das „KI-Seepferdchen“ (HE 12), die Gefahren durch AI Companions (HE 46), Anreize für eine vertrauenswürdige europäische Plattform- und Dateninfrastruktur (HE 50) sowie die Entwicklung kindgerechter KI im Sinne der digitalen Souveränität der EU (HE 48). Letztere soll und kann in KI-Reallaboren nach Art. 57 bis 59 KI-VO entwickelt werden....

Die Digitale Souveränität Europas ist ein Gebot dieser Zeit. Die menschliche Hoheit in Zeiten zu behalten, in denen KI-Systeme uns das Denken abnehmen können, ist ein anderes. Die Menschen in Europa müssen nun beweisen, dass sie den Herausforderungen gewaschen sind. Die EU und ihre Mitgliedstaaten müssen einen regulatorischen Rahmen schaffen, der Menschenrechte und gute wirtschaftliche Rahmenbedingungen möglich macht.

Im DataAgenda-Podcast spreche ich mit Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz über Digitale Souveränität, AI-Companions, die Anforderungen an automatisierte Einzelentscheidungen nach der KI-VO und der DS-GVO und die Ergänzung des Grundgesetzes um das „Staatsziel Mensch“ über mein Buch „Über Leben...

Die KI-Verordnung soll mit Wirkung ab August 2026 geändert werden. Entsprechend laufen die Verhandlungen zwischen dem EU-Parlament, den EU-Mitgliedstaaten und der EU-Kommission auf Hochtouren. Eigentlich sollten sie bereits am 28. April 2026 abgeschlossen sein. Doch eine Einigung konnte nicht erzielt werden. Kai Zenner, Büroleiter des Europaabgeordneten Axel Voss (EVP), berichtet aus dem Maschinenraum der Verhandlungen über das Scheitern im April und skizziert die möglichen weiteren Wege für das Schicksal der Änderungen an der KI-Verordnung. Eine Entscheidung darüber soll am 11. Mai fallen.