DataAgenda Datenschutz Podcast

Das „KI-Seepferdchen“ wurde von der unabhängigen Expertenkommission „Kinder und Jugendschutz in der digitalen Welt“ im Juni 2026 als Maßnahme vorgeschlagen. Es geht darum, Kinder schon im Grundschulalter mit den Möglichkeiten und Risiken von KI in Form von Chatbots vertraut zu machen. Die Vermittlung von KI-Kompetenz ist eine Rechtspflicht auch für Schulen und Schulträger. Die Expertenkommission legt ein Konzept vor, das von Bund und Ländern kurzfristig umgesetzt werden kann. Sebastian Gutknecht, Direktor der Bundeszentrale für Kinder- und Jugendmedienschutz (BZKJ), und Rolf Schwartmann sind Mitglieder der Kommission. Sie berichten dem Technikjournalisten Jörg Schieb darüber, wie das „KI-Seepferdchen“ ins Werk gesetzt werden kann...

Die unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ hat am 24. Juni 2026 ihre Handlungsempfehlungen vorgelegt. Der Bericht trägt den Titel „Entwicklung stärken, Verantwortung übernehmen“ und befasst sich insbesondere mit den Auswirkungen Künstlicher Intelligenz auf Kinder und Jugendliche.

Markus Beckedahl, der Gründer des Zentrums für Digitalrechte und Demokratie, diskutiert das „KI-Seepferdchen“ (HE 12), die Gefahren durch AI Companions (HE 46), Anreize für eine vertrauenswürdige europäische Plattform- und Dateninfrastruktur (HE 50) sowie die Entwicklung kindgerechter KI im Sinne der digitalen Souveränität der EU (HE 48). Letztere soll und kann in KI-Reallaboren nach Art. 57 bis 59 KI-VO entwickelt werden....

Die Digitale Souveränität Europas ist ein Gebot dieser Zeit. Die menschliche Hoheit in Zeiten zu behalten, in denen KI-Systeme uns das Denken abnehmen können, ist ein anderes. Die Menschen in Europa müssen nun beweisen, dass sie den Herausforderungen gewaschen sind. Die EU und ihre Mitgliedstaaten müssen einen regulatorischen Rahmen schaffen, der Menschenrechte und gute wirtschaftliche Rahmenbedingungen möglich macht.

Im DataAgenda-Podcast spreche ich mit Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz über Digitale Souveränität, AI-Companions, die Anforderungen an automatisierte Einzelentscheidungen nach der KI-VO und der DS-GVO und die Ergänzung des Grundgesetzes um das „Staatsziel Mensch“ über mein Buch „Über Leben...

Die KI-Verordnung soll mit Wirkung ab August 2026 geändert werden. Entsprechend laufen die Verhandlungen zwischen dem EU-Parlament, den EU-Mitgliedstaaten und der EU-Kommission auf Hochtouren. Eigentlich sollten sie bereits am 28. April 2026 abgeschlossen sein. Doch eine Einigung konnte nicht erzielt werden. Kai Zenner, Büroleiter des Europaabgeordneten Axel Voss (EVP), berichtet aus dem Maschinenraum der Verhandlungen über das Scheitern im April und skizziert die möglichen weiteren Wege für das Schicksal der Änderungen an der KI-Verordnung. Eine Entscheidung darüber soll am 11. Mai fallen.