DataAgenda Datenschutz Podcast

An Schulen und Hochschulen geht es darum, Wissen zu vermitteln und dessen Erwerb zu prüfen. Natürlich sollen Bildungseinrichtungen moderne Werkzeuge zur Unterstützung der Studierenden beim Ablegen von Prüfungen unterstützen. Dazu zählt auch der Einsatz generativer KI. Allerdings kann insbesondere in Abschlussprüfungen (Bachelor- und Masterarbeiten) nur eine Unterstützung erlaubt sein, die eine Bewertung der menschlichen Leistung von Studierenden ermöglicht. Zudem gebietet der Grundsatz der Chancengleichheit, dass allen Studierenden dieselben Hilfsmittel zur Verfügung steht. Das KI-Recht und das Datenschutzrecht verlangen, dass generative KI als Hilfsmittel von der Hochschule zur Verfügung gestellt werden muss, damit die technische Kontrolle der für die Prüfung verantwortliche...

KI spricht nicht nur, sondern sie handelt auch. Mit KI-Agenten erweitert der Mensch seinen Handlungsradius an autonome Werkzeuge, allerdings ohne seine Verantwortung zu delegieren. Die Chancen und Risiken des KI-Einsatzes stehen für den Digitalexperten Jörg Schieb in einem Verhältnis von 50:50. Wir sprechen im Jubiläumspodcast darüber, was ein Agent eigentlich ist, wo Agenten im Unternehmen sinnvoll helfen, welche Frage des Datenschutzes beantwortet werden müssen, wo die Probleme von Schatten-KI liegen und warum neue Angriffsflächen durch sog. Prompt Injection bestehen.

KI-Reallabore dienen nach der KI-Verordnung dazu, KI zu wichtigen, aber zugleich hochriskanten Zwecken zu entwickeln. In jedem Mitgliedstaat der EU muss mindestens ein KI-Reallabor gegründet werden. Es dürfen und sollen aber mehr sein. In Nordrhein-Westfalen soll bald ein Gesetzesentwurf verabschiedet werden. Im Podcast stellt Dr. Dominik Roderburg, Leiter des Referats Staatsmodernisierung in der Staatskanzlei NRW, den Gesetzesentwurf vor. Neuropathologe Felix Sahm erklärt, warum er für seine Forschung auf ein KI-Reallabor angewiesen ist. Bemerkenswert ist, dass Tobias Keber, LfDI Baden-Württemberg, und Denis Lehmkemper, LDI Niedersachsen, das Gesetz in NRW begrüßen. Beim Datenschutz wollen sie allerdings in ihren Bundesländern ein Wörtchen mitreden,...

Smarte Brillen sind auf dem Vormarsch und viele Argumente pro und contra sind ausgetauscht. Ein DataAgenda-Datenschutz-Podcast kommt natürlich nicht ohne eine Diskussion der Probleme der DS-GVO und des TDDDG aus. Sie gehen von der Reichweite der Haushaltsausnahme, über Fragen der Zulässigkeit und der Betroffenenrechte bis hin zur Zulässigkeit des Produkts nach dem TDDDG, denn natürlich muss für Brillen, in denen Kameras und Mikrophone versteckt sind, auch ein Verbot diskutiert werden. Wenn man aber Technik nicht verhindern will, sondern Produkte regulieren muss, kommt es vor allem auf die Produktgestaltung an. Darüber, wie man smarte Brillen so kenntlich machen kann, dass man...