Aktuelle Technik-Nachrichten » digitalweek.de
Mit dem Stichtag 2. August rollt die Europäische Union die nächste Stufe des europäischen Gesetzpakets für Künstliche Intelligenz (KI-Gesetz / AI Act) aus. Das europäische KI-Amt übernimmt gemeinsam mit nationalen Aufsichtsbehörden die aktive Durchsetzung der Vorschriften. Gleichzeitig gelten strenge Kennzeichnungspflichten für synthetische Inhalte und KI-Systeme.
+++ Unser kostenloser Handy-Schnäppchen Channel ist hier zu finden: Handy Deals und Aktionen (Telegram) oder Mobile Deals (WhatsApp). +++
Die Europäische Kommission stellt wichtige Weichen für die Regulierung künstlicher Intelligenz in Europa: Ab dem 2. August nimmt das neu geschaffene Amt für künstliche Intelligenz (AI Office) zusammen mit den zuständigen nationalen Behörden der EU-Mitgliedstaaten die offizielle Durchsetzung des KI-Gesetzes auf.
Ende der Anonymität: Kennzeichnungspflicht für Chatbots und Deepfakes
Ein zentraler Bestandteil der ab sofort greifenden Regelungen betrifft die Transparenz gegenüber Endverbrauchern. Die neuen Vorgaben sollen Manipulation und Täuschung im digitalen Raum eindämmen:
- Interaktive KI-Systeme: Chatbots und dialogorientierte Werkzeuge müssen Nutzer zu Beginn der Interaktion unmissverständlich darüber informieren, dass sie mit einer KI und nicht mit einem Menschen kommunizieren.
- Deepfakes und KI-Medien: Bild-, Audio- oder Videoinhalte, die mittels KI generiert oder verändert wurden, müssen klar als solche gekennzeichnet werden.
- Maschinenlesbare Wasserzeichen: Um die Erkennung und Moderation zu erleichtern, sind Entwickler verpflichtet, KI-generierte Inhalte mit maschinenlesbaren Markierungen zu versehen.
Zur praktischen Umsetzung dieser Vorgaben veröffentlichte die Kommission eine erste Liste von mehr als 180 Organisationen, die sich einem freiwilligen Verhaltenskodex für Transparenz angeschlossen haben.
Feste Vorgaben für Basismodelle und systemische Risiken
Die Durchsetzung durch das europäische KI-Amt richtet sich insbesondere an Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (General Purpose AI, GPAI). Für besonders leistungsfähige Modelle, die potenzielle systemische Risiken bergen, gelten erweiterte Verpflichtungen. Die Richtlinien adressieren Gefahren im Zusammenhang mit der Erstellung gefährlicher Substanzen, Kontrollverlusten, Cyberangriffen sowie Bedrohungen für die Grundrechte und die europäische Cybersicherheit.
Darüber hinaus müssen sämtliche GPAI-Entwickler künftig:
- Technische Dokumentationen für Behörden und nachgelagerte Entwickler bereitstellen,
- Urheberrechtsrichtlinien bei der Datennutzung einhalten und
- Eine detaillierte Zusammenfassung des verwendeten Trainingsmaterials veröffentlichen.
Verbotene Praktiken und geteilte Aufsicht
Ebenfalls ab sofort durchgesetzt werden die Verbote von KI-Praktiken, die als besonders schädlich eingestuft werden. Darunter fallen Systeme zur gezielten Verhaltensmanipulation, zur Ausnutzung von Schwachstellen vulnerabler Gruppen oder zur intransparenten und diskriminierenden Bewertung von Personen (Social Scoring).
Die Kontrollaufgabe teilen sich drei Instanzen:
- Das EU-KI-Amt beaufsichtigt Systeme von Modell-Anbietern sowie KI-Anwendungen, die in sehr große Online-Plattformen und Suchmaschinen (gemäß Digital Services Act) integriert sind.
- Die nationalen Behörden der Mitgliedstaaten überwachen den Verbleib der übrigen KI-Systeme im jeweiligen Markt.
- Der Europäische Datenschutzbeauftragte kontrolliert den Einsatz von KI innerhalb der EU-Institutionen.
Ein reibungsloser Ablauf der Kontrollen setzt voraus, dass die EU-Mitgliedstaaten ihre nationalen Aufsichtsbehörden zeitnah mit den erforderlichen Befugnissen und Ressourcen ausstatten.
