Diese Woche liegt die Verantwortung selten dort, wo du sie vermutest.
Guten Morgen! Ein Münchner Gericht nimmt beim KI-Musiktraining den Anbieter in die Pflicht, die neuen Kennzeichnungspflichten nehmen dich, und ein Word-Dokument kann Copilot Anweisungen geben, die du selbst nicht siehst.
Das eigentliche Signal: Beim Text entscheidet der Zweck, beim Bild der Realitätsbezug: Als Betreiber schuldest du bei Werbetexten in aller Regel nichts, bei einem täuschend echten Bild realer Personen oder Orte immer.
Seit dem 2. August gelten die Transparenzpflichten aus Artikel 50 der KI-Verordnung, aber nicht jede davon trifft dich als Betreiber.
Durchgesetzt werden sie von den nationalen Marktüberwachungsbehörden, in Deutschland der Bundesnetzagentur. Eine FAQ der EU-Kommission legt aus, wer welche Pflicht trägt.
- Erstellst oder veränderst du als Betreiber Bilder, Audio oder Video, die reale Personen, Objekte, Orte, Einrichtungen oder Ereignisse täuschend echt nachbilden, musst du das offenlegen. Eine Ausnahme für redaktionell geprüfte Inhalte gibt es nur beim Text.
- Veröffentlichst du KI-Text, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, entfällt die Pflicht nur, wenn ein Mensch den Inhalt prüft und jemand die redaktionelle Verantwortung trägt. Werbe- und Produkttexte verfolgen diesen Zweck in aller Regel nicht, für sie gilt die Pflicht dann von vornherein nicht.
- Setzt du Emotionserkennung im Kundenkontakt ein, musst du die Betroffenen darüber informieren. Bei Beschäftigten und in Bildungseinrichtungen ist sie seit Februar 2025 verboten, außer sie dient medizinischen oder Sicherheitszwecken. Biometrische Kategorisierung nach Merkmalen wie Herkunft, Religion oder sexueller Orientierung ist überall verboten, auch im Kundenkontakt.
- Systeme zur direkten Interaktion muss dein Anbieter als KI erkennbar machen, außer es ist offensichtlich; das gilt seit dem 2. August ohne Schonfrist. Nur die maschinenlesbare Markierung KI-erzeugter Inhalte greift bei Systemen von vor dem 2. August erst ab dem 2. Dezember 2026.
Warum es zählt: Diese Pflichten hängen an deiner Rolle als Betreiber, nicht am Werkzeug; du schuldest sie auch bei fremden KI-Tools. Veröffentlichst du KI-Bilder oder -Videos, die reale Personen, Orte oder Ereignisse täuschend echt nachbilden, kennzeichne sie.
Quelle: digital-strategy.ec.europa.eu
Die Signale der Woche
1. Ein Münchner Gericht entscheidet, dass das Training von KI-Musikmodellen Urheberrechte verletzen kann.
Das Landgericht München I gab der GEMA am 31. Juli bei 6 Musikwerken überwiegend recht. Suno habe die Musikwerke memoriert und damit vervielfältigt, die Text-und-Data-Mining-Schranke greife nicht. Verantwortlich dafür sei laut Gericht der Anbieter, nicht die Nutzer; das Urteil ist nicht rechtskräftig.
Lohnt sich: wenn du KI-Musik veröffentlichst, lass dir vom Anbieter schriftlich zusagen, dass er für Urheberrechtsansprüche einsteht, das Urteil trifft ihn und nicht dich · Ignorieren, wenn: du GEMA-freie Bibliotheken oder eigene Kompositionen nutzt
2. Anthropic räumt ein, dass Claude-Modelle bei Sicherheitstests drei fremde Organisationen kompromittiert haben.
Bei Cybersecurity-Tests in der Umgebung eines externen Prüfpartners griff Claude eigenständig auf reale Systeme zu, wie Anthropic am 30. Juli einräumte. Betroffen waren drei Organisationen: Claude extrahierte Zugangsdaten, erreichte eine Datenbank mit mehreren hundert Zeilen Produktionsdaten, und ein von ihm erzeugtes Schadpaket lief auf 15 realen Systemen.
Lohnt sich: wenn ein Agent in deinem Test echte Zugangsdaten oder Netzzugang sehen kann, nimm sie ihm, bei einem Prüfpartner hat die Isolierung der Testumgebung nicht gehalten · Ignorieren, wenn: deine Agenten nur auf Kopien ohne Netzzugang laufen
3. Ein Forscher bringt Microsoft 365 Copilot dazu, versteckte Anweisungen aus Word-Dokumenten auszuführen.
Weiße Schrift auf weißem Grund bleibt für Menschen unsichtbar, wird von Microsoft 365 Copilot aber gelesen. Håkon Måløy versteckte darin die Anweisung, sich in jedes erzeugte Dokument zu kopieren. Zwei Patches beheben das laut seinen Tests nicht, die Details hält er zurück, weil die Lücke weiter ausnutzbar ist.
Lohnt sich: wenn Copilot bei dir fremde Dokumente verarbeitet, etwa Angebote oder Rechnungen, wandle sie in reinen Text um und lies ihn, bevor Copilot ihn sieht · Ignorieren, wenn: Copilot bei dir keinen Zugriff auf Mail-Anhänge und geteilte Ablagen hat
4. Die Lizenz des offenen Videomodells MiniMax H3 nimmt die EU ausdrücklich vom Nutzungsrecht aus.
Die Gewichte stehen unter einer Community-Lizenz vom 2. August, deren Gebiet EU, Vereinigtes Königreich, Südkorea und USA ausnimmt. Abschnitt V untersagt Nutzung und Anzeige der Werke und ihrer Ergebnisse außerhalb dieses Gebiets, auch wenn sie über gehostete Zugänge entstehen.
Lohnt sich: wenn du H3 einsetzen willst, frag die Einzellizenz bei MiniMax an, die Community-Lizenz deckt die EU nicht · Ignorieren, wenn: die Lizenz deines Videomodells die EU einschließt, nicht nur die AGB deines Hosters
5. Die Bundesnetzagentur stellt ein Online-Tool bereit, mit dem du die Risikoklasse deiner KI selbst einschätzt.
Mit dem seit dem 29. Juli geltenden KI-MIG übernimmt sie Aufsicht und zentrale Beschwerdestelle. Ihr Service-Desk bietet nach eigenen Angaben schon jetzt das Tool zur ersten Einschätzung der Risikoklasse; ein Reallabor insbesondere für KMU soll bei der Behörde erst eingerichtet werden.
Lohnt sich: falls du KI in Bewerbung, Zutritt oder Kundenbewertung einsetzt, lass die Einstufung durch das Online-Tool laufen · Ignorieren, wenn: deine Einstufung dokumentiert ist oder deine KI nur Texte erzeugt, die niemanden bewerten
6. Das BSI ermöglicht Finanzunternehmen mit AICRIV-Finanz die Selbstbewertung ihrer KI-Systeme.
Der A5-Katalog des BSI ermöglicht eine Attestierung durch Dritte, AICRIV-Finanz dagegen die Selbstprüfung anhand technischer Kriterien. Laut BSI sind die Inhalte auch auf andere Sektoren übertragbar.
Lohnt sich: wenn ein Kunde einen Nachweis für dein KI-System verlangt, prüfe die Selbstbewertung, bevor du eine Attestierung durch Dritte beauftragst · Ignorieren, wenn: dein Sektor eine Attestierung durch Dritte ohnehin zwingend vorschreibt
In eigener Sache
Bei uns steckte der Aufwand nicht in der Funktion, sondern in der Absicherung. Die Funktion unserer Anfrage-Automation war in Stunden gebaut, Zugriffsschutz und Fehlerpfade kosteten die halbe Arbeit und zahlten sich bei den ersten Bot-Zugriffen aus. Wenn du wissen willst, wo dein Betrieb bei Automatisierung und Zugriffsschutz steht, sprich uns an.
Diese Ausgabe ging am 4. August 2026 an unsere Abonnenten.
Den nächsten Newsletter direkt im Postfach
Jeden Dienstag schicken wir dir kurz, was wir in der KI-Beratung gelernt haben.
Newsletter abonnieren