Die Suche erzeugt den Verdacht: Anlasslose Netzaufsicht per KI

Das Portal "Nius" berichtet heute über den Entwurf der Rundfunkkommission zum Digitale-Medien-Staatsvertrag. Demnach sollen Landesmedienanstalten künftig technische Mittel einsetzen dürfen, um Online-Medien – Podcasts, YouTube-Videos, Angebote auf X oder Instagram – automatisiert auf mögliche Verstöße zu prüfen. Plattformen sollen Schnittstellen bereitstellen.

§ 109 MStV soll nicht mehr nur „Maßnahmen bei Rechtsverstößen“ heißen, sondern „Maßnahmen“. Neu geplant ist § 109a zur Nutzung technischer Mittel. Geprüft werden soll künftig nicht nur Jugendschutz oder Strafrecht, sondern auch die journalistische Sorgfaltspflicht nach § 19 MStV.

Den automatisierten Teil dieser Aufsicht gibt es aber bereits. Die Akten dazu liegen hier seit Februar 2025. Am 8. Februar 2025 hatte ich den Vorgang zuerst im Newsletter festgehalten. Kurz zuvor war ein sieben Seiten umfassendes Einschreiben der Niedersächsischen Landesmedienanstalt eingegangen. Die Behörde drohte mit der Einleitung kostenpflichtiger förmlicher Verfahren, sollte ich bis zum 10. März 2025 über 3.000 Beiträge auf alexander-wallasch.de prüfen und gegebenenfalls anpassen oder löschen.

Grundlage waren nicht einzelne Straftatbestände, sondern § 19 und § 109 MStV: die „anerkannten journalistischen Grundsätze“ und die daran geknüpften Maßnahmen.

Am 3. März 2025 haben wir unsere Stellungnahme an die NLM veröffentlicht. Am 21. Oktober 2025 folgte der Bescheid. Darin beanstandete die NLM zunächst drei Beiträge, untersagte deren weitere Verbreitung, setzte eine Verwaltungsgebühr von 2500 Euro fest und drohte für jeden einzelnen der Artikel, der weiter im Netz steht, Zwangsgeld an. Die Klageschrift vom Januar 2026 haben wir ebenfalls veröffentlicht. Das Verfahren liegt beim Verwaltungsgericht.

Schon im Februar 2025 haben wir mit Rechtsanwalt Dirk Schmitz dank Unterstützung meiner Leser mit einem Team unabhängiger IT-Analysten das Aufsichtstool der Landesmedienanstalten geprüft. Arbeitsgrundlage war unter anderem ein freigeklagtes, teilweise geschwärztes KIVI-Handbuch von 2022. Das Ergebnis haben wir als Dossier festgehalten.

Unsere Gegenoffensive vom 17. Februar 2025 ist hier nachzulesen. Bereits am 11. Februar 2025 hatten wir den Vorgang beschrieben. RA Dirk Schmitz legte sein Augenmerk von Beginn an auch auf die KI der Landesmedienanstalten, die das Netz anlasslos durchforstet – gibt es eine lack- und Whitelist?

Was ist KIVI?

KIVI – zusammengesetzt aus KI und dem lateinischen vigilare für wachsam sein – wird seit 2022 von allen 14 Landesmedienanstalten genutzt. Entwickelt wurde es im Auftrag der Landesanstalt für Medien NRW zusammen mit der Berliner Condat AG auf Basis der Smart Media Engine. Es durchsucht öffentlich zugängliche Webseiten und Profile automatisch, analysiert Text, Bild, Audio und Video, kann hinterlegte URLs gezielt crawlen und arbeitet mit Schlagworten, Link-Extraction und externen Erkennungsdiensten.

Die Landesanstalt NRW spricht selbst von einem Monitoring von mehr als 10.000 öffentlichen Profilen und Seiten. Plattformen wie YouTube, X, Telegram und TikTok gehören zum Suchraum. Spezifische URLs einzelner Anbieter können hinterlegt und ausgelesen werden. 2025 wurde das Tool auf englische und arabische Inhalte ausgeweitet.

Die damalige Einordnung lautet:

„‚KIVI‘ stellt ein illegales Verfahren der Massenüberwachung und Vorratsdatenspeicherung dar. (…) Eine naheliegende missbräuchliche Nutzung des Tools durch eigene Mitarbeiter oder andere Akteure führen zielgerichtet zur Einschränkung der Meinungsfreiheit und zu unrechtmäßiger Massenüberwachung.“

In unserem auch finanziell aufwendigen Dossier stand außerdem schon damals, dass seit der Einführung mehr als 40.000 Funde überprüft wurden, dass zum Stand 7. Februar 2025 mehr als 8.600 Verfahren wegen Rechtsverstößen eingeleitet waren und dass bis Juli 2024 mehr als 11.600 Straftaten überprüft und gemeldet worden sein sollen.

Die aktuelle Weiterentwicklung werde durch die Staatskanzlei NRW gefördert. Technisch handelt es sich nicht um eine generative KI, sondern um ein Klassifizierungs- und Scraping-Werkzeug. Die menschliche Prüfung bleibt der Flaschenhals: Die Maschine erzeugt den Verdacht, die Behörde entscheidet danach. Aber wie qualitativ ist diese Entscheidung?

Mehrere Landesmedienanstalten haben gegen unsere Seite eine eigene Struktur gebildet, intern als „Prüfgruppe Wallasch“ bezeichnet. Dirk Schmitz hat das am 27. Juni 2026 auf dem Demokratiekongress im Bundestag ausgeführt.

Die Niedersächsische Landesmedienanstalt stützt sich auf § 109 Absatz 1 in Verbindung mit § 19 Absatz 1 Satz 2 und 3 MStV. Schmitz: Das sei keine bloße Rechtsaufsicht, sondern Inhaltsaufsicht. Grundrechtsschutz hänge nicht an der Selbstauskunft, KIVI werde für den Sorgfaltsfall „derzeit nicht eingesetzt“. Grundrechtsschutz brauche gesetzliche Grenzen.

Am 29. Juni 2026 haben wir dann das vollständige Dossier veröffentlicht und denselben Komplex erneut dokumentiert, nachdem die „Welt“
mit einem Informanten über die Weitergabe von KIVI-Ergebnissen an staatliche Stellen berichtet hatte. Bundesweit sollen bis dahin 130.840 potenzielle Rechtsverstöße identifiziert worden sein. Welche Suchbegriffe, Plattformen und Nutzergruppen im Fokus stehen, halten die Anstalten weitgehend geheim. Finanziert wird die Aufsicht aus dem Rundfunkbeitrag.

Unser Beitrag dazu.

Einen Tag später, am 30. Juni 2026, haben wir die Adressen aller 14 Landesmedienanstalten veröffentlicht und auf das Auskunftsrecht nach der DSGVO hingewiesen.

Am 15. August 2026 ist der Vorgang auch in einem Buch von Norbert Häring erschienen.

Am 26. August 2026 hat Dirk Schmitz auf dieser Seite den Gesetzentwurf selbst beschrieben und vier Antworten der Thüringer Landesregierung vom 19. August 2026 ausgewertet.

Daraus ergibt sich unter anderem: KIVI durchsucht öffentlich zugängliche Kommunikation automatisiert. RA Dirk Schmitz schrieb dazu bereits: „Nicht der Verdacht löst die Suche aus – die Suche erzeugt den Verdacht.“ Besondere Kategorien personenbezogener Daten nach Art. 9 DSGVO sind betroffen. Und ausdrücklich politische Meinungen und weltanschauliche Überzeugungen.

Datenschutzerklärungen der Anstalten nennen zusätzlich religiöse Überzeugungen sowie Daten zum Sexualleben und zur sexuellen Orientierung. Treffer können an die Zentrale Meldestelle des BKA gehen. Und an den Verfassungsschutz. In Thüringen entstanden zwischen 2022 und 2025 so 452 Vorgänge mit möglichem Landesbezug. Nur in 33 Fällen nahm die dortige Landesmedienanstalt (TLM) nach Prüfung einen Verdacht an, rund 7,3 Prozent. Von Mai 2023 bis Ende 2025 übermittelte allein die TLM nach eigener Aussage knapp über 300 Vorgänge an das BKA.

Datenschutzerklärungen der Anstalten nennen zusätzlich religiöse Überzeugungen sowie Daten zum Sexualleben und zur sexuellen Orientierung. Die Anstalten sagen damit nicht ausdrücklich: Wir legen von jedem Bürger ein Sexual- oder Religionsprofil an. Sie sagen aber: Solche Daten können und dürfen im Rahmen der Suche mitverarbeitet werden – weil sie in den gescannten Inhalten vorkommen.
Zur geplanten Norm schreibt RA Dirk Schmitz:

„Im geplanten Neunten Medienänderungsstaatsvertrag soll mit § 109a MStV erstmals ausdrücklich geregelt werden, dass Landesmedienanstalten technische Mittel einsetzen dürfen, um Text-, Bild-, Audio- und Bewegtbildinhalte automatisiert auf potenzielle Verstöße abzugleichen. Der Entwurf spricht ausdrücklich von der ‚grundsätzlichen Zulässigkeit einer automatisierten Recherche und Prüfung‘.“

Und weiter:

„Warum braucht man 2026 eine ausdrückliche gesetzliche Ermächtigung für ein Überwachungsinstrument, das seit Jahren eingesetzt wird, wenn dessen Einsatz angeblich bereits eindeutig von den bisherigen Generalklauseln gedeckt ist?“

Der Entwurf sieht außerdem vor, dass der automatisierte Abgleich künftig Inhalte erfassen darf, die Zugangsbeschränkungen unterliegen – etwa nach Registrierung, Benutzerkonto, Altersverifikation oder hinter einer Paywall. Plattformen sollen geeignete Schnittstellen bereitstellen können. Der neue § 109a ist noch keine geltende Rechtsgrundlage. Die parlamentarische Unterrichtung dazu wurde im August 2026 veröffentlicht.

Am 23. September 2026 hat das Verwaltungsgericht Hannover in der Sache Elon Musk und X gegen dieselbe NLM entschieden: Die Beanstandung eines Nutzerbeitrags hielt das Gericht, die Sperr- und Löschanordnung an die Plattform kippte es. Der Zusammenhang zum Verfahren gegen mich und meine Seite war naheliegend. Es geht bei Elon Musk in Hannover zwar nicht um denselben Sachverhalt, aber um dieselbe Behörde und denselben Maßnahmenkatalog.

Die Diskussionen um die neuerlichen Bestrebungen der Rundfunkkommission setzen genau dort an: Bisher wurde KIVI vor allem mit Jugendschutz und strafbaren Inhalten begründet. Künftig soll die automatisierte Kontrolle auch § 19 MStV erfassen. Was „anerkannte journalistische Grundsätze“ im Einzelfall sind, definiert das Gesetz aber nicht näher.

Die möglichen Folgen bleiben Beanstandung, Untersagung, Sperrung, Rücknahme und Widerruf. Die Streichung der Worte „bei Rechtsverstößen“ im Titel von § 109 soll klarstellen, dass die Befugnisse nicht auf bereits festgestellte Verstöße beschränkt sind, sondern auch präventive und aufklärende Schritte umfassen. Genau diese Kombination – unbestimmter Sorgfaltsmaßstab plus automatisierte Suche plus behördliche Sanktion – ist der Kern des Verfahrens gegen dieses Angebot.

Der Staatsvertrag gilt erst, wenn alle Länder zustimmen. Die Veröffentlichung des Entwurfs ist für Oktober oder November vorgesehen.

Damit ist der Ablauf vollständig: 2022 geht KIVI bei den Landesmedienanstalten in den Regelbetrieb. Im Februar 2025 folgen das Schreiben der NLM gegen mich. Ich antworte mit IT-Prüfung, Dossier und Gegenoffensive. Im März 2025 folgt meine juristische Stellungnahme an die Behörde. Im Oktober 2025 kommt der Bescheid der NLM samt Zahlungsaufforderung von tausenden Euro.

Im Januar 2026 folgt dann unsere Klageschrift. Im Juni 2026 der Demokratiekongress, auf dem RA Schmitz vorträgt, die Veröffentlichung des vollständigen Dossiers, der Hinweis auf die Datenweitergabe und die Auskunftskampagne.

Im August 2026 folgt Schmitz’ Auswertung der Thüringer Antworten zu § 109a. Im September 2026 das Hannover-Urteil gegen dieselbe NLM und der aktuelle Textstand zum Digitale-Medien-Staatsvertrag.

KIVI läuft. § 19 und § 109 werden angewendet. § 109a soll den automatisierten Einsatz ausdrücklich machen und auf Sorgfaltspflichten ausdehnen. Das ist der Stand der Akten und der Texte.