Brüssel rückt KI-Chatbot Grok ins Visier
Die EU-Kommission geht erstmals mit voller Härte gegen einen KI-Chatbot vor. Im Fokus steht Grok, ein System des US-Unternehmens xAI, das dem Unternehmer Elon Musk gehört und eng mit der Plattform X verknüpft ist. Auslöser ist der Verdacht, dass Grok systematisch sexualisierte Inhalte erzeugt und verbreitet hat. Nach Angaben aus Brüssel sollen darunter auch Bilder und Videos realer Personen gewesen sein, teils ohne deren Zustimmung.
Die Kommission prüft nun ein Verfahren auf Grundlage des Digital Services Act (DSA). Ziel ist es zu klären, ob Grok gegen europäische Vorschriften verstößt und ob Maßnahmen bis hin zu einer Abschaltung innerhalb der EU erforderlich sind. Für xAI und X bedeutet dies eine umfassende rechtliche Prüfung mit potenziell weitreichenden Konsequenzen für den Einsatz von KI-Systemen in Europa.
Digital Services Act als scharfes Instrument
Mit dem Gesetz über digitale Dienste hat die EU ein Instrument geschaffen, das große Online-Plattformen stärker in die Verantwortung nimmt. Es verpflichtet Anbieter, verbotene Inhalte aktiv zu bekämpfen, Risiken transparent zu bewerten und Schutzmechanismen einzubauen. Bei schweren oder wiederholten Verstößen drohen empfindliche Strafen oder Einschränkungen des Dienstbetriebs.
Im Fall von Grok prüft die Kommission, ob der Chatbot ausreichend kontrolliert wurde und ob die Betreiber ihrer Pflicht zur Verhinderung rechtswidriger Inhalte nachgekommen sind. Besonders sensibel bewertet Brüssel Berichte, wonach über das System auch Darstellungen mit Minderjährigen möglich gewesen sein sollen. Diese Vorwürfe hatten bereits zuvor international Kritik ausgelöst, wurden jedoch zunächst nicht weiterverfolgt.
Politische Rücksichtnahme endet
Nach Informationen aus Regierungskreisen hatte die EU ihr Vorgehen zeitweise zurückgestellt. Hintergrund waren handelspolitische Spannungen mit den Vereinigten Staaten und angekündigte Strafzölle von US-Präsident Donald Trump. Nun jedoch macht Brüssel deutlich, dass regulatorische Fragen nicht länger politisch vertagt werden sollen.
Mit der Wiederaufnahme des Verfahrens signalisiert die Kommission, dass europäisches Digitalrecht auch gegenüber mächtigen US-Konzernen konsequent durchgesetzt werden soll. xAI und X erhalten Gelegenheit zur Stellungnahme, müssen jedoch mit weitreichenden Auflagen rechnen.
WhatsApp unter verschärfter Aufsicht
Parallel erhöht die EU den Druck auf den Messenger WhatsApp, der zum Konzern Meta gehört. Die Plattform wird künftig offiziell als sehr große Online-Plattform eingestuft. Damit unterliegt sie nicht mehr der alleinigen Aufsicht nationaler Behörden, sondern direkt der Kontrolle durch die EU-Kommission.
Diese Einstufung bedeutet strengere Pflichten bei der Bekämpfung illegaler Inhalte. Dazu zählen unter anderem Hassrede, Morddrohungen oder verfassungsfeindliche Symbole, die online ebenso verboten sind wie offline. Insgesamt hat die EU inzwischen 26 besonders große Plattformen benannt, die direkt in Brüssel überwacht werden.
Private Chats bleiben geschützt
Ein zentraler Punkt der Debatte ist der Datenschutz. Die EU-Kommission betont ausdrücklich, dass sie keinen Zugriff auf private WhatsApp-Chats erhält. Diese bleiben Ende-zu-Ende-verschlüsselt. Die verschärfte Aufsicht konzentriert sich ausschließlich auf öffentliche Kanäle, über die Nutzer Inhalte abonnieren können, etwa von Medien, Sportvereinen oder Influencern.
Sollten dort rechtswidrige Inhalte verbreitet werden, kann die Kommission eingreifen und bei Verstößen Bußgelder verhängen. Damit rücken erstmals auch öffentlich zugängliche Messenger-Funktionen stärker in den Fokus der europäischen Regulierung.
Wettbewerbsrechtliche Vorwürfe gegen Meta
Neben der Inhaltskontrolle steht Meta auch aus wettbewerbsrechtlicher Sicht unter Druck. Brüssel wirft dem Konzern vor, auf WhatsApp ausschließlich den eigenen KI-Assistenten zuzulassen und anderen Anbietern den Zugang zu verwehren. Die Kommission prüft, ob dieses Vorgehen gegen die EU-Wettbewerbsregeln verstößt.
Bereits im vergangenen Jahr hatte Brüssel 200 Millionen Euro Geldbuße gegen Meta verhängt, unter anderem wegen Wettbewerbsverstößen bei Instagram und Facebook. Zusätzlich laufen weitere Verfahren wegen unzureichender Maßnahmen gegen verbotene Inhalte.
Signalwirkung für den globalen Digitalsektor
Das gleichzeitige Vorgehen gegen Grok und WhatsApp zeigt eine klare Linie: Die EU will ihre digitalen Regeln nicht nur formulieren, sondern auch durchsetzen. Besonders KI-Systeme geraten stärker unter regulatorischen Druck, da ihre Inhalte schwerer vorhersehbar und potenziell missbrauchsanfälliger sind.Für internationale Technologieunternehmen bedeutet dies, dass Europa zunehmend eigene Standards setzt und deren Einhaltung konsequent einfordert. Die aktuellen Verfahren könnten damit zu Präzedenzfällen werden, die den Umgang mit Künstlicher Intelligenz und sozialen Plattformen nachhaltig prägen.
