Es war diese Woche, als Tom Siegel seinen neuen Posten antrat – und gleichzeitig eine der schärfsten Warnungen aussprach, die die KI-Branche seit Langem zu hören bekommen hat. Siegel, ehemaliger Vizepräsident für Nutzersicherheit bei Google, übernahm die Leitung des neu gegründeten Youth AI Safety Institute der amerikanischen Kinderschutzorganisation Common Sense Media. Die Botschaft, mit der er sein Amt begann, ließ wenig Spielraum für Optimismus.
Die Technologiebranche, so Siegel gegenüber der Nachrichtenagentur Reuters, wiederhole gerade die Fehler aus der Ära der sozialen Netzwerke – und richte bei Minderjährigen möglicherweise noch größeren Schaden an als Social Media es je getan hat. Welche konkreten Risiken er benennt und was er von Unternehmen wie Anthropic, OpenAI und seinem früheren Arbeitgeber Google verlangt, ist eine Frage, die die gesamte Branche betrifft.
Der Mann hinter der Warnung: Tom Siegels Rolle bei Common Sense Media
Tom Siegel ist kein branchenfremder Kritiker. Als ehemaliger Vizepräsident für Nutzersicherheit bei Google kennt er die Mechanismen der Technologiekonzerne von innen. Seit dieser Woche steht er an der Spitze des Youth AI Safety Institute, das Common Sense Media – eine in den USA bekannte und einflussreiche Kinderschutzorganisation – eigens für diesen Zweck ins Leben gerufen hat.
Das Institut soll Schutzmaßnahmen für Minderjährige im Umgang mit KI-Systemen entwickeln und einfordern. Siegel tritt damit in eine Rolle, die er selbst als dringend notwendig bezeichnet. Die Parallele zur Debatte um soziale Netzwerke ist für ihn kein rhetorisches Mittel, sondern eine ernste Einschätzung der Lage.
„Größerer Schaden“ als durch Social Media: Was Siegel konkret befürchtet
Die Risiken, die Siegel auflistet, reichen weit über abstrakte Zukunftsszenarien hinaus. Suizid, Psychosen und eine zunehmende Schwächung des kritischen Denkens bei Kindern und Jugendlichen nennt er als unmittelbare Gefahren. Das ist eine ernste Zuspitzung – und bewusst gewählt.
Mehr zum Lesen
Bei sozialen Netzwerken dauerte es Jahre, bis Regulierungsbehörden und Öffentlichkeit die psychischen Folgen für junge Nutzerinnen und Nutzer anerkannten. Siegel will diesen Zeitverlust bei KI vermeiden. Der Schaden, den unkontrolliert eingesetzte KI-Chatbots bei Minderjährigen anrichten könnten, sei strukturell noch schwerer zu begrenzen als der durch Instagram oder TikTok – weil die Interaktion persönlicher, intensiver und schwerer zu überwachen sei.
Strengere Alterskontrollen: Was Siegel von Anthropic, OpenAI und Google verlangt
Siegel richtet seine Forderungen an konkrete Unternehmen. Von Anthropic und OpenAI verlangt er strengere Altersüberprüfungen für den Zugang zu ihren Chatbots. Wer unter einer bestimmten Altersschwelle liegt, soll entweder gar keinen Zugang erhalten oder nur stark eingeschränkte Versionen nutzen dürfen.
Seinem früheren Arbeitgeber Google legt er nahe, eine einfache Abschaltfunktion für KI-Übersichten in der Suchmaschine einzubauen – eine Funktion, die aktuell nicht ohne weiteres verfügbar ist. Der Kern seines Arguments: Kurzfristig mögen solche Maßnahmen Gewinne beeinträchtigen. Doch wer jetzt nicht handelt, riskiert Klagen und staatliche Regulierungen, die weit tiefer in die Geschäftsmodelle eingreifen würden.
Die Fehler der Social-Media-Ära: Warum die Branche diesmal früher reagieren muss
Die Geschichte der sozialen Netzwerke ist in dieser Debatte allgegenwärtig. Plattformen wie Facebook oder Instagram wussten früh um die negativen Effekte auf das Wohlbefinden junger Nutzerinnen und Nutzer – und handelten trotzdem kaum. Interne Dokumente, die später öffentlich wurden, belegten dieses Wissen. Die gesellschaftlichen und rechtlichen Konsequenzen folgten mit jahrelanger Verzögerung.
Siegel sieht die KI-Branche an einem ähnlichen Scheideweg – mit dem Unterschied, dass die Technologie diesmal schneller skaliert und tiefer in den Alltag von Kindern eindringt. Seine Forderung nach einer Verlangsamung der Entwicklung ist in diesem Kontext nicht als Technikfeindlichkeit zu verstehen, sondern als Plädoyer für einen kontrollierten Rollout mit funktionierenden Schutzmechanismen.
Krisentelefone in Österreich: Wo Betroffene jetzt Hilfe finden
Berichte über mögliche Suizide können für Menschen in einer Krise belastend sein. In Österreich gibt es mehrere Anlaufstellen, die rund um die Uhr erreichbar sind und kostenlose Unterstützung bieten:
- Telefonseelsorge Österreich: 142 – kostenlos, 24 Stunden täglich erreichbar
- Rat auf Draht (für Jugendliche und junge Erwachsene): 147 – ebenfalls kostenlos und rund um die Uhr
- Krisentelefone der Bundesländer sowie weitere Beratungsstellen sind über das Gesundheitsportal des Bundesministeriums für Gesundheit und Frauen abrufbar
Die österreichische Telefonseelsorge unter 142 ist auch dann erreichbar, wenn Betroffene selbst nicht sicher sind, ob ihre Situation als Krise gilt – ein Anruf reicht, um Orientierung zu erhalten.
Was als Nächstes kommt: Regulierung oder Selbstverpflichtung?
Ob die Forderungen Siegels und des Youth AI Safety Institute bei den Technologieunternehmen Gehör finden, bleibt offen. In der Europäischen Union greift seit 2024 schrittweise der AI Act, der auch Schutzpflichten für besonders gefährdete Gruppen – darunter Minderjährige – enthält. Wie die konkreten Umsetzungspflichten für Chatbot-Anbieter aussehen werden, arbeiten die zuständigen EU-Behörden derzeit aus.
In Österreich beobachtet die Regulierungsbehörde KommAustria die Entwicklung im Bereich KI und Medien, während auf europäischer Ebene der Europäische Auswärtige Dienst sowie die Europäische Kommission die Umsetzung des AI Act koordinieren. Ob freiwillige Branchenstandards oder verbindliche gesetzliche Vorgaben das Rennen machen, wird die Debatte der kommenden Monate bestimmen.
Tom Siegel jedenfalls hat mit seinem Amtsantritt klargemacht, dass er nicht auf freiwillige Selbstverpflichtungen wartet.
Ihre Meinung hilft uns
Das Gespräch geht weiter
Kommentare