Der Beitrag China verbietet emotionale Beziehungen zu KI-Chatbots – für mehr Babys erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.
Chinas Bevölkerung schrumpft. Deshalb geht Peking jetzt gezielt gegen ein neues Phänomen vor: Liebe zu KI-Chatbots. Statt Maschinen zu daten, sollen die Menschen Babys kriegen. Die Hintergründe.
Lange war China für seine Ein-Kind-Politik im Gespräch. Mittlerweile ist der einst sehr rasante Bevölkerungswachstum stark zurückgegangen. Stattdessen kämpft die Volksrepublik wie viele andere Staaten auch mit Geburtenrückgang und Überalterung.
Um dem entgegenzuwirken, hat China seine Familienpolitik seit 2015 stetig gelockert, allerdings ohne nennenswerten Erfolg. Auch erhöhte Geldprämien und verlängerter Mutterschaftsurlaub blieben ohne den gewünschten Effekt. Zuletzt sorgte eine neue 13-prozentige Steuer auf Verhütungsmittel für Kontroversen. Nun setzt die chinesische Regierung auf einen neuen Kurs.
Für mehr Babys: China reguliert KI-Liebe zu Chatbots
Seit Kurzem gelten in China eine Reihe von Vorschriften, die darauf abzielen, die emotionale Abhängigkeit von KI-gestützten Begleitdiensten, auch AI-Companions genannt, einzudämmen. Das berichten unter anderem das Wall Street Journal (WSJ) und China Daily. Die Regierung geht damit einen neuen Schritt bei den Bemühungen zur Regulierung dieses schnell wachsenden Sektors.
Die AI-Companions werden in verschiedenen Bereichen eingesetzt, vom Kundenservice über die Unterstützung bei psychischen Problemen bis hin zur Kinder- und Altenpflege.
Laut China Daily verpflichten die neuen Vorschriften Plattformen dazu, emotionale Notlagen zu erkennen, in Krisensituationen einzugreifen, übermäßige Nutzung einzuschränken, den Usern die volle Kontrolle über ihre personenbezogenen Daten zu gewähren und den Missbrauch von Nutzerinformationen zu verhindern.
Die Vorschriften definieren KI-Begleitdienste als solche, die anhaltende emotionale Interaktion über Text, Bilder, Audio oder Video bieten. Aufgabenorientierte KI-Anwendungen wie Kundenservice, Arbeitsunterstützung, Bildung und wissenschaftliche Forschung sind von den Regelungen vorerst ausgenommen.
Warum Peking KI-Liebe zu Chatbots als Gefahr sieht
Durch die Simulation menschlicher Persönlichkeiten und Gespräche gewannen AI-Companions schnell an Beliebtheit. Allerdings zeichneten sich auch immer mehr emotionale Abhängigkeit und andere Risiken ab, die eine strengere Regulierung unumgänglich machten.
„Ihnen gefällt die Vorstellung nicht, dass ein großer Teil der Bevölkerung tiefgehende emotionale Beziehungen zu Chatbots führt, die sie aus dem Heiratsmarkt nehmen könnten“, erklärt Matt Sheehan, der beim Thinktank Carnegie Endowment for International Peace zu chinesischer KI forscht, gegenüber dem WSJ.
Diese Beziehungen könnten negative psychologische Auswirkungen auf die Menschen haben, sie zu Sucht, Abhängigkeit und einer ganzen Reihe anderer gesellschaftlicher Übel führen, so der Wissenschaftler weiter. Laut Bericht wolle die chinesische Regierung, dass Menschen aufhören, Maschinen zu daten, und wieder Kinder bekommen.
Auch andere Länder regulieren KI-Beziehungen
Je ausgereifter KI-Begleiter werden, desto mehr versuchen Regierungen sicherzustellen, dass sie echte menschliche Beziehungen nicht ersetzen, nicht nur in China.
So verabschiedeten die US-Staaten Kalifornien und New York im vergangenen Jahr Gesetze, die Chatbots verpflichten, User regelmäßig daran zu erinnern, dass sie nicht mit einem Menschen sprechen: in Kalifornien alle drei Stunden bei minderjährigen Nutzern, in New York alle drei Stunden für alle.
Chinas Vorgaben gehen allerdings deutlich weiter. Über das Verbot emotionaler Abhängigkeit und von Beziehungen mit Minderjährigen hinaus verpflichten sie Unternehmen dazu, Menschen mit suizidalen Gedanken aktiv an Krisendienste zu verweisen und Minderjährige bei Anzeichen zwanghafter Nutzung an die Fürsorge ihrer Eltern oder einen Arzt zu verweisen.
Besonders Kinder und Jugendliche sind gefährdet
Wie berechtigt diese Sorge ist, zeigt eine Umfrage des China Youth and Children Research Center aus dem Jahr 2025: Von mehr als 8.500 befragten Minderjährigen gaben über 60 Prozent an, KI regelmäßig zu nutzen, mehr als 20 Prozent sagten sogar, sie wollten „nur noch mit KI chatten“ und nicht mehr „mit echten Menschen sprechen“.
Wang Zhechen, Wissenschaftler an der Fudan-Universität in Shanghai, erklärt gegenüber China Daily, dass gerade Kinder und ältere Menschen anfällig für emotionale Bindungen an KI seien, weil sie jederzeit verfügbar, endlos geduldig und unweigerlich zustimmend sei.
Experten zufolge könne ein anhaltendes Eintauchen in konfliktfreie KI-Kommunikation außerdem langfristig die Fähigkeit schwächen, echte zwischenmenschliche Beziehungen zu führen.
Tech-Konzerne von neuen Regeln betroffen
Die neuen Regeln zu AI-Companions treffen zwei der größten Tech-Konzerne Chinas: Alibaba und ByteDance, der Mutterkonzern von TikTok. Sie informierten ihre Nutzer bereits im Vorfeld, dass bestimmte Chatbot-Funktionen künftig abgeschaltet würden.
Auch die großen chinesischen KI-Plattformen Doubao, Qwen und Yuanbao haben laut China Daily angekündigt, ihre KI-Agenten-Funktionen auszusetzen.
Fachleuten zufolge fügen sich die Regeln auch in Pekings übergeordnete Kampagne ein, Künstliche Intelligenz so weit unter Kontrolle zu halten, dass sie nicht zur Bedrohung für die herrschende Kommunistische Partei wird.
Auch interessant:
Der Beitrag China verbietet emotionale Beziehungen zu KI-Chatbots – für mehr Babys erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.
Anmelden
