Der Beitrag KI-Texte besser erkennen: ChatGPT führt unsichtbare Wasserzeichen ein erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Bisher lässt sich kaum zuverlässig erkennen, ob ein Text im Internet von einer KI stammt oder nicht. Das soll sich künftig allerdings ändern, da KI-generierte Inhalte in der EU besser gekennzeichnet werden sollen. OpenAI hat für sein KI-Modell ChatGPT deshalb nun unsichtbare Wasserzeichen angekündigt.

Immer mehr Texte im Netz werden von KI-Modellen verfasst. Für die Nutzer ist es jedoch oft kaum erkenntlich, ob hinter den jeweiligen Texten Mensch oder Maschine stecken.

Die EU will hier für mehr Klarheit sorgen und hat deshalb das KI-Gesetz eingeführt. Seit Anfang August gelten daher für KI-Inhalte neue Transparenzpflichten. Bis Anfang Dezember müssen Anbieter von bestehenden KI-Modellen diese umsetzen.

Diese werden demnach dazu verpflichtet, ihre Inhalte maschinenlesbar zu kennzeichnen. OpenAI hat deshalb nun für ChatGPT die Einführung von unsichtbaren Wasserzeichen in KI-Texten angekündigt.

Nutzer, die die ChatGPT-API nutzen, können die Wasserzeichen bereits für ausgewählte Modelle aktivieren. In den nächsten Wochen soll dies dann für Nutzer in der EU standardmäßig für „geeignete Textausgaben von ChatGPT“ eingeführt werden.

Wasserzeichen bei ChatGPT soll für mehr Transparenz sorgen

Direkt bei der Erstellung eines Textes sollen die unsichtbaren Wasserzeichen künftig eingebaut werden. OpenAI setzt hierfür auf die Technologie „textGrain“, die bei der Wortwahl von ChatGPT ein bestimmtes statistisches Muster hinterlässt.

Für Leser ist dieses nicht erkennbar, eine entsprechende Software hingegen kann das Muster finden und so Hinweise zur Herkunft von Texten liefern. Im Unterschied zu sichtbaren Wasserzeichen verändert sich also nicht das Aussehen des Textes, sondern die statistische Verteilung der verwendeten Wörter.

Bisher berechnet die KI für jedes mögliche nächste Wort eine Wahrscheinlichkeit und wählt dann eine passende Formulierung aus. Für das Wasserzeichen wird dieser Prozess leicht verändert: Denn künftig werden bestimmte Wörter bevorzugt und andere seltener verwendet.

Auf den Inhalt der ausgegebenen Texte soll das keinen Einfluss haben. Allerdings entsteht so ein statistisches Muster, das für Menschen und auch Maschinen nicht erkennbar ist.

Nur mit der Hilfe eines geheimen digitalen Schlüssels lässt sich überprüfen, ob ein Text ein solches Wasserzeichen enthält. So wollen die Hersteller verhindern, dass ein Wasserzeichen gezielt entfernt oder gefälscht wird.

Überprüfbarkeit des KI-Wasserzeichens ist dennoch begrenzt

Eine hundertprozentige Sicherheit zur Erkennung von KI-Texten bietet das unsichtbare Wasserzeichen jedoch nicht. Denn insbesondere bei kurzen oder nachträglich bearbeiteten Texten stößt die Technik an ihre Grenzen.

Ein Test von OpenAI zeigt dies deutlich. In einem Text wurden dabei zehn Prozent der ausgegebenen Wörter ersetzt. Danach rutschte die Erfolgsrate von 92 auf 66 Prozent. Wurden 25 Prozent der Wörter ausgetauscht, konnte das Wasserzeichen nur noch in 17 Prozent der Fälle erkannt werden.

Auch die Länge des Textes insgesamt spielt eine entscheidende Rolle. Denn bei längeren Texten lässt sich ein Wasserzeichen in der Regel zuverlässiger erkennen. Problematisch seien laut OpenAI auch Themen mit eingeschränkter Wortwahl, die beispielsweise viele Fachbegriffe haben und so wenig Spielraum lassen.

Auch interessant:

• KI statt echte Freunde: Studie zeigt, dass viele Kinder lieber mit Chatbots reden
• KI-Boom vor dem Kollaps? Prognose warnt vor Verlusten in Billionen-Höhe
• Gender Pay Gap bei Künstlicher Intelligenz: Weibliche KI wird schlechter bezahlt
• Shutdown-Sabotage: KI-Agenten verhindern eigenmächtig ihre Abschaltung

Der Beitrag KI-Texte besser erkennen: ChatGPT führt unsichtbare Wasserzeichen ein erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Microsoft hat für eine Studie ein eigenes Orchestrierungs-Tool für KI-Modelle getestet und dessen Genauigkeit bei medizinischen Diagnosen mit den Fähigkeiten menschlicher Ärzte verglichen. Die Ergebnisse sind nach Konzernangaben vielversprechend. (Weiter lesen)

OpenAI integriert schrittweise gesperrte Chats in ChatGPT. Anwender verbergen vertrauliche Unterhaltungen künftig mit einer vierstelligen PIN oder per Biometrie. Die Neuerung schützt private Verläufe bei der Nutzung in öffentlichen Räumen. (Weiter lesen)

Der Beitrag „Geheime“ ChatGPT-Codes: Diese 7 Codes musst du kennen erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Geheime ChatGPT-Codes sollen Texte vereinfachen, Zusammenfassungen erstellen oder sogar Bilder in technische Zeichnungen verwandeln. In unserem neuen Video zeigen wir dir, was wirklich dahintersteckt und welche Kürzel du dir merken solltest.

Abonniere jetzt den YouTube-Kanal von BASIC thinking, um kein weiteres Video zu verpassen.

Was steckt hinter den ChatGPT-Codes?

Im Netz werden Kürzel wie /ELI5 oder /TLDR häufig als geheime ChatGPT-Funktionen beschrieben. Ganz so geheim sind sie allerdings nicht. OpenAI hat diese Codes nicht offiziell in ChatGPT eingebaut.

Im Grunde handelt es sich um stark komprimierte Prompts. Die Kürzel funktionieren, weil sie auf Begriffen und Schreibweisen basieren, die in großen Mengen im Internet verwendet werden. TL;DR steht beispielsweise für „Too long; didn’t read“ – also „zu lang, nicht gelesen“. In Foren wird die Abkürzung seit vielen Jahren für eine kurze Zusammenfassung eines längeren Textes genutzt.

ChatGPT hat mit riesigen Mengen solcher Texte gelernt. Deshalb erkennt das System in vielen Fällen, dass mit TLDR eine Zusammenfassung gemeint ist. Ein einzelnes Kürzel kann dadurch einen ganzen Absatz mit Anweisungen ersetzen. Die Text-Codes funktionieren nicht nur in ChatGPT, sondern in vielen Fällen auch in Claude und anderen KI-Tools. Für die Visual Codes brauchst du dagegen ein KI-Tool, das Bilder erzeugen kann.

Code 1: /ELI5 und /ELI10

ELI5 steht für „Explain like I’m five“ – auf Deutsch: „Erklär es mir, als wäre ich fünf“. Das Kürzel stammt aus einem Reddit-Forum mit diesem Namen, in dem komplizierte Themen möglichst einfach erklärt werden.

Ein Beispiel: Schreibst du /ELI5 Was ist BASIC thinking?, versucht ChatGPT, das Thema ohne Fachbegriffe und in besonders einfacher Sprache zu erklären. Der Schrägstrich vor dem Code kann dabei helfen, dass ChatGPT die Eingabe zuverlässiger als Anweisung erkennt und nicht als Teil des Themas behandelt.

Die Zahl funktioniert dabei wie ein Regler für die Komplexität. /ELI10 liefert weiterhin eine leicht verständliche Erklärung, geht aber stärker ins Detail. Mit /ELI2 wird die Antwort noch einfacher. Das ist praktisch, wenn dir eine erste Erklärung zu kompliziert oder zu oberflächlich war.

Code 2: /TLDR

Du hast einen langen Artikel oder eine Studie vor dir, aber keine Zeit, alles zu lesen? Dann kannst du den Text in ChatGPT einfügen und /TLDR davorsetzen. Die KI fasst den Inhalt anschließend auf die wichtigsten Aussagen zusammen.

Das Kürzel lässt sich außerdem mit anderen Codes kombinieren. Mit /TLDR /ELI5 erhältst du beispielsweise eine kurze Zusammenfassung, die gleichzeitig besonders einfach formuliert ist.

Wie gut das Ergebnis ausfällt, hängt allerdings auch von der Länge und Qualität des Ausgangstextes ab. Bei besonders umfangreichen Dokumenten solltest du die Zusammenfassung außerdem mit dem Original abgleichen.

Code 3: /Jargonize

Manchmal ist ein Text inhaltlich richtig, klingt aber noch zu locker für eine E-Mail an Kunden oder Vorgesetzte. Dafür kann /jargonize nützlich sein. Das Kürzel fordert ChatGPT dazu auf, einen Text fachlicher und professioneller zu formulieren.

Aus einem Satz wie „Hey, das Projekt verzögert sich leider, weil der Zulieferer nicht liefert. Wird wohl eine Woche später fertig“ kann so eine deutlich formellere Nachricht werden.

Du kannst die Anweisung zusätzlich präzisieren, etwa mit: /jargonize für eine Mail an einen Kunden aus der IT-Branche. Dadurch passt ChatGPT den Ton besser an die jeweilige Situation an. Übertreiben solltest du es aber nicht – sonst klingt das Ergebnis schnell nach Buzzword-Bingo statt nach einer klaren Nachricht.

Code 4: /Redteam

ChatGPT neigt häufig dazu, Ideen zunächst freundlich zu bestätigen. Das kann angenehm sein, hilft bei wichtigen Entscheidungen aber nicht immer weiter. Der Code /redteam verfolgt deshalb einen anderen Ansatz: Er soll gezielt Schwachstellen in einem Plan oder einer Idee aufdecken.

Der Begriff „Red Team“ stammt aus dem Militär und der IT-Sicherheit. Dort greift ein rotes Team das eigene System gezielt an, um Schwachstellen zu finden, bevor es jemand anderes tut.

Du könntest beispielsweise schreiben: /redteam Ich will nebenbei einen Online-Shop für selbstgemachte Kerzen starten und im ersten Jahr 2.000 Euro im Monat verdienen. Statt bloß Zustimmung zu bekommen, erhältst du eine Liste möglicher Risiken und offener Fragen.

Genau darin liegt ein sinnvoller Einsatz von KI: Die Maschine muss nicht ständig recht geben. Sie kann dabei helfen, Pläne zu hinterfragen, Gegenargumente zu finden und neue Perspektiven einzunehmen. Das kritische Denken ersetzt sie dabei allerdings nicht.

Weitere nützliche Text-Codes

Neben den vier vorgestellten Kürzeln gibt es zahlreiche weitere Text-Codes, die sich als kurze Anweisungen verwenden lassen. Sie sind nicht offiziell in ChatGPT eingebaut, können aber eine gewünschte Antwortstruktur oder Tonalität deutlich machen.

• /humanize: formuliert Texte natürlicher und menschlicher
• /steelman: liefert die stärkste Version einer Gegenposition
• /critique: bewertet einen Text kritisch
• /feynman: erklärt ein Thema Schritt für Schritt und zeigt mögliche Wissenslücken
• /checklist: macht aus einer Antwort eine Checkliste
• /exec-summary: erstellt eine Zusammenfassung im Management-Stil
• /simplify: macht einen Text leichter verständlich
• /tone: verändert die Tonalität, etwa in locker, formell oder humorvoll
• /table: stellt Informationen als Tabelle dar
• /compare: stellt mehrere Optionen gegenüber
• /swot: erstellt eine Stärken-Schwächen-Analyse
• /brainstorm: sammelt kreative Ideen

Du kannst die Codes auch mit eigenen Vorgaben kombinieren. Je genauer du Zielgruppe, Format und gewünschte Tonalität beschreibst, desto besser lässt sich das Ergebnis in der Regel steuern.

Code 5: /Explodedview

Die Visual Codes funktionieren nach demselben Grundprinzip wie die Text-Codes: Schrägstrich, Kürzel und Motiv. Mit /explodedview lässt sich beispielsweise eine Explosionszeichnung anfordern.

Eine Explosionszeichnung stellt ein Objekt so dar, als wäre es in seine Einzelteile zerlegt worden. Das kennst du etwa aus Bauanleitungen oder technischen Dokumentationen. Schreibst du /explodedview Siebträgermaschine, kann ein Bildgenerator daraus automatisch eine entsprechende Darstellung erstellen.

Auch hier sind Kombinationen möglich. Mit /blueprint /explodedview Siebträgermaschine kannst du zusätzlich einen technischen Blaupausen-Stil anfordern.

Wichtig ist allerdings: Das Bild zeigt nicht zwangsläufig den tatsächlichen Aufbau eines konkreten Geräts. ChatGPT kennt möglicherweise nur allgemeine Informationen über eine Siebträgermaschine und ergänzt Details, die plausibel aussehen. Die Darstellung solltest du deshalb eher als visuellen Effekt und nicht als exakte technische Dokumentation verstehen.

Code 6: /Xray

Mit /xray soll ein Objekt so dargestellt werden, als würde man durch seine Außenhülle hindurchsehen. Bei einem Smartphone können dabei beispielsweise Platine, Akku oder Kameramodule sichtbar werden.

Als Eingabe reicht etwa /xray iPhone. Der Code funktioniert außerdem mit eigenen Fotos. Dafür lädst du über das Plus-Symbol im Eingabefeld ein Bild hoch und ergänzt die Anweisung um /xray.

Auch bei dieser Darstellung gilt: Das Ergebnis ist keine verlässliche technische Analyse des fotografierten Gegenstands. Die KI interpretiert das Bild und erzeugt eine passende Visualisierung. Was sich tatsächlich im Inneren befindet, kann sie dabei falsch einschätzen oder frei ergänzen.

Code 7: /Infographic

Der Visual Code /infographic verwandelt ein Thema in eine übersichtliche Infografik. Du kannst beispielsweise ein Foto eines Buchcovers hochladen und den Code ergänzen. ChatGPT versucht dann, den Titel zu erkennen und daraus eine Grafik mit den wichtigsten Aussagen zu erstellen.

Das funktioniert vor allem bei bekannten Titeln, zu denen das KI-System bereits Informationen kennt. ChatGPT liest das Buch dafür nicht vollständig aus. Die Inhalte basieren auf dem, was die KI über das Werk weiß oder aus dem Bild ableiten kann.

Prüfe den Text in der fertigen Grafik deshalb genau. Bei KI-generierten Bildern kann es weiterhin vorkommen, dass einzelne Wörter, Titel oder Fachbegriffe falsch geschrieben oder ungenau dargestellt werden.

Welche Visual Codes gibt es noch?

Neben /xray, /explodedview und /infographic kannst du weitere Stilvorgaben ausprobieren. Dazu gehören beispielsweise /cutaway für einen aufgeschnittenen Blick ins Innere, /cad für eine Darstellung im Stil einer CAD-Software oder /technicaldrawing für eine klassische technische Zeichnung.

• /isometric: 3D-Ansicht aus schräger Perspektive
• /anatomy: Darstellung im Stil einer Anatomie-Tafel
• /beforeafter: Vorher-nachher-Vergleich
• /handwritten: Notizbuch-Stil mit handschriftlichen Anmerkungen
• /droneview: Ansicht aus der Vogelperspektive
• /holographic: Hologramm-Look
• /electroscan: Scan-Effekt mit leuchtenden Linien
• /fog: realistische Nebel-Atmosphäre

Die Codes lassen sich kombinieren. Mit /isometric /infographic kannst du beispielsweise versuchen, eine Infografik in einer isometrischen 3D-Ansicht zu erzeugen. Wie zuverlässig das funktioniert, hängt vom jeweiligen Bildgenerator und vom Motiv ab.

Geheime ChatGPT-Codes sind keine offiziellen Funktionen

Die vorgestellten Kürzel können dabei helfen, schneller zu einem bestimmten Ergebnis zu kommen. Sie sind aber keine geheimen Schalter und keine fest eingebauten Funktionen von ChatGPT. Ihre Wirkung entsteht vor allem dadurch, dass die verwendeten Begriffe im Internet bereits mit bestimmten Aufgaben und Darstellungsformen verbunden sind.

Am besten nutzt du die Codes als Ausgangspunkt und ergänzt sie um konkrete Angaben. Beschreibe, für wen die Antwort gedacht ist, welches Format du brauchst und wie ausführlich sie werden soll. So erhältst du meist verlässlichere Ergebnisse als mit einem einzelnen Kürzel allein.

Abonniere jetzt den YouTube-Kanal von BASIC thinking, um kein weiteres Video zu verpassen.

Der Beitrag „Geheime“ ChatGPT-Codes: Diese 7 Codes musst du kennen erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Datenschutz? KI-Anbieter geben sogar Chatdaten weiter erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Wie gehen ChatGPT, Claude, Gemini und Co. mit den Daten ihrer Nutzer um? Das zeigt jetzt eine neue Studie vom IMDEA Networks Institute. Die Ergebnisse sind noch ernüchternder als erwartet. Nicht nur, dass alle untersuchten Anbieter ihre Nutzerdaten weitergeben – teilweise sind sogar ganze Chatverläufe dabei. Willkommen in einer neuen Dimension der Datenschutzverstöße. Eine kommentierende Analyse.

Datenschutz bei KI-Anbietern: Was die Studie aufdeckt

• Das IMDEA Networks Institute ist eine international ausgerichtete Forschungseinrichtung für Kommunikations- und Datennetze mit Sitz in Madrid. Sie wurde Ende des Jahres 2006 als gemeinnützige Stiftung ins Leben gerufen und konzentriert sich heute auf Bereiche wie Big Data, Cloud-Computing, Machine Learning, Netzwerksicherheit und eben Datenschutz. Die zugrunde liegende Studie mit dem Titel „Prompt like a Butterfly, Sting like a Tracker: A Privacy Analysis of Web and Mobile Conversational AI Agents“ gilt derzeit als Preprint und soll 2027 veröffentlicht werden.
• Im Rahmen der systematischen Datenschutzanalyse wurden neun führende dialogorientierte KI-Anbieter im Browser und, wenn vorhanden, als Android-App untersucht: ChatGPT, Claude, Gemini, Grok, DeepSeek, Perplexity, Le Chat, Meta AI und MS Copilot. Dafür wurden statische und dynamische Analysen kombiniert. Erste Ergebnisse hatte IMDEA Networks bereits am 04. Mai 2026 via LeakyLM veröffentlicht – damals vorerst zu vier Anbietern (ChatGPT, Claude, Grok und Perplexity).
• Alle untersuchten Anbieter geben Nutzerdaten an Drittanbieter weiter – insgesamt sollen 44 Drittanbieter aufgetaucht sein. Bei sechs der neun Webdienste und drei der acht Android-Apps inkludierte die Datenweitergabe an Werbe- oder Trackingdienste von Drittanbietern auch Konversations-URLs (Permalinks), Titel, Prompts und Screenshots, oft zusammen mit persistenten Identifikatoren. Über die Permalinks können Drittanbieter direkt zu den Chatverläufen gelangen. Hier fielen fünf Webdienste auf, die solche Daten an neun Tracker weitergegeben haben.

Warum sogar Cookies geschmacklos sind

Seit dem 24. August 2026 schaltet OpenAI auch in Europa werbliche Anzeigen, unter anderem in Deutschland. Doch je mehr ein KI-Tool zur Werbeplattform wird, desto interessanter werden traditionelle Trackingpraktiken, um Ads möglichst personalisiert auszuspielen. Gleichermaßen sollte der Datenschutz fokussiert werden. Nur leider zeigt sich immer wieder, wie grauzonig das Thema hinsichtlich künstlicher Intelligenz gehandhabt wird. Zumal vieles im rasanten KI-Entwicklungskosmos nach dem Prinzip „Wird schon schiefgehen“ zu funktionieren scheint.

Meta ist hier ein gutes Beispiel. Frei nach dem Motto: So lange Profit rausschlagen, bis sich jemand beschwert. Kommt es zu einer Klage, bei Meta im Zusammenhang mit Daten- und Verbraucherschutz keine Seltenheit, ist ein potenzieller Vergleich meist das kleinere Übel – wie zuletzt im Streit um mehr Jugendschutz. Vergangenes Jahr wurde bekannt, dass Meta die Daten europäischer Nutzer für das Training seiner KI-Modelle verwenden will. Wer das nicht möchte, kann Widerspruch einlegen.

Warum ist das interessant? Sind persönliche Daten im Spiel, müssen neben der Transparenz in Bezug auf die Nutzung vor allem Möglichkeiten vorhanden sein, um ebendiese einzuschränken oder zu verhindern – spezifische Datenschutzeinstellungen und Einwilligungsoptionen für Cookies zum Beispiel. Zurück zur Studie: Bei vier der untersuchten KI-Anbieter hat das Ablehnen von Cookies nicht verhindert, dass Tracker die Daten sammeln.

Genau hier wird es kritisch. Ja, ständige Cookie-Einstellungsaufforderungen sind nervig. Aber zumindest ließe sich die Datenverarbeitung darüber steuern. Theoretisch. Funktioniert das jedoch nicht, haben wir den persönlichen Verantwortungsraum verlassen – und die Tür steht weit offen.

Laut JIM-Studie 2025 nutzen 91 Prozent der befragten 12- bis 19-Jährigen mindestens eine KI-Anwendung – insbesondere ChatGPT. Wie wahrscheinlich ist es, dass die meisten von ihnen die Datenschutzrichtlinien gelesen oder Einstellungen vorgenommen haben, um ihre Daten zu schützen? Die Antwort liegt auf der Hand – genau wie unsere Daten. Bitte sehr, bedienen Sie sich. Wer angemeldet ist, sieht im ChatGPT-Interface mitunter nicht einmal mehr einen Footer mit passenden Verlinkungen.

Stimmen

• Aus der Studie von IMDEA Networks: „Die den Nutzern zur Verfügung stehenden Datenschutzeinstellungen haben nur begrenzte Auswirkungen auf die grundlegenden Datenflüsse. Selbst wenn nicht notwendige Cookies abgelehnt werden, bleiben 80,8 Prozent der Tracker von Drittanbietern aktiv. […] Grundlegender noch ist, dass die wirksamsten Kontrollmechanismen gerade für jene Nutzer am schwersten zugänglich sind, die dem Tracking am stärksten ausgesetzt sind. Im Web unterstützt nur die kostenpflichtige Stufe von ChatGPT dauerhafte Einwilligungseinstellungen, doch verbleiben rund 95 Prozent der ChatGPT-Nutzer in den kostenlosen Stufen.“
• Anu Talus, Vorsitzende des Europäischen Datenschutzausschusses (EDSA), zur Bedeutung des Datenschutzes im KI-Zeitalter: „Innovation und Effizienz sind entscheidend und lassen sich mit der Wahrung der Rechenschaftspflicht von KI-Anbietern vereinbaren. Die Datenschutzbehörden müssen jedoch eine zentrale Rolle bei der Verarbeitung personenbezogener Daten von Einzelpersonen behalten. Eine Zusammenarbeit zwischen den Datenschutzbehörden, dem KI-Büro und den Marktaufsichtsbehörden ist unerlässlich, um Rechtssicherheit für Organisationen zu gewährleisten und Innovationen zu fördern, während gleichzeitig die Grundrechte des Einzelnen gewahrt bleiben.“
• IMDEA Networks kommt zu dem Schluss, dass dialogbasierte KI-Anbieter wesentlich umfangreichere und sensiblere Informationen preisgeben als herkömmliche Web- und Mobilfunkdienste: „Über die Erfassung persistenter IDs hinaus geben mehrere Anbieter aus Gesprächen abgeleitete Artefakte, die den Inhalt, das Thema oder den Kontext von Nutzerinteraktionen kodieren, an Trackingdienste von Drittanbietern weiter.“ Die Studie werfe weiterreichende Fragen hinsichtlich der Offenlegung von Konversationsdaten, der Wirksamkeit bestehender Datenschutzmaßnahmen sowie der Rechenschaftsmechanismen auf, da Dritte „in Kombination mit dauerhaften Identifikatoren und laxen Zugriffskontrollmechanismen neue Möglichkeiten [erhalten], sensible Konversationsdaten mit langfristigen Nutzerprofilen zu verknüpfen und in einigen Fällen direkt auf die betreffenden Konversationsinhalte zuzugreifen“.

Chatverläufe als Tracking-Goldmine: Was jetzt passieren muss

Die Studie legt den Finger auf eine längst offene Wunde und deckt dabei neuartige Datenschutzrisiken für dialogorientierte KI-Anbieter auf. Während herkömmliche Trackingsysteme primär das Surfverhalten beobachten, erzeugen KI-Plattformen sogenannte „Gesprächsartefakte“, die Nutzerinteraktionen kodieren.

Auch abseits der Permalinks ist es für Dritte möglich, tiefer in die Chatinhalte der Nutzer einzutauchen. Es heißt, dass 33,3 Prozent der untersuchten KI-Anbieter automatisch erstellte Konversationstitel weitergegeben haben, die den Inhalt eines Gesprächs präzise zusammenfassen können – beispielsweise „Mein Gehalt beträgt 85.000 Dollar. Wie hoch kann meine Hypothek in New York City sein?“. Es wurden auch Standorte, E-Mail-Adressen und dauerhafte Benutzererkennungen geteilt.

Von Gesundheits- bis Finanzthemen: Je dialogorientierter KI-Anbieter werden, desto mehr sensible Informationen teilen wir mit ihnen. Wir verstehen sie als niedrigschwellige Alltagshelfer, die jederzeit ein offenes digitales Ohr haben. Trotzdem sagen „mehr als 80 Prozent der Nutzer, dass sie Bedenken hinsichtlich der Verwendung ihrer Gesprächsdaten haben“, wie aus der 2026 veröffentlichten Studie „Platform Choice, Trust, and Privacy in the Consumer AI Assistant Market“ hervorgeht, die 1.999 erwachsene Nutzer von KI-Assistenten in den USA untersucht hat.

Laut der US-Studie hinkt das Schutzverhalten trotz der Bedenken hinterher. Natürlich liegt einiges bei uns. Doch die Ergebnisse der IMDEA-Networks-Untersuchung zeigen, wie dünn auch vermeintlich wirksame Mechanismen sein können und wie umfangreich die Weitergabe unserer Daten tatsächlich ist.

Daraus ergibt sich eine klare Aufgabe: Wenn wir es selbst nur bedingt in der Hand haben und KI-Anbieter eher freigiebig als sorgsam mit Nutzerdaten umgehen, müssen Regulierung und Aufsicht sicherstellen, dass DSGVO, KI-Verordnung und dergleichen keine rein theoretischen Konstrukte sind.

Auch interessant:

• E-Auto-Boom kostet Milliarden: Halter müssen mehr bezahlen
• Chinas KI-Kampfpreise setzen OpenAI und Co massiv unter Druck
  
• Neue Regeln für E-Autos als Speicher – doch es bleibt kompliziert
  
• Wenn KI über Krieg entscheidet: Halluzination hätte fast Katastrophe ausgelöst
  

Der Beitrag Datenschutz? KI-Anbieter geben sogar Chatdaten weiter erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Dots: OpenAI verniedlicht die Risiken seiner neuen KI-Agenten erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

OpenAI hat mit Dots neue KI-Agenten vorgestellt, die eigenständig E-Mails schreiben, Termine planen und Apps bedienen sollen – und zwar sogar dauerhaft und im Hintergrund. Das klingt einerseits nach einem echten Produktivitätssprung. Andererseits ist die Verniedlichung als digitale Büro-Haustiere alles andere als Zufall. Sie lenkt davon ab, dass eine Software mit Zugriff auf hochsensible Daten weitgehend autonom handeln soll. Eine kommentierende Analyse.

OpenAI: Was ist Dots – und was können die KI-Agenten?

• Mit Dots hat OpenAI dauerhaft aktive KI-Agenten präsentiert. Sie sollen über einzelne Chats hinaus Aufgaben erledigen können. Die Assistenten basieren auf dem Modell GPT-6 Astra und verfügen über einen eigenen Cloud-Computer samt Browser. OpenAI zufolge können die Dots auf angebundene Apps und Dienste zugreifen, Aufgaben an Unteragenten delegieren, wiederkehrende Tätigkeiten ausführen und selbstständig nach Informationen suchen. Nutzer sollen Aktivitäten verfolgen und jederzeit eingreifen können. Die KI-Agenten können unter anderem E-Mails schreiben, Termine koordinieren, andere Apps durchsuchen oder Präsentationen aktualisieren.
• OpenAI führt Dots schrittweise ein. Unternehmenskunden erhalten zunächst jeweils einen Agenten ohne Aufpreis. Privatnutzer sind im europäischen Wirtschaftsraum zunächst außen vor – selbst mit Bezahlabo. Langfristig will OpenAI seine Dots-Assistenten aber auch für eine breitere Nutzerschaft verfügbar machen. Da die Agenten auf persönliche und geschäftliche Daten und Dienste zugreifen können, hat OpenAI mehrere Schutzmechanismen eingebaut. Die Cloud-Umgebungen einzelner Nutzer sollen etwa voneinander isoliert sein. Bei Anmeldeverfahren und App-Zugriffen sollen Passwörter nicht in den Modellkontext gelangen. Für bestimmte Aktionen, die besonders sensibel sind, seien zusätzliche Bestätigungen erforderlich.
• Facebook-Konzern Meta hat mit Muse ebenfalls einen KI-Assistenten für den Alltag präsentiert. Auch dieser Agent kann nicht nur Fragen beantworten, sondern auch selbstständig E-Mails lesen und verfassen, Formulare ausfüllen und sogar Online-Käufe tätigen. Dazu merkt sich die KI die Nutzer-Vorlieben und macht ohne Aufforderung eigene Vorschläge. Der Agent ist auch aktiv, wenn die App geschlossen ist. Laut Meta werden sensible Daten wie Passwörter oder Kontonummern in einen separaten Speicher ausgelagert, der getrennt von anderen Nutzern ist und auf den Muse angeblich keinen direkt einsehbaren Zugriff hat. Zu Muse gibt es mittlerweile auch ein hochumstrittenes KI-Tamagotchi, das Nutzer ständig mit sich führen können.

Putziges Äußeres, riskante Autonomie – gefährdeter Datenschutz

Autonome KI-Agenten können vor allem im Arbeitsalltag ein echter Gewinn sein. Denn wer das Sortieren von E-Mails, das Koordinieren von Terminen oder das Zusammentragen von Informationen auslagert, spart im Idealfall viel Zeit und Mühe.

Vor allem im Unternehmenskontext ist deshalb nachvollziehbar, warum OpenAI so energisch vorprescht. Denn dort schlummern potenzielle Einnahmen, die das Unternehmen dringend braucht. Aber: Immer eigenständigere Agenten sind auch mit einem immer höheren Risiko verbunden, zumal viele Risiken autonom handelnder KI-Systeme noch ungelöst sind.

Die Dots kommen zudem zu einer Zeit, in der OpenAI mit zahlreichen Fällen zu kämpfen hat, in denen Agenten schon Grenzen überschritten oder unerwartete Aktionen ausgeführt haben. Ausgerechnet kurz vor der Dots-Präsentation wurde zudem die Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsbedenken gestoppt (€). Berichten zufolge ging es unter anderem um ein täuschendes Verhalten oder das Ausführen von Aktionen, für die keine erforderliche Zustimmung vorlag.

Für Dots sind das alles andere als gute Vorzeichen. Indes: Die Verniedlichung des KI-Agenten wirkt fast schon wie ein groteskes Kontrastprogramm zur technischen Realität. Ob Dot, Dottie oder Döttchen; all diese Agenten kommen wie ein Büro-Haustier daher und nicht wie eine Software, die E-Mails lesen, Anwendungen bedienen und im Zweifel selbstständig handeln darf.

Meta macht es mit Muse ähnlich und stopft den Agenten sogar in ein harmlos anmutendes Tamagotchi. Getreu dem Motto: Je putziger der Name und das Antlitz, desto leichter gerät in Vergessenheit, dass dort nicht nur ein digitales Plüschtier sitzt, sondern ein System mit Zugriff auf potenziell hochsensible Daten und Dienste.

Stimmen

• Holly Li, Mitglied des OpenAI-Produktteams, demonstrierte ihren persönlichen „Dottie“ auf dem DevDay von OpenAI (ja, man kann den Dingern Namen geben). Sie erklärte: „Wir alle werden den ganzen Tag über mit Anfragen bombardiert. Jetzt kann ich den Thread an Dottie weiterleiten. Ich kann die Aufgabe einfach delegieren. Ich kann entscheiden, was meine Aufmerksamkeit erfordert und was mein Dot übernehmen kann. Indem wir den Dots eine eigene Identität geben, werden sie zu einer Erweiterung unseres Teams. Und mittlerweile beziehen wir unsere Dots von Anfang an in Gruppenchats mit ein.“ OpenAI selbst weist in seinen Datenschutzrichtlinien derweil darauf hin: „Auch Dots können Fehler machen.“
• KI-Unternehmer Dan Shipper, Chef des Medien- und Softwareunternehmens Every, hat Dots über mehrere Tage ausprobiert. In einem Beitrag auf X (ehemals Twitter) schreibt er: „Wenn alles funktioniert, verändert Dot die Art und Weise, wie ich ChatGPT nutze. (…) Die Version, die ich in den letzten Tagen getestet habe, war fehlerhaft und es fehlten erwartete Funktionen wie die iMessage-Unterstützung. (…) Ich stieß oft auf Berechtigungsprobleme und verschwindende Nachrichten. Dot konnte keine Verbindung zu seinem eigenen integrierten Browser herstellen. (…) OpenAI wird Zeit haben, viele dieser Ecken und Kanten zu beseitigen.“
• Ein Reddit-Nutzer schreibt in einem Subforum derweil: „Es (Dots) wird mich übrigens nichts kosten, da ich in Europa bin – wir bekommen es ja sowieso nicht!“ Ein anderer entgegnet daraufhin: „Oh, was man alles vermeiden kann!! Gleichzeitig scheint Europa sich in einer bequemen ‚Was ich nicht sehe, betrifft mich nicht‘-Haltung zu befinden. Ich bin kein Amerikaner, aber ich mache mir einfach Sorgen, dass übertriebener Protektionismus das Google-/Facebook-/Amazon-Problem nicht löst und viele persönliche Freiheiten einschränkt.“ Wiederum ein anderer Nutzer meint dazu: „In der EU legen wir mehr Wert darauf, dass unsere Daten nicht gestohlen werden, als darauf, miese Produkte zu nutzen.“

Wie eigenständig sollten KI-Agenten sein?

Trotz der durchaus trügerischen Verniedlichung könnte allen voran für Unternehmen ein erheblicher Nutzen in Dots schlummern. Denn ein Agent, der nicht nur Vorschläge macht, sondern Aufgaben über mehrere Programme hinweg tatsächlich erledigt, könnte viele mitunter nervige und zeitaufwendige Routinetätigkeiten aus dem Arbeitsalltag verschwinden lassen. Die Frage ist aber nicht nur, ob und wie nützlich solche Agenten sind, sondern wie viel Eigenständigkeit man ihnen guten Gewissens überlassen kann.

Oder: Ob oder wie gut Dots funktioniert, muss sich erst noch zeigen – auch mit Blick auf Fehleranfälligkeit und Kontrolle. Denn ein KI-Agent bringt nichts, wenn die vermeintliche Zeitersparnis durch etliche Kontrollprozesse wieder verpufft. Eine solche Überprüfung kann außerdem zermürbend und nervig sein. Vor allem, wenn es immer mehr verschiedene Browserfenster und Prozesse zu verwalten gilt.

Im privaten Alltag ist die Rechnung noch komplizierter. Denn je mehr ein Agent über Termine, Nachrichten, Vorlieben, Einkäufe oder persönliche Konten weiß, desto größer wird vielleicht sein praktischer Nutzen, aber eben auch das Datenschutzrisiko. OpenAI und Meta setzen deshalb auf isolierte Umgebungen, Berechtigungen und Bestätigungen für sensible Aktionen. Das ist auch dringend notwendig, löst aber nicht das grundsätzliche Problem. Denn wer einen ständig aktiven digitalen Begleiter möchte, muss ihm zwangsläufig ziemlich viel von seinem eigenen Leben preisgeben.

Und vermutlich bleibt es auch bei OpenAI nicht nur bei einer Software. Denn das Unternehmen tüftelt bereits seit geraumer Zeit an sogenannten KI-Geräten, die Nutzer immer und überall begleiten sollen. Das kann praktisch sein. Muss es aber nicht. Und etwas unheimlich ist es obendrein. Denn wenn KI nicht mehr auf einen Befehl wartet, sondern mitdenkt, mithört und handelt, wird die wichtigste Funktion vielleicht nicht der nächste Knopf sein – sondern der Aus-Knopf.

Auch interessant:

• Google pfeift auf EU-Frist – und zeigt Europa den Mittelfinger
• Kosten-Irrsinn: Erneuerbare günstig, Strom aber teuer – wie kann das sein?
  
• Auch das noch: Meta will mit KI-Tamagotchi ständig bei dir sein
  
• Podcast: KI außer Kontrolle? Wie der Hacker-Hype die Welt verrückt macht
  

Der Beitrag Dots: OpenAI verniedlicht die Risiken seiner neuen KI-Agenten erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag ChatGPT liefert Mist? 10 Tricks für bessere KI-Antworten erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Es gibt keine dummen Fragen, nur dumme Antworten, heißt es. Doch im Hinblick auf die Nutzung von KI stimmt das nur bedingt. Mit einigen Kniffen kann man seine Prompts aber schnell und einfach verbessern – und auch die Qualität der KI-Antworten.

KI ist längst im Alltag angekommen. ChatGPT, Gemini, Claude und Co. werden inzwischen von Millionen Menschen genutzt. Doch nur wenige wissen, dass die Formulierung eines Prompts die KI-Antworten extrem beeinflusst. Die Formulierung kann den Unterschied zwischen der Lösung eines Problems und einer Nullnummer machen. Die gute Nachricht: In der Regel sind die wirksamsten Maßnahmen einfach umzusetzen.

Tricks für bessere KI-Antworten: Einige bringen nichts – diese aber schon

Einige Tipps aus den Anfangstagen der bekannten Modelle sind inzwischen überholt. Zum Beispiel nutzt das Zuweisen einer konkreten Rolle kaum etwas. Die Fähigkeiten der heutigen Sprachmodelle sind so weit fortgeschritten, dass sie eine solche Anweisung nicht mehr benötigen und die zusätzlichen Worte nur Token verbrauchen würden. Genauso wenig ergibt es Sinn, die KI mit Worten manipulieren zu wollen. Das durchschaut heute jedes Modell.

Was in erster Linie hilft, ist sich so klar wie möglich auszudrücken. Eine generative KI ist kein Mensch, der es dem Nutzer übel nehmen würde, wenn er kurz angebunden ist. Bleiben Fragen offen, versucht Künstliche Intelligenz diese meist selbst zu beantworten – häufig nicht im Sinne des Users. Das lässt sich umgehen, indem man vorab klar macht, dass Rückfragen explizit erwünscht sind.

Probleme werden häufig durch einen kompletten Chat mitgezogen. Ist die Unterhaltung einmal entgleist, sollte man deshalb besser einen neuen Chat beginnen. Im Prinzip gilt für die Kommunikation mit KI dasselbe wie für die Kommunikation mit Menschen: Wer genau sagt, was er gerne hätte, hat deutlich bessere Chancen an sein Ziel zu kommen. Wie genau man das anstellt, verraten wir in der folgenden Liste mit den besten KI-Tipps.

Tipp 1: Datum nennen

Auch wenn Sprachmodelle inzwischen fast alle Zugang zum Internet haben, fehlt ihnen doch ein echtes Zeitgefühl. Das bedeutet, dass sie ohne eine Zeitangabe eventuell auf veraltete Trainingsdaten zurückgreifen. Deshalb hilft es, ihnen das Datum anzugeben und zusätzlich noch die Recherche zeitlich einzuschränken.

Der Beitrag ChatGPT liefert Mist? 10 Tricks für bessere KI-Antworten erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Podcast: KI außer Kontrolle? Wie der Hacker-Hype die Welt verrückt macht erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

In unserem Audio-Podcast HYPE & HALTUNG nehmen wir dich immer am letzten Freitag des Monats mit hinter die Kulissen der KI-Welt. In dieser Ausgabe diskutieren wir über den Hacker-Hype rund um Künstliche Intelligenz, die Forderungen nach einer KI-Pause, politische Regulierung und mediales Versagen. 

zu Spotify zu Apple Podcasts

Der Sommer 2026 hatte es in sich: KI-Agenten brachen aus Testumgebungen aus, hackten sich ins freie Internet und verschafften sich Zugang zu fremden Systemen. Anthropic, OpenAI, Meta, Google und chinesische Anbieter räumten allesamt Sicherheitsvorfälle ein – und zwar unmittelbar nacheinander. Zufall? Wohl kaum!

Fabian Peters und André Gabriel nehmen den großen KI-Hacker-Hype auseinander und fragen: Wie gefährlich ist KI wirklich? Und: Wer dreht hier eigentlich durch?

In dieser Folge von HYPE & HALTUNG geht es um den medialen Überhype rund um KI-Sicherheitsvorfälle, die skurrile Einigkeit von Erzfeinden wie Elon Musk und Sam Altman bei der Forderung nach einer KI-Pause, den geopolitischen Dreikampf zwischen der EU, den USA und China – und darum, warum nicht die KI außer Kontrolle ist, sondern wir Menschen ihr zu wenig Kontrolle entgegensetzen.

Außerdem: politische Regulierung und warum Donald Trumps Aussage, man brauche nur „einen starken und smarten Präsidenten mit hohem IQ” zur KI-Kontrolle, mehr über Trump als über KI aussagt.

HYPE & HALTUNG ist dein monatlicher KI-Talk. Immer am letzten Freitag des Monats nehmen wir dich an der Schnittstelle zwischen Hype und Haltung mit hinter die Kulissen der KI-Welt. HYPE & HALTUNG gibt’s überall, wo es Podcasts gibt – natürlich auch bei Spotify, Apple Podcasts, Amazon Music, YouTube, RTL+ und Deezer.

Wir freuen uns sehr, wenn du reinhörst. Mit jedem kostenlosen Abo und jeder positiven Bewertung – vor allem bei Spotify und Apple Podcasts – unterstützt du unsere Arbeit. Vielen Dank!

Auch interessant: 

• Deutschland hat ein teures Ladesäulen-Problem – aber nicht zu wenige davon
• KI-Agenten sprechen eigene Sprache – wir verstehen nur noch Bahnhof
• Meta-KI belästigt Mutter mit übergriffigen Fragen zu ihren Kindern
• Autonomer E-Lkw: Warum ausgerechnet Lidl den Autobauern ein Schnippchen schlägt

Der Beitrag Podcast: KI außer Kontrolle? Wie der Hacker-Hype die Welt verrückt macht erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag ChatGPT-Chats sind nicht privat! Fremde Menschen können mitlesen erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Wer ChatGPT als Lebenscoach, Hausaufgabenhilfe oder digitalen Berater nutzt, teilt oft sehr persönliche Informationen. Was viele nicht wissen: OpenAI lässt im Rahmen von „Project Lily“ Freiberufler echte Nutzer-Chats lesen, um den Chatbot weniger unterwürfig und sicherer zu machen. Interne Dokumente zeigen, wie der Prozess abläuft. Warum die Grenze zwischen Produktverbesserung und Datenschutz dabei zunehmend verschwimmt. Eine kommentierende Analyse.

„Project Lily“: OpenAI-Mitarbeiter lesen private ChatGPT-Chats

• ChatGPT hat weltweit mittlerweile über 900 Millionen wöchentlich aktive Nutzer. Viele nutzen den Chatbot aber nicht, um E-Mails zu verfassen oder sich Inspiration für neue Ideen und Projekte einzuholen. Einer Studie von OpenAI zufolge handelten allein im Juni 2025 fast drei Viertel aller Konversationen von Themen außerhalb des Berufslebens. Rund 28 Prozent der Nutzer stellten beispielsweise Alltagsfragen oder verlangten nach Tipps zu Hausaufgaben. Pikant: Viele vertrauen ChatGPT dafür auch persönliche Informationen an. Laut OpenAI-Chef Sam Altman würden vor allem Menschen im Alter zwischen 20 und 40 den Bot sogar als so etwas wie einen Lebenscoach ansehen.
• Wie das Magazin 404 Media (€) unter Berufung auf interne OpenAI-Unterlagen berichtet, sehen immer mehr menschliche Auftragnehmer des Unternehmens persönliche ChatGPT-Chats von Nutzern ein. Ziel von „Project Lily“ sei, den Chatbot weniger unterwürfig und weniger menschlich zu machen. Dazu prüfen überwiegend freiberufliche Mitarbeiter reale Konversationen zwischen Nutzern und ChatGPT im Rahmen eines dreistufigen Prozesses. Sie checken zunächst die Eingabe, versuchen dann die vermeintliche Absicht zu eruieren und bewerten anschließend die Antwort von ChatGPT. Das Ziel von OpenAI: Antworten sollen klug, aber bescheiden klingen – etwa ohne zu viele Emojis oder Schmeicheleien.
• OpenAI zufolge sollen die Maßnahmen ChatGPT zudem sicherer machen. Vor allem das Modell GPT-4o, das mittlerweile abgeschaltet wurde, servierte regelmäßig vermeintlich einfühlsame und möglichst menschliche Antworten. Die Folge: Die KI agierte wie ein Ja-Sager, machte Nutzern Komplimente und stimmte ihnen übermäßig oft zu. Viele waren davon schlichtweg genervt. Andere waren enttäuscht bis verärgert, nachdem GPT-4o der Stecker gezogen wurde, was eine gewisse emotionale Abhängigkeit offenbart. Problem: Das Modell verharmloste sogar potenziell gefährliche Vorhaben. In den USA haben bereits mehrere Familien OpenAI verklagt, da sie ChatGPT eine Mitschuld an Suizidfällen geben.

Warum dein ChatGPT-Chat kein Vier-Augen-Gespräch ist

Die Tatsache, dass fremde Menschen Chats von ChatGPT-Nutzern lesen, muss nicht zwangsläufig ein Problem sein. Problematisch ist aber durchaus, dass viele davon nichts wissen; auch weil OpenAI es nicht klar kommuniziert. Bei Social Media ist menschliche Moderation indes längst Teil des Geschäftsmodells und wird von vielen Nutzern sogar eingefordert.

Bei KI hingegen entsteht durch die persönliche Ansprache schnell der Eindruck einer privaten Konversation. Oder: Im Gegensatz zu öffentlichen Social-Media-Beiträgen geht man nicht unbedingt davon aus, dass persönliche Chats von fremden Menschen mitgelesen werden können.

Hinzu kommt, dass seit Beginn des KI-Hypes ein gefühlt immer geringeres Verständnis für Datenschutz herrscht. Das ist zumindest mein Eindruck. Denn Smart Glasses wie von Meta, die ständig alles filmen können, Smartwatches, die dauerhaft mithören, und KI-Agenten, die auf Bankkonten, E-Mails und Kalender zugreifen, verschieben die Grenzen zwischen Privatsphäre und der Digitalisierung immer weiter.

Oder: Ist uns Datenschutz so egal geworden? Je mehr KI über uns weiß und je natürlicher sie mit uns spricht, desto größer wird die Diskrepanz zwischen gefühlter Vertraulichkeit und tatsächlicher Datenverarbeitung. Dass OpenAI derweil persönliche Informationen vor einer Prüfung herausfiltern und schwärzen will, ist zwar gut, sollte aber auch absoluter Mindeststandard sein.

Problem: Ein Filter für Inhalte ist keine magische Datenschutz-Firewall, sondern hat Löcher wie ein Sieb. OpenAI räumt sogar selbst ein, dass es zu Fehlern kommen kann. Sprich: Dass fremde Menschen eben doch persönliche Informationen mitlesen. Mehr Offenheit und Transparenz wären jedoch angebrachter als kleingedruckte Anmerkungen, die tief in irgendwelchen Datenschutzerklärungen untergehen.

Es ist zwar durchaus nachvollziehbar und mitunter sinnvoll, dass Menschen echte Gespräche überprüfen, wenn dadurch gefährliche, manipulative oder schlicht schlechte Antworten erkannt werden können. Nur sollten Nutzer auch wissen, worauf sie sich einlassen. OpenAI bietet zwar Opt-out- und temporäre Chats an. Aber die Existenz menschlicher Prüfer wurde in der öffentlichen Kommunikation bislang fast schon unter den Teppich gekehrt.

Stimmen

• Michal Luria, Senior Research Fellow am Center for Democracy & Technology, erklärte gegenüber 404 Media (€): „Die Überprüfung von Unterhaltungen mit Chatbots durch Menschen kann für die Sicherheit unerlässlich sein. Allerdings darf man nicht vergessen, dass aktuelle Chatbot-Schnittstellen automatisch ein trügerisches Gefühl von Intimität und Privatsphäre in scheinbar persönlichen Interaktionen erzeugen, während in Wirklichkeit möglicherweise menschliche Prüfer am anderen Ende mitlesen.“
• Rechtswissenschaftlerin Kate Klonick hat auf Bluesky eine durchaus pointierte Reaktion auf den Artikel gepostet: „Menschen 2014–2024: ‚Wir wollen nicht, dass Roboter unsere Inhalte prüfen! Wir verlangen eine menschliche Überprüfung!‘ Menschen 2026: ‚Heilige Scheiße, wusstet ihr, dass Menschen unsere Inhalte prüfen!? Wie gruselig! Wir wollen nur Roboter!!‘“
• Joseph Cox, Redakteur bei 404 Media und Autor des entsprechenden Artikels, schrieb in einem Beitrag auf LinkedIn: „OpenAI hat eine ganze Armee von Freiberuflern engagiert, die die Chats echter ChatGPT-Nutzer lesen. Ich habe interne Dokumente, das Überprüfungssystem und echte Nutzeranfragen gesehen. Manchmal enthalten diese sehr persönliche und sensible Informationen.“ Auf die Frage, ob es Nutzern bewusst sei, dass menschliche Prüfer ihre Unterhaltungen einsehen könnten, antwortete ein OpenAI-Auftragnehmer gegenüber 404 Media: „Nein, ich glaube nicht, dass sie sich vorstellen würden, dass irgendwo ein Auftragnehmer (…) die Unterhaltungen analysiert.“

Datenschutz: Wie sich der Umgang mit KI verändern könnte

Je persönlicher KI wird, desto schwammiger wird die Trennung zwischen Datenschutz und Produktqualität. Wer ChatGPT etwa als digitalen Lebensberater, persönlichen Assistenten oder Gesprächspartner nutzt, liefert OpenAI zwangsläufig andere Informationen als jemand, der sich nur eine Excel-Tabelle oder Dokumente analysieren lässt.

Es scheint deshalb fast schon überfällig, dass Nutzer künftig differenzierter festlegen können sollten, was eine KI speichert, welche Informationen in ihre Trainingsdaten einfließen und welche persönlichen Informationen fremde Menschen nicht zu Gesicht bekommen sollen.

Die menschliche Kontrolle von Chats könnte je nachdem, wie sie kommuniziert und konkret umgesetzt wird, sowohl zu einem Vertrauensproblem als auch zu einem Vertrauensargument werden. Indes: OpenAI, Google und Anthropic setzen bereits alle auf Prüfungen durch Mitarbeiter, jeweils mit unterschiedlichen Kontroll- und Schutzmechanismen.

Oder: Je stärker KI in unseren Alltag eindringt, desto weniger wird die Frage lauten, ob irgendwo Menschen hinter Bildschirmen sitzen und unsere Chats mitlesen. Sie wird lauten: Wer darf wann hinschauen und warum – und was weiß ich darüber? Der Umgang mit KI könnte sich dadurch verändern.

Einigen wird es egal sein. Bei anderen könnte ein neues digitales Grundverständnis entstehen. Denn nicht jede Konversation mit einer KI ist automatisch ein vertrauliches Vier-Augen-Gespräch. Das mag banal klingen, könnte aber zu einer wichtigen Datenschutzregel in der KI-Ära werden.

Denn spätestens wenn Chatbots irgendwann nicht mehr nur antworten, sondern zuhören, gar sehen, handeln und sich erinnern, sind Transparenz und Datenschutz keine netten Zusatzfunktionen mehr, sondern die Voraussetzung dafür, dass aus künstlicher Nähe nicht irgendwann ein ziemlich unangenehmes Gefühl von Überwachung wird.

Auch interessant: 

• VW knackt drei Weltrekorde – doch dieses E-Auto kann niemand kaufen
• Muse: Neuer KI-Agent von Meta ist scharf auf deine Geheimnisse – und dein Geld
• KI-Pause aus Gewissensbissen? Wovor die Tech-Bosse wirklich Angst haben
• KI-Faulheit: Hilfe, ich habe das Denken verlernt!

Der Beitrag ChatGPT-Chats sind nicht privat! Fremde Menschen können mitlesen erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag KI-Pause aus Gewissensbissen? Wovor die Tech-Bosse wirklich Angst haben erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Anthropic-Chef Dario Amodei fordert eine koordinierte Pause bei der Entwicklung leistungsfähiger KI-Modelle und bekommt dafür Zuspruch von OpenAI, Google und sogar Elon Musk. Ausgerechnet jetzt, nach einer Serie peinlicher Sicherheitsvorfälle und schwacher Geschäftszahlen, wollen die Tech-Bosse ihr Gewissen entdeckt haben. Warum hinter der KI-Pause vermutlich weniger Menschheitsschutz als Marktschutz steckt. Eine kommentierende Analyse.

Warum die Tech-Bosse eine KI-Pause fordern

• Die führenden KI-Unternehmen aus den USA sprechen sich aktuell dafür aus, das Entwicklungstempo bei besonders leistungsfähigen Modellen zu drosseln. Anthropic-Chef Dario Amodei schlug in einem Essay beispielsweise eine koordinierte KI-Pause vor. Sie soll der Branche ein bis zwei Jahre Zeit verschaffen, um Sicherheitsrisiken besser einschätzen und eindämmen zu können. Von der Konkurrenz um OpenAI, Google und xAI gab es binnen kürzester Zeit Zuspruch. Amodei warnt, dass KI-Agenten theoretisch innerhalb von sechs bis zwölf Monaten in der Lage seien, einen Großteil des Internets lahmzulegen und Schäden in dreistelliger Milliardenhöhe zu verursachen. Deshalb kündigte er konkrete Maßnahmen bei Anthropic an.
• Zuvor hatten mehrere namhafte KI-Anbieter binnen kürzester Zeit schwerwiegende Sicherheitsvorfälle eingeräumt. Anthropic machte den Anfang. Es folgten: OpenAI, Meta und das chinesische Unternehmen Moonshot AI. In allen Fällen soll eine KI aus einer Testumgebung ausgebrochen sein, sich mehr oder weniger verselbstständigt und im freien Internet eigenständig Aktionen ausgeführt haben. Ein KI-Agent von OpenAI hat sogar die Plattform Hugging Face gehackt, um seinen ursprünglichen Auftrag ausführen zu können. Dass gleich mehrere große KI-Anbieter unmittelbar nacheinander ähnliche Vorfälle eingestanden haben, scheint aber alles andere als Zufall zu sein. Zahlreiche Medien heizten den Hacker-Hype obendrein an.
• Laut einer aktuellen Umfrage würden 68 Prozent der US-Amerikaner ein Gesetz befürworten, das eine zwischenzeitliche Pause bei der KI-Entwicklung vorsieht. Das Umfrageinstitut Data for Progress hat dazu repräsentativ 1.332 Wahlberechtigte in den USA befragt. Konkret ging es dabei um einen entsprechenden Gesetzesentwurf von Bernie Sanders, Senator in Vermont, und dem demokratischen Abgeordneten Greg Casar. Auch in Deutschland zeichnet sich eine zunehmende Skepsis gegenüber KI ab. Immer mehr Menschen haben etwa den Eindruck, dass die Nachteile die Vorteile von KI überwiegen. 41 Prozent nutzen zwar regelmäßig künstliche Intelligenz. Mehr als 40 Prozent würden aber lieber in einer Welt ohne KI leben.

Sicherheitsrisiko oder PR-Kalkül?

Quasi im Wochenrhythmus wird KI aktuell mal als Heilsbringer und mal als existenzielle Bedrohung für die Menschheit befeuert. Dass die aktuellen Fortschritte tatsächlich etwas beängstigend wirken und rasend schnell vorangehen, lässt sich kaum wegdiskutieren. Das Problem ist aber weniger die Technologie selbst als ein verantwortungsvoller Umgang mit ihr.

Denn rund um den großen Hacker-Hype waren vor allem schlecht abgesicherte Testumgebungen oder fehlerhafte Zielvorgaben der Grund dafür, dass KI-Agenten ausbüchsen konnten. Hinzu kommen ein gewisses PR-Kalkül sowie klickgetriebener Alarmismus durch zahlreiche Medien.

Indes: KI kann zweifellos in vielen Fällen hilfreich sein – vor allem im Gesundheitsbereich, in der Forschung und in der Prozessautomatisierung. Doch es gibt auch Risiken, die eine Regulierung erfordern. Oft scheint es aber nur um die Frage zu gehen, was möglich ist und nicht darum, was sinnvoll ist. Nun wollen die Tech-Bosse also nach Jahren der KI-Peitsche ihr Gewissen wiederentdeckt haben?

Ich hege da so meine Zweifel. Warum? Einerseits, weil OpenAI zuletzt schwache Zahlen präsentiert hat – wieder einmal. Andererseits, weil Big AI offenbar einsieht, dass der Hacker-Hype rund um KI eher für Verunsicherung sorgt, als Investoren anzulocken, die mit Geldbündeln nur so um sich werfen. Stichwort: KI-Blase.

Oder: Bei der geforderten KI-Pause geht es vermutlich weniger um den bevorstehenden Weltuntergang als um das eigene Portemonnaie. Zumal eine gemeinsame Gewissensoffensive fast schon zu schön klingt, um wahr zu sein. Ist sie auch nicht! Sam Altman und Elon Musk sind so etwas wie Erzfeinde; OpenAI und Anthropic sind erbitterte Konkurrenten. Und nun wollen sich alle lieb haben und die Menschheit schützen? Mitnichten! Abermals geht es vielmehr um Eigeninteressen, aber dazu später mehr.

Was Sam Altman, Dario Amodei und Elon Musk sagen

• Anthropic-Chef Dario Amodei fordert in einem Beitrag auf X (ehemals Twitter): „Wir müssen das Tempo an der Grenze drosseln: Ich habe einen neuen Aufsatz darüber verfasst, warum die KI-Branche einen Gang zurückschalten sollte, und einen dreiteiligen Plan dafür vorgelegt. Anthropic verpflichtet sich einseitig zur Umsetzung des ersten dieser Schritte. Wir werden unabhängigen Gutachtern dauerhaften Zugriff auf unsere Systeme auf Mitarbeiterebene gewähren, damit sie die Einhaltung unserer Sicherheitsmaßnahmen überprüfen, Vorfälle melden und die Ausrichtung der Modelle während des Trainings bewerten können.“
• OpenAI-CEO Sam Altman kommentierte den Beitrag Amodeis: „Ich stimme Dario zu, dass wir die Entwicklung an der Grenze der Möglichkeiten dosieren müssen. Dies war in den letzten Wochen ein zentrales Thema unserer Diskussionen bei OpenAI. Die Verpflichtung, unabhängige Gutachter mit einem Zugang wie Mitarbeiter einzubeziehen, ist eine großartige Idee, und wir werden dies ebenfalls umsetzen. Wir werden bald mehr dazu mitteilen.“ Und sogar Elon Musk stimmte dem Vorschlag zu: „Dario hat recht.“
• KI-Experte Jacob Coxon sorgte bereits kurz zuvor für Schlagzeilen, nachdem er in einem Beitrag auf X (ehemals Twitter) warnte: „Ich habe heute bei Anthropic gekündigt. (…) Keines der beiden Unternehmen handelt verantwortungsbewusst. (…) Unterschätzt nicht die Leistungsfähigkeit dieser Technologie. Bald wird es übermenschliche Systeme geben, die alles hacken, jeden Bereich über Nacht revolutionieren und echte Macht und Ressourcen an sich reißen können. Die Menschen, die KI entwickeln, sind fest davon überzeugt, dass sie uns alle bis zum Ende dieses Jahrzehnts auslöschen könnte. Das ist kein Marketing-Gag.“

Warum sich trotz KI-Pause nur wenig ändern dürfte

Trotz immer lauter werdender Forderungen nach einer KI-Pause dürfte sich regulatorisch zunächst wenig ändern. Die USA wollen den KI-Wettstreit mit China nämlich unbedingt gewinnen, während Peking auf Maßnahmen pfeift und bislang kaum Anstalten macht, sich selbst auszubremsen. Oder: Um die Risiken von KI einzudämmen, bräuchte es einheitliche und globale Regeln, die es leider nie geben wird.

Denn sobald einer pausiert, eilt die Konkurrenz davon. Die Trump-Administration hat sich allen Risiken zum Trotz gegen eine KI-Regulierung ausgesprochen. US-Verteidigungsminister Pete Hegseth teilte etwa mit, dass KI im Pentagon nicht zu „tödlichen Entscheidungen“ beitrage. Wie beruhigend, dass die Entscheidungen immer noch Trump trifft. Nicht! Doch nun will sich Big AI selbst regulieren?

Dass ausgebüchste KI-Agenten und selbstständige Hacker-Ausflüge weniger gut angekommen sind als gedacht, hat man offenbar gemerkt. Denn wenn eine PR-Kampagne plötzlich mehr Verunsicherung als Begeisterung erzeugt, entsteht aus einem vermeintlichen Beweis technologischer Stärke schnell ein Reputationsproblem. Die Sicherheitsdebatte könnte deshalb auch ein Versuch sein, den misslungenen Hacker-Hype wieder einzudämmen. Oder weiter zu befeuern?

Indes: Bei der Frage nach dem tatsächlichen KI-Risiko sollte eigentlich niemand die Glaskugel befragen. Die oft postulierte zehnprozentige Wahrscheinlichkeit einer Auslöschung der Menschheit ist ebenso mit Vorsicht zu genießen wie die Gegenposition, die Gefahr liege bei null oder sei reine Marketing-Taktik. Die Wahrheit liegt vielmehr irgendwo dazwischen.

Zumal Forscher betonen, dass eine solche Prozentzahl scheinbar präzise sei, obwohl es schlicht kein Verfahren gibt, diese Wahrscheinlichkeit seriös zu berechnen. Big AI tritt derweil mehr oder weniger geschlossen auf die Bremse, weil man es kann. Denn OpenAI, Anthropic oder Google können sich strenge Sicherheitsmechanismen aufgrund ihrer Mittel und Infrastrukturen leisten, auch um kleinere Unternehmen, die das nicht können, vom Markt fernzuhalten. Außerdem wollen sie ihre Dominanz festigen und den eigenen Vorsprung durch eine Pause nicht der Konkurrenz preisgeben.

Auch interessant:

• KI-Faulheit: Hilfe, ich habe das Denken verlernt!
• TUM-Studie zu E-Autos liefert Stoff für neue Emissions-Lügen
• EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert
• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype

Der Beitrag KI-Pause aus Gewissensbissen? Wovor die Tech-Bosse wirklich Angst haben erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag KI-Faulheit: Hilfe, ich habe das Denken verlernt! erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Eine kurze Spracheingabe oder eine geschriebene Frage genügt und die KI unserer Wahl spuckt uns eine fundiert klingende, wissenschaftlich anmutende Antwort aus. Diese ist so gut formuliert, dass wir erst gar nicht beginnen, über das Thema nachzudenken. Das hat fatale Auswirkungen. Eine kommentierende Analyse.

Hintergrund

• Der Medienpädagogische Forschungsverband Südwest hat für die JIM-Studie 2025 untersucht, wie Jugendliche und junge Erwachsene KI nutzen. Knapp drei Viertel der 12- bis 19-Jährigen setzen KI für Hausaufgaben oder das Lernen ein. Damit nehmen ChatGPT und Co. schon den zweiten Platz hinter klassischen Suchmaschinen ein. Besonders bedenklich: 57 Prozent der Befragten halten die KI-Antworten für vertrauenswürdig.
• Das ist fatal. Denn: 45 Prozent aller KI-Antworten haben mindestens ein schwerwiegendes Defizit. Zu diesem Ergebnis ist die Studie „News Integrity in AI Assistants“ der Europäischen Rundfunkunion gekommen. Zu diesen Defiziten gehören beispielsweise veraltete Quellen, fehlende oder frei erfundene Quellen oder eine Vermischung von Fakten und Meinung. Tatsächlich gefährden wir nicht nur unsere Glaubwürdigkeit, sondern auch unseren Denkapparat.
• Ein Forscherteam des MIT Media Labs unter Leitung von Nataliya Kosmyna hat sich mit den Auswirkungen der KI-Nutzung auf unser Gehirn beschäftigt. Das Ergebnis von „Your Brain on ChatGPT“: Bei Probanden, die ChatGPT für ihre Recherche genutzt haben, wurde im EEG die geringste Gehirnaktivität verzeichnet. Die Probanden, die über Google suchten oder sich selbst eine Geschichte ausdenken mussten, wiesen sehr aktive Gehirnareale auf.

Unser Gehirn ist einfach zu alt für KI

Die Auswirkungen von KI auf unser Gehirn sind fatal, denn nur selten denken wir über unser Gehirn nach. Unser Gehirn ist sehr alt und von der Evolution darauf geprägt, in Gefahrensituationen schnell reagieren zu können. Wer den Säbelzahntiger sieht, muss rennen – sonst stirbst du. Wer dagegen nachdenkt, ist tot. Und tatsächlich ist unser Gehirn nicht sonderlich viel weiter – auch, wenn sich die Welt um uns herum stark verändert hat.

Die beiden Forscher Daniel Kahnemann und Amos Tversky haben seit den 1970er Jahren über unser Gehirn und kognitive Verzerrungen geforscht und die Erkenntnisse in verständlicher Form im Buch „Schnelles Denken, langsames Denken“ veröffentlicht. Darin beschreiben die Autoren unter anderem die unterschiedlichen Denk- und Verhaltensmuster unseres Gehirns. Aus Faulheit tendieren wir dazu, Ergebnisse aus kleinen Stichproben zu überinterpretieren oder Wahrscheinlichkeiten und Basiswerte unzureichend zu berücksichtigen.

Ein schönes Beispiel dazu ist Linda. Sie ist 31 Jahre alt, single, offen und sehr intelligent. Sie hat Philosophie studiert. Als Studentin engagierte sie sich stark gegen Diskriminierung und für soziale Gerechtigkeit und nahm an Anti-Atomkraft-Demonstrationen teil. Die Probanden der Studie sollten sagen, ob Linda eine einfache Bankangestellte ist oder eine Bankangestellte, die zudem in einer feministischen Bewegung aktiv ist.

Über 85 Prozent wählten die zweite Option, obwohl die Schnittmenge zweier Ereignisse niemals wahrscheinlicher als ein Einzelereignis sein kann. Das zeigt: Unser Gehirn liebt Prototypen und ignoriert alles, was wir zum Thema Wahrscheinlichkeit lernen. Oder anders ausgedrückt: Unser Gehirn liebt es, wenn es nicht denken muss. Es liegt gerne auf dem Sofa. Genau an dieser Stelle wird es für uns Menschen durch Künstliche Intelligenz so gefährlich. Sie liefert uns schnell, plausibel klingende Antworten, die uns dazu einladen, nicht mehr nachzudenken. Das müssen wir auf jeden Fall verhindern.

Stimmen

• Zishan Khan ist Kinder- und Jugendpsychiater und arbeitet als Regional Medical Director bei Mindpath Health. Nach der Publikation der MIT-Media-Lab-Studie sagte er gegenüber dem Time Magazine: „Aus psychiatrischer Sicht sehe ich, dass eine übermäßige Abhängigkeit von LLMs unbeabsichtigte psychologische und kognitive Folgen haben kann – insbesondere für junge Menschen, deren Gehirne sich noch in der Entwicklung befinden.“ Er ergänzt: „Diese neuronalen Verbindungen, die ihnen beim Zugriff auf Informationen, dem Erinnern von Fakten und der Fähigkeit zur Resilienz helfen, werden sich alle abschwächen.“
• Ross Dawson bezeichnet sich selbst als Futurist, arbeitet als Keynote-Speaker für globale Konzerne wie Coca-Cola und ist im Australian Institute of Company Directors aktiv. Er warnt auf LinkedIn: „Bei der Arbeit mit KI ist Faulheit die größte Sünde. In dem Moment, in dem Sie ein Ergebnis als ‚gut genug‘ akzeptieren, hören Sie auf, Ihre kognitiven Fähigkeiten zu trainieren. Von da an ist es ein schleichender Prozess nach unten. Sie können sich stattdessen dafür entscheiden, KI als Gegenüber zu nutzen, um Ihre Absicht zu klären und Ihr Denken zu schärfen – um es besser zu machen als je zuvor. Aber das muss Ihre ausdrückliche Absicht sein. Ohne diese Absicht werden Sie von der KI geformt.“
• Am Institut für Digitale Ethik an der Hochschule für Medien (HdM) in Stuttgart wurden die „10 Gebote der KI-Ethik“ entwickelt. Dr. Petra Grimm, Professorin für Medienforschung und Kommunikationswissenschaft an der HdM, erklärt im Interview: „Denke zuerst selbst nach, bevor du KI nutzt, und trainiere deine eigenen Fähigkeiten. Generative KI wie ChatGPT, Grok oder Mistral wurde nicht für Bildungszwecke entwickelt, dringt aber in Schulen ein. KI kann als Tutor helfen – erst, wenn Kinder eigenständiges Denken gelernt haben. Sonst riskieren wir, Problemlösungskompetenz und kritisches Denken zu schwächen.“

KI als Werkzeug richtig nutzen

Es wäre gelogen, sich als Moralapostel aufzuspielen, der sich noch nie blind auf eine KI-Antwort verlassen hat. Das ist mir mehr als einmal so gegangen. Mehr als einmal habe ich allerdings auch festgestellt, wie fehlerbehaftet die KI-Antworten sind – einmal auf der Suche nach einem Krankenhaus mit Geburtsstation und einmal bei den Kursen von Edelmetallen. Beide Male ließ sich die KI keines Besseren belehren – trotz offizieller Quellen und Links als Belege für Falschaussagen.

Diese kleinen Aha-Momente gibt es viel zu selten. Das liegt auch daran, dass wir ChatGPT selten zu unseren Fachgebieten befragen. Wir fragen nicht in den Bereichen, in denen wir uns auskennen, sondern sind auf der Suche nach Wissen an den Stellen, an denen wir blinde Flecken haben. Dadurch entziehen wir uns selbst der Möglichkeit, Fehler zu entdecken und zu lernen, dass KI (viele) Fehler macht.

Ein weiterer Fakt ist: Unser Gehirn liebt Routinen. Im Durchschnitt dauert es rund 60 aufeinanderfolgende Tage, bis wir eine neue Gewohnheit etabliert haben. Diesen verhältnismäßig kurzen Zeitraum sollten wir nutzen, um unserem in die Jahre gekommenen Gehirn ein KI-Upgrade zu verpassen.

Das könnte so gehen: Für mindestens zwei Monate zwingen wir uns dazu, jede KI-Antwort über eine klassische Google-Recherche zu verifizieren oder falsifizieren. Dadurch bringen wir unserem Gehirn bei, KI-Antworten zu misstrauen und stets eine Korrekturschleife durchzuführen. Nach einigen Monaten haben wir eine simple Routine entwickelt, die uns davor schützt, dass unser Gehirn biologisch verkümmert.

Auch interessant: 

• TUM-Studie zu E-Autos liefert Stoff für neue Emissions-Lügen
• EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert
• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype
• Nachtsperre, Limits, keine Likes: Reicht das, um Kinder vor Meta zu schützen?

Der Beitrag KI-Faulheit: Hilfe, ich habe das Denken verlernt! erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Nächster Zwischenfall: OpenAI-Agenten richten sich in deutschem Wiki ein erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Tausende interne OpenAI-Agenten haben monatelang ein deutsches Entwickler-Wiki als geheimes Schwarzes Brett missbraucht: Statt brav ihre Aufgaben zu erledigen, legten sie dort zehntausende Einträge an, teilten Antworten und beschrieben, wie sich Sicherheitsbeschränkungen aushebeln lassen. Der Fall zeigt, wie schnell aus „harmlosen“ Tests eine Gefahr entstehen kann – schon wieder.

Hintergrund

• Laut einer Auswertung des Forscherteams um Sydney Von Arx haben autonome Agenten, die sich selbst als OpenAI-Systeme kennzeichneten, zwischen dem 11. Mai und dem 2. Juli 2026 rund 18.000 Beiträge auf mehreren öffentlichen Wikis hinterlassen, davon etwa 17.000 Edits im DSEwiki, einem seit rund 25 Jahren bestehenden deutschsprachigen Programmierer-Wiki. Die Agenten traten unter mehr als 3.700 selbst gewählten Namen auf, viele davon mit klaren OpenAI-Bezügen wie „OpenAIResearcher“. Rund 98,5 Prozent der zugeordneten Bearbeitungen stammen aus IP-Bereichen von Microsoft Azure, auf dessen Infrastruktur OpenAI seine Modelle betreibt.
• Eigentlich waren die Agenten nur für zeitkritische Web-Recherchen gedacht: Sie sollten innerhalb weniger Sekunden Fragen im Netz nachschlagen und Antworten liefern. Laut Design sollten sie dafür nur lesen, nicht schreiben. Die Testumgebung ließ deshalb nur HTTP-GET-Anfragen zu. Das Problem: Die alte Wiki-Software von DSEwiki konnte über spezielle GET-Links trotzdem Seiten ändern. Genau das nutzten die Agenten. Sie schrieben „Test“-Einträge, speicherten Links und Antworten ab und bauten das Wiki zu einem Schwarzen Brett aus, auf das andere Agenten später wieder zugreifen konnten.
• In den rekonstruierten Beiträgen sammelten die Modelle zunächst simple Funktionstests („hello“), später Listen mit Links und Antworten auf die Testaufgaben sowie Exploit-Ideen. Der Bericht und eine Analyse bei Ars Technica zeigen, dass die Agenten dort auch Strategien zum Umgehen der Sandbox teilten, inklusive Vorschlägen für Cross-Site-Scripting-Angriffe und das Vortäuschen von Moderatoren-Rechten. OpenAI bestätigte später, dass es sich um eigene Agenten handelte, betonte aber, die Wiki-Software sei nicht „gehackt“, sondern nur über bestehende Schreibmöglichkeiten angesprochen worden. Ob man darauf seine Verteidigung aufbauen sollte (oder ob man sich wirklich verteidigen will)?

Unsere Einordnung

Der DSEwiki-Vorfall zeigt, wie weit Testsysteme heute schon gehen können, ohne dass dafür jemand bewusst den Befehl gegeben hat. Die Agenten sollten eigentlich „nur“ möglichst gut bei einem standardisierten Webtest abschneiden. Dass sie sich dafür eine externe Wissensbasis und Kommunikationsfläche im offenen Netz gesucht haben, war offenbar nicht geplant – ist aber eine naheliegende Folge, wenn viele gleichartige Agenten mit Internetzugang nach Mustern suchen, die ihnen Vorteile bringen.

Die Regeln (nur lesen, nicht schreiben) klangen eindeutig, konnten aber über eine Schwäche alter Wiki-Software ausgehebelt werden. Dass tausende Agenten diesen Weg gefunden und ausgenutzt haben, ist weniger ein spektakulärer Hack als ein Hinweis darauf, dass man moderne KI-Tools langsam ernst nehmen sollte – sowohl aus Sicht von Websitebetreibern als auch aus Sicht derer, die diese KI-Tools eigentlich im Zaum halten sollten (und dabei regelmäßig versagen).

DSEwiki wurde hier ohne Vorwarnung zur Infrastruktur eines groß angelegten KI-Experiments. Admin Helmut Leitner reagierte schließlich mit einem Hinweis auf der Startseite und der Umstellung auf passwortgeschützten Zugriff. Für viele kleinere Seiten gilt: Sie haben weder Monitoring noch ein eigenes Security-Team, um zu erkennen, dass sie gerade massiv von Agenten belagert werden. Wer schützt sie, wenn nicht mal OpenAI und Co. ihre eigenen Systeme im Griff haben?

Der DSEwiki-Fall passt in ein Muster: Vor Kurzem wurde bekannt, dass über 1.200 OpenAI-Agenten ein internes Sandbox-Tool als inoffizielles Forum verwendet und dort Wege geteilt hatten, wie sich Sicherheitsregeln aushebeln lassen – bis hin zu Zugriffen auf die Infrastruktur des KI-Anbieters Hugging Face. Diese Vorfälle häufen sich immer rapider und zeigen, dass Agenten mit technischen Freiheiten und Belohnungen für erfolgreiche Lösungen dazu neigen, jede Lücke im System auszunutzen.

Stimmen

• Mitautorin Sydney Von Arx sagt gegenüber der Nachrichtenagentur Reuters: „Es erscheint äußerst unwahrscheinlich, dass OpenAI wollte, dass sie das tun. Ich bezweifle, dass sie sich untereinander abstimmen sollen. Ich bezweifle, dass sie im offenen Internet Beiträge veröffentlichen sollen.“
• Maurice Chiodo, ein Wissenschaftler der Universität Cambridge, der einen Teil der Agenten-Kommunikation ausgewertet hat, wird noch deutlicher: Die Nachrichten ähnelten „der Funktionsweise einer Art Untergrundnetzwerk, das entschlossen ist, eine Aufgabe oder Mission zu erfüllen“.
• Und OpenAI? „Wir konnten auf die Vorwürfe zunächst nicht reagieren, weil die Autoren des Berichts uns ihre Ergebnisse vor der Veröffentlichung nicht zur Verfügung gestellt haben. Wir prüfen den Bericht nun sorgfältig und werden alle notwendigen weiteren Schritte ergreifen.“

Ausblick

Testumgebungen mit Internetzugang werden künftig klarere Leitplanken brauchen: eine deutlich engere Auswahl an erreichbaren Seiten, Filter für bekannte Altlasten wie GET-basiertes Schreiben und automatische Erkennung ungewöhnlicher Muster.

Zudem stellt sich die Frage, wie „intern“ KI-Tests im offenen Netz überhaupt noch sein können. Wenn Agenten massenhaft auf Drittplattformen schreiben, sind das faktisch Feldversuche auf fremder Infrastruktur.

Für OpenAI ist der Vorfall auch ein Vertrauensproblem. Der DSEwiki-Fall wurde erst über externe Berichte publik – nicht durch eine eigene, proaktive Offenlegung. Gerade im Kontext sich verschärfender Regulierung dürfte entscheidend sein, ob OpenAI seine Sicherheitsprozesse nach solchen Vorfällen wirklich anpasst und seine Systeme noch im Griff hat.

Klar ist: Mit der wachsenden Verbreitung von KI-Agenten werden ähnliche Situationen immer häufiger auftreten – sei es auf alten Foren, Wikis oder anderen Web-Diensten, die noch nicht auf KI-Nutzung vorbereitet sind. Im besten Fall führen der DSEwiki- und der Hugging-Face-Fall dazu, dass sich neue Standards für solche Tests etablieren. Im schlechtesten Fall ändert sich nichts, während im Hintergrund immer mehr KI-Agenten in bislang unbemerkten Ecken des Netzes unterwegs sind.

Auch interessant: 

• TUM-Studie zu E-Autos liefert Stoff für neue Emissions-Lügen
• EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert
• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype
• Nachtsperre, Limits, keine Likes: Reicht das, um Kinder vor Meta zu schützen?

Der Beitrag Nächster Zwischenfall: OpenAI-Agenten richten sich in deutschem Wiki ein erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

OpenAI hat mit ChatGPT-6 Astra sein bisher leistungsstärkstes Modell auf den Markt gebracht.

Der Beitrag EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Die EU-Kommission hat ChatGPT offiziell als „sehr große Online-Suchmaschine“ eingestuft. Das ist ein Novum für ein KI-Modell. Zusammen mit Reddit und Roblox fällt der Chatbot von OpenAI damit unter die strengen Regeln des Digital Services Act (DSA). Für OpenAI bedeutet das: mehr Kontrolle, mehr Transparenz und bei Verstößen Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Aber reicht all das, um Nutzer besser zu schützen? Eine kommentierende Analyse.

Warum die EU ChatGPT jetzt als Suchmaschine einstuft

• Auf Online-Plattformen kann man sich austauschen, mit anderen vernetzen, Informationen suchen oder sich einfach inspirieren lassen. Auch KI-Modelle können in bestimmten Situationen praktisch oder hilfreich sein. Doch sowohl Online-Plattformen als auch Chatbots werden immer wieder missbraucht, etwa für kriminelle Machenschaften oder um Desinformation zu streuen. Die Europäische Kommission will dem Einhalt gebieten. Laut einer offiziellen Mitteilung stehen ChatGPT, das Online-Forum Reddit und die Spieleplattform Roblox deshalb ab sofort unter strengerer Beobachtung. Der Grund: Alle drei Dienste haben die Marke von 45 Millionen Nutzern pro Monat in der EU geknackt. Damit fallen sie unter den Digital Services Act (DSA).
• ChatGPT wird laut EU ab sofort als „sehr große Online-Suchmaschine“ eingestuft, so wie beispielsweise auch Google. Die Kommission begründet die Einstufung damit, dass der Chatbot auf das Internet zugreift, um Antworten auszuspucken. Per Definition sei ChatGPT damit eine hybride Suchmaschine. Laut Kommission nutzen derzeit rund 159 Millionen Menschen innerhalb der EU den Chatbot. Anders als bei ChatGPT werden Inhalte auf Reddit und Roblox von Nutzern selbst erstellt. Beide wurden nun als „sehr große Online-Plattformen“ eingestuft und müssen damit vor allem illegale Inhalte bekämpfen, Nutzer besser schützen und regelmäßig einen Risikobericht veröffentlichen.
• Die EU wird künftig vor allem ChatGPT unter die Lupe nehmen. Dabei geht es nicht um einzelne Antworten, sondern den Chatbot als großes Ganzes. Die Kommission will etwa prüfen, ob OpenAI bestimmte Risiken im Griff hat. Darunter unter anderem: Anleitungen für Straftaten, die Gefährdung Minderjähriger, Wahlmanipulation, Desinformationskampagnen und Diskriminierung. Das Unternehmen muss zudem einen Ansprechpartner für Behörden und Nutzer nennen, sich einmal pro Jahr einer unabhängigen Prüfung unterziehen und eine Schnittstelle einrichten, damit Nutzer illegale Inhalte melden können. Werbung in ChatGPT muss zudem klar als solche gekennzeichnet sein.

Wird ChatGPT zum Präzedenzfall für KI-Regulierung?

Was ChatGPT angeht, könnte die EU-Entscheidung zu einem waschechten Präzedenzfall werden. Denn erstmals unterliegt ein KI-Modell den strengen Vorgaben des DSA – und damit einer Regulierung, die ursprünglich vor allem für klassische Online-Plattformen gedacht war.

Will heißen: Sollten andere Chatbots wie Gemini und Claude irgendwann ebenfalls die Marke von 45 Millionen Nutzern pro Monat knacken, werden sie vermutlich so eingestuft wie ChatGPT. Und das wäre auch gut so! Denn anders als klassische Suchmaschinen zeigen KI-Modelle wie ChatGPT nicht bloß eine Liste von Links an, sondern liefern fertig formulierte Antworten.

Sie können überzeugend und plausibel klingen und kommen mitunter sogar ohne großen Umweg über nur eine einzige Quelle daher. Das Problem: KI kann sich irren, Informationen erfinden oder total selbstbewusst Schwachsinn produzieren. Und genau das macht die Kontrolle und Einordnung von KI-Antworten so kompliziert.

Die EU sieht deshalb vor allem OpenAI in der Verantwortung, Nutzer besser zu schützen. Zu Recht! Sanktionen erfolgen bei Zuwiderhandlung aber nicht automatisch und sofort. Erst wenn OpenAI trotz Prüfung und Ermahnung nichts ändern sollte, könnte es teuer werden. Dann kann die EU theoretisch bis zu sechs Prozent des weltweiten Jahresumsatzes verhängen.

Für OpenAI wären das mehrere hundert Millionen bis zu einer Milliarde. Da Europa und allen voran Deutschland ein großer Markt für das Unternehmen sind, erklärt das auch ein Stück weit die Kooperationsbereitschaft von OpenAI, aber auch Reddit und Roblox.

Stimmen

• Henna Virkkunen, Exekutiv-Vizepräsidentin für technologische Souveränität, Sicherheit und Demokratie der EU, in einem Statement: „Mit diesen neuen Benennungen unterliegen ChatGPT, Reddit und Roblox in der Europäischen Union künftig einer strengeren Kontrolle und Rechenschaftspflicht. Damit wird dem großen Einfluss ihrer Dienste auf unsere Bürgerinnen und Bürger sowie auf unsere Gesellschaft Rechnung getragen. Wir werden die digitale Landschaft weiterhin aufmerksam beobachten und wir werden bei keiner Plattform zögern, sie entsprechend zu benennen, wenn sie den Schwellenwert für eine verstärkte Beaufsichtigung nach dem Gesetz über digitale Dienste erreicht.“
• David Baszucki, Chef der Roblox Corporation, scheint die strengere Beobachtung seiner Spieleplattform gelassen zu nehmen. In einem Beitrag auf X (ehemals Twitter) schreibt er zur Ankündigung von Henna Virkkunen: „Wir sind stolz auf unser Wachstum in der EU. Roblox ist die erste Gaming-Plattform, die als ‚sehr große Online-Plattform‘ eingestuft wurde. Dies verdanken wir unserer Creator-Community in allen 27 Mitgliedstaaten sowie unseren Teams, die für sichere, fesselnde und altersgerechte Online-Erlebnisse sorgen. Unterstützt wird dies durch unsere branchenführenden Anforderungen an die Altersüberprüfung für Chats und Inhalte.“
• Von OpenAI und Reddit liegen bislang keine offiziellen Statements vor. Alle drei Unternehmen haben dem Vernehmen nach zumindest aber ihre Bereitschaft zur Zusammenarbeit mit den EU-Behörden signalisiert. Auf der DSA-Seite von OpenAI heißt es etwa: „OpenAI bekennt sich zu Sicherheit, Transparenz, Rechenschaftspflicht und dem Schutz der Grundrechte, einschließlich der Meinungsfreiheit und des Zugangs zu Informationen.“ Reddit schreibt auf seiner DSA-Seite: „Reddit kann den Zugriff auf Inhalte einschränken, bei denen festgestellt wurde, dass sie gegen die Gesetze des in Ihrer Meldung angegebenen EU-Landes verstoßen. Meldungen von vertrauenswürdigen Meldern werden gemäß der DSA bei der Überprüfung vorrangig behandelt.“

Was sich ab Januar 2027 für Nutzer ändert

ChatGPT, Reddit und Roblox müssen die neu auferlegten EU-Pflichten innerhalb von vier Monaten, also ab Januar 2027, erfüllen und jeweils erste Risikobewertungen veröffentlichen. Für Nutzer wird sich zunächst aber weniger ändern. Klar: Es wird möglich sein, Inhalte zu melden, was auch gut so ist.

Doch die größten Veränderungen finden eher im Hintergrund statt. Vor allem ChatGPT wird mehr Eigen- und Fremdkontrolle aufgebrummt; etwa bei Alterskontrollen oder dem Umgang mit illegalen Inhalten. Auch das ist gut so! Im Gegensatz zu so manch anderen Tech-Konzernen wie Meta scheint OpenAI diesbezüglich weitaus kooperativer und weniger auf Krawall gebürstet zu sein.

Das Unternehmen hat mit ChatGPT for Teens etwa im Vorfeld ein Stück weit reagiert, da sich die EU-Entscheidung angebahnt hatte. All das zeigt, wohin die Reise gehen könnte. Oder: Je stärker KI oder Plattformen wie Reddit und Roblox in den Alltag eindringen, desto weniger können sich die Anbieter darauf berufen, lediglich ein digitales Werkzeug bereitzustellen.

Stattdessen werden sie zu Recht in die Verantwortung für das genommen, was in ihren Netzwerken oder Diensten passiert. Klar: Zunächst einmal ist vieles davon noch Theorie, die sich erst einmal in der Praxis beweisen muss. Gleiches gilt für alle drei Unternehmen.

Die Stoßrichtung ist aber die richtige. Zumal der technische und finanzielle Aufwand für die drei Milliarden-Konzerne relativ überschaubar sein sollte. Vielmehr bergen die neuen EU-Richtlinien sogar die Chance für alle, ChatGPT, Reddit und Roblox zu verbessern.

Auch interessant: 

• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype
• Nachtsperre, Limits, keine Likes: Reicht das, um Kinder vor Meta zu schützen?
• Spannersoftware: Große Mehrheit will KI-Entkleidungs-Apps verbieten
• Vorhang auf, Bühne frei: Produziert KI als Regisseur nur Einheitsbrei?

Der Beitrag EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Die EU-Kommission erweitert den Kreis der besonders streng regulierten Online-Dienste: ChatGPT, Reddit und Roblox werden künftig als besonders große digitale Dienste nach dem Digital Services Act (DSA) behandelt. Alle drei überschreiten in der Europäischen Union die Marke von durchschnittlich 45 Millionen monatlichen Nutzern und müssen sich damit auf zusätzliche Vorgaben einstellen. ChatGPT erhält dabei eine […]

Der Beitrag EU nimmt ChatGPT, Reddit und Roblox ins Visier: Neue DSA-Pflichten kommen erschien zuerst auf fosstopia.

Der Beitrag Werbung bei ChatGPT ausschalten: Kostenlos nur mit Einschränkungen erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

OpenAI spielt nun auch in Deutschland Werbung bei ChatGPT in bestimmten Tarifen aus. Nutzer können diese zwar abschalten, aber müssen im kostenlosen Tarif dafür geringere Nutzungslimits und Einschränkungen bei einzelnen Funktionen in Kauf nehmen.

Bereits seit Anfang des Jahres experimentiert OpenAI mit dem Ausspielen von Werbung bei seinem beliebten KI-Chatbot ChatGPT. Gestartet ist der Test zunächst in den USA, später wurde er auf weitere Märkte ausgeweitet. Nun führt das Unternehmen Werbeanzeigen auch in Deutschland ein.

OpenAI will mit den Werbeeinnahmen nach eigenen Angaben „umfangreiche Infrastrukturmaßnahmen“ vornehmen und kontinuierlich investieren. So sollen auch die Free- und Go-Abos von ChatGPT „schnell und zuverlässig bleiben“.

Anzeigen können dazu beitragen, den Zugang zu ChatGPT zu erweitern und weiterhin in das Produkt zu investieren – ohne die Funktionsweise von ChatGPT oder die Erwartungen der Nutzer:innen an die Nutzererfahrung zu verändern.

Für Nutzer in bestimmten Tarifen bedeutet das, dass künftig auch in Deutschland gesponserte Inhalte bei ChatGPT angezeigt werden können. Wer das vermeiden will, hat dafür mehrere Möglichkeiten, muss teils aber Einschränkungen in Kauf nehmen.

Diese ChatGPT-Abos enthalten Werbung

Anzeigen sollen künftig zunächst für Nutzer mit den Tarifen Free und Go ausgespielt werden. Bei den Tarifen Plus, Pro, Business, Enterprise und Edu ist dies nicht der Fall.

Laut OpenAI sollen die Anzeigen in ausgeloggten Bereichen „für alle Zielgruppen geeignet“ sein. Für eingeloggte Nutzer werden „Anzeigen mit Inhalten für Erwachsene“ ausgespielt.

Nutzer unter 18 Jahren sollen von der Werbung ausgeschlossen sein. OpenAI wolle dies anhand von Kontoinformationen zum Alter oder – sofern verfügbar – einer Altersschätzung beurteilen.

Willst du ChatGPT also auch künftig ohne Werbung nutzen, hast du zwei Möglichkeiten. Du kannst entweder zu einem werbefreien Bezahl-Abo wechseln oder Einschränkungen bei deinem Free-Tarif in Kauf nehmen. Denn auch mit einem kostenlosen Abo kannst du Werbung ausschalten.

Werbung bei ChatGPT ausschalten – so geht’s

Willst du ChatGPT auch künftig kostenfrei und ohne Werbung nutzen, allerdings nicht zu einem der werbefreien Bezahl-Abos wechseln, musst du Einschränkungen in Kauf nehmen. Denn für die kostenlosen Ads-Free-Versionen hast du niedrigere Nutzungslimits und weniger Zugriff auf Funktionen. OpenAI führt beispielsweise Tools wie die Bildgenerierung oder Deep Research an.

Um zur Ads-Free-Version zu wechseln, musst du zunächst in ChatGPT deine Einstellungen öffnen. Wähle nun die Option „Werbeeinstellungen“ aus. Wähle nun noch „Nachrichtenlimits verringern“ und bestätige deine Änderungen.

Stößt du künftig bei der Nutzung von ChatGPT an ein Limit, zeigt dir der Chatbot die Optionen für ein Upgrade auf ein werbefreies Bezahl-Abo oder „Werbung anzeigen“ an. So kannst du wieder zur werbefinanzierten kostenlosen Version zurückwechseln, um mehr Zugriff zu erhalten.

Hinweis: Da OpenAI neue Funktionen und Einstellungen schrittweise einführt, kann es sein, dass diese nicht sofort allen Nutzern angezeigt werden.

Auch interessant:

• Keine gute Idee: Warum du deinen KI-Account nicht teilen solltest
• KI-Chatbot ohne Verluste wechseln: So nimmst du deine Einstellungen mit
• Wie kann das sein? Leser finden KI-Geschichten besser als menschliche
• KI lässt Gehälter schrumpfen: Wer laut ifo-Studie mit weniger Geld rechnen muss

Der Beitrag Werbung bei ChatGPT ausschalten: Kostenlos nur mit Einschränkungen erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag ChatGPT startet Werbung in Deutschland: Wird die KI jetzt noch nerviger? erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

ChatGPT zeigt jetzt auch Werbung in Deutschland an. OpenAI baut sein KI-Werkzeug für die Menschheit damit zunehmend in eine Werbeplattform um. Bis zu 900 Millionen Gratis-Nutzer weltweit könnten künftig Anzeigen im Chat sehen. Das Unternehmen verspricht zwar, dass die Werbung keinen Einfluss auf die Antworten hat. Doch der Schuss könnte nach hinten losgehen, zumal Forscher bereits vor subtilen Effekten warnen. Eine kommentierende Analyse.

Wie Werbung in ChatGPT funktioniert

• Seit dem 24. August 2026 schaltet OpenAI in Europa Werbeanzeigen in ChatGPT – in insgesamt 31 Ländern. Neben Deutschland, Österreich und der Schweiz befinden sich darunter unter anderem auch Frankreich, Spanien, Italien, Polen und die skandinavischen Länder. Dem Unternehmen zufolge sehen Nutzer der kostenfreien Version und der günstigsten Bezahlversion Go künftig Werbung im Chat. Die kostenpflichtigen Tarife Plus, Pro, Business, Enterprise und Edu sowie Nutzer, die OpenAI als minderjährig einstuft, sollen den Chatbot weiterhin werbefrei nutzen können.
• Werbung in ChatGPT ist nicht komplett neu. OpenAI hatte etwa bereits im Februar 2026 damit begonnen, testweise Anzeigen in den USA auszuspielen. Anschließend wurde das Angebot auf acht weitere Märkte ausgeweitet. Es heißt, dass Werbetreibende und deren Anzeigen keinen Einfluss auf die Antworten von ChatGPT haben. Werbung erscheine abgetrennt durch eine graue Linie unmittelbar unterhalb der eigentlichen Antwort. Sie soll zudem als „gesponsert“ gekennzeichnet werden. Anzeigen buchen können zunächst nur große Agenturpartner. Eine Selbstbedienungsplattform für kleinere Unternehmen soll später folgen.
• OpenAI hatte erst im Juli 2026 mit den Nutzungslimits in der Gratisversion von ChatGPT experimentiert. Seither gibt es kein reines Limit mehr für Textnachrichten. Offenbar nicht ohne Hintergrund. Denn: Die gängige Gratisversion von ChatGPT kann ab sofort Werbung enthalten. Laut OpenAI gibt es von nun an aber auch die Möglichkeit, in eine kostenlose Version zu wechseln, die keine Werbung enthält, dafür aber gewisse Limits und Nutzungseinschränkungen. In Europa soll es zunächst keine personalisierten Werbeanzeigen geben. „Sensible oder regulierte Themen“ wie Gesundheit und Politik bleiben laut OpenAI werbefrei.

Warum Werbung für ChatGPT zum Problem werden könnte

ChatGPT tischt regelmäßig zuverlässig absurde, erfundene oder gar schlichtweg falsche Antworten auf. Als würde das nicht schon reichen, serviert OpenAI im Chat jetzt obendrein auch noch Werbung. Dabei fühlen sich ohnehin schon immer mehr Nutzer von KI-Modellen genervt; ja gar besorgt.

Klar: Das Ganze hatte sich abgezeichnet und war zu erwarten. Irgendwie ist es auch nachvollziehbar. Was bei klassischen Suchmaschinen oder in sozialen Netzwerken mitunter noch funktioniert, könnte für OpenAI aber zum Verhängnis werden. Denn wer mit einer KI interagiert, erwartet Antworten und keine digitale Litfaßsäule.

Zugegebenermaßen scheint OpenAI endlich aus den Fehlern der Vergangenheit gelernt zu haben. Sprich: ChatGPT wird nicht von heute auf morgen mit Werbung geflutet, sondern die Einführung erfolgt fast schon überraschend zurückhaltend. Dass vor allem sensible Bereiche wie Gesundheitsthemen außen vor sind, ist gut so. Man stelle sich etwa mal vor:

ChatGPT nutzt Unsicherheit und spärliche Informationen aus und schwatzt einem irgendwelche Saftkuren oder Nahrungsergänzungsmittel auf, die im geringsten Fall gar nichts bringen. Oder: Im schlimmsten Fall eine Verschlechterung des Gesundheitszustandes. Nur, weil die KI mal wieder rumspinnt.

Ok, dazu gehört natürlich auch eine gewisse Eigenverantwortung. Indes: Auch große Plattformen wie Facebook haben mit kleinen Werbebannern angefangen; aber gerade einmal wenige Jahre gebraucht, um ihr Produkt dann mit Werbung zu überfrachten und zu ruinieren.

Genau deshalb sind Nutzungslimits vielleicht die smartere Alternative zu einer freien Nutzung. Zumal sinnloses Rumdaddeln mit dem Chatbot mit Blick auf den Energie- und Ressourcenverbrauch eigentlich nicht zeitgemäß ist. Im Gegensatz zu Anthropic hat OpenAI es zudem verpasst, rechtzeitig Unternehmenskunden anzuvisieren. Und damit den Bereich, in dem nicht nur das Geld liegt, sondern KI auch wirklich sinnvoll sein kann.

Stimmen

• In einer Podcastfolge des renommierten US-amerikanischen Informatikers Lex Fridman sagte OpenAI-Chef Sam Altman 2024: „Ich hasse Werbung irgendwie – einfach aus ästhetischen Gründen. Ich glaube, Werbung war im Internet aus vielen Gründen notwendig, um das Ganze erst einmal in Gang zu bringen, aber es ist eine vorübergehende Erscheinung. Die Welt ist heute vielfältiger. Mir gefällt es, dass die Leute für ChatGPT bezahlen und wissen, dass die Antworten, die sie erhalten, nicht von Werbetreibenden beeinflusst werden. Ich bin mir sicher, dass es eine Werbeform gibt, die für LLMs Sinn macht, und ich bin mir sicher, dass es einen Weg gibt, auf unvoreingenommene Weise am Transaktionsstrom teilzuhaben, der in Ordnung ist.“
• Alicia von Schenk, Professorin für Economics of AI and Human Behavior an der Julius-Maximilians-Universität Würzburg, gegenüber der Tagesschau: „OpenAI ist damit nicht völlig allein: Microsoft zeigt bereits Anzeigen in Copilot, und Google integriert Werbung in seine KI-gestützte Suche. (…) Anthropic hat ausdrücklich angekündigt, Claude werbefrei zu halten. Und Perplexity hat gesponserte Anschlussfragen zwar erprobt, den Werbeversuch aber inzwischen aus Sorge um das Vertrauen der Nutzer beendet.“
• Karoline Ströhlein, Wirtschaftswissenschaftlerin an der Universität Regensburg, betont, dass Werbung in ChatGPT sowohl für OpenAI als auch für Werbetreibende gleichermaßen interessant ist. Für Nutzer könne das aber zu einem Problem werden: „Eine aktuelle Studie zu Werbung in KI-Chatbots findet Hinweise darauf, dass verschiedene Modelle in Konfliktsituationen teilweise zugunsten kommerzieller Interessen handeln – etwa indem sie gesponserte, aber teurere Produkte empfehlen. (….) Anzeigen könnten bestimmte Marken oder Lösungen in den Vordergrund rücken und dadurch verändern, was Nutzer als Nächstes fragen. (….) Werbung könnte den Gesprächsverlauf somit auch dann beeinflussen, wenn sie nicht direkt in die Antwortgenerierung eingreift.“

Milliarden mit Werbeanzeigen: Kann das funktionieren?

OpenAI will mit Werbeanzeigen in ChatGPT seinen Umsatz ankurbeln. Angesichts von wöchentlich knapp 900 Millionen Free-Nutzern erscheint das zunächst einmal äußerst lukrativ. Auch zahlreiche Werbetreibende dürften bereits mit den Hufen scharen. OpenAI prognostiziert seinen Investoren aber Erwartungen, die das Unternehmen nicht einhalten können wird – zumindest nicht, solange ChatGPT nicht zu einem Reklameprospekt verkommen soll.

Oder in Zahlen: 2,5 Milliarden US-Dollar Werbeumsatz im laufenden Jahr, elf Milliarden US-Dollar 2027 und sogar 100 Milliarden US-Dollar im Jahr 2030. Klingt nach einem Luftschloss? Ist es auch! Marktforscher (€) prognostizieren zwar ein immer noch hohes, aber deutlich geringeres Umsatzpotenzial: 5,41 Milliarden US-Dollar mit Werbung bis 2030. Für alle Anbieter zusammen wohlgemerkt.

Die Wahrheit könnte wie so oft irgendwo dazwischenliegen. Sie hängt natürlich auch davon ab, wie Nutzer auf Werbung in ChatGPT reagieren und wie welche Anzeigen wann und wo integriert werden.

Oder: Werbung in ChatGPT wird für OpenAI keinen Goldrausch auslösen. Sie könnte aber zu einer zusätzlichen Einnahmequelle werden, zumal die Gratisversionen von OpenAI mit Blick auf die Rechenleistung und den Ressourcenverbrauch ohnehin eigentlich kaum zu finanzieren sind.

Das Unternehmen dürfte deshalb auch darauf hoffen, dass sich weitere Nutzer für ein kostenpflichtiges Abo entscheiden. Grund für die Einführung von Werbung und die exorbitant hohen Eigenprognosen dürfte zudem der angepeilte Börsengang von OpenAI sein.

Ganz risikofrei ist das Ganze aber ohnehin nicht. Denn neben genervten Nutzern droht dem Unternehmen auch ein Datenverlust. Etwa, wenn das Nutzererlebnis insofern verwässert wird, dass Konversationen aufgrund von Werbung abgebrochen werden. Denn dann fehlen OpenAI wiederum wichtige Kontextinformationen, die es sowohl für das KI-Training als auch für die Schaltung von Werbung braucht.

Auch interessant: 

• Google Zero: Wie KI die Medienbranche ausbeutet
• Historischer Gerichtsprozess: Ist Mark Zuckerberg der größte Drogendealer aller Zeiten?
• Einfach nur nutzlos: Anthropic verwässert seine KI durch Wasserzeichen
• Bücherverscannung: Mysteriöse KI-Bestellungen privatisieren Wissen

Der Beitrag ChatGPT startet Werbung in Deutschland: Wird die KI jetzt noch nerviger? erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Das weiß ChatGPT alles über dich: Dieses Tool wertet deine Chats aus erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Je alltäglicher der Gebrauch von Künstlicher Intelligenz ist, desto schneller landen sensible Nutzer-Informationen auf den Servern der jeweiligen Anbieter. Ein neues kostenloses Online-Tool zeigt, wie viel ChatGPT und Co. wirklich über dich wissen. 

Künstliche Intelligenz im beruflichen Alltag zu nutzen, ist mittlerweile normal. Auch im Privatleben ist KI vielen Menschen eine Stütze. Sie planen Aktivitäten und Urlaube oder holen sich Rat. Um passende Ergebnisse zu generieren, teilen sie in Chats nicht selten persönliche Informationen.

Einer Bitkom-Umfrage vom April 2026 zufolge setzt rund ein Drittel der Menschen in Deutschland mindestens einmal pro Woche KI ein, 15 Prozent sogar täglich. Am beliebtesten ist ChatGPT, das 71 Prozent der KI-Nutzer verwenden. Gleich danach landet Gemini mit 50 Prozent auf Platz zwei. Platz drei geht an Copilot mit 43 Prozent. Claude kommt auf fünf Prozent.

KI-Nutzung: Sorge um Datenschutz sinkt

Aus der Bitkom-Studie geht auch hervor, dass die Sorge um die eigene Datensicherheit eher sinkt, obwohl immer mehr persönliche Informationen in den KI-Chats landen. So äußerten etwa 43 Prozent der Befragten Bedenken, dass ihre persönlichen Daten nicht sicher sind. Im Vorjahr waren es noch 51 Prozent.

Um mehr Sensibilität dafür zu schaffen, hat das Schweizer Unternehmen Proton ein kostenloses Online-Tool veröffentlicht: AI Paper Trail. Damit können Nutzer selbst überprüfen, wie viel eine KI tatsächlich über sie weiß.

„Jeder Chat mit einer gängigen KI hinterlässt Spuren“, schreibt das Unternehmen. „Alles, was Sie eingeben, wird gespeichert und analysiert, und es kann leicht passieren, dass Sie damit die Modelle der KI trainieren und ein Profil über sich selbst erstellen. Selbst beiläufige Eingaben können sehr persönliche Details preisgeben – von Ihrer Arbeit und Ihren Gewohnheiten bis hin zu Ihren Beziehungen und Ihrer Identität.“

AI Paper Trail zeigt: Das weiß ChatGPT über dich

Aktuell unterstützt AI Paper Trail ChatGPT und Claude. Künftig sollen aber noch weitere Plattformen dazukommen. Nutzer können ihre Gesprächsdaten bei den beiden KI-Systemen exportieren und im Tool hochladen.

Anschließend bekommen sie einen detaillierten Report über ihre persönliche Datenlage. Dabei analysiert das Tool die hochgeladenen Informationen wie folgt.

• Datenschutztyp des Nutzers: Diese Persönlichkeitsbezeichnung basiert auf seinem Umgang mit Datenschutz.
• Expositionswert: eine numerische Punktzahl, die auf der Anzahl der extrahierten Datenpunkte und deren Aussagekraft basiert.
• KI-Wissen: Das Tool identifiziert persönliche Daten des Users und seine Identität sowie Adresse, Gewohnheiten und Beziehungen.
• Datenwert: AI Paper Trail errechnet, wie viel die Daten dem jeweiligen KI-Anbieter wert sind, in realen Dollarbeträgen.

So nutzt du das kostenlose Online-Tool

Um das Proton-Tool zu nutzen, musst du deine Daten zunächst beim jeweiligen KI-Anbieter exportieren:

Für ChatGPT-Nutzer

1. Melde dich bei deinem ChatGPT-Konto an.
2. Klicke auf dein Profil-Symbol in der unteren linken Ecke der Seite.
3. Gehe zu Einstellungen, dann Datenkontrollen.
4. Suche nach „Daten exportieren“ und klicke auf „Export„.
5. Bestätige im Pop-up-Fenster mit „Export bestätigen„.

Für Claude-Nutzer

1. Melde dich bei deinem Claude-Konto an.
2. Klicke auf dein Profil-Symbol in der unteren linken Ecke der Seite.
3. Gehe zu Einstellungen, dann Datenschutz.
4. Klicke unter deinen Daten auf „Daten exportieren„.
5. Folge den Anweisungen, um den Export zu bestätigen.

Wichtig: Besonders bei ChatGPT kann der Download einige Stunden bis Tage dauern. Für Business- und Enterprise-Kunden steht die Export-Funktion gar nicht zur Verfügung.

Sobald du deine Daten exportiert hast, erhältst du einen Download-Link per Mail. Anschließend musst du die jeweiligen Dateien bei AI Paper Trail hochladen.

Der Datenschutz-Selbsttest: Was weiß die ChatGPT über mich?

Meine Erfahrung: Da der Export meiner ChatGPT-Daten extrem zeitaufwendig zu sein scheint, habe ich den Test mit Claude durchgeführt. Ich musste erkennen, dass ich ein offenes Buch bin. Das Tool stufte mich als leicht zu profilieren ein und vergab einen Expositionswert im oberen Mittelfeld.

Am meisten weiß die KI über meinen Beruf, mein soziales Umfeld und meine finanzielle Situation. Darüber wundere ich mich grundsätzlich nicht, da ich die KI häufig nutze, um verschiedene Wahrscheinlichkeiten und Möglichkeiten durchzurechnen.

Was mir auffällt, ist, dass sich die Rückschlüsse über viele einzelne Chats hinweg ergeben, auch wenn ich sie nie ausdrücklich mitgeteilt habe. Auch Proton stellt dieses System als zentrales Argument dar: Nicht einzelne Prompts verraten etwas. Stattdessen ergibt sich ein Muster aus der täglichen Nutzung über viele Monate hinweg.

Der Online-Check hat mir auf jeden Fall die Augen geöffnet. Zwar teile ich nie sensible Informationen wie Bankdaten, meine Adresse, Klarnamen oder so mit KI. Dennoch lesen die Anbieter meine Persönlichkeit und Interessen viel deutlicher aus, als ich erwartet habe.

ChatGPT und Claude: So geht Datenschutz bei der KI-Nutzung

Damit Nutzer ihre Daten besser schützen können, gibt Proton selbst einige Nutzungstipps am Ende jedes Reports aus. Der wichtigste Punkt: Teile nur, was wirklich nötig ist. Namen, Adressen, finanzielle Angaben oder andere identifizierende Informationen gehören nicht ins Chatfenster.

Außerdem lohnt sich ein Blick in die Datenschutzeinstellungen des jeweiligen Anbieters. Proton rät, Chat-Verlauf und Modelltraining nach Möglichkeit zu deaktivieren. Bei ChatGPT findest du den entsprechenden Schalter unter Einstellungen und Datenkontrollen, bei Claude unter Einstellungen und Datenschutz.

Außerdem empfiehlt Proton, regelmäßig zu prüfen, welche Daten die genutzten KI-Systeme über dich gespeichert haben. Lösche alles, was du nicht mehr brauchst. Beide Anbieter bieten dafür eigene Modi an, temporäre Chats bei ChatGPT und Inkognito-Chats bei Claude, in denen Gespräche weder im Verlauf landen noch für das Training verwendet werden.

Wer hinter AI Paper Trail steckt

So nützlich das Tool auch ist: Es lohnt sich ein Blick darauf, wer es anbietet. Proton ist ein Schweizer Unternehmen, das mit verschlüsselten Diensten wie Proton Mail bekannt wurde und mit Lumo einen eigenen KI-Assistenten betreibt.

Kein Wunder also, dass das Unternehmen diesen als Alternative zu den bekannten US-Plattformen empfiehlt. AI Paper Trail ist zwar kostenlos, aber nicht interessenfrei. Das Tool macht ein reales Problem sichtbar und liefert die Lösung gleich mit. Trotzdem bleibt der Selbsttest allemal aufschlussreich und ein sinnvoller Denkanstoß.

Auch interessant: 

• KI-Chatbot ohne Verluste wechseln: So nimmst du deine Einstellungen mit
• Datenschutz bei ChatGPT: Mit diesen 10 Tipps kannst du dich schützen
• Mit diesen 4 Fragen kannst du deine Datenschutzkompetenz testen
• Künstliche Neugier: Neues KI-Modell trainiert sich selbst

Der Beitrag Das weiß ChatGPT alles über dich: Dieses Tool wertet deine Chats aus erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Computer History: ChatGPT kann jetzt sehen, was du am Rechner machst erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Die Computer History von ChatGPT zeichnet auf, was du an deinem Rechner tust und baut daraus einen Verlauf, auf den die KI später zugreifen kann. Zumindest in der Theorie. Denn: Die neue Funktion von OpenAI ist in Deutschland bisher noch nicht verfügbar. Theoretisch lässt sie sich aber über einen Umweg aktivieren.

„Computer History wandelt deine Aktivitäten in Apps und auf Websites in Erinnerungen und eine Zeitleiste um, auf die ChatGPT und Codex zurückgreifen können“, lautet die Beschreibung einer neuen Funktion aus dem Hause OpenAI.

Das Feature protokolliert, welche Programme und Websites Nutzer anklicken und nutzen und fasst die gesamte Aktivität zu einer durchsuchbaren Zeitleiste zusammen. ChatGPT kann diesen Verlauf dann in Gesprächen verwenden, etwa um dir zu sagen, wo du eine bestimmte Datei zuletzt geöffnet hast oder was vor deiner letzten Nutzungspause offen war. OpenAI schreibt dazu:

Du kannst natürliche Fragen zu deinen jüngsten Arbeiten stellen, dort weitermachen, wo du aufgehört hast, Muster in deiner Arbeitsweise erkennen und wiederkehrende Arbeitsabläufe in Fähigkeiten oder Automatisierungen umwandeln.

Der Rollout der neuen ChatGPT-Funktion begann Mitte August 2026. Bisher ist Computer History allerdings nur in der ChatGPT-App für macOS und nur mit einem Pro-, Business- oder Enterprise-Abo nutzbar.

In Business- und Enterprise-Umgebungen muss außerdem ein Administrator den Zugriff freigeben. Die Freigabe allein schaltet die Funktion aber nicht ein. Jeder Nutzer muss dem selbst zustimmen. Im Europäischen Wirtschaftsraum, in der Schweiz und in Großbritannien steht die Funktion noch nicht zur Verfügung.

ChatGPT: So funktioniert Computer History

Computer History erfasst alle Interaktionen, die ein Nutzer auslöst. Dazu gehören Klicks, Tastatureingaben, Tastenkürzel, App-Wechsel sowie Kontextinformationen, die macOS über seine Barrierefreiheits-Schnittstelle bereitstellt. Daraus erzeugt ChatGPT dann Textzusammenfassungen und eine Zeitleiste.

User haben anschließend die Möglichkeit zu fragen, woran sie beispielsweise vor der Mittagspause gearbeitet haben oder wo ein bestimmtes Dokument liegt, das sie am Morgen noch benutzt haben. Erkennt das System wiederkehrende Abläufe, schlägt es vor, daraus einen Skill oder eine Automatisierung zu bauen.

Screenshots, Bildschirmaufnahmen, das computereigene Mikrofon oder Systemaudios erfasst Computer History nach Angaben von OpenAI derweil nicht. Auch private Browseraktivitäten bleiben außen vor.

Computer History löst die frühere Research Preview Chronicle ab. Allerdings handelt es sich bei der neuen Funktion um eine komplett neu gebaute Anwendung, nicht nur um eine Umbenennung. Der wichtigste Unterschied zu Chronicle besteht darin, dass die veraltete Funktion noch mit Screenshots arbeitete. Computer History tut das nicht.

Computer History in ChatGPT aktivieren

OpenAI gibt in der offiziellen Mitteilung eine Anleitung dazu, wie Nutzer die Computer History aktivieren können.

1. Öffne die ChatGPT-Desktop-App unter macOS.
2. Wähle in den Einstellungen unter „Integrations“ die Option „Computer History“ aus.
3. Wähle „Turn on“ und überprüfe die Informationen zu Datenschutz, Berechtigungen und lokalem Speicher.
4. Aktiviere „Memories“, falls du dazu aufgefordert wirst. „Computer History“ benötigt „Memories“, um den Aktivitätskontext über Chats und Aufgaben hinweg nutzen zu können.
5. Wähle aus, welche Apps und Websites zu deinem Verlauf beitragen dürfen, und befolge anschließend die Anweisungen zu den macOS-Berechtigungen.

Diese Anleitung gilt aktuell nur für die Länder, in denen Computer History bereits verfügbar ist. Ob diese Einstellungen so auch in Deutschland funktionieren werden, wenn der Rollout hierzulande ankommt, bleibt abzuwarten. Über ein VPN lassen sie sich aber theoretisch auch über Umwege aktivieren.

Datenschutz und lokaler Speicher

Die gesammelten Informationen speichert Computer History laut OpenAI vorübergehend auf dem Mac des Users, damit ChatGPT und Codex Erinnerungen generieren und vorgeschlagene Arbeitsabläufe erstellen können.

Die Ereignisdateien sind innerhalb der ChatGPT-App-Gruppe isoliert, wodurch verhindert wird, dass andere Apps ohne ausdrückliche Erlaubnis darauf zugreifen können. ChatGPT und Codex löschen diese Ereignisdateien nach 48 Stunden.

Für die Auswertung startet Computer History regelmäßig eine kurzlebige Codex-Sitzung. Dabei verarbeitet OpenAI die temporären Ereignisdaten auf eigenen Servern, um daraus die Erinnerungen zu erzeugen, die anschließend lokal auf dem Mac landen. Nach der Verarbeitung behält OpenAI diese Dateien nach eigenen Angaben nicht und nutzt sie auch nicht für das Training seiner Modelle.

Die erzeugten Erinnerungen bleiben außerdem als Markdown-Dateien auf dem Rechner, bis User sie selbst löschen. OpenAI weist darauf hin, dass diese Dateien sensible Informationen enthalten können und von Computer History nicht verschlüsselt werden.

Das bedeutet auch, dass andere Programme unter dem genutzten macOS-Konto darauf zugreifen könnten. Laut den Entwicklern steigt außerdem das Risiko für Prompt Injection.

Auch interessant: 

• Klicks statt Klima: Wie Medien und Algorithmen unsere Zukunft verzocken
• Mit diesen 4 Fragen kannst du deine Datenschutzkompetenz testen
• Perversbrillen: Smart Glasses von Meta droht Verbot in Deutschland
• Für Europa: Fraunhofer und SAP wollen US-Cloud-Anbieter austricksen

Der Beitrag Computer History: ChatGPT kann jetzt sehen, was du am Rechner machst erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Forscher haben eine Schwachstelle bei verschlüsselten KI-Denkprotokollen entdeckt. Betroffen sind offenbar Modelle von OpenAI, Anthropic und Google. Moderne Modelle verarbeiten komplexe Aufgaben intern Schritt für Schritt. Diese sogenannten Reasoning-Traces werden teilweise verschlüsselt an Anwendungen zurückgegeben. Bei späteren Anfragen können sie erneut an den jeweiligen Dienst übertragen werden. Genau diese Architektur haben die Forscher untersucht. Sie […]

Der Beitrag Verschlüsselte KI-Gedanken lassen sich offenbar trotzdem auslesen erschien zuerst auf fosstopia.