Der Beitrag KI-Faulheit: Hilfe, ich habe das Denken verlernt! erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Eine kurze Spracheingabe oder eine geschriebene Frage genügt und die KI unserer Wahl spuckt uns eine fundiert klingende, wissenschaftlich anmutende Antwort aus. Diese ist so gut formuliert, dass wir erst gar nicht beginnen, über das Thema nachzudenken. Das hat fatale Auswirkungen. Eine kommentierende Analyse.

Hintergrund

• Der Medienpädagogische Forschungsverband Südwest hat für die JIM-Studie 2025 untersucht, wie Jugendliche und junge Erwachsene KI nutzen. Knapp drei Viertel der 12- bis 19-Jährigen setzen KI für Hausaufgaben oder das Lernen ein. Damit nehmen ChatGPT und Co. schon den zweiten Platz hinter klassischen Suchmaschinen ein. Besonders bedenklich: 57 Prozent der Befragten halten die KI-Antworten für vertrauenswürdig.
• Das ist fatal. Denn: 45 Prozent aller KI-Antworten haben mindestens ein schwerwiegendes Defizit. Zu diesem Ergebnis ist die Studie „News Integrity in AI Assistants“ der Europäischen Rundfunkunion gekommen. Zu diesen Defiziten gehören beispielsweise veraltete Quellen, fehlende oder frei erfundene Quellen oder eine Vermischung von Fakten und Meinung. Tatsächlich gefährden wir nicht nur unsere Glaubwürdigkeit, sondern auch unseren Denkapparat.
• Ein Forscherteam des MIT Media Labs unter Leitung von Nataliya Kosmyna hat sich mit den Auswirkungen der KI-Nutzung auf unser Gehirn beschäftigt. Das Ergebnis von „Your Brain on ChatGPT“: Bei Probanden, die ChatGPT für ihre Recherche genutzt haben, wurde im EEG die geringste Gehirnaktivität verzeichnet. Die Probanden, die über Google suchten oder sich selbst eine Geschichte ausdenken mussten, wiesen sehr aktive Gehirnareale auf.

Unser Gehirn ist einfach zu alt für KI

Die Auswirkungen von KI auf unser Gehirn sind fatal, denn nur selten denken wir über unser Gehirn nach. Unser Gehirn ist sehr alt und von der Evolution darauf geprägt, in Gefahrensituationen schnell reagieren zu können. Wer den Säbelzahntiger sieht, muss rennen – sonst stirbst du. Wer dagegen nachdenkt, ist tot. Und tatsächlich ist unser Gehirn nicht sonderlich viel weiter – auch, wenn sich die Welt um uns herum stark verändert hat.

Die beiden Forscher Daniel Kahnemann und Amos Tversky haben seit den 1970er Jahren über unser Gehirn und kognitive Verzerrungen geforscht und die Erkenntnisse in verständlicher Form im Buch „Schnelles Denken, langsames Denken“ veröffentlicht. Darin beschreiben die Autoren unter anderem die unterschiedlichen Denk- und Verhaltensmuster unseres Gehirns. Aus Faulheit tendieren wir dazu, Ergebnisse aus kleinen Stichproben zu überinterpretieren oder Wahrscheinlichkeiten und Basiswerte unzureichend zu berücksichtigen.

Ein schönes Beispiel dazu ist Linda. Sie ist 31 Jahre alt, single, offen und sehr intelligent. Sie hat Philosophie studiert. Als Studentin engagierte sie sich stark gegen Diskriminierung und für soziale Gerechtigkeit und nahm an Anti-Atomkraft-Demonstrationen teil. Die Probanden der Studie sollten sagen, ob Linda eine einfache Bankangestellte ist oder eine Bankangestellte, die zudem in einer feministischen Bewegung aktiv ist.

Über 85 Prozent wählten die zweite Option, obwohl die Schnittmenge zweier Ereignisse niemals wahrscheinlicher als ein Einzelereignis sein kann. Das zeigt: Unser Gehirn liebt Prototypen und ignoriert alles, was wir zum Thema Wahrscheinlichkeit lernen. Oder anders ausgedrückt: Unser Gehirn liebt es, wenn es nicht denken muss. Es liegt gerne auf dem Sofa. Genau an dieser Stelle wird es für uns Menschen durch Künstliche Intelligenz so gefährlich. Sie liefert uns schnell, plausibel klingende Antworten, die uns dazu einladen, nicht mehr nachzudenken. Das müssen wir auf jeden Fall verhindern.

Stimmen

• Zishan Khan ist Kinder- und Jugendpsychiater und arbeitet als Regional Medical Director bei Mindpath Health. Nach der Publikation der MIT-Media-Lab-Studie sagte er gegenüber dem Time Magazine: „Aus psychiatrischer Sicht sehe ich, dass eine übermäßige Abhängigkeit von LLMs unbeabsichtigte psychologische und kognitive Folgen haben kann – insbesondere für junge Menschen, deren Gehirne sich noch in der Entwicklung befinden.“ Er ergänzt: „Diese neuronalen Verbindungen, die ihnen beim Zugriff auf Informationen, dem Erinnern von Fakten und der Fähigkeit zur Resilienz helfen, werden sich alle abschwächen.“
• Ross Dawson bezeichnet sich selbst als Futurist, arbeitet als Keynote-Speaker für globale Konzerne wie Coca-Cola und ist im Australian Institute of Company Directors aktiv. Er warnt auf LinkedIn: „Bei der Arbeit mit KI ist Faulheit die größte Sünde. In dem Moment, in dem Sie ein Ergebnis als ‚gut genug‘ akzeptieren, hören Sie auf, Ihre kognitiven Fähigkeiten zu trainieren. Von da an ist es ein schleichender Prozess nach unten. Sie können sich stattdessen dafür entscheiden, KI als Gegenüber zu nutzen, um Ihre Absicht zu klären und Ihr Denken zu schärfen – um es besser zu machen als je zuvor. Aber das muss Ihre ausdrückliche Absicht sein. Ohne diese Absicht werden Sie von der KI geformt.“
• Am Institut für Digitale Ethik an der Hochschule für Medien (HdM) in Stuttgart wurden die „10 Gebote der KI-Ethik“ entwickelt. Dr. Petra Grimm, Professorin für Medienforschung und Kommunikationswissenschaft an der HdM, erklärt im Interview: „Denke zuerst selbst nach, bevor du KI nutzt, und trainiere deine eigenen Fähigkeiten. Generative KI wie ChatGPT, Grok oder Mistral wurde nicht für Bildungszwecke entwickelt, dringt aber in Schulen ein. KI kann als Tutor helfen – erst, wenn Kinder eigenständiges Denken gelernt haben. Sonst riskieren wir, Problemlösungskompetenz und kritisches Denken zu schwächen.“

KI als Werkzeug richtig nutzen

Es wäre gelogen, sich als Moralapostel aufzuspielen, der sich noch nie blind auf eine KI-Antwort verlassen hat. Das ist mir mehr als einmal so gegangen. Mehr als einmal habe ich allerdings auch festgestellt, wie fehlerbehaftet die KI-Antworten sind – einmal auf der Suche nach einem Krankenhaus mit Geburtsstation und einmal bei den Kursen von Edelmetallen. Beide Male ließ sich die KI keines Besseren belehren – trotz offizieller Quellen und Links als Belege für Falschaussagen.

Diese kleinen Aha-Momente gibt es viel zu selten. Das liegt auch daran, dass wir ChatGPT selten zu unseren Fachgebieten befragen. Wir fragen nicht in den Bereichen, in denen wir uns auskennen, sondern sind auf der Suche nach Wissen an den Stellen, an denen wir blinde Flecken haben. Dadurch entziehen wir uns selbst der Möglichkeit, Fehler zu entdecken und zu lernen, dass KI (viele) Fehler macht.

Ein weiterer Fakt ist: Unser Gehirn liebt Routinen. Im Durchschnitt dauert es rund 60 aufeinanderfolgende Tage, bis wir eine neue Gewohnheit etabliert haben. Diesen verhältnismäßig kurzen Zeitraum sollten wir nutzen, um unserem in die Jahre gekommenen Gehirn ein KI-Upgrade zu verpassen.

Das könnte so gehen: Für mindestens zwei Monate zwingen wir uns dazu, jede KI-Antwort über eine klassische Google-Recherche zu verifizieren oder falsifizieren. Dadurch bringen wir unserem Gehirn bei, KI-Antworten zu misstrauen und stets eine Korrekturschleife durchzuführen. Nach einigen Monaten haben wir eine simple Routine entwickelt, die uns davor schützt, dass unser Gehirn biologisch verkümmert.

Auch interessant: 

• TUM-Studie zu E-Autos liefert Stoff für neue Emissions-Lügen
• EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert
• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype
• Nachtsperre, Limits, keine Likes: Reicht das, um Kinder vor Meta zu schützen?

Der Beitrag KI-Faulheit: Hilfe, ich habe das Denken verlernt! erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Anthropic-Chef Dario Amodei fordert eine globale Bremse für die KI-Entwicklung und strengere Chip-Exportkontrollen. Die Regierung in Peking weist den Vorstoß scharf zurück und wirft den USA den Start eines neuen Kalten Krieges vor. (Weiter lesen)

Mehr als 250 Menschen sind am Wochenende in der Innenstadt von Leeds, Großbritannien, gegen den Bau eines Microsoft-Rechenzentrumscampus auf die Straße gegangen. Es geht um drohende Umweltschäden. (Weiter lesen)

Anthropic-Chef Dario Amodei warnt eindringlich vor den möglichen Folgen der rasanten KI-Entwicklung. In einem offenen Brief erklärte er, dass in sechs bis zwölf Monaten ein KI-gesteuertes Botnetz in der Lage sein könnte, große Teile des Internets zu übernehmen. (Weiter lesen)

Ein Sicherheitsvorfall mit KI-Agenten liefert der Debatte über das Tempo der KI-Entwicklung neuen Zündstoff. Ausgerechnet Anthropic-Chef Dario Amodei, OpenAI-Chef Sam Altman und Elon Musk zeigen sich in der Grundrichtung ungewöhnlich einig. weiterlesen auf t3n.de

Mit dem offiziellen Download von Gemini für den Desktop nutzen Sie den intelligenten Chatbot von Google als native Anwendung direkt unter Windows. (Weiter lesen)

Der Beitrag KI-Hack: Anthropic muss nächsten Vorfall mit Claude offenlegen erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Anthropic hat einen vierten Sicherheitsvorfall mit einem eigenen KI-Modell gemeldet. Bei einem Test griff das System auf reale Computersysteme zu. Der Vorfall war bei einer früheren Untersuchung zunächst unentdeckt geblieben.

Die Fähigkeiten von modernen KI-Modellen haben sich in den vergangenen Jahren in rasantem Tempo entwickelt. Doch damit steigen nicht nur die Mögkichkeiten für Nutzer, sondern auch die Sicherheitsrisiken.

Insbesondere, wenn KI-Systeme Zugriff auf reale IT-Infrastrukturen haben, können unzureichende Schutzmechanismen schwerwiegende Folgen haben. Das zeigt nun ein weiterer Vorfall bei dem KI-Unternehmen Anthropic.

Der Entwickler des KI-Sprachmodells Claude hat nun bereits den vierten Sicherheitsvorfall offengelegt, bei dem das eigene KI-Modell auf reale Computersysteme zugegriffen hat. Der Fall war zunächst nicht entdeckt worden.

Anthropic meldet vierten Hackerangriff bei Claude

Bereits Ende Juli hatte Anthropic drei Vorfälle öffentlich gemacht, bei denen eigene KI-Modelle im Rahmen von Sicherheitstests reale Systeme kompromittiert hatten. Nun hat das Unternehmen einen vierten Fall nachgemeldet, der bei der damaligen Untersuchung zunächst unentdeckt geblieben war.

Das Team von Anthropic hatte während einer Cybersicherheits-Evaluierung vermutet, dass Claude unbeschränkten Zugriff auf das Internet erhalten haben könnte. Daraufhin analysierte das Unternehmen mehr als 141.000 Transkripte mithilfe eines automatisierten Suchverfahrens.

Dabei konnten allerdings nur drei Vorfälle identifiziert werden, da bei der Durchsuchung „eine Reihe von Transkripten übersehen“, wie das Unternehmen mitteilt. Bei einer erneuten Durchsuchung deckte das Unternehmen nun den vierten Vorfall auf.

Dieser habe sich im Januar 2026 zugetragen und eine frühe Version von Claude Opus 4.6 betroffen. Alle betroffenen Parteien seien durch das Unternehmen benachrichtigt.

Anthropic lässt Hackerangriffe unabhängig untersuchen

Anthropic weist darauf hin, dass die Vorfälle „auf einen engen Rahmen beschränkt“ geblieben seien. Die Modelle seien in den Tests „nie“ vom Ziel abgewichen und hätten auch nicht versucht, sich mit anderen Agenten abzustimmen oder die eigenen Handlungen zu verschleiern.

Das Unternehmen geht daher davon aus, dass „die bei diesen Vorfällen beobachteten problematischen Verhaltensweisen im normalen Betrieb – also wenn Claude nicht gezielt den Auftrag erhält, einen Cyberangriff durchzuführen – kaum auftreten dürften“. Würden sie dennoch vorkommen, würden Schutzmechanismen eingreifen.

Dennoch hat Anthropic nach Bekanntwerden der Vorfälle eine externe Untersuchung veranlasst. Das unabhängige Forschungsunternehmen METR soll nun prüfen, wie es zu den Sicherheitsverletzungen kommen konnte und ob künftig Schutzmaßnahmen angepasst werden müssen.

METR erhält für die Untersuchung unter anderem weitreichenden Zugriff auf Transkripte, die über den Zeitraum der Vorfälle hinausgehen. Auch soll die NPO Mitarbeiter von Anthropic befragen, denen die Weitergabe vertraulicher Informationen gestattet ist.

Auch interessant:

• KI-Modelle sollen autonom Geld verdienen: What could possibly go wrong?
• Fermats letzter Satz: Anthropic-KI schreibt Mathegeschichte
• Keine gute Idee: Warum du deinen KI-Account nicht teilen solltest
• KI-Chatbot ohne Verluste wechseln: So nimmst du deine Einstellungen mit

Der Beitrag KI-Hack: Anthropic muss nächsten Vorfall mit Claude offenlegen erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag AI Governance im Unternehmen: Darum wird KI-Compliance zur strategischen Pflicht erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Was noch vor einigen Jahren nach Zukunftsmusik klang, ist längst zu einem operativen Werkzeug geworden: Künstliche Intelligenz. Inzwischen setzen immer mehr Unternehmen KI für zahlreiche Aufgaben ein – von Recherche und Kundenservice bis zu Dokumentenanalyse und Wissensmanagement. 

Dabei können KI-Anwendungen nicht nur einzelne Prozesse beschleunigen. Richtig angewendet, steigern sie die Produktivität des gesamten Unternehmens. 

Gleichzeitig jedoch entsteht eine neue Risikodimension. Denn wer Künstliche Intelligenz ohne klare Regeln, Zuständigkeiten und Kontrollmechanismen in den Arbeitsalltag integriert, riskiert etwa Datenschutzverstöße. Auch Urheberrechtskonflikte sowie Verletzungen interner Compliance-Vorgaben können durch einen unregulierten KI-Einsatz ausgelöst werden.

Um möglichen Gefahren durch den Einsatz von KI entgegenzusteuern, trat der EU AI Act (Verordnung (EU) 2024/1689) am 1. August 2024 in Kraft. Er gilt unmittelbar in allen Mitgliedstaaten und wird stufenweise anwendbar: Die Verbote unzulässiger KI-Praktiken und die KI-Kompetenzpflicht greifen seit dem 2. Februar 2025, die Pflichten für Modelle mit allgemeinem Verwendungszweck (GPAI) seit dem 2. August 2025.

Seit dem 2. August 2026 ist die Verordnung allgemein anwendbar – seither gelten insbesondere die Transparenz- und Kennzeichnungspflichten nach Art. 50 sowie das Sanktionsregime. Damit hat sich die regulatorische Ausgangslage für den betrieblichen KI-Einsatz grundlegend verändert.

Denn Unternehmen dürfen die Künstliche Intelligenz nicht länger als reines Innovationsthema betrachten. Abhängig vom Einsatzgebiet der KI müssen sie sich immer mehr mit rechtlichen, organisatorischen und technischen Anforderungen befassen. Dadurch entwickelt sich die AI-Governance zu einem zentralen Bestandteil der modernen Unternehmensführung. 

Wichtig für die Planung: Mit dem Digital Omnibus on AI – Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026 – wurden die Hochrisiko-Pflichten des Kapitels III verschoben. Für eigenständige Hochrisiko-KI-Systeme nach Art. 6 Abs. 2 in Verbindung mit Anhang III (etwa in Personalauswahl, Bildung oder kritischer Infrastruktur) gelten sie erst ab dem 2. Dezember 2027, für Hochrisiko-KI in regulierten Produkten nach Art. 6 Abs. 1 in Verbindung mit Anhang I erst ab dem 2. August 2028.

Nicht verschoben wurden dagegen die Offenlegungspflicht bei KI-Interaktion (Art. 50 Abs. 1) und die Deepfake-Kennzeichnung durch Betreiber (Art. 50 Abs. 4): Beide gelten seit dem 2. August 2026. Für die maschinenlesbare Kennzeichnung synthetischer Inhalte nach Art. 50 Abs. 2 läuft für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, eine Übergangsfrist bis zum 2. Dezember 2026.

Zum 2. Dezember 2026 werden zudem neue Verbote wirksam, unter anderem für KI-Systeme zur Erzeugung nicht einvernehmlicher intimer Bilddarstellungen und von Darstellungen sexuellen Kindesmissbrauchs. Mehr Zeit bedeutet also keine Entwarnung, sondern eine Verschiebung der Prioritäten: Transparenz, Kennzeichnung und Nutzungssteuerung sind sofort relevant, die Hochrisiko-Konformität ist planbar vorzubereiten.

Der KI-Boom und seine Schattenseiten

Laut einer Bitkom-Erhebung vom März 2026 setzen 41 Prozent der deutschen Unternehmen Künstliche Intelligenz bereits ein, weitere 48 Prozent planen den Einsatz oder diskutieren darüber. Im September 2025 lag der Anteil der Nutzer noch bei rund einem Drittel – die Verbreitung wächst damit weiterhin dynamisch. Acht von zehn Unternehmen sehen KI als wichtigste Zukunftstechnologie.

Allerdings beginnt die KI-Nutzung in der Mehrzahl der Unternehmen nicht mit einem speziell darauf ausgerichteten Projekt. Stattdessen nutzen die Mitarbeiter frei verfügbare Tools oft eigeninitiativ, um:

• Inhalte von Dokumenten zusammenzufassen
• Texte zu verfassen
• Codes zu optimieren

Allerdings entsteht dadurch ein erhebliches Compliance-Risiko.

Denn gelangen vertrauliche Informationen oder personenbezogene Daten in ein externes KI-System, können sich daraus sicherheitsrelevante und datenschutzrechtliche Konsequenzen ergeben.

Auch urheberrechtliche Verletzungen sind durch einen unbedachten KI-Einsatz zu befürchten. So sehen die von einer KI generierten Texte, Bilder oder Programmcodes auf den ersten Blick zwar neu und professionell aus. Jedoch können durch duplizierte oder fehlerhafte Inhalte rechtliche Fragen auftreten.

Für Unternehmen ist es daher unerlässlich zu klären, unter welchen Bedingungen KI-generierte Inhalte verwendet, veröffentlicht oder in eigene Systeme integriert werden dürfen. 

Für Verantwortliche, die diese Aufgabe übernehmen, ist eine Ausbildung zum AI Compliance Officer entscheidend. Denn es liegt in seiner Verantwortung, dass Unternehmen Künstliche Intelligenz rechtssicher, datenschutzkonform, ethisch und im Einklang mit dem EU AI Act nutzen.

Wie der EU AI Act die Spielregeln verschiebt

Der EU AI Act ist ein wesentliches Regulierungswerkzeug für den Einsatz Künstlicher Intelligenz. Dabei verfolgt er einen risikobasierten Ansatz, sodass nicht jedes KI-System gleichermaßen von den in Kraft tretenden Regularien betroffen ist. 

Entscheidend ist hauptsächlich, welches Risikoniveau ein konkreter KI-Einsatz bietet. So gelten für bestimmte Anwendungen – etwa KI-Systeme, die mit personenbezogenen Daten in Berührung kommen – strengere Anforderungen als für andere.

Für Unternehmen ergibt sich daraus längst mehr als die Frage, ob eine KI zum Einsatz kommen darf. Vielmehr ist zu klären:

• welches System für welchen Zweck Anwendung finden soll
• welche Daten dabei verarbeitet werden
• welche Risiken dadurch entstehen
• welche organisatorischen und technischen Maßnahmen erforderlich sind

Besonders wichtig für den KI-Einsatz in Unternehmen sind Transparenz, Kompetenz und vor allem ein umfassendes Risikomanagement. Dementsprechend benötigen Firmen nicht nur einen groben Überblick über ihre KI-Anwendungen. Sie müssen diese auch systematisch auf ihr Nutzen-Risiko-Verhältnis bewerten können.

Wichtig: Der EU AI Act sollte nicht isoliert betrachtet werden. Er geht Hand in Hand mit datenschutzrechtlichen Anforderungen – etwa aus der DSGVO – Vorgaben zum Schutz von Geschäftsgeheimnissen, Urheberrecht sowie branchenspezifischen Compliance-Vorgaben. Damit entwickelt sich KI-Compliance mehr und mehr zu einer Querschnittsaufgabe zwischen Recht, IT, Informationssicherheit, Datenschutz, HR und Management. 

Wie KI-Governance Ordnung bei der KI-Nutzung schafft

Damit Unternehmen Künstliche Intelligenz zukünftig rechtssicher und datenschutzkonform einsetzen können, ist eine interne AI-Governance unerlässlich. Hierbei handelt es sich um eine Art unternehmensweiten Ordnungsrahmen, der festlegt:

• wie KI-Systeme ausgewählt werden
• wie sich Künstliche Intelligenz in den Unternehmensalltag einführen lässt
• wie KI-Systeme zu betreiben sind
• wer den KI-Einsatz überwacht
• wann und unter welchen Bedingungen KI-Systeme wieder abgeschaltet werden

Dabei beginnt eine belastbare KI-Governance-Strategie mit einer Art Inventur. Gemeint ist: Unternehmen müssen in Erfahrung bringen:

• welche Systeme sie überhaupt nutzen
• in welchen Fachbereichen sie zum Einsatz kommen und 
• welche Daten dabei verarbeitet werden

Darauf aufbauend, können Risikoklassen, Freigaben und Verantwortlichkeiten definiert werden.

Auch klare Nutzungsrichtlinien sind unerlässlich. Rechtlich gilt seit dem 2. Februar 2025 die KI-Kompetenzpflicht nach Art. 4 AI Act; seit dem 27. Juli 2026 ist sie durch die Verordnung (EU) 2026/1744 abgeschwächt: Anbieter und Betreiber müssen die KI-Kompetenz ihres Personals fördern, ein bestimmtes Kompetenzniveau für einzelne Personen aber nicht garantieren. Aus Governance-Sicht bleibt eine strukturierte Qualifizierung dennoch geboten – schon zur Vermeidung fehlerhafter Entscheidungen durch unkritische Übernahme von KI-Ergebnissen. Mitarbeitende sollten deshalb verbindlich unterwiesen werden:

• welche KI-Systeme sie nutzen dürfen und welche nicht
• welche Daten in die Systeme eingegeben werden dürfen
• wann eine menschliche Prüfung erforderlich ist

Insbesondere für sensible Anwendungsfälle sind zudem verbindliche Freigabe- und Dokumentationsprozesse zu etablieren. 

Die neue Key-Position im Unternehmen: der AI Compliance Officer

Wichtig ist, eine AI-Governance im Unternehmen nicht als KI-Verbotskonzept zu verstehen. Vielmehr wird durch die Regulierung ein kontrollierter Rahmen geschaffen, in dem die KI-basierte Innovation sicher und rechtskonform stattfinden kann. 

Denn nur durch klare und verständliche Regeln kann die Künstliche Intelligenz skalierbar und vor allem verantwortungsbewusst zum Einsatz kommen.

Die Verantwortung für die sichere KI-Nutzung liegt jedoch längst nicht mehr nur bei der IT-Abteilung oder den Datenschutzverantwortlichen einer Firma. Stattdessen werden spezialisierte Ansprechpartner benötigt, die technische, organisatorische und rechtliche Perspektiven miteinander verknüpfen können.

Einer davon ist der AI Compliance Officer. Diese Funktion ist im AI Act nicht als Pflichtamt vorgesehen. Sie ist ein Instrument freiwilliger Governance-Praxis, mit dem Unternehmen die gesetzlichen Anforderungen an Risikobewertung, Transparenz und Kompetenzförderung organisatorisch verankern und prüfungssicher nachweisbar machen. Er kann abhängig von Unternehmensgröße und -struktur entweder eigenständig agieren oder sich in eine bestehende Compliance-, Datenschutz- oder Governance-Struktur integrieren. 

Zu seinem Aufgabenprofil gehören unter anderem:

• die Bewertung geplanter KI-Anwendungen
• die laufende Überwachung von KI-Systemen
• die Unterstützung bei der Klassifizierung von möglichen Risiken
• die Entwicklung unternehmensinterner KI-Richtlinien
• die stetige Aktualisierung von Governance-Prozessen
• die Koordination zwischen Fachabteilungen, Datenschutz, IT und Rechtsabteilung

Um sich für die Zukunft und damit für den zunehmenden Einsatz Künstlicher Intelligenz in allen Unternehmensbereichen zu rüsten, müssen Firmen ihre Mitarbeitenden ausreichend qualifizieren. 

So können sie in die Ausbildung eines oder mehrerer AI Compliance Officer investieren. Dadurch erhalten sie unternehmensweit das notwendige Rüstzeug, um KI-Anwendungen strukturiert zu bewerten und sicher einzusetzen.

Von der Compliance-Pflicht zum Wettbewerbsvorteil

Die KI-Regulierung und die damit einhergehenden Anforderungen an Unternehmen scheinen zunächst eine Belastung zu sein. Gleichzeitig kann sich der strukturierte und rechtskonforme Einsatz Künstlicher Intelligenz jedoch zu einem starken Wettbewerbsvorteil entwickeln. Insbesondere für digital getriebene Firmen. 

Etablieren sie frühzeitig belastbare Governance-Strukturen, können sie KI-Systeme schneller und vor allem sicherer skalieren. Dadurch heben sie sich von der Konkurrenz ab.

Compliance sollte daher nicht als Bremse im Innovationsprozess verstanden werden, sondern als wichtiges Qualitätsmerkmal und Möglichmacher. 

Der Beitrag AI Governance im Unternehmen: Darum wird KI-Compliance zur strategischen Pflicht erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag KI-Angriffe: Geheimdienste sollen neue Befugnisse erhalten erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Die Gefahr durch Angriffe auf deutsche Unternehmen hat durch Künstliche Intelligenz massiv zugenommen. Deutschland reagiert auf die neuen Angriffsmuster und rüstet nach. Unter anderem sollen den eigenen Nachrichtendiensten weitreichende Befugnisse im Hinblick auf KI gewährt werden. Eine kommentierende Analyse.

Deutsche Unternehmen im Fadenkreuz

Nicht nur bewaffnete Konflikte haben weltweit zugenommen, sondern vor allem auch verdeckte Angriffe auf Unternehmen. Da ein Krieg zwischen fortgeschrittenen Industrienationen oder mächtigen Bündnissen die Welt schnell ins Chaos stürzen könnte, bauen viele Staaten darauf, ihre Kontrahenten durch Datendiebstahl, Sabotage und Industriespionage zu schwächen. Laut einer aktuellen Bitkom-Studie ordneten 37 Prozent der betroffenen deutschen Unternehmen mindestens einen Angriff einem fremden Nachrichtendienst zu. Der Gesamtschaden soll bei über 200 Milliarden Euro liegen, von denen drei Viertel auf Cyberattacken entfallen.

Viele dieser Operationen lassen sich nur schwer verhindern, da die Angreifer neue Methoden nutzen. Während Schäden durch klassische Methoden wie Ransomware sinken, ist die Nutzung von KI sprunghaft angestiegen. Häufig lässt sich der Einsatz Künstlicher Intelligenz nicht mit Sicherheit nachweisen, doch die Unternehmen stellen fest, dass Angriffe immer besser und schneller angepasst werden, gefälschte Audio- und Videoaufnahmen eine deutlich höhere Qualität aufweisen, E-Mails mit schädlichen Inhalten professioneller klingen und die Angriffsfrequenz deutlich gestiegen ist. All das deutet auf KI hin. Die Technologie senkt die Hürden für Angreifer und sorgt dafür, dass Gegenmaßnahmen deutlich schneller unwirksam werden.

Schnelle und koordinierte Reaktionen sind also wichtiger als jemals zuvor. Aus diesem Grund hat das Bundeskabinett eine Reform der Nachrichtendienste beschlossen. Unter anderem sollen BND und Verfassungsschutz KI in Zukunft zur Massenanalyse von Daten heranziehen dürfen. Auch eine Gesichtserkennung in Echtzeit ist vorgesehen. Zudem können die Geheimdienste den Datenverkehr umleiten, Falschinformationen streuen und auf private Kameras zugreifen. Sie sollen nicht nur aufklären, sondern aktiv eingreifen. Besonders umstritten ist die Weisung an das BSI, Sicherheitslücken an den BND zu melden, anstatt sie direkt zu schließen. Der Staat soll durch die Reformen seine Bürger schützen, kann uns aber auch besser überwachen.

Das Wettrennen hat begonnen

Die Gefahr ist real, und die Zahlen sprechen für sich. Ein Anstieg der Angriffe fremder Geheimdienste von sieben auf 37 Prozent innerhalb von drei Jahren ist keine Panikmache. Um sich effektiv gegen KI verteidigen zu können, müssen die Verteidiger selbst auf KI bauen. Damit können Schwachstellen früher erkannt und Maßnahmen schneller umgesetzt werden. Der Mensch alleine kann im Wettlauf mit der Maschine nicht mithalten.

Die Maßnahmen ergeben also grundsätzlich Sinn, doch die absichtlich offen gelassenen Sicherheitslücken, die der BND für seine Zwecke nutzen will, sind nur schwer zu vermitteln. Denn Kriminelle und fremde Dienste können diese ebenfalls ausnutzen. Unternehmen werden vom Staat also gleichzeitig geschützt und gefährdet. Das passt nicht zusammen und wird den Verantwortlichen um die Ohren fliegen, sollte es in Zukunft zu Problemen kommen.

Die Frage ist, ob die neuen Befugnisse der Geheimdienste an den richtigen Stellen greifen. Denn die meisten Schäden entstehen nicht durch Hightech-Angriffe. Stattdessen sind die häufigsten Ursachen eine unzureichende Erkennung von Vorfällen, ein schwaches Zugriffsmanagement und mangelnde Konfigurationen. Um diesen Problemen entgegenzuwirken, müssten die Unternehmen ihr Budget für IT-Sicherheit erhöhen.

Neben den Unternehmen sind auch wir Konsumenten betroffen. Laut der Verbraucherzentrale betrug der Schaden durch von KI gestütztem Betrug im letzten Jahr über zehn Milliarden Euro. Und das BKA gibt bekannt, dass solche Vorfälle viermal häufiger vorkommen als noch 2023. Stimmen lassen sich inzwischen sehr einfach klonen und Texte können innerhalb von Sekunden fehlerfrei erstellt werden.

Ein weiteres Diskussionsthema: Europa macht sich immer abhängiger von Sicherheitslösungen aus den USA. 70 Prozent der Unternehmen sind der Meinung, Firmen und Behörden sollten lieber auf Technologien aus Deutschland oder Europa setzen. Denn wie schnell diese Abhängigkeit zum Problem werden kann, hat der Fall Anthropic gezeigt. Die US-Regierung hatte dem KI-Unternehmen verboten, das stärkste Modell der KI Claude Ausländern zur Verfügung zu stellen.

Stimmen

• „Die Ergebnisse der Bitkom-Studie fügen sich nahtlos in das Bild der aktuell hohen Bedrohungslage ein. Sie zeigen dieses Jahr erneut, dass der Wirtschaftsstandort Deutschland im Zielspektrum von Cyberoperationen staatlicher sowie nicht-staatlicher Akteure steht“, sagt BfV-Präsident Sinan Selen. „Ausländische Nachrichtendienste haben ihre hybriden Aktivitäten intensiviert und sind zunehmend für die Angriffe auf die deutsche Wirtschaft verantwortlich. Sowohl der anhaltende Angriffskrieg Russlands, als auch die voranschreitende, verschleierte Nutzung von KI bei Cyberangriffen stellen die Unternehmen vor große Herausforderungen.“
• Bundesinnenminister Alexander Dobrindt sagt in BILD zur Reform: „Die hybride Bedrohungslage, die Versuche der Destabilisierung durch Sabotage, Spionage, Cyberangriffe und verdeckte Aktionen fremder Mächte bekommen eine neue Antwort.“ Die Maßnahmen würden „aus unseren Nachrichtendiensten echte Geheimdienste“ machen. Und weiter: „Es ist höchste Zeit, dass wir uns wettbewerbsfähig und auf Augenhöhe mit unseren Partnerdiensten in der Welt aufstellen. Dazu braucht es operative Fähigkeiten und aktive Befugnisse, um gegen den modernen Staatsterrorismus und extremistische Gruppen effektiver vorzugehen.“
• Doch welche innenpolitischen Auswirkungen haben die Reformen? Kai Dittmann von der Gesellschaft für Freiheitsrechte warnt vor einem „massiven Machtzuwachs der Nachrichtendienste“. Dittmann weiter: „BND und Verfassungsschutz sollen mit ausgeweitetem Staatstrojaner-Einsatz, KI-Analysen praktisch ohne Schutzmaßnahmen, Zugriff auf private Videokameras und sogar Hackbacks tief in Grundrechte eingreifen können, obwohl die gesetzlichen Hürden vielfach vage und zu niedrig bleiben.“

Who watches the Watchmen?

Deutsche Unternehmen müssen vor Angriffen von außen geschützt werden. Aber mit Gefahren, die abgewehrt werden sollen, gehen sehr oft auch Einschränkungen der Bürger einher. Und wenn dann noch Künstliche Intelligenz mit einbezogen wird, könnte der Überwachungsapparat schnell aus den Fugen geraten.

Aber so weit ist es noch lange nicht. Die neuen Reformen müssen erst noch durch den Bundestag, und Änderungen sind sehr wahrscheinlich. Angesichts der angesprochenen Bedenken dürfte auch das Bundesverfassungsgericht noch ein Wörtchen mitzureden haben. Was vor allem geklärt werden muss: Wie viel würden die Befugnisse der Nachrichtendienste überhaupt bringen? Denn auf den ersten Blick würde sich für die Unternehmen wenig ändern.

Die wirksamsten Maßnahmen gegen Angriffe sind unspektakulär und auch jetzt schon umsetzbar. Firmen müssen ihre Angriffsfläche verkleinern, Sicherheitslücken schließen, Zugriffsrechte regelmäßig prüfen und Notfallpläne immer wieder testen. Um diese Grundlagen abzuhaken, braucht es keine neuen Werkzeuge und keine neuen Rechte für die Geheimdienste. Deutsche Firmen müssen erst einmal selbst ihre Hausaufgaben machen.

Dass immer mehr Angreifer KI benutzen, ist keine Überraschung und war absehbar. Beunruhigend ist eher, dass über die Hälfte aller befragten Unternehmen KI-Attacken vermuten, ohne diese belegen zu können. Wer sich noch nicht einmal sicher ist, vor was er sich schützen muss, kann auch keine effektive Strategie zur Verteidigung entwickeln. Es liegt also ein strukturelles Problem vor, das sich Hacker aus China und Russland zunutze machen.

Unsere Geheimdienste nehmen die neuen Berechtigungen natürlich gerne an. Aber die Frage ist, ob sie wirklich alles dürfen sollen, nur weil es technisch möglich ist. Es ist ein Ritt auf der Rasierklinge, die Dienste handlungsfähig zu machen, ohne die Rechtsstaatlichkeit zu verletzen. Ein Schutz vor Angriffen von außen bringt uns wenig, wenn wir im Gegenzug zu gläsernen Bürgern werden, die immer und überall überwacht werden können.

Auch interessant: 

• TUM-Studie zu E-Autos liefert Stoff für neue Emissions-Lügen
• EU knöpft sich ChatGPT vor: Was sich für Nutzer jetzt ändert
• KI außer Kontrolle? Das große Medienversagen hinter dem Hacker-Hype
• Nachtsperre, Limits, keine Likes: Reicht das, um Kinder vor Meta zu schützen?

Der Beitrag KI-Angriffe: Geheimdienste sollen neue Befugnisse erhalten erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Waymo vs. Tesla: Wer hat beim autonomen Fahren die Nase vorn? erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Waymo und Tesla setzen beim autonomen Fahren auf völlig unterschiedliche Techniken. Doch wie funktionieren die beiden Ansätze im Detail und gibt es einen klaren Gewinner?

Autonome Fahrzeuge dringen langsam aber sicher in unseren Alltag vor. Dabei haben sich in den vergangenen Jahren zwei Unternehmen als Pioniere auf dem Feld herauskristallisiert: Waymo und Tesla. Waymo-Fahrzeuge haben bereits einige Kilometer hinter sich gebracht, denn der Dienst ist seit 2020 vollständig autonom unterwegs. Tesla startete hingegen erst Mitte 2025 seinen eigenen Taxi-Dienst, der sich nicht in der Testphase befindet.

Zunächst noch mit umgebauten Model Y-Fahrzeugen, in Kürze in der Breite mit dem sogenannten Cybercab. Während Waymo auf festgelegtes Wissen und eine Mischung aus Lidar-, Radar- und Kameradaten setzt, kommt bei Tesla ein System namens Pure Vision zum Einsatz, das eher die Umgebungsinformationen zur Laufzeit nutzt und mittels eines neuronalen Netzwerks berechnet. Das wird auch dann deutlich, wenn man die Ausstattung der Fahrzeuge vergleicht.

Unterschiedliche Ansätze: Wie autonomes Fahren bei Waymo und Tesla funktioniert

Die Waymo-Flotte ist mit vorab vermessenen HD-Karten ausgestattet, die gleichzeitig über Wissen zu Objekten und Verkehrsregeln verfügt. Während der Fahrt messen die Lidar-Sensoren die Distanz zu Hindernissen und erstellen aus den Informationen eine Punktwolke der Umgebung.

Gleichzeitig schätzen Kameras die Situation und die Entfernung zu Objekten rein von einer zweidimensionalen Sicht ein. Insgesamt kommen so 13 Kameras, vier Lidar-Einheiten, sechs Radar-Einheiten und Audio-Empfänger unter die Haube. Bei Tesla verzichten die Ingenieure hingegen auf ein klassisches Radar.

In den autonomen Modellen von Tesla basiert das Fahren auf einer reinen Kamera-Architektur. 48 intelligente Netzwerke, deren Training nahezu 70.000 GPU-Stunden in Anspruch nimmt, interpretieren die Informationen dann und setzen sie in einen Kontext. Im Endeffekt geht es bei Tesla also primär um Daten, was alleine 2,5 Milliarden Telemetrie-Pakete im dritten Quartal 2025 deutlich machen.

Autonomes Fahren soll generell sicherer sein

Beim Thema Sicherheit veröffentlichen beide Unternehmen zwar Daten, diese basieren jedoch auf unterschiedlichen Messmethoden und lassen sich nicht direkt gegenüberstellen. Waymo gibt an, dass die Autos 92 Prozent weniger Unfälle mit schweren Verletzungen oder Todesfolge verursachen, die Anzahl an Unfällen mit Verletzten sinke um 82 Prozent. Bei Tesla sprechen die Verantwortlichen von siebenmal weniger schwere und leichte Kollisionen bei fünfmal weniger Kollisionen auf Land- und Stadtstraßen.

Zusammenfassend lässt sich also sagen, dass Waymo und Tesla auf unterschiedliche Ansätze setzen, die das autonome Fahren sicherer gestalten sollen. Während bei Waymo der Aufwand vor der Fahrt durch Vermessungen und HD-Daten etwas höher ist, liegt die Sicherheit bei Tesla eher in der richtigen Interpretation der KI-Modelle. Das führt auch dazu, dass beim Taxi-Dienst von Tesla in der Bay Area noch ein Sicherheitsfahrer am Steuer sitzt, während das Modell in Dallas und Houston auch ohne Support auskommt.

Auch interessant:

• Keine gute Idee: Warum du deinen KI-Account nicht teilen solltest
• KI-Chatbot ohne Verluste wechseln: So nimmst du deine Einstellungen mit
• Mit dieser KI-App identifizierst du Vogelarten am Klang – ohne Internet
• Wie aus Daten ein KI-Modell entsteht – und wie es funktioniert

Der Beitrag Waymo vs. Tesla: Wer hat beim autonomen Fahren die Nase vorn? erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Microsoft will Windows in den kommenden Jahren stärker auch für die "Nutzung" durch KI-Agenten öffnen, die Aufgaben im Auftrag der menschlichen Anwender automatisiert erledigen. Men­schen und Agenten sollen Windows so gleichermaßen verwenden können. (Weiter lesen)

Im Wettlauf um die Künstliche Intelligenz rät ein US-Experte zu drastischen Maßnahmen. Um Chinas Durchbruch bei der superintelligenten KI zu verhindern, schlägt ein Experte gezielte Militärschläge auf Rechenzentren vor. (Weiter lesen)

Während sich weltweit immer größerer Widerstand gegenüber dem scheinbar ungebremsten Ausbau von Rechenzentren zu Lasten von Menschen und Umwelt formiert, plant Microsoft eine Verdreifachung seiner Cloud- und KI-Kapazitäten bis 2032. (Weiter lesen)

Forscher haben das Gehirn einer Fruchtfliege vollständig kartiert und digitalisiert. Entwickler nutzen das riesige neuronale Netzwerk nun für ein bizarres Experiment. Sie bringen dem virtuellen Insekt bei, Videospiele wie Doom zu spielen. (Weiter lesen)

Wegen möglicher Risiken für die globale Sicherheit blockiert Anthropic derzeit gezielt Zugänge zu seiner KI Claude. Forscher aus aller Welt nutzten das System zuvor für bedenkliche Projekte zur genetischen Veränderung von gefährlichen Viren. (Weiter lesen)

Zwei ehemalige KI-Sicherheitsforscher von Anthropic und Google DeepMind haben sich jetzt ebenfalls warnend an die Öffentlichkeit gewandt. Sie wiesen eindringlich auf die Gefahr hin, dass die Technologie den Menschen entgleiten könnte. (Weiter lesen)

Forscher haben mit dem Lunar Foundation Model ein frei zugäng­liches KI-System für die Mondforschung veröffentlicht. Die auf Mil­lionen alter Satellitenbilder trainierte Software hilft der Wissen­schaft künftig dabei, wichtige Eisvorkommen effizienter aufzuspüren. (Weiter lesen)

IBM und die Nasa möchten die Erforschung des Mondes vorantreiben. Dafür stellen sie Wissenschaftler:innen ein neues Open-Source-KI-Modell zur Seite. Was die Künstliche Intelligenz leisten kann, um neue Erkenntnisse über den Mond zu sammeln. weiterlesen auf t3n.de

Bei synchronisierten Serien passen Lippenbewegungen und gesprochener Ton nicht immer exakt zusammen. Prime Video setzt nun auf eine neue Technologie.

Der Beitrag Synchronisations-Revolution: Prime Video passt Lippenbewegungen bei „Maxton Hall“ mit KI an erschien zuerst auf DIGITAL FERNSEHEN.

Eine neue europäische Innovationspartnerschaft treibt die Unabhängigkeit öffentlich-rechtlicher Medien im Bereich der Künstlichen Intelligenz voran.

Der Beitrag Europäische Allianz für digitale Souveränität: ORF, ARD, EBU und Schwarz Digits entwickeln eigene KI-Plattform für Broadcaster erschien zuerst auf DIGITAL FERNSEHEN.