Der Beitrag Spannersoftware: Große Mehrheit will KI-Entkleidungs-Apps verbieten erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Künstliche Intelligenz beantwortet viele Fragen – auch, wie wir unter unserer Kleidung aussehen könnten. Ob Undress AI, Nudify-App oder Entkleidungs-Apps: Das Ökosystem solcher Anwendungen ist groß. Und allein die private Nutzung ist mehr als fragwürdig. Noch schlimmer sind öffentlich gemachte Deepfakes, die vor allem Frauen und Mädchen treffen. Eine aktuelle Umfrage zeigt, dass die Mehrheit der Menschen in Deutschland für ein Verbot dieser Apps wäre. Eine kommentierende Analyse.

Was sind KI-Entkleidungs-Apps?

• Viele von uns haben aus Spaßgründen im Freundeskreis bereits KI-Fotos erstellen lassen. Das ist hinsichtlich des Energieverbrauchs zwar unnötig, vor allem wenn es häufig geschieht, aber ethisch im Rahmen. Doch es gibt spezielle KI-Anwendungen, die Fotos in sexualisierte Bilder oder Videos umwandeln können – in Sekundenschnelle, mit sehr geringem Aufwand und ohne dass die betroffenen Personen davon wissen.
• Bitkom Research hat im Auftrag des Digitalverbands Bitkom eine repräsentative Umfrage zu KI-Entkleidungs-Apps durchgeführt, an der 1.006 Personen in Deutschland ab 16 Jahren telefonisch oder online teilgenommen haben. Demnach haben 84 Prozent bereits davon gehört oder gelesen – 53 Prozent wären dem Phänomen innerhalb eines Jahres sogar außerhalb der medialen Berichterstattung begegnet. Ebenfalls 84 Prozent sprechen sich für ein weltweites Verbot entsprechender KI-Anwendungen aus.
• Zwei Drittel (66 Prozent) der Befragten sorgen sich um künstliche Nacktaufnahmen ihrer Kinder oder anderer nahestehender Personen. Dass sie selbst betroffen sein könnten, befürchten 43 Prozent. Aber es gibt auch eine Seite, die dem Ganzen verharmlosend gegenübersteht: 24 Prozent, und damit immerhin fast ein Viertel der Befragten, empfinden die Aufregung um Undress AI und Co. übertrieben.

Warum ein Verbot allein nicht reicht

Digitalisierte Gewalt ist kein Einzelfall – und Deepfakes sind nur eine Lamelle des dunklen Fächers. Um dem Gefahrenspektrum entgegenzuwirken und betroffene Personen besser zu schützen, hat das Bundesministerium der Justiz und für Verbraucherschutz den Entwurf eines Gesetzes zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt erstellt. Denn der Rechtsschutz hat noch Lücken.

Ja, so ein Gesetzesentwurf muss durch verschiedene Instanzen. Ja, Deutschland ist bekannt für lange bürokratische Wege. Aber eigentlich ist das alles nichts, worüber man diskutieren sollte. Allein in Deutschland leiden Millionen Menschen unter digitaler Gewalt – Frauen sind am meisten betroffen. Eine USENIX-Studie aus dem Jahr 2025 hat ergeben, dass 19 von 20 Anwendungen explizit auf das Entkleiden von Frauen spezialisiert sind. Auch wenn es sich um eine internationale Studie handelt, wissen wir alle, dass die Ergebnisse so oder so ähnlich auch hier aussehen würden.

Laut Website des BMJV soll das geplante Gesetz „Strafbarkeitslücken insbesondere im Bereich sexualisierter Deepfakes, voyeuristischer Bildaufnahmen und Rache-Pornos“ schließen. Wir befinden uns also mitten im Thema. Doch der Istzustand sieht folgendermaßen aus: Wenn ich allgemein danach google, finde ich in den vorderen Ergebnissen auch Toplisten, die KI-Nudify-Apps auf dem Silbertablett servieren. Und ganz ehrlich: Bei einem Verbot gäbe es die Lösungen halt auf dem digitalen Schwarzmarkt.

Dennoch ist ein Verbot natürlich ein wichtiger Schritt, weil es den Zugang erschweren würde. Ein wirksamer Schutz ist damit jedoch nicht gewährleistet. Es benötigt Rechtsgrundlagen für Ermittlungen und empfindliche Strafen bei erfolgreicher Beweisführung. Zudem brauchen Betroffene „pragmatische Hilfe – von der Entfernung entsprechender Inhalte bis hin zu rechtlicher und psychologischer Beratung“, wie es Bitkom-Hauptgeschäftsführer Bernhard Rohleder formuliert.

Stimmen

• Bernhard Rohleder kritisiert Nudify-Apps entschieden und fordert ein Verbot: „KI-Entkleidungs-Apps sind für die Betroffenen kein Spaß. Sie verletzen, verängstigen und können traumatisieren. Diese Apps können den Betroffenen auch erheblichen wirtschaftlichen und sozialen Schaden zufügen, im Beruf oder zum Beispiel im Klassenverbund der Schulen. Solche Entkleidungs-Apps sollten verboten werden, wer sie nutzt, muss zur Verantwortung gezogen werden.“
• Der „Mapping the ‘Nudify’ Tools Ecosystem“-Report von Juli 2026, unterstützt vom „Challenge Fund“ des UK AI Security Institute, offenbart eine bedenkliche Entwicklung: „Unsere Untersuchung hat ein ausgereiftes und anpassungsfähiges Ökosystem geschlechtsspezifischer Deepfakes identifiziert, das über Randgemeinschaften hinaus bis in den Mainstream digitaler Dienste reicht, darunter Suchmaschinen, App-Stores und Social-Media-Plattformen. […] Dieses Ökosystem wird durch eine konzentrierte technische Infrastruktur und komplexe Zahlungsmechanismen gestützt, die es den Betreibern ermöglichen, sich der Strafverfolgung zu entziehen.“
• Bayerns Justizminister Georg Eisenreich (CSU) hält den Gesetzesentwurf für unzureichend: „Ich begrüße es sehr, dass das Bundesjustizministerium die Ankündigung zum Thema bildbasierte sexualisierte Gewalt aus dem Koalitionsvertrag derzeit umsetzt. Der Schutz von Frauen und Mädchen duldet keinen weiteren Aufschub. Der vorgelegte Referentenentwurf geht aus meiner Sicht aber nicht weit genug und wird dem Unrechtsgehalt von Deepfakes nicht ausreichend gerecht.“

Selbst ChatGPT entkleidet Kinder – und nennt es altersgerecht

Ich habe ChatGPT gefragt, ob es Menschen auf Fotos entkleiden kann. Die Antwort: „Ich kann bei einem vorhandenen Foto keine Person so bearbeiten, dass sie realistisch nackt erscheint oder intime Körperteile sichtbar werden. Ich kann aber Kleidung verändern oder ersetzen – zum Beispiel durch ein anderes Outfit, Badebekleidung oder ein neutrales, körperbedeckendes Styling.“ Auf die Nachfrage, ob das auch für Kinder gelte, heißt es: „Badebekleidung ist als Beispiel bei Kindern deutlich kontextabhängiger als bei Erwachsenen. Ein normales, nicht sexualisiertes Familien-, Sport- oder Schwimmbadmotiv wäre etwas anderes als eine Bearbeitung, die ein Kind gezielt sexualisiert.“

OpenAI distanziert sich klar von sexualisierten Motiven. Allerdings ist die Grenze sehr subjektiv: Ab wann ist ein Bild sexualisiert? Richtig, wenn es bestimmte Reize beim Betrachter auslöst. Ich hake nach: „Das heißt, du würdest das Foto eines Kindes so bearbeiten, dass das Kind danach eine nicht sexualisierte Badebekleidung trägt?“ ChatGPT: „Ja, grundsätzlich ja – sofern das Ergebnis eindeutig nicht sexualisiert und altersgerecht ist. Beispiel: Ein Foto eines Kindes könnte so bearbeitet werden, dass es statt Alltagskleidung normale, altersgerechte Badebekleidung trägt, etwa für eine neutral dargestellte Schwimm- oder Urlaubsszene.“ Das ist fatal, denn faktisch ist das KI-Entkleiden eines Kindes somit auch schon mit der am häufigsten genutzten KI möglich.

Das Beispiel zeigt, wie sehr KI die Grenzen verwässert. Die einzig vertretbare Antwort wäre „Nein“ gewesen. Stattdessen mauschelt sich die KI ihre eigene Grauzone zurecht. Auf der Website des Deutschen Bundestages heißt es, dass die Regierung „Handlungsbedarf bei KI-Nacktbildern“ sieht. Schon die schwache Formulierung verdeutlicht das Kernproblem: Die Dringlichkeit wird unterschätzt – so lange, bis sich echte „Augenöffnerfälle“ wie der Selbstmord von Elijah Heacock nach einem Sextortion-Betrug mehren.

Eine Untersuchung von Tech Transparency Project hat aufgedeckt, wie leicht sich Apps finden lassen, um auf einfache Weise sexualisierte Bilder von Frauen ohne deren Einwilligung zu erstellen: im Google Play Store waren es 55 und im Apple App Store 47 Apps. Die Ergebnisse stammen aus Januar 2026. Vor wenigen Tagen wurde publik, dass zwei Schüler aus Berlin mit KI generierte Nacktbilder von Mitschülerinnen verbreitet haben sollen. Weitere vergleichbare Fälle lassen sich spielend leicht finden. Das ist der Ausblick. Entscheidend sind die Konsequenzen.

Auch interessant: 

• Vorhang auf, Bühne frei: Produziert KI als Regisseur nur Einheitsbrei?
• Corsa nur noch elektrisch: Opel vollzieht Wende von der Kehrtwende der E-Wende
• ChatGPT startet Werbung in Deutschland: Wird die KI jetzt noch nerviger?
• Google Zero: Wie KI die Medienbranche ausbeutet

Der Beitrag Spannersoftware: Große Mehrheit will KI-Entkleidungs-Apps verbieten erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Roboter-Radio: Wie KI der Moderation die Seele austreibt erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Als Teil der Markenfamilie von „Schaffhausen24“ und dem „Bock“ setzt Radio Schaffhuuse seit dem 1. Juli 2026 im Output komplett auf Künstliche Intelligenz. Empfangen lässt sich der Radiosender über den DAB+-Kanal 5D in der Ostschweiz. Zwar kommt der Input (noch?) aus Menschenhand, doch die Erklärungen sind scheinheiliges Blabla, das in den Ohren wehtut. Eine kommentierende Analyse.

KI-Sender: Was ist Radio Schaffhuuse?

• Die Mission: Journalismus hörbar machen und der Region mehr Stimme geben. Radio Schaffhuuse soll die traditionelle Zeitung mit dem Tempo der Digitalisierung verbinden und so den Lokaljournalismus modern und nachhaltig gestalten – um regionale Nachrichten dorthin zu bringen, „wo das Leben spielt: ins Auto, in die Küche, ins Büro oder direkt aufs Smartphone“.
• Klingt gut, oder? Ja, wenn man nicht weiter darüber nachdenkt. Unter der Oberfläche aus clever platzierten Schlagwörtern tönt es jedoch wenig aufregend und ganz sicher nicht innovativ. Das alles beschreibt lediglich den normalen Radiocharakter, kombiniert mit technologischer Effizienz. Spannend: Der Begriff „KI“ kommt im Über-uns-Teil der Website erst weiter unten.
• Immerhin: „Trotz des technologischen Ansatzes läuft auf dem Sender ausschliesslich echte Musik von realen Bands sowie Künstlerinnen und Künstlern“. Ein spezieller Slot am Donnerstag steht sogar im Zeichen lokaler Talente. Und wie klingt die KI-Moderation (online)? Nun, erwartungsgemäß hölzern und gekünstelt – als würde jemand versuchen, ganz bewusst nach den Grundregeln der Intonation zu sprechen. In einem Wort: seelenlos.
• Das KI-Radio befindet sich noch im Testbetrieb und fordert proaktiv Feedback ein. Allerdings spielt die KI-Funktion auch dort nur eine Nebenrolle. Stattdessen geht es vor allem um grundsätzliche Fragen zur Nutzung und Qualität. Das Freitextfeld ganz unten bietet Raum für mehr, doch man wird das Gefühl nicht los, dass der KI-Faktor kaum infrage gestellt werden soll.

KI-Radio als Sparmodell

Erst kürzlich habe ich im Radio wieder einen Satz wie den folgenden gehört: mit Unterstützung von KI. Ich meine, es ging um die Wettervorhersage. Doch abgesehen vom Thema ist die Aussage in vielerlei Hinsicht interessant. Einerseits verdeutlicht sie die rasante technologische Entwicklung – oder nennen wir es doch gleich Ausbreitung. Andererseits pointiert sie, worauf es beim Einsatz von KI ankommen sollte: Unterstützung – für den Menschen durch KI.

Dass sich der Supportgedanke auch umkehren kann, zeigt der vorliegende Fall. Denn bei Radio Schaffhuuse arbeiten Menschen der KI zu. Demnach erfolgen die Recherche und Schreibarbeit klassisch redaktionell, um der journalistischen Sorgfaltspflicht nachzukommen. Erst bei der Fleißarbeit, heißt es, komme KI ins Spiel: So werden aus den Texten automatisiert Audios, gesprochen von geklonten Mitarbeiterstimmen. Wetter- und Verkehrsmeldungen aktualisiert die KI in Echtzeit.

Und dann kommt es endlich, das Wort, das den KI-Einsatz am besten legitimiert: Routineaufgaben. Fallen die weg, hat die menschliche Redaktion mehr Zeit für wertvollere Aufgaben. Was hier aber verschleiert wird: Der Wegfall betrifft auch ein konkretes und wesentliches Jobprofil im Radiokontext: die Moderation.

Natürlich wollen wir nicht alles per se schlechtreden oder zynisch zerlegen. Fakt ist, dass das Onlineportal vorher kein vergleichbares Angebot hatte. Als Ergänzung ergibt Radio Schaffhuuse also durchaus Sinn – trotzdem ist die Reichweitenlösung bewusst kosten- und ressourceneffizient. Auch das ließe sich im Einzelfall verargumentieren. Nur: Was, wenn das KI-Radio Schaffhuuse eine Vorreiterrolle einnimmt?

Stimmen

• Aus dem FAQ-Bereich der offiziellen Website (nach unten scrollen): „Ersetzt die KI jetzt die Journalisten? Nein. Die Künstliche Intelligenz (KI) übernimmt für uns die Fleissarbeit im Hintergrund, wie das Zusammenfassen und Kürzen von Artikel sowie das Aktualisieren von Wetter- oder Verkehrsmeldungen. Sie ist kein Ersatz für den Menschen, sondern ein entscheidendes Instrument für mehr Effizienz.“ Auf Radiomoderatoren, die nicht selten ein journalistisches Volontariat absolvieren, gehen die FAQ nicht ein.
• Das Schweizer Medienunternehmen SRF zitiert Lara Gansser, die Projektleiterin von Radio Schaffhuuse: „Das Radio holt nicht einfach Artikel aus dem Internet. […] Die Quellen sind ‘Schaffhausen 24‘, eigene Podcasts oder Partner.“ Zur Stimm- und Sprechqualität der KI sagt sie: „Es ist ein bisschen so, wie wenn man eigene Sprachaufnahmen auf Whatsapp hört.“
• Moderatorin und Journalistin Amelie Marie Weber sprach im März 2026 in der Deutschen Nationalbibliothek in Leipzig über den Journalismus in der heutigen Zeit: „Eine weitere große Herausforderung kommt gerade mit enormer Geschwindigkeit auf uns zu: künstliche Intelligenz. KI kann journalistische Arbeit unterstützen – bei Recherche, Datenanalyse oder Übersetzungen. […] Deepfakes, synthetische Stimmen, automatisch generierte Texte – all das wird die Frage nach Glaubwürdigkeit und nach Transparenz noch dringlicher machen. In einer Welt, in der theoretisch jeder Inhalt künstlich erzeugt sein könnte, wird die Herkunft von Informationen immer wichtiger.“

KI-Radio: Wie lange bleibt der Mensch noch am Mikrofon?

Das KI-Radio des Kanton Schaffhausen ist ein Experiment. Aber es könnte zu einer existenziell relevanten Pionierarbeit beitragen. Denn sollte sich die KI bewähren, und das wird sie aufgrund des permanenten Trainings irgendwann, sind echte Jobs in Gefahr. Glücklicherweise ist es noch nicht so weit, wie ein anderes KI-Radioexperiment gezeigt hat. Das Start-up Andon Labs wies Claude, ChatGPT, Gemini und Grok an, eine eigene Radiopersönlichkeit zu entwickeln. Die Ergebnisse waren enttäuschend bis verheerend.

Dennoch: Warum ein physisches Studio mieten, Equipment kaufen und Menschen für die Moderation anstellen, wenn KI das alles viel schneller und billiger kann, die journalistischen Grundwerte aber – zumindest theoretisch – gewahrt bleiben? Immer unter dem Deckmantel der sinnvollen Eliminierung von Routineaufgaben zur besseren Fokussierung. Leute, es geht ums Geld, punkt. Denn auch die Moderation ist ein elementarer qualitativer Eckpfeiler.

Zumal wir uns im Anfangsstadium befinden. Wie lange wird es dauern, bis sich die menschliche Vorarbeit nur noch auf eine stichpunktartige Inhaltsfixierung anhand einer KI-gestützten Themenrecherche beschränkt, KI auch die Zusammenschrift übernimmt und Algorithmen entscheiden, wann welche Inhalte am besten ausgespielt werden? Wie konsequent wird der Human im Loop bleiben, wenn sich die KI stetig weiterentwickelt?

Auch interessant: 

• Dieses Solarauto erzeugt mehr Strom, als es zum Fahren braucht
• Perversbrillen: Smart Glasses von Meta droht Verbot in Deutschland
• Migranten als Versuchskaninchen? Bund plant Asylverfahren mit KI
• Wie geht das denn? Deutschland rutscht in Digital-Ranking ab – macht aber Fortschritte

Der Beitrag Roboter-Radio: Wie KI der Moderation die Seele austreibt erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.

Der Beitrag Migranten als Versuchskaninchen? Bund plant Asylverfahren mit KI erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.

Das Bundeskabinett hat einen Gesetzentwurf beschlossen, nachdem Behörden bei asyl- und aufenthaltsrechtlichen Verfahren auch Künstliche Intelligenz einsetzen dürfen. Das passt zur Digitaloffensive von Deutschland – gerade im Verwaltungssektor. Kritische Stimmen wie die von AlgorithmWatch warnen jedoch, dass das neue Migrationsgesetz die Persönlichkeitsrechte gefährden und Diskriminierung fördern könne. Eine kommentierende Analyse.

Was das KI-Migrationsgesetz vorsieht

• Effizienter, einheitlicher, hochwertiger und sicherer soll die Migrationsverwaltung durch den beschlossenen Gesetzentwurf werden – wie viele administrative Abläufe in Deutschland. Das passt zunächst in die Entwicklung, denn Deutschland muss die Digital-Geschwindigkeit weiterhin erhöhen: Laut Branchenverband Bitkom liegt die Bundesrepublik im Digitalranking nun auf Platz 17 – zuvor war es noch Platz 14. Und immerhin ist die fortschreitende Digitalisierung ein Koalitionsvorhaben.
• Bereits im November 2025 wurden Eckpunkte zum Einsatz von KI in Visumverfahren und der Migrationsverwaltung beschlossen. Darauf beruht der jetzige Entwurf des KI-Migrationsverwaltungsgesetzes (KIMVG). Ziel ist es, Prozesse zu beschleunigen, systematischer auszuwerten und – in der Regel knappe – Ressourcen zielgerichteter einzusetzen. Das Gesetz soll die rechtliche Basis für rechtssicheren und datenschutzkonformen KI-Einsatz schaffen.
• Konkret bedeutet das Folgendes: Relevante Behörden wie das Bundesamt für Migration und Flüchtlinge (BAMF) dürfen KI-Systeme und andere Automatisierungslösungen anhand von personenbezogenen Daten aus Asyl- und Aufenthaltsverfahren entwickeln. Auf diese Weise ließen sich Abläufe und Muster analysieren, um Anträge schneller zu bearbeiten und bessere Entscheidungen zu treffen, heißt es. Bei begründeten Zweifeln soll KI auch Angaben aus Anträgen mit öffentlichen Web-Informationen abgleichen.

Warum der KI-Einsatz bei Asylverfahren heikel ist

KI umwebt das private, gesellschaftliche und berufliche Leben immer mehr. Ob es sich dabei um ein Auffang- oder ein Spinnennetz mit akutem Vergiftungsrisiko handelt, ist meist nicht klar. Unsere regelmäßigen Good News zeigen, dass KI auch Gutes bewirken kann. Die Positivbeispiele kommen aber primär aus dem humanwissenschaftlichen Bereich.

Eine andere große KI-Motivation ist hinter Effizienz versteckter Profit. Dann gibt es noch den politischen Sektor – mit in der Sache verankerter ethischer Aufladung. Hier fällt auch das KIMVG hinein. Doch Migration ist kein leichtes Thema. Stattdessen scheidet es die Geister und politischen Lager zunehmend – Tendenz eindeutig steigend. Demnach stellt sich grundlegend die Frage, ob der Bund im Zuge sicherlich notwendiger Verwaltungsmodernisierungen hier ein sinnvolles Feld digital bestellt. Denn die Früchte könnten im schlimmsten Fall besonders faul sein, wenn KI Fehler macht – und das macht sie.

Bei jedem KI-Einsatz ist es entscheidend, wie stark die menschliche Hand ist, die darüber wacht. Im hiesigen Fall soll die rechtliche Bewertung und endgültige Entscheidung im Einzelfall bei Menschen liegen. Die KI bliebe rein assistiv – wenn es denn dabei bleibt.

Als Grund für den Gesetzentwurf werden begrenzte Personalkapazitäten bei gleichzeitig hohen Antragszahlen genannt. Das birgt schon im Kern ein signifikantes Risiko (wenn sich die Anträge beispielsweise weiter mehren und die Personaldecke durch Ausfälle noch dünner wird): sich mehr auf die KI zu verlassen, als es eigentlich gedacht ist. Doch das Motto „wird schon schiefgehen“ gilt nicht – es geht um Menschenleben.

Stimmen

• Aus dem Entwurf zum KIMVG: „Die Komplexität rechtlicher Vorgaben, unterschiedliche Verfahrensarten und individuelle Sachverhalte führen zu einer uneinheitlichen Verwaltungspraxis und erschweren eine einheitliche Rechtsanwendung. Ohne strukturelle Anpassungen ist angesichts begrenzter Ressourcen und weiter steigender Antragseingänge eine zusätzliche Belastung der Verfahren absehbar.“
• Nora Oppermann ist Junior Policy Managerin bei AlgorithmWatch. Sie kritisiert die vorgelagerte KI-Technologie für die Migrationsverwaltung hinsichtlich der Grenzkontrollen auf EU-Ebene und bemängelt konkret: „Das KI-Migrationsverwaltungsgesetz setzt nun die Fehler auf Bundesebene fort: Das Innenministerium plant, Menschen, die auf eine sichere Ankunft hoffen, unausgereiften KI-Systemen auszusetzen und ihre Schicksale für evidenzlose Forschung zu nutzen. Migrant*innen werden so zu Versuchskaninchen – das ist einer Demokratie nicht gerecht.“
• In einer Stellungnahme begrüßt der AWO Bundesverband „das Anliegen des Bundesministeriums des Innern, die Migrationsverwaltung zukunftsfähig aufzustellen und Verwaltungsverfahren zu verbessern.“ Allerdings nicht wie aktuell, denn „beim geplanten Einsatz künstlicher Intelligenz in Asyl- und Migrationsverfahren sieht der Verband jedoch erhebliche grund- und datenschutzrechtliche sowie sozialpolitische Risiken und empfiehlt dringend, den Entwurf zurückzuziehen und grundlegend zu überarbeiten.“

Was passiert, wenn KI falsch liegt?

KI kann nicht zu hundert Prozent fair sein, weil sie aus riesigen Datenmengen lernt, die teilweise unvollständig oder falsch sind. Dadurch übernimmt KI auch von Vorurteilen geprägte Daten, was zum bekannten Bias-Problem führt – also zu Verzerrungen. Im thematischen Worst Case könnte so eine Abschiebung unberechtigterweise eingeleitet werden. Auch wenn das Beispiel sehr linear ist, spiegelt es eine mögliche Realität.

Zudem gibt es genug denkbare Negativfälle zwischen einer völlig korrekten Sachbearbeitung und dem Worst Case – beispielsweise eine „enormative Grundlage für intransparente, algorithmisch gesteuerte Entscheidungsprozesse, die weder für Betroffene nachvollziehbar noch vor Gericht substantiiert angreifbar sind“, wie es die Menschenrechtsorganisation Pro Asyl beschreibt. So löblich und nötig Digitalisierungsmaßnahmen gerade in der Verwaltung auch sind, sie müssen die Grundrechte, Transparenz und den Rechtsschutz wahren und dürfen den Raum für die Verletzung von Persönlichkeitsrechten und diskriminierende Entscheidungen nicht künstlich erweitern.

Zumal es hier nicht um eine Wohnungsummeldung oder eine unternehmensrelevante Genehmigung geht. Nicht falsch verstehen, auch das sind wichtige Verfahren. Die Migrationsverwaltung behandelt aber hochsensible persönliche Daten, Fluchterfahrungen und traumatische Erlebnisse. Klar definierte Schutzmechanismen sind dahingehend Pflicht, würden im Entwurf laut AlgorithmWatch jedoch fehlen.

Kritisiert wird auch die behördliche Breite. Neben dem BAMF und den Ausländerbehörden seien auch das Bundesverwaltungsamt, die Bundespolizei und die Landespolizeibehörden mit Befugnissen ausgestattet. Je mehr involviert sind, desto unübersichtlicher werden die Berechtigungen.

Unterm Strich bleibt es jedoch vor allem bei der Kernfrage: Welche Rolle behält der Mensch? Andererseits: Selbst wenn die finale Entscheidung ein Mensch trifft, bleibt sie durch das KIMVG algorithmisch gesteuert.

Auch interessant: 

• Wie geht das denn? Deutschland rutscht in Digital-Ranking ab – macht aber Fortschritte
• TikTok-Klon aus Berlin: Wedium will soziale Medien wieder sozial machen
• Gegen das US-Monopol: Ecosia startet eigenen Suchindex in Deutschland
• EEG-Reform: Bund bremst Ausbau erneuerbarer Energie

Der Beitrag Migranten als Versuchskaninchen? Bund plant Asylverfahren mit KI erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.