Wir glauben bereits an KI: Warum ist es so schwierig, KI-Inhalte zu erkennen?

Sie haben diesen Ausdruck bestimmt schon mal in Kommentaren und Stories gesehen (oder sogar selbst benutzt): „Ich hab’s ja schon geglaubt.“ Er taucht unter Videos von Tieren auf, die etwas Unmögliches vollbringen, unter verdächtig perfekten „Flughafen“-Selfies oder unter Audioaufnahmen, die klingen, als würde ein Prominenter Unsinn reden. Es ist die perfekte Bildunterschrift für den Moment, in dem man denkt: „Ups, fast wäre ich drauf reingefallen.“ Und es ist witzig, weil es stimmt: Heutzutage weniger als 1 % der Menschen KI-generierte Fälschungen – egal ob Fotos, Audio- oder Videodateien – korrekt erkennen.

Der Witz beschreibt im Kern eine reale Statistik. Und hier wird die Sache ernst: In Brasilien wird der Deepfake-Betrug bis 2026 um 400 % zunehmen, und KI ist laut Bundespolizei bereits in 42,5 % der registrierten Finanzbetrugsfälle des Landes im Einsatz. Anders ausgedrückt: Derselbe „Ich hätte es fast geglaubt“-Instinkt, der uns über ein Katzenvideo lachen lässt, wird auch von Betrügern ausgenutzt, um Unternehmen zur Geldüberweisung zu bewegen.

Aber woher kommt dieses „Ich habe es schon geglaubt“ überhaupt?

Ganz ehrlich: Es gibt keinen offiziell dokumentierten Ursprung, keinen einzelnen Beitrag, der den Ausdruck „erfunden“ hat – zumindest nicht, soweit wir das bestätigen konnten. Wahrscheinlicher ist, dass es sich um eine dieser Redewendungen handelt, die sich ganz natürlich entwickelt haben, so wie es im brasilianischen Internet so üblich ist: Jemand erwähnt sie in einem Kommentar, sie verbreitet sich, wird zu einer gängigen Reaktion und plötzlich ist sie überall.

Und es ist völlig logisch, dass es gerade jetzt so populär geworden ist. Wir sind ständig von KI-generierten Inhalten umgeben, von der Ghibli-artigen „Kunst“, die Instagram überschwemmt hat, bis hin zu hyperrealistischen Videos von Dingen, die nie passiert sind. „Die KI glaubt es schon“ ist fast schon ein Reflex geworden, wie der Moment, in dem man eine bizarre Nachricht liest und, bevor man sie teilt, innehält und denkt: „Moment mal, ist das echt?“.

Das Problem ist, dass diese Reflexion immer unzuverlässiger wird, nicht weil wir uns mehr ablenken lassen, sondern weil die „KI-generierte“ Reflexion zu gut wird.

Generative Modelle haben sich so weit entwickelt, dass sie Bilder, Videos und Audiodateien erzeugen, die selbst diejenigen überzeugen können, die bereits daran gewöhnt sind, Anzeichen für gefälschte Inhalte zu erkennen. Und darin liegt eine Ironie: Je mehr wir lernen, dem, was wir im Internet sehen, zu misstrauen, desto raffinierter müssen die Fälschungen sein, um unseren Filter zu passieren – und dennoch gelingt es ihnen.

Die Folge ist eine Art Misstrauensmüdigkeit. Wir wissen nicht mehr, was wahr ist; oft wissen wir auch nicht mehr, ob es sich lohnt, unserem eigenen Urteilsvermögen zu vertrauen. Und dieses Problem beschränkt sich längst nicht mehr nur auf virale Videos.

Sie könnten auch interessiert sein an: Der Flaschenhals von KI-Agenten in Brasilien: Es liegt nicht an der Technologie, sondern am Vertrauen.

Warum kann heutzutage fast niemand mehr Deepfakes erkennen?

Erinnern Sie sich noch, als man KI-generierte Bilder allein an den sieben Fingern und den verbrannten Händen erkennen konnte? Diese Zeiten sind vorbei. Lange Zeit hing die Erkennung digitaler Fälschungen davon ab, nach Fehlern zu suchen: seltsame Hände, eine übermäßig roboterhafte Stimme, merkwürdige Bewegungen, ein Gesichtsausdruck, der nicht zum gesprochenen Text passte. Generative KI hat einen Großteil dieser Fehler beseitigt, und Marktdaten bestätigen dies eindeutig: Studien zeigen, dass weniger als 1 % der Menschen KI-generierte Fälschungen zuverlässig erkennen können.

Falsche Inhalte können heutzutage technisch und vor allem inhaltlich überzeugend, und gerade diese zweite Eigenschaft ist die tückischste. Ein Video, in dem eine bekannte Person eine absurde Aussage macht, weckt immer noch Misstrauen (das können wir immer noch erkennen). Problematisch wird es, wenn dieselbe Person in einem bekannten Kontext mit ihrer eigenen Stimme und ihren eigenen Manierismen etwas Plausibles sagt. Dann besteht die Schwierigkeit nicht mehr darin, eine Anomalie zu erkennen, sondern darin, etwas zu misstrauen, das völlig normal erscheint. Und dem Normalen zu misstrauen ist viel schwieriger (und anstrengender) als dem Fremden zu misstrauen.

Lesen Sie auch: Betrug am Black Friday: Wie Sie Ihr Unternehmen schützen können

Vom Meme zum Betrug: Wie dies bereits ausgenutzt wird

Okay, soweit so gut, aber Moment mal, denn der Scherz hat einen ernsten Beigeschmack. Dieses Szenario ist für die Informationssicherheit sehr relevant, da die meisten Angriffe nicht mit einer technischen Schwachstelle beginnen, sondern damit, dass jemand zu einer bestimmten Handlung verleitet wird. Es ist dasselbe Prinzip wie bei Phishing, Social Engineering und Identitätsdiebstahl, nur dass hier zusätzlich Überzeugungskraft im Spiel ist.

Die brasilianischen Zahlen für 2026 zeigen den Trend deutlich:

Der von Akteuren des Finanzsektors geprägte Spitzname „CEO-Betrug 2.0“ beschreibt das Muster treffend: Kriminelle imitieren die Stimme (oder das Video) einer Führungskraft, um eine Überweisung zu autorisieren oder Zugriff zu gewähren. Im Jahr 2024 sorgte ein vielbeachteter Fall für Aufsehen: Ein Betrugsversuch mit Deepfake-Audio, das die Stimme eines CEOs imitierte, der eine dringende Überweisung anforderte, scheiterte nur daran, dass eine misstrauische Führungskraft eine persönliche Frage stellte, deren Antwort nur der echte CEO kennen konnte. In anderen weltweit gemeldeten Fällen fand diese Art der Überprüfung schlichtweg nicht statt, und die Verluste wurden bestätigt.

Kriminelle können öffentlich zugängliche Informationen über eine Führungskraft (z. B. ein Interview, ein LinkedIn-Video, eine Telefonaufzeichnung) nutzen, um eine Kontaktaufnahme zu simulieren, die der tatsächlichen Kommunikationsweise dieser Person sehr nahekommt. Sie können Text, Sprache und Bild kombinieren, um eine Anfrage zu erstellen, die legitim erscheint. Durch Dringlichkeit, Kontext und Autorität können sie die Zeit, die dem Opfer zum Hinterfragen der Anfrage bleibt, minimieren.

Technologie schafft also nicht unbedingt ein neues Problem. Sie macht ein altes Problem (Social Engineering) deutlich dringlicher. Und das ist vielleicht der wichtigste Punkt: Die größte Schwachstelle liegt nicht unbedingt im Deepfake selbst, sondern in der Entscheidung, die er auslösen soll.

Die Grenzen des „Menschen zu mehr Misstrauen erziehen“

Eine naheliegende Reaktion bei diesem Thema ist die Schulung von Mitarbeitern im Erkennen KI-generierter Inhalte. Dies ist nach wie vor wichtig; Teams müssen die häufigsten Anzeichen kennen und verstehen, dass Stimme und Bild allein nicht mehr ausreichen, um die Identität zu bestätigen.

Dieser Ansatz hat jedoch klare Grenzen, wie die Zahl von „weniger als 1 %“ verdeutlicht: Wenn Sicherheit ausschließlich davon abhängt, dass jemand bemerkt, dass ein bestimmtes Audio „seltsam klingt“, wird die Verantwortung einer menschlichen Fähigkeit zugeschrieben, die nie als Authentifizierungsmechanismus konzipiert wurde. Das Gehirn nutzt Kontext, Vertrautheit und Muster, um schnell Entscheidungen zu treffen; meistens ist dies ein Vorteil, doch genau diese Vorhersagbarkeit kann ausgenutzt werden.

Der Aufstieg von Deepfakes führt Unternehmen: Es genügt nicht, Menschen zu mehr Misstrauen zu erziehen. Es müssen Prozesse geschaffen werden, die nicht allein auf ihrem Misstrauen beruhen.

Sicherheit, die auch dann funktioniert, wenn der Betrug legitim aussieht

Dieser Perspektivwechsel verlagert einen Teil der Verantwortung vom Individuum auf das System. In der Praxis bedeutet dies:

• Eine zweite Bestätigung ist bei Transaktionen mit hohem Einfluss (Überweisungen, Änderungen von Bankdaten , Gewährung des Zugangs zu kritischen Systemen) zwingend erforderlich, unabhängig davon, wie überzeugend die Anfrage auch erscheinen mag.
• Multifaktor-Authentifizierung (MFA) als Standard, nicht als Ausnahme; Stimme und Bild allein reichen nicht mehr als Identitätsnachweis aus.
• Risikogerechte Zugriffskontrollen, die Berechtigungen einschränken und ungewöhnliches Verhalten überwachen;
• Formale Verfahren für sensible Änderungen mit Lieferanten und Partnern, die nicht von einem einzelnen Anruf oder einer Nachricht abhängen, die „legitim erscheint“.

Die Logik ist einfach: Je weitreichender eine Entscheidung ist, desto weniger sollte sie von einem einzelnen Identitätsnachweis abhängen. Jemand mag zwar glauben, mit dem CEO zu sprechen, doch eine bedeutende finanzielle Überweisung sollte nicht allein darauf beruhen.

Welchen Stellenwert hat die Sicherheitsarchitektur in dieser Diskussion?

Genau das ist die Logik hinter einer Zero-Trust-Architektur: Anstatt sich auf einen einzelnen Beweis zu verlassen (die vertraute Stimme, das bekannte Gesicht, die Nachricht, die scheinbar von der richtigen Stelle kommt), erfordert der Zugriff auf kritische Systeme eine obligatorische Authentifizierung vor jeder Freigabe. Dazu gehören Multi-Faktor-Authentifizierung (MFA) und Kontrollen, die nicht von menschlichem Urteilsvermögen im Moment des Angriffs abhängen. Genau diese Art von Sicherheitsebene – starke Authentifizierung vor dem Anwendungszugriff und nicht erst, nachdem jemand der Stimme des Chefs vertraut hat – Skyone Autosky ein, um den Zugriff auf Geschäftssysteme zu schützen. Im Bereich Monitoring helfen Bedrohungsanalysetools und SOC/SIEM dabei, ungewöhnliches Verhalten zu erkennen, selbst wenn die ursprüngliche Anfrage völlig legitim erschien. Denn die Verteidigung kann nicht darauf beruhen, dass jemand etwas rechtzeitig bemerkt.

Und es gibt ein noch größeres Problem: digitales Vertrauen

Der vielleicht interessanteste Effekt der Verbreitung von Deepfakes ist nicht einmal der Anstieg von Betrugsfällen, sondern der Vertrauensverlust. Wenn wir wissen, dass eine Stimme geklont, ein Bild erzeugt und ein Video gefälscht werden kann, hinterfragen wir, was bisher als Beweis galt. Ein Telefonat reicht möglicherweise nicht mehr aus. Ein Foto reicht möglicherweise nicht mehr aus. Ein Video reicht möglicherweise nicht mehr aus.

Dies verändert die Dynamik von Unternehmen, die zunehmend auf digitale Interaktionen setzen. Es besteht ein wichtiger Unterschied zwischen Authentizität und dem Anschein von Authentizität. Inhalte können vollkommen legitim erscheinen und es dennoch nicht sein. Die Sicherheitsfrage verschiebt sich daher: Statt nur zu fragen „Wirkt das glaubwürdig?“ lautet die richtige Frage nun: „Wie kann ich die Echtheit bestätigen?“

Verfasst von Skyone