KI-Betrug im Netz: Warum die Mehrheit der Nutzer gefälschte Inhalte übersieht

Fast die Hälfte der Internetnutzer in Deutschland traut sich zu, KI-generierte Inhalte zu erkennen. Doch der aktuelle Cybersicherheitsmonitor offenbart eine gefährliche Lücke: Nur 19 % überprüfen tatsächlich die Seriosität der Quellen.

Der aktuelle Cybersicherheitsmonitor 2026, ein Kooperationsprojekt des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des Programms Polizeiliche Kriminalprävention der Länder und des Bundes (ProPK), deckt ein besorgniserregendes Paradoxon in der deutschen Internetlandschaft auf. Während fast 50 % der Nutzerinnen und Nutzer angeben, KI-Inhalte identifizieren zu können, mangelt es in der Praxis an konsequenten Prüfmechanismen.

Die statistischen Details verdeutlichen das Risiko:

• 32 % der Befragten haben bisher noch keine einzige Maßnahme ergriffen, um KI-Fälschungen zu entlarven.
• Lediglich 28 % suchen aktiv nach optischen Fehlern wie unnatürlichen Schatten oder anatomischen Unstimmigkeiten bei Gliedmaßen.
• Nur 19 % unterziehen die Quelle einer Recherche auf deren Seriosität.

Cybertrading-Fraud: Wenn KI-Promis zu falschen Anlagen raten

Besonders im Bereich des Finanzbetrugs nutzen Kriminelle die Technologie für den sogenannten Cybertrading-Fraud. Hierbei werden mittels Künstlicher Intelligenz Videos erstellt, in denen bekannte Persönlichkeiten für vermeintlich hochprofitable Anlagemöglichkeiten werben.

„Oft erstellen sie hierfür mithilfe von KI Videos, in denen Prominente für lukrative Anlagemöglichkeiten zu werben scheinen. Wer im Internet auf solche Anlagemöglichkeiten stößt, sollte im ersten Schritt überlegen, ob das Angebot überhaupt realistisch ist – oder zu gut, um wahr zu sein.“

Anzeige

Dr. Stefanie Hinz, Landespolizeipräsidentin und Vorsitzende des ProPK

Unterschätzte technische Risiken von KI-Betrug

Neben Bild- und Videofälschungen besteht ein erhebliches Informationsdefizit bezüglich komplexerer Angriffsszenarien. Nur 38 % der Nutzer halten es für möglich, dass KI-Programme so manipuliert werden können, dass sie sensible Daten preisgeben. Ebenfalls nur 40 % halten „unsichtbare Anweisungen“ in Dokumenten für denkbar, die KI-Systeme steuern können. Das BSI stellt klar: Beide Szenarien sind technisch bereits heute machbar, werden von der Bevölkerung jedoch mehrheitlich als unrealistisch eingestuft.