Thought Leadership
WhatsApp startet mit Scam Alert eine optionale Funktion, die verdächtige Nachrichten direkt auf dem Gerät erkennt und Nutzer warnt.
Nach Angaben von WhatsApp arbeitet Scam Alert bewusst innerhalb der bestehenden Ende-zu-Ende-Verschlüsselung statt an ihr vorbei. Aktiviert ein Nutzer die Funktion, lädt die App ein Modell für maschinelles Lernen direkt auf das Gerät herunter, das eingehende Nachrichten anhand von Gesprächsstruktur und sprachlichen Mustern auf typische Betrugsmerkmale prüft. Die eigentliche Klassifizierung findet dabei vollständig lokal statt, eine automatische Meldung an WhatsApp oder Mutterkonzern Meta erfolgt nicht.
Wird eine Nachricht als verdächtig eingestuft, sieht ausschließlich der Empfänger eine Warnung direkt im Chat, der Absender wird nicht benachrichtigt. Nutzer können den Kontakt daraufhin blockieren, die Nachricht melden, die Warnung ignorieren oder die Unterhaltung als vertrauenswürdig markieren, wodurch künftige Warnungen für diesen Kontakt unterdrückt werden. Wer eine Unterhaltung als vertrauenswürdig markiert, kann zusätzlich freiwillig die letzten fünf erhaltenen Nachrichten teilen, um die Genauigkeit des Modells zu verbessern.
Transparenzprotokoll und unabhängige Prüfung der Modell-Updates
Um zu verhindern, dass gezielt ein bestimmtes Modell an eine einzelne Person ausgespielt wird, muss laut WhatsApp jede Modellveröffentlichung zunächst in einem unabhängigen, nur anhängbaren Transparenzprotokoll eines Drittanbieters erfasst werden, bevor sie verteilt werden darf. Jede Veröffentlichung wird zusätzlich mit einem Manifest aus SHA-256-Prüfsummen für Modellgewichte und zugehörige Dateien versehen, dessen Prüfsumme mit einem bei Cloudflare statt bei Meta selbst hinterlegten Ed25519-Schlüssel signiert wird. Geräte prüfen diese Signatur, gleichen sie mit dem Protokoll ab und bestätigen die Übereinstimmung der heruntergeladenen Dateien mit den veröffentlichten Prüfsummen, bevor das Modell überhaupt ausgeführt werden darf.
Da keinerlei Nachrichteninhalt das Gerät verlässt, nutzt WhatsApp zur Funktionsüberwachung eine als vertrauliche föderierte Analyse bezeichnete Pipeline, die ausschließlich zwei Datenkategorien erfasst: wie häufig Warnungen ausgelöst wurden und welche Reaktion Nutzer anschließend zeigten, etwa Blockieren oder das Markieren als vertrauenswürdig. Nutzer können zudem in der App unter Konto, Info anfordern, Scam-Alert-Aktivität ein eigenes Transparenzprotokoll einsehen, das zeigt, welche Nachrichten geprüft wurden, mit welchem Ergebnis und welche Modellversion die Einschätzung getroffen hat. WhatsApp erweitert zudem sein Bug-Bounty-Programm um Scam Alert und bezeichnet die aktuelle Version ausdrücklich als frühe technische Vorschau, die während der Betaphase auf Basis von Rückmeldungen von Forschern und Nutzern weiterentwickelt werden soll.
Auch Signal kündigt neue Sicherheitsfunktion an
Parallel dazu stellte der Messenger Signal mit der automatischen Schlüsselverifizierung eine neue, das bestehende Sicherheitsnummern-System ergänzende Funktion vor, die ohne persönliches Treffen oder einen zweiten Kommunikationskanal bestätigt, dass sich keine unautorisierte dritte Partei in eine verschlüsselte Unterhaltung eingeschaltet hat. Grundlage ist ein von Signal als Schlüsseltransparenz bezeichnetes System, das sämtliche Registrierungen sowie Telefonnummer- und Nutzernamenänderungen in einem kryptografisch überprüfbaren Protokoll erfasst, das von den Unternehmen Cloudflare und Trail of Bits unabhängig geprüft wird.
(red)
