OpenAI führt Sperrmodus für ChatGPT ein

OpenAI führt einen optionalen Sperrmodus für ChatGPT ein, um das Risiko von Datenabflüssen durch Prompt-Injection-Angriffe gezielt zu minimieren.

Der Softwareentwickler OpenAI hat mit der schrittweisen Einführung einer neuen Sicherheitsfunktion namens Lockdown Mode (Sperrmodus) für ChatGPT begonnen. Diese optionale, erweiterte Einstellung steht angemeldeten Nutzern verschiedener Abonnementmodelle zur Verfügung, darunter die Versionen Free, Go, Plus, Pro sowie den selbstverwalteten ChatGPT-Business-Plänen. Die Funktion richtet sich primär an Einzelpersonen und Organisationen, die mit hochsensiblen Daten arbeiten und strengere Sicherheitsgarantien für ihre Arbeitsumgebungen benötigen. Das Hauptziel der Maßnahme ist es, das Risiko eines unbefugten Datenabflusses zu verringern, der durch sogenannte Prompt-Injection-Angriffe ausgelöst werden kann.

„Der Sperrmodus ist eine optionale, erweiterte Sicherheitseinstellung, die viele Werkzeuge und Funktionen in OpenAI-Produkten einschränkt, die sich mit dem Web oder externen Diensten verbinden können. Er wurde entwickelt, um das Risiko des Datenabflusses durch Prompt-Injection-Angriffe zu verringern, indem ausgehende Netzwerkfragen eingeschränkt werden, auf Kosten der Deaktivierung oder Einschränkung einiger nützlicher Funktionen.“

OpenAI

Die Sicherheitsmaßnahme setzt direkt an der Angriffsfläche von großen Sprachmodellen an, indem sie bestehende Kontrollmechanismen und Isolierungstechniken (Sandboxing) erweitert.

Restriktive Einschränkungen im aktiven Sperrmodus von ChatGPT

Der Sperrmodus verhindert nicht das Auftreten von Prompt Injections an sich und verändert auch nicht die Funktionsweise des internen Speichers oder das Hochladen von Dateien. Stattdessen Cyberkriminelle blockiert er die digitalen Pfade, über die Daten unbemerkt an externe, von Angreifern kontrollierte Server übermittelt werden könnten. Um diese Kommunikationswege zu schließen, deaktiviert oder beschränkt der Modus mehrere Funktionen von ChatGPT:

• Das Live-Web-Browsing wird stark eingeschränkt und greift ausschließlich auf im Cache gespeicherte Inhalte zurück.
• Die Bildunterstützung wird durch den Modus blockiert, sodass weder Bilder in Standardantworten angezeigt noch Bilddaten aus dem Internet geladen werden können.
• Die Funktionen Deep Research und der Agent-Modus sind vollständig deaktiviert.
• Das Canvas-Netzwerk wird unterbunden, wodurch Nutzer daran gehindert werden, von Canvas generiertem Code den Zugriff auf das Netzwerk zu erlauben.
• Der Download von Dateien im Rahmen der Datenanalyse wird blockiert.

Zudem weist das Unternehmen darauf hin, dass der Sperrmodus und der Entwicklermodus (Developer Mode) nicht gleichzeitig aktiv sein können. Das Einschalten eines Modus führt zur automatischen Deaktivierung des jeweils anderen.

Grenzen des Sicherheitskonzepts und erweiterte Sitzungskontrolle

Trotz der restriktiven Maßnahmen betont OpenAI, dass der Sperrmodus keinen absoluten Schutz bietet. Ein verbleibendes Risiko besteht weiterhin durch aktivierte Drittanbieter-Anwendungen, unvorhergesehene Kombinationen von Funktionen oder neu entdeckte Angriffstechniken. Ebenso verhindert der Modus keine manipulativen Auswirkungen auf das Verhalten des Chatbots selbst. Eine versteckte Anweisung in einer hochgeladenen Datei kann die Logik von ChatGPT weiterhin beeinträchtigen und zu fehlerhaften oder manipulierten Antworten führen.

Parallel zu dieser Sicherheitsfunktion hat OpenAI eine neue Kontoverwaltung eingeführt. Diese erlaubt es Anwendern, alle aktiven ChatGPT-Sitzungen detailliert zu überprüfen und sich bei Verdacht auf unbefugte Aktivitäten gezielt aus einzelnen oder allen Sitzungen auszuloggen. Die Übersicht listet spezifische Informationen wie das verwendete Endgerät, die genutzte Anwendung, den ungefähren geografischen Standort sowie das Datum und die exakte Uhrzeit der Anmeldung auf. Zudem wird angezeigt, ob es sich um ein vertrauenswürdiges Gerät oder die aktuell aktive Sitzung handelt.

(red)