Anzeige

Instagram

Bild: Nopparat Khokthong / Shutterstock.com

Die Social-Media-Plattform Instagram bringt ihr Tool zur Prävention von selbstverletzendem Verhalten oder Suizid bald nach Europa. Moderatoren sollen so Postings besser identifizieren können, die auf Probleme mit dem mentalen Wohlbefinden hinweisen.

Doch anders als in den USA, kann das System aufgrund der Datenschutzgrundverordnung (DSGVO) nicht automatisch mittels Künstlicher Intelligenz (KI) solche Inhalte erkennen, sondern nur auf direkte Hinweise von Usern reagieren.

"Risiko für Rechte überprüfen"

"Wenn eine neue Technologie zum Einsatz kommt, um den mentalen Gesundheitszustand von Usern zu ermitteln, muss es eine Datenschutzfolgenabschätzung geben. Das bedeutet, dass das jeweilige Unternehmen in Zusammenarbeit mit den zuständigen Behörden überprüft, ob die eingesetzte KI ein Risiko für die Rechte und Freiheiten der Betroffenen darstellt. Denn nimmt das System Fehleinschätzungen vor, kann es Anwendern schaden", erklärt Datenschutzexperte Alexander Dobert gegenüber pressetext.

Momentan spricht Instagram mit europäischen Datenschutzbehörden, allen voran der irischen Data Protection Commission. Weil die Muttergesellschaft Facebook ihren europäischen Hauptsitz in Dublin hat, ist vor allem diese Institution für die datenschutzrechtlichen Fragen der Plattform zuständig. Laut Instagram wird versucht, eine Lösung zu finden, die sowohl die Rechte als auch die Sicherheit von Usern schützt.

Algorithmus warnt Moderatoren

Instagram nutzt in den USA einen mit Machine Learning trainierten Algorithmus, der Suizid-Inhalte findet und menschliche Moderatoren auf sie aufmerksam macht. Je nach Fall erhalten die Betroffenen Hinweise auf Möglichkeiten, sich Hilfe zu suchen, in Extremsituationen verständigt Instagram sogar selbst die Notdienste.

Der DSGVO zufolge kann die Plattform das in Europa aber nur tun, wenn Nutzer bestimmte Postings direkt melden. Der Algorithmus und die Moderatoren können von sich aus keine Einschätzung über den Zustand der mentalen Gesundheit abgeben. Instagram will aber seine Technologie voll ausnutzen, um möglichst schnell reagieren zu können und auch gefährliche Inhalte zu entfernen.

www.pressetext.com


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Artikel zu diesem Thema

eBook Big Data und Analytics
Nov 02, 2020

Big Data und Analytics - KI und ML auf dem Vormarsch

Die Datenmenge schwillt rasant an und Prognosen werden immer schwieriger. Hinzu kommen…
Archivierung
Okt 24, 2020

DSGVO-konforme Archivierung aus der Cloud

Dokumentenmanagement ist schon per Definition ein auf Langfristigkeit und Sicherheit…

Weitere Artikel

Video Konferenz

8 Videoanrufe pro Tag sind der Schnitt

Seit rund einem Jahr arbeiten viele Menschen in Deutschland ganz oder teilweise im Homeoffice, Geschäftsreisen entfallen, Videokonferenzen ersetzen Meetings im Büro. Wer beruflich per Videocall erreichbar sein muss, macht derzeit acht solcher Anrufe am Tag.
Bitcoin

Die Bitcoin Achterbahnfahrt

Der rasante Anstieg des Bitcoin-Kurses wurde Ende Februar deutlich gebremst. Nachdem der Preis für einen Bitcoin zwischenzeitlich bei über 57.000 US-Dollar stand, bewegt sich der Wert der Kryptowährung momentan wieder unter 50.000 US-Dollar pro Kryptomünze.
Spotify

Spotify und Co ignorieren Indie-Musiker

Streaming-Plattformen wie Spotify oder Apple Music geben Musikern von Independent-Labels zu wenig Platz in Playlisten und schaden so ihren Einnahmen.
Hacker

Vielflieger-Daten gehackt

Hacker haben bei einem Angriff auf den Luftfahrt-IT-Dienstleister Sita eine Vielzahl von Kundendaten erbeutet.
Twitter

"Undo"-Button gibt Twitter-Usern Bedenkzeit

Die US-Mikroblogging-Plattform Twitter erwägt eine "Undo"-Option, mit der User nach dem Posting ein Zeitfenster von fünf Sekunden haben, um ihre Tweets komplett zurückzunehmen.
KI

KI erstellt attraktive Porträts in Eigenregie

Forschern der University of Helsinki und Kollegen aus Kopenhagen ist es gelungen, einer Künstlichen Intelligenz (KI) die subjektiven Vorstellungen beizubringen, die Gesichter für Menschen attraktiv machen.

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!