Anzeige

Instagram

Bild: Nopparat Khokthong / Shutterstock.com

Die Social-Media-Plattform Instagram bringt ihr Tool zur Prävention von selbstverletzendem Verhalten oder Suizid bald nach Europa. Moderatoren sollen so Postings besser identifizieren können, die auf Probleme mit dem mentalen Wohlbefinden hinweisen.

Doch anders als in den USA, kann das System aufgrund der Datenschutzgrundverordnung (DSGVO) nicht automatisch mittels Künstlicher Intelligenz (KI) solche Inhalte erkennen, sondern nur auf direkte Hinweise von Usern reagieren.

"Risiko für Rechte überprüfen"

"Wenn eine neue Technologie zum Einsatz kommt, um den mentalen Gesundheitszustand von Usern zu ermitteln, muss es eine Datenschutzfolgenabschätzung geben. Das bedeutet, dass das jeweilige Unternehmen in Zusammenarbeit mit den zuständigen Behörden überprüft, ob die eingesetzte KI ein Risiko für die Rechte und Freiheiten der Betroffenen darstellt. Denn nimmt das System Fehleinschätzungen vor, kann es Anwendern schaden", erklärt Datenschutzexperte Alexander Dobert gegenüber pressetext.

Momentan spricht Instagram mit europäischen Datenschutzbehörden, allen voran der irischen Data Protection Commission. Weil die Muttergesellschaft Facebook ihren europäischen Hauptsitz in Dublin hat, ist vor allem diese Institution für die datenschutzrechtlichen Fragen der Plattform zuständig. Laut Instagram wird versucht, eine Lösung zu finden, die sowohl die Rechte als auch die Sicherheit von Usern schützt.

Algorithmus warnt Moderatoren

Instagram nutzt in den USA einen mit Machine Learning trainierten Algorithmus, der Suizid-Inhalte findet und menschliche Moderatoren auf sie aufmerksam macht. Je nach Fall erhalten die Betroffenen Hinweise auf Möglichkeiten, sich Hilfe zu suchen, in Extremsituationen verständigt Instagram sogar selbst die Notdienste.

Der DSGVO zufolge kann die Plattform das in Europa aber nur tun, wenn Nutzer bestimmte Postings direkt melden. Der Algorithmus und die Moderatoren können von sich aus keine Einschätzung über den Zustand der mentalen Gesundheit abgeben. Instagram will aber seine Technologie voll ausnutzen, um möglichst schnell reagieren zu können und auch gefährliche Inhalte zu entfernen.

www.pressetext.com


Artikel zu diesem Thema

eBook Big Data und Analytics
Feb 02, 2021

Big Data und Analytics - KI und ML auf dem Vormarsch

Die Datenmenge schwillt rasant an und Prognosen werden immer schwieriger. Hinzu kommen…
Archivierung
Okt 24, 2020

DSGVO-konforme Archivierung aus der Cloud

Dokumentenmanagement ist schon per Definition ein auf Langfristigkeit und Sicherheit…

Weitere Artikel

Haus digital

Energieeffiziente Gebäude: Wir brauchen eine digitale Renovierungswelle

Die Bundesregierung hat die Förderung energieeffizienter Gebäude gestoppt. Ein Kommentar von Bitkom-Präsidiumsmitglied Matthias Hartmann.
Twitter

"Twitter Flock": Tweets nur für enge Freunde

Der Mikroblogging-Service Twitter arbeitet offenbar an einem Feature, das es Usern ermöglicht, Tweets nur mit engeren Freunden zu teilen. Bis zu 150 Personen kann dieser "Flock" umfassen, wie der italienische Entwickler und Tech-Blogger Alessandro Paluzzi…
Cloud Computing

Die Kohlenstoffemissionen werden die Kaufentscheidungen für Cloud-Lösungen bestimmen

Bis 2025 werden die Kohlenstoffemissionen von Hyperscale-Cloud-Services an dritter Stelle bei Cloud-Kaufentscheidungen stehen, so das Research- und Beratungsunternehmen Gartner.
Hacker

Hackerangriff auf Unfallkasse Thüringen – Server verschlüsselt

Das Computersystem der Unfallkasse Thüringen (UKT) ist Ziel eines Hackerangriffs geworden. «Am 4. Januar 2022 erfolgte ein gezielter Angriff auf unsere informationstechnischen Systeme», schreibt die UKT auf ihrer Internetseite.
Bosch

Bosch verbündet sich mit VW-Softwaretochter Cariad fürs autonome Fahren

Bosch und die VW-Softwaretochter Cariad wollen bei der Entwicklung selbstfahrender Autos zusammenarbeiten. Es wurde dazu eine umfassende Partnerschaft vereinbart, wie Bosch und Cariad am Dienstag gemeinsam in Stuttgart und Wolfsburg mitteilten.
5G

5G-Ausbau in Europa ist laut EU-Rechnungshof deutlich zu langsam

Der Ausbau des neuen Mobilfunkstandards 5G kommt in vielen EU-Staaten einem Bericht des Europäischen Rechnungshofs zufolge nur langsam voran. «Insgesamt ergab die Prüfung des Hofes, dass sich der Ausbau der 5G-Netze durch die Mitgliedstaaten (...) erheblich…

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.