KI soll Gefahren in sozialen Medien bekämpfen

Mithilfe Künstlicher Intelligenz (KI) will Forscher Dominic DiFranzo von der Lehigh University die Gefahren reduzieren, die die sozialen Medien für Kinder und Jugendliche bereithalten.

Gemeinsam mit Kollegen der Cornell University hat er die digitale Kompetenzplattform “Social Media TestDrive” entwickelt, die “Kindern beibringt, wie man sich gegen Cybermobbing wehren, Fake News erkennen und sichere Passwörter erstellen kann”.

“Fühlt sich an wie echte Website”

Dem Experten nach “handelt es sich um ein Social-Media-Simulationssystem. Es sieht also aus und fühlt sich an wie eine echte Website, ist aber nicht real. Kinder können in einer sicheren Umgebung üben, mit den sozialen Medien umzugehen und sie zu nutzen. Fehler, die sie machen, bleiben folgenlos, außer dass die Kinder daraus lernen”, erklärt DiFranzo.

Social Media TestDrive gibt es mittlerweile in Mittelschulen in den USA und mehr als eine Mio. Schüler haben es bisher genutzt. “Jetzt haben wir haben darüber nachgedacht, wie wir KI nutzen können, um es zu skalieren und noch effektiver zu machen”, so DiFranzo. Bei der Arbeit mit den Modulen des Programms soll KI direkt auf Eingaben der Kinder reagieren. Klickt ein Schüler beispielsweise auf einen beunruhigenden Beitrag, wird die KI ihn umgehend warnen: “Hey, hier stimmt etwas nicht. Bitte denke mal darüber nach, was hier eine Gefahr sein könnte.” Denkbar ist auch, dass die KI die Art der Gefahr direkt erklärt.

Wie man mit Situationen umgeht

Gemeinsam mit den Schülern und seinem Team entwirft DiFranzo Interventionen, die die Social-Media-TestDrive-Plattform erweitern und den Schülern beibringen, proaktiver zu werden, wenn es um Cybermobbing geht. “Cybermobbing ist eine riesige Krise der öffentlichen Gesundheit. Es wirkt sich sowohl auf die geistige als auch auf die körperliche Gesundheit der Kinder aus. Eine Möglichkeit, wie wir helfen können, ist das Eingreifen von Unbeteiligten”, so DiFranzo.

Das können Menschen sein oder auch eine KI-basierte Gesprächsintervention namens “Social Media Co-Pilot”. Das Tool simuliert kompliziertere Szenarien innerhalb von Social Media TestDrive und gibt Ratschläge, wie User Risiken wie Online-Aggression, Datenschutzverletzungen, Phishing und Betrug am besten begegnen können.

www.pressetext.com