IT-Sicherheit in Produktion und Technik
12.09.17 - 13.09.17
In Berlin

Be CIO: IT Management im digitalen Wandel
13.09.17 - 13.09.17
In Köln

IBC 2017
14.09.17 - 18.09.17
In Amsterdam

Orbit IT-Forum: Auf dem Weg zum Arbeitsplatz der Zukunft
27.09.17 - 27.09.17
In Leverkusen

it-sa 2017
10.10.17 - 12.10.17
In Nürnberg

Forscher der Virginia Polytechnic Institute and State University haben einen neuen Algorithmus entwickelt, der Cyber-Bullying auf die Schliche kommt. Das Programm basiert auf maschinellem Lernen, einer Art von Künstlicher Intelligenz. 

Es hebt sich von herkömmlichen Tools zur Identifizierung von Internet-Mobbing dadurch ab, dass es sich auf soziale Strukturen sowie Muster statt auf spezifische Wörter fokussiert.

Slang erschwert Detektion

"Die Idee dahinter ist, ein Computerprogramm mit Beispielen von Cyber-Bullying zu füttern. Anschließend erstellt der Algorithmus auf Basis des Datenmaterials ein Modell, das ihm bei einer präzisen Suche nach Internet-Mobbing hilft", erklärt Bert Huang vom Virginia Tech Department of Computer Science. Das Programm liefere eine Liste an Interaktionen zwischen Online-Usern und stelle fest, ob diese sich gegenseitig schikaniert haben.

Laut Huang erschweren spezielle Sprechweisen das Detektieren von Cyber-Bullying, weswegen der Algorithmus noch nicht zu 100 Prozent akkurat funktioniert. "Hierbei handelt es sich um ein Instrument, das menschliche Kontrolle erfordert, damit es zu keinem Fehler kommt. Denn oft gebrauchen User Phrasen, um miteinander zu scherzen, ohne dass es dabei zu einem bewussten Mobbing kommt", schildert Huang.

Blockade provoziert Mobber

"Ein Ziel besteht in der Kooperation mit sozialen Netzwerken. Diese können das Tool implementieren, damit die Online-Erfahrung gefiltert wird", fügt der Computerwissenschaftler hinzu. Somit werde dem Auftreten von Cyber-Mobbing im Vorfeld entgegengewirkt. Dennoch betont Huang, dass ein derartiger Algorithmus auch Gefahren birgt. So könne es zu einer Eskalation kommen, wenn Mobber sich durch eine Blockade provoziert fühlen.

Die Risiken, welche von derartigen Tools ausgehen, bestätigt auch Matthias Jax von Saferinternet. "Obwohl ich in diesem Ansatz ein großes Potenzial sehe, kann hier viel passieren. Trotz Implementierung solcher Algorithmen bleibt ein medienkompetenter Umgang mit dem Internet, zu dem auch Schulungen gehören, unerlässlich", fasst Jax zusammen.

pte

Frische IT-News gefällig?
IT Newsletter Hier bestellen:

Newsletter IT-Management
Strategien verfeinert mit profunden Beiträgen und frischen Analysen

Newsletter IT-Security
Pikante Fachartikel gewürzt mit Shortnews in Whitepaper-Bouquet