Anzeige

Anzeige

VERANSTALTUNGEN

DIGITAL FUTUREcongress
14.02.19 - 14.02.19
In Frankfurt, Congress Center Messe

SAMS 2019
25.02.19 - 26.02.19
In Berlin

INTERNET WORLD EXPO
12.03.19 - 13.03.19
In Messe München

secIT 2019 by Heise
13.03.19 - 14.03.19
In Hannover

IAM CONNECT 2019
18.03.19 - 20.03.19
In Berlin, Hotel Marriott am Potsdamer Platz

Anzeige

Anzeige

KI

Wer sagt, daß KI immer nur im Guten verwendet wird? Forscher haben herausgefunden: Auch künstliche Intelligenz kann ausgetrickst werden. Das stellt die sogenannte „Adversarial AI“, zu Deutsch „gegnerische künstliche Intelligenz“, deutlich unter Beweis.

Dabei handelt es sich um ein Hacking-Verfahren, bei dem durch externe Personen die neuronalen Netze der KI-Systeme infiltriert und Daten gezielt verfälscht oder verändert werden. Ein Beispiel aus dem autonomen Fahren macht dies anschaulich: während für das menschliche Auge ein Stoppschild auch als Negativabzug beziehungsweise Umkehrbild erkennbar ist, führt es im Datenpool einer künstlichen Intelligenz dazu, dass sich das Positiv- und Negativbild gegenseitig aufheben und das Stoppschild so übersehen wird. Eine fatale Schwäche, die schlimm enden kann.

IBM Security hat darauf mit der Adversarial Robustness Toolbox (ART) reagiert, einer Open-Source-Sammlung, die Entwicklern Hilfestellung leistet, um sich gegen KI-Infiltrationen zu rüsten. Die Toolbox vereint bisher gewonnene Kenntnisse und Methoden und ist plattformunabhängig nutzbar, was vorhergehende Modelle nicht leisten konnten. Mit ART können außerdem Angriffe gegen das KI-System durchgeführt und die effektivste Verteidigung gegen die Attacken als Baustein für eine verbesserte Abwehr genutzt werden. Mit jedem neuen Änderungsvorschlag durch ART wird damit die Verteidigung besser und die KI robuster gegen böswillige Angriffe.

ART von IBM soll über GitHub frei verfügbar sein und kann abgerufen werden unter: https://github.com/IBM/adversarial-robustness-toolbox

GRID LIST
Hacker wird verhaftet

Deutsche bezüglich Cyberverteidigung skeptisch

Kein Profi, sondern, wie es Markus Beckedahl von netzpolitik.org ausdrückt, "ein junger,…
Computer als Kopf

Software und IT werden immer komplexer und jeder Einzelne ist immer stärker davon betroffen

Unabhängig davon, ob ein Individuum "Cloud-Computing" oder "Internet-of-Things", zu…
Datenschutz

Fehlendes Vertrauen in Einhaltung des Datenschutzes

80 Prozent der IT-Experten sagen, dass strengere Datenschutzbestimmungen ihren…
Oliver Ratzesberger

Teradata ernennt neuen Präsidenten und CEO

Führungswechsel bei Teradata: Das Board of Directors hat Oliver Ratzesberger mit…
quantum processor

Quantenphotonik auf einem einzelnen Chip

Forschern der Universität Paderborn ist die Bündelung zweier einzelner Photonen - auch…
Brexit

Brexit: Bitkom warnt vor hohem Aufwand beim Datenschutz

Der geplante EU-Austritt der britischen Regierung wird erhebliche Auswirkungen auf den…
Smarte News aus der IT-Welt