Anzeige

Anzeige

VERANSTALTUNGEN

CloudFest 2019
23.03.19 - 29.03.19
In Europa-Park, Rust

Blockchain Summit
26.03.19 - 26.03.19
In Frankfurt, Kap Europa

ELO Solution Day München
27.03.19 - 27.03.19
In Messe München

Hannover Messe 2019
01.04.19 - 05.04.19
In Hannover

SMX München
02.04.19 - 03.04.19
In ICM – Internationales Congress Center München

Anzeige

Anzeige

KI

Wer sagt, daß KI immer nur im Guten verwendet wird? Forscher haben herausgefunden: Auch künstliche Intelligenz kann ausgetrickst werden. Das stellt die sogenannte „Adversarial AI“, zu Deutsch „gegnerische künstliche Intelligenz“, deutlich unter Beweis.

Dabei handelt es sich um ein Hacking-Verfahren, bei dem durch externe Personen die neuronalen Netze der KI-Systeme infiltriert und Daten gezielt verfälscht oder verändert werden. Ein Beispiel aus dem autonomen Fahren macht dies anschaulich: während für das menschliche Auge ein Stoppschild auch als Negativabzug beziehungsweise Umkehrbild erkennbar ist, führt es im Datenpool einer künstlichen Intelligenz dazu, dass sich das Positiv- und Negativbild gegenseitig aufheben und das Stoppschild so übersehen wird. Eine fatale Schwäche, die schlimm enden kann.

IBM Security hat darauf mit der Adversarial Robustness Toolbox (ART) reagiert, einer Open-Source-Sammlung, die Entwicklern Hilfestellung leistet, um sich gegen KI-Infiltrationen zu rüsten. Die Toolbox vereint bisher gewonnene Kenntnisse und Methoden und ist plattformunabhängig nutzbar, was vorhergehende Modelle nicht leisten konnten. Mit ART können außerdem Angriffe gegen das KI-System durchgeführt und die effektivste Verteidigung gegen die Attacken als Baustein für eine verbesserte Abwehr genutzt werden. Mit jedem neuen Änderungsvorschlag durch ART wird damit die Verteidigung besser und die KI robuster gegen böswillige Angriffe.

ART von IBM soll über GitHub frei verfügbar sein und kann abgerufen werden unter: https://github.com/IBM/adversarial-robustness-toolbox

GRID LIST
Handschlag

Samsung und Fuze gehen strategische Partnerschaft ein

Fuze geht eine strategische Partnerschaft mit Samsung Electronics America ein. Die…
Oliver Krebs

Neuer Vice President EMEA bei Cherwell Software

Oliver Krebs ist neuer Vice President (VP) EMEA bei Cherwell Software. Seit Anfang Januar…
Tb W190 H80 Crop Int B01e48c2fd08b45f534604484c7a9179

BSI führt IT-Grundschutz-Testat nach Basis-Absicherung ein

Die Basis-Absicherung der eigenen IT-Systeme ist der erste wichtige Schritt zu einer…
Fake News

Apple investiert in Kampf gegen Fake News

Technologieriese Apple unterstützt im Kampf gegen Fake News im Internet drei…
Mann Lupe Code

E-Spionagegruppe OceanLotus greift gezielt Regierungsbehörden an

ESET-Forscher haben die neuesten Methoden der Spionagegruppe OceanLotus (auch bekannt als…
EU-Urheberrechtsrechtsreform

Upload-Filter sind pluralistischer Demokratie unwürdig

Die EU-Urheberrechtsrechtsreform steht kurz vor dem Abschluss. Am 26. März 2019 soll dazu…