Anzeige

Künstliche Intelligenz (KI) wird künftig die Sicherheit von IT-Systemen verbessern. In den Händen von Cyberkriminellen öffnet sie andererseits auch Einfallstore für neue Bedrohungen der IT-Sicherheit. Auch die KI-Systeme selbst müssen vor Manipulation geschützt werden. 

Die Dynamik zwischen IT-Sicherheit und KI analysiert das Whitepaper “Künstliche Intelligenz und IT-Sicherheit”, das die Plattform Lernende Systeme zur Hannover Messe 2019 veröffentlichte. Die Autorinnen und Autoren aus Wirtschaft, Wissenschaft und Behörden fordern, insbesondere kleine und mittlere Unternehmen sowie IT-Fachkräfte beim Aufbau von Kompetenzen zu unterstützen.

Die Vernetzung im Zuge der Digitalisierung macht Unternehmen, öffentliche Institutionen und Smart Homes zunehmend verwundbar durch Cyberangriffe. KI-Systeme unterstützen IT-Fachkräfte künftig dabei, Sicherheitslücken aufzuspüren, Angriffe schneller zu erkennen und abzuwehren sowie die Identität von Personen sicherzustellen – etwa durch Erkennung von Sprache oder nutzerspezifische Tastatureingaben. Die Autoren des Whitepapers betonen jedoch, dass die letzte Entscheidungsinstanz immer der Mensch sein müsse. So können KI-Systeme den Fachkräftemangel im Bereich IT-Sicherheit zwar milden, indem sie Routineaufgaben zur Prüfung der IT-Sicherheit übernehmen, menschliche Spezialisten aber nie ersetzen.

„Zwischen Angreifern und Verteidigern der IT-Sicherheit entfacht die KI einen neuen Wettlauf. Unternehmen und Behörden müssen deshalb rasch entsprechende Kompetenzen aufbauen und in neue Technologien investieren. Auch die Ausbildung von IT-Fachkräften muss angepasst werden, um den Angreifern weiterhin einen Schritt voraus zu bleiben“, fordert Jörn-Müller Quade, Leiter der Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme und Inhaber des Lehrstuhls für Kryptographie und Sicherheit am Karlsruher Institut für Technologie (KIT).

KI gibt auch den Angreifern neue Werkzeuge an die Hand, um Schwachstellen in IT-Systemen zu finden, ihre Schadprogramme zu optimieren und Authentifizierungsverfahren zu unterlaufen - indem sie beispielsweise Tippmuster imitieren. Besonders Social Engineering könnte zum Massenphänomen werden, also Angriffe, bei denen Menschen so getäuscht werden, dass sie dem Angreifer freiwillig Passwörter oder Bankdaten verraten. Benötigt man bislang Menschenkenntnis und Hintergrundwissen, um beispielsweise eine Phishing-Mail an den Stil des Absenders anzupassen und so zu tarnen, können KI-Systeme künftig hocheffizient online verfügbare Informationen sammeln, um etwa eine E-Mail auf die Zielperson einer Attacke zuzuschneiden.

Auch KI-Systeme selbst können künftig Ziel von Hackern sein. Sensible Daten, beispielsweise in der Gesundheitsversorgung, gilt es vor Missbrauch zu schützen. Ebenso könnten Daten, die lernende Algorithmen verarbeiten, manipuliert werden. Dies kann zum Beispiel die Vorhersagen von KI-Anwendungen im Wertpapierhandel verfälschen oder autonome Fahrzeuge zu Fehlentscheidungen verleiten. Datenschutzerhaltende Lernalgorithmen und die Resilienz von KI-Systemen gegen Manipulation müssen deshalb noch intensiver erforscht werden.

Das Whitepaper „KI und IT-Sicherheit“ wurde von Expertinnen und Experten der interdisziplinären Arbeitsgruppe „IT-Sicherheit, Privacy, Recht und Ethik“ der Plattform Lernende Systeme verfasst und steht zum Download zur Verfügung.

www.plattform-lernende-systeme.de


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Smart-Home

Handwerk profitiert vom Smart-Home-Boom

Das Smart Home wird in Deutschland beliebter: Schon 37 Prozent der Verbraucher haben in ihren eigenen vier Wänden mindestens eine Smart-Home-Lösung installiert – das entspricht 26 Millionen Bundesbürgern ab 16 Jahren. Besonders häufig sind intelligente…
Handschlag

Wolfgang Braunmiller wird Geschäftsführer valantic people

Wolfgang Braunmiller (52) ist mit Wirkung zum 1. September 2020 Teil der Geschäftsführung von valantic und verantwortlich für das Competence Center valantic people mit Fokus auf SAP Human Capital Management (HCM). Als Chief Operational Officer (COO) will der…
McAfee

IT-Sicherheitsfirma McAfee will zurück an die Börse

Die traditionsreiche IT-Sicherheitsfirma McAfee will nach über zehn Jahren eigenständig an die Börse zurück. Das Unternehmen beantragte am Montag (Ortszeit) eine Aktiennotiz unter dem Tickerkürzel «MCFE» an der New Yorker Nasdaq. Zum Zeitplan und zum Volumen…
Amazon

Insiderhandel: Ex-Amazon-Managerin und Familienmitglieder angeklagt

Die US-Börsenaufsicht SEC hat eine ehemalige Finanzmanagerin des Internetriesen Amazon und zwei Familienmitglieder wegen Insiderhandels angeklagt. Die Beschuldigten hätten zwischen Januar 2016 und Juli 2018 gemeinsam mehr als 1,4 Millionen Dollar (1,2 Mio…
Microsoft Cloud

Cloud-Störung bei Microsoft

Der Software-Riese Microsoft hat in der Nacht zum Dienstag mit einer Störung bei seinen Cloud-Diensten zu kämpfen gehabt. Unter anderem waren die Online-Versionen seiner Office-Programme im Dienst nicht erreichbar, wie der Konzern auf einer Statusseite…
fortnite

Richterin erwartet Prozess in «Fortnite»-Streit im Juli 2021

Im Streit zwischen den Machern des populären Smartphone-Spiels «Fortnite» stellt sich die zuständige Richterin auf einen Prozess im Juli 2021 ein. Sie halte es für angemessen, die Entscheidung Geschworenen zu überlassen, sagte Richterin Yvonne Gonzalez Rogers…

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!