Anzeige

Anzeige

VERANSTALTUNGEN

IT-SOURCING 2019 – Einkauf meets IT
09.09.19 - 10.09.19
In Düsseldorf

ACMP Competence Days Berlin
11.09.19 - 11.09.19
In Stiftung Deutsches Technikmuseum Berlin, Berlin

MCC CyberRisks - for Critical Infrastructures
12.09.19 - 13.09.19
In Hotel Maritim, Bonn

Rethink! IT 2019
16.09.19 - 17.09.19
In Berlin

DSAG-Jahreskongress
17.09.19 - 19.09.19
In Nürnberg, Messezentrum

Anzeige

Anzeige

SERIE
KI mit Waage

Der Grat zwischen Begeisterung und Angst ist selten so schmal wie beim Thema KI. Bedeutet Künstliche Intelligenz das Aus für die Menschheit oder ist sie der nächste logische Entwicklungsschritt?

Prominente Vertreter wie Unternehmer und Tesla-Gründer Elon Musk lassen keine Gelegenheit aus, vor dem Untergang der Gesellschaft, herbeigeführt durch Roboter und Algorithmen, zu warnen. Das EU-Parlament formuliert den Wandel drastisch:

"Die Menschheit steht an der Schwelle zu einer Ära, in der immer raffiniertere Roboter, Bots, Androiden und andere Formen künstlicher Intelligenz bereitstehen, um eine neue industrielle Revolution zu entfesseln, die keinen Stein unserer Gesellschaft auf dem anderen lassen wird. Die Entwicklung von Robotik und künstlicher Intelligenz wirft rechtliche und ethische Fragen auf, die eine unmittelbare Intervention auf der Ebene der Europäischen Union erfordern."

Das klingt schon fast bedrohlich. Wir wollen dem Thema KI in den nächsten Wochen auf den Grund gehen, grundsätzliche Fragestellungen erörtern und einen Anstoß zum Nachdenken und Diskutieren geben.

Vorweg die "allgemeine Stimmung" zur Frage "Sind Gesetze für KI nötig?" - 70% der Deutschen stimmen zumindest "eher zu".

Unheimlich cool oder unheimlich unheimlich?

Personalisierungsanbieter "RichRelevance" erfasste im Sommer 2018, welche Anwendungsbereiche von KI für Verbraucher sinnvoll, und welche eher abschreckend wirken. Besonders deutlich wurde dabei, dass viele der Befragten, die dem Thema KI aufgeschlossen gegenüberstehen, der Meinung sind, dass Unternehmen ihre Nutzer über den Einsatz von KI informieren sollten.

Zu den als unheimlich eingestuften Anwendungsgebieten von KI gehören unter anderem

  • Händler, die über Gehaltsinformationen verfügen und dementsprechend relevante Angebote unterbreiten können,
  • Gefühlsdetektoren, die das Einkaufserlebnis an die jeweilige Stimmung anpassen,
  • Gesichtserkennung in Geschäften,
  • Roboter-Verkäufer, die auf Basis bisherigen Verhaltens Angebote unterbreiten und
  • Sprachassistenten (wie Alexa oder Google Home), die immer zuhören und basierend auf aufgezeichneten Unterhaltungen Empfehlungen abgeben.
  • Zu den als cool eingestuften Anwendungsgebieten gehören
  • Apps, die Produktinformationen anzeigen und den Nutzer in Geschäften "führen" können,
  • Spracherkennung, die Produktsuchen auf dem Smartphone ermöglichen
  • Bezahlen per Fingerabdruck,
  • Virtual & Augmented Reality
  • Geo-Targeting

Auch hier zeigt sich, wie schnell die Grenze von der gefühlten Sicherheit zur Unsicherheit überschritten werden kann. Spracherkennung wird akzeptiert und als sinnvoll angesehen, wird aber sofort als unbehaglich empfunden, wenn der Nutzer nicht selbst bestimmen kann, wann zugehört wird.

Gute Gründe für die Einführung von Regeln für KI

Überwachung von Menschen

Die Anwendungsgebiete sind zahlreich - das wissen wir. Das größte Projekt zur digitalen Sozialkontrolle aller Zeiten sorgte Ende letzten Jahres für Schlagzeilen. In China soll ein individueller Punktestand weitreichende Folgen haben. Das Prinzip ist simpel: Für "gutes" Verhalten gibt es Punkte, für "schlechtes" Punktabzug. Unmengen an Daten aus unzähligen Quellen laufen dafür zusammen. Kreditbewertungen, Strafregister, Schulzeugnisse, Suchbegriffe online, Shopping-Vorlieben und Gesichtserkennungsdaten von 1,3 Milliarden Chinesen müssen erfasst, ausgewertet und interpretiert werden. Eine technische Meisterleistung. Welche Folgen das Ganze jedoch haben kann, hat die FAZ in einer Infografik anschaulich dargestellt.

Aber auch Unternehmen und sogar Schulen (Hangzhou, China) können Wearables und Gesichtserkennung nutzen, um Produktivität, Gemütszustand und Konzentration von Mitarbeitern und Schülern zu messen.

Täuschung von Menschen

Spreche ich mit einem Menschen oder mit einer Maschine? Googles Sprachassistent, der im letzten Jahr während einer Präsentation von CEO Sundar Pichai vorgestellt wurde, polarisierte. Denn bei der Demonstration wurde deutlich, dass der menschliche Gegenpart am Ende der Telefonleitung nicht bemerkte, dass er sich mit einem Stück Software unterhielt.

Manipulation der Meinungsfreiheit

Die als menschliche Uploadfilter eingesetzten Mitarbeiter, die bei sozialen Netzwerken angestellt sind, um die Feeds von ungeeigneten, grausamen und verstörenden Inhalten zu säubern, sind enormen psychischen Belastungen ausgesetzt. KI mit Daten darüber zu füttern, was gelöscht wird, soll langfristig zur Entlastung der menschlichen Arbeitskräfte führen. Wenn Software darüber entscheidet, welche Inhalte den Nutzern weltweit zugänglich gemacht werden und welche nicht, kann man sich darüber Gedanken machen, wer eigentlich das letzte Wort hat.

Fakes, Fakes, Fakes

KI ermöglicht es mittlerweile nahezu jedem, extrem echt wirkende Täuschungen herzustellen. Künstliche neuronale Netze, die dem menschlichen Gehirn nachempfunden sind, können Audio- und Videodateien fast perfekt fälschen. Daraus kann man, lustige Sachen machen, wie dieses Beispiel zeigt.

Weitere Informationen zur Serie "Ein Regelwerk für KI?":

Bleiben Sie auf dem Laufenden! Nächste Woche erscheint der 2. Teil "Wer soll sterben?" in unserem it-daily.net Newsletter.

www.icrossing.de
 

GRID LIST
Roboter Treppe

Robotic Process Automation im Unternehmenseinsatz

Ist RPA tauglich für die Integration in Enterprise-Software-Architekturen? Robotic…
Trapezkünstler

Der digitale CFO: Ein Trapezkünstler im Balanceakt

Mit der Einführung verschiedener digitalen Technologien werden die Aufgaben von der…
Roboter

Wenn der Bot selbst entscheidet

Um unstrukturierte Informationen verarbeiten und Entscheidungen auf der Grundlage…
Skelett bei der Arbeit

Erbe verpflichtet: Den digitalen Nachlass regeln

E-Mail-Konten, soziale Netzwerke, Cloud-Services – digitale Dienste bestimmen unseren…
Team

Die digitale Transformation fordert die Mitarbeiter

Unternehmen auf der ganzen Welt schwören auf die Macht des tiefgreifenden digitalen…
Roboter

So identifizieren Unternehmen ihr RPA-Potenzial

Egal ob Fachabteilung oder IT: Immer mehr Betriebe setzen sich mit „Robotic Process…