Anzeige

KI

Bei Künstlicher Intelligenz (KI) ist oft nicht wirklich klar, warum sie ihre Entscheidungen trifft - was sich spätestens bei Militär- und Sicherheitsanwendungen als ein echtes Problem darstellt.

Forscher der North Carolina State University (NCSU) haben ein neues Framework vorgeschlagen, um die Nachvollziehbarkeit von KI-Entscheidungen zu erleichtern. Denn im Prinzip liefert ein KI-System dadurch eine Erklärung mit. Bei Tests mit einem Objekterkennungs-System hat das keine Performance-Einbußen mit sich gebracht.

Interpretationshilfe

Das Besondere am neuen Framework ist laut Tianfu Wu, Professor für Computertechnik an der NCSU, dass das KI-Training auch die Interpretierbarkeit berücksichtigt. "Wenn ein KI-System mit unserem Framework beispielsweise lernt, wie es Objekte in Bildern erkennt, lernt es auch, das Zielobjekt im Bild zu lokalisieren und zu analysieren, was an dieser Lokalität die Zielobjektkriterien erfüllt", erklärt er. Diese Information wird dann zusammen mit dem Ergebnis ausgegeben, um für den Menschen interpretierbar zu machen, wie das Ergebnis zustande kam.

In einer Konzeptdemonstration haben die Forscher ihr Framework in ein breit genutztes Objekterkennungslverfahren, genannt "R-CNN", integriert. Dann haben sie die Lösung an zwei gängigen Benchmark-Datensätzen getestet. Diese Tests haben ergeben, dass die Nutzung des Interpretierbarkeits-Frameworks der Performance weder in punkto Genauigkeit noch Geschwindigkeit schadet.

Wichtige Transparenz

Eine transparente Nachvollziehbarkeit von KI-Entscheidungen ist wichtig, um diese auch rechtfertigen zu können - oder auch klar zu wissen, dass diese eigentlich nicht zu rechtfertigen sind, wenn beispielsweise wieder einmal eine fehlgeleitete KI gelernt hat, rassistisch zu sein, wie das erst vor Kurzem ein Kunstprojekt für die Gesichtserkennung demonstriert hat.

Wu sieht in der aktuellen Arbeit einen wichtigen Schritt in Richtung einer wirklich transparenten KI. Allerdings hält er noch Weiterentwicklungen für nötig. Denn das Framework bringe die KI im Objekterkennungsfall bislang nur dazu, qualitative Informationen dazu anzuzeigen, was es für die Erkennungsmerkmale des Zielobjekts hält. "Wir arbeiten an Möglichkeiten, das quantitativ zu gestalten, indem wir einen Zuversichtswert in den Prozess einbauen."

www.pressetext.com
 


Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!

 

Weitere Artikel

Handschlag

Neue Partnerschaft: HFO Telecom und estos kooperieren

estos und HFO Telecom sind ab sofort Technologiepartner. Zusammen bieten die beiden Unternehmen Telefonie, CTI und UCC auf den individuellen Bedarf von Unternehmen zugeschnitten: Die Software kann an die jeweilige Arbeitssituation und ITK-Struktur angepasst…
Social Media

Klimawandel-Debatte in Social Media mit Themen-Lücken

Das Thema Klimakrise wird zwar auf Facebook, Instagram, Twitter und Youtube und anderen Social-Media-Plattformen heiß diskutiert - die genauen Ursachen der Erderhitzung kommen dabei aber kaum vor. Das ist das Ergebnis einer Studie des Analyse-Unternehmens…
Cybercrime

Bundeskriminalamt stellt «Lagebild Cybercrime» vor

Über die Machenschaften von Kriminellen im Internet berichtet das Bundeskriminalamt (BKA) am Mittwoch (10.30 Uhr) in Wiesbaden. Bei der Vorstellung des «Lagebildes Cybercrime» geht es unter anderem um Cyberangriffe auf Unternehmen und um Hacker-Attacken auf…
GoogleMeet

"Google Meet" nach 60 Minuten kostenpflichtig

Ab dem 30. September müssen Nutzer der Videokonferenz-App "Google Meet" für mehr als 60 Minuten lange Calls bezahlen. Im April hat der Tech-Konzern seine Anwendung für alle User vorläufig kostenlos gemacht.
Microsoft Office

Datenschützer sehen Mängel bei Microsoft Office 365

Die Datenschützer der Länder und des Bundes sehen Mängel beim Online-Bürosoftwarepakt Office 365 von Microsoft. Ein Positionspapier des Arbeitskreises Verwaltung komme zu dem Ergebnis, dass auf Basis von Unterlagen von Microsoft mit Stand Januar 2020 kein…
Handschlag Cloud

Genesys weitet Partnerschaft mit BT zu Customer-Experience-Lösungen aus

Genesys, Anbieter von Cloud-basierter Customer Experience und Contact-Center-Lösungen, erweitert seine Vertriebspartnerschaft mit BT, einem Anbieter von Kommunikationsdiensten und -lösungen.

Anzeige

Newsletter Anmeldung

Smarte News aus der IT-Welt

Sie möchten wöchentlich über die aktuellen Fachartikel auf it-daily.net informiert werden? Dann abonnieren Sie jetzt den Newsletter!

Newsletter eBook

Exklusiv für Sie

Als Newsletter-Abonnent erhalten Sie das Booklet „Social Engineering: High Noon“ mit zahlreichen Illustrationen exklusiv und kostenlos als PDF!