Anzeige

KI

Künstliche Intelligenz (KI) erhält zunehmend Einzug in verschiedenste Bereiche der Arbeitswelt und ist teilweise bereits fester Bestandteil betrieblicher Abläufe. Insbesondere im Personal- und Talentmanagement sowie in der maschinellen Produktion sind algorithmische Entscheidungssysteme (ADM-Systeme) weit verbreitet. 

Im Forschungsprojekt „KI Testing & Auditing“ (ExamAI) unter der Leitung der Gesellschaft für Informatik e.V. gehen die Beteiligten relevanten Fragen im Zusammenhang mit dem Einsatz von ADM-Systemen nach: Wie können Verfahren aussehen, die einen beherrschbaren, nachvollziehbaren und fairen Einsatz von Künstlicher Intelligenz ermöglichen? Wie lassen sich diese durchführen und welche institutionellen Anforderungen müssen dafür beachtet werden?

Zur Beantwortung dieser Fragen wurden nun elf Szenarien aus den zwei Anwendungsbereichen Personal- und Talentmanagement sowie Mensch-Maschine-Kooperation in der Industrieproduktion vorgestellt. Die Szenarien sollen kritische Abläufe aber auch Nutzen beim Einsatz von KI veranschaulichen und dienen als Ausgangspunkt einer juristischen sowie informatischen Analyse bestehender Probleme, Ungleichbehandlungen, Sicherheitsrisiken und Rechtsverstöße im Bereich KI und Arbeit.

Personal und Talentmanagement

Im Personalbereich gibt es eine Vielzahl von Anwendungsmöglichkeiten von KI. Den besonders einschlägigen widmet sich die Publikation Anwendungsszenarien KI-Systeme im Personal- und Talentmanagement. Dabei sind z.B. eine KI-basierte Software bei der Vorhersage der Jobkündigungsbereitschaft, eine Persönlichkeitsbewertung anhand von Lebensläufen oder der Einsatz eines Chatbots der Personalabteilung. Die Gefahrenpotentiale im Personalkontext sind dabei vielfältig. So kann es etwa zu Diskriminierungen bei der Vergabe von Arbeitsschichten oder zu Benachteiligungen bei internen Fördermaßnahmen kommen.

Mensch-Maschine-Kooperation in der Industrieproduktion

In der Industrieproduktion besteht unter Umständen auch physisches Gefahrenpotential. Durch einen unkontrollierten und intransparenten Einsatz von KI könnten Mitarbeiter*innen durch kollaborative Roboter (Cobots) oder Fahrerlose Transportsysteme (FTS) verletzt werden. Aber auch in vermeintlich harmlosen Betriebsabläufen, wie der Planung von Routen in der Logistik schlummert Diskriminierungspotential. In vier Szenarien werden relevante Aspekte in Bezug auf den Einsatz von KI in der Industrieproduktion aufgezeigt.

Im weiteren Verlauf des Projektes dienen die veröffentlichen Szenarien als Grundlage für eine tiefergehende juristische und softwarebezogene Analysen.

Über das Observatorium Künstliche Intelligenz in Arbeit und Gesellschaft (KIO)

Das Projekt „KI Testing & Auditing (ExamAI)“ wird im Rahmen des Observatoriums Künstliche Intelligenz in Arbeit und Gesellschaft (KIO) der Denkfabrik Digitale Arbeitsgesellschaft gefördert. Die Denkfabrik, eine agile Organisationseinheit des Bundesministeriums für Arbeit und Soziales (BMAS), bündelt Projekte und Prozesse rund um die digitale Transformation innerhalb des BMAS und entwickelt daraus ein größeres Bild der Arbeitsgesellschaft der Zukunft. Mit dem KIO, einem Projekt im Rahmen der nationalen KI-Strategie, fokussiert das BMAS die Frage nach den Auswirkungen von KI auf Arbeit und Gesellschaft. Mehr erfahren.

www.gi.de


Weitere Artikel

Smartwatch

Smartwatch: Die wichtigsten Vor- und Nachteile des beliebten Gadgets

In Zeiten von smarten Mobiltelefonen, handlichen Tablets und einer sprachgesteuerten künstlichen Intelligenz im eigenen Wohnzimmer verwundert es eigentlich nur wenig, dass sich auch die sogenannten Smartwatches nicht nur hierzulande stetig wachsender…
itsa 2021

Großes Wiedersehen der IT-Security-Experten auf der it-sa 2021

Der Restart ist gelungen: 274 Aussteller aus 18 Ländern und rund 5.200 Fachbesucher aus 28 Ländern machten die it-sa 2021 vom 12. bis 14. Oktober zum Treffpunkt für IT-Sicherheitsexperten und -entscheider.

Stormshield: Neu native Chiffrierungslösung für Google Workplace

Stormshield stellt die mit Google entwickelte Lösung Stormshield Data Security (SDS) für Google Workspace vor. Sie ermöglicht Unternehmen, die Google Workspace einsetzen, alle Arten von Informationen (Inhalte, Kommunikation etc.) völlig unabhängig und unter…
PrintNightmare

Cyberangriffe über PrintNightmare bleiben gefährlich

Am Patch Tuesday dieser Woche gab es einmal mehr neue Security Patches von Microsoft, die helfen teilweise akute Sicherheitslücken zu schließen. Ein Kommentar von Satnam Narang, Staff Research Engineer bei Tenable, zum aktuellen Patch Tuesday.
MysterySnail

MysterySnail: Zero-Day-Exploit für Windows OS entdeckt

Kaspersky-Experten haben einen neuen Zero-Day-Exploit entdeckt. ,MysterySnail' wurde im Rahmen der Analyse einer Reihe von Angriffen zur Erhöhung von Berechtigungen auf Microsoft-Windows-Servern identifiziert; zuvor hatten die automatisierten…
Acer

Massiver Cyberangriff auf Acer

Der Computergigant Acer hat bestätigt, dass seine Kundendienstsysteme in Indien kürzlich durch einen "isolierten Angriff" verletzt wurden, wie das Unternehmen es nannte.

Anzeige

Jetzt die smarten News aus der IT-Welt abonnieren! 💌

Mit Klick auf den Button "Zum Newsletter anmelden" stimme ich der Datenschutzerklärung zu.