Setzen Sie auf jeden Fall KI bei der Arbeit ein, aber denken Sie an die heiklen rechtlichen Probleme, die auftreten können www.singaporelawwatch.sg

Aug 15, 2023

Je nachdem, wie die Technologie am Arbeitsplatz genutzt wird, könnte KI für Unwissende eine Vielzahl rechtlicher Fallstricke mit sich bringen.

„KI wird wahrscheinlich zum Ende der Welt führen“, verkündete Sam Altman. Dies ist eine kühne und katastrophale Vorhersage, die von der treibenden Kraft hinter OpenAI und seiner bahnbrechenden Kreation ChatGPT stammt.

Seine Ansichten werden weitgehend von Geoffrey Hinton geteilt, der weithin als der Pate der künstlichen Intelligenz (KI) gilt und erwähnte, dass er sich Sorgen über das „existenzielle Risiko“ mache, das entsteht, wenn KI intelligenter wird als Menschen.

Auch wenn die Frage, ob wir in der Endzeit leben, noch unklar ist, lässt sich nicht leugnen, dass KI einen transformativen Einfluss auf unsere Arbeitsweise hat.

Da sich die KI weiterentwickelt und – wie wir sagen dürfen – immer intelligenter wird, wird sie unweigerlich die Grundlagen der Art und Weise verändern, wie Unternehmen ihre Geschäfte abwickeln und ihre Belegschaft verwalten. Je nachdem, wie die Technologie genutzt wird, könnte dies für Unwissende eine Vielzahl rechtlicher Fallstricke mit sich bringen. In diesem Kommentar hebe ich, ohne Anspruch auf Vollständigkeit, drei rechtliche Aspekte hervor, die Arbeitgeber und Arbeitnehmer beachten sollten.

Rechtliches Dilemma 1: Wer übernimmt die (rechtliche) Verantwortung für die Entscheidungen, die KI trifft?

Eine der unmittelbarsten Auswirkungen von KI am Arbeitsplatz ist ihre Rolle bei der Automatisierung und Optimierung von Prozessen.

KI-gestützte Tools wie WebHR, Workable und Talkpush haben bereits damit begonnen, zahlreiche Prozesse im Personalwesen (HR) zu rationalisieren, von der Talentakquise und dem Onboarding bis hin zur Gehaltsabrechnungsverwaltung und Leistungsbewertung.

Diese gesteigerte Effizienz führt zu einem geringeren Verwaltungsaufwand und ermöglicht es HR-Experten, sich auf strategischere Aufgaben wie Personalentwicklung, Geschäftsanforderungen und Mitarbeiterwohlbefinden zu konzentrieren.

Allerdings wirft dies auch wichtige rechtliche Überlegungen auf. Mit zunehmender Automatisierung von Prozessen verschwimmt die Frage nach Eigentum und Verantwortung für die Entscheidungsfindung immer mehr.

Insbesondere im Zusammenhang mit der Talentakquise reduziert der Einsatz von Software zur Automatisierung des Lebenslauf-Screenings und des Kandidaten-Matchings die Zeit, die Personalvermittler für das Durchsuchen von Lebensläufen aufwenden müssen, drastisch. Der Einsatz von KI-Algorithmen könnte jedoch zu perversen Ergebnissen führen, wenn er den unbeabsichtigten Effekt hat, Voreingenommenheit zu verstärken, etwa durch die Bevorzugung von Personen mit bestimmten Akzenten oder Gesichtszügen.

Falls Sie das für weit hergeholt halten: Im Oktober 2019 fanden Forscher heraus, dass ein Algorithmus, der bei mehr als 200 Millionen Menschen in US-Krankenhäusern eingesetzt wurde, um vorherzusagen, welche Patienten wahrscheinlich zusätzliche medizinische Versorgung benötigen würden, weiße Patienten gegenüber schwarzen Patienten stark begünstigte. Während die Rasse selbst keine im Algorithmus verwendete Variable war, korrelierte eine andere Variable stark mit der Rasse, nämlich die Kostenhistorie im Gesundheitswesen.

Wer trägt die Verantwortung, wenn ein KI-Algorithmus eine diskriminierende Einstellungsentscheidung trifft?

Man kann durchaus davon ausgehen, dass Personalmanager mit dem Finger auf HR-Fachleute zeigen, die die Verantwortung wahrscheinlich auf ihre für die Software verantwortlichen Business-Services-Kollegen abwälzen, die wiederum die Schuld auf die Einstellungskriterien abwälzen, die ihnen von den Mitarbeitern vorgegeben werden Personalchef in erster Linie.

Daher müssen klare Richtlinien und Vorschriften festgelegt werden, um solche ethischen Bedenken auszuräumen und die Einhaltung von Antidiskriminierungsgesetzen wie dem bevorstehenden Workplace Fairness Act in Singapur sicherzustellen.

Rechtliches Dilemma 2: Ab wann ist es für Arbeitgeber problematisch, Daten zur Überwachung zu sammeln?

Die Fähigkeit der KI, große Datenmengen zu verarbeiten und zu analysieren, verändert bestehende Praktiken am Arbeitsplatz.

Prädiktive Analysen können Unternehmen dabei helfen, fundierte Entscheidungen zur Personalplanung zu treffen, potenzielle Problembereiche zu identifizieren und das Mitarbeiterengagement zu verbessern. KI-Algorithmen können Trends im Zusammenhang mit Mitarbeiterfluktuation, Zufriedenheit am Arbeitsplatz und Leistung erkennen und ermöglichen es Arbeitgebern, proaktive Maßnahmen zu ergreifen, um Probleme anzugehen, bevor sie eskalieren.

Mit KI ausgestattete Tools ermöglichen zudem eine ausgefeilte Arbeitsplatzüberwachung und -überwachung. Von der Verfolgung von Mitarbeiteraktivitäten und -verhalten bis hin zur Überwachung digitaler Kommunikation können KI-gestützte Systeme Arbeitgebern beispiellose Einblicke in ihre Belegschaft bieten.

Doch wie Onkel Ben Peter sagte, geht mit großer Macht auch große Verantwortung einher. Und in dieser Hinsicht ist der Datenschutz von größter Bedeutung – und das aus gutem Grund. In Singapur legt das Gesetz zum Schutz personenbezogener Daten von 2012 die Verantwortung für den Schutz personenbezogener Daten bei der Organisation, die diese Daten verwahrt, sehr oft beim Unternehmen, und verlangt von ihr, angemessene Sicherheitsvorkehrungen zu treffen, um unbefugten Zugriff oder Verlust zu verhindern. Die Kommission zum Schutz personenbezogener Daten ist befugt, Strafen für Datenschutzverstöße zu verhängen.

Soweit die personenbezogenen Daten auf Servern an anderen Standorten gespeichert werden, können andere Regelungen mit noch strengeren Anforderungen gelten. Beispielsweise verlangt die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union nicht nur, dass Datenverarbeiter personenbezogene Daten schützen, sondern auch, dass Datenverantwortliche geeignete Maßnahmen ergreifen, um sicherzustellen, dass die Daten gemäß den Anforderungen der DSGVO verarbeitet werden.

Und näher bei uns: Chinas neu erlassenes Gesetz zum Schutz personenbezogener Daten enthält besondere Regeln für die Verarbeitung sensibler personenbezogener Daten und verbietet Organisationen darüber hinaus, personenbezogene Daten in einer Weise zu verarbeiten oder offenzulegen, die der nationalen Sicherheit oder dem öffentlichen Interesse zuwiderläuft.

Dies sind potenzielle Minenfelder, die Unternehmen kennen müssen, um unbeabsichtigte Verstöße und Verstöße zu verhindern.

Insbesondere im Hinblick auf die Überwachung am Arbeitsplatz wirft dies auch Bedenken hinsichtlich der Privatsphäre und der individuellen Autonomie der Mitarbeiter auf. Es ist nicht übertrieben, Parallelen zu der dystopischen Zukunft zu ziehen, die George Orwell in seinem bahnbrechenden Roman „1984“ ersonnen hat, in dem „Big Brother“ fortschrittliche Technologie einsetzt, um die Gedanken und Handlungen der Bürger Ozeaniens zu überwachen und zu kontrollieren.

Es sind klare Grenzen erforderlich, um den potenziellen Missbrauch von Überwachungsdaten und jede nachgelagerte Diskriminierung, Belästigung oder unfaire Behandlung einzelner Personen zu verhindern.

Rechtliches Dilemma 3: Wie kann sichergestellt werden, dass KI nicht gegen geistige Eigentumsrechte verstößt?

Ein weiterer Bereich, in dem KI eine transformative Wirkung entfaltet, ist der kreative Prozess. In letzter Zeit spielt KI als kreatives Werkzeug in Architektur, Wissenschaft, Musik und insbesondere in den Künsten eine immer wichtigere Rolle. Generative KI-Systeme wie DALL-E2 sind in der Lage, aus einfachen Beschreibungen, die in einer natürlichen Sprache eingegeben werden, realistische Bilder und Kunstwerke zu erstellen. Sie können DALL-E2 anweisen, ein impressionistisches Ölgemälde mit Sonnenblumen in einer violetten Vase im Stil von Pissarro zu erstellen, und es wird dies auch tun.

Dies wirft unweigerlich Fragen zum Eigentum/Urheberschaft der von mit KI ausgestatteten Systemen generierten Ergebnisse sowie zum Risiko einer widerrechtlichen Aneignung von geistigem Eigentum auf. Es ist allgemein bekannt, dass KI weitgehend datengesteuert ist und ihre Algorithmen für maschinelles Lernen große Datenmengen aus zahlreichen Datenbanken auswerten.

Wir sehen dies bereits in der Klage der Autoren Mona Awad und Paul Tremblay, die behaupten, OpenAI habe gegen Urheberrechte verstoßen, indem es ChatGPT ohne ihre Erlaubnis auf seinen Romanen trainierte. Sie weisen darauf hin, dass ChatGPT sehr genaue Zusammenfassungen ihrer Arbeiten erstellen konnte.

Es sind auch ethische und moralische Fragen zu berücksichtigen. Der Einsatz generativer KI zur Nachbildung künstlerischer Stile oder Genres, die die Werke alter Meister nachahmen, wirft Fragen zur Authentizität und Integrität heutiger Künstler auf. Wie Ihnen Ed Sheeren nach seinem Urheberrechtsprozess gegen den Nachlass von Marvin Gaye sagen wird, ist dies ein sehr heikler Weg, und es gibt keine Garantie für eine finanzielle Entschädigung, selbst wenn Sie im Prozess obsiegen. Dann legen wir los.

Im Unternehmensbereich hat KI die Tendenz, eine Welt voller Möglichkeiten zu eröffnen, manchmal mit nachteiligen Folgen. Am einen Ende des Spektrums könnten Mitarbeiter generative KI als nützliches Werkzeug zur Entwicklung auffälliger Tabellenkalkulationen und prägnanter Zusammenfassungen von Berichten nutzen. Andererseits könnten träge oder skrupellose Mitarbeiter nach Abkürzungen suchen, indem sie KI einsetzen, um ganze Berichte für sie zu verfassen oder sogar zu plagiieren.

Der dringende Bedarf an Leitplanken

Wenn Sie wie Altman und Hinton Angst um die Zukunft der Menschheit und den drohenden Krieg mit den Maschinen haben, dann denken Sie an die neuseeländische Supermarktkette Pak 'n' Save. Sein KI-gestützter Speiseplaner empfahl Kunden kürzlich Rezepte unter anderem für Giftbrot-Sandwiches, mückenabweisende Bratkartoffeln und eine Oreo-Gemüsepfanne.

Oder denken Sie an die beiden unglücklichen New Yorker Anwälte, die in Schwierigkeiten gerieten, indem sie sich bei ihren Rechtsrecherchen auf ChatGPT verließen. Sie reichten einen juristischen Schriftsatz ein, in dem sie mehrere Fälle anführten, angeblich zur Stützung ihrer Argumente. Später stellte sich heraus, dass die Fälle völlig fiktiv waren und von ChatGPT erfunden wurden.

Es ist klar, dass diese aufstrebende Technologie trotz aller Leistungsfähigkeit und Potenziale der KI immer noch anfällig für Fehler ist, manchmal mit urkomischen Ergebnissen.

Allerdings sind mehr denn je Leitplanken erforderlich, um zu verhindern, dass diese Technologie im Zuge ihrer Entwicklung missbraucht oder sogar als Waffe eingesetzt wird.

Die Europäische Union hat mit der Formulierung des EU-KI-Gesetzes, dem weltweit ersten umfassenden Rechtsrahmen für KI, eine Vorreiterrolle übernommen. Das Gesetz legt je nach KI-Risikostufe Pflichten für Anbieter und Nutzer fest. Es ist wahrscheinlich eine Frage der Zeit, bis auch andere führende Gerichtsbarkeiten dies tun werden, und Organisationen müssen auf die daraus resultierende Regelung vorbereitet sein – schließlich möchte doch niemand Terpentin-Methanol-French-Toast essen, oder?

Clarence Ding ist Partner und Leiter der Arbeitsrechtspraxis in Singapur bei der internationalen Anwaltskanzlei Simmons & Simmons. Dieser Kommentar spiegelt seine persönlichen Ansichten wider und stellt keine Rechtsberatung dar.

Quelle: Business Times © SPH Media Limited. Für die Reproduktion ist eine Genehmigung erforderlich.