Verwendung von AI-Tools bei der Arbeit

Unter welchen Bedingungen dürfen Mitarbeiter bei ihrer Arbeit KI-Tools wie ChatGPT oder Copilot verwenden?

Ab dem 2. Februar 2025 sind alle Anbieter und Nutzer von KI-Systemen (d. h. auch Unternehmen, die Tools wie ChatGPT oder Copilot nur zur Erleichterung und Beschleunigung ihrer Arbeit einsetzen) verpflichtet, sicherzustellen, dass ihre Mitarbeiter über ausreichende KI-Kenntnisse verfügen. Diese Verpflichtung ist Teil der Kapitel I und II der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates, die harmonisierten Vorschriften im Bereich der künstlichen Intelligenz festlegt und früher als der Rest der Verordnung in Kraft getreten ist (der Rest der Verordnung tritt erst im August 2026 in Kraft).

Was bedeutet das in der Praxis?

1. Das Unternehmen sollte seine Mitarbeiter obligatorisch schulen – wenn das Unternehmen KI-Tools einsetzt, muss es sicherstellen, dass seine Mitarbeiter eine Schulung absolvieren, die insbesondere folgende Themen abdeckt:

•   Grundlegende Funktionsprinzipien von KI-Tools
•   Ihre Vorteile und Risiken
•   Einschränkungen bei der Verwendung im Arbeitsumfeld
•   Ethische und rechtliche Aspekte einschließlich Datenschutz.

Das Ziel ist es, dass die Mitarbeiter AI verantwortungsbewusst und sicher einsetzen können.

2. Das Unternehmen sollte interne Regeln und Richtlinien ausarbeiten. Der Arbeitgeber ist dafür verantwortlich, klare interne Regeln für den Einsatz von KI zu erstellen und zu kommunizieren. Diese Regeln sollten Folgendes enthalten:

•  Zu welchen Zwecken KI eingesetzt werden darf (z. B. Texterstellung, Datenanalyse, Unterstützung bei der Programmierung),
•  Was verboten ist – z. B. die Eingabe vertraulicher Daten, die automatisierte Bewertung von Kollegen,

Keine Weitergabe personenbezogener Daten (z. B. Namen, Gehaltsdaten, Gesundheitsinformationen) über KI-Tools ohne ausdrückliche Zustimmung oder Rechtsgrundlage.

• Verbot der Verwendung von KI zur Bewertung von Kollegen oder zur Entscheidungsfindung über diese ohne Wissen und Zustimmung des Arbeitgebers.
• Verpflichtung zur Überprüfung der KI-Ergebnisse – wenn die KI ungenaue, irreführende oder diskriminierende Informationen generiert, liegt die Verantwortung für deren Verwendung beim Nutzer.
• Welche KI-Tools sind zugelassen und welche nicht?

Ohne die Existenz und Einhaltung solcher Regeln kann die Verwendung von KI nicht nur aus Sicht des Unternehmens, sondern auch aus Sicht seiner Kunden, Geschäftspartner und Mitarbeiter als riskant angesehen werden.

3. Haftung für Schäden

Wenn ein Mitarbeiter durch unsachgemäßen Einsatz von KI einen Schaden verursacht (z. B. durch die Veröffentlichung personenbezogener Daten eines Kunden oder Kollegen), kann das Unternehmen rechtlich haftbar gemacht werden. Daher ist es wichtig, dass:

•   die Mitarbeiter wissen, was sie tun dürfen und was nicht,
•   das Unternehmen über Kontrollmechanismen verfügt,
•   die Nutzung von KI überwacht wird.