Was das in der Praxis bedeutet
Denken Sie beim EU AI Act an eine Straßenverkehrsordnung für künstliche Intelligenz. Ein Fahrrad — ein Chatbot, der Texte zusammenfasst — braucht keine aufwendige Zulassung. Wollen Sie aber einen Lastwagen mit Gefahrgut fahren — eine KI, die bei einer Bank Kreditrisiken bewertet oder Röntgenbilder liest —, müssen Sie strenge Prüfungen bestehen und bestimmte Nachweise vorlegen. Die Verordnung teilt KI-Anwendungen in vier Kategorien ein, von unannehmbarem Risiko (schlicht verboten) bis zu minimalem Risiko wie einem Spamfilter, für den praktisch keine Regeln gelten.
Warum Unternehmen das wissen sollten
- Empfindliche Bußgelder. Verstöße können Bußgelder in Millionenhöhe nach sich ziehen oder einen festgelegten Anteil am weltweiten Jahresumsatz.
- Transparenz. Wenn ein KI-Chatbot in Ihrem Shop oder an Ihrer Hotline mit Kunden spricht, müssen Sie diese klar darauf hinweisen, dass sie nicht mit einem Menschen sprechen.
- Neue Dokumentationspflichten. Unternehmen, die eigene Hochrisiko-Systeme bauen — etwa Software, die Beschäftigte bewertet —, müssen strenge Anforderungen an Datenqualität und Dokumentation erfüllen.
- Schutz vor unlauterem Wettbewerb. Die Verordnung zieht Grenzen, damit die Technik nicht zur Manipulation von Kunden eingesetzt wird.
Ein Beispiel aus der Praxis
Eine Personalberatung möchte ein KI-Werkzeug einsetzen, das Bewerber automatisch ablehnt, indem es während eines Videointerviews ihr Gesicht auswertet. Nach dem EU AI Act fällt Emotionserkennung am Arbeitsplatz in die verbotene Kategorie, also unannehmbares Risiko. Der Einsatz würde das Unternehmen enormen Bußgeldern aussetzen. KI nur zur Zusammenfassung der Gesprächsnotizen zu nutzen, ist dagegen minimales Risiko und völlig unbürokratisch.
In unseren KI-Workshops für Unternehmen zeigen wir, wie Sie KI so in Ihre Prozesse bringen, dass Sie das Meiste herausholen und auf der richtigen Seite des Rechts bleiben.