Der EU AI Act – Auswirkungen auf das Finanz- und Rechnungswesen
Am 14. März hat das Europäische Parlament den AI Act verabschiedet. Ziel des Gesetzes ist es, klare Schutzmaßnahmen für europäische Bürger*innen im alltäglichen KI-Umgang zu setzen und KI-Entwickler*innen einen rechtlichen Rahmen für Entwicklungsmöglichkeiten zu bieten. Das Gesetz sieht vor, KI-Systeme in verschiedene Risikoklassen einzuteilen. Es wird zwischen vier Risikoklassen unterschieden: KI-Systeme mit inakzeptablem Risiko, mit hohem Risiko, mit gewissem Risiko und mit minimalem bzw. keinem Risiko. Je nach Klassifizierung gibt es unterschiedliche Vorschriften und Anforderungen oder sogar Verbote.
KI-Systeme mit allgemeinem Verwendungszweck (sog. General Purpose AI) wie ChatGPT von OpenAI oder auch Bard von Google müssen technische Dokumentationen erstellen, das EU-Urheberrecht einhalten und die für das Training verwendeten Inhalte angeben. KI-Systeme, die zum Einsatz eines Social Scoring oder zur Ausnutzung von Schwachstellen der Nutzer*innen eingesetzt werden, unterliegen einem Verbot. Ein zentraler Aspekt des Gesetzes ist zudem der Datenschutz gegenüber EU-Bürger*innen.
Welche Auswirkungen kann das Gesetz auf Finanzabteilungen haben?
KI-Modelle, die zur Automatisierung bestimmter Aufgaben eingesetzt werden, sind eher unbedenklich. Beispiele hierfür sind KI-gestützte Optical-Character-Recognition-Lösungen zur Extraktion von Rechnungsdaten. Vorsicht ist geboten, sobald personenbezogene Daten verarbeitet und auf dieser Grundlage Entscheidungen getroffen werden. In der Kreditbewertung wird eine Vielzahl personenbezogener Daten analysiert. KI-Systeme bergen das Risiko der Voreingenommenheit in ihren Entscheidungen durch die Berücksichtigung persönlicher Eigenschaften wie beispielsweise das Geschlecht oder die Ethnizität. Kund*innen können daher durch einen sogenannten KI-Bias benachteiligt werden, indem ihnen im schlimmsten Fall ein Kauf verwehrt wird. KI-Bias entstehen durch fehlerhafte Annahmen von Algorithmen, die zu vorurteilbehafteten Ergebnissen führen. Der AI Act sieht auch den Schutz von EU-Bürger*innen vor solchen Diskriminierungen vor. Viele KI-basierte Kreditbewertungen werden daher als hoch risikoreich eingestuft, wodurch sich verpflichtende Vorkehrungsmaßnahmen für Unternehmen ergeben.
Es ist wichtig, die Regelungen beim Einsatz von KI im Finanz- und Rechnungswesen im Blick zu haben und die Auswirkungen für bereits umgesetzte und geplante Anwendungsfälle zu bewerten und in der Weiterentwicklung und Ausgestaltung zu berücksichtigen. Die Regelungen sollten Unternehmen nicht davon abhalten, sich weiter mit dem Themenfeld KI und auch der Anwendung im Finanz- und Rechnungswesen zu beschäftigen und die erheblichen Effizienzpotenziale für die Gestaltung von Prozessen und Abläufen zu realisieren.
Kontakt