Der EU AI Act wurde beschlossen

Wichtiger Fortschritt im Umgang mit KI

Künstliche Intelligenz (KI) oder auch im englischen als “Artificial Intelligence” (AI) bekannt, ist schon lange keine Science-Fiction mehr. Bereits im Februar 2023 berichteten wir über die wahrscheinlich bekannteste KI „ChatGPT“ (Link) und den möglichen Bedrohungen und Problemen im Umgang mit der KI. Seitdem hat die Entwicklung von KI rasante Fortschritte gemacht und nimmt immer häufiger einen Platz in unserem Alltag ein. Experten schätzen KI als mächtiges Werkzeug mit immensen positiven und negativen Auswirkungen ein.

Mit diesem Beitrag informieren wir Euch, welche Änderungen durch das EU-Parlament am 13.03.2024 beschlossen wurden.

Änderungen des 13.03.2024:

Die Europäische Union ist mit ihrem AI-Act weltweiter Vorreiter bei der Regulierung von KI. Es werden KI-Anwendungen, insbesondere generative KI, in unterschiedliche Risikoklassen eingeordnet und je nach Einstufung müssen entsprechende Anforderungen erfüllt werden.

Social Scoring soll es nicht geben. Social Scoring beschreibt die Bewertung des sozialen Verhaltens von Personen zum Zwecke der Verhaltensprognose beziehungsweise -steuerung. KI-Anwendung zur Erkennung von Verhalten oder Emotionen am Arbeitsplatz oder Schulen sollen als inakzeptables Risiko generell verboten sein. Auch soll kein politisches oder religiöses Profiling erlaubt sein und KI-Anwendungen dürfen nicht gezielt das Verhalten von Menschen beeinflussen oder ausnutzen.

Wie sieht es mit Geschichtserkennung aus?

Gesichtserkennung im öffentlichen Raum soll ebenfalls grundsätzlich nicht erlaubt sein. Hierbei wird es Ausnahmen für Polizei und Behörden geben, die allerdings sehr präzise definiert werden. So darf dies z. B. nur innerhalb eines limitierten Zeitrahmens und in einem beschränkten Bereich stattfinden und muss immer durch eine richterliche oder administrative Stelle angewiesen werden. Dabei geht es unter anderem um das Finden von vermissten Personen, dem Erkennen von Menschenhandel oder der Prävention von Terror-Angriffen.

Es werden klare Voraussetzungen an die Verwendung von KI in Risikobereichen gestellt. Auf Grund der Signifikanz zu z. B. Gesundheit, Sicherheit, Grundrechten, Umwelt oder Gesetzen, müssen Einrichtungen der kritischen Infrastrukturen Prozesse und Abläufe entwickeln, die die Risiken von negativen Einflüssen durch die Verwendung von KI reduzieren, die Verwendung von KI transparent machen und sicherstellen, dass KI von Menschen überwacht und dokumentiert wird. Darüber hinaus muss es Bürgern möglich sein, Auskunft über Entscheidungen zu erhalten, die mithilfe von KI getroffen worden, die ihre Rechte beeinflussen können.

Weitere Verwendungszwecke und Bereiche:

Darüber hinaus sollen Anwendungen von KI mit allgemeinem Verwendungszweck oder auch „general-purpose AI (GPAI)“ Anforderungen zur Transparenz erfüllen. Dies umfasst die Einhaltung von EU-Urheberrechten und die Veröffentlichung einer detaillierten Zusammenfassung der Inhalte, die für das Training der KI verwendet wurden. Stärkere und komplexere KI in Risikobereichen, unterliegen weiteren Anforderungen, wie z. B. der Bewertung, Beurteilung und der Reduzierung von Risiken und dem Melden von Vorfällen. Zukünftig sollen Werke aus generativer KI wie zum Beispiel Bilder, Videos oder Texte, auch als solche klassifiziert und erkenntlich gemacht werden.

Der wichtigste Grundstein ist gelegt und ein bedeutsamer Weg im Umgang mit KI wurde eingeschlagen. Der Beschluss muss noch in die rechtliche Sprache übersetzt werden und dem ganzen muss noch formell zugestimmt werden. Die Verordnung tritt am 20. Tag nach der Veröffentlichung im EU-Amtsblatt in Kraft und je nach Wichtigkeit und Dringlichkeit finden die Erlasse innerhalb sechs und 24 Monaten Anwendung.

Unser Fazit:

Der EU AI Act legt einen wichtigen Grundstein für das Produkt „KI“, ist aber in vielen Punkten noch sehr unkonkret. Wir rechnen mit weiteren Änderungen und dem Ausbau der Gesetze. Es ist fraglich, ob diese bei der Entwicklung von KI mithalten können. Es ist nur zu hoffen, das mit der KI bewusst umgegangen wird.

Ihr benötigt Unterstützung in IT-Sicherheit oder in anderen Bereichen der IT? Wir von der BLUVIT stehen euch mit Rat und Tat zur Seite, um euer Unternehmen vor Cyberkriminalität zu schützen. Bei Beratungs- und Umsetzungswünschen könnt ihr uns gerne ansprechen oder anrufen unter der Telefonnummer: 0561 9402 6666. Alternativ könnt ihr uns auch eine Mail an service@bluvit.de schreiben oder unser Kontaktformular unserer Homepage benutzen.