{"id":5176,"date":"2023-06-15T00:15:34","date_gmt":"2023-06-14T22:15:34","guid":{"rendered":"https:\/\/launix.de\/launix\/?p=5176"},"modified":"2023-06-15T00:15:34","modified_gmt":"2023-06-14T22:15:34","slug":"eu-reguliert-ki-diese-anwendungen-sind-betroffen","status":"publish","type":"post","link":"https:\/\/launix.de\/launix\/eu-reguliert-ki-diese-anwendungen-sind-betroffen\/","title":{"rendered":"EU reguliert KI: Diese Anwendungen sind betroffen"},"content":{"rendered":"\n

Die europ\u00e4ische Kommission hat einen Gesetzesentwurf vorgelegt, der eine Regulierung der KI zum Gegenstand hat. Dieses Gesetz wurde am 14.06.2023 beschlossen und ist damit das weltweit erste KI-Gesetz<\/strong>.<\/p>\n\n\n\n\n\n\n\n

Festgelegt werden dabei sogenannte “Hochrisiko-KI-Systeme”, sprich: KI-Systeme, f\u00fcr die besondere Regularien gelten bzw. die reguliert oder gar verboten werden.<\/p>\n\n\n\n

\n

Gesichtserkennung zur \u00dcberwachung kennen wir aus China, diese Anwendung von Technologie hat in einer liberalen Demokratie nichts zu suchen<\/p>\nEU-Abgeordnete Svenja Hahn (FDP).<\/cite><\/blockquote>\n\n\n\n

Ziel des Gesetzes ist also vor allem der Schutz des B\u00fcrgers. Mit dem Inkrafttreten des Gesetzes rechnet man ca. 2026.<\/p>\n\n\n\n

Wen betrifft das Gesetz?<\/h2>\n\n\n\n

Einige Akteure k\u00f6nnen nicht mehr tun und lassen, was sie wollen. Darunter z\u00e4hlen unter anderem:<\/p>\n\n\n\n

    \n
  • Grenz- und Asylbeh\u00f6rden<\/li>\n\n\n\n
  • Kommunen und Unternehmen, die Video\u00fcberwachung vornehmen<\/li>\n\n\n\n
  • Schufa und andere Kreditw\u00fcrdigkeitspr\u00fcfer<\/li>\n\n\n\n
  • Strafverfolgungsbeh\u00f6rden<\/li>\n\n\n\n
  • Personal-Entscheider (z.B. bei Bewerbungs- und Einstellungsverfahren oder bei K\u00fcndigungen)<\/li>\n\n\n\n
  • Bildungssektor<\/li>\n\n\n\n
  • Sozialleistungen<\/li>\n<\/ul>\n\n\n\n

    Was wurde verboten?<\/h2>\n\n\n\n

    Solche KI-Systeme sind verboten, die Werte der Europ\u00e4ischen Union oder Grundrechte verletzen. Die Verbote gelten f\u00fcr Praktiken, die ein erhebliches Potenzial haben, Personen zu manipulieren, indem sie auf Techniken zur unterschwelligen Beeinflussung zur\u00fcckgreifen, die von diesen Personen nicht bewusst wahrgenommen werden, oder die die Schw\u00e4chen bestimmter schutzbed\u00fcrftiger Gruppen wie Kinder oder Personen mit Behinderungen ausnutzen, um deren Verhalten massiv so zu beeinflussen, dass sie selbst oder eine andere Person psychisch oder physisch gesch\u00e4digt werden k\u00f6nnten. <\/p>\n\n\n\n

    Andere manipulative oder ausbeuterische Praktiken, die Erwachsene betreffen und m\u00f6glicherweise durch KI-Systeme erleichtert werden, k\u00f6nnten unter die bestehenden Rechtsvorschriften f\u00fcr den Datenschutz, Verbraucherschutz und digitale Dienste fallen, auf deren Grundlage nat\u00fcrliche Personen Anspruch auf angemessene Informationen haben und es ihnen freisteht, Profiling- oder andere Praktiken, die Einfluss auf ihr Verhalten haben k\u00f6nnten, abzulehnen. <\/p>\n\n\n\n

    Der Vorschlag sieht auch vor, die Bewertung des sozialen Verhaltens f\u00fcr allgemeine Zwecke mithilfe von KI durch \u00f6ffentliche Beh\u00f6rden (\u201eSocial Scoring\u201c) zu verbieten. Schlie\u00dflich soll der Einsatz von biometrischen Echtzeit-Fernidentifizierungssystemen in \u00f6ffentlich zug\u00e4nglichen R\u00e4umen f\u00fcr die Zwecke der Strafverfolgung bis auf wenige Ausnahmen verboten werden.<\/p>\n\n\n\n

    Wie wird das Gesetz durchgesetzt?<\/h2>\n\n\n\n

    Wer in den Bereich der Hochrisiko-KI-Systeme f\u00e4llt, muss sich Qualit\u00e4ts-Audits unterwerfen, in denen regelm\u00e4\u00dfig gepr\u00fcft wird, ob verbotene Praktiken angewendet werden. Erkannte illegale Praktiken werden dann ger\u00fcgt, sowie eine \u00c4nderung der Abl\u00e4ufe erzwungen. <\/p>\n\n\n\n

    Au\u00dferdem werden Akteuren gewisse Transparenzpflichten auferlegt. So m\u00fcssen z.B. Deepfakes (z.B. ein gef\u00e4lschtes Bild vom Papst) als solches kenntlich gemacht werden.<\/p>\n\n\n\n

    Anbieter von KI-Systemen d\u00fcrfen verbotene KI-Systeme auch nicht in Verkehr bringen, d.h. die KI-Modelle weder ausliefern noch API-Services darauf basierend anbieten. Die Regulierung geht sogar so weit, dass in Verkehr gebrachte verbotene KI-Systeme zur\u00fcckgerufen werden m\u00fcssen.<\/p>\n\n\n\n

    Interessant ist, dass milit\u00e4rische Systeme von dem Gesetz ausgenommen sind. F\u00fcr kriegsentscheidende KI-Technologie gilt also gem\u00e4\u00df Titel I Art. 2 Abs. 3 weiterhin Freie Fahrt.<\/p>\n\n\n\n

    Welche KI-Systeme werden genau reguliert?<\/h2>\n\n\n\n

    Die vollst\u00e4ndige Liste der Hochrisiko-KI-Systeme lautet wie folgt (Auszug aus dem EU-KI-Gesetz<\/a>):<\/p>\n\n\n\n