Verordnungsentwurf der EU Kommission zum Umgang mit der künstlichen Intelligenz

Die EU-Kommission hat Ihren Vorschlag zur Regulierung der künstlichen Intelligenz am 21.04.2021 veröffentlicht.

Der Gesetzesvorschlag soll die Bürgerrechte und die Innovationskraft dieser Technologie in ein Gleichgewicht bringen. Grundsätzlich soll es -wie im Datenschutz- so sein, dass ein Verbot mit Erlaubnisvorbehalt gelten soll.

Schon heute ist künstliche Intelligenz permanent im Einsatz. Google und Facebook nutzen Algorithmen, Kameras optimieren Aufnahmen während des Erstellens des Lichtbildes. Anbieter durchforsten öffentlich zugängliche Internetseiten, speichern die dort vorhanden Gesichter in Ihren Datenbanken und bieten Nutzern (Ermittlungsbehörden, Handelsketten) die Recherche bei vorhandenem Vergleichsmaterial (bspw. Clearview AI) gegen Entgelt an. Dieses Geschäftsmodell wird von diversen Datenschutzaufsichtsbehörden stark kritisiert (Hamburg, keine Rechtsgrundlage, Aufforderung zur Löschung; Kanada, illegale Massenüberwachung). Die Software kommt in Europa bereits zum Einsatz.

Die EU-Kommission beabsichtigt, den Anwendungsbereich der Verordnung und damit die Regulierung auf besonders sensible Bereiche zu beschränken. Die Kreditwürdigkeit, die Justiz, die Robotik im medizinischen Bereich, die Strafverfolgung und die Bewerbung werden benannt.

Die Gesichtserkennung auf große Entfernung soll nur in Ausnahmefällen zulässig sein. Als Beispiele werden die Suche nach einem vermissten Kind, die Vereitelung eines terroristischen Anschlag oder das Aufspüren einer schweren Straftat verdächtigen Person benannt. Gewährleistet werden soll die dann unter Auflagen zulässige Überwachung durch einen “Richtervorbehalt”. Die Zustimmung durch die Justiz soll räumlich, zeitlich und sachlich für den Zugriff auf die Datenbank erfolgen.

Nichtsensible Bereiche, wie bspw. Chatbots oder Nachrichtendienste, müssen nach dem Entwurf lediglich den Hinweis an den Nutzer erteilen, dass er sich mit einem Computer unterhält.

Wie schon aus dem Datenschutz bekannt, wird ein KI-Management und eine Überwachung durch einen Menschen (KI-B) vom Unternehmen erwartet und bei einem Verstoß gegen die Verordnung sollen die Aufsichtsbehörden Geldbußen von bis zu 6% des weltweiten Umsatzes verhängen können.

Bevor die Verordnung endgültig verabschiedet wird, werden sich noch das Parlament und der EU-Rat mit der Vorlage auseinandersetzen. Es ist denkbar, dass in einigen Monaten die Verordnung verabschiedet wird und dann nach einem Zeitraum von zwei Jahren unmittelbar Geltung erlangt.

Thilo Zachow

Referent für Datenschutz beim vdw Sachsen

Rechtsanwalt

Fachanwalt für Informationstechnologierecht

Fachanwalt für Urheber- und Medienrecht

Datenschutzbeauftragter (TÜV zertifiziert)

Informationssicherheitsbeauftragter (bitkom zertifiziert)