Das Gesetz soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Die KI-Systeme sollen dabei von Menschen überwacht werden und nicht nur von anderen Technologien.
Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen demnach künftig strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden, heißt es im dpa-Bericht. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten („Social Scoring“), womit in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt werden.
Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Ausnahmen gelten allerdings für die Polizei und andere Sicherheitsbehörden, die solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU.
„Der „AI Act“ ist das weltweit erste umfassende Gesetzespaket für KI“, heißt es im Bericht. „Die meisten Staaten haben bislang vor allem Verordnungen und Dekrete erlassen. Das Regelwerk könnte zu einem Vorbild für die KI-Regulierung werden. Es wäre eine Alternative zu den eher lockeren Regeln der USA und den restriktiveren Auflagen Chinas.“
„Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären“, zitiert die Nachrichtenagentur Bundesdigitalminister Volker Wissing. „Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern.“
