Loi sur l’IA : le gouvernement fédéral dénonce la surveillance basée sur l’IA

La reconnaissance faciale biométrique dans la vie publique est déjà une pratique courante dans des pays comme la Chine. L’UE souhaite également fixer des règles pour l’intelligence artificielle correspondante. Après tout, nous ne pourrons probablement pas éviter à long terme de telles solutions dans nos propres pays. Pour garantir qu’ils ne soient pas utilisés sans limites, des lois appropriées doivent être initiées. Le gouvernement allemand exerce un certain effet de frein en faveur de la protection des données. De l'avis des ministres fédéraux et de la chancelière, la surveillance biométrique ne devrait pas exister, du moins pas en Allemagne.

Identification biométrique à distance pas en Allemagne

Avec le règlement européen sur l’intelligence artificielle, la Commission et le Parlement de l’Union européenne souhaitent fixer des normes strictes pour les États membres. Les négociations jusqu'à présent ont été débattues la semaine dernière au sein de la commission numérique du Bundestag. Il est apparu que l’Allemagne avait des problèmes avec une réglementation en particulier. De l'avis de l'Allemagne, la reconnaissance faciale et d'autres méthodes de reconnaissance biométrique ne devraient pas être autorisées. Selon Christian Meyer-Seitz, du ministère fédéral de la Justice, l'Allemagne « ne permettra pas » que ces méthodes soient utilisées dans la poursuite d'infractions pénales.

L'UE veut accorder la liberté de choix

Un examen du premier projet de la Commission européenne révèle que l'état actuel des négociations au sein de l'organisme européen laisse la liberté de choix. En conséquence, tous les États membres doivent pouvoir décider eux-mêmes d'autoriser ou non la surveillance vidéo biométrique dans les lieux publics. Cet éventuel règlement facultatif garantit donc qu’il y aura des membres de l’UE avec et sans une telle surveillance dans les espaces publics. Il est toutefois clair qu'une telle identification à distance ne peut être autorisée que dans des cas exceptionnels. Il peut notamment être utilisé en cas d'attentats terroristes imminents ou dans la recherche de grands criminels recherchés dans toute l'Europe. Le droit national de l'État membre concerné devrait en fin de compte préciser quelles conditions doivent être remplies en particulier.

Légalement impensable en Allemagne

Un examen de l'accord de coalition de la coalition des feux tricolores actuellement au pouvoir montre clairement qu'une surveillance aussi étendue est impensable dans notre pays.

« Nous nous appuyons sur une approche basée sur les risques à plusieurs niveaux, protégeons les droits civils numériques, en particulier l’absence de discrimination, définissons des règles de responsabilité et évitons les réglementations ex ante qui entravent l’innovation. La reconnaissance biométrique dans les espaces publics ainsi que les systèmes de notation gouvernementaux automatisés via l’IA doivent être exclus en vertu du droit européen.

Il n’y a tout simplement aucune base légale pour cela. Néanmoins, l’Allemagne se voit bien entendu dans l’obligation de participer à ce que l’on appelle la loi sur l’IA. Enfin, on peut ainsi garantir que l'utilisation de techniques appropriées ne dérive pas vers le sans rivage. Il ne faut toutefois pas surestimer l’influence du gouvernement allemand. Après tout, elle ne peut pas simplement garantir que ces technologies soient interdites dans toute l’UE.

La Chine est considérée comme un exemple négatif

Bien entendu, de nombreux responsables politiques européens craignent désormais que des États de surveillance ne se forment au sein de l’Union européenne, en utilisant la loi sur l’IA comme modèle et justification. C’est pourquoi les Verts demandent également que soient tracées d’urgence des lignes rouges. La commissaire du gouvernement fédéral chargée de l'économie numérique et des startups, Anna Christmann (Verts), a notamment clairement indiqué que l'évaluation sociale en particulier devrait être un signal d'alarme. Cette procédure est familière en Chine.

Ici, une surveillance vidéo complète comprenant des analyses biométriques est désormais mise en place dans presque toutes les grandes villes de plus d'un million d'habitants. Le comportement de la population est méticuleusement documenté et enregistré dans le cadre du scoring social. Même si un comportement bénéfique est récompensé par des points supplémentaires, des points sont déduits en cas de mauvaise conduite. Chaque résident reçoit un score lié à son bénéfice social. Il est alors plus facile, par exemple, de trouver un nouvel appartement en location.

La régulation du KI est importante

Même si l'Allemagne elle-même n'introduira pas de vidéosurveillance biométrique basée sur l'IA, le gouvernement salue néanmoins la réussite de la Commission européenne. Meyer-Seitz, du ministère fédéral de la Justice, s'appuie notamment sur les dispositions générales de la loi sur l'IA. Mais il existe également des suggestions d’améliorations possibles. L'expert juridique estime notamment que le règlement devrait inclure un chapitre distinct sur les pouvoirs des autorités de sécurité. À l’aide de différentes gradations, il serait également possible de s’adapter à différentes intentions, pour ainsi dire.

Certes, les menaces contre la sécurité d'un pays ne devraient pas valoir moins que, par exemple, un simple recensement ou même des demandes de particuliers ou d'entreprises. Cela a du sens, bien sûr, si l’on tient compte de la pratique. En particulier, la police et les services de renseignement devraient disposer de davantage de pouvoirs pour protéger la sécurité publique.

« que si quelqu'un surveillait sa propriété privée avec l'IA »

dit Meyer-Seitz.

Il y a encore beaucoup à faire

Les thèmes de la surveillance et de l’intelligence artificielle sont deux domaines très controversés. Pour beaucoup de gens, ces phénomènes sont bien trop éloignés de la vie quotidienne pour qu’ils puissent même commencer à en comprendre les implications. Le domaine technologique étant en constante évolution, les réglementations doivent ici être élaborées avec prudence et surtout prévoyance. Dans le domaine de l’intelligence artificielle en particulier, il est aujourd’hui quasiment impossible de prédire où l’avenir nous mènera. C’est pourquoi la loi sur l’IA doit également être considérablement améliorée, notamment dans le premier domaine, selon Meyer-Seitz. La protection juridique joue notamment un rôle majeur pour les Allemands. Meyer-Seitz estime par exemple que les droits des personnes concernées d'obtenir des informations doivent encore être considérablement élargis.

Le besoin de réglementation est élevé

La déclaration du gouvernement allemand jouera un rôle majeur dans la conception future de la Commission européenne. L'ampleur du besoin de réglementation du point de vue du gouvernement apparaît clairement dans la classification. Parmi les quatre groupes de risque différents, à savoir « inacceptable », « élevé », « faible » et « minimal », le gouvernement souhaite attribuer à la loi sur l'IA la valeur « élevé ». Cela signifie que l’UE aura probablement du pain sur la planche en matière de réglementation. Comme l'expérience montre qu'il faut beaucoup de temps pour finaliser les réglementations correspondantes, nous nous attendons à une longue période d'attente, qui sera remplie de nombreuses autres discussions. Toutefois, étant donné qu’il s’agit d’un sujet important en matière de protection des données, il est extrêmement important d’en discuter jusqu’au bout.