Actuellement, une grande partie de la population connaît déjà les systèmes de reconnaissance vocale, dans lesquels la percée et l’acceptation sont depuis longtemps réussies. Parallèlement, l’intelligence artificielle est utilisée dans des domaines de plus en plus critiques en matière de sécurité ou met en danger les droits fondamentaux des citoyens. Selon un sondage représentatif de l’association TÜV, 80 % des citoyens interrogés demandent un label de contrôle délivré par un organisme indépendant.
Sommaire
heise meets… Le podcast des décideurs
heise meets…. Le talk des décideurs – par des décideurs pour des décideurs – toujours actuel et proche de l’actualité.
Vous pouvez nous écouter sur tous les canaux de podcast.
Choisissez votre canal.
sur heise meets
chez Apple Podcasts
sur Google Podcasts
sur Spotify
sur Deezer
chez Pocket Casts
comme flux RSS
La confiance dans les appareils basés sur l’IA ne peut être établie que s’il existe un sentiment de sécurité dans la population, a expliqué le Dr Dirk Stenkamp. Pour cela, des procédures standardisées sont nécessaires. « A l’avenir, le fait d’avoir été soumis à des schémas de contrôle et à des certifications sera également un critère de qualité pour l’intelligence artificielle », a déclaré le président du conseil d’administration du TÜV Nord Group. En outre, les certifications correspondantes pourraient également influencer les décisions d’achat des clients.
Dr Dirk Stenkamp, président du conseil d’administration de TÜV Nord AG, déclare : « Nous sommes à l’aube d’une nouvelle ère. L’IA prend en charge des tâches plus rapidement et avec moins d’erreurs que les humains ne pourraient le faire ».
Selon Stenkamp, il faut toujours veiller à ce que les dispositifs basés sur l’IA respectent les principes éthiques et soient non discriminatoires. Dès les données d’entraînement pour les algorithmes, il faut veiller à ce que l’algorithme soit également adapté à l’application. Il existe des algorithmes très « décisionnels ». Mais au final, des décisions modérées doivent être prises. « Une question centrale sera : Est-ce que je me sens en sécurité et en de bonnes mains en tant qu’être humain avec mes valeurs ? », explique Stenkamp.
Il existe déjà des réglementations européennes dans certains domaines
Il existe certes déjà des procédures de contrôle, qui sont d’ailleurs déjà partiellement standardisées. « Mais il n’y a pas encore de base légale indiquant comment et par qui les contrôles doivent être effectués ». Au niveau de l’UE, un livre blanc publié en février 2020 prévoyait une réglementation à l’échelle européenne. Actuellement, un « AI (Artificial Intelligence) Act » est en discussion au Parlement européen, élaboré par la Commission européenne. Ce projet distingue différentes catégories de risques, a expliqué Stenkamp. Il a estimé qu’il serait judicieux d’y inclure des classes de risques dans lesquelles les certifications par des prestataires de services de contrôle externes seraient obligatoires.
Lire aussi
Règles de l’UE en matière d’IA : le gouvernement fédéral s’oppose à la surveillance biométrique
Dans certains cas d’application, comme par exemple la conduite semi-autonome ou les assistants de voies basés sur l’IA, il existe déjà aujourd’hui certaines réglementations dans lesquelles des étapes de vérification sont prescrites. Dans ce cas, le droit européen est déjà en application. Néanmoins, seul l’AI-Act européen apportera une structure juridique contraignante que les pays devront ensuite transposer dans leurs systèmes nationaux. Cela concernera également les produits importés de l’étranger. Mais selon Stenkamp, de nombreuses entreprises font déjà certifier leurs produits sur une base volontaire, car cela augmente considérablement la confiance des consommateurs dans les produits.
Le contrôle technique des voitures reste nécessaire
L’intelligence artificielle ne rendra pas le contrôle technique des voitures superflu à l’avenir. Déjà lors de l’introduction de la voiture électrique, la question de l’avenir du contrôle technique avait été discutée, a rappelé Stenkamp. « Il est intéressant de constater que le nombre de points de contrôle a même augmenté avec l’électromobilité. Au lieu d’un système d’échappement, il y a maintenant par exemple des contrôles sur la batterie ». Stenkamp a parlé d’une transformation vers un autre type de contrôle.
