La DMIA va élaborer et déployer une famille de critères pour la conception et l’évaluation des algorithmes et des jeux de données : performance, sécurité juridique, transparence, explicabilité, plus-value sociétale, élimination des biais, en particulier les risques de discrimination… Réduire l’impact environnemental et la consommation énergétique fait également partie des objectifs prioritaires, ainsi que le préconise la Commission Européenne.

Principes IA -EU
Les 7 principes éthiques retenus par la Commission Européenne

L’INTELLIGENCE ARTIFICIELLE EXPLICABLE (XAI)

En tant que premier vecteur de progrès attendu, l’Intelligence Artificielle Explicable ou XAI (« Explainable Artificial Intelligence ») constitue la prochaine grande étape du développement des techniques d’apprentissage automatique. L’XAI va permettre de dissiper le brouillard algorithmique qui opacifie le mode de fonctionnement de nombreuses plateformes d’apprentissage automatique. Ouvrant la voie à la traçabilité et à l’explicabilité d’un résultat produit par un composant ML, l’XAI répond aux problématiques rencontrées dans des domaines aussi variés que le transport, la sécurité, le secteur militaire – défense, la médecine, la finance ou le juridique…
Notons que l’explicabilité existe déjà par construction sur certaines architectures (arbres de décisions, classifieur « random forest »). Le défi est de doter tous les dispositifs ML de capacités d’explicabilité by design, parfois par ajout de nouvelles composantes ou fonctionnalités de traçage.
En utilisant une plateforme XAI, l’utilisateur doit obtenir les réponses du système aux six règles d’explicabilité :

R1 : Je comprends pourquoi tu fais cela
R2 : Je comprends pourquoi tu ne fais pas cela
R3 : Je sais quand tu réussis
R4 : Je sais quand tu échoues
R5 : Je sais quand te faire confiance
R6 : Je sais pourquoi tu as fait fausse route

Favoriser le développement de plateformes d’IA explicable répond à trois exigences qui vont conditionner leur déploiement massif et leur adoption par l’utilisateur.

L’exigence de sécurité : l’utilisateur souhaite utiliser un outil qui ne soit pas détourné de ses fonctionnalités légitimes et qui préserve la sécurité de ses données personnelles.

L’exigence de confiance : l’utilisateur doit pouvoir accorder sa confiance à la plateforme, aux fonctions calculées et aux données de sortie qu’elle fournit.

L’exigence d’éthique : l’utilisateur attend d’une plateforme qu’elle assure un fonctionnement éthique et qu’elle s’interdise tout biais d’apprentissage
Le développement d’IA explicables marque une rupture importante dans l’histoire de l’intelligence artificielle. En répondant aux attentes de l’utilisateur, l’XAI participe à l’intégration de l’apprentissage automatique en garantissant une forte lisibilité du mode de fonctionnement des plateformes. L’explicabilité engendre la confiance et permet d’éviter les biais analytiques. Elle favorise la sécurité et l’avènement d’IA éthiques, compatibles avec l’expertise humaine.

LeMagIT

Local Surrogate (LIME)

strategie

POUR ALLER PLUS LOIN :

Le concept de « jumeau numérique » peut bénéficier d’avancées en IA et des objets connectés
Le jumeau numérique est une modélisation logicielle dynamique d’un objet physique. Autrement dit, c’est une réplique numérique qui d’un objet ou d’une personne qui peut se traduire par la réalisation d’une simple représentation à un modèle 3D plus sophistiqué qui, en plus d’agréger des données fournies par des capteurs, peut prendre des décisions algorithmiques. Cela permet une représentation par exemple de l’état d’un objet, sa position dans l’espace, au moyen d’information d’emplacement, de température, de séries chronologiques, d’algorithmes, etc.

Il est parfois fait une distinction entre ce qu’il est convenu d’appeler une approche ascendante et une approche descendante :

• Approche ascendante : à partir des données relevées par les capteurs, des modèles de prédiction sont construits grâce à l’IA selon des techniques notamment de machine learning, et de deep learning ;

• Approche descendante : cette approche être assimilée à la seconde génération de jumeaux numériques. Ces derniers intègrent des équations issues de la physique et sont agrémentés de mesures pour prédire des configurations, des comportements, des failles de sécurité, etc.

Les jumeaux numériques s’inscrivent dans le champ de l’Internet des Objets (IdO), Internet of Things (IoT). Pour produire un jumeau numérique, il est nécessaire de disposer d’un outil de modélisation en 3D de l’ensemble à étudier, et du détail de ses composants ; de l’ensemble des caractéristiques techniques des matériaux utilisés et dans le meilleur des cas de données collectées en direct par des capteurs (température, pression, vibrations, etc.).

Contrairement à l’Internet of Things consacré aux applications industrielles qui récoltent les données, le jumeau numérique repositionne les données obtenues dans l’environnement de l’ensemble étudié, et évolue en temps réel dans les mêmes conditions que l’objet physique. Il est également possible que plusieurs jumeaux numériques du même type soient mis en réseau pour obtenir une analyse plus fine.

D’abord développé principalement dans le domaine de l’aéronautique et de la défense en raison des forts coûts et des difficultés d’accès à cette technologie, les applications des jumeaux numériques se sont assez largement étendues à plusieurs secteurs d’activité.
Ils sont notamment utilisés pour faire de la maintenance prédictive de machines ou de réseaux d’infrastructure (anticipation de pannes, maintenance équipement, scénario d’exploitation, etc.).

Cette technologie est par exemple utilisée par SUEZ ENVIRONNEMENT pour détecter des fuites sur son réseau d’eau.

La visualisation progressive de la construction d’un objet sur son modèle numérique offre l’intérêt de comparer en temps réel ce développement avec la cible finale, pour s’assurer de son bon déroulement et faire les bons choix en matière d’ergonomie, de matière, de design. Par exemple, l’entreprise Safran Aircraft Engines équipe ses moteurs de nouveaux capteurs qui permettent tout d’abord d’optimiser ses moteurs en les testant virtuellement, mais également de vérifier à distance leur performance grâce aux relevés continus des performances du moteur (la température, vitesse de rotation, les conditions météorologiques dans lesquelles évolue le moteur, etc.).

Le concept de jumeau numérique est en phase de s’étendre à la modélisation d’une ville entière. C’est notamment l’idée du projet porté par la ville et la métropole de Rennes, ainsi que Dassault Systèmes qui cherchent à combiner modélisation 3D (bâtiments, voiries…) de la ville en enrichissant le modèle par un ensemble de données variées (énergie, démographie, végétation, …), pour in fine disposer d’une capacité de tester un certain nombre de scénarios de développement de la ville (impact de construction d’un nouveau bâtiment, gestion de la voirie, etc.).

Le véhicule autonome mise massivement sur les capteurs et les traitements IA embarqués

Aujourd’hui, les véhicules connectés sont déjà présents sur le marché mondial de l’automobile, ce sont notamment les véhicules qui proposent un système d’aide à la conduite (la correction de trajectoire, le freinage ABS, la détection de piéton, etc.) mais le conducteur de la voiture reste maître de la situation. Pour certains d’entre eux, des caméras sont combinées à des capacités en machine learning et permettent d’enclencher un « freinage automatique d’urgence », de réaliser des créneaux, etc. Le degré d’automatisation peut alors varier en fonction des fonctionnalités présentes dans le véhicule, mais l’intervention du conducteur est toujours plus ou moins requise suivant les différentes situations qui se présentent à la lui.

En ce qui concerne les véhicules dits autonomes, il est important de noter que malgré les avancées techniques considérables de ces dernières années, celles-ci font toujours l’objet d’expérimentation par des acteurs comme Waymo, Uber, Tesla, le groupe Renault, PSA, etc., sans pour autant que leur arrivée prochaine sur nos routes soit envisageable. En effet, développer un système autonome de conduite revient à créer un système capable de prendre des décisions tout seul alors que la plupart du temps, l’IA est seulement un outil d’assistance ou d’aide à la décision.

Au-delà d’une simple assistance, le véhicule autonome requiert une superposition de différentes technologies pour être pertinent : des capteurs comme les technologies lidar (Light detection and ranging ou détection et estimation de la distance par laser), des caméras, algorithmes, etc. L’utilisation de l’Intelligence Artificielle, et plus particulièrement de l’utilisation d’algorithmes de machine learning va permettre d’analyser les informations fournies par un capteur et fusionner l’ensemble des informations dans une représentation plausible de l’environnement. Sur le fondement de cette représentation de la situation, le véhicule va décider de la manœuvre à réaliser : freiner, dépasser, laisser passer un autre véhicule, etc. L’IA peut ici encore intervenir dans cette étape, mais le caractère sensible de la décision entraine le fait que le véhicule est toujours utilisé sous le contrôle de techniques plus classiques qui permettent de rendre plus prévisible le comportement du système. A côté de la perception et de la prise de décision du véhicule, l’IA peut également servir dans d’autres fonctions embarquées comme notamment de proposer une conduite déléguée dans certaines situations comme sur l’autoroute ou dans les embouteillages par exemple.

Malgré ces avancées, l’agencement des technologies nécessaires au bon fonctionnement des véhicules autonomes est aujourd’hui peu mature et l’ensemble des défis posés par les véhicules autonomes sont loin d’être réglés : compréhension exacte par le système de la situation à laquelle il est confronté, une variété considérable de situation à prendre en compte, la cohabitation avec des véhicules non-autonomes, le caractère éthique des décisions prises, etc. Les développeurs de telles solutions ont donc encore de longues journées de travail devant eux avant que l’utilisation de ces véhicules ne soit propulsée sur le devant de la scène du grand public.