Ro­bo­tique / In­tel­li­gence ar­ti­fi­cielle (IA), un risque émer­gent

Contexte

Les machines autonomes auto-apprenantes sont de plus en plus nombreuses à être utilisées dans l’industrie (production et système de stockage automatisés, etc.) et dans le secteur de la santé (chirurgie robotique, robot d’assistance et de services). Il faut également s’attendre à ce que les robots envahissent de plus en plus la sphère privée (par ex. jouets pour les enfants). Un robot défectueux peut provoquer des dommages corporels et matériels.

Description du risque

La robotique englobe des pans de l'informatique, de l'électrotechnique et de la construction mécanique et est également utilisée comme terme générique pour l'Internet des objets (IdO ; Internet of things, IoT) ainsi que pour la mobilité autonome (par exemple voitures, trains, bateaux, avions / drones).

L'intelligence artificielle (IA) est déjà utilisée pour de nombreuses applications par des entreprises privées et, de plus en plus, par les pouvoirs publics, et elle est devenue incontournable dans notre monde d’aujourd’hui. L'IA est ainsi utilisée dans les systèmes de reconnaissances vocale et faciale, les moteurs de recherche, les logiciels d'analyse d'images, les assistants virtuels, les applications de l'Internet des objets, la mobilité autonome, etc.

Les machines autonomes auto-apprenantes sont de plus en plus nombreuses à être utilisées dans l’industrie (par exemple production et système de stockage automatisés) et dans le secteur de la santé (par exemple chirurgie robotique, robot d’assistance et de services). L'utilisation de robots industriels est un phénomène bien connu dans le cadre de processus répétitifs relevant de l'automatisation, comme dans la fabrication automobile.

La pénurie de personnel soignant dans les hôpitaux et les maisons de retraite entraîne un débat mondial sur la question de savoir dans quelle mesure les robots soigneurs et les robots auxiliaires peuvent être utilisés pour accomplir des tâches routinières. Les robots sont capables d'accompagner les patients aux examens, de porter leurs affaires, de distribuer de la nourriture et des médicaments, de bavarder et de discuter ou, plus généralement, de les aider à passer le temps. Dans les pays férus de nouvelles technologies, de tels robots sont déjà utilisés, comme le montrent des exemples en provenance du Japon et de la Chine. Il faut également s’attendre à ce que les robots envahissent de plus en plus la sphère privée (par exemple aspirateurs ou ton-deuses robots).

 

Perception du risque

Les effets négatifs potentiels de cette évolution font l'objet de discussions dans les milieux scientifiques et juridiques. Il s'agit notamment de savoir dans quelle mesure la législation en vigueur en matière de protection des données, de sécurité des produits et de responsabilité du fait des produits tient suffisamment compte de ces évolutions.

 

Pertinence en matière de responsabilité civile

Un robot défectueux peut provoquer des dommages corporels et matériels. De tels dommages relèvent de la législation portant sur la responsabilité civile liée aux produits ainsi que des dispositions générales de responsabilité civile. La question qui se pose ici est notamment celle de savoir qui doit répondre finalement de la faute. Est-ce le détenteur / propriétaire du robot, par analogie avec la responsabilité civile des détenteurs d'animaux ou de véhicules à moteur ? Est-ce le fabricant final du robot dans lequel le logiciel est intégré ou est-ce le programmeur du logiciel défectueux ? Le robot doit-il être doté d'une personnalité juridique propre et, en tant que tel, voir sa responsabilité engagée de manière autonome (en tant que personne électronique en complément de personnes physiques et morales) ? Ces questions font l'objet d'intenses discussions au sein du Parlement européen et de la Commission européenne. L'extension de la directive sur la responsabilité du fait des produits est également à l'ordre du jour, afin de mieux protéger les consommateurs. Par ailleurs, l'introduction d'une assurance responsabilité civile obligatoire pour les produits défectueux est en discussion.

 

Pertinence en matière d’assurance de la responsabilité civile

L'assurance responsabilité civile d'entreprise et l'assurance responsabilité civile produit du fabricant offrent une couverture d'assurance si un robot défectueux (par exemple, une erreur de programmation dans le logiciel d'IA) provoque des dommages corporels ou matériels. Est également couverte la responsabilité civile légale du détenteur du robot, ainsi que celle des exploitants des systèmes requis par les systèmes autonomes, tels que les systèmes de navigation ou de télécommunication. L'assurance responsabilité civile pro-fessionnelle des développeurs de logiciels couvre les prétentions en responsabilité civile à la suite de dommages (corporels et matériels) que le robot a causés à des tiers du fait d'une programmation erronée, ainsi qu’à la suite des dommages (dommages matériels / pécuniaires) causés aux robots eux-mêmes fabriqués par des tiers. De même, des erreurs de programmation dans des solutions et applications numériques reposant sur l'intelligence artificielle (par exemple recrutement de personnel, conseil juridique numérique, dispositifs de commande de machines et de véhicules) peuvent entraîner des dommages corporels et matériels classiques ainsi que des dommages économiques purs (dommages pécuniaires).

 

Horizon temporel pour les prétentions assurées

Comme les robots et l'intelligence artificielle vont de plus en plus faire partie de notre vie quotidienne et prendront en charge différentes tâches / procédures, il faut s’attendre à voir se multiplier les élévations de prétentions pour dommages corporels, matériels et, s’ils sont assurés, pour dommages économiques purs (dommages pécuniaires). Quant à savoir quels seront les produits d'assurance responsabilité civile concernés, cela dépendra de l'allocation future des prétentions en responsabilité civile. Entrent par exemple en ligne de compte le propriétaire, le détenteur ou l'utilisateur du robot, le fabricant du robot ou un sous-traitant, le développeur de logiciels, le fabricant de produits défectueux fabriqués avec le robot (impression 3D) ou encore un opérateur de système (par exemple une entreprise de télécommunications).

Définition «risques émergents»

Les nouvelles technologies et l’évolution de la société moderne sont porteuses de nouvelles opportunités, mais aussi de nouveaux risques. Ces risques d’un nouveau genre concernent notre vie future. Du fait de leur évolution dynamique, ils sont difficiles à identifier et à évaluer; c’est ce que l’on appelle les risques émergents. La notion de «risques émergents» n’est pas définie de manière uniforme. En assurance, elle désigne habituellement les risques possiblement susceptibles de survenir dans le futur et affichant une potentialité de sinistres élevée.