AI Act, l’ambiguïté d’une règlementation trop large

L'actuariel // Le cercle // AI Act, l’ambiguïté d’une règlementation trop large

Intégrer les grandes mutations de la société est un principe partagé par les actuaires. En effet, ce métier a toujours poursuivi sa transformation en lien avec la réalité qui se joue, en intégrant dans ses pratiques les évolutions politiques, économiques, sociétales, technologiques, environnementales et réglementaires. À ce titre, l’Institut des actuaires a créé, il y a quelques années, la Commission Innovation afin d’y regrouper l’ensemble de groupes de travail dédiés à ces différentes évolutions (big data, blockchain, cyberrisque, éthique des algorithmes, intelligence artificielle et prospective). Mêlant sujets d’actualité et prospectifs, les membres de la commission cherchent à comprendre les tendances en développement afin de détecter les signes avant-coureurs à forts impacts potentiels, de les instruire dans une démarche collective et concertée, d’anticiper et d’alerter sur les conséquences possibles pour la profession. Dans ce contexte global, les discussions en cours sur la proposition d’une nouvelle règlementation européenne régissant le recours à l’intelligence artificielle (AI Act) sont une belle illustration des enjeux d’évolution technologiques et réglementaires de notre métier.

Cette règlementation donne de l’IA la définition suivante : un « système d’intelligence artificielle (système d’IA), [est] un système […] conçu pour fonctionner avec des éléments d’autonomie et qui, sur la base des données et des entrées générées par la machine et/ou par l’homme, déduit la manière d’atteindre un ensemble d’objectifs en faisant appel à des systèmes d’apprentissage automatique et/ou à des approches axées sur la logique et les connaissances, et produit des résultats tels que du contenu (systèmes d’IA générative), des prédictions, recommandations ou bien des décisions qui influencent l’environnement avec lequel le système interagit ». En plus de cette définition (relativement large), le projet de directive définit un ensemble de domaines d’application dits à « haut risque ». Cette définition propose d’inclure les modèles d’intelligence artificielle utilisés en assurance-vie/santé pour la tarification ou l’estimation du risque dans cette catégorie. Les différentes versions de travail de l’AI Act et, notamment, l’orientation générale donnée le 6 décembre 2022 par le Conseil européen ont transformé un texte à l’objet socialement nécessaire – afin de lutter contre les éventuelles atteintes aux droits fondamentaux et protéger les citoyens – en une réglementation potentiellement source de complexité pour le secteur de l’assurance. L’ambigüité de cette définition, qui lie le risque au modèle sans distinction de la donnée utilisée, pourrait conduire à classifier en « IA à haut risque » l’application de techniques usuelles sur des données peu sensibles (notamment l’application de techniques actuarielles). Si elle était confirmée, cette réglementation risquerait de freiner la capacité d’innovation des acteurs concernés, notamment en termes de prévention, de devoir de conseils et d’offres de services adaptées aux besoins des personnes. Elle pourrait avoir également des conséquences sur la compétitivité des assureurs européens face à la concurrence internationale. En plus, dans la proposition actuelle de la règlementation, les PME (SMEs ou Small and Medium-Sized Enterprises) ne seront pas sujets de cette contrainte règlementaire. Cette exonération, si elle est maintenue, serait paradoxale et offrirait des avantages à ces acteurs, voire une plus grande liberté à surfer sur les limites de la réglementation. Les échanges en cours avec nos pairs et au sein des différentes instances représentatives des acteurs du secteur, nous amènent à faire deux constats qui doivent nous alerter et susciter notre intérêt collectif pour le sujet.

Le premier constat, c’est la méconnaissance par beaucoup de nos pairs des conséquences potentiellement dommageables de cette règlementation, pour la chaîne de valeur de l’assurance, ses assurés, et le coût pour le secteur.

Le second constat, c’est l’hétérogénéité dans l’interprétation des impacts de cette future règlementation. Il y a, d’un côté, ceux qui ont une lecture prudente (et donc pessimiste) de cette définition et qui pensent qu’elle conduira à classifier les techniques actuarielles usuelles en « IA à haut risque ». Il y a, de l’autre côté, ceux qui pensent qu’il n’y aura aucun ou peu d’impact. Les plus optimistes pensent que la directive ne s’appliquera que pour les véritables modèles d’IA sans contrôle humain. Les modèles usuels ne seraient pas impactés et trouvent que la directive a le mérite de poser un cadre favorisant l’innovation et le développement de nouveaux modèles d’affaires.

Si la confirmation – ou l’infirmation – de la lecture prudente est clef pour la chaîne de valeur de l’assurance, la juste prise en compte de l’assurance semble un sujet complexe pour les colégislateurs. En effet, étant donné les types de données collectées par les organismes d’assurance ainsi que leur mission sociale, il semble logique que la réglementation souhaite poser un certain nombre de gardes-fous. Cependant, la directive se voulant transverse et non spécifique au secteur assurantiel, elle propose une réglementation générique et donc peu adaptée à notre domaine d’activité. Le respect de ces exigences se traduira par une inflation administrative forte, souvent redondante avec d’autres directives, impactant le coût de mise en œuvre et de maintien des systèmes d’IA. De telles exigences conduiront à décourager les acteurs traditionnels, risque et tarif en santé et vie à ce stade, de développer de nouveaux systèmes d’IA. S’agirait-il d’un signal fort du fait que le secteur est depuis plusieurs années soumis aux aléas d’évolutions règlementaires ? Un éventuel élargissement de périmètre sur le « haut risque » par la Commission freinera la capacité de développement commercial et d’innovation, ainsi que la compétitivité des acteurs de l’industrie assurantielle de l’UE.

Dans ce contexte, nous devons continuer à promouvoir la pédagogie auprès des décideurs et des différentes instances européennes. Notre rôle en tant qu’actuaires est d’expliquer les menaces potentielles d’une telle règlementation pour le secteur, la prévention et l’économie. Agir pour l’intérêt général, c’est préserver l’activité d’assurance en Europe pour sa pérennité face à des acteurs moins règlementés, disposant de moyens importants et pouvant privilégier une stratégie de court terme au détriment d’une logique de long terme, seul gage de stabilité socio-économique. Cette situation appelle également à une sensibilisation plus large de la communauté actuarielle et à la mobilisation des actuaires français, en lien avec les associations européennes, pour faire comprendre et défendre les spécificités de l’assurance. Le secteur de l’assurance a besoin de moyens innovants pour contribuer à proposer des solutions utiles aux personnes, afin de mieux prévenir et accompagner les grandes transformations de notre société et faire face aux risques majeurs : risque climatique, cyberrisque, vieillissement de la population…

Se connecter