MAJ - les pratiques du droit
IA : usages, cadres réglementaires et contentieux

Cette formation appartient à MAJ les Pratiques du droit, la formation mixte rassemblant magistrats, avocats et juristes.

L’usage de l’IA soulève, pour les juristes, les magistrats et les avocats, des questions de même nature. Le dialogue interprofessionnel se nouera autour de ces préoccupations communes.

À partir des usages concrets de l’IA, effectués à titre individuel ou collectif, au sein des équipes d’assistants de justice, des cabinets d’avocats et des entreprises, seront abordés les règles applicables, les risques juridiques communs que ces usages soulèvent ainsi que les diverses réponses permettant de les gérer Ces questions se poseront notamment en matière de protection des données personnelles, de contrôle humain effectif, de transparence, de cybersécurité et de sensibilisation.

Il s’agira également d’anticiper les responsabilités professionnelle, pénale, administrative et civile, de comprendre la jurisprudence qui se met en place et d’identifier les preuves, à charge ou à décharge, mobilisées en cas de défaillance.

MODULE 1. EXPOSITION AUX RISQUES

Ce module permettra notamment un partage d’expérience sur les outils métiers existants (outils de recherche juridique et outils de rédaction et d’analyse) et mettra en lumière les attentes et les risques qui y sont associés. Qu’en est-il, par exemple, du shadow IA (l’usage non contrôlé de l’IA) et du manque d’encadrement des usages ? Ces situations conduiront à examiner les règles nationales et européennes applicables, les sanctions encourues par les professionnels et les organisations dans lesquelles ils exercent ainsi que les responsabilités de différentes natures susceptibles d’être engagées.

MODULE 2. CONTENTIEUX ET RESPONSABILITÉS

Les conséquences et les sanctions en cas de non-respect de la réglementation applicable seront abordés. Quelle jurisprudence se construit dans les contentieux liés à l’usage de l’IA — par exemple lorsque des « hallucinations » (erreurs de l’IA) se glissent dans les dossiers judiciaires, voire dans les jugements ? Quelle responsabilité lorsqu’une mauvaise décision est prise au sein d’une entreprise sur le fondement d’une recommandation de l’IA ? Quelle traçabilité de l’usage de l’IA et des requêtes assurer pour disposer de preuves à charge ou à décharge ? Comment encadrer l’intervention des experts informatiques appelés à extraire des données ou à auditer les systèmes d’IA en entreprise ?

MODULE 3. ENCADREMENT DES USAGES

Des solutions permettant de réduire les risques liés à l’utilisation de l’IA seront proposées. Des mesures et des outils permettant de garantir le respect de la réglementation applicable peuvent être mis en place : charte IA, contrôle humain, anonymisation des données, cartographie des pratiques, information des usagers et des clients, etc. Il est établi en particulier que les systèmes d’IA produisent des erreurs. Comment les détecter et en limiter les conséquences ? Faut-il renoncer à l’IA lorsque le coût d’une erreur serait trop élevé pour l’organisation ?