Le site d'information de la CFCIM
Nesrine Roudane

Entretien avec Maître Nesrine Roudane

Date de publication : 21 mai 2019 Rubrique : Zoom

Entretien avec Maître Nesrine Roudane, Avocate au barreau de Casablanca et membre du Conseil de l’Ordre

« L’intelligence artificielle est déjà bien présente dans le domaine juridique »

D’un point de vue juridique, quelles questions soulève l’intelligence artificielle ?

L’IA soulève beaucoup de questions juridiques, allant de la compétence (qui programme quoi ?) à la responsabilité en cas de préjudice (qui du fabricant, programmateur, propriétaire, utilisateur ou du robot est responsable ?), en passant par la question du traitement nécessaire de quantité de données, notamment personnelles.

Si l’on doit recourir cette technologie à nos risques et périls, le danger est que des sociétés se déchargent de leur responsabilité et que l’on se retrouve sans recours. Quelles sont les lois à adopter pour encadrer le développement et l’utilisation de cette technologie ? D’un autre côté, les robots doivent-ils avoir des droits ? Si la question peut faire sourire aujourd’hui, rappelons que les entreprises sont, par une fiction de la loi, des personnes « morales ». À quand des personnes « artificielles » ?

Enfin, quel niveau d’intégration est souhaitable, y compris dans le domaine juridique ? N’oublions pas que des robots sont déjà utilisés dans le processus décisionnel et, en général, nous nous fions à leurs conclusions pour prendre des décisions quasi judiciaires, voire même judiciaires : contrôle antidopage, dépassement limitation de vitesse, etc.

Apporter des réponses à ces questions devient de plus en plus pressant alors que les tâches accomplies par l’intelligence artificielle se multiplient – notamment en matière de domotique ou d’audit – et que des entreprises commencent à « embaucher », littéralement, des robots pour servir leur clientèle.

Au Maroc, où en est-on en ce qui concerne la protection des données personnelles ?

Nous constatons que plus l’intelligence artificielle se développe, plus il est impératif de protéger les données personnelles. Il y a une prise de conscience au Maroc, dans la mesure où nous avons un cadre législatif, avec la Loi 09-08. Il s’agit d’encadrer la collecte de toutes les données relatives aux personnes : droit à l’image, empreinte, identité, etc.

Selon la sensibilité des données, il faut fournir des déclarations et des autorisations. Parfois même, la collecte est interdite. Le cadre législatif concerne aussi les personnes habilitées à collecter les données, ainsi que leur conservation, leur transmission et leur destruction. De plus, cette loi a été complétée par un ensemble de délibérations adoptées par la CNDP (Commission Nationale de Contrôle de Protection des Données à Caractère Personnel).

Par ailleurs, cette question est soulevée par l’entrée en vigueur du RGPD en Europe depuis mai 2018, puisque cela intéresse également le marché marocain : toutes les entreprises marocaines qui traitent, d’une manière ou d’une autre, avec l’Union européenne ont une obligation de « compliance », de mise à jour et de respect des données personnelles.

Juridique IALes métiers du juridique sont-ils eux-mêmes concernés par l’essor de l’IA ? 

Bien évidemment. Même si on voudrait peut-être croire le contraire, la plupart des tâches effectuées par les professionnels de ce domaine peuvent être accomplies par des robots plus ou moins « intelligents » : la recherche de lois et de jurisprudences, le conseil, la revue de documents, l’analyse de cas, la rédaction de documents juridiques tels que les contrats, testaments, mémoires, etc. Ces technologies sont, en fait, assez développées aujourd’hui et certaines sont déjà utilisées, principalement dans les grands cabinets.

Le seul mur qui semble se dresser est celui de la décision judiciaire, privative de liberté, où l’intervention humaine est encore systématique. En même temps, cette question masque une réalité indéniable : le taux d’erreur de l’IA est bien moindre que celui découlant des décisions prises par les humains, dont le processus décisionnel est souvent biaisé par plusieurs facteurs ou qui peuvent faire preuve de négligence ou d’inconscience. L’humain est loin d’être toujours rationnel et l’imprévisibilité judiciaire est un phénomène que l’on cherche à corriger par tous les moyens.

Où en est-on dans le développement de nouveaux outils basés sur l’IA ?

Le secteur évolue rapidement, avec, par exemple, le développement de « smart contracts », qui peuvent s’exécuter instantanément et sans intervention humaine. L’utilisation de la blockchain permet pour sa part d’authentifier et de certifier des opérations commerciales.

Sur un autre volet, on assiste au développement d’algorithmes qui aident à rendre des décisions judiciaires, même si l’intervention humaine est encore nécessaire : le magistrat doit vérifier le contenu, la validité et le respect des règles de fond et de forme.

Enfin, le volet de la justice prédictive, en plein essor également, vise à prévoir l’issue d’un procès, notamment lorsqu’il y a un jury comme dans le système anglo-saxon, grâce aux milliers d’informations concernant des cas précédents. Ainsi, les cabinets peuvent conseiller leurs clients quant à l’opportunité d’un procès dans certaines situations.

Vous lancez justement votre propre logiciel : en quoi consiste-t-il ?

SARA (pour Standard Automated Research Assistant) est une proche parente de SIRI, mais elle est spécialisée dans le domaine juridique. Les premières fonctionnalités de base – reconnaissance vocale, gestion des agendas, recherche en ligne, etc. – sont déjà intégrées et, aujourd’hui, nous en sommes au stade du développement des fonctions beaucoup plus avancées qui devraient nous permettre, à terme, de profiter de tous les avantages de l’IA dans le traitement de nos dossiers. J’entends bien évidemment rendre cette technologie disponible sur le marché une fois finalisée et nous sommes donc maintenant en phase de levée de fonds pour financer ce développement.

Propos receuillis  par Thomas Brun