Elhazziti Mohammed Anouar, expert en développement territorial et réforme de l’administration. Membre de l’Institut international des sciences administratives
Alors que les technologies d’intelligence artificielle redéfinissent rapidement le fonctionnement des sociétés, le Maroc se trouve à un important tournant. L’intégration croissante de l’IA dans les systèmes économiques, sociaux et administratifs du pays ouvre de nombreuses opportunités, mais présente également des risques profonds. En l’absence d’un cadre réglementaire établi, l’impératif de clarifier les orientations de réglementation légale et éthique de l’IA au Maroc par voie légale n’a jamais été aussi pressant.
Le rôle de l’IA dans l’essor du concept d’État intelligent
Depuis une décennie, le Maroc a fait des progrès importants en matière de numérisation. Les plates-formes gouvernementales, de Maroc Digital 2020 à la récente stratégie de Maroc Digital 2030, ont favorisé le développement d’infrastructures intelligentes, de la gouvernance électronique et de l’entrepreneuriat numérique. En conséquence, l’IA commence à se matérialiser dans divers domaines. Dans le secteur de l’agriculture, l’analyse prédictive permet de maximiser l’efficacité de l’irrigation et du rendement des cultures. Dans l’industrie de la santé, le machine learning est à l’essai pour appuyer les outils diagnostiques. Dans le secteur financier, l’IA est amplement utilisée pour détecter la fraude et opérer le profilage de clients. Enfin, elles gagnent lentement du terrain dans l’éducation et le maintien de l’ordre à travers des outils comme les systèmes de tutorat intelligents et la technologie de la reconnaissance faciale.
Bien que ces développements soient louables, ils fonctionnent dans le vide de la loi. Le Maroc n’a pas encore adopté de stratégie nationale officielle d’IA et il n’y a pas de loi spécifique régissant l’utilisation éthique de l’IA au Maroc. Alors que l’IA gagne en indépendance et en omniprésence, le manque de clarté réglementaire risque d’accentuer les inégalités sociales, de la civilité et de la confiance des organes publics.
La vie privée en danger : l’IA sans protection des données est dangereuse
Peut-être le plus grand danger primaire réside dans la manière dont l’IA procède à la collecte et au traitement des données des individus. Beaucoup de systèmes d’IA, en particulier ceux utilisés pour la police prédictive ou la surveillance biométrique, s’appuient sur la collecte d’informations personnelles révélatrices. Sans des lois de données appropriées, les individus ont peu ou pas de contrôle sur la façon dont les données les concernant sont utilisées, conservées ou partagées. Le Maroc dispose d’une autorité en place – la Commission nationale de contrôle de la protection des données à caractère personnel – mais son rôle concernant l’IA est actuellement limité.
En outre, même si les améliorations légales telles que la loi n° 09-08 sont importantes, elles ne répondent pas aux questions compliquées qui accompagnent ces systèmes modernes d’IA. Il devient donc impératif de modifier la législation pour répondre aux défis du profilage par algorithme, de la surveillance continuelle et de l’environnement proprement mondial de ces flux de données.
Biais algorithmiques : renforcer la discrimination par la technologie
Étant donné que les outils d’IA utilisent pour la plupart des données issues d’un contexte historique, ils peuvent refléter et aggraver les inégalités de toutes sortes. Les algorithmes d’IA, par exemple, peuvent discriminer les femmes ou les groupes raciaux minoritaires s’ils s’entraînent sur des données historiques qui ne tenaient pas compte de ces catégories au travail, par exemple. Les systèmes de reconnaissance faciale sont également moins précis pour les personnes à la peau foncée, entraînant de plus grands pourcentages d’erreurs d’identification pour ces groupes. Par conséquent, dans un pays aussi diversifié que le Maroc, des inégalités ethniques, de genre et socio-économiques ont déjà lieu et l’utilisation d’outils algorithmiques sans surveillance pourrait aggraver la situation. Sans exigences légales en matière d’équité, de responsabilité, et de réduction des biais, de tels résultats pourraient non seulement être courants, mais également insaisissables et incontestés.
Le défi du marché du travail : automatisation et inégalités économiques
Bien que l’IA devrait rendre de nombreux domaines plus efficaces et plus novateurs, elle comporte également des risques considérables et menace des pertes d’emploi importantes. Il est extrêmement probable que plusieurs emplois dans l’industrie manufacturière, la logistique, le service client et même la comptabilité deviendront obsolètes au cours des prochaines années. Dans un pays confronté à un chômage des jeunes élevé, le choc économique pouvant résulter des pertes d’emploi associées à l’IA serait dévastateur. Le gouvernement marocain devrait prévoir et planifier la transition. Ainsi, Il devrait concevoir des politiques favorisant la formation professionnelle, fournir des ressources financières aux travailleurs qui perdent leur emploi et investir dans des systèmes éducatifs pour que les jeunes puissent entrer dans l’économie de l’IA. Sans programmes appropriés pour garantir une transition en douceur, les fruits économiques de l’IA resteront probablement entre les mains de quelques privilégiés au sommet.
Absence de responsabilité : qui est responsable en cas de défaillance de l’IA ?
Les technologies exploitées dans les systèmes compatibles avec les IA ont tendance à complexifier les lois carbone auxquelles elles ont affaire. Par exemple, peut-on tenir pour responsable de l’erreur commise par un système de reconnaissance faciale une force de l’ordre et pénaliser cette dernière, ou le développeur du logiciel, le département gouvernemental, ou l’algorithme lui-même ? Les victimes d’un préjudice causé par une IA sans responsabilité claire courent le risque de ne jamais obtenir de réparation pour les erreurs commises. Le Maroc devrait adopter des lois définissant la responsabilité de l’IA dans l’erreur pour les applications à enjeux élevés, comme les soins de santé, la justice pénale et la sécurité publique. En outre, ces lois devraient exiger que l’IA critique soit surveillée par des humains et que les personnes concernées aient droit à une explication ou à un recours.
Enseignements internationaux : Alignement sur les normes mondiales en matière d’IA
Il est de plus en plus courant que les nations réglementent l’intelligence artificielle. L’Union européenne en est un exemple, car elle finalise actuellement sa loi sur l’IA, classant les systèmes de l’IA en fonction du risque et définissant des obligations strictes pour les applications à haut risque. Par ailleurs, l’UNESCO a également élaboré un cadre mondial pour l’IA éthique, privilégiant des valeurs telles que la transparence, l’inclusion et les droits de l’homme. Le Maroc n’a pas besoin d’attendre un événement désastreux avant d’appliquer la réglementation. À la place, il peut imiter les normes internationales et promulguer une réglementation conforme aux normes du monde tout en tenant compte de la réalité marocaine. De cette manière, non seulement les citoyens du Maroc seront protégés, mais également le Maroc sera vu comme une nation responsable dans l’économie mondiale de l’IA.
La voie à suivre : ce que devrait inclure la réglementation de l’IA au Maroc
Afin de faciliter le développement de l’IA de manière éthique et responsable, le gouvernement marocain devrait déjà commencer l’élaboration d’un cadre législatif qui se concentrera sur la dignité humaine, la sûreté et la justice sociale. Un tel cadre devrait inclure, à savoir :
La création d’une commission d’éthique indépendante de l’IA pour superviser le développement et le déploiement ;
L’imposition d’exigences générales de transparence et d’explicabilité pour tous les systèmes d’IA à haut risque;
La garantie d’une protection légale pour les personnes touchées par les décisions algorithmiques ;
Le renforcement des mesures applicatives dans le domaine de la protection de la vie privée ;
Les investissements dans l’éducation du public en matière de compétences et de droits relatifs à l’IA.
De plus, la réglementation doit être le résultat du dialogue multipartite. La société civile, les universités, l’industrie et les institutions gouvernementales doivent collaborer pour s’assurer que les politiques dans le domaine de l’IA sont éclairées, inclusives et reflètent les valeurs sociales et culturelles marocaines.
L’obligation morale et stratégique de la réglementation de l’IA
Pour le Maroc, et dans le cadre d’une obligation morale, l’intelligence artificielle est un outil puissant du progrès, s’il est utilisé à bon escient. Sans réglementation, l’IA risque donc d’aggraver les inégalités sociales, violer les droits de l’homme et affaiblir la confiance envers elle. Cependant, grâce à la gouvernance réfléchie, le Maroc peut faire de l’IA un moteur d’autonomisation, d’équité et d’innovation. Il est temps d’agir. Les décisions prises aujourd’hui orienteront donc l’IA et ses impacts sur la société marocaine pour les décennies à suivre. Un cadre législatif pour l’IA est donc à la fois une nécessité réglementaire et l’expression des valeurs nationales face aux technologies transformables.
