Dans le prolongement des premiers procès fictifs organisés en 2017, 2018 et 2019, autour des véhicules autonomes puis en 2018 et 2019 autour de la transition écologique et énergétique, l’UCLY et la Cour administrative d’appel de Lyon proposent une nouvelle création de procès fictif sur les questions posées par l’intelligence artificielle et les comportements discriminatoires
Le procès fictif prévu le 16 mars 2020 à la Cour administrative d'appel de Lyon est reporté...
Cette clinique de la prospective juridique réunira 16 étudiants de la Faculté de droit de L’UCLy, et 4 étudiants de l’INSA, qui joueront les rôles suivants :
- 2 cabinets d’avocats composés respectivement de 6 étudiants
- 4 magistrats
- 4 experts
Le cas fictif opposera la Métropole de Lyon à une association d’usagers contestant, un service de navettes publiques autonomes et gratuites à raison des discriminations qu’il pratiquerait envers des usagers, situés dans des zones évaluées par le système autonome de gestions des données « à risques » pour la sécurité des passagers et du véhicule. Le procès portera notamment sur la question de l’intelligence artificielle qui détermine le parcours potentiellement discriminant des navettes.
La situation juridique (fictive)
Nous sommes en 2030.
La Métropole de Lyon a développé un nouveau service de navettes autonomes appelé LyonFreeRide.
Ce service permet gratuitement pour les habitants de la métropole lyonnaise de bénéficier de 5 déplacements par mois sur le parcours de leur choix.
Il suffit de s’inscrire sur le site internet de la Métropole et la navette vient les chercher dans le lieu qu’ils ont indiqué par une demande de réservation faite au moins 24 heures en avance.
LyonFreeRide est un service proposé en partenariat avec la société IntelligentMove qui utilise des véhicules autonomes de dernière génération produits par la société Tyrex combiné à un système basé sur l’intelligence artificielle pour déterminer les parcours des navettes.
Une association de défense des usagers des services publics lyonnais RightsForGones a été alertée par certains de ses adhérents sur un comportement potentiellement discriminatoire du service.
En effet, certaines personnes comme, par exemple M. Kevin Alberola, ont essayé en vain d’obtenir que la navette vienne les chercher . Pas une seule fois, le service lui a répondu positivement. La raison invoquée était le trop grand nombre de demandes. Le service indique, en effet, que les navettes, étant d’une capacité limitée (7 personnes maximum), ne peuvent garantir que la demande de réservation aboutisse. Par ailleurs, la navette optimise son trajet afin d’éviter aux usagers trop de détours. De ce fait elle dispose d’une certaine capacité à choisir les passagers qu’elle prend.
Or, RightsForGones s’est rendu compte que chaque navette collecte un grand nombre de données de fonctionnement, en particulier des données liées aux difficultés de circulation dans certaines rues et à des risques pour l’intégrité de la navette et la sécurité de ses passagers, mesurés par l’identification de tags, de mauvais entretiens, de dégradation de mobilier urbain. De ce fait, progressivement, l’intelligence artificielle associée au service semble exclure certaines zones.
RightsForGones et 5 de ses adhérents ont demandé à la Métropole de Lyon que celle-ci modifie le fonctionnement du service LyonFreeRide pour éviter toute discrimination.
La Métropole ayant rejeté cette demande, RightsForGones engage une procédure devant le tribunal administratif.