Marc Clément, magistrat administratif de la cour administrative d'appel de Lyon interviendra le 16 octobre 2017 à Montréal (Québec) sur le thème : algorithmes et justice prédictive : les algorithmes au service du juge ?
30è édition des entretiens Jacques Cartier : rencontre annuelle du Québec et d'Auvergne Rhône-Alpes et de ses métropoles 16-18 octobre 2017 à Montréal Québec Canada
Les algorithmes jouent un rôle de plus en plus fondamental dans tous les aspects de notre vie. En particulier, ils sont utilisés pour classer, prédire et utiliser comme outil d’aide à la décision (voir pour prendre des décisions automatisées) dans de nombreux contextes tels que le commerce en ligne, la finance, la justice, la police, les ressources humaines ou encore la politique.
Cependant, leur prégnance et l’impact important qu’ils ont sur la société soulève aussi de nombreux risques et questionnements à tel point que certains tels qu’Antoinette Rouvroy n’hésite pas à parler de « gouvernementalité algorithmique ».
Une des principales craintes soulevées par les algorithmes est leur manque de transparence de leur fonctionnement, en particulier lorsque que ceux-ci sont appris à partir de données massives grâce à des techniques avancées d’apprentissage machine telle que l’apprentissage profond, ce qui pourrait amener à l’avènement d’une « société boîte noire » comme la baptisé Franck Pasquale.
De plus, cette transparence est un prérequis pour pouvoir analyser les éventuels biais que pourrait avoir l’algorithme (par exemple en discriminant par rapport à certaines catégories) et ainsi pouvoir lui demander de rendre des comptes sur le pourquoi de ces décisions en vue éventuellement de corriger certains de ces biais.
Le but de ce colloque est de discuter en suivant une approche multidisciplinaire, les questions soulevées par la transparence et la responsabilité des algorithmes telles que par exemple :
Est ce que les algorithmes devraient être réguler et si oui de quelle manière ?
Quelles sont les situations où la transparence est nécessaire et comment l’implémenter en pratique ?
Comment réconcilier le besoin des entreprises de protéger leur propriété intellectuelle avec le besoin des citoyens de pouvoir comprendre la logique derrière les algorithmes qu’ils utilisent ou qui produisent un effet sur leurs vies ?
Comment améliorer la transparence, la responsabilité ainsi que l’équité des décisions prises par des systèmes algorithmiques sans pour autant compromettre leur utilité (telles que mesurée par exemple en termes de précision ou pertinence)