Table ronde «La décision automatisée, quand l’algorithme décide: quelle place pour la personne? Consentement, transparence, protection des données personnelles»
Inscription obligatoire gratuite 📅 Ajouter au calendrier
Heure:
12h à 13h15
Lieu:
Salle 0127, pavillon Charles-De Koninck
Pour information
evenements@fd.ulaval.ca
Résumé de la conférence
De nombreux organismes publics et privés sont aujourd'hui tentés de recourir à des automatismes, relevant souvent de l'intelligence artificielle, pour prendre d'importantes décisions. Ainsi une banque va-t-elle refuser ou accepter une demande de crédit et, dans le deuxième cas, en fixer le taux, par une analyse purement logicielle du dossier de l'emprunteur. Un employeur cherchant à recruter voudra écarter une partie des candidats uniquement en passant leur CV et leur lettre de motivation dans un automatisme. La décision est parfois ouvertement confiée à la machine mais, très souvent, le système informatique sera qualifié de simple «aide à la décision» alors même que son influence est, en réalité, décisive. Les raisons avancées pour recourir à ces systèmes sont diverses: la rapidité est toujours évoquée, la prétendue impartialité l'est parfois. La source d'économie l'est plus rarement, alors qu'elle est souvent déterminante. Mais les dangers sont réels, au premier rang desquels l'opacité des mécanismes décisionnels, et le risque de discrimination, parfois involontaire. Le droit européen encadre strictement le recours à ces mécanismes décisionnels. La jurisprudence récente adopte une position plus dure encore. Le législateur, lui, est tenté de reculer.
En savoir plus sur les intervenants et intervenantes
Emmanuel Terrier
L’IA dans la décision médicale confrontée à l'éthique et aux droits des personne : autonomie (consentement), dignité, libre choix
L’intelligence artificielle s’installe dans la décision médicale : aide au diagnostic, évaluation des risques, choix thérapeutique ou prédiction de l’évolution d’une maladie. Mais que devient la décision médicale lorsque celle-ci est, au moins en partie, éclairée par un système dont le raisonnement échappe parfois au médecin comme au patient ? Il s'agira de confronter la place de l’IA au regard des grands principes éthiques et juridiques qui fondent la relation de soins.
La question de l’autonomie sera centrale : peut-on véritablement consentir à une décision lorsque l’on ignore si elle a été influencée par une IA, ou lorsque ni le médecin ni le patient ne sont en mesure d’en comprendre pleinement la justification? L’IA invite ainsi à repenser l’information due au patient et la portée du consentement.
La dignité de la personne impose également de ne pas réduire le patient à des données, à des probabilités ou à un profil de risque. Enfin, le principe du libre choix interroge la capacité du patient à conserver une véritable liberté de décision lorsque les recommandations algorithmiques tendent à s’imposer comme des évidences. A protéger le secret de sa situation et de ses données.
L’enjeu est désormais de savoir dans quelles conditions l'IA peut participer à la décision médicale sans déplacer le centre de gravité de celle-ci: de la personne vers la machine
Christophe Albiges et Aurore Benadiba
La prise de décision automatisée en matière contractuelle et en droit des garanties
Les garanties sont impactées à plusieurs titres par le recours à l’intelligence artificielle. Cette dernière transforme d’abord la décision de recourir à une sûreté : les algorithmes sont susceptibles de déterminer, en fonction de la nature du montant, si la sûreté choisie est adaptée ou non aux attentes du créancier. De l’intelligence artificielle affecte les modalités de protection de la caution : la vigilance du créancier pour apprécier la disproportion est accrue dès lors qu’il ne se contente plus d’une simple fiche mais d’outils numérisés d’analyse patrimoniale. De même, la mise en garde suppose une appréciation individualisée et se concilie mal avec un robot conversationnel, au même titre que la mention manuscrite qui soulève la question de l’auteur réel lorsqu’un assistant la rédige.
L’intelligence artificielle peut également être déterminante pour la détermination de l’assiette de la sûreté : les évaluations automatisées de biens ou de parts sociales posent des problèmes de fiabilité et d’opposabilité. Quant à celles de l’expert exigées pour le pacte commissoire, supposent-t-elles un expert humain ? Enfin, la surveillance et la réalisation s’automatisent (détection de défaillance, mises en demeure, déchéance du terme, justice prédictive sur la disproportion), ce qui impose de préserver le respect des conditions légales et l’intervention humaine.
Emmanuel Netter
La prise de décision automatisée en droit européen des données personnelles et de l'IA
Emmanuel Netter est professeur à l'université de Strasbourg, directeur du département de droit privé et directeur du master "cyberjustice". Il est spécialiste de droit du numérique et anime notamment la chronique "Numérique et vie des affaires" de la Revue trimestrielle de droit commercial, au côté du professeur Thibault Douville.