Si elle ne remet pas en cause le principe même de l’utilisation des algorithmes dans la prise de décision, la Cnil considère que cette utilisation ne peut exclure toute intervention humaine et doit s’accompagner d’une information transparente des personnes.
Saisie en 2016 d’une plainte à l’encontre du traitement "Admission Post-Bac" (APB) dont l’objet est le recueil et le traitement des vœux des candidats à une admission en première année d'une formation post-baccalauréat, la Commission nationale de l’informatique et des libertés (Cnil) a pointé plusieurs manquements aux règles gouvernant la protection des données personnelles.
Dans sa décision rendue le 30 août 2017, elle relève tout d'abord que s’agissant des formations non sélectives, seul l’algorithme détermine automatiquement, sans intervention humaine, les propositions d’affectation faites aux candidats, à partir de trois critères : le domicile du candidat, sa situation de famille et l’ordre de préférence des vœux qu’il a formulés. Or, l’article 10 de la loi Informatique et Libertés précise qu’aucune "décision produisant des effets juridiques à l’égard d’une personne ne peut être prise sur le seul fondement d’un traitement automatisé de données destiné à définir le profil de l’intéressé ou à évaluer certains aspects de sa personnalité".
Par ailleurs, la Cnil note l'insuffisance de l’information des candidats sur le portail APB, au regard des exigences de l’article 32 de la loi Informatique et Libertés, s’agissant notamment de l’identité du responsable de traitement, de la finalité du traitement et des droits des personnes.
Enfin, la procédure de droit d’accès ne permet pas aux personnes d’obtenir des informations précises relatives à l’algorithme et à son fonctionnement, notamment la logique qui sous-tend le traitement APB ou le score obtenu par le candidat, en violation de l'article 39 de ladite loi.
La Cnil précise qu'elle ne remet pas en cause le principe même de l’utilisation des algorithmes dans la prise de décision, notamment par les administrations. Cependant, compte tenu des enjeux éthiques qu’ils soulèvent, le législateur a prévu que l’utilisation des algorithmes ne (...)
