La Cnil présente un rapport de synthèse du débat public portant sur les enjeux éthiques des algorithmes et de l’intelligence artificielle.
Le 15 décembre 2017, la Commission nationale de l’informatique et des libertés (Cnil) a publié le rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et de l’intelligence artificielle (IA).
Les débats ont permis de dégager deux principes fondateurs :
- un principe de loyauté appliqué à tous les algorithmes envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont l’existence pourrait être directement affectée ;
- un principe de vigilance/réflexivité, visant à organiser une forme de questionnement régulier, méthodique et délibératif à l’égard de ces objets mouvants et constituant une réponse directe aux exigences qu’imposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils s’insèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. C’est l’ensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes.
Ces principes font l’objet d’une déclinaison sous la forme de 6 recommandations opérationnelles :
- former à l’éthique tous les acteurs-maillons de la "chaîne algorithmique" (concepteurs, professionnels, citoyens) où l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
- rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
- travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet "boîtes noires" ;
- constituer une plateforme nationale d’audit des algorithmes ;
- encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
- renforcer la fonction (...)
