(Ce billet est paru le 23 septembre sous le titre Big Data et droits fondamentaux)
Etude 2014 du conseil d’état: Numérique et droits fondamentaux Le Conseil d’état a publié récemment l’étude annuelle 2014 qui porte sur le « numérique et les droits fondamentaux ». Cette étude a été rédigée par Jacky Richard, conseiller d’État, rapporteur général de la section du rapport et des études (SRE) et par Laurent Cytermann, maître des requêtes, rapporteur général adjoint. Ce rapport s’imposait avec l’essor du numérique car “la saisie croissante du numérique par le droit est à la fois une réalité et une nécessité”. 
Le développement du numérique s’accompagne de bouleversements techniques, économiques et sociales et remet en cause les règles du jeu et les positions établies. Les informations contenues dans cette étude sont nombreuses et j’ai voulu le lire sous l’angle du Big Data. Vous trouverez donc ci-dessous une synthèse reprenant ce qui pouvait se rattacher au Big Data. Le Conseil d’état constate que « L’explosion des usages des données personnelles et des risques associés conduit à en repenser la protection ». L’explosion des usages des données personnelles et des risques associés conduit à en repenser la protection. La collecte des données à tout va par des entités de diverses natures va plus loin que des caractéristiques objectives. Dans le cas des personnes ces collectes peuvent porter sur leurs gouts et leurs opinions et permettre ainsi de définir des profils très précis à des fins commerciales par l’utilisation de moteurs de recherche de plus en plus performants. Le Conseil d’état conscient des risques les a regroupés en 6 catégories
- la diffusion de données personnelles d’un individu en dehors de sa volonté.
- la réception fréquente de publicités de plus en plus ciblées et personnalisées.
- le développement de pratiques commerciales abusives, différenciant les clients à partir de l’exploitation de leurs données.
- les risques de réputation, pouvant conduire à des restrictions dans l’accès à des services (assurance, crédit, emploi…)
- les utilisations malveillantes, portant directement atteinte aux biens ou aux personnes.
- l’utilisation, lorsqu’elle est excessive, des données personnelles par les pouvoirs publics à des fins de sauvegarde de l’ordre public et de la sécurité nationale.
Le Conseil d’état rappelle dans son étude les principes fondamentaux de la protection des données (Ces principes sont explicités dans l’étude) :
- Une définition large des données à caractère personnel
- Le principe de finalités déterminées
- Les principes de proportionnalité et de limitation de la durée
- Le rôle du consentement de la personne
Protection des données et Big Data : selon le conseil d’Etat , les principes fondamentaux de la protection de données “ne sont pas une entrave au développement du Big Data” . D’une manière générale les usages du Big Data concernent l’exploitation statistiques des données et non pas les personnes elles-mêmes. Cela reste donc compatible avec la notion de principe de « finalités déterminées ». Par contre lorsque l’usage du Big data vise une personne en tant que telle pour déterminer par exemple un « profil prédictif de ses caractéristiques (solvabilité, dangerosité..) » on se doit d’appliquer les principes fondamentaux de la protection des données. Cela rappelle étrangement le thème du film Minority report avec Tom Cruise. Des propositions pour adapter les instruments de la protection des données Bien que ces principes gardent toute leur pertinence, les instruments de la protection des données doivent être adaptés et renouvelés. Le rapport du conseil d’état a donc exploré quatre voies complémentaires:
- Renforcer la capacité des personnes à contrôler l’utilisation de leurs données par l’utilisation des technologies.
- Définir une « chaîne de responsabilités », allant des concepteurs de logiciels et d’objets connectés aux utilisateurs finaux et complétant la responsabilité du responsable de traitement.
- Porter une attention particulière à la circulation des données personnelles
- Passer d’une logique formelle de déclaration à une logique de respect en continu de la réglementation, assuré par des contrôles internes et externes.
Un nécessaire encadrement de l’utilisation des algorithmes : L’étude consacre également un chapitre sur l’utilisation des algorithmes et précise qu’il ne se limite pas au seul Big Data. Si l’apport des algorithmes dans le monde du numérique est indiscutable le Conseil d’Etat souligne néanmoins 3 risques associés :
- l’enfermement de l’internaute dans une « personnalisation » dont il n’est pas maître
- la confiance abusive dans les résultats d’algorithmes perçus comme objectifs et infaillibles
- de nouveaux problèmes d’équité du fait de l’exploitation toujours plus fine des données personnelles.
Ces nouveaux risques liés aux algorithmes nécessitent un encadrement de leur utilisation et représentent un nouveau domaine pour les pouvoirs publics. Le Conseil d’Etat préconise trois méthodes d’encadrement :
- assurer l’effectivité de l’intervention humaine dans la prise de décision au moyen d’algorithmes;
- mettre en place des garanties de procédure et de transparence lorsque les algorithmes sont utilisés pour prendre des décisions à l’égard d’une personne
- développer le contrôle des résultats produits par les algorithmes, notamment pour détecter l’existence de discriminations Illicites.
Je n’ai fait ici qu’extraire quelques informations de ce rapport et je vous invite à le consulter dans sa totalité. @ericdebray
Authors
