Ce site n'est malheureusement pas adapté à une exploration en format portrait, mais vous pouvez passer en format paysage !
Relation Forme / Fonction
Du fait de leur complète immatérialité, les concepteurs d’IA cherchent souvent à leur “ donner corps ” dans un but de communication, que ce soit à travers des interfaces utilisateurs séduisantes ou des visuels de robots intelligents. Si ces matérialisations nous permettent d’interagir plus directement avec ces technologies au fonctionnement de plus en plus complexe, il est important de chercher à comprendre dans chaque cas d’utilisation la fonction que sert le système d’IA intégré.
Relation Fournisseurs / Usagers
Grâce à leur capacité d’analyse et de prédiction, les technologies d’IA commencent à être de plus en plus intégrées en tant que composants de systèmes d’information plus vastes, si bien que nous serons certainement dans le futur exposés à de tels systèmes sans même le savoir. Dans ce contexte, le respect de notre liberté et de nos droits d’usagers pourrait nécessiter d’expliciter clairement le traitement qui est fait de nos données et si celui-ci est assisté de telles technologies.
Effet Réseau & Représentation
Le fonctionnement technique des IA et devenue quasiment incompréhensible pour un public non expert, qu’il s’agisse des réseaux de neurones utilisés pour l’apprentissage en deep learning ou de la façon dont ces technologies s’intègrent à des systèmes d’informations plus vastes. Il est important de rester critique face aux représentations parfois simplistes qui en sont faites, qui servent une volonté pédagogique mais masquent la complexité réelle de ces systèmes.
Gouvernance & Éthique (ARTICLE)
Le développement exponentiel des recherches autour des technologies d’IA semble être inévitable, mais l’implémentation de ces technologies dans notre quotidien soulève de nombreuses questions éthiques, en particulier alors que leurs capacités prédictives deviennent de plus en plus performantes. Les concepteurs de ces technologies et le corps politique ne sont peut être pas aptes à les réguler seuls, rendant nécessaire notre implication dans ces questions en tant que futurs usagers.
INTERVIEW
Félicien Vallet,
ingénieur expert à la CNIL
9 Avril 2019
Que pensez vous du niveau actuel de transparence des grands acteurs du domaine et de leurs volontés d’auto-régulation quant aux projets qu’ils développent ?
“
c’est un “ work in progress ”, il y a beaucoup de choses encore à travailler, mais [...] il y a certains acteurs qui posent déjà des jalons intéressants ...
Quel rôle la CNIL pourrait elle jouer dans cette régulation, et de quel pouvoir d’action et de restriction pourrait elle bénéficier, que ce soit en terme d’interdictions, de sanctions financières ou autre ?
“
il n’y a pas de méthode parfaite pour gérer tous les cas d'usage, donc il s’agit de définir avec les acteurs comment faire cet encadrement ...
La CNIL pourrait elle en particulier avoir pour rôle de déterminer si un usage d’une IA peut être bénéfique ou néfaste à la société et aux utilisateurs ?
“
la CNIL serait tout à fait compétente à décider si oui ou non l’usage qui en est fait est pertinent ...
Faut il et peut-on réguler les entreprises développant des IA dès la programmation en imposant des contraintes, ou seulement une fois que les systèmes sont mis en place et que des dysfonctionnements sont observés ?
“
dès le tout départ, au moment où on pense véritablement à son traitement de données, jusqu’à la fin où [...] on va livrer à un utilisateur final une décision, une proposition, un produit, va s’exercer la régulation ...
Quel impact a selon vous l’autonomie grandissante des IA sur leur utilisation en entreprise, que ce soit en terme de fonctionnement même des entreprises ou de risques pour les travailleurs ?
“
il y a un risque de délégation croissante des tâches, une sorte de déresponsabilisation des personnes, qui vient plutôt du fait que ces systèmes sont jugés assez infaillibles, [...] on suppose qu’ils sont neutres, ce qu’ils ne sont jamais en vérité ...
Quelles sont les priorités de la CNIL en terme de sensibilisation du grand public aux enjeux des technologies d’IA et les principaux freins à l’appropriation citoyenne de ces questions ?
“
ce qui a été fait ça a été de [...] produire un rapport, qui a été le résultat de nombreuses consultations publiques, [...] d’essayer de faire remonter, en allant au plus près du grand public, quels étaient les véritables enjeux ...
Quel rôle les citoyens ont ils selon vous à jouer dans la régulation des IA ?
“
il faut savoir qu’il y a des droits qui lui sont offert à ce consommateur, à ce citoyen, et donc il peut par exemple exercer son droit d’accès, demander des précisions en matière d'information et par là exiger une transparence plus grande sur les traitements qui sont mis en oeuvre sur sa personne ...
Quelles sont selon vous les responsabilités et les limites du rôle de l’état dans la régulation des développements des IA ?
“
pour auditer un système d’IA complexe il va falloir beaucoup de temps, beaucoup de compétences, [...] c'est véritablement de la prérogative de l’État de fixer dans quelle mesure on va se donner les moyens ou pas de mener ces investigations ...
Comment composer avec les conflits d'intérêts qui se produiront entre des enjeux éthiques et économiques en terme de développement de ces technologies, que ce soit en France uniquement ou à l’international, alors que l'état investit massivement dans le développement de ces technologies ?
“
cette protection du citoyen, […] d’un point de vue marchand il faut la tourner comme un avantage concurrentiel, que finalement les consommateurs ça va les intéresser d’utiliser des systèmes d’IA [...] qui vont se reposer sur des principes [protecteurs] ...
Comment anticiper à plus long terme les impacts des IA sur notre société et comment la CNIL travaille-elle sur ces questions éthiques plus prospectives pour définir son rôle futur en terme de régulation de ces technologies ?
“
le LINC, laboratoire d’innovation numérique de la CNIL, va permettre de publier [...] des articles prospectifs de veille pour pointer les usages à venir des nouvelles technologies et également de tester les nouveaux systèmes et [...] ce qu’ils peuvent questionner en terme de protection des données ...
on a eu beaucoup de rapports éthiques [...] qui nous ont pointé les enjeux, il s’agit maintenant de voir comment on va pouvoir les régler, comment on va pouvoir contraindre les systèmes à faire ce qu’ils doivent faire et pas à faire autrement ...
