Séance 5 :
Big data, IA, sélection des données : causalités,corrélations, conséquences

Intervenants :
Diviyan Kalainathan
doctorant, Laboratoire de Recherche en Informatique (LRI)

Causalité observationnelle : découverte de liens de cause à effet sans expériences randomisées

Déterminer les liens de cause à effet afin de comprendre le fonctionnement de mécanismes est primordial et a déjà été utilisé dans tous les domaines: en épidémiologie, physique, sciences sociales, …

Afin de pouvoir déterminer de façon fiable, les expériences randomisées ont toujours été la méthode d’excellence ; mais celles-ci sont parfois chères, contraires à l’éthique, voire même infaisables (par exemple en épidémiologie génétique). Ainsi ont fleuri les méthodes de découverte de liens de cause à effet sans interventions. Basées sur la récolte des données, le but est de déterminer une partie des relations grâce aux propriétés statistiques des données.

Dans cet exposé, nous allons introduire les principaux principes utilisés et les pièges à éviter pour déterminer les relations causales à l’aide de statistiques. Dans un deuxième temps, nous allons présenter des algorithmes employant ces principes efficacement pour produire automatiquement des graphes causaux, et analyser les prédictions de ces algorithmes.

Paola Tubaro
sociologue, chargée de recherche au CNRS, Laboratoire de Recherche en Informatique (LRI)

Sélectionné.e par une IA ? Algorithmes, inégalités, et les « humains dans la boucle »

Les développements récents de l’intelligence artificielle, nourrie par de grandes bases de données numériques et des capacités de calcul sans précédent, font entrevoir des possibilités inouïes d’automatisation des processus de sélection : à qui octroyer un prêt, qui paiera quelle prime d’assurance, qui va être suspecté d’un crime. L’enthousiasme des
industriels, capables enfin de segmenter le marché de manière très fine, contraste les craintes des activistes, inquiets des violations de la vie privée et des risques accrus de fichage.

La présentation proposée va parcourir ces débats, scientifiques et politiques, en soulignant l’existence d’inégalités sociales qui sous-tendent l’essor actuel de l’IA, et que celui-ci à son tour renforce – ou du moins affecte. Il faut repenser ce phénomène en tenant compte plus explicitement de la place des humains dans le processus, autant en aval (en termes des effets sociaux du déploiement de l’IA à l’échelle industrielle) qu’en amont (en termes des choix et des activités humaines qui participent au développement de l’IA). La conclusion passera en revue de diverses propositions d’accorder des droits spécifiques aux personnes touchées, à différents stades, par l’IA, sa production et sa commercialisation.

Questions du public

Organisateurs
Christine Eisenbeis, LRI, Université Paris-Sud et
Julien Gargani, directeur du Centre d’Alembert