Dans le domaine de l’entreprise, on teste les algorithmes de prédiction. Le principe : prédire nos actes et la probabilité que nous les fassions.

Prenons l’exemple d’un recruteur qui ferait appel aux algorithmes pour choisir le bon candidat pour un poste. Il pourrait rentrer le lieu de résidence des prétendants dans un algorithme qui permettrait alors d’éliminer d’office ceux qui habitent loin de l’entreprise, plus susceptibles de faire un burn-out que ceux qui résident dans la même ville.

Selon une enquête réalisée par la Confédération française de l’encadrement-CGC, 72% des répondants envisagent comme une menace la possibilité d’être recruté par des algorithmes. De façon plus générale, les trois craintes les plus partagées sont : la perte de contrôle humain, la normativité et l’enfermement à travers l’uniformisation des recrutements, ainsi que la collecte disproportionnée de données personnelles.

Et l’État dans tout ça ?

D’après la Commission nationale de l’informatique et des libertés (Cnil), l’intelligence artificielle désigne “une nouvelle classe d’algorithmes, paramétrés à partir de techniques dites d’apprentissage”. Si l’homme reste toujours aux commandes de la machine, elle apprend d’elle-même au fil du temps et des données qui lui sont fournies. Dans un rapport présenté en 2017, les membres de la Cnil ont rendu public un dossier visant à sensibiliser les concepteurs et utilisateurs d’algorithmes. Deux principes ont alors été soulignés : le premier, dit “de loyauté”, précise que l’algorithme ne doit pas trahir les utilisateurs. Le second, qui est un principe de vigilance, stipule que l’algorithme doit constamment être remis en question car il est en perpétuelle mutation.

Le sort des algorithmes n’est pas encore fixé et sera susceptible de changer au cours des années à venir. Les spécialistes du sujet vont devoir peser le pour et le contre régulièrement et laisser le débat s’installer. Le but de l’opération est de permettre aux citoyens de rester maîtres de toutes leurs décisions.