En bref : oui, ils le peuvent, et ils sont encore meilleurs que les humains pour le faire. Selon une étude très déconcertante de l’Université de Stanford, les images de visages humains contiennent une multitude d’informations que le cerveau humain ne peut tout simplement pas traiter, contrairement à l’intelligence artificielle. Selon leurs recherches, un réseau neuronal profond était capable de distinguer les hommes homosexuels des hétérosexuels dans 81 % des cas et dans 74 % des cas pour les femmes, contre seulement 61 % pour les hommes et 54 % pour les femmes pour les juges humains. Si l’algorithme disposait d’au moins cinq images d’une personne à numériser, le pourcentage de réussite s’élevait respectivement à 91 pour cent et 83 pour cent.
Non seulement l’IA a été capable de distinguer certaines caractéristiques « atypiques » telles que le style de coiffure et les choix de mode, mais la machine a également identifié certains traits phénotypiques spécifiques dans les traits de leur visage, comme les hommes homosexuels ayant une mâchoire plus étroite, un front plus large et un nez plus long. Quelles que soient les implications potentielles de cette découverte (comme l’idée selon laquelle l’orientation sexuelle pourrait être liée à certaines caractéristiques génétiques), il est assez effrayant de constater à quel point les applications de cette technologie pourraient être nocives. Par exemple, il pourrait être utilisé par les gouvernements qui poursuivent les personnes LGBT pour les « filtrer », ou simplement pour violer la vie privée d'innombrables utilisateurs à toutes sortes de fins malveillantes – le marketing ciblé étant le moindre mal de tous.
Ce qui rend la situation encore plus inconfortable, c’est que des technologies similaires sont déjà disponibles et sont déjà utilisées. L’IA peut détecter bien plus que la simple sexualité en regardant une photo d’un visage humain : elle peut détecter les émotions, le QI et même les préférences politiques. Des technologies similaires de profilage psychométrique basées sur l’IA ont été utilisées pour extraire des données des profils Facebook et tirer des conclusions sur les préférences personnelles et les choix de style de vie. De cette manière, les électeurs ne verraient qu’un sous-ensemble spécifique de publicités politiques ciblées susceptibles d’orienter subtilement leurs choix politiques.
Le créateur de cette expérience, le psychologue Michal Kosinski, a exprimé son inquiétude quant aux risques possibles si cette technologie était utilisée à des fins malveillantes, au point que lui et son équipe ont passé beaucoup de temps à se demander si les résultats devaient être rendus publics. Le cabinet de conseil politique Cambridge Analytica aurait en effet utilisé des informations recueillies sur les réseaux sociaux pour diffuser des publicités qui ont influencé les élections présidentielles américaines de 2016, et peut-être même la campagne britannique pour le Brexit. Selon l’enquête en cours, une vaste armée de robots a commencé à diffuser un certain nombre de fausses nouvelles précisément ciblées sur Hillary Clinton afin d’inciter ses électeurs potentiels à voter pour Donald Trump. Beaucoup de ces publicités ont été créées sur place par des algorithmes intelligents, pour être diffusées lors d'événements majeurs ou de débats électoraux. L'IA a également mesuré les réactions des gens, pour renforcer leur efficacité à influencer les électeurs de Clinton en leur faisant croire qu'elle était une personne perverse et dérangée.
Après le scandale, l'agence a été fermée, mais des technologies similaires existent toujours et peuvent encore être utilisées à des fins malveillantes. Kosinski a prononcé de nombreux discours mettant en garde contre ce risque bien avant le scandale, mais, malheureusement, la nature humaine ne peut pas être changée. Dans une expérience non publiée, il a affirmé que son IA était capable de distinguer les visages des républicains des démocrates, tout en admettant que la barbe pouvait faire la différence. Alors pour tous les théoriciens du complot (et les personnes soucieuses de la vie privée), voici un indice important : si vous voulez empêcher le gouvernement de s'immiscer dans votre vie privée, laissez-vous simplement pousser la barbe. UN énorme un, si possible.