Cette question fondamentale sur l'apprentissage automatique prend en compte de nombreux aspects différents du fonctionnement de ces programmes complexes et du rôle qu'ils jouent dans l'économie actuelle.
L’une des façons les plus simples d’expliquer le manque d’importance des systèmes d’apprentissage automatique est qu’ils sont faciles à cacher. Ces systèmes back-end se cachent derrière les moteurs de recommandation et bien plus encore, permettant aux consommateurs d'oublier qu'il existe un quelconque apprentissage automatique. Comme tous les utilisateurs finaux le savent, certains humains pourraient sélectionner soigneusement leurs choix au lieu d’un réseau neuronal exécutant des algorithmes sophistiqués.
Au-delà de cela, il y a également un manque d'éducation systémique sur l'apprentissage automatique, en partie parce que c'est si nouveau, et en partie à cause d'un manque d'investissement dans la formation STEM dans son ensemble. Il semble qu'en tant que société, nous sommes généralement d'accord pour sélectionner des personnes clés pour en apprendre davantage sur la technologie et devenir les « prêtres technologiques » de notre population. Une stratégie à plus large spectre consisterait à inclure systématiquement l’apprentissage automatique détaillé et l’enseignement technologique au niveau secondaire dans les écoles secondaires.
Un autre problème est le manque de langage accessible autour de l’apprentissage automatique. Le jargon abonde – depuis les étiquettes des algorithmes eux-mêmes jusqu’aux fonctions d’activation qui alimentent les neurones artificiels et aboutissent à des réseaux neuronaux. Un autre bon exemple est l’étiquetage des couches dans un réseau neuronal convolutif – rembourrage et foulée, pooling maximum et plus encore. Presque personne ne comprend vraiment ce que signifient ces termes, ce qui rend l’apprentissage automatique d’autant plus impénétrable.
Les algorithmes eux-mêmes sont désormais formulés dans le langage des mathématiciens. Comme pour la physique moderne et classique, les étudiants de ces disciplines sont censés maîtriser l’art de lire des équations complexes, plutôt que de traduire les fonctions de l’algorithme en langage simple. Cela sert également à rendre les informations d’apprentissage automatique beaucoup moins accessibles.
Enfin, il y a le problème de la « boîte noire » où même les ingénieurs ne comprennent pas vraiment comment fonctionnent de nombreux programmes d'apprentissage automatique. À mesure que nous avons augmenté la complexité et les capacités de ces algorithmes, nous avons sacrifié la transparence et l’accès facile aux résultats d’évaluation et d’analyse. Dans cette optique, il y a un grand mouvement vers une IA explicable – vers le maintien de l’accessibilité de l’apprentissage automatique opérationnel et de l’intelligence artificielle, et la maîtrise du fonctionnement de ces programmes afin d’éviter les mauvaises surprises dans un environnement de production.
Tout cela contribue à expliquer pourquoi, même si l'apprentissage automatique est en plein essor dans le monde technologique d'aujourd'hui, il est souvent « hors de vue, hors de l'esprit ».