L'avenir de l'intelligence artificielle : modèles actuels, agents de demain et le problème majeur de la vie privée

États-Unis - Agence de presse Ekhbary

L'avenir de l'intelligence artificielle : modèles actuels, agents de demain et le problème majeur de la vie privée

Le domaine de l'intelligence artificielle connaît une évolution fulgurante, stimulée par des investissements de plusieurs milliards de dollars dans son infrastructure et son développement. Depuis la popularisation de modèles comme ChatGPT il y a quelques années, l'industrie a entamé une phase d'innovation à un rythme effréné. Le secteur des semi-conducteurs, en particulier, est désormais largement axé sur la demande croissante de centres de données dédiés à l'IA. Cette progression rapide soulève naturellement des questions cruciales : les modèles d'IA actuels sont-ils suffisamment performants pour avoir un impact significatif, et quels sont les risques inhérents à leur utilisation généralisée ?

La technologie d'apprentissage automatique a indéniablement permis des progrès considérables dans de nombreux secteurs et domaines de recherche. Les systèmes de reconnaissance vocale sont bien plus fiables, les analyses médicales sont plus rapides et précises, la science des matériaux progresse à grands pas, et même les prévisions météorologiques et le suivi du climat ont connu des avancées majeures, grâce à la capacité de l'IA d'accélérer considérablement ou d'améliorer la précision des processus réalisés par les humains.

Malgré ces réalisations impressionnantes, une partie des analystes reste sceptique quant au potentiel des grands modèles linguistiques (LLM) conventionnels – qu'ils soient textuels, basés sur le code ou des agents conversationnels – à atteindre des avancées beaucoup plus importantes. Certains PDG influents ont également exprimé publiquement leurs réserves. Les principaux défis auxquels sont confrontés les LLM sont de trois ordres : l'hallucination, où l'IA génère des informations fabriquées ; l'incertitude des connaissances, où un système ignore qu'il manque d'informations ; et la surconfiance, où un agent affirme des informations incorrectes avec une grande certitude.

Les limites des générateurs d'images et de vidéos sont également très apparentes, se manifestant souvent par du texte déformé sur les panneaux, des mains présentant un nombre anormal de doigts, ou des structures architecturalement impossibles. Quelle que soit la sophistication de ces systèmes d'IA, un manque fondamental de confiance dans leurs résultats demeure l'obstacle le plus important pour qu'une entité se démarque véritablement.

Pourtant, les dernières années ont été marquées par des améliorations quasi mensuelles dans tous les domaines. ChatGPT continue d'améliorer son intelligence et sa mémoire contextuelle, Perplexity affine ses capacités de recherche d'informations, Midjourney a largement résolu les problèmes de génération de mains anatomiquement correctes, et les générateurs vidéo comme Sora respectent de plus en plus les lois physiques fondamentales. Bien que des erreurs significatives puissent survenir avec des agents trop zélés, le taux d'erreur diminue de manière démontrable, et la mise en œuvre de garde-fous s'intensifie.

Les leaders de l'industrie réfléchissent à l'impact sociétal, le PDG d'Anthropic suggérant que l'IA pourrait entraîner jusqu'à 20 % de chômage dans les cinq prochaines années. Parallèlement, l'intégration agressive par Microsoft de son assistant IA Copilot dans tous les aspects de son système d'exploitation indique que l'IA devient une présence incontournable pour l'utilisateur moyen. Cette omniprésence soulève des questions fondamentales sur les mécanismes sous-jacents de l'IA et les facteurs qui contribuent à l'amélioration de tout modèle donné.

Pour bien comprendre, il faut décortiquer les fonctions essentielles de l'IA et identifier les moteurs de l'amélioration des modèles. L'objectif ultime est de garantir que les résultats de l'IA évoluent au-delà de simples "saletés numériques" pour devenir systématiquement fiables et de haute qualité.

À cette fin, les modèles basés sur les LLM (textuels et agents) étendent leurs capacités de raisonnement et réduisent les taux d'hallucination. Cette progression est réalisée par divers moyens, mais un fil conducteur commun parmi les dernières versions des modèles populaires est l'intégration de fenêtres de contexte extrêmement larges et d'un grand nombre de paramètres, souvent de l'ordre de centaines de milliards, voire de billions.

Les fenêtres de contexte dans les LLM sont mesurées en tokens (représentant des mots, des fragments ou des symboles). Ces fenêtres ont considérablement augmenté, passant d'environ 512 tokens en 2018 à plus d'un million de tokens dans les modèles de génération actuelle, marquant une amélioration de plus de 2000 fois en seulement sept ans. Des fenêtres plus grandes offrent au modèle un espace de travail plus étendu pour formuler ses réponses, permettant des processus de "pensée" plus détaillés, une meilleure mémoire conversationnelle, une conscience contextuelle accrue et la capacité d'accéder et de traiter des données supplémentaires, telles que des pages Web, des documents et des référentiels de code entiers.

Bien qu'une fenêtre de contexte plus large n'équivaille pas intrinsèquement à un modèle plus intelligent, elle est essentielle pour supporter un raisonnement plus sophistiqué, en particulier le raisonnement multi-étapes et multi-modal. Les générateurs d'images et de vidéos fonctionnent différemment, n'utilisant pas de fenêtres de contexte au sens traditionnel. Leurs "tokens" sont des pixels et des vecteurs de mouvement, mais des mécanismes analogues permettent la qualité de rendu considérablement améliorée observée aujourd'hui, car ces systèmes peuvent référencer un plus grand ensemble d'images et de vidéos sources.

Les paramètres sont les valeurs internes d'un modèle qui attribuent des degrés de poids variables à des connexions spécifiques entre des informations d'entraînement, comme les relations entre les mots et les faits. Un nombre plus élevé de paramètres permet généralement aux modèles de capturer des informations plus complexes et interconnectées. Cependant, l'augmentation du nombre de paramètres élève également le coût de calcul de l'exécution des requêtes. Si un nombre élevé de paramètres est essentiel pour les modèles de niveau recherche, des moteurs de recherche ou de classification plus simples peuvent fonctionner efficacement avec seulement quelques milliards de paramètres.

La multimodalité est une autre pierre angulaire des modèles d'IA contemporains. Cette avancée signifie que les modèles prennent en compte plus que du simple texte (ou des pixels pour les images, ou des vecteurs pour la vidéo) lors de la génération de résultats. Par exemple, les chatbots peuvent désormais interpréter des images, des graphiques, du code et même des vidéos, en les utilisant comme références lors de la formulation et de la réponse aux requêtes. La Génération Augmentée par Récupération (RAG) devient une pratique courante, où les systèmes d'IA consultent et/ou vérifient les informations par rapport à des sources de données externes.

Inversement, les générateurs visuels peuvent exploiter des informations textuelles pour mieux comprendre les invites (amélioration de l'adhésion à l'invite), générer des légendes et vérifier croisement des données. Une technique particulièrement innovante est "l'apprentissage zero-shot", où un modèle peut déduire les caractéristiques d'un animal, comme un lion, et générer une image de celui-ci en se basant uniquement sur des descriptions textuelles, sans avoir été explicitement entraîné sur des images de lions.

Le raisonnement multi-étapes est une autre capacité qui, bien que peut-être initialement remarquable dans certains agents, devient rapidement courante. Il imite étroitement le raisonnement humain : une IA décompose une tâche ou une question complexe en parties séquentielles, allouant des ressources de calcul à chaque étape et évaluant les résultats avant de continuer. Les utilisateurs peuvent même observer certains systèmes d'IA "revenir en arrière" lorsqu'ils rencontrent une impasse, reflétant les approches humaines de résolution de problèmes.

Cette forme avancée de raisonnement, bien que puissante, est gourmande en calcul et est souvent réservée aux niveaux de service premium. Des modèles comme Claude d'Anthropic excellent dans le raisonnement multi-étapes, conçus pour les tâches de développement et capables de sauvegarder leur "état" opérationnel dans des fichiers pour la gestion de projets à long terme. La plupart des modèles contemporains offrent des modes de fonctionnement "rapide" et "réflexion".

L'intégration de l'utilisation d'outils devient rapidement essentielle. Par définition, les tâches répétitives sont des candidats idéaux à l'automatisation. Les modèles d'IA doivent donc pouvoir s'interfacer avec les API des outils couramment disponibles et les utiliser. Par exemple, Gemini de Google peut interagir avec une grande partie de l'écosystème Google Workspace, tandis que Claude d'Anthropic s'est initialement fait connaître comme assistant de codage, s'intégrant à de nombreux outils de développement. Anthropic explore également le potentiel des LLM pour gérer des entreprises entières, avec des résultats variés. ChatGPT propose également son propre système de plug-ins. En effet, ces modèles d'IA peuvent désormais interagir avec des services externes avec une compétence égale, voire souvent supérieure, à celle des humains.

La taille des ensembles de données d'entraînement est un déterminant fondamental des performances de l'IA. L'évolution dans ce domaine est prévisible, largement contrainte par les capacités du matériel sous-jacent, qui a connu des avancées massives en moins d'une décennie. Pour les LLM, la taille moyenne des ensembles de données d'entraînement est passée d'environ 13 milliards de tokens en 2018 à plus de 20 billions de tokens estimés aujourd'hui. Les générateurs d'images, initialement entraînés sur moins de 10 millions d'images, utilisent désormais des ensembles de données contenant plusieurs milliards. La génération vidéo, exigeant un espace et une RAM considérables, a vu les premiers générateurs travailler avec des ensembles de données inférieurs à un million.

Agence de presse Ekhbary