- ZeroSearch réduit considérablement le coût de formation des modèles d'IA grâce à des recherches simulées, éliminant ainsi la dépendance aux moteurs de recherche externes.
- Il utilise un système d’apprentissage par renforcement supervisé qui améliore les capacités de rappel et de raisonnement des LLM.
- Il permet aux entreprises et aux développeurs de former des modèles avancés à faible coût, gagnant ainsi en autonomie et en contrôle sur le processus.
L'innovation dans le domaine de l'intelligence artificielle a connu une croissance exponentielle ces dernières années, notamment en ce qui concerne les grands modèles de langage (LLM). L'une des avancées les plus marquantes de 2025 a été ZeroSearch, une technologie développée par Alibaba qui révolutionne l'entraînement de ces modèles. Qu'est-ce que ZeroSearch exactement, et pourquoi suscite-t-elle un tel engouement dans le secteur ? Cet article explore cette nouvelle méthodologie, son fonctionnement, ses avantages par rapport aux méthodes traditionnelles et son potentiel pour transformer le développement de l'IA à tous les niveaux.
Dans le secteur technologique, c'est le sujet de toutes les conversations : ZeroSearch promet de réduire les coûts de formation des IA de 88 % , un gain d'efficacité stupéfiant. Loin d'être un simple argument marketing, cette avancée majeure a des implications considérables pour les entreprises de toutes tailles, les développeurs et, bien sûr, pour le développement de l'intelligence artificielle en général.
Qu'est-ce que ZeroSearch et d'où vient-il ?
ZeroSearch est une nouvelle technique d'apprentissage par renforcement conçue pour entraîner des modèles de langage sans recourir à de véritables moteurs de recherche externes. Cette innovation, issue du laboratoire Tongyi d'Alibaba, vise à résoudre deux problèmes courants liés à l'entraînement des modèles d'IA utilisant la recherche web : le coût élevé des API et l' imprévisibilité de la qualité des documents récupérés.
Jusqu’à présent, le développement d’assistants avancés, de chatbots ou de moteurs de recommandation nécessitait d’envoyer des dizaines de milliers de requêtes à des moteurs de recherche comme Google via des services payants, augmentant le coût et limitant l’évolutivité, en particulier pour les entreprises disposant de budgets serrés.
ZeroSearch change la donne en misant sur un système dans lequel le LLM lui-même apprend à simuler le fonctionnement d'un moteur de recherche , en générant des documents pertinents ou même bruités (non pertinents) en réponse aux requêtes et en permettant ainsi une formation sans interaction externe.
Comment fonctionne ZeroSearch ? Explication technique détaillée
ZeroSearch repose sur un cadre d'apprentissage par renforcement (RL) qui élimine le besoin d'effectuer de véritables recherches Internet lors de l'entraînement. Examinons étape par étape comment ce processus est structuré, selon l'approche d'Alibaba et les analyses approfondies publiées sur cette technique.
1. Réglage supervisé léger pour simuler les recherches
Tout commence par un ajustement supervisé (SFT), au cours duquel le modèle LLM est entraîné à se comporter comme un module de recherche d'informations. Grâce à cet ajustement, il apprend à générer des documents de réponse aux requêtes, en imitant le style textuel et le type de contenu proposés par un véritable moteur de recherche. Durant cette phase initiale, les interactions entre le modèle et un moteur de recherche sont enregistrées, constituant ainsi un historique des requêtes et des documents récupérés.
Les chemins réussis, c'est-à-dire ceux qui mènent à la bonne réponse, sont étiquetés comme positifs (documents utiles), tandis que ceux qui aboutissent à des erreurs ou à des réponses incorrectes sont marqués comme négatifs (documents bruyants). Cette différenciation aidera plus tard le modèle à comprendre et à reproduire la dynamique d’une recherche réaliste, y compris les résultats pertinents et ceux moins utiles.
2. Rôle de l'apprentissage par renforcement avec la simulation curriculaire
Après une phase d'optimisation supervisée, le modèle passe à l'apprentissage par renforcement, où les bonnes pratiques sont valorisées et les erreurs sanctionnées. Dans cette phase, le LLM simulé fonctionne comme un moteur de recherche, répondant aux requêtes générées par le modèle de politique et renvoyant des documents potentiellement utiles ou problématiques.
La difficulté du modèle augmente progressivement, selon une stratégie d'apprentissage qui dégrade lentement la qualité des documents générés. Cela permet au système d'apprendre d'abord dans des environnements contrôlés et, au fur et à mesure de sa progression, de rencontrer des exemples de plus en plus complexes ou bruités . Cette approche aide le modèle à développer des capacités de recherche et de raisonnement robustes dans des conditions réalistes.
3. Conception des récompenses et des mesures d'évaluation
Pour guider l'apprentissage, ZeroSearch utilise une fonction de récompense basée sur le score F1 , qui équilibre la précision et le rappel en tenant compte de la correspondance lexicale entre la prédiction et la réponse correcte. L'objectif est de maximiser la précision des réponses finales générées par le modèle, sans trop se soucier de la mise en forme, car les modèles de langage produisent généralement des textes bien formatés.
4. Modèles d'interaction et de raisonnement multi-tours
Lors de la formation, des modèles d’interaction sont utilisés qui divisent le processus en trois étapes : raisonnement interne (délimité par des balises comme <think>...</think>), mener la consultation (<search>...</search>) Y génération de réponses (<answer>...</answer>). Cela permet au modèle d’améliorer sa capacité à formuler des requêtes pertinentes et à fournir des réponses fondées.
5. Compatibilité et évolutivité
ZeroSearch est compatible avec les principaux modèles de langage, tels que la famille Qwen-2.5, Qwen-2.5 , LLaMA-3.2 et leurs variantes optimisées ou de base. De plus, il peut être implémenté avec différents algorithmes de renforcement (PPO, GRPO, entre autres), ce qui facilite son adoption dans divers environnements de développement.
Données du monde réel : combien ZeroSearch enregistre-t-il et quelles sont ses performances ?
Des expériences menées par Alibaba et documentées dans des publications et bases de données spécialisées montrent que ZeroSearch atteint des performances comparables, voire supérieures, à celles des moteurs de recherche commerciaux traditionnels . Les économies réalisées sont particulièrement importantes.
- L'exécution de 64.000 XNUMX requêtes à l'aide de l'API de recherche Google peut coûter environ Dolaires 586,70 (environ 540 €).
- Le même volume de requêtes, généré et géré avec un LLM de 14.000 milliards de paramètres utilisant ZeroSearch, réduit le coût à seulement Dolaires 70,80 (environ 65 €).
- Ce différentiel implique une 88 % d'économies sur les coûts de formation, éliminant la dépendance aux API externes et permettant une plus grande évolutivité.
D'autre part, les résultats de qualité sont impressionnants : les expériences montrent qu'un module de récupération de 7 B paramètres correspond aux performances des systèmes basés sur Google Search, tandis qu'avec 14 B paramètres, le modèle le surpasse même dans les tâches de questions-réponses, en utilisant à la fois des ensembles de données d'inférence à saut unique et complexes.
Principaux avantages et impact sur l'industrie de l'intelligence artificielle
L'arrivée de ZeroSearch représente un changement radical dans la manière dont les entreprises et les développeurs peuvent aborder l'entraînement de modèles avancés :
- Réduction drastique de la barrière économique:Facilite l'accès aux techniques d'IA avancées pour les PME, les startups et les développeurs indépendants qui étaient auparavant freinés par le coût des API commerciales.
- Un meilleur contrôle sur la formationEn générant des documents simulés, les équipes peuvent définir exactement quelles informations le modèle reçoit, en ajustant la difficulté et la qualité en fonction de leurs besoins.
- Renforcer l'autonomie technique:Minimise la dépendance aux grandes plateformes technologiques étrangères, favorisant le développement local de solutions d'IA personnalisées.
- Adaptabilité et modularitéZeroSearch peut être déployé sur une variété de modèles et adapté à différents flux de travail et exigences commerciales.
Différences par rapport aux stratégies précédentes : RAG, recherches réelles et simulations
Avant ZeroSearch, la solution la plus courante pour fournir des informations à jour et précises aux LLM était l'utilisation de RAG (Retrieval-Augmented Generation), où le modèle interroge des sources externes à l'aide de recherches réelles. Cependant, cela présente quelques problèmes évidents :
- Coût élevé:L’utilisation continue des API peut faire grimper en flèche les budgets.
- Qualité variable:Les documents récupérés peuvent être très incohérents en fonction des recherches et de l'API elle-même.
- Limitations légales et de confidentialité:Le recours à des services tiers comporte des risques juridiques et politiques, surtout si vous vous entraînez avec des informations sensibles.
ZeroSearch élimine le besoin de se référer continuellement à des sources externes, permettant au modèle d'apprendre à rechercher « en lui-même » tout en simulant l'expérience d'interaction avec un moteur de recherche.
Impact et applications concrètes : de Quark à la démocratisation de l'IA
Alibaba a déjà intégré ZeroSearch à ses produits commerciaux. Son application Quark, basée sur les modèles Qwen, a bénéficié d'améliorations remarquables en matière de raisonnement et de précision des réponses aux requêtes complexes grâce à cette technique. Mais surtout, ZeroSearch permet aux petites entreprises de concevoir leurs propres modèles avancés sans avoir besoin d'infrastructures externes coûteuses.
La communauté de recherche a accès au référentiel de code, aux ensembles de données et aux modèles pré-entraînés sur GitHub et Hugging Face, ce qui favorise l'adoption et l'expérimentation à l'échelle mondiale.
À quoi ressemblera l’avenir de la formation en IA grâce à ZeroSearch ?
À mesure que ces techniques se perfectionnent, nous assisterons à une prolifération d'assistants intelligents dotés de capacités de recherche avancées, indépendants de Google, Bing et autres services similaires. Ceci ouvre de nouvelles perspectives dans l'éducation, le commerce et la recherche, tout en risquant d'éroder la domination des principaux moteurs de recherche dans le secteur de l'intelligence artificielle.
Pour l’Espagne et l’Europe, cela représente la possibilité d’une croissance autonome, d’une dépendance technologique et de coûts réduits, ainsi que d’un meilleur contrôle stratégique sur les systèmes d’information critiques.
L'essor de ZeroSearch marque le début d'une nouvelle ère où l'entraînement des modèles d'intelligence artificielle ne sera plus un luxe réservé à quelques-uns, mais un outil accessible, évolutif et toujours plus sophistiqué. En apprenant à l'IA à effectuer des recherches sans quitter son environnement, Alibaba a franchi une étape décisive vers le développement de systèmes autonomes et performants, capables de s'adapter à tous les besoins . Il ne s'agit plus seulement de réduire les coûts, mais de redéfinir les règles du jeu pour l'ensemble du secteur de l'intelligence artificielle.
