Les 3 articles les plus chauds de la veille du 3 novembre 2026. 🔥

🔥 Top 3

1. Astra can read and write weights to improve Qwen

On a demandé à un modèle de regarder une longue liste de nombres, sans rien exécuter, et de deviner à quoi elle servait. Il a répondu : un réseau entraîné à jouer à Breakout.

Ces nombres, ce sont les poids d’un réseau de neurones, les paramètres qu’on ajuste normalement par descente de gradient, en faisant passer des millions d’exemples. GPT-6 Astra, lui, les lit et les réécrit directement, en langage naturel.

Le résultat le plus parlant concerne Qwen3.5-0.8B. Astra repère dans ses poids l’origine des boucles de raisonnement qui plombent le modèle sur les maths, puis corrige 0,016% des valeurs. Score MATH-500 : de 7,9% à 48,1%. Le suivi d’instructions triple dans la foulée, sans réglage supplémentaire. Aucun gradient, aucun retour d’environnement.

Autre test : écrire de zéro un petit réseau qui joue à des jeux et bat un réseau entraîné par PPO pendant 100 millions d’étapes. PPO, pour situer, c’est l’algorithme de renforcement classique qui apprend par essais répétés.

L’équipe appelle ça Weight-Space Programming. L’idée de fond : les LLM commencent à remplacer Adam et Muon, ces optimiseurs symboliques hérités des débuts du deep learning, en raisonnant sur ce que chaque partie du réseau calcule ou devrait calculer.

Tout ça tient sur des réseaux de taille modeste. La vraie question, c’est le passage à l’échelle : éditer 0,016% des poids d’un modèle de 0,8 milliard de paramètres, est-ce que ça survit à un modèle cent fois plus gros, ou est-ce que ça devient du bricolage ?

🔗 rikiyat.github.io

2. Scaling Git at OpenAI

Un pétaoctet de Git par jour. C’est ce que le backend de code source d’OpenAI encaisse aujourd’hui. Motif du changement : la fiabilité de leur monorepo (un dépôt unique qui contient tout le code de l’entreprise) est descendue sous les 90 % fin 2025. Fetches lents, merges ratés, la panne rampante.

Le coupable ? Codex. Les agents produisent du code en parallèle, multiplient les branches et les pushes. Un ingénieur peut avoir plusieurs changements prêts pour la CI en même temps, et chaque push lance des jobs qui réclament le même commit.

Plutôt que d’abandonner Git, OpenAI a réécrit l’arrière-boutique. Le système s’appelle Pando, et il conserve le protocole et le client Git tels quels. Personne n’a changé ses habitudes de travail.

Deux mécanismes font le travail. Pando traite chaque branche indépendamment : les écritures sur des branches sans lien avancent en parallèle au lieu de faire la queue. Et il réutilise les packfiles (les archives compressées où Git regroupe les objets d’un dépôt) d’une requête à l’autre, au lieu d’en générer un neuf par client. Le serveur sert les mêmes octets à tout le monde, presque sans calcul.

Le compromis : un lecteur qui inspecte plusieurs branches peut les voir à des instants différents. OpenAI l’assume.

Résultat mesuré : latence médiane de push divisée par près de cinq. Les correctifs apportés au client Git repartent vers le projet public. Combien d’équipes accepteront un historique légèrement désynchronisé pour suivre le rythme de leurs agents ?

🔗 OpenAI

3. llm 0.37

Des mainteneurs open source noyés sous les pull requests générées par IA, Simon Willison en reçoit aussi. Sauf qu’il explique ne pas en souffrir. Son secret : il fait trier la file par Opus 5.5 ou GPT-6 Astra avant d’ouvrir le moindre diff.

La version 0.37 de son outil llm (une CLI pour interroger des modèles depuis un terminal, doublée d’une bibliothèque Python) embarque deux mois de travail accumulé. Il ajoute gpt-6.1-sol et gpt-6.1-terra, et une commande llm openai endpoint add pour brancher n’importe quelle API compatible OpenAI sans se battre avec la configuration.

Le modèle par défaut change aussi : gpt-6-luna remplace gpt-5.6-luna, à moitié prix.

Côté embeddings, ces représentations vectorielles qui servent à la recherche sémantique, la nouveauté est discrète. Le support accepte désormais qu’un même lot contienne des contenus binaires de types différents. De quoi utiliser Gemini Embedding 2, qui vectorise texte, audio, images et vidéo dans le même pipeline.

Sur les contributions, Willison recadre le débat : il traite les PR assistées par IA comme des rapports de bug avec un exemple joint. Parfois il fusionne, parfois il réécrit le correctif lui-même. Douze auteurs figurent aux remerciements, presque tous aidés par une IA.

Combien de projets ont les moyens, en tokens et en temps, de s’offrir le même filtre ?

🔗 Simon Willison

📦 Le reste de la veille