Constat préalable: certains projets ont une codebase restreinte. En parallèle certains providers d'IA n'ont pas de limites de tokens.
Problématique actuelle: en mode classique, quand on veut faire une modification, les agents fouillent à travers la codebase pour déterminer quoi changer.
Cela prend du temps, parfois beaucoup de temps et peut générer de l'imprécision si l'agent a manqué un fichier pertinent.
Solution:
Étant donné que la plupart des modèles actuels ont une taille de contexte pouvant aller jusqu'à 1 ou 2 millions de tokens par session, il serait très pertinent d'avoir ce fameux godmode, qui, au lieu de fouiller la codebase avant de faire la requête LLM, envoie absolument toute la codebase. Ainsi le contexte est global et absolu.
Résultat attendu: une requête utilisateur prendra moins de temps, aura moins d'erreur, une vision d'ensemble beaucoup plus importante pouvant même détecter et modifier des anomalies qui auraient été hors contexte en temps normal.
Comment cela doit prendre forme?
Il doit s'agir d'un menu dédié, activable dans les paramètres -> expérimental.
A son ouverture ça affiche une interface de tchat. Avec des sessions, tout ce qu'il y a de plus classique.
Dans ce tchat ajouter 1 selzcteurs avec 2 options "ask" et "build"
Ask sera que read only. Idéal pour avoir une réponse rapide sur une large codebase
Build pourra éditer le code.
Limitation : pour qu'une session god mode puisse être créé, il faut que le modèle sélectionné ait une taille max de contexte supérieure au contexte global de la codebase ainsi que le prompt système et une marge de sécurité.
Interrogations: comment intégrer ça avec le système actuel qui créer des tâches et des worktrees pour qu'aucun travail ne soit écrasé entre les 2 systèmes et qu'on puisse aisément travailler dans le godmode sans que ça n'interfère avec les tâches classiques.
Ce système proposé a déjà été éprouvé dans d'autres outils, notamment Dyad.sh.
L'agent n'avait plus besoin de réfléchir où chercher, mais seulement "comment changer".
Ce système est particulièrement efficace pour les moyennes codebase jusqu'à 1M de jetons de tokens.
Ça permet d'itérer extrêmement rapidement et d'avoir un MVP fonctionnel en quelques heures de travail.
La précision se trouvant nettement augmenter et l'édition prenant 10 fois moins de temps.
Compromis à cela, il n'y aura pas de plan, de review etc. C'est de l'édition rapide mais on peut rédiger le plan au préalable dans la session et vérifier avec l'agent s'il a bien compris et identifié notre problème avant d'éditer.
Finalement, comme les AI builders actuels, sauf qu'au lieu de chercher dans la codebase, on envoie toute la codebase directement jusqu'à la limite du modèle de l'utilisateur.
Constat préalable: certains projets ont une codebase restreinte. En parallèle certains providers d'IA n'ont pas de limites de tokens.
Problématique actuelle: en mode classique, quand on veut faire une modification, les agents fouillent à travers la codebase pour déterminer quoi changer.
Cela prend du temps, parfois beaucoup de temps et peut générer de l'imprécision si l'agent a manqué un fichier pertinent.
Solution:
Étant donné que la plupart des modèles actuels ont une taille de contexte pouvant aller jusqu'à 1 ou 2 millions de tokens par session, il serait très pertinent d'avoir ce fameux godmode, qui, au lieu de fouiller la codebase avant de faire la requête LLM, envoie absolument toute la codebase. Ainsi le contexte est global et absolu.
Résultat attendu: une requête utilisateur prendra moins de temps, aura moins d'erreur, une vision d'ensemble beaucoup plus importante pouvant même détecter et modifier des anomalies qui auraient été hors contexte en temps normal.
Comment cela doit prendre forme?
Il doit s'agir d'un menu dédié, activable dans les paramètres -> expérimental.
A son ouverture ça affiche une interface de tchat. Avec des sessions, tout ce qu'il y a de plus classique.
Dans ce tchat ajouter 1 selzcteurs avec 2 options "ask" et "build"
Ask sera que read only. Idéal pour avoir une réponse rapide sur une large codebase
Build pourra éditer le code.
Limitation : pour qu'une session god mode puisse être créé, il faut que le modèle sélectionné ait une taille max de contexte supérieure au contexte global de la codebase ainsi que le prompt système et une marge de sécurité.
Interrogations: comment intégrer ça avec le système actuel qui créer des tâches et des worktrees pour qu'aucun travail ne soit écrasé entre les 2 systèmes et qu'on puisse aisément travailler dans le godmode sans que ça n'interfère avec les tâches classiques.
Ce système proposé a déjà été éprouvé dans d'autres outils, notamment Dyad.sh.
L'agent n'avait plus besoin de réfléchir où chercher, mais seulement "comment changer".
Ce système est particulièrement efficace pour les moyennes codebase jusqu'à 1M de jetons de tokens.
Ça permet d'itérer extrêmement rapidement et d'avoir un MVP fonctionnel en quelques heures de travail.
La précision se trouvant nettement augmenter et l'édition prenant 10 fois moins de temps.
Compromis à cela, il n'y aura pas de plan, de review etc. C'est de l'édition rapide mais on peut rédiger le plan au préalable dans la session et vérifier avec l'agent s'il a bien compris et identifié notre problème avant d'éditer.
Finalement, comme les AI builders actuels, sauf qu'au lieu de chercher dans la codebase, on envoie toute la codebase directement jusqu'à la limite du modèle de l'utilisateur.