Une solution de génération de code qui s'inspire grandement de AlphaCode de Google.

Les problèmes sont des exercices de code (code contest), ce sont des problèmes d'algorithmie ayant peu de rapport avec le quotidien d'un développeur.

Fonctionnement:

• génération de tests supplémentaires
• génération de solutions possibles
• exécution de chaque solution
• correction éventuelle

C'est plus ou moins du bruteforce

Un article très intéressant sur l'écosystème des LLMs.

Il parle notamment des 5 types de frameworks:

• Open Ended (AutoGPT, AutoGen): résoudre des problèmes généraux et complexes de manière quasi autonome
  • Compilation Driven (DSPy): génération de chaines de prompts à partir de schéma contraints sur les entrées et sorties
  • Prompt Engineering Utils (Langchain, LlamaIndex): template de prompt, parsing, embeddings retrieval
  • Schema Driven Generation (Langchain, LlamaIndex, Marvin): forcer la génération à respecter un schéma précis pour le parsing
  • Controlled Generation (Outline, LMQL): contraindre le LLM à satisfaire un format et d'autres contraintes

Un excellent cas d'usage d'un LLM pour de la relation client.

Les 5 comportements qu'ils ont prévu:

• rédiger une synthèse des échanges avec le client
• résumer les feedbacks positifs émis par le client
• faire émerger des problèmes récurrents
• analyser le niveau d’implication des stakeholders
• détecter des opportunités d’upsell

Pinecone propose un RAG sur étagère avec ingestion de données puis conversation en quelques commandes depuis un terminal.

Sous le capot ça va ingérer les données d'un répertoire dans Pinecone (embeddings OpenAI ou autre) et permettre de les utiliser dans un RAG conversationnel.

L'outil expose aussi un serveur d'API pour une intégration dans une application.