Une application d'observabilité des performances et du fonctionnement des applications utilisant des LLMs.

La solution de Langfuse est beaucoup plus complète pour l'instant.

Les auteurs proposent une méthode dédiée à l'analyse de données structurées en tableaux. La méthode permet de générer des opérations sur la table en fonction de la question qui permet de transformer les données pour répondre à la question. Grâce à cette chaine d'opérations qui modifient les données itérativement, le LLM parvient à trouver la bonne réponse à l'inverse des méthodes classiques qui analysent directement les données ou génèrent du SQL.