Un projet soutenu par Firefox qui sauvegarde les sites que vous visitez puis les utilise dans un RAG local construit avec PrivateGPT.

Cela permet de chercher dans les sites qu'on a pu visiter plutôt que tout internet.

Une version Open Source de Github Copilot.

C'est du self-hosted avec les modèles suivants:

• TabbyML/StarCoder-7B
• TabbyML/CodeLlama-13B
• TabbyML/DeepseekCoder-6.7B

Phi-2 est un modèle de seulement 2.7 milliards de paramètre conçu par Microsoft et à destination des terminaux mobile.

Malgré sa petite taille, il affiche des performances similaires à Llama 70 ou Mistral 7B.

Il est même plus performant que Gemini Nano 2 alors qu'il est plus petit que celui-ci (3.2B vs 2.7B)

Une excellente analyse de la situation actuelle ou Google et Microsoft se battent d'un côté contre l'Open Source avec principalement Meta de l'autre côté du ring.

Google est enfaite en position d'avance technologique en GenAI depuis des années, c'est à eux qu'on doit l'architecture Transformers à la base de toute la GenAI mais aussi le premier LLM: BERT.

Ils sont juste assez mauvais en terme de communication et leurs succès ne sont pas reconnus du grand publique.

De leur côté, Amazon et Apple sont assez tranquille pour expérimenter petit à petit sans que cela fasse de vagues, notamment sur la cotation boursière.