De plus en plus de startup dans la GenAI qui souhaitaient développer leurs propres modèles se rendent compte que ça va coûter des milliards de dollars d'être en concurrence avec les GAFAM.

330 milliards dans 26 000 startups sur les 3 dernières années, c'est 60% de plus que ce qu'elles ont investi entre 2018 et 2020.

A part OpenAI qui aurait fait 1.6 milliards de bénéfices l'année dernière (vs 200 millions pour Anthropic avec Claude), il y a beaucoup d'entreprises qui ne parviennent pas à faire payer leurs produits GenAI.

Bref, c'est le début du retour sur terre avec surement une réduction des investissements dans les prochains mois.

Les recommandations de l'ANSSI en matière de sécurité autour de la GenAI.

Ils s'attardent sur 3 catégories d'attaques:

• Attaques par manipulation: c'est l'injection de prompt
• Attaques par infection: injecter de fausses données d'entrainement pour fausser le système plus tard
• Attaques par exfiltration: récupérer des données d'entrainements ou les paramètres du modèle

Sinon c'est de la sécurité assez classique au final, DevSecOps, confidentialité, hébergement de confiance, etc.

Concernant les LLMs, ils conseillent de

• filtrer les entrées / sorties du système d'IA
• limiter les actions automatiques des Agents