Quand l’auto-hébergement d’un modèle ouvert devient rentable

Il existe un volume de tokens au-delà duquel exécuter votre propre modèle sur vLLM coûte moins cher qu’une API, et un seuil de conformité en deçà duquel c’est la seule option. Voici comment calculer les deux.