vLLM : introduction pratique au serving LLM, à l’inférence et au KV cache
Dans ce premier épisode de la série vLLM, on pose les bases : modèle de langage, inférence, tokens, KV cache, PagedAttention et API compatible...
Articles
Dans ce premier épisode de la série vLLM, on pose les bases : modèle de langage, inférence, tokens, KV cache, PagedAttention et API compatible...
Ponytail est un ruleset et une collection de plugins pour agents de code. Le projet pousse l'agent a lire le contexte, reutiliser l'existant, privilegier...
ByteChef est une plateforme open-source de workflow automation qui combine orchestration d'agents IA et automatisation de processus métier dans un même outil. Avec plus...
NATS est un système de messaging open-source léger, écrit en Go et diplômé de la CNCF. Cette introduction pose les bases : ce qu'il...
Agent Sandbox est un projet SIG Apps qui introduit une CRD Sandbox pour Kubernetes, permettant de gerer des workloads isoles, stateful et singleton avec...
Le VRRP standard ne protege ses adverts que par le TTL=255. En unicast (cloud, overlay), cette protection disparait. L'extension auth_hmac de Keepalived ajoute un...
Cet article accompagne l épisode 110 de la série Infra de A à Z sur Infomaniak. Il reprend le dépôt Xavki, les exemples de...
Cet article accompagne l épisode 109 de la série Infra de A à Z sur Infomaniak. Il reprend le dépôt Xavki, les exemples de...
Cet article accompagne l épisode 108 de la série Infra de A à Z sur Infomaniak. Il reprend le dépôt Xavki, les exemples de...
Cet article accompagne l épisode 107 de la série Infra de A à Z sur Infomaniak. Il reprend le dépôt Xavki, les exemples de...
Cet article accompagne l épisode 106 de la série Infra de A à Z sur Infomaniak. Il reprend le dépôt Xavki, les exemples de...
Cet article accompagne l épisode 105 de la série Infra de A à Z sur Infomaniak. Il reprend le dépôt Xavki, les exemples de...