Camel
Des tâches LLM nommées sur un GPU local. Chacune est un prompt enregistré avec un contrat de sortie, pour que de petits modèles donnent des réponses fiables à mes autres applications.
Mes applications ont parfois besoin d’un petit jugement : ce courriel mérite-t-il une notification, dans quelle catégorie va cette dépense, résume cette note. Camel y répond avec un modèle qui roule sur un GPU à la maison, par Ollama.
Une tâche, c’est un prompt enregistré et un contrat de sortie : un choix dans une liste, un objet JSON conforme à un schéma, ou du texte libre. Le modèle est contraint à cette forme, et c’est ce qui rend un modèle de 9 milliards de paramètres assez fiable pour être appelé par du code. Les appelants lancent simplement une tâche par son nom, avec un jeton.
Les tâches sont versionnées : ajuster un prompt se fait sans crainte et se défait facilement. Un serveur MCP permet à un assistant d’écrire et de tester des tâches sur de vrais exemples avec moi.