Questions
Est-ce vraiment privé ?
Oui, à une exception près dans le chat. Votre modèle tourne sur une machine virtuelle qui ne sert que votre compte, dans un centre de données en Suisse. Les requêtes vont, chiffrées, de votre application à cette machine en passant par notre passerelle, puis reviennent ; rien n’en est conservé une fois la réponse envoyée. L’exception : quand la recherche web est active dans le chat, ses requêtes partent chez DuckDuckGo, hors de Suisse, et notre serveur ouvre les pages que le modèle choisit. L’API ne fait jamais de recherche web.
Puis-je l’utiliser avec mon code existant ?
Oui, s’il utilise l’API chat completions d’OpenAI : changez l’URL de base et la clé. Cela couvre les SDK officiels, LangChain, LlamaIndex, OpenCode, Cursor, Continue et la plupart des frameworks d’agents. Streaming, appels d’outils et images sont pris en charge.
Quel modèle choisir ?
Qwen3.6 si votre application appelle des outils ou écrit du code ; il demande l’offre Team. Gemma 4 si vous voulez le chat le plus rapide ou lisez beaucoup de documents et d’images. Nous changeons le modèle de votre machine à votre demande, si le nouveau tient sur le GPU de l’offre ; cela demande un redémarrage.
Quelle est la vitesse ?
Sur l’offre Solo, un utilisateur seul obtient 30 à 45 tokens par seconde, et le GPU sert environ 15 conversations à la fois avant que la vitesse individuelle ne baisse. L’offre Team triple à peu près ces chiffres. Les longs documents prennent quelques secondes à lire la première fois, puis sont mis en cache.
Puis-je apporter mon propre modèle ?
Oui, si vLLM peut le servir, s’il tient sur le GPU de votre offre et si sa licence le permet ; vos propres fine-tunes compris. Indiquez-nous le dépôt Hugging Face et nous vous disons quelle offre il demande.
Qui exploite ce service ?
LLMaaS est exploité depuis Prilly, dans le canton de Vaud. Le support répond par e-mail à hello@llmaas.ch les jours ouvrables, au plus tard le jour ouvrable suivant. Le contrat relève du droit suisse, et les factures sont en francs suisses.