Hébergement et inférence IA
Cortex
Nous mettons en ligne vos applications et vos modèles d’IA, et nous entretenons les serveurs.
Cette page s’adresse aux équipes techniques. Cortex est l’infrastructure que nous exploitons à Trois-Rivières, au Québec, et qui fait tourner nos propres produits. Nous pouvons aussi y héberger vos applications et vos modèles d’IA, sur demande.
Pour l’instant, Cortex héberge nos propres produits et les logiciels de Constellation Heating, l’entreprise d’un de nos cofondateurs. Nous pouvons mettre votre projet en ligne sur demande : écrivez-nous pour en parler. Les prix ne sont pas fixés.
Pourquoi
Vous voulez vos applications en ligne, sans avoir à exploiter les serveurs.
Un grand nuage permet de démarrer vite, puis la facture, les quotas et les services propriétaires grandissent avec vous. Vos propres serveurs vous donnent le contrôle, mais quelqu’un doit s’occuper du réseau, du stockage, des mises à jour, de la sécurité et de la garde. Et les API d’IA envoient vos données à un fournisseur externe.
Vous nous confiez une application ou un modèle, nous le mettons en ligne sur votre domaine et nous exploitons tout ce qu’il y a en dessous. Une console en libre-service et l’accès Kubernetes sont prévus pour plus tard.
Ce que vous obtenez
- 01
Hébergez n’importe quelle application
Fournissez une image de conteneur, sa configuration et ses vérifications d’état. Nous la déployons et la rendons accessible sur votre domaine.
- 02
Des modèles d’IA sur nos machines
Vos modèles tournent sur nos machines NVIDIA DGX Spark et AMD Strix Halo à Trois-Rivières. Rien n’est envoyé à une API tierce.
- 03
Kubernetes, plus tard
Prévu : un environnement isolé avec ses propres politiques et l’accès Kubernetes. Dites-nous si vous en avez besoin.
- 04
N’importe quel nœud peut tomber sans perte de données
Si un nœud de calcul tombe, les autres prennent le relais et nous le remplaçons. Aucune donnée n’y est gardée.
- 05
Hébergé au Québec
Les applications hébergées sur Cortex tournent sur nos machines à Trois-Rivières. Les sauvegardes et certains fichiers sont conservés chez un fournisseur externe, nommé dans notre politique de confidentialité.
- 06
Une équipe à Trois-Rivières
Vous parlez directement à l’équipe qui exploite l’infrastructure.
Comment ça marche
- 01
Nous écrire
Décrivez votre application ou votre modèle, et ce qu’il lui faut.
- 02
Fournir une image
Votre application ou votre serveur de modèles, en conteneur, avec sa configuration et ses vérifications d’état.
- 03
Mettre en ligne
Nous la déployons et rattachons votre domaine.
- 04
Exploiter
Nous surveillons l’infrastructure et remplaçons le matériel en panne.
Ce qui change
Votre équipe livre des fonctionnalités. Nous entretenons les serveurs.
- Aucun serveur, réseau ou mise à jour à entretenir pour votre équipe.
- Votre IA tourne près de vos données, pas sur l’API d’un fournisseur externe.
- Une seule équipe à joindre, à Trois-Rivières.
En bref
Cortex
- Ce que nous hébergeons
- Applications, sites web et inférence IA, en conteneurs
- Emplacement
- Trois-Rivières, Québec
- Redondance
- Calcul sans état : n’importe quel nœud peut tomber sans perte de données. Nous remplaçons le matériel en panne.
- Matériel IA
- NVIDIA DGX Spark, AMD Ryzen AI Max (Strix Halo)
- Calcul
- Nœuds ARM64 sans état sous Talos Linux
- Orchestration
- Kubernetes
- Accès
- Mise en ligne par notre équipe. Console web, API et accès Kubernetes prévus.
Cortex vous intéresse?
Décrivez votre application ou votre modèle, et ce qu’il lui faut. Nous vous dirons si Cortex peut l’héberger.