L’objectif de ce projet est d’exécuter localement des modèles de langage de grande taille (Large Language Models, LLM) supplémentaires au sein de notre infrastructure existante dans le nuage Azure du Conseil national de recherches du Canada (CNRC). Le modèle de langage de grande taille doit offrir une interface API permettant d’effectuer des requêtes et d’obtenir des réponses appropriées. Aucune exfiltration de données ne doit avoir lieu, et tous les calculs doivent être effectués localement. Pour des raisons de souveraineté et de sécurité des données, le fournisseur du LLM doit principalement opérer au Canada. Le LLM fourni doit être d’usage général et atteindre les principaux indicateurs de performance utilisés dans l’industrie (MMLU, GPQA, IFEval, ChatRAGBench, StrategyQA, et autres) avec une marge de cinq points de pourcentage ou moins par rapport aux modèles industriels de génération précédente ou actuelle (GPT-4o, Llama 3.3 70B, Mistral Large 2, DeepSeek V3, Gemini 2.0 Pro, etc.). Le modèle doit également être conçu et entraîné par le fournisseur à partir de zéro, sans s’appuyer sur le réglage ou le réentraînement de modèles existants. Le fournisseur sera engagé pour l’octroi de licences et l’assistance à l’installation.
Le CNRC explore le déploiement de modèles de langage de grande taille (LLM) dans son environnement informatique en nuage sécurisé, cherchant à exploiter les LLM localement et à garantir que tout traitement et calcul de données s’effectuent entièrement dans un environnement contrôlé, respectant des normes strictes de souveraineté et de sécurité des données.
Des travaux techniques préliminaires ont été réalisés afin d’établir la base de cette initiative, incluant la configuration d’une machine virtuelle dotée de GPU capable de communiquer avec la plateforme interne de prestation de services LLM développée au CNRC.
Cette initiative s’inscrit dans l’engagement continu du CNRC à promouvoir des capacités d’intelligence artificielle sécurisées et souveraines qui soutiennent l’innovation canadienne, protègent les informations sensibles et assurent la conformité aux normes gouvernementales de gestion des données.
