LLM locaux, Ollama, Claude Code et agents IA : installer, cadrer et brancher l’IA sur une infrastructure, avec garde-fous et sources.
Un prompt envoyé à un modèle hébergé est une donnée confiée à un tiers. CLOUD Act, transferts au sens du RGPD, cadre UE-États-Unis, SecNumCloud : ce que disent les textes, et trois options d’hébergement.
Avant de coller des données personnelles dans un assistant IA : base légale, minimisation, information, AIPD, réutilisation par le fournisseur. Ce que disent le RGPD et les questions-réponses de la CNIL.
Découper, vectoriser avec /api/embed, indexer dans Chroma, récupérer, générer. Un RAG local en une page de Python, et ses trois points faibles, le découpage, les citations et la mise à jour.
Derrière un proxy qui inspecte le TLS, requests, httpx et huggingface_hub échouent sur la vérification. truststore, les variables de bundle et le piège du CDN Xet, sans jamais couper la vérification.
Installer Open WebUI en Docker ou en Python, le relier à Ollama, sécuriser le premier compte administrateur et ne publier son port que sur 127.0.0.1, car Docker contourne ufw.
Installer Ollama, gérer ses modèles, appeler l’API native ou compatible OpenAI sur le port 11434, et ne l’ouvrir au réseau que filtrée, car l’API locale ne demande aucune authentification.
Le Model Context Protocol relie un assistant IA à vos outils. Pour qu’il lise sans écrire : compte de service minimal, secrets en variables d’environnement, règles de permission outil par outil.
Poids, quantification GGUF, contexte et cache KV : ce qui remplit la VRAM ou la RAM unifiée, les formules d’ordre de grandeur et ce qu’en disent llama.cpp, Ollama et Hugging Face.
llama-server charge un fichier GGUF et l’expose par une API compatible OpenAI. Options utiles (contexte, couches GPU, slots), clé d’API, santé du service, et quand le préférer à Ollama.
Apache 2.0, Llama Community License, Gemma Terms of Use : ce que chaque texte autorise, ce qu’il impose à la redistribution et où trouver la licence d’un modèle sur Hugging Face.
Ce que le hook reçoit sur stdin, comment il refuse (code 2 ou décision JSON), où le déclarer, et pourquoi un code 1 laisse passer la commande. Exemple complet sur une suppression récursive.
Activer la télémétrie de Claude Code, la recevoir dans Prometheus, l’afficher dans Grafana. Et ce que le terrain ajoute, endpoint imposé, increase() muet, historique à rejouer.