Ton premier LLM local en 3 commandes

Ollama est la façon la plus simple de faire tourner un LLM open-source sur ta machine. Aucune clé API, aucune donnée envoyée dehors.

Installation

# Mac / Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows → installer depuis https://ollama.com/download

Choisir un modèle

Modèle	Taille	Usage	RAM requise
`llama3.2:3b`	2 Go	Chat rapide, débutant	4 Go
`qwen3:8b`	5 Go	Code + raisonnement	8 Go
`qwen3:14b`	9 Go	Meilleur coding local	16 Go
`nomic-embed-text`	274 Mo	Embeddings pour RAG	2 Go

Lancer un modèle

ollama pull qwen3:8b      # télécharge le modèle
ollama run qwen3:8b       # démarre le chat

API locale (compatible OpenAI)

Ollama expose une API sur http://localhost:11434 compatible avec le format OpenAI :

from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

response = client.chat.completions.create(
    model="qwen3:8b",
    messages=[{"role": "user", "content": "Explique le RAG en 3 lignes"}]
)
print(response.choices[0].message.content)

Intégration dans VS Code

Avec l'extension Continue (continue.dev), tu peux brancher Ollama directement dans VS Code comme alternative locale à Copilot.

// ~/.continue/config.json
{
  "models": [{
    "title": "Qwen3 Local",
    "provider": "ollama",
    "model": "qwen3:8b"
  }]
}

Cas d'usage typiques

Code review confidentiel (pas de données envoyées à des serveurs tiers)
Embeddings locaux pour RAG sur tes propres documents
Tests de prompts sans frais d'API
Environnement air-gapped (entreprise, RGPD strict)

Ton premier LLM local en 3 commandes (Ollama)