AI Engineer

Objectifs pédagogiques

• Sélectionner et maîtriser les LLMs : comprendre les architectures, paramétrer finement (system prompt, context window, temperature, context caching) et choisir le modèle adapté selon le cas d'usage
• Maîtriser l'IA Agentique et l'Orchestration : les technologies d'interrogation de modèles (API streaming, SDK), l'orchestration d'agents avec LangChain, LangGraph, Google ADK, et comprendre les patterns agentiques (ReAct, plan-and-execute, multi-agents)
• Créer des Outils Interopérables : développer et intégrer des outils via le Function Calling, concevoir et déployer un serveur MCP (Model Context Protocol)
• Développer des Pipelines RAG complets : gérer les embeddings, maîtriser les bases de données vectorielles, optimiser le chunking et implémenter des stratégies de retrieval complexes
• Évaluer : implémenter des protocoles d'évaluation automatisés (LLM-as-a-judge, DeepEval, Pytest) pour mesurer la fiabilité, la pertinence et les performances des applications d'IA générative
• Industrialiser et Sécuriser (LLMOps) : évaluer la performance via OpenTelemetry, sécuriser les applications (Guardrails) et déployer en production en optimisant les coûts

Public visé

• Développeurs Fullstack, Software Engineers, Architectes Logiciels, Data Engineers, Tech Leads, MLOps et Data Scientists souhaitant maîtriser la construction d'applications avec l'IA générative et l'IA Agentique

Prérequis

• Python : maîtrise du langage (fonctions, classes, async/await)
• APIs REST : compréhension des appels HTTP, JSON, authentification
• Git : utilisation basique (clone, commit, push)
• Cloud : notions de base (compte GCP, AWS ou Azure)
• Aucune connaissance préalable en IA générative n'est requise, le Module 1 couvre tous les fondamentaux
• Un ordinateur portable (Windows, macOS ou Linux) avec minimum 6 Go de RAM
• Python 3.10+ installé avec pip
• Un IDE (VS Code recommandé) avec l'extension Python

Programme

1. 01

   Fondamentaux IA Générative

   • Qu'est-ce que l'IA générative ? IA classique vs IA générative
   • Comment fonctionne un LLM : le pipeline du prompt à la réponse
   • Architecture Transformer : mécanisme d'attention, encoder vs decoder
   • Tokenization & embeddings : BPE, espaces vectoriels, impact sur les coûts
   • Panorama des modèles 2026 : Claude 4.6, Gemini 3.1, GPT-5.x, Llama 4, Mistral 3
   • Paramètres de génération : température, context window, context caching, system prompt
   • Limites et hallucinations : types, causes, stratégies de mitigation

2. 02

   Hébergement & Providers Cloud

   • Vertex AI : Model Garden, Gemini API, endpoints managés, fine-tuning, tarification
   • Amazon Bedrock : API unifiée, modèles multi-fournisseurs, Guardrails, Provisioned Throughput
   • Azure OpenAI Service : déploiement, content filtering, quotas TPM, intégration écosystème Azure
   • Comparatif providers : latence, coûts, conformité RGPD, arbre de décision
   • Stratégie multi-provider : abstraction, failover, load balancing, LiteLLM
   • Self-hosting & open-source : vLLM, Ollama, TGI, coûts GPU

3. 03

   Prompt Engineering Avancé

   • Patterns avancés : ReAct, Tree-of-Thought, Self-Consistency
   • Structured outputs : JSON mode, Pydantic, grammaires contraintes
   • System prompts : rôles, personas, instructions complexes
   • Prompt templating & versioning

4. 04

   Function Calling & Tool Design

   • Function calling unifié : OpenAI, Anthropic, Gemini - patterns communs
   • Tool design : schémas, validation, error handling, idempotence

5. 05

   APIs & SDKs - Patterns & Coûts

   • Patterns communs : streaming, gestion d'erreurs, retry, rate limiting
   • Optimisation des coûts : caching, batching, choix de modèle contextuel
   • Multi-model routing : stratégies de routage par complexité

6. 06

   RAG - Retrieval Augmented Generation

   • Embeddings : modèles (OpenAI, Cohere, BGE), espaces vectoriels
   • Vector databases : Pinecone, ChromaDB, Weaviate, Vertex AI Vector Search
   • Stratégies de chunking : fixed, semantic, recursive, document-aware
   • Retrieval avancé : hybrid search, re-ranking, query expansion
   • RAG patterns : naive, parent-child, corrective RAG

7. 07

   LangChain - Framework & Écosystème

   • Architecture LangChain : LCEL (LangChain Expression Language), Runnables
   • Composants clés : ChatModels, Prompts, OutputParsers, Retrievers
   • Chains avancées : sequential, parallel, branching, fallbacks
   • Intégration vector stores : FAISS, Chroma, Pinecone
   • Memory & state management : ConversationBuffer, migration vers LangGraph

8. 08

   LangGraph - Agents & Workflows Complexes

   • Pourquoi LangGraph ? Limites des chains linéaires, besoin de graphes
   • Concepts fondamentaux : StateGraph, nodes, edges, conditional edges
   • State management : typed state, reducers, checkpointing
   • Patterns agentiques : ReAct agent, plan-and-execute, réflexion
   • Human-in-the-loop : interrupts, approval workflows, breakpoints
   • Subgraphs & composition : modularité, agents imbriqués
   • Persistence & streaming : checkpointers, event streaming

9. 09

   MCP - Model Context Protocol

   • Architecture MCP : client/serveur, transports (stdio, Streamable HTTP)
   • Les 3 primitives : Tools, Resources, Prompts
   • Construire son serveur MCP en Python (FastMCP)
   • Construire son serveur MCP en TypeScript
   • Écosystème MCP : serveurs communautaires, intégrations enterprise
   • Différence entre un tool et un serveur MCP : quand utiliser l'un ou l'autre

10. 10

    Google ADK + Multi-Agents

    • Introduction ADK : philosophie Google, positionnement vs LangGraph
    • Architecture ADK : Agent, Tool, Session, Runner
    • Types d'agents : LlmAgent, SequentialAgent, LoopAgent, ParallelAgent
    • Tool ecosystem : function tools, built-in tools, MCP tools
    • Orchestration multi-agents : sub_agents, AgentTool, délégation, hiérarchie
    • Architectures multi-agents : supervisor, hiérarchique, consensus, swarm
    • Comparatif ADK vs LangGraph vs CrewAI : critères de choix

11. 11

    Évaluation & Métriques

    • Pourquoi évaluer : non-déterminisme, pyramide d'évaluation
    • Benchmarks automatisés : BLEU, ROUGE, MMLU, GSM8K, HumanEval
    • LLM-as-judge : critères personnalisés, biais, calibration
    • Métriques de qualité : accuracy, faithfulness, hallucination
    • Métriques de performance : TTFT, latence P95/P99, throughput
    • G-Eval : évaluation par LLM avec critères auto-générés
    • DeepEval : Faithfulness, Answer Relevancy, Hallucination metrics
    • Intégration pytest : assert_test avec DeepEval, golden datasets

12. 12

    Tracing, Tests & Debugging

    • Tracing LLM : rendre chaque étape observable
    • LangSmith : tracing natif LangChain, décorateur @traceable
    • Langfuse : alternative open source (MIT), self-hosting gratuit
    • Phoenix (Arize) : OpenTelemetry-natif, zero vendor lock-in
    • Tests de régression avec pytest et DeepEval
    • Pipeline CI/CD avec GitHub Actions : quality gates automatisés
    • Debugging d'agents : problèmes courants, boucles, mauvaise sélection d'outil
    • LangGraph Studio : visualisation, mode debug, fork & edit

13. 13

    Sécurité & Guardrails

    • Menaces de sécurité LLM : prompt injection, exfiltration, jailbreak
    • Défense multicouche : input validation, prompt hardening, output validation
    • NeMo Guardrails (NVIDIA) : Colang, topic control, jailbreak detection
    • Guardrails AI : validators composables, Hub, PII detection
    • Content filtering en production : pipeline multicouche
    • Propagation des droits et sécurisation des accès

14. 14

    Architecture & Déploiement Cloud

    • Les 4 couches : entrée, applicative, inférence, observabilité
    • API Gateway : authentification, rate limiting, routing
    • Cache sémantique : embeddings, Redis, gains en production
    • Google Cloud Run : conteneurisation, auto-scaling, streaming SSE
    • AWS Lambda : functions serverless, contraintes et cold start
    • Vertex AI Endpoints : déploiement de modèles GPU/TPU
    • AWS Bedrock AgentCore : runtime d'agents, framework-agnostique

15. 15

    Scaling, Coûts & LangGraph Platform

    • Défis spécifiques du scaling LLM
    • Auto-scaling : horizontal, vertical, prédictif
    • Structure des coûts LLM : tokens, infrastructure, observabilité
    • Model Router : routage dynamique par complexité (économies 30-85%)
    • Techniques d'optimisation : cache sémantique, prompt optimization, batch API
    • LangGraph Platform : infrastructure pour agents stateful
    • Options de déploiement : Cloud, Hybrid, Self-Hosted
    • Checklist de mise en production : les 6 piliers

Fiches et expertises liées

• TechnologieADK
• ConceptEvals LLM
• TechnologieMCP
• ConceptPrompt Engineering
• ConceptRAG
• ExpertiseIntelligence artificielle