L’IA qui m’intéresse n’est pas une démo : c’est une fonctionnalité en production qui lit et classe les documents, répond aux questions avec ses sources et agit dans le logiciel que les équipes utilisent déjà.
Dans un progiciel de gestion en microservices, dont je pilote les interfaces et la GED, l’IA est en production : l’OCR et la classification automatique des documents reçus, avec l’extraction de leurs données ; un assistant RAG qui répond aux questions des utilisateurs à partir des documents et des contenus du progiciel ; des LLM auto-hébergés avec vLLM ; des agents IA qui enchaînent des actions sur ses API. J’anime les ateliers avec le client pour aligner la technique et le métier, usage par usage.
Les modèles sont auto-hébergés et servis par vLLM, pour que les documents des clients restent sur l’infrastructure. Les réponses du RAG renvoient vers leurs sources, et les agents n’utilisent que les outils de leur périmètre.
Je pars du processus : quel document arrive, qui le lit, quelle décision il déclenche. Puis je choisis la technique la plus simple qui tient : un OCR et des règles quand ils suffisent, un modèle de langage quand les documents sont trop variés, un RAG quand la réponse est dans les documents, un agent quand la tâche enchaîne plusieurs actions.
Côté documents : l’OCR avec Tesseract et OCRmyPDF, la classification, la lecture des codes-barres, le rapprochement de chaque document numérisé avec sa commande et son type de document, l’extraction structurée. Côté RAG : découpage des documents, embeddings, recherche vectorielle et génération avec sources. Côté modèles : vLLM pour les LLM auto-hébergés, Anthropic Claude, Mistral, Ollama, l’API OpenAI et LangChain, TensorFlow pour le machine learning. Côté intégration : Java / Spring Boot, Kafka et des API REST, pour que l’IA s’insère dans des processus fiables.