Voici un petit retour sur cette aventure technique et écologique toujours en cours mais qui nous a déjà beaucoup appris.

Le point de départ : un serveur dans le maquis

Tout a commencé quand Nicolas a pris le bateau pour aller installer notre serveur « CorsicIA » directement sur l’Île de Beauté, dont il assure désormais la maintenance entre deux baignades.

Concrètement, la machine tourne avec Ollama et OpenWebUI. On y a installé un modèle gpt-oss 20b. L’idée était de voir ce qu’un modèle « léger » et local avait dans le ventre une fois branché sur nos outils du quotidien.

Quand notre LLM rencontre l’énergie solaire

Ensuite, on a voulu connecter ce modèle à nos processus existants. On a donc branché le serveur sur notre instance n8n pour le relier à notre LLM, notre Copilot IA technique maison.

Notre LLM ACSEO est conçu pour être un assistant structuré et efficace pour les développeurs et chefs de projets. Il est capable d’interagir avec nos gestionnaires de projet, de lire la documentation, d’assigner des tickets et même de lancer des workers pour des revues de code.

En donnant à ce modèle local l’accès à ce tas d’outils (via MCP), on a été vraiment surpris par l’efficacité de l’installation.

L’art de rationaliser le token

Passer d’un modèle ultra-massif du cloud à un modèle de 20 milliards de paramètres hébergé sous le soleil corse, c’est hyper intéressant techniquement. Ça nous a énormément appris sur la rationalisation de l’information et l’optimisation.

Pourquoi ? Parce qu’avec un modèle plus léger, la consommation de tokens et la gestion du contexte ne pardonnent pas. Si on lui envoie trop de bruit ou un contexte mal découpé, il perd le fil. Cela nous a poussés à être beaucoup plus précis dans la façon dont on requête nos outils.

Une IA qui colle à nos valeurs B-Corp

Le petit plus de cette aventure, c’est qu’on a un impact environnemental très limité.

• Énergie verte : Il tourne grâce aux panneaux solaires.
• Souveraineté : On garde la main sur 100% de nos datas, rien ne part chez les géants de la tech.
• On a conscience de l’énergie dépensée à chaque prompt, et c’est agréable d’expérimenter une énergie verte. 

Vers une architecture IA à deux vitesses

Cette expérience en Corse alimente directement notre réflexion pour notre roadmap IA et nos prochains design sprints.

On voit bien qu’à terme, l’enjeu économique et écologique des entreprises sera de segmenter les demandes :

• 30% des usages complexes : Acheter du token très intelligent (et cher) dans le cloud.
• 70% des usages du quotidien : Traiter les tâches avec un token moins « intelligent » mais largement suffisant, autoproduit, souverain et gratuit.

Au final, cette petite escapade technique prouve qu’on peut allier innovation et productivité. Et vous, vous avez un projet d’IA locale et souveraine ? Parlons-en !