Saviez-vous qu’il est possible d’héberger votre propre intelligence artificielle localement.

C’est la phrase que j’ai mise sur LinkedIn, et c’est encore la phrase. Le matériel et le logiciel ont rattrapé. Tu n’es plus obligé de louer le modèle à chaque réponse. Tu peux le faire tourner ici.

La photo, c’est un Mac Studio Ultra. C’est la boîte sur le bureau. Apple Silicon, mémoire unifiée, un Neural Engine, des poids qui ne partent pas à moins que je les envoie. Dans le même post, je disais aussi que les stations modernes, les serveurs GPU, et des plateformes comme le NVIDIA DGX Spark rendent la même classe de chose possible: un modèle de langage sur site, sans prétendre que le cloud est la seule pièce qui pense.

Je ne m’agenouille pas devant un châssis. Un Studio, un Spark, un rack: des outils. Le point, c’est le chemin des données.

Ce que ce post disait vraiment

Tu n’as plus à dépendre exclusivement du cloud pour utiliser un modèle. Exclusivement, c’est le mot utile. Le cloud reste un outil. Azure aussi. Le local l’est devenu. Pendant des années, la brochure disait le contraire. La brochure était en retard.

Les piles open-source ont rendu le reste plate, et c’est un compliment. vLLM, Ollama, LM Studio: des noms qui vont vieillir. Le contrat, non. Tu peux l’arrêter. Tu peux le logger. Une personne fatiguée peut l’opérer. Si la réponse est non, tu as acheté un jouet qui parle.

Trois usages que je tiens encore, sans les puces.

Les processus internes. Classer, rédiger, aller chercher dans une base que tu as déjà. Correct, tant qu’un humain reste propriétaire du write. Un brouillon, c’est une proposition. Un ticket posté, c’est de l’histoire.

L’analyse locale de données qui ne devraient pas voyager. Un détail d’usine, un nom, une boîte mail. Le temps réel est permis si les octets restent dans une pièce que tu peux nommer.

Les assistants privés. Utiles quand les documents restent. Rester, ça veut dire: l’index est à toi, la session est à toi, les logs sont à toi. Une fenêtre mince sur le tenant de quelqu’un d’autre n’est pas un assistant. C’est un visiteur. Les visiteurs n’écrivent pas.

Le contrôle, pas un hashtag

La version LinkedIn finissait en hashtags. Correct pour un fil. Ici, une ligne. L’IA locale n’est plus réservée aux géants. C’est une option concrète pour les organisations qui veulent automatiser sans faire voyager le corpus.

Option. Pas un mandat. Pas une personnalité. Si la shop ne peut plus penser sans un dashboard vendeur, on n’a pas une pratique. On a un abonnement avec une fenêtre de chat.

Je fais tourner des modèles locaux parce qu’un prompt peut contenir un ticket, un brouillon, une ligne d’usine, un nom qui n’est pas à moi de déplacer. Le contrôle, c’est la raison. La performance, c’est une contrainte. Le marketing est optionnel. Le Mac Studio Ultra, c’est comment je le fais sur un bureau. Unraid, c’est comment je tiens le lab honnête. Honnête: je casse, je restore. Si je ne restore pas, je devrais me taire sur le on-premise, modèles compris.

Un assistant local qui classe un ticket sur notre réseau, ça m’intéresse. Un assistant local qui écrit dans le PSA sans porte, non. L’inférence locale moins chère rend la porte plus urgente, parce que le narrateur sûr peut maintenant vivre à côté des données de production. La proximité n’est pas une permission.

Ce que je ne vends pas

Je ne vends pas le on-premise comme une victoire morale. Je ne vends pas un gros modèle comme une personnalité. Petit et ici, ça suffit souvent. Suffit, c’est un mot de métier. Le hype, non.

Si tu demandes par où commencer, je ne pointe pas la photo en premier. Je demande quel corpus tu refuses d’envoyer, quels writes tu refuses d’automatiser seuls, qui peut couper. Ensuite la boîte. Ensuite le runtime. L’autre ordre achète une image. On a déjà l’image.