# Rapport de renseignement compétitif : Plateformes LLM locales en concurrence avec MoE en flux SSD sur Apple Silicon La niche que ce rapport examine est le marché émergent pour l'inférence de modèles linguistiques de haut niveau sur du matériel grand public, spécifiquement la capacité à exécuter des modèles tels que **Qwen3.6‑35B‑A3B** ou DeepSeek‑4 classe Mixture‑of‑Experts (MoE) sur des appareils comme un MacBook M1 Pro 16 Go en utilisant le flux de poids MoE depuis le SSD plutôt que le chargement traditionnel en RAM complète.[2][3][10] Le projet ds4 pour DeepSeek‑4 Flash et Pro démontre que, avec quantification asymétrique et flux d'experts SSD via `mmap`, il est déjà possible d'exécuter des modèles MoE de 30–32 Go sur des systèmes avec matériellement moins de RAM en transformant la RAM en cache pour les experts chauds et en traitant le SSD comme une extension de la hiérarchie mémoire.[3][10] Face à ce contexte, plusieurs plateformes LLM locales—Ollama, LM Studio, Jan.ai, GPT4All (par Nomic AI) et Private LLM pour appareils Apple—constituent les concurrents les plus dangereux, compte tenu de leur traction, financement et positionnement comme choix par défaut pour les développeurs et utilisateurs sensibles à la confidentialité qui veulent l'inférence locale. Ce rapport fournit des renseignements compétitifs approfondis sur ces acteurs, des benchmarks de tarification et la volonté de payer dans cette niche, et identifie les lacunes du marché qu'un produit MoE en flux SSD pour Qwen3.6‑35B‑A3B sur Apple Silicon pourrait exploiter. ## 1. Contexte du marché : LLM locaux, flux MoE et Apple Silicon ### 1.1 L'idée commerciale en termes techniques et de marché L'idée commerciale sous-jacente à cette recherche—« Show HN: Qwen3.6‑35B‑A3B sur un M1 Pro 16 Go avec MoE en flux SSD »—se situe à l'intersection de trois tendances : l'émergence de modèles proches des frontières de poids ouverts comme Qwen3.6, la maturation des architectures MoE et la croissance rapide des outils LLM locaux pour ordinateurs portables et postes de travail.[2][3][10] Qwen3.6‑35B‑A3B fait partie de la ligne Qwen 3.6, qui met l'accent sur le codage agentif et le raisonnement à long contexte, et les mainteneurs recommandent explicitement des longueurs de sortie très élevées, jusqu'à 32 768 jetons pour la plupart des requêtes et aussi élevées que 81 920 jetons pour les tâches complexes de mathématiques et de programmation.[2] Ce niveau de contexte, combiné à 35B de paramètres et une architecture A3B, pousse au-delà de ce que le chargement simple en RAM peut gérer sur un M1 Pro 16 Go, en particulier si l'on souhaite des performances interactives plutôt que la génération hors ligne de style batch.[2][3] Les architectures MoE, en particulier les experts acheminés avec quantification, offrent un chemin pour réconcilier la taille du modèle et les limites matérielles en activant seulement un sous-ensemble d'experts par jeton et en diffusant les experts inactifs du stockage selon les besoins.[3][10] Le projet ds4 par antirez (Salvatore Sanfilippo) le montre concrètement pour les modèles DeepSeek‑4 : le flux SSD permet à la RAM disponible d'être traitée non comme un cutoff dur, mais comme un continuum de niveaux de vitesse, avec des experts MoE acheminés gardés en cache en mémoire tandis que les experts froids sont diffusés depuis le disque en utilisant `mmap`.[3][10] Sur Windows, ds4 réplique une technique d'abord testée sur les systèmes Apple par Daniel Isaac, mappant le fichier de modèle directement dans la mémoire virtuelle pour que le cache de page du système d'exploitation devienne un « gestionnaire de cache expert », mettant en cache les experts chauds en RAM et diffusant les experts froids depuis le SSD à environ 0,5–1,5 Go/s selon le matériel.[3] Dans des expériences, cela a permis à un modèle MoE quantisé Q4 de 32 Go de s'exécuter sur un système de 28 Go à 2,5–4 jetons par seconde, alors qu'une configuration sans flux aurait été impossible.[3] Pour Apple Silicon, les outils tels que `llama.cpp` et `llama-cpp-python` supportent déjà le déchargement GPU Metal et les modèles quantisés GGUF, permettant aux petits et moyens modèles comme CodeLlama‑7B de s'exécuter efficacement sur macOS en spécifiant `GGML_METAL=on` et en définissant `--n_gpu_layers` pour l'accélération GPU.[8] Cependant, les plateformes LLM locales courantes comme Ollama et LM Studio se concentrent davantage sur les modèles quantisés GGUF statiques et le chargement de mémoire unifiée plutôt que sur le flux SSD spécifique à MoE profonde sur RAM contrainte.[4][34] Cela crée un

# Dimensionnement du marché et analyse des risques pour « Show HN: Qwen3.6‑35B‑A3B sur un M1 Pro 16 Go avec MoE en flux SSD » Ce rapport analyse le potentiel commercial et le profil de risque d'une entreprise construite autour de l'activation de Qwen3.6‑35B‑A3B, un grand modèle mixture‑of‑experts (MoE), pour s'exécuter localement sur un MacBook M1 Pro 16 Go en utilisant le flux basé sur le SSD et l'inférence optimisée pour Metal d'Apple, positionnée comme un projet open-source « Show HN » qui peut évoluer en produit ou entreprise.[1][7][8][9] L'idée centrale est d'exploiter le flux SSD des poids experts MoE pour qu'un modèle nominalement nécessitant plus de 25 Go de VRAM puisse être exécuté sur des ordinateurs portables grand public Apple Silicon avec seulement 16 Go de mémoire unifiée, déverrouillant ainsi des capacités de raisonnement et de codage high-end pour les développeurs et utilisateurs avancés qui préfèrent ou nécessitent l'inférence locale.[1][8][9][10] En utilisant les données de marché disponibles sur les logiciels d'IA générative, les dépenses de développement professionnel, les populations de développeurs et le matériel Apple Silicon, ce rapport construit des estimations de marché adressable total (TAM), de marché adressable serviceable (SAM) et de marché obtenu serviceable (SOM) basées sur des scénarios ascendants, tout en signalant explicitement où les données empiriques manquent et où les hypothèses sont requises.[14][15][16][17][18] Il évalue également les preuves historiques d'échec ou de pivot parmi les projets d'outils LLM locaux comparables, examine le paysage réglementaire et juridique pour l'IA sur appareil et la distribution de modèles, et examine les signaux de financement récents et compétitifs dans les domaines adjacents tels que les agents de modèles ouverts, les plateformes d'inférence locales et les modèles de fondation sur appareil.[11][12][14][19] Tout au long, l'analyse souligne que cette niche—inférence MoE en flux SSD pour les grands modèles ouverts sur Apple Silicon grand public—est très jeune, avec un précédent direct limité, et par conséquent à la fois la hausse et le risque sont inhabituellement élevés, en particulier concernant l'exécution technique, l'adoption des développeurs et les mouvements compétitifs des plus grands acteurs établis.[7][8][9][19] ## 1. Concept commercial et contexte ### 1.1 Définition de l'idée commerciale proposée L'idée commerciale peut être résumée comme la construction et éventuellement la commercialisation d'une pile d'inférence open-source hautement optimisée qui exécute Qwen3.6‑35B‑A3B localement sur un MacBook Pro M1 Pro avec 16 Go de mémoire unifiée en diffusant les poids experts MoE depuis un SSD NVMe rapide, en exploitant les API Metal d'Apple et les techniques modernes de quantification et de mise en cache.[1][7][8][9][19] Qwen3.6‑35B‑A3B est un grand modèle génératif avancé développé par l'équipe Qwen d'Alibaba, caractérisé par des performances fortes sur les tâches de codage et de raisonnement, une longueur de contexte par défaut de 262 144 jetons (avec des mécanismes pour aller au-delà de 1 million de jetons via l'échelle RoPE), et un « mode de réflexion » qui émet le contenu de chaîne de pensée interne avant les réponses finales.[9] La variante Qwen3.6‑35B‑A3B est un modèle mixture‑of‑experts, ce qui signifie qu'il contient plusieurs sous-réseaux experts dont les poids contribuent de manière significative à l'empreinte mémoire totale du modèle, ce qui explique pourquoi les déploiements GPU typiques nécessitent plus de 25 Go de VRAM et ne sont pas directement compatibles avec un MacBook Pro M1 Pro 16 Go.[1][8][9] WillItRun.ai documente que Qwen 3.5 35B en quantification A3B nécessite environ 25,3 Go de VRAM et ne peut donc pas s'exécuter nativement sur un MacBook Pro M1 Pro 16 Go, qui n'offre que environ 11,5 Go de mémoire GPU accessible, ce qui met en évidence la contrainte matérielle que ce projet vise à contourner via le flux SSD et l'ingéniosité logicielle.[1] Le concept MoE en flux SSD s'appuie sur les idées énoncées par MindStudio dans sa description du « Flux SSD pour les modèles d'IA », où les poids du modèle—en particulier ceux des experts dans une architecture MoE—sont stockés sur un SSD NVMe plutôt que complètement en RAM, et seuls les experts actifs sont chargés en mémoire à la demande au moment de l'inférence.[8] Dans la conception « Dwarf Star » de MindStudio, les composants non-experts tels que les couches d'attention, la normalisation de couche et les poids de routage restent en RAM, tandis que les poids experts, qui représentent une grande partie de la taille du modèle, sont déchargés sur le disque et extraits selon les besoins, permettant des exigences de RAM considérablement réduites au prix d'une certaine vitesse d'inférence.[8] Cette technique permet aux développeurs d'exécuter des modèles plus grands que leur RAM système le permettrait autrement, à condition qu'ils disposent d'un SSD suffisamment rapide, idéalement PCIe 4.0 ou mieux avec des vitesses de lecture séquentielle autour de 5 000–7 000 MB/s pour supporter la prélecture efficace.[8] Appliquée à Qwen3.6‑35B‑A3B sur un M1 Pro 16 Go, l'idée est que les poids experts du modèle MoE peuvent être diffusés à partir du SSD, tandis que le routage, l'attention et autres composants partagés résident dans la mémoire unifiée contrainte, rendant ainsi l'inférence locale possible malgré la grande taille des paramètres du modèle et la longueur du contexte.[1][8][9] L'URL du projet référencée dans la requête pointe vers un dépôt GitHub lié à ds4, un moteur d'inférence créé à l'origine pour DeepSeek V4 Flash et optimisé pour l'API Metal d'Apple, avec ds4‑webui présenté comme une interface frontale minimale et le lanceur Pinokio fournissant une interface basée sur navigateur à un serveur d'inférence Metal uniquement.[6][7] Le dépôt ds4‑webui se décrit comme « un lanceur Pinokio et une interface utilisateur autonome basée sur navigateur pour antirez/ds4, un moteur d'inférence narrow Metal uniquement pour DeepSeek V4 Flash », en mettant l'accent sur le fait qu'il est adapté à l'utilisation sur appareil et Apple Silicon, reflétant l'orientation de cette idée commerciale Qwen3.6.[6][7] Cet écosystème indique qu'il existe déjà une base technique et communautaire pour les moteurs d'inférence optimisés Metal et les projets de démonstration Show-and-tell HN qui évoluent par la suite en outils ou plateformes plus polis.[6][7][11] L'entreprise proposée suivrait probablement un modèle similaire : lancer comme démonstration open-source « Show HN » prouvant que Qwen3.6‑35B‑A3B peut s'exécuter sur un M1 Pro 16 Go via MoE en flux SSD, puis explorer la monétisation comme distributions pro, installateurs gérés, capacités d'agent améliorées ou support d'entreprise pour les équipes standardisant sur l'outillage Qwen local.[6][7][9][11][12] ### 1.2 Différenciateurs clés par rapport aux outils LLM locaux existants Pour comprendre la taille du marché et le risque, il est crucial de distinguer cette idée des plateformes LLM locales existantes qui supportent déjà Apple Silicon mais ciblent généralement des modèles plus petits ou des modes d'utilisation différents.[10][11][12] WillItRun.ai, par exemple, maintient des classements des « Meilleurs LLM locaux pour MacBook Pro M1 Pro 16 Go », recommandant des modèles Qwen plus légers tels que Qwen 3.5 9B, Qwen 3 8B et Qwen 3.5 4B comme meilleurs choix pour le codage, le chat et l'écriture sur ce matériel, sans tenter d'exécuter des modèles à l'échelle 35B en raison des contraintes de mémoire.[10] Cela montre que l'expérience courante d'aujourd'hui pour un développeur sur un M1 Pro 16 Go est d'utiliser des modèles de paramètres 4–9B via des plateformes comme Ollama, LM Studio ou Jan, plutôt que de pousser le matériel à exécuter des modèles MoE 35B avec des fenêtres de contexte multi-cent-mille-jetons.[4][10][11][12] LM Studio se positionne comme « Bionic, un agent pour les modèles ouverts, nativement local, construit pour la créativité, le travail et le code », en mettant l'accent sur une couche d'agent à usage général qui peut orchestrer divers modèles ouverts mais pas nécessairement en se concentrant sur l'extrême taille du modèle ou les innovations de flux SSD sur ordinateurs portables contraints.[11] Jan.ai se commercialise comme une « alternative open-source à ChatGPT » qui peut exécuter des modèles d'IA open-source localement ou se connecter à des modèles cloud comme GPT et Claude, se concentrant à nouveau sur l'usabilité et la connectivité locale-cloud hybride plutôt que sur l'activation de très grands modèles MoE sur du matériel aux ressources limitées.[12] En contraste, l'idée MoE en flux SSD Qwen3.6‑35B‑A3B cible une niche techniquement plus avancée : développeurs, chercheurs et utilisateurs avancés qui veulent une performance proche des frontières et des longueurs de contexte très longues mais qui préfèrent l'inférence locale pour des raisons de confidentialité ou de coût, ou qui aiment simplement repousser les limites du matériel Apple Silicon.[1][8][9][10] En effet, cela est plus proche en esprit de ds4 et Dwarf Star que de LM Studio ou Jan.ai, en donnant la priorité aux pipelines d'inférence hautement optimisés, à l'accélération Metal et aux architectures de flux, avec l'UX orientée utilisateur arrivant potentiellement plus tard à mesure que la technologie se stabilise.[7][8][11][12] Un tel produit pourrait être différencié par le support du « mode de pensée » dans Qwen3.6, qui préserve le contexte de raisonnement dans les messages historiques et exploite les fenêtres de contexte étendues pour améliorer les flux de travail de codage agentif et le raisonnement au niveau du dépôt, quelque chose explicitement mis en évidence par la documentation Qwen3.6 comme capacité clé.[9] Pour les utilisateurs engagés dans le codage intensif, les flux de travail front-end et les tâches de simulation dans un environnement basé sur navigateur, un déploiement local de Qwen3.6‑35B‑A3B sur un MacBook pourrait être très attractif, en particulier s'il est associé à des frameworks d'agent et à des stratégies de mise en cache ajustées pour Apple Silicon.[2][9][11][19] ### 1.3 Relation à la stratégie d'IA sur appareil d'Apple L'idée existe également dans un environnement stratégique plus large dans lequel Apple elle-même investit fortement dans des modèles de fondation sur appareil optimisés pour Apple Silicon, une tendance qui valide à la fois l'importance des LLM sur appareil et crée un risque compétitif potentiel.[19] Les mises à jour de recherche en machine learning d'Apple décrivent un modèle de fondation sur appareil optimisé pour l'efficacité et adapté spécifiquement à Apple Silicon, conçu pour permettre une inférence à faible latence avec utilisation minimale des ressources, ainsi que des modèles côté serveur plus grands qui peuvent compléter les capacités sur appareil.[19] Cela suggère qu'Apple croit qu'il existe une valeur substantielle à garder au moins une partie de l'inférence d'IA locale, en exploitant le GPU d'Apple Silicon et le Neural Engine pour offrir des expériences privées à faible latence qui ne dépendent pas entièrement du cloud.[13][19] Simultanément, l'enthousiasme d'Apple pour les modèles sur appareil augmente la possibilité que les futures versions de macOS ou Xcode livrent des LLM intégrés et des couches d'agent, réduisant le besoin de piles d'inférence locales tiers dans certains scénarios, ou imposant de nouvelles contraintes de plateforme que l'outillage tiers doit naviguer.[13][19] Pour le projet MoE en flux SSD Qwen3.6‑35B‑A3B, la direction d'Apple est un signal mixte : elle indique une demande d'utilisateur claire et un support de plateforme pour l'IA sur appareil, mais elle suggère que la différenciation à long terme peut dépendre du support des modèles ouverts, des flux de travail hautement spécialisés (tels que les agents de codage à grand contexte) et des capacités multiplateforme que les propres modèles d'Apple peuvent ne pas prioriser.[9][11][19] La documentation d'Apple sur les Macs avec Apple Silicon met en évidence une large gamme de modèles, du MacBook Air au Mac Pro, qui partagent la même architecture fondamentale et bénéficient de la mémoire unifiée et des accélérateurs dédiés, ce qui signifie que toute pile d'inférence en flux SSD optimisée Metal construite pour le M1 Pro pourrait potentiellement être étendue à d'autres appareils Apple Silicon, élargissant la base matérielle.[13][19] Cependant, l'entreprise devrait naviguer dans les politiques évolutives d'Apple concernant le support des applications basées sur Intel via Rosetta, qui est prévu pour être supprimé dans une future version de macOS, et s'assurer que l'outillage est compilé nativement pour Apple Silicon plutôt que de s'appuyer sur des couches de traduction Intel qui pourraient compromettre les performances ou la compatibilité future.[5][13] Dans l'ensemble, l'idée commerciale s'aligne avec la trajectoire de la plateforme vers l'IA sur appareil mais doit anticiper un monde dans lequel les propres modèles de fondation et les API d'Apple deviennent des composants standards et les outils tiers concurrencent en offrant plus de choix de modèle, de contrôle et de fonctionnalités techniques avancées telles que MoE en flux SSD.[9][13][19] ## 2. Technologie et paysage des cas d'usage ### 2.1 Capacités et exigences de Qwen3.6‑35B‑A3B Qwen3.6‑35B‑A3B occupe le haut de gamme du paysage des modèles ouverts, ciblant les tâches exigeantes telles que le codage agentif, le raisonnement à long horizon et la compréhension multimodale.[2][9] La carte de modèle Hugging Face pour Qwen3.6‑35B‑A3B décrit cette sortie comme offrant des améliorations substantielles dans le codage agentif, permettant une gestion plus fluide des flux de travail front-end et le raisonnement au niveau du dépôt, ce qui est particulièrement pertinent pour les développeurs travaillant avec des bases de code complexes sur leurs machines locales.[9] Elle souligne également la « préservation de la pensée », par laquelle le modèle fonctionne en mode de pensée par défaut, produisant le contenu `<think>…</think>` pour représenter le raisonnement interne avant l'émission des réponses finales ; les utilisateurs peuvent choisir de préserver ou de supprimer ce contenu de pensée selon les exigences de la tâche, et le modèle est conçu pour bien utiliser le contexte étendu pour les scénarios de développement itératif et d'agent.[9] La longueur de contexte par défaut du modèle est de 262 144 jetons, avec support des techniques de long contexte telles que l'échelle RoPE pour gérer les tâches où la longueur totale d'entrée et de sortie peut dépasser cette limite, potentiellement approchant 1 010 000 jetons dans les configurations spécialisées.[9] Un tel contexte est précieux pour les développeurs qui souhaitent charger des dépôts entiers, des ensembles de documentation ou de longues histories de conversation dans le modèle, mais il augmente également les exigences de mémoire et de calcul, rendant la gestion efficace du cache KV et les stratégies de flux importantes.[8][9] Du point de vue matériel, Qwen3.6‑35B‑A3B est exigeant même lorsqu'il est quantisé, et les déploiements typiques s'appuient sur des configurations multi-GPU avec VRAM importante ou des instances cloud avec beaucoup de mémoire.[1][9] WillItRun.ai note que la quantification précédente Qwen 3.5 35B A3B nécessite 25,3 Go de VRAM, dépassant la mémoire GPU pratique disponible sur MacBook Pro M1 Pro 16 Go, qui n'expose que environ 11,5 Go VRAM à de telles charges de travail.[1] Bien que Qwen3.6 ait été optimisé par rapport aux modèles Qwen antérieurs, y compris les améliorations de l'utilisation du cache KV et l'efficacité dans les modes avec et sans pensée, la carte de modèle suggère toujours de maintenir au moins une fenêtre de contexte de 128K jetons pour préserver les capacités de pensée dans les tâches complexes, impliquant une empreinte mémoire substantielle à travers les poids et le cache.[9] Pour la compréhension vidéo, Qwen3.6 suggère d'ajuster les paramètres du préprocesseur vidéo pour supporter jusqu'à 224k jetons vidéo pour les vidéos à l'échelle horaire, soulignant à nouveau la cible de conception du modèle de tâches multimodales à long horizon qui vont bien au-delà du cadre des assistants légers locaux.[9] Ces capacités se traduisent directement en proposition commerciale : en rendant Qwen3.6‑35B‑A3B accessible sur un M1 Pro 16 Go via MoE en flux SSD, le projet apporterait une puissance de codage et de raisonnement proche des frontières directement sur les ordinateurs portables développeur courants, permettant des flux de travail tels que l'examen de code à l'échelle du dépôt, le débogage agentif à l'historique complet et les tâches longues de simulation ou de conception sans dépendre des API cloud.[1][8][9][10] Cela pourrait être particulièrement attrayant pour les développeurs travaillant avec des bases de code sensibles qui sont contraints par les politiques de confidentialité

# Signaux de demande organique pour « Show HN: Qwen3.6‑35B‑A3B sur un M1 Pro 16 Go avec MoE en flux SSD » L'idée commerciale examinée est une solution orientée développeur qui rend pratique l'exécution de modèles Qwen en style hybrid Mixture‑of‑Experts (MoE), spécifiquement Qwen3.6‑35B‑A3B, sur du matériel Apple Silicon contraint tel qu'un MacBook MacBook Pro M1 Pro 16 Go en diffusant agressivement les poids experts inactifs depuis le SSD, dans l'esprit du moteur d'inférence local ds4 pour Metal et CUDA.[1][18] La proposition centrale est que de nombreux développeurs et utilisateurs avancés veulent des modèles de haute qualité et de poids ouverts avec un raisonnement fort, des capacités de codage et multimodales, mais sont bloqués par les limites de mémoire, les contraintes de contexte et les outils complexes sur leurs machines personnelles.[2][6][13][18] Ce rapport enquête sur les signaux de demande organique pour cette idée dans six canaux—Reddit, Hacker News, Product Hunt, X/Twitter, SEO et tendances macro—en utilisant seulement des exemples vérifiables de 2024–2025 lorsque possible et en signalant explicitement les lacunes. Les preuves montrent une frustration claire autour de l'exécution de grands modèles localement sur Apple Silicon, un enthousiasme croissant pour les architectures MoE qui découplent le nombre total de paramètres du calcul actif, un intérêt émergent pour l'offload et le chargement partiel du SSD, et plusieurs lancements adjacents dans l'espace des outils LLM locaux. Cependant, des exemples directs sur Reddit et X/Twitter correspondant à la combinaison précise de « MoE classe Qwen sur M1 Pro 16 Go avec flux SSD » n'ont pas pu être vérifiés dans les sources fournies, et des données fiables de volume de mots-clés sont absentes, donc certains aspects de la demande doivent être déduits à partir de signaux adjacents plutôt que quantifiés directement.[2][3][6][8][15][16][18][19] ## Contexte technique et de marché pour l'idée commerciale ### Le moteur ds4, les modèles MoE Qwen et les contraintes Apple Silicon Le point de départ pour comprendre la demande organique est de clarifier ce que le produit « Show HN » proposé fait réellement et pourquoi il est différencié. Le profil GitHub du développeur derrière ds4, andreaborio, décrit ds4 comme un « moteur d'inférence local Flash pour Metal et CUDA », indiquant qu'il s'agit d'un runtime orienté performances pour l'inférence de modèles linguistiques de grande taille locales sur les GPUs, y compris le backend Metal d'Apple.[1] Un moteur d'inférence « Flash » dans ce contexte se réfère généralement aux optimisations analogues à FlashAttention et autres implémentations d'attention économes en mémoire conçues pour maximiser le débit et la longueur du contexte compte tenu de la bande passante mémoire limitée et de la capacité, qui est exactement la contrainte rencontrée par les utilisateurs de machines M1 Pro 16 Go.[6][14] La mention de Metal et CUDA suggère un support multiplateforme, mais l'idée commerciale ici se concentre explicitement sur Apple Silicon, où la mémoire unifiée et les performances du SSD rendent certaines stratégies d'offload plus attrayantes que sur les systèmes GPU discrets traditionnels.[6][8][19] La famille de modèles ciblée par l'idée, Qwen3.x‑35B‑A3B, fait partie de la ligne de modèles de fondation open-weight d'Alibaba ; Qwen3.5‑35B‑A3B est documenté sur Hugging Face comme un modèle capable de vision-langage avec une architecture hybride combinant Gated Delta Networks et routage Mixture‑of‑Experts clairsemé.[13] Cette conception donne une fondation multimodale unifiée qui, selon les rapports, égale ou dépasse les modèles Qwen3 et Qwen3‑VL précédents en raisonnement, codage, comportement agentif et compréhension visuelle, tout en maintenant l'efficacité.[13] Un aperçu ultérieur de Labellerr décrit Qwen3.6‑35B‑A3B comme un modèle MoE hybride avec 35 milliards de paramètres totaux mais environ 3 milliards de paramètres actifs par jeton, soulignant que cette conception permet une grande capacité totale tout en gardant le calcul et l'empreinte mémoire par jeton assez bas pour le matériel contraint.[18] Du point de vue commercial, cette structure « 35B total, 3B actif » est cruciale, car cela signifie qu'avec un routage soigneux et un offload, les utilisateurs avec RAM modeste peuvent accéder à la qualité traditionnellement associée à des modèles denses beaucoup plus grands.[15][18] Les machines Apple Silicon introduisent un profil de contrainte distinctif qui façonne la demande. Un MacBook Pro M1 Pro 16 Go a un pool de mémoire unifiée partagée entre CPU, GPU et Neural Engine plutôt que VRAM séparé, ce qui supprime les plafonds VRAM GPU discrets mais les remplace par un seul capuchon système-large plus serré.[6][8] Le guide 2026 de SitePoint sur les LLM locaux sur Apple Silicon note que l'architecture de mémoire unifiée des puces M1, M2 et M3 élimine la plus grande contrainte qui a historiquement limité les PC grand public pour l'inférence de grand modèle—la VRAM GPU—mais avertit simultanément que le système d'exploitation et les processus d'arrière-plan consomment toujours une fraction substantielle de ce pool unifié.[6] Le même guide donne un