Introduzione a Jan AI

Jan AI è un’applicazione open source rilasciata sotto licenza Apache 2.0 che permette di far girare Local Language Model (LLM) – la tecnologia alla base dei chatbot come ChatGPT – direttamente sul proprio Mac. Una volta scaricato il modello, il funzionamento è completamente offline, senza bisogno di creare account.

Al 7 ottobre 2026 il progetto di Menlo Research conta 44 833 stelle su GitHub e dichiara 6,9 milioni di download dal sito ufficiale.

Versione di riferimento e panoramica del percorso

La versione stabile più recente è la 0.8.4, pubblicata il 23 luglio 2026. La guida parte dai requisiti hardware e dall’installazione, prosegue con la selezione dei modelli, l’attivazione del server API locale, l’uso degli strumenti MCP e infine evidenzia le aree in cui l’applicazione incontra ancora difficoltà.

Chi installa un motore di questo tipo dovrebbe anche tenere d’occhio la vicenda “Strata” e la riscrittura della cronologia su GitHub, poiché forniscono importanti indicazioni sulla stabilità del progetto.

Chi sviluppa Jan AI e come è strutturata

Jan AI è un’app desktop disponibile per macOS, Windows e Linux, sviluppata da Menlo Research. Il repository su GitHub, denominato janhq, è stato creato il 17 agosto 2023.

L’applicazione funge da interfaccia di chat per i modelli open‑source scaricati sull’hardware locale, ma può anche connettersi a servizi cloud come OpenAI o Anthropic, qualora l’utente lo desideri.

Il lavoro di Menlo è diviso in due parti:

    • L’applicazione (dashboard): l’interfaccia grafica che l’utente utilizza.
    • I modelli (engine): Jan scarica e avvia qualsiasi modello pubblicato su Hugging Face; inoltre Menlo pubblica una serie di modelli propri.

Questa distinzione è importante perché online “Jan” può riferirsi sia all’applicazione che ai modelli, e le due componenti si installano con procedure differenti.

Licenza

Esistono alcune confusioni: alcune pagine citano la licenza AGPLv3, ma il file LICENSE presente nel repository indica Apache 2.0 con obbligo di attribuzione. La documentazione ufficiale conferma la stessa licenza.

In pratica, è possibile utilizzare, modificare e persino integrare Jan AI in progetti commerciali, a patto di rispettare i termini della licenza Apache 2.0.

Requisiti hardware per Mac

Jan AI richiede:

    • Mac con chip Apple Silicon (M1, M2, M3, M4).
    • macOS 13.6 o versioni successive.
    • Almeno 10 GB di spazio libero sul disco.
    • La quantità di RAM determina le dimensioni massime dei modelli caricabili.

Di seguito la tabella ufficiale per la RAM e i modelli supportati:

RAM del MacModelli supportati
8 GBFino a 3 miliardi di parametri; alcuni a 7 miliardi con quantizzazione avanzata
16 GBModelli a 7 miliardi senza difficoltà; alcuni a 13 miliardi con quantizzazione ridotta
32 GBModelli a 13 miliardi con margine per contesti lunghi e più applicazioni aperte

La quantizzazione è una compressione che riduce l’occupazione di memoria a scapito di una leggera perdita di qualità nelle risposte. Un Mac con 8 GB è il caso più limitato: funziona, ma la scelta del modello richiede attenzione.

Per verificare la compatibilità, è possibile utilizzare il verificatore di compatibilità per IA locale disponibile sul sito di Jan AI.

Accelerazione hardware

Le GPU integrate dei chip Apple Silicon (tramite Metal) si attivano automaticamente. Jan AI supporta due motori di calcolo:

    • llama.cpp
    • MLX (framework di Apple per il machine learning su Apple Silicon). MLX è supportato dalla versione 0.7.7, rilasciata l’11 febbraio 2026, come riportato nel changelog ufficiale.

Procedura di installazione passo‑passo

L’installazione avviene in quattro semplici fasi, nessuna delle quali richiede l’uso del terminale:

    • Scaricare il file .dmg da jan.ai oppure dalla pagina delle release su GitHub (per la 0.8.4 il file è Jan0.8.4universal.dmg).
    • Aprire il .dmg e trascinare l’icona di Jan nella cartella Applicazioni.
    • Avviare l’applicazione. Al primo avvio Jan scarica automaticamente un modello predefinito.
    • Digitare il primo messaggio nella chat e attendere la risposta.

Il download del modello è l’unico momento in cui è necessaria una connessione internet; successivamente è possibile disconnettersi dal Wi‑Fi senza interrompere le conversazioni. L’unica eccezione è la ricerca web integrata, che richiede accesso a internet.

Nota: su Mac Intel l’app si installa ma non è supportata; per questi dispositivi si consiglia di consultare la guida dei “migliori LLM locali del 2026”.

Scelta e download dei modelli

Il Hub nella barra laterale di Jan mostra un catalogo di oltre 123 modelli disponibili su Hugging Face. Il criterio principale di scelta è la RAM del proprio Mac, poiché un modello troppo grande non si carica o provoca rallentamenti.

Tra i modelli proprietari di Menlo, i più rilevanti sono:

    • Jan‑v3‑4B: modello di terza generazione con 4 miliardi di parametri.
    • Jan‑Code‑4B: basato su Jan‑v3‑4B‑base‑instruct, ottimizzato per attività di programmazione.
    • Jan‑nano: 4 miliardi di parametri, contesto di 40 960 token, addestrato per ricerche approfondite con strumenti MCP.

Jan‑nano riporta un 91,1 % al test SimpleQA secondo il benchmark interno di Menlo basato su MCP; tuttavia, il risultato non è verificato da fonti indipendenti, perciò è consigliabile valutare il modello con proprie domande.

Chi dispone di 16 GB o più di RAM può sperimentare modelli più grandi, ad esempio Qwen3.8‑27B (supportato da LM Studio). Poiché Jan accetta modelli da Hugging Face, è possibile trovare molte altre soluzioni di grandi dimensioni.

Per chi è interessato a modelli “uncensored” (senza filtri di rifiuto), è disponibile una guida dettagliata su “installare un modello uncensored in locale su Mac e Windows”. Il processo di download tramite Hugging Face è identico, ma occorre prestare attenzione agli avvisi sul contenuto.

Utilizzo del server API locale

Jan AI può fungere da server API locale, avviabile da Impostazioni → Local API Server → Start Server. Il servizio ascolta su http://127.0.0.1:1337/v1 (porta 1337), accessibile solo dal computer stesso.

Il server è compatibile con le API di OpenAI, quindi qualsiasi applicazione scritta per ChatGPT può comunicare con Jan semplicemente modificando l’indirizzo di base.

È possibile impostare una chiave di autenticazione personalizzata e il CORS è abilitato di default, permettendo l’uso da parte di applicazioni web locali.

Esempio di richiesta con curl:

curl http://127.0.0.1:1337/v1/chat/completions \


-H "Content-Type: application/json" \


-H "Authorization: Bearer LATUACHIAVE" \


-d '{"model": "IDDELMODELLO", "messages": [{"role": "user", "content": "Ciao"}]}'

Sostituire LATUACHIAVE con la chiave definita in Jan e IDDELMODELLO con l’identificatore del modello scaricato. Questo approccio permette a editor di codice, script e tool di sfruttare il modello locale senza costi di API cloud.

Integrazione con MCP e strumenti esterni

Il Model Context Protocol (MCP) è uno standard aperto che consente a un LLM di invocare strumenti esterni, come un browser o il file system. In Jan AI, MCP si attiva da Impostazioni → MCP Server.

Una volta abilitato, Jan può:

    • Eseguire ricerche web e restituire risultati direttamente nella chat.
    • Accedere a file locali, leggere, scrivere o modificare documenti.
    • Interagire con altri servizi tramite API REST.

Questa funzionalità è particolarmente utile per workflow di sviluppo, analisi di dati o automazione di compiti ripetitivi.

Limiti attuali e aree di miglioramento

Nonostante le potenzialità, Jan AI presenta ancora alcuni ostacoli:

    • Supporto limitato ai Mac Intel (installazione possibile, ma senza garanzia di funzionamento).
    • Modelli molto grandi richiedono RAM elevata; la compressione via quantizzazione può degradare la qualità.
    • La ricerca web integrata richiede una connessione costante, quindi non è completamente offline.
    • Alcuni utenti segnalano rallentamenti durante l’uso simultaneo di più contesti lunghi su macchine con 16 GB di RAM.

Il team di Menlo continua a rilasciare aggiornamenti (l’ultima release 0.8.4) e a lavorare su miglioramenti della stabilità, efficienza della quantizzazione e supporto a nuovi framework hardware.

Conclusioni

Jan AI rappresenta una soluzione robusta per chi desidera eseguire LLM localmente su Mac con Apple Silicon, eliminando dipendenze da servizi cloud e necessità di account. Con un’interfaccia intuitiva, supporto a più motori di calcolo, possibilità di operare come server API locale e integrazione MCP, la piattaforma si configura come un’opzione valida sia per sviluppatori che per utenti curiosi di sperimentare l’IA offline.

Seguendo le indicazioni di questa guida – dalla verifica dei requisiti hardware all’installazione, dalla scelta dei modelli al setup del server API – è possibile sfruttare al massimo le capacità di Jan AI, mantenendo il proprio flusso di lavoro indipendente da costi esterni e dalla connettività internet.