Apertus 2.0, la sfida svizzera all’AI: enorme ma già al limite

Meditron, il progetto del Politecnico di Losanna pensato per aiutare i medici nelle aree con ospedali insufficienti, ha abbandonato Llama 2 di Meta dopo l’arrivo di Apertus. La scelta è legata alla possibilità di verificare l’intera catena che porta alla risposta e di individuare con maggiore precisione l’origine di un eventuale errore. Il progetto è coordinato dalla professoressa Mary-Anne Hartley.

L’esperienza di Meditron mostra in concreto perché il modello svizzero non venga presentato come un prodotto pronto all’uso, ma come una base sulla quale costruire servizi specializzati. La stessa impostazione sta attirando enti pubblici, aziende e gruppi di ricerca interessati a mantenere il controllo sui dati e sul funzionamento dell’intelligenza artificiale.

Le applicazioni stanno già crescendo

Il gruppo di Apertus ha individuato circa settanta sperimentazioni in corso. Le autorità del Canton Ticino lo impiegano per le traduzioni tramite Artificialy, una startup del territorio, mentre Proton lo ha inserito in Lumo, la propria applicazione di assistenza orientata alla tutela della riservatezza.

Chi usa Lumo può decidere di inviare in forma anonima una valutazione sulle risposte ricevute. Le conversazioni rimangono protette dalla cifratura e non vengono rese accessibili al gruppo di sviluppo. È uno degli esempi della filosofia con cui il progetto viene portato avanti: fornire un modello aperto, lasciando ad altri la realizzazione delle applicazioni finali.

Apertus, infatti, non coincide con una chat pronta per il pubblico. I ricercatori lo descrivono come il livello di base, paragonabile ai modelli che alimentano i servizi di OpenAI ma privo dell’interfaccia con cui gli utenti interagiscono quotidianamente. Per l’addestramento vengono utilizzati dati raccolti da Common Crawl, organizzazione statunitense senza scopo di lucro che archivia contenuti del web.

Dal materiale vengono esclusi i siti che vietano la raccolta automatizzata, tra cui alcune grandi testate internazionali, e i libri distribuiti illegalmente. La squadra è sostenuta in parti quasi equivalenti da finanziamenti alla ricerca e dalla Swiss AI Initiative, con un contributo più contenuto delle imprese partner. Oggi comprende tredici ingegneri, affiancati da studenti, volontari e studiosi; l’obiettivo è arrivare a venti persone entro la fine dell’anno.

Un gigante con un limite fisico

La versione 2.0 annunciata a Zurigo utilizzerà un’architettura a esperti multipli. Invece di attivare tutta la rete per ogni elemento elaborato, un sistema di instradamento selezionerà di volta in volta i moduli più adatti. Il nuovo modello dovrebbe migliorare nelle attività autonome, nella matematica e nella programmazione, con una dotazione complessiva compresa tra 500 e 700 miliardi di parametri.

Il salto di scala è già cominciato. «Stiamo addestrando il modello con migliaia di GPU e vogliamo superare il numero impiegato da qualsiasi altro progetto europeo», ha spiegato Imanol Schlag, ricercatore dell’ETH AI Center e co-responsabile di Apertus, durante lo Zurich AI Festival. Il riferimento è al modello Mistral 3 Large, che sarebbe stato allenato con 3.000 GPU.

Proprio questa ambizione mette in evidenza la principale difficoltà del progetto. «Apertus 2.0 è già il modello più grande che possiamo addestrare», ha chiarito Schlag: l’infrastruttura disponibile non consente, al momento, di affrontare sistemi ancora più estesi.

Il supercalcolatore di Lugano, inoltre, non è riservato all’intelligenza artificiale. Maria Grazia Giuffreda, direttrice associata del Centro svizzero di calcolo scientifico, ha ricordato che la struttura sostiene anche studi su materiali, astrofisica, biologia e fisica del plasma. Una parte crescente delle risorse viene destinata all’uso dell’intelligenza artificiale per accelerare la ricerca scientifica.

Dalla climatologia ai modelli linguistici

Il Centro svizzero di calcolo scientifico è nato trentacinque anni fa e dal 2012 ha sede a Lugano. In quell’anno la Confederazione scelse di investire nel calcolo ad alte prestazioni e mise in funzione Piz Daint, il primo sistema svizzero della classe dei petaflop, capace di eseguire un milione di miliardi di operazioni ogni secondo.

Nel 2013 il centro installò un supercomputer accelerato con schede grafiche, diventando il primo in Europa a farlo secondo Giuffreda. L’obiettivo iniziale non era addestrare grandi modelli linguistici, ma aumentare la potenza disponibile senza far crescere in modo proporzionale i consumi energetici.

Alps, acquistato nel 2020, è stato poi aggiornato nel 2024 con i chip Grace Hopper di NVIDIA. La macchina era stata progettata soprattutto per la climatologia e la meteorologia: permettere simulazioni più dettagliate e calcolare insieme il comportamento dell’atmosfera e degli oceani, due componenti inseparabili del sistema terrestre.

L’avvio della Swiss AI Initiative, nel 2023, ha aperto un ulteriore impiego per quelle risorse. I ricercatori hanno verificato che Alps poteva sostenere anche lo sviluppo di modelli linguistici, creando le condizioni tecniche per Apertus.

La versione attuale e il progetto svizzero

A luglio è arrivata la versione 1.5, capace di interpretare immagini e registrazioni audio, ma non di produrre contenuti di questi due tipi. La scelta è stata motivata dall’esigenza di non violare il diritto d’autore. Il modello ha inoltre ampliato le competenze in medicina, diritto e istruzione e può esporre il proprio ragionamento quando gli viene richiesto.

Durante l’AI+X Summit, gli sviluppatori hanno indicato Apertus 1.5 come il secondo modello aperto più efficace nella generazione di testo, dietro Qwen di Alibaba, tra i sistemi con meno di 12 miliardi di parametri. Oltre quella soglia occupa invece il quinto posto nella graduatoria considerata.

Il progetto ha raggiunto 5 milioni di download su Hugging Face, archivio di modelli aperti e strumenti per l’apprendimento automatico. La sua particolarità non consiste soltanto nelle prestazioni: il sistema è nato nella rete della ricerca svizzera, con ETH di Zurigo ed EPFL di Losanna in prima linea, ed è stato allenato a Lugano su contenuti relativi alle lingue riconosciute dalla Confederazione.

In un settore dominato da modelli proprietari e da investimenti sempre più grandi, Apertus propone quindi un’altra strada. Il codice e i parametri sono accessibili, mentre aziende e istituzioni possono costruire applicazioni autonome sopra il modello. La sovranità digitale, in questo caso, passa dalla possibilità di conoscere, controllare e adattare la tecnologia invece di dipendere interamente da laboratori stranieri.