L’AI fa 10 scoperte matematiche in una settimana
[00:00] 10 scoperte matematiche: l’AI supera i matematici
Stefano
Ciao a tutti e ben tornati a RISO. Oggi parliamo di tante cose, ma soprattutto del fatto che OpenAI ha pubblicato 10 nuove scoperte matematiche. Non di divulgazione: scoperte originali, vere, che valgono secondo Alessandro Maserati, nostro ospite oggi, matematico, quindi chi è meglio di lui per parlare di matematica?
Valgono almeno, spendendo circa 2000 dollari ma valendo più degli stipendi di un ricercatore o due, e quindi siamo comunque interessati. Ma poi alla fine non è neanche questo il punto, perché mentre qua noi siamo a discutere se l’AI è davvero intelligente, abbiamo anche situazioni come questa che è eclatante. Noi parlavamo qualche settimana fa e abbiamo fatto uno short che ha ricevuto tantissime visite e tantissimi commenti polemici, quando abbiamo detto che l’AI ha superato più di 300 studenti alle Olimpiadi di matematica. Sembra che abbia detto una cosa drammatica e parto subito con te che sei matematico. La critica più comune che abbiamo ricevuto è stata: anche una calcolatrice è più veloce di me a fare i calcoli. Ma le Olimpiadi di Matematica non sono quella roba lì, giusto?
Alessandro Maserati
No, sono una cosa molto diversa. Beh, innanzitutto grazie Stefano e Alessio per avermi invitato. È una cosa molto diversa, ovviamente, da quello che può fare una calcolatrice. Qui parliamo di problemi complessi che richiedono creatività, intuito, e fino a un paio d’anni fa era impensabile che un computer potesse essere competitivo su questo tipo di sfide. Quindi è veramente qualcosa di evolutivo.
Come i risultati che hai citato tu: adesso ci sono risultati che ciascuno di quelli vale un’intera carriera di un matematico. Se a un matematico avessi detto “guarda, nell’arco della tua vita scopri uno di questi”, ti direi “perfetto, ci sto, sto tutta la vita su quel problema lì”. E il fatto che l’AI ne ha tirate fuori dieci così in una settimana, poi sia vero non si sa, se ne hanno provati magari duemila per trovare quei dieci lì, ma comunque solo il fatto che quei dieci siano stati trovati dall’AI è veramente, veramente sconvolgente.
Vuol dire che quello che avevano ottenuto poco prima, con la disprova di una congettura, non era stato un caso. Cioè effettivamente la tecnologia è arrivata a un livello in cui supera i migliori matematici del mondo, sta dimostrando risultati su cui i matematici hanno speso decenni della propria vita senza riuscirci, quindi un livello pazzesco. Un anno fa, ricordo l’estate scorsa, quando OpenAI disse di avere un modello interno che avrebbe potuto vincere la medaglia d’oro alle Olimpiadi di matematica, su LinkedIn qualcuno commentò: “sì ok, ma questi sono solo giochini, vedremo quando l’AI riuscirà a fare matematica seria”. In un anno siamo passati da “non ci credo che lo possa fare” a superare i migliori matematici del mondo. E, di nuovo, parlando delle Olimpiadi di matematica, invito chiunque sia perplesso delle difficoltà a provarne a fare un paio, così si rende conto immediatamente di cosa si sta parlando.
[03:12] Matematica verificabile: il dominio perfetto per l’allenamento
Alessandro Maserati
Siamo passati da “è una news che un modello interno risolve 3 o 4 di questi problemi” al fatto che oggi ci sono 10 modelli in giro che sanno fare questa cosa qua, a Opus 5 che nelle nove ore di gara ha trovato 4 soluzioni diverse per ciascuno dei problemi, tutte a punteggio pieno. Siamo passati da “non sappiamo se l’AI arriva” a “l’AI sbeffeggia”. C’è un livello veramente pazzesco. Questo è successo perché ovviamente la matematica è verificabile, quindi è un dominio che ben si presta a questo tipo di addestramenti che stiamo facendo, però chiaramente è un precursore di quello che accadrà in tanti altri ambiti.
Stefano
E hai toccato il punto giusto per far capire a chi ci ascolta e non è un matematico, magari non è così tanto tecnico sui modelli, questa piccola postilla, ma che postilla, è fondamentale. I problemi che oggi l’AI risolve bene sono quelli verificabili. La programmazione, ne parliamo praticamente tutte le settimane, anche se non si può dire che sia meglio del miglior programmatore del mondo, perché l’ego dei programmatori è tale che probabilmente ci aspettano sotto casa per menarci se diciamo una cosa così. Io non l’ho detta.
Alessio
No ma noi possiamo anche non dirlo, a me basta che sia migliore del programmatore medio e già funziona lo stesso.
Stefano
Però i problemi verificabili, spiego al volo questa cosa. Uno dei training che facciamo all’AI, ne abbiamo parlato qualche volta: pre-training, mid-training e post-training. Il cosiddetto post-training, l’ultima fase, si chiama reinforcement learning verifiable reward, quello più utilizzato in questo momento. E lo dice la parola stessa: si dà un reward, si dà la pacca sulla spalla quando una verifica è passata, e per fare quella roba lì ovviamente servono problemi verificabili. Il primo, il più facile, è stata la programmazione: compila o non compila, passa il test o non passa il test. Ma anche la matematica entra in quel mondo lì. Però da matematico, proviamo ad andare invece nella direzione dei catastrofisti, dei rumor eccetera. Da matematico, questa cosa è vero che spazza via tutti i matematici o è una narrativa un po’ troppo forte?
[06:01] Cosa resta al matematico: fare le domande giuste
Alessandro Maserati
Non è solo quello il lavoro del matematico. Diciamo che sicuramente nel giro di poco tempo, direi un paio di anni, arriveremo a un punto in cui se tu vuoi dimostrare un teorema, la cosa più efficiente che puoi fare è chiedere all’AI di trovare la dimostrazione per te. Un po’ come oggi nessuno si sognerebbe di fare un calcolo complicato a mano. E addirittura arriveremo al punto che se l’AI non te lo risolve, tu neanche ci provi. Però il lavoro del matematico non è solo quello. Il lavoro del matematico è tantissimo studio, perché prima di provare a risolvere qualcosa di nuovo uno deve conoscere quello che c’è in circolazione, e quella è una gran parte.
Poi c’è la parte più ad alto valore aggiunto, secondo me, che sarà sempre più alto valore aggiunto: fare le domande giuste. Perché in realtà questo non è tanto noto, ma la parte di matematica che ci interessa è una minuscola frazione di tutta la matematica possibile, e definire un pezzettino di matematica interessante è una cosa completamente arbitraria. E di fatto è su quel pezzettino che poi costruiamo tutto il resto della scienza. Quindi capire esattamente quali sono le cose interessanti, siccome è una cosa ancora non chiaro che possa essere fatta da un computer, questa parte qua rimarrà in capo ai matematici.
La parte di comprensione, di sintesi e di diffusione dei risultati probabilmente rimarrà in larga parte in capo alle persone, perché quello che abbiamo visto negli ultimi anni è che per quanto i computer siano potenti, non c’è niente di più veloce per imparare qualcosa che parlare con qualcuno che l’ha capita. Però il problema qual è? Che quel pezzettino che verrà preso in carico dalle macchine è proprio il pezzettino che utilizzavamo per valutare i matematici, per definirne le carriere, per guidarne il prestigio sociale. Il grosso impatto non sarà tanto nella riduzione delle ore di lavoro, ma in come dovremo riorganizzare tutti i meccanismi che ruotavano intorno al mondo della matematica alla luce di questa capacità informatica nuova.
Alessio
Guarda, io sono probabilmente bias dal fatto che vengo da una formazione più ingegneristica che puramente matematica. Però mi domando: questo non equivale a dire che si viene ridotta la carriera dei matematici intesi come coloro che unicamente si occupano della teoria, che puntano a dimostrare un nuovo teorema? E invece abbiamo, come il duale rispetto al software, che diventa ancora maggiormente importante, tutta la fase di mapping tra la teoria, la matematica pura, e l’applicazione alla vita reale. Cosa ci facciamo con le scoperte, gli avanzamenti di conoscenze?
Alessandro Maserati
Quella parte di capire poi come applicare queste scoperte, queste ricerche, questa teoria al mondo reale è probabilmente ancora una parte che non è stata aggredita dalle AI. Però non è il lavoro del matematico puro, ci sono proprio figure diverse, con specializzazioni diverse che fanno le due cose. L’impatto maggiore ce l’avrà, come hai detto tu, su chi fa ricerca, però anche lì non credo che possa sostituire il matematico, semplicemente ne velocizzerà il lavoro e ne cambierà un po’ la natura.
Stefano
Questo vale in generale per molte altre cose. In fondo lo diceva Platone, che il ruolo dell’uomo, più precisamente il ruolo del filosofo, è quello di fare le domande giuste, non è quello di avere tutte le risposte. Le domande smaschereranno la falsa sapienza. E alla fine torniamo lì: le domande invece di farle tra noi abbiamo un nuovo thinking partner, come dicono gli americani, che è l’AI. Resta il fatto che quando fanno la domanda “cos’è che resta all’uomo”, io di solito rispondo la curiosità, perché forse è quella caratteristica nostra propria, quella di Platone, del saper fare le domande giuste. E se non sai fare le domande giuste non vai da nessuna parte, anche con l’AI.
Alessandro Maserati
Sono d’accordo, le domande rimangono in capo alle persone, ma ci aggiungo anche la parte di sintesi, che talvolta è sottovalutata. Il fatto che la macchina abbia scritto la soluzione non riduce l’importanza del capire cosa ha scoperto. C’è quella parte lì ancora fondamentale, perché poi ti consente di trasformare quel contenuto in qualcosa di riusabile.
[11:43] Terence Tao, GPT 5.6 e il valore della sintesi
Alessandro Maserati
Su questa parte qua l’AI è ancora molto scarsa. È bellissimo, se qualcuno ha tempo di leggerlo, il discorso che ha fatto con GPT 5.6 Terence Tao, per capire la soluzione trovata della disprova della congettura. Cioè il modo in cui lui interroga la macchina per farsi spiegare come ha trovato quella soluzione lì. La forza è la macchina a ribaltare il ragionamento in un modo straordinario, quasi come se GPT avesse trovato la soluzione senza capirla. Alla fine di quei discorsi vengono riposizionati tutti gli step logici per creare un flusso coerente dalla conoscenza attuale a quella dimostrazione. E questa cosa qui è proprio dove c’è il grosso del valore alla fine.
Stefano
Alla fine il grosso del valore è proprio lì, io credo. Questo vale sulla matematica, ma vale su tutto il resto. Poi noi, quando sei venuto anche in intervista, abbiamo a lungo parlato di questa cosa: come stia arrivando, piaccia o non piaccia, si neghi, si faccia finta di niente o meno, una trasformazione profonda della società, del lavoro, del modo di intendere il lavoro, soprattutto quello intellettuale, di knowledge. Tu hai detto in intervista, e io poi ne ho fatto anche un rilancio, che dovrebbero parlarne tutti i telegiornali. Dovrebbero parlare solo di quello, del fatto che stanno arrivando le AGI, non dovrebbero parlare d’altro. Invece qua si fa finta che non stia succedendo nulla.
[13:26] AGI a mesi, non a anni
Stefano
Io penso comunque che sia grave, perché da allora, noi abbiamo parlato non mi ricordo più se è gennaio o febbraio in intervista, a inizio anno tu dicevi “l’AGI è qui” e tutto quello che sta succedendo in questi mesi non è altro che la conferma. Siamo, dico a mesi, io non dico ad anni, io dico che siamo mesi, magari decine di mesi ma non di più.
Alessio
Ci si perde in quelle virgole. Sì, era inizio anno.
Stefano
Non siamo lontani 10 anni dall’AGI.
Alessandro Maserati
Siamo sicuramente in una fase di ulteriore accelerazione. Se anche solo un anno fa c’erano ancora molte persone che si aspettavano che l’evoluzione dell’AI avrebbe avuto un rallentamento, aggiungendo sul suo asintoto strutturale, abbiamo visto che negli ultimi mesi è accelerata la crescita. Non solo sta proseguendo una crescita esponenziale con un tasso altissimo, ma sta persino accelerando. Se guardiamo il salto pazzesco che ha fatto OpenAI da GPT 5.4 a Llama: in tre mesi hanno prodotto le stesse performance a meno di un decimo del costo. È un “per dieci” in tre mesi. Non è un tasso di crescita di qualcosa che sta avvicinando un asintoto, no? È come se guardi il Falcon che sta decollando, accelerando. È veramente pazzesco. Poi vabbè, di recente ci sono state una serie di eventi lato security che dovrebbero accendere un po’ di campanelli d’allarme, però sicuramente siamo in accelerazione.
[15:04] Security AI: breach, zero-day e responsabilità penale
Stefano
Mi dai un gancio, perché noi ne parlavamo ieri con Alessio. La cosa della security, tu gli dai un’accezione in qualche modo positiva che probabilmente ha, diciamo che è la leva che i laboratori stanno usando per attrarre l’attenzione. Perché mi sembra che ci sia un po’ una corsa a dire “la mia AI ha fatto un breach”. Anche Meta, l’ha detto pure Zuckerberg che la loro ha fatto un buco di sicurezza, non so, io non l’ho ancora provata l’ultima.
Alessandro Maserati
Sicuramente ci sono delle ripercussioni in termini di marketing in questi annunci, quindi vanno pesati. Però ci sono un paio di aspetti che mi fanno pensare che non sia proprio tutto marketing. Un aspetto è che alcuni di questi sono accaduti nei mesi scorsi, quindi avrebbero, se uno avesse dovuto usarli per il marketing, potevano tirarli fuori molto prima. Il fatto che diversi di questi sono avvenuti in casa di terze parti che stavano testando i modelli, per cui non sono accaduti direttamente nelle porte chiuse di Anthropic o OpenAI. C’è il fatto che il breach che hanno fatto su Hugging Face, modello di OpenAI prima che OpenAI lo rilasciasse: Hugging Face aveva attivato l’FBI, cioè nel senso questi l’avevano visto come un attacco vero proprio, e attivare l’FBI non è una cosa che puoi fare per marketing, è rischioso, giochi col fuoco.
Stefano
Il punto è un altro secondo me. Sicuramente queste cose sono fattibili, assolutamente. È quantomeno strano che improvvisamente tutti assieme nello stesso momento.
Alessandro Maserati
Sono emersi adesso perché sono andati a controllare i log, perché in realtà questi modelli, quando li testano, hanno un livello di controllo che è bassissimo. Facevo l’altro giorno questo calcolo: OpenAI ha circa 2 milioni di H100 equivalenti come potenza di calcolo. Fai conto che metti il 20% lo usano per la ricerca, hanno 2000 ricercatori, vai a più o meno quanto calcolo assorbe un Kimi K3 per avere un’equivalenza, ti viene fuori grossomodo che ogni ricercatore ha in ogni momento circa un migliaio di istanze attive in media. Se tu lanci mille istanze, mica le puoi controllare, ti va già di lusso se ti puoi leggere una sintesi a fine giornata. È come se tu avessi un’azienda con mille dipendenti e uno in pausa pranzo va a fare una rapina in banca, tu mica te ne accorgi. Per cui a un certo punto, qualche mese dopo, qualcuno ti dice “guarda che è successo la rapina”, tu vai a controllare e lo scopri. Il controllo live è minimo.
Stefano
Il numero di segnalazioni di bug di sicurezza che le Big Tech e i progetti open source hanno ricevuto negli ultimi tre mesi, Ale tu che ci stai guardando più di me, possiamo dire che è dieci volte quello che si riceve in un anno?
Alessio
No, molto di più di dieci volte. Fai conto che io ormai sono un paio di mesi che lavoro su questo. Ti direi un 30, 40 per una cosa così.
Stefano
Tutto in tre mesi. Quindi non è che gli umani sono diventati più bravi improvvisamente. Tra l’altro avete visto che Hassabis ha mollato il CEO di DeepMind. Per finire, Hassabis diceva questa roba qui è dieci volte la rivoluzione industriale.
Stefano
Ma 10 volte più veloce, quindi è come se fosse 100, e io sono abbastanza d’accordo con l’ordine di grandezza almeno.
Alessandro Maserati
È molto rilevante il fatto che i bug segnalati stiano crescendo a un ritmo vertiginoso, però la differenza grossa rispetto a questi eventi segnalati da OpenAI e Anthropic è che qui la gente l’ha fatto per i fatti suoi. Qui la gente non è stata istruita per compiere quell’attacco, ma in qualche modo è stata una conseguenza involontaria del livello di autonomia che gli abbiamo dato. Potenzialmente quella roba lì può succedere a ciascuno di noi quando apre la sua finestra con GPT e dice “scordami, fai una ricerca di mercato sul mio competitor, voglio scoprire il prossimo prodotto che lancia”. La gente parte, e senza che tu abbia il pieno controllo va a bucare i sistemi per rubare segreto industriale: quella roba lì è un reato, è un reato di cui tu sei responsabile anche se non ne sei consapevole. Ok non sarà domani mattina, però la direzione è quella, e a questo ritmo magari in sei mesi ci arriviamo, o se non sono sei mesi è un anno, ma non sono due anni.
Stefano
Quando parlavamo di allineamento, tu hai fatto una distinzione che riprendo qua: l’allineamento è importante non solo per evitare che gli obiettivi finali siano disastrosi, ma anche per allineare la traiettoria, perché quello che hai appena descritto è una richiesta perfettamente legittima da fare a un agente: fammi una ricerca di mercato sui miei competitor. Il problema è che la traiettoria non è legittima, è un reato. La conferenza Black Hat, lì sono andati i ricercatori di OpenAI a spiegare quello che era successo. Una delle critiche è “ma che sandbox debole che gli avete messo attorno”. In realtà loro hanno preso una sandbox che è state of the art, meglio di così non si poteva fare. Il modello ha trovato uno zero day, cioè un bug che nessuno aveva mai utilizzato, e l’ha usato per uscire fuori. Non esiste software senza bug di fatto.
[25:54] Good enough AI: abbassare le aspettative
Stefano
Non è l’unico modo di guardare le AI. C’è un’azienda che si chiama Good Enough AI ad esempio che fornisce modelli cosiddetti “good enough”, che fanno quello che servono. Cioè noi chiediamo un livello alle AI che magari è superiore o che perdoneremmo alla maggior parte dei nostri dipendenti.
Alessandro Maserati
I tassi di affidabilità che chiediamo alle AI sono confrontabili, questo proprio per fare un parallelo, ai tassi di successo che chiediamo al software. Quando chiedo al computer di fare una somma, mi aspetto il 100% di correttezza. Se chiedo a un collega di fare un task e questo me ne fa giusto il 90%, sono contento. Quando la gente usa le AI con una richiesta di quattro parole, si aspetta una cosa che rispetti 100 criteri che non ha mai espresso. Se noi avessimo le stesse aspettative che abbiamo quando parliamo con un collega saremmo molto più soddisfatti.
A questo proposito è uscito un paio di giorni fa un update di un benchmark fatto da Epic e da un altro: il benchmark chiedeva alle AI di riscrivere da zero dei software che potevano testare. Se andavano a vedere il tasso di successo delle AI chiedendo il 100% del superamento dei test case, le AI erano deboli. Ma se gli chiedevano anche solo di superarne il 99%, i tassi di successo erano tipo il triplo. Abbassando di un minimo le aspettative, i tassi di successo sono molto più alti, e questo spesso non è percepito. Se iniziassimo a usare le AI con un’aspettativa un po’ più ridotta avremmo uno spazio di adozione molto più ampio di quello attuale.
Alessio
Se vuoi, è un pochino anche figlio del rifiuto a priori, per cui poter dire “no ma non è precisa, non fa tutto quello che voglio” è la scusa per dire “no non la uso”.
Alessandro Maserati
Banalmente, anche solo un anno fa, quando già con le AI potevi fare tanto, già poteva scriverti pagine di codice in tempo zero, c’era ancora chi non lo usava perché non sapeva contare le R in strawberry. La troverai sempre, ma non può essere quello il motivo per impedirne l’utilizzo.
[30:00] Opus 5 non si prompta come il 4.8
Stefano
C’è una sfumatura significativa secondo me. Ci siamo abituati molto bene, per cui quando cambia qualcosa, ed è successo molto di recente con Opus 5, la tendenza è dire “è molto più stupido del modello precedente” perché il modello precedente faceva meglio questa cosa specifica, che è il caso d’uso specifico della persona che ne sta parlando. C’è anche questa tendenza a non approfondire neanche da parte dello sviluppatore che li usa per programmare, come eventualmente sono cambiati. Insieme ad Opus 5, Anthropic è uscita con il documento che dice “attenzione, Opus 5 non si prompta come si promptava 4.8, è un altro modello, ci sono poche sfumature ma significative”. E è oggettivo che se tu segui quelle quattro cose in croce che loro dicono di fare per essere più sintetico, più focalizzato, i risultati cambiano enormemente.
Quello mio della settimana che mi ha colpito: i modelli Opus scrivono delle sbrodolate spaventose. Io spesso prompto in italiano quando la complessità è alta, l’espressività che ho in italiano è migliore di quella in inglese, però gli artefatti spesso sono in inglese perché li devo condividere con altre persone. Lui scrive come un native che fa anche un po’ di poesia. Ho imparato a dirgli: “scrivi questo artefatto come se avessi un inglese B2 o B1 a seconda di con chi parlo”. Il risultato è notevole, molto meno prolisso, lui sa di cosa parlo perché sa cosa sono i livelli di inglese.
Alessio
È interessante, perché così tu non gli limiti la capacità sul lato conoscenza ma gli limiti solo l’aspetto linguistico.
Stefano
A me questo ha funzionato bene. È una settimana circa che quando faccio gli artefatti in inglese decido a che livello di inglese farli rifare e sono soddisfatto.
[33:36] Scrivere in inglese B1/B2 e ragionare in inglese
Alessandro Maserati
Ti aggiungo, se posso darti un consiglio Stefano: anche io faccio come fai tu, dialogo prevalentemente in italiano e faccio generare tutto in inglese. Di recente però ho iniziato a specificargli di ragionare in inglese, perché i ragionamenti in inglese sono in media il 15% più efficienti di quelli in italiano, quindi per risparmiare un po’ di token non è male. Su alcune lingue, tipo sul turco, è tipo due per, quindi lì è proprio fondamentale. Anche l’italiano è più inefficiente dell’inglese per i ragionamenti. Non è chiaro se è un problema dei tokenizzatori che usano o di pre-training, però le misurazioni fatte mostrano che in funzione della lingua perdi di efficienza nel numero di token consumati. La cosa interessante è che non perdi di efficacia, i benchmark sono validi, però bruci più token.
Alessio
A maggior ragione, come dicevamo prima, non leggete i ragionamenti in mezzo, ma solo quello che vi risponde.
Alessio
Una cosa di questo genere sarebbe da aggiungere in una serie di system prompt a livello aziendale, perché in un’azienda multinazionale in cui hai persone di 5-6 origini geografiche differenti ti porta a un risparmio.
[35:56] AnyDoc: qualsiasi formato in Markdown, zero token
Stefano
Il tema del risparmio mi dà un gancio su una cosa uscita in settimana che mi è piaciuta molto. Firecrawler, un’azienda che ha sempre lavorato nel crawling web, è uscita con un software open source che si chiama AnyDoc che fa la conversione di qualunque formato, doc, ppt, excel, pdf e molti altri, in Markdown. La differenza grossa rispetto alle versioni precedenti è che non usa né un LLM né un OCR in mezzo, è tutto software scritto in Rust. I benchmark di successo sono altissimi, tipo 86% dei documenti di qualunque genere convertiti correttamente contro un 68% più o meno del migliore precedente, e soprattutto a zero token.
In un impianto agentico comincia a diventare importante, perché si comincia a usare anche tanti token tutte le volte che devo ingerire un documento, e sono sempre di più. Il context engineering gira attorno a lì. Avere qualcosa che converte così bene qualunque formato nel formato che le AI digeriscono meglio, che è il Markdown, è sicuramente importante. È una di quelle cose che stiamo vedendo sempre di più: i large language model, che prima erano usati per creare direttamente l’artefatto, si stanno usando per fare quelli che io chiamo meta-artefatti, programmi che sul lungo termine ti fanno risparmiare un sacco di token e hanno risultati migliori. Esce come skill di tutti i vari agent, tra cui anche Hermes.
[39:55] Economia AI: token, Jevons e 3 dollari al giorno
Alessandro Maserati
La riduzione che aveva fatto OpenAI con Llama ha tagliato dell’80% il costo e del 20% il costo di inferenza, quelli sono effettivi, il modello è cambiato leggermente, è molto più economico di prima. Quello che risulta dalla pressione competitiva: se ti arrivano i modelli cinesi che hanno più o meno le stesse performance e ti costano pochissimo, è chiaro che devi mantenere la competitività abbassando i prezzi.
Stefano
I grandi laboratori si vogliono quotare tutti. Dopo SpaceX si parla sia di OpenAI che di Anthropic. In un panorama così competitivo e innovativo, il giorno che esce Gemini 3.8 fanno l’altalena questi in borsa o no?
Alessandro Maserati
Cambiare il modello non è così indolore. Passare da Opus 4.8 a Opus 5 richiede di rivedere documentazione, aggiustare l’harness, non è banale. Figurati cambiare provider. Se questa cosa era scomoda ma fattibile per l’early adopter, diventa un ostacolo insormontabile per un’azienda che ha processi decisionali per cui ci abbiamo messo sei mesi a decidere di attivare Claude, figurati quando mai switcheremo a ChatGPT. I tempi di switching sono molto lunghi. Poi c’è il famoso paradosso di Jevons, per cui più riduci i prezzi, più aumentano i consumi, e quindi aumenta anche il fatturato.
Un confronto che uno può fare: quanto equivale rispetto a un’ora di lavoro umano? Un modello molto veloce brucia 100 token al secondo, in un’ora 3600 secondi, quindi 360 mila token all’ora. Su otto ore di lavoro siamo intorno ai 3 milioni di token. Se tu stai a un dollaro a milioni di token, stai parlando di 3 dollari al giorno rispetto a un umano. Quando siamo nell’ordine di qualche dollaro per milioni di token, il modello è competitivo come ordine di grandezza.
Alessio
Chi fa benchmark sta cercando di superare il discorso del quanto costa il token, perché il punto è quanto ti costa il task. Ci sono modelli più economici che funzionano bene, il punto vero è l’intelligenza ottenuta e il costo per il task.
Alessandro Maserati
È molto interessante la mossa che ha fatto Meta, perché è uscito il nuovo modello a un prezzo competitivo, 1,25 dollari per milione di token in input e 3-4 per l’output, ma hanno detto: se voi ci lasciate abilitato il flag per addestrare i nostri modelli sui vostri prompt, vi facciamo uno sconto grosso, passano da 1,25 dollari a 0,10, quindi 12 volte meno.
[47:29] La curva esponenziale e il limite del PIL mondiale
Alessandro Maserati
Lavorando con le AI siamo abituati a un sacco di curve esponenziali, ma le curve esponenziali sono una cosa che in natura non esiste: se tu inizi a crescere a un tasso esponenziale rapidamente saturi l’ambiente in cui sei e la curva diventa la classica curva S in cui raggiungi un asintoto. Lo vediamo nelle implicazioni sul mondo reale. La spesa che hanno le persone è una cosa molto concreta: quanti dollari le persone danno a queste aziende sta crescendo anche esponenzialmente, ma qual è il problema? Tu non puoi crescere esponenzialmente coi dollari oltre una certa soglia.
Il parametro a tenere in considerazione è quanto oggi a livello mondiale spende tutto il mondo in stipendi di persone che lavorano col computer. Per fare numeri tondi, un miliardo di persone al mondo che lavorano col computer, con uno stipendio medio di 30 mila dollari, abbiamo circa 30 trilioni di spesa al mondiale. Oggi la spesa per i modelli AI è intorno ai 200 miliardi di dollari. Se questa cosa fa un altro “per dieci”, e l’esponenziale lo fa nel giro di un paio d’anni al massimo, arrivi ad avere un costo delle AI intorno al 10% del costo delle persone. A quel punto hai due opzioni: o generi più ricchezza e il PIL del mondo si mette a crescere a un tasso che non ha mai raggiunto nella sua storia, oppure per pagarti questa spesa devi sottrarre risorse alla massa dei soldi che usavi per pagare gli stipendi, e quindi disoccupazione su larga scala.
Se l’AI smette di crescere come revenue, dovremmo vederlo prima nei capex. Se arriviamo a fine anno con i capex che continuano a crescere, vuol dire che c’è un gruppo di persone significativo che pensa che anche i ricavi andranno avanti a crescere.
Stefano
Spoiler agosto 2026: i capex non stanno diminuendo, perché si parla di un altro giro sia su Anthropic che su OpenAI di finanziamenti. Poi vogliono andare in IPO tutti per lo stesso motivo, perché pensano di crescere ancora.
[53:00] Video AI: Seedance 2.5, Minimax H3, Veo e Runway
Stefano
Passiamo ai modelli video, video immagine eccetera, che io ho visto i video di Minimax H3 e non mi sembravano super incredibili rispetto ad altre cose, mentre ho visto quelli di Seedance nuovo e mi sembravano super incredibili.
Alessio
In queste ultime settimane sono usciti due modelli video degni di nota. Uno è la versione 2.5 di Seedance e l’altro è Minimax H3. Seedance 2.5 è l’evoluzione del 2.0, che era da molti considerato il miglior modello di generazione video disponibile, e il 2.5 è meglio. Stato dell’arte per generazione video, assolutamente multimodale: qualunque tipo di input, generazione di video con riferimenti ad altri video, immagini e audio.
Quello che ha colpito tanti in questi giorni è Minimax H3, non tanto per la qualità quanto per il fatto che è stato rilasciato open weight e i requisiti hardware per farlo girare non sono così improponibili. Modello multimodale, text-to-video, image-to-video, video-to-video. Si fanno filmati fino a 15 secondi in 2K, su vari aspect ratio. Scegliendo l’opportuna precisione, hanno rilasciato le versioni FP16 ma esistono già quantizzazioni a precisioni più basse: si va da una dozzina di gigabyte di VRAM necessaria fino ai 100 gigabyte circa per la versione full precision. 12 giga significa che con hardware consumer già si può fare qualcosa di degno. Ieri sera ho fatto delle prove con la versione a 8 bit, ho generato un filmatino sul mio hardware con 80 giga di memoria e si fa tranquillamente.
Alessandro Maserati
Ma qui gli americani sono competitivi? Veo 3 di Google, o Runway, sono ancora competitivi o i cinesi sono andati?
Alessio
Runway è competitivo, però sono tutti closed, non c’è qualcosa di utilizzabile in locale. Gli unici modelli utilizzabili in locale sono tutti cinesi: Kling, Wan e compagnia. Black Forest è europeo, adesso vediamo quando esce Flux 3.
Stefano
A livello di qualità, i vari Veo e Runway sono a livello di Seedance, sopra sotto?
Alessio
Sono lì lì,Seedance 2.0 secondo me.
[1:05:26] World model e chiusura: provate le Olimpiadi di matematica
Stefano
L’ultimo di Google era interessante perché univa al video la generazione world model, la possibilità di navigare in un ambiente che viene costruito man mano che ci navighi dentro.
Alessandro Maserati
Non era coerente: se tu giravi quattro volte a destra non ti ritrovi la stessa immagine.
Stefano
I world model sono interessanti probabilmente per la robotica. Siamo già arrivati credo a destinazione, è un’ora e cinque, dopo un’ora e cinque immediatamente i nostri ascolti scendono. Intanto grazie mille Alessandro di essere venuto, di aver portato un punto di vista super interessante e un pochino diverso dal nostro anche per formazione.
Alessio
Invitiamo la gente a provare i test delle Olimpiadi di matematica.
Stefano
Provate i test delle Olimpiadi di matematica e fateci sapere come andate con la vostra calcolatrice. Mettete stelline e campanelline, e alla prossima. Grazie ancora Alessandro, grazie Ale, a presto.