L’AGI personale è già in vendita: Muse, Dots e Grokbot
[00:00] Agenti personali nel cloud e Gemini 4
Stefano
Ciao ciao, eccoci tornati. Oggi parliamo di tante cose, di agenti soprattutto, tanto per cambiare: agenti diversi, agenti con i puntini, agenti col muso, cose così. No, parliamo del nuovo trend che c’è nelle big tech AI: fare questi nuovi agenti personali centralizzati. Ha iniziato Grok con Grokbot, poi sono arrivati quelli di Meta con Muse. Tra l’altro, avete notato la somiglianza imbarazzante tra Muse e Manus, quello che avevano comprato, poi hanno venduto, poi non hanno potuto tenere? Però hanno rifatto la stessa cosa e l’hanno chiamata… la stessa cosa, ma sugli steroidi devo dire. L’hanno chiamata Muse. Ma non sono gli unici, insomma, ce ne sono tante. Noi da un po’ parliamo di quelli strettamente personali, Hermes in particolare, per me e Paolo, ma abbiamo parlato anche di OpenClaw. Questa cosa qua è la versione cloud di quelle cose lì.
Alessio
Managed e cloud.
Stefano
Dico managed e cloud, sono d’accordo, però non è l’unica cosa: sono usciti modelli nuovi, perché sempre dovevano rallentare. Nella fattispecie GPT 6.1 Sol, e poi è uscito anche Gemini 4, di cui si dice un gran bene.
Paolo Antinori
La lavatrice è stata scaricata.
Stefano
Nessuno l’ha ancora visto, dicono un gran bene loro e basta, nel senso che hanno cominciato a rilasciarlo a un sottoinsieme selezionato dei clienti. Vediamo, dovrebbe arrivare nel giro di pochi giorni, pare a tutti i paganti, quindi anche a noi. Lo proveremo. Per ora ci fermiamo ai benchmark, che sono da state of the art. Google tornata in corsa su questa cosa qua. Però sentivo un commento, non mi ricordo più di chi, forse era di San Filippo, che diceva: ha senso fino a un certo punto dire che queste big tech sono in ritardo. Sono in ritardo sui tempi, ma con tutti i dati che hanno e la potenza di calcolo che hanno… al momento non c’è nessuno che ha inventato l’uovo di Colombo come è stato GPT nel 2023, che è stato il primo caso di GPT su scala e ha dimostrato che si poteva fare. Magari arriverà qualcuno, ma allo state of the art, con quello che si è raggiunto con il pre-training fatto bene e il reinforcement learning, che al momento è solo ed unicamente brute force, chiunque di questi ci può arrivare quando decide di arrivare allo state of the art: è solo decidere. Stacco un po’ di server da quello che stanno facendo e gli faccio fare quello. Forse è un po’ esagerata come definizione, ma non è lontana. Non so, vediamo.
Alessio
Oppure lo puoi vedere come quanto tempo è passato dall’ultimo rilascio, per cui la percezione del ritardo è…
Stefano
Sì, anche.
Alessio
Quanto tempo.
Stefano
Gira in questi giorni su X un’immagine di un cerchio con le quattro, in cui c’è anche Grok, per quello: Anthropic, OpenAI, Gemini e Grok in un cerchio che si rincorrono con la freccina, “tu sei qui”. Che in questo momento è su Gemini, ma poi arrivano gli altri a risorpassare. A meno che decidano di rallentare, ma al momento, a parte averlo detto, questa cosa del rallentamento non l’abbiamo vista tantissimo.
Alessio
Beh, hanno preso una parabola diversa.
[05:02] Chi ha l’infrastruttura per vendere agenti
Paolo Antinori
Beh, mi facevi notare tu che Anthropic in realtà è assente nella proposta di agent cloud da vendere, così. È ora che si svegli?
Stefano
Per ora sì, non lo so. Allora, loro sono stati i primi in realtà a proporre gli agenti managed in cloud per l’enterprise, che si chiama Claude on Cloud, con una discutibilità sul nome… si chiamava così, perché poi io non l’ho più visto molto riproposto, probabilmente ce l’hanno come parte dell’offerta. Però sull’agente personale effettivamente non si sono proposti, almeno non ancora, con tutto che hanno tutto quello che serve per farlo. Perché alla fine sappiamo bene, avendo pasticciato un sacco con Hermes, che alla fine sono degli harness che stanno lì, fanno cose, dai un computer… o no? Non sei d’accordo Paolo?
Paolo Antinori
No: quando dici che hanno tutto quanto per farlo… forse loro sono tra i pochi che non hanno tutto quanto per farlo, in confronto all’alternativa.
Alessio
Stavo pensando alla stessa cosa.
Paolo Antinori
Perché Google ha i datacenter, Facebook ha i suoi datacenter per tener su la sua roba. Anthropic è un consumer dei datacenter degli altri, ancora. O no?
Stefano
Beh, anche OpenAI in realtà… OpenAI compra quasi tutto a livello di potenza di calcolo.
Paolo Antinori
Anche OpenAI, vero, sì.
Alessio
Sì, però se vuoi in generale sposta il ragionamento su quanto uno è preparato, in termini di risorse e capacità eccetera, nel gestire un servizio di questo genere. Non è solo avere il modello che funziona bene, l’harness giusto, ma anche quanto bene tu riesci a tenere in piedi tutto il sistema.
Stefano
Assolutamente sì. Forse su quello sono un po’ meno preparati, hanno un po’ meno investito, nel senso che i più preparati su questo sarebbero quelli di Google, che non hanno ancora una proposta, sarebbe Amazon, che non ha ancora una proposta, e sicuramente Meta, che è stata tra i primi ad arrivare. Poi ne parliamo di cosa propongono ognuno di loro, perché OpenAI propone questi Dots e Meta invece propone Muse: secondo me OpenAI con un occhio più ai professionisti, Meta con un occhio più al consumer, come nelle loro corde, alla fine. Tanto che Meta ha fatto anche il Tamagotchi. Avete visto? Hanno fatto il Tamagotchi dell’era moderna: questo oggetto grande più o meno come un pacchetto di sigarette che ti attacchi alla cintura, che ha un display e ha questo avatar che sembra un Teletubbies o una cosa così, per chi ha avuto figli in età molto piccola che hanno guardato quella roba lì, o Big Hero 6 se preferite, quel mondo lì, ecco.
[08:39] Il Tamagotchi di Meta e gli occhiali audio
Alessio
Non so se devi essere più attempato per sapere cos’era il Tamagotchi o cos’erano i Teletubbies.
Stefano
Non lo so, probabilmente stessa età, nel senso che se hai usato il Tamagotchi hai avuto dei figli che hanno guardato i Teletubbies. No, però è una specie di pupazzetto, un avatar che si muove, parla e tutto quanto, che girerà sul telefonino ma girerà anche su questo oggetto. C’è questa corsa, per forza, ad avere un oggetto alternativo al telefono. Se sono gli occhiali lo capisco, perché è un form factor diverso; francamente avere un altro oggetto con un display che ti porti dietro, fatico a capire perché non un’app sul telefono, sinceramente.
Alessio
Vediamo: da vent’anni, trent’anni, quant’è che cerchiamo di mettere tutto nel telefono, improvvisamente.
Stefano
No, ma sono due cose da portarti dietro.
Alessio
E sì, appunto.
Stefano
Io sono felice delle carte di credito sul telefono da qualche anno, così non mi porto più dietro il portafoglio… perché devo portarmi dietro il Tamagotchi? A meno che vogliano attaccare un mercato pre-telefono, quello dei giovani e giovanissimi, ma non credo, perché i casini su quello ne hanno già fatti abbastanza di recente.
Alessio
E non solo: lo smartwatch, allora?
Paolo Antinori
Beh, una possibile interpretazione c’è, ed è quella del fatto che comunque, se sei una terza parte, non hai controllo sulla piattaforma, che sia iOS o che sia Android. E lo dico perché è di questa settimana il fatto che Google ha annunciato dei cambiamenti su ciò che si può fare su Android e cosa no, in particolare per tagliare fuori il sideloading. Su F-Droid e sulle altre comunità ovviamente si è rivoltato, perché tutti quanti sono arrabbiati. Quindi se volete, potrebbe essere quella l’interpretazione: non possiamo fare tutti i pasticci che vorremmo sul telefono. Oltre al fatto che immagino che Facebook voglia tenere il canale aperto tutto il tempo, per ascoltarti tutto il tempo, che credo sia una delle cose che non possono fare… o meglio, che ogni tanto, tutte le volte che li hanno beccati che le facevano…
Alessio
…che magari non va d’accordissimo con il sistema dei permessi di Android.
Stefano
Sì, anche.
Paolo Antinori
Sì, tutte le volte che li beccavano che facevano qualcosa di cui nessuno si era reso conto che fosse possibile farlo, di solito li infamavano un pochettino. Quindi ha detto: senti, ma che ce ne frega a noi?
Stefano
Sì, poi forse… sì.
Alessio
Sì, effettivamente.
Paolo Antinori
Un companion diverso per gli occhiali, perché oggi gli occhiali hanno bisogno del telefono sostanzialmente per collegarsi a internet, e così magari fanno tutto sulla piattaforma di Meta. Può essere, sì. Però per il resto gli metteranno WhatsApp e quindi loro la risolvono così.
Stefano
Vabbè, comunque questa è la storia di Meta, che hanno fatto il Meta Connect, la settimana scorsa, due settimane fa, non mi ricordo, e non abbiamo ancora parlato. E hanno presentato questa piattaforma qua, Muse, che è anche il nome dei loro modelli, ma qua non parliamo di modelli: parliamo di Muse Agent.
Alessio
Gli altri sono Muse Park, forse.
Stefano
Muse Park credo che sia l’oggetto, forse… non mi ricordo, hanno usato lo stesso nome di base, Muse. Questi agenti sono quello che sono Hermes e OpenClaw in buona sostanza, ma, come diceva prima Alessio, managed e cloud: quindi hanno un loro computer su cui fanno cose, che non è il vostro, è una virtual machine che sta nei server di Meta. E hanno a tutti gli effetti un loro computer perché utilizzano ampiamente il computer use: il click, navigano, fanno tutte queste cose. L’unica interfaccia è chat, ma soprattutto vocale per loro, tant’è che hanno fatto questi avatar intercambiabili. Questo umetto simpatico, secondo loro, secondo me meno, che sembra… è intercambiabile comunque. Il più utilizzato, ve lo faccio vedere adesso, ho fatto una ricerca di immagini e la condivido al volo: ecco qua, quello che sembra appunto un Teletubbies. E l’oggetto è questo qui che vedete in mano a Zuckerberg. Dicono un pacchetto di sigarette, è più piccolo di un pacchetto di sigarette in realtà, ha un display, ha dei microfoni e buonanotte, nel senso che ha quello. Mentre invece hanno detto che hanno tolto le telecamere da degli occhiali: hanno fatto la versione occhiali solo audio, tra le annunciate, perché c’era rivolta negli Stati Uniti, in certi posti non potevi entrare con gli occhiali Meta perché avevano le telecamere sempre accese, tipo teatri, e qualcuno…
Alessio
…per la privacy o per i diritti, sì, forse per i diritti degli autori.
Stefano
Anche, sì. E solo che la gente magari ce l’aveva come occhiali da vista e diceva: sì, ma se me li tolgo non ci vedo, allo spettacolo come faccio? Quindi vabbè, adesso hanno annunciato questi occhiali qua, e hanno annunciato anche, sia su quelli normali diciamo, con le telecamere, che questi, una durata della batteria molto più lunga. Gli occhiali con display arrivano in Europa pronti, pronti per il Natale. E presto integreranno questa roba qua di Muse dentro agli occhiali anche. Ci provano, diciamo che loro ci provano a entrare in questo mercato consumer. Tra l’altro vi ricordate che OpenAI aveva speso fantastiliardi per prendersi il designer di Apple qualche mese fa, per fare esattamente quell’oggetto lì da mettere alla cintura, dicevano i rumor? E non sono arrivati… se arrivano, arrivano dopo. Però intanto OpenAI ha fatto la sua di conferenza e ha annunciato Dots, che è la stessa cosa, semplicemente.
[15:54] Dots e il problema del go-to-market
Alessio
Cercate le dieci piccole differenze.
Stefano
Troppo: è la stessa cosa, identica. Immagino basata in qualche modo su OpenClaw, visto che è loro, però managed dentro un cloud, ha il suo computer. Ci hanno picchiato su Astra, però. Quindi insomma, rispetto a quello che può averci messo dentro Meta, tanta roba, e basta. Quello lì è il trend. Poi vabbè, Manus che è tornato in Cina ha lanciato la versione nuova che è di quel genere lì, Instinct è una startup che sta raccogliendo fantastiliardi che fa la stessa cosa. Passatemi il termine, un Hermes, un OpenClaw managed: non si sa che cosa ci sia dietro, però fa quelle cose a cui noi siamo abituati. Quindi siamo interessati a quella che io ho chiamato, in una newsletter, personal AGI, perché verso lì andiamo. Cioè l’esperienza che abbiamo anche noi con Hermes, che resta una roba da smanettoni, e oggettivamente con Hermes devi metterlo sulla macchina, configurarlo, accudirlo… questa cosa qua, che qualcuno ti dà già preconfigurata nel cloud, diventa assolutamente interessante. Perché io ho provato, un esperimento sociale diciamo, a fare io la parte managed e dire a mia figlia: questo è un Hermes che usi tu, tutto tuo. Ho creato un mostro, praticamente… no, un mostro no: ho creato un early adopter che non sarebbe stato early adopter senza di me che glielo configurava, eccetera, ma che lo usa in vari modi. Poi ci sono dei racconti sull’utilizzo Gen Z e sul rapporto dei Gen Z con Hermes e i modelli attraverso un agente, che sono interessanti, dopo ve li racconto. Ma ditemi cosa pensate di questo trend intanto, se avete un’opinione. Paolo, che sei un utilizzatore di Hermes come me?
Paolo Antinori
Io sono un utilizzatore come te e confermo l’alto mantenimento che richiede il tutto, in particolare se osi aggiornare qualunque cosa: il butterfly effect si spacca di qua, spacca di là, in particolare se hai un setup complicato. Il tuo forse è più semplice, tu ce l’hai dedicato su un computer tutto intero, io ho ospiti, e ogni volta che cambio qualcosa a livello dello stack si spacca tutto. E questi giorni era tutto rotto, in particolare per me. Quindi sì, non è plug and play. Se qualcuno te lo dà plug and play, magari interessante. È che questa cosa è una cosa da… boh, da super nerd mi viene da pensare, fintanto che il marketing non convince le nostre madri che ne hanno bisogno. E non so come fanno a convincerle. Cioè, anche la generazione di tua figlia, forse loro potrebbero essere un target consumatore, ma devi convincerle a comprare un servizio online, quindi tirar fuori la carta di credito, farlo così. A meno che non glielo nascondi a tradimento in qualcosa che già usano: che sia Instagram, che sia WhatsApp, che sia quell’altra cosa. Facebook forse può…
Stefano
Credo che sia quella roba lì.
Paolo Antinori
Sì, è vero. E che in WhatsApp erano partiti col piede sbagliato, che quando c’avevano messo l’AI obbligatoria su tutte le istanze di tutti, la gente l’aveva presa maluccio, e quindi l’effetto era uguale e contrario. Io pensavo a Facebook perché Facebook…
Alessio
Beh, ma anche perché erano modelli schifosi.
Paolo Antinori
Forse, però me la ricordo proprio una questione di visibilità e di privacy, più che non tanto “lo uso perché comodo”. Credo di averlo ancora sul telefono, mai usato. Dicevo, mi sembrava un po’ più sensato Facebook, perché Facebook fa comunque anche da piattaforma di commerce ibrida: la gente ci vende, si fa cose. Quindi gli dici: magari lì un’automazione mi serve, metto fuori il catalogo, metto i post, quelle cose così. E allora sì. Però non so se è quella la direzione in cui andrà Facebook. Ad esempio mi fa un po’ strano capire il go-to-market, se vuoi, della strategia dell’azienda. Avrebbe avuto più senso se avesse fatto qualcosa di genere AWS, perché loro ti vendono le istanze: tu sai che vai da AWS per avere della potenza di calcolo sul cloud, e allora te la compri, fatta così. Che ci riescano OpenAI o altri senza un argomento convincente mi fa strano. Mi viene più facile pensare che, se mai si svegliasse Apple e volesse fare una cosa del genere con la sua schiera di fanboy oltre che religiosi, gli può convincere di qualunque cosa. Le altre piattaforme, Facebook e Google, non credo che abbiano questo potere di brainwashing.
Stefano
Google ha la penetrazione di Android e di Workspace, ha un altro target, sicuramente sui giovani, giovannissimi, più di Meta. E forse anche OpenAI cerca di avere un target intermedio, consumer ma nerd, immagino con Dots. Però quello che fanno quegli oggetti lì, se riesci a veicolarlo e a metterlo in mano… hai ragione sul fatto di sottoscrivere un abbonamento. Beh, poi non abbiamo citato, perché ce lo dimentichiamo sempre, il povero Elon: il primo di tutti è stato Grokbot comunque, di questo nuovo trend. Grokbot che fa un sacco di cose, cioè si legge su X, tutto ciò. Nessuna di queste piattaforme è disponibile in Europa, quindi non l’abbiamo provata, ne abbiamo solo letto. Però io mi rifaccio ad Hermes, al caso di mia figlia: le ho dato quella cosa lì e lei ne fa un uso…
[22:52] A2A e pipeline di agenti coordinati
Alessio
Prima di sentire il caso di tua figlia, che comunque mi interessa molto: magari sto correndo troppo, però io mi immagino già situazioni in cui, a livello diciamo di aziende, uno dice: vabbè, avrei bisogno di, che ne so, una persona che lavori nel marketing per qualche settimana, qualche mese, che mi migliori il business su determinati aspetti. Allora invece di assumerla, esiste magari già un profilo che io posso richiedere su questa istanza di Muse piuttosto che di Dots, che va per un tot, che mi fa tutte le analisi e le ricerche che mi servono, utilizzando Astra piuttosto che chissà quale altro modello. E se vuoi è una forma… un po’ come il cloud ci ha dato la possibilità di avere delle risorse che tiriamo su quando le usiamo e poi le eliminiamo. Qui, se vuoi, è portato a una funzionalità un po’ più intelligente, organica, a quello che vuoi.
Stefano
Sì, è una delle storie di Dots questa. Secondo me Dots, per come è stato presentato, visto la keynote dei Dev Days, è stato presentato con in mente un po’ l’OpenClaw di turno a casa loro, ma un po’ avevano in mente anche Pepperclip, per chi l’ha visto almeno. Pepperclip era proprio quello che dici tu, Alessio: creare l’azienda virtuale, solo di agenti, eccetera eccetera. E loro parlano proprio, nella presentazione dei Dots, di dargli dei profili molto specifici a ogni Dot e di fare in modo che collaborino tra loro. Infatti in questo momento la discussione che c’è nel nostro gruppo A2A dello Steering Committee è: ma come facciamo a ficcare A2A dentro a tutti questi agenti nuovi nati? Che A2A è nato per quello. E avrebbe senso, perché poi c’è un problema di capire come far comunicare piattaforme diverse, perché oggi sono isolate e comunicano solo tra loro. Chiaramente non c’è grande interesse da parte delle aziende, perché vogliono fare l’occhiolino ai clienti.
Alessio
C’è competizione.
Stefano
Però va bene. Però sì, è un po’ la storia di Dots: creo agenti specializzati a fare qualche cosa che mi aiutano soprattutto in ambito lavorativo. Che ne so, creo un agente che è capace di usare Excel, ed è un mistero della fede, e lui mi tira fuori i dati. La storia di Meta è diversa, più consumer, tant’è che appunto hanno fatto gli avatar e così. Quella di Grokbot è una via di mezzo: con noi puoi fare tutto, il contrario di tutto, anche lanciare i missili di SpaceX. Creare pipeline complicate con gli agenti è una storia comunque di tutti e tre. Nella mia esperienza di utilizzo di questi agenti diciamo fatti in casa, sia che siano l’Hermes mille volte citato, ma anche configurazioni diciamo complesse dei vari coding agent che parlano tra loro… perché vi raccontavo forse la settimana scorsa che ho fatto un’estensione al mio Linux per fare in modo che si scrivano tra loro gli agenti per coordinare il lavoro. E ho provato ad usarla estensivamente: si ottengono pipeline estremamente complesse, cioè questi agenti sono capaci di coordinarsi. E quindi mi fa pensare che già oggi siano utili, domani lo saranno di più. Come lo vendi è un bel discorso. Però guarda, adesso ti porto l’esperienza di Ginevra. Le dico: guarda, c’è questa gente qua. Allora lei mi ha fatto subito le domande che ci siamo fatte anche noi, ma secondo me ci ha messo meno tempo ad arrivarci… no, la prima domanda che mi ha fatto è: ma si ricorda tutto, vero? E io: sì, adesso sì, gli ho messo un sistema di memoria.
[27:57] L’esperimento: Hermes in mano a una Gen Z
Paolo Antinori
Adesso sì! Non è sempre stata così!
Stefano
Perché il limite più grosso dei chatbot è che non si ricorda mai un cazzo di quello che gli dico. A meno che siano super intelligenti, a me interessa che si ricordi che, se gli ho detto, testuali parole, che è andata a vivere da sola per l’università, o che se gli dico che non mi piace una cosa, quando gli dico di farmi la lista della spesa, non deve ripropormi il riso rosso, perché io il riso rosso non lo mangio. E quindi l’utilizzo che ne fa in realtà è completamente diverso da quello che immaginiamo noi, che ci immaginiamo, da bravi nerd e programmatori, le pipeline per fare meglio, fare le cose, creare il sito. A lei non gliene frega niente di quella roba lì. A lei interessa che si ricordi quello che le ha detto, che sia capace di farle le liste, magari anche di farle una cosa visuale tipo un sito, che lei non ha neanche un’idea di come si fa un sito, ma chi se ne frega, l’importante è che vada. E che ci conversi. Infatti l’altra cosa che mi ha già fatto notare è stata: però capisce malissimo quando gli mando i vocali, devi mettere un voice-to-text più efficiente, perché se sono in giro i vocali non li capisce bene. Io voglio mandargli vocali. Quindi…
Paolo Antinori
Ho un’app da suggerirle. Ho un’app da suggerirle. No, è interessante quello che stai dicendo. Scusa, vai avanti, poi ti racconto la mia versione simile, con l’esperienza di mia moglie.
Stefano
Perché dice: io voglio mandargli vocali perché io voglio parlarci. E quindi torni al discorso di Muse, che fa tutto con la voce. Lei vorrebbe quella roba lì. Poi il computer, dove l’ho messo, non è capace di risponderle anche in text-to-speech, ma lei vorrebbe parlargli come fa con il GPT, e vorrebbe che si ricordasse tutto. E quando non si ricorda qualcosa si incazza. Ma lo usa così tanto ed estensivamente che sono successe delle cose interessanti comunque. Intanto usa GLM Flash: il mio Hermes su tutto usa GLM Flash. Ma senza che nessuno glielo dicesse nel soul, a un certo punto parlando con lei si è convinto di essere una sua amica che parla al femminile. E le dice cose… sì, dai, “detto tra donne”, cosa che con me ovviamente non fa. Poi ha adattato il linguaggio: parla con lo slang Gen Z, e questa cosa non gli è stata detta nel soul. Lo dico a favore di Hermes, che è molto bravo ad autoevolversi. E lei lo usa in un modo davvero completamente diverso. Quando me l’ha raccontato… cioè gli dà la lista della spesa, dice che cosa ha mangiato, cosa non vuole mangiare, eccetera, e poi quando va a fare la spesa gli dice: cosa mi serve in casa, e lui deve saperlo. Gli fa il log di cose sue, di università piuttosto che di salute, sapere come comportarsi, cose di questo genere. Cose completamente diverse… da assistente gli chiede l’elenco, quello lo faccio anch’io, per usare il calendario. E l’interfaccia chat è quella, e sarebbe ancora meglio vocale per lei: è quella che cambia, alla fine. Non sembra, è quello. L’importante è che ricordino e che sappiano fare cose. Cioè ha detto cose tipo: cercami il biglietto per la tal cosa. E questo ha tirato su un browser, è andato a cercarli, le ha dato i prezzi. Cose che noi non facciamo: su Vinted non ho mai cercato oggetti, queste cose qua, no? Cose che io, in fondo, faccio di meno: io lo uso per fargli fare lo skateboard, ecco, cose diverse.
Alessio
O lo scraping dei paper usciti su arXiv.
Stefano
O lo scraping dei paper usciti su arXiv: tutte cose un pochettino più circoscritte, anche. Quindi quando me l’ha raccontato mi ha fatto pensare che per il suo target la roba di Meta ci starebbe. Al di là che continuo a non capire il perché doversi portare in giro il Tamagotchi, però…
Paolo Antinori
Però, cioè, sì. Però mi viene più da pensare che il profilo che hai descritto è un profilo tipico da client Apple: quello per cui vuoi un singolo entry point super semplificato, con un singolo pulsante: fai, agisci e basta. Ecco, perché…
Stefano
Che è quello che vuole fare Meta nella sua vita da grande: fare il concorrente di Apple, secondo me.
Paolo Antinori
Il fatto stesso che noi abbiamo introdotto questa nuova funzionalità nel podcast descrivendola come “una virtual machine sul cloud”… tua figlia non sa neanche cos’è una virtual machine, non le deve interessare, e non ha nessun interesse per quell’aspetto.
Stefano
No, no, infatti. A loro interessa… infatti per quello, tutto sommato, l’avatar che stia sul telefono o che stia sul Tamagotchi ha senso, perché a loro non interessa dove sta questa roba. Mia figlia sa che c’è un computer acceso in salotto e che le sue cose stanno lì. L’unica cosa che mi chiede è: mi raccomando, il backup.
Alessio
Non “mi raccomando la sicurezza”, no: il backup.
Stefano
No, il backup. La sicurezza non gliene frega niente. A lei interessa che si ricordi le cose. Se poi i suoi dati vanno in giro non se ne accorge nemmeno.
Alessio
Qualcuno sa se mangia il riso rosso… e loro che se ne fregano.
[33:10] Il consumatore vuole che funzioni e basta
Paolo Antinori
È stato in parte un argomento invece di discussione, che interessava mia moglie, quando le ho spiegato che cos’era Hermes. Perché lei aveva vagamente familiarità con la proposta di Claude Work, o come si chiama, quella con le risorse, per cui girano delle cose da qualche altra parte, quindi tu le puoi fare andare, hai delle funzioni in più. Le ho spiegato che, essendo noi… avendolo, diciamo, non affidandoci a un servizio end-to-end proprietario come quello di Claude, nonostante ci basiamo su GLM, in realtà abbiamo un approccio ibrido: significa che, per come è stato disegnato Hermes, la memoria la tieni tu, le skill e le integrazioni le tieni tu, il modello, se non hai un computer costoso a casa, te lo dà qualcuno. Quindi è vero che dipendiamo da GLM, nel nostro caso anche noi, ma se stasera vogliamo cambiare e dipendere da qualcun altro possiamo farlo, e teniamo tutto quanto il contesto. E quell’aspetto l’ha apprezzato, diciamo, di governance e di sovranità dei tuoi dati stessi. La cosa che invece, nell’uso che ne fa lei, mi ha stupito maggiormente è stato che, in parte, ha fatto le cose come tua figlia. Tipo, una delle prime cose che gli ha chiesto di fare era di avere un job su Vinted per monitorare se saltavano fuori delle robe che ci interessavano, e forse sui volantini della Lidl, per sapere quando usciva salcazzo qualcosa che c’è qualche mese sì e qualche mese no. E detto: dai, non ci avevo pensato! Invece a quanto pare è un uso comune, e adesso lo faccio anche io, confesso. La cosa invece che ho trovato più curiosa, e qui mi dovete dare voi la vostra opinione da nerd, è che ha come idealizzato Hermes come qualcosa di più potente di Claude Code stesso. Per cui, se di tanto in tanto deve fare qualcosa di automazione del lavoro, quindi programmazione, non proprio programmazione diretta ma più, per dire: ho una serie di link in questo documento, li devo verificare, ci devo fare qualcosa, quindi collegamento di informazione, vuoi, quello delle scienze dell’informazione… sa che può farlo con Hermes, ma è come se non avesse idea che queste cose si facessero con Claude Code o equivalenti. Hermes fa delle cose, solo Hermes può farle. E quando ogni tanto mi chiede un supporto dicendo “sto cercando di fare questo”, io l’aiuto e mi viene da dire: sì, ma non lo faccio con Hermes, lo faccio con Claude Code. E quindi c’ho questa stranezza qua, per cui è come se io e lei, in maniere diverse, avessimo assegnato delle responsabilità ai due agenti, a Claude Code e Hermes, ed entrambi ci rivolgiamo a loro per alcune cose ma non per altre, quando probabilmente entrambi sono in grado di fare entrambe le cose. Questa è la cosa che mi ha colpito e incuriosito.
Stefano
E mia figlia addirittura i Dots non li userà mai. Semmai: usa più Claude Code o Claude Work? Mia figlia un PC ce l’ha, lo usa per cose estremamente specifiche, non è obbligata. Altrimenti i suoi punti di riferimento sono telefono e tablet: in aula, all’università si porta il tablet, non si porta il PC. E perché ci può scrivere sopra, e quindi… e quindi l’esperienza Claude Code, Claude Work, che sono più da PC, lei non la fa proprio, non ci pensa nemmeno, non sa nemmeno che esistono. Per lei è l’evoluzione del chatbot. La maggior parte delle persone, nel nostro mondo, secondo me, non hanno ancora fatto il passaggio chatbot-agente. E queste proposte qua, Dots, Muse, Grokbot, sono la proposta per il grande pubblico del passaggio chatbot-agente. Io la vedo così. Per mia figlia è arrivato prima, perché ci sono io: gliel’ho detto, to’, questo è Hermes, chatta con Telegram e fai quel che vuoi. E lei lo usa come un agente, adesso. Cose che con un chatbot, certe cose che fa, e che facciamo anche noi per carità, non puoi fare: le puoi fare con Claude Code ma non le puoi fare con l’interfaccia web di ChatGPT, certe cose. Cioè, sì, adesso le fa anche perché quella ormai è un agente… però pensate al ChatGPT di un anno e mezzo fa: ci chattavi, gli facevi le domande, ti faceva lo schermino, ti dava il pezzettino di codice, ma non ti faceva l’esperienza hand-to-hand. Per noi della programmazione, ma per loro dell’andare su Vinted, non lo faceva, appunto.
[38:54] Dall’AI che risponde all’AI che fa cose
Stefano
Gli agenti sono appunto l’AI che fa cose. Secondo me quel passaggio qua, dall’AI che risponde all’AI che fa cose, il grande pubblico non l’ha ancora fatto. Ed è il tentativo di farglielo fare con questi strumenti qui, perché sono managed, più che sul cloud, e te li apri sul tuo telefonino, sul tuo tablet e funzionano: non hai da pensare che ti chiederà Paolo o Stefano di installare Hermes e poi, quando non va, martellare loro.
Alessio
La virtual machine, la sandbox, il firewall e tutto il resto.
Stefano
Cioè quelle lì erano cose per smanettoni…
Paolo Antinori
…per pochi.
Stefano
…da super early adopter che volevano capire come funzionano. Ma la maggior parte della gente non ne frega niente di capire come funziona: vuole che funzioni e basta. Io la vedo così, almeno.
Paolo Antinori
Sì. La parte che non mi convince del tutto di questa storia è che, prendendo anche da specimen tua figlia o mia moglie, non so quante funzionalità agentiche avanzate possano servire che non passino dall’interfaccia generica web. Se mi dici che hanno bisogno del browser per fare cose leggere, scrivere, anche comprare i biglietti, allora sono d’accordo. Già l’uso di Excel o di queste cose, non so, quelli mi sembrano un po’ lontani. Cioè, a meno che Facebook non riesca a convincere qualcuno che possono usarli per giocare ai videogiochi al posto dei ragazzi, per cui magari gli fanno mandare avanti campagne lunghe o cose di questo tipo, allora diciamo ok, non è un’interfaccia web, il videogioco è un’interfaccia di tipo diverso e quindi serve un’integrazione intelligente. Ma altrimenti, se il canale…
Alessio
Magari li convinci ad avere l’insegnante di ripetizione di una materia piuttosto che… di questo genere.
Paolo Antinori
Sì, cioè, nel senso: se l’esperienza utente è quella del chatbot di ChatGPT versione 1, non hai bisogno diciamo di cose più avanzate. Quindi ho il timore che ci possa essere una sovra-ingegnerizzazione della proposta, che non prenderà, perché non so effettivamente quante persone vogliano questa potenza nel telefono, peraltro semplificata. Le funzioni qualificate o avanzate possono passare da: vai su un sito e naviga con l’interfaccia del sito; meglio se c’hai un MCP, ma se non ce l’hai, un po’ di pazienza, clicca a destra e a sinistra finché non fai l’operazione che ti ho chiesto io. Questo il sospetto.
Stefano
Beh, però quello è tanta roba. Poter delegare parte di quelle cose lì, per una questione di tempo, eccetera. E poi il fatto di ricordarsi tutto in maniera naturale, cioè quello che secondo me cerca il grande pubblico, che lo faceva già con ChatGPT e i GPT: di poter parlare in maniera naturale con qualcosa di apparentemente intelligente, che diventa anche apparentemente una memoria d’elefante. In più l’interfaccia vocale ti consente, ad esempio, di usarlo come traduttore simultaneo tra pochissimo, e una serie di altre cose così. Sono sicuramente use case diversi dai nostri: sono da capire quali siano. Su Grokbot ci sono un sacco di cose.
Paolo Antinori
Sai che, scusami, con l’ultima cosa che hai appena detto, se vuoi la killer feature è ricordare le informazioni. Probabilmente allora il gadget proposto da Facebook da mettersi alla cintura è perfetto: è un vecchio buzzer di quelli degli anni ‘80.
Stefano
Eh, il senso loro è quello.
Paolo Antinori
Che sta sempre lì, lui ascolta i fatti tuoi e tu poi gli chiedi quando vuoi, in asincrono.
Stefano
Beh, Apple ha fatto questa cosa già, secondo me, in maniera più intelligente, perché all’ultima loro conferenza, che non mi ricordo mai come si chiama, quella di Apple, hanno annunciato che l’Apple Watch farà questa cosa: potrà ascoltare tutte le tue conversazioni e mandarle a Siri, che altro non è che Gemini. Registrare tutto quello che succede intorno a te.
Paolo Antinori
Mi piace: gli occhiali che registrano sono malvagi e ascoltare tutto quanto invece va bene.
Stefano
L’Apple Watch no eh… ma neanche le cose, neanche le cuffie, perché già le cuffie lo fanno, tra l’altro. È così, cosa devi fare. Tra l’altro… poi sono ridicoli. Perché Meta, tre settimane fa, ha preso una multa dall’Unione Europea per danni presunti cognitivi ai minori, da un miliardo e otto, una cosa così. Che il numero fa un’impressione esagerata, no: 18 miliardi di dollari… dici il numero fa impressione, diluiti in dieci anni, che è circa lo 0,5% del loro fatturato annuo. Come se a un operaio che prende duemila euro dessero una multa di dieci euro al mese, più o meno. Quindi… ma sì, infatti… sono dati patteggiati, e hanno detto: sì, sì, 12 miliardi e pronti, e oplà, la chiudiamo qua e siamo a posto così. Per cui vabbè, diciamo che sulla privacy queste aziende hanno delle regole che decidono di violare scientemente, tanto se lo possono permettere. È giusto? No. Però è lo stato di fatto. Ma parliamo dei modelli, perché anche i modelli non hanno rallentato. Allora in un secondo vi faccio vedere gli ultimi due usciti in maniera visuale.
Alessio
Con lo skateboard.
[46:41] Skateboard: Sonnet 5.5 contro Sol 6.1
Stefano
Allora: questi qua sono, a sinistra abbiamo Sonnet 5.5 e a destra Sol 6.1, entrambi in versione minimal del prompt, cioè quello che non dà troppi constraint. Perché vi faccio notare che entrambi hanno deciso di farlo con JavaScript, che è una regola che invece nel constraint gli diamo di non usare JavaScript. Load fa un lavoro da una Madonna: cambia anche i… se guardate, fa diversi trick. Però entrambi con JavaScript. Long story short: con il constrained, invece, che non può usare JavaScript, Sol 6.1 fa un lavoro peggiore, e invece semplicemente Opus non ci riesce, non genera una cosa valida. Questo per dire: il nostro prompt constrained è abbastanza cattivo, gli dice di non usare JavaScript ma di fare l’animazione direttamente solo nell’SVG, è un compito complicato. Però con JavaScript adesso questi modelli fanno i miracoli. Quello di Sonnet è notevole, con quattro, cinque, sei, sette trick diversi. Sono modelli reasoning, costano… Sonnet costa un pezzo più del numero di token rispetto a quello che costa GPT, però comunque: modelli nuovi, piccolo passo avanti per Sol rispetto alla versione 6.0; Sonnet invece rispetto alla 5.0 doppio salto carpiato, proprio non c’è paragone. È un modello estremamente reasoning, che spende un sacco di token di reasoning per fare qualunque cosa. Quindi alla fine non è veloce per niente. Perché adesso, senza ricondividerlo… vi dico io i numeri. Anzi, questo qui è quello con stream, fammelo prendere per paragonarli uguali, i due minimal. Allora: Sol minimal lo fa con quattromila token circa in 96 secondi. Sonnet minimal, che invece è quello che fa tutti i trick, di garibilità niente da dire, invece di quattromila token ne usa 79mila, e invece di 96 secondi ce ne mette 629. Quindi lo stesso compito, secondo me alla fine è svolto meglio, ma con un numero di token e un tempo notevoli.
Paolo Antinori
Ok.
Stefano
E torniamo al discorso che abbiamo già fatto tante volte, di chi si lamenta dei benchmark, Artificial Analysis in particolare: che magari il modello ci arriva a quell’intelligenza che loro dicono, ma nell’utilizzo comune diventa overkilling, perché 629 secondi…
Alessio
…sono 10 minuti.
Stefano
Sono 10 minuti.
[50:02] 79mila token: quanto costa il reasoning
Alessio
Stavo giusto guardando questa cosa tra i numeri su Artificial Analysis. Aspetta, vediamo se ci riesco… praticamente GPT 6.1 Sol è a 52 come indice di intelligenza; Sonnet 5.5, a seconda dell’effort di reasoning, tra high e max va da 47 a 56. Cioè 56 vuol dire a un passo dal massimo che abbiamo, che è Opus 5.5, e in teoria dà una pista pure a Sol 6.1. Però chissà quanti token ci sono dietro…
Stefano
Esatto, dipende poi appunto dal numero di token e dal tempo. Perché se ci mette dieci minuti per fare un compito, io probabilmente mi sono stufato cinque minuti prima di aspettarlo.
Alessio
Tant’è che se scendi da Reasoning Max a medium, bruci quasi dieci punti dell’intelligenza.
Stefano
Tra l’altro non è un caso: io li faccio girare con l’effort di default che propone il modello, e Sol come default ha medium, mentre invece Sonnet high; il medium non te lo fa neanche provare, perché evidentemente sanno di aver bisogno di molto reasoning. Però torniamo al discorso, già fatto più volte, che oggi la differenza si sta facendo sempre di più sul reinforcement learning e su come si costruisce la catena di reasoning, più che sul pre-training. Anche se un modello molto grande, con pre-training forte, può dare risultati migliori nell’insieme tempo-beneficio. Diciamo: se hai un modello molto forte in pre-training, come può essere la versione 6 di GPT tutta, o Fable per stare in casa Anthropic, hai bisogno di molti meno token e molto meno tempo per arrivare allo stesso risultato. Quindi è un problema di costo-beneficio. Certo, se poi torniamo agli agenti, ed è una cosa asincrona in cui tu lanci e nel frattempo vai a correre, torni e il risultato è pronto e finito, chi se ne frega se usa tanti token e tanto tempo. È sempre un problema di tipologia di utilizzo. Forse per un coding agent conta, perché sei lì davanti ad aspettare i risultati; anche se sempre meno, perché sempre di più si lavora con goal di lungo termine, eccetera. Se gli agenti, che siano di uso personale o aziendale, vanno su long running, very long running, forse all’intelligenza di più alto livello si arriva anche con tanti token in più, non lo so, a mazzate.
Paolo Antinori
Beh, che è un po’ l’osservazione che fanno alcuni su come i concetti, come il reasoning, in realtà non siano stati altro che importare dentro il modello tecniche esterne: per cui si faceva un ciclo intorno alle risposte per dire “verifica queste cose”, e ancora oggi è così. Nei nostri esempi più concreti di codice, l’ultima fase che facciamo noi è quella di fare la code review esterna: per ora è esterna, e quello ci dà un buon risultato. Sui ragionamenti che facevi tu prima: meglio uno che ci mette cinque minuti o uno che ce ne mette cinquanta? Dipende: se in quei cinque minuti poi io ci metto il reviewer, e il reviewer ne aggiunge 45, sempre cinquanta ci arriviamo. E quindi in realtà è un pochettino relativa, insomma, la stangona di dove ci vogliamo fermare e come valutiamo chi è più intelligente o chi non lo è.
[55:19] Intelligenza o velocità: il caso Einstein
Stefano
Sì, sì, sono d’accordo, è un po’ tutto da valutare. Infatti in questo momento ci sono parecchi paper su questo tipo di argomenti, cioè sul fatto che la generazione veloce di token, anche a un livello di intelligenza senza reasoning minore, possa essere decisiva per ottenere risultati migliori. Sono tanti esperimenti con i diffusion model, quelli di testo, che producono velocissimamente token, a cui montare sopra del reasoning il cui reasoning stesso è generato di nuovo da diffusion. In questo modo hai un ciclo di reasoning molto veloce, e la singola istanza di generazione di token è estremamente meno efficace rispetto ai modelli autoregressivi. Vabbè, quindi qua siamo proprio nel mondo della ricerca pura, perché fanno su modelli piccoli, eccetera, però dà qualche risultato promettente. Cioè, la domanda, ed è un po’ quello che stavi dicendo tu, è: meglio un super intelligente lento o un intelligente veloce che ricontrolla più volte il suo risultato?
Paolo Antinori
Perché, se vuoi, io ci riflettevo ancora prima delle AI su questi aspetti: come valutiamo l’intelligenza umana? Iniziamo a valutarla nelle scuole, di solito, in cui ti danno il compito in classe di matematica e c’hai un’ora per farlo. E se tu quell’ora la rispetti, sei bravo, sei intelligente; se ci mettevi un’ora e un minuto, fai una pippa, fai schifo. Poi di contro Einstein, la mente più citata, più brillante che abbiamo avuto, ci ha messo dieci anni di riflessione per passare dalla teoria della relatività speciale a quella generale. Dieci anni: l’avrebbero bocciato. Ma è più utile il fatto che lui ci sia arrivato dove è arrivato, nonostante il tempo che ci ha messo, oppure no? Ed è tutto molto opinabile, diciamo: dobbiamo metterci d’accordo su benchmark che siamo d’accordo di fare. Quindi il fatto che ci siano dei modelli… tipo, appena esce Astra, appena è uscito Fable, in cui sembra che capiscano tutto al volo al primo giro, senza troppe parole, è di sicuro una valutazione qualitativa che possiamo fare, perché ci sembrano migliori. Poi quella quantitativa dipende un pochettino da cosa abbiamo bisogno.
Stefano
A volte l’esperienza di utilizzo, per il nostro caso d’uso, ci porta più a valutare la qualità nel breve periodo che la capacità totale di intelligenza. E dipende cosa devi fare: se devi mostrare il teorema di matematica, probabilmente il tempo non è un fattore. Chiaramente, abbiamo visto con i modelli JAV usciti di recente, che fanno molto meno, però il fatto che siano così tanto veloci a fare valutazioni gli permette, ad esempio, di giocare ai videogiochi molto semplici con questi modelli, cosa che con un modello estremamente più intelligente ma autoregressivo non è fattibile, perché ci mette troppo tempo a generare la prossima mossa. Dipende sempre dal caso d’uso.
Paolo Antinori
Hai fatto esattamente un parallelo che mi ha acceso una lampadina, ed è molto interessante: è come le varianti del gioco degli scacchi. Ci sono scacchi a tempo, per cui non sei più intelligente se hai fatto la mossa migliore: sei più intelligente se hai fatto la mossa migliore nei due minuti che hai a disposizione per pensare alla tua mossa.
Stefano
Sì, è così. E così dipende qual è l’obiettivo, chiaramente. Ci sono casi d’uso diversi dove velocità e profondità di pensiero sono privilegiati da un lato o dall’altro, secondo il caso d’uso. E poi parliamo di locale.
[59:59] Locale: Strix Halo Gorgon e Gufo
Alessio
Sì dai! Allora io vi racconto una cosa: ci sono tante cose che evolvono, escono in questo periodo.
Stefano
Intanto raccontaci quanto costa il modello nuovo del tuo computer, che costa un po’ meno dei 20k… di Apple, ma non costa due lire.
Alessio
Sì. È uscita in pre-order la versione nuova dello Strix Halo, che si chiama Gorgon… non mi sembra una roba del genere… che ha 192 GB di memoria condivisa invece di 128, e una memory bandwidth un pochino più alta, non una cosa esagerata comunque di differenza. E mi sembra di aver visto che il pre-order di Framework è sugli 8000 dollari. Non esattamente bruscolini. Se non siete tra coloro che sono così fortunati da essere omaggiati di questo nuovo hardware per fare delle prove… e non sono tra questi… preordinatevelo, preparate i soldi e magari tra qualche mese ce l’avete.
Paolo Antinori
Possiamo ordinarlo su Amazon e restituirglielo entro trenta giorni, si può fare.
Alessio
Non lo so. Io il mio l’ho pagato molto meno perché ho avuto la fortuna di ordinarlo prima che esplodesse il mercato. Comunque, per questa versione… per quella vecchia, ma very probabilmente uscirà un port per usare la nuova al meglio. È uscita una cosa che si chiama Gufo. Adesso riprovo a condividere lo schermo, vediamo se va. È uscita una cosa che si chiama Gufo, che è sostanzialmente un inference engine specifico per GFX 1151, che è diciamo il sistema grafico dello Strix Halo, e per alcuni modelli specifici. Tutto questo sostanzialmente ci ricorda un ragionamento che già facevamo in passato quando parlavamo di S4, di San Filippo, che si lamentava del fatto di non riuscire ad avere alcune sue idee velocemente ed effettivamente integrate dentro llama.cpp, e quindi sosteneva che fosse più efficace forkare il progetto, prendere scelte drastiche per migliorare l’inferenza, eccetera. Ecco, questa è sostanzialmente un’idea simile, in cui si decide di limitare il target a uno specifico sistema e a specifici modelli. Nello specifico, nel caso di Gufo: Qwen 3.8 27B, il nuovo Flash Next, e DS4 di San Filippo, facendo tutte le ottimizzazioni del caso. I risultati sono degni di nota. Adesso qui, giusto per farvi vedere… poi magari parliamo un attimo del perché si ottengono. Qwen 3.8 Flash Next, non so se lo vedete: in blu i risultati di Gufo in termini di performance, in rosso llama.cpp.
Stefano
Per chi ci sta soltanto ascoltando: da 500 si passa a 1750.
Alessio
Ecco. Il grafico di sinistra è il prefill, token al secondo: si parte con llama.cpp sui 500 token al secondo, stiamo parlando ovviamente su questo hardware specifico che incidentalmente è il mio, e si passa a 1750. La qualità è la stessa identica: poi ci sono anche tutti i benchmark che fanno vedere come questa cosa sia vera. Quindi stiamo parlando di più che triplicare le performance in prefill. E invece in generazione un po’ meglio: da 21-22 a 25, a contesto piccolo vuoto. Qui la velocità rimane costante nel caso di Gufo, quando invece con llama.cpp si osserva il classico andamento della velocità che va diminuendo man a mano che aumenta il contesto, fino a scendere quasi a un quarto a 128k di contesto, mentre Gufo mantiene le stesse performance man a mano che il contesto cresce. Tantissima roba. E questo è il caso di singolo utente. E andando su molti utenti la situazione è sostanzialmente simile. Addirittura poi fanno vedere, per dire, il tempo di caricamento del modello da zero: passiamo da due minuti circa per caricare Flash Next, che comunque è grosso, a meno di venti secondi. Occupazione di memoria è la stessa. E questo grafico è interessante perché sul caso multiutente, con l’MTP abilitato, sostanzialmente si vede come, aumentando il numero di utenti concorrenti, Gufo scali: per cui, più utenti, ognuno mantiene quasi le proprie performance, e quindi si riesce a sopportare più chiamate in parallelo, mentre llama.cpp sostanzialmente non ce la fa. Tant’è che un problema classico con i coding agent è che, se voi lavorate con il modello locale, avete dei sub-agent che girano e ovviamente usano lo stesso modello per fare inferenza: quando partono i sub-agent le prestazioni decadono in modo incredibile, perché si contendono le stesse risorse. Questa cosa è molto interessante perché da un lato fa vedere come la specializzazione effettivamente paghi e come si possa, nello specifico in questo caso, ottenere molto di più da un hardware che è molto interessante ma non a livelli, in termini di performance, della concorrenza. Io trovo molto interessante il fatto che ci sia stato un interesse della community verso questo specifico progetto, e poi che questa cosa sia sviluppata tutta da italiani. Sono due ricercatori… li definirei, vabbè insomma, due ingegneri italiani: adesso non ricordo i nomi a memoria, ma sul repository, di cui vi metteremo il link, sicuramente potete andare a vedere e li trovate. E utilizzano anche un modello sviluppato da un italiano. Insomma, bello, mi fa piacere.
Stefano
Sì. Peraltro magari ci sarà occasione di approfondire con uno di loro: sono Francesco Bozzo e Federico Izzo. Qualora ci stessero ascoltando, o qualcuno dei nostri ascoltatori li conosca, magari li invitiamo come quarta o quinta voce in puntata una delle prossime volte, e ragioniamo con loro del perché di questo progetto e che cosa ci hanno trovato man mano che lo sviluppavano. Sarei molto curioso di parlare con loro di questa cosa.
[1:07:20] MCP Evans e i decision model di OpenAI
Stefano
Poi, giusto per chiudere: OpenAI, abbiamo detto, ha fatto i Dev Days, ha detto anche tante altre cose oltre ai Dots, e oltre al modello, interessanti in generale. Una, che a me personalmente… vabbè, che mi occupo più di applicazione enterprise, e che sottolinea come loro tengano d’occhio tutti e due i mondi, è quella che hanno chiamato MCP Evans: cioè un modo di girare le cose… MCP oggi è per collegare tool esterni, ma il modello che loro chiamano MCP Evans è per fare l’opposto, quindi avere dei sistemi esterni che triggerano un agente.
Alessio
Di processi.
Stefano
Vedo un sacco di applicazioni possibili in azienda. E poi vabbè, l’altra cosa, che citavamo prima parlando di JAV: che i decision model siano un fortissimo trend, perché hanno dei loro casi d’uso applicativi notevoli, lo dimostra il fatto che a distanza di pochi giorni, durante i Dev Days, anche OpenAI ha annunciato che sta rilasciando un’API compatibile con i decision model. Quindi anche loro stanno facendo questa proposta: per cui, al di là del fatto che non siano l’innovazione delle innovazioni da un punto di vista strettamente di ricerca, c’è un forte interesse di mercato attorno a questi modelli piccoli e veloci per prendere decisioni secche, sì o no, numero finito di opzioni. Lo segnalo così in chiusura, perché ne abbiamo parlato l’altra volta dei modelli JEV, ne ho parlato anche in newsletter: è vero che non cambieranno il mondo, o non saranno una rivoluzione come sono stati i modelli GPT probabilmente, però da un punto di vista strettamente di business e di mercato hanno delle loro sacche applicative notevoli, e tutti ci si stanno mettendo.
Alessio
Sì, sì. Ma perché il fatto di ridurre la latenza della risposta e semplificare l’output si adatta bene a tantissimi use case. Mi viene in mente, per dire, l’high-frequency trading: lì non ti interessa vedere tutto il ragionamento, eccetera; interessa velocemente decidere: ok, compro, vendo, cosa.
Stefano
Sì, certo. Non so quanto TypeSafe, che c’è da due anni, accolga di buon grado tutti questi che le stanno facendo concorrenza nel giro di due settimane, però tant’è. Abbiamo altro da dire? Avete una chiusura ad effetto? No… è un no. Lo prendiamo come un no, quindi facciamo una chiusura normale.
Alessio
Stelline, sopra impressione.
Stefano
Stelline, campanelline… non l’abbiamo ancora detto, però: stelline, campanelline, iscrivetevi al canale, divulgate il verbo. Abbiamo avuto anche qualcuno che in settimana ha condiviso nostre puntate sui social: è una buona pratica, continuate a farla, bravi.
Alessio
Fate girare lo skateboard sui vostri modelli e contribuite ai risultati.
Stefano
Fate girare lo skateboard sui vostri modelli, fateci le pull request: è un progetto open, fate le pull request. Bene, ciao, al prossimo, alla prossima.
Alessio
Ciao ciao.