L’arbitro dell’AI lo stanno scegliendo i giocatori
La newsletter settimanale sulle notizie AI, spiegate
Questa settimana i tre uomini che stanno costruendo l’intelligenza artificiale più potente del mondo hanno scoperto di essere d’accordo su una cosa: serve qualcuno che li controlli. Un raro momento di concordia, arrivato subito dopo che Washington aveva ricordato loro, due volte in un mese, che se non si controllano da soli ci pensa qualcun altro. Il tempismo, come vedremo, spiega più della concordia.
I tre segnali
1 Hassabis ha proposto un arbitro per l’AI di frontiera
Cosa è successo. Martedì Demis Hassabis, capo di Google DeepMind e premio Nobel, ha pubblicato un manifesto in cui propone un organismo di standard per i modelli di frontiera, modellato sulla FINRA, un organismo privato di autoregolamentazione del settore finanziario americano, sottoposto alla supervisione della SEC. Lo scoop è di Axios: i laboratori sottoporrebbero i modelli all’ente fino a 30 giorni prima del rilascio, all’inizio su base volontaria, poi in modo obbligatorio per accedere al mercato americano, riporta TechCrunch.
Perché conta. La parte interessante è il freno. Hassabis scrive che l’organismo potrebbe “coordinare un rallentamento dello sviluppo tra i laboratori” se i rischi lo richiedessero. Detto da chi quei modelli li costruisce, è insolito: sta chiedendo un meccanismo per fermare la propria industria.
2 Grok Build ha caricato interi repository sui server di xAI
Cosa è successo. Grok Build è lo strumento da riga di comando con cui xAI vuole sfidare Claude Code e Cursor, lanciato a giugno con la promessa che nulla del codice dell’utente sarebbe stato trasmesso ai suoi server. Un ricercatore che firma come cereblab ha pubblicato l’analisi del traffico di rete e ha mostrato l’esatto contrario: lo strumento spediva l’intero repository (l’archivio di codice completo), cronologia git e file .env con chiavi e password, a uno spazio di archiviazione su Google Cloud, trasferendo circa 27.800 volte i dati necessari alla singola richiesta, secondo The Hacker News. La storia è finita in prima pagina su Hacker News.
Perché conta. L’interruttore della privacy, quello che un utente avrebbe premuto per stare tranquillo, non serviva a niente: governava se i dati addestrano il modello, non se il codice lascia il computer. Due controlli diversi, uno solo esposto all’utente. Musk ha promesso su X di cancellare i dati e gli upload sono stati disattivati lato server dopo la denuncia. Due cose però restavano aperte: il codice responsabile dell’invio risultava ancora presente nel programma, e xAI non aveva pubblicato un bollettino di sicurezza formale. Una precisazione doverosa, perché qui il diavolo sta nei dettagli: l’analisi prova che il codice è stato trasmesso e archiviato, non che xAI ci abbia addestrato sopra, e i segreti usati nel test erano finti. Per uno strumento venduto alle aziende sulla fiducia, però, il danno è già fatto. (Chi vende cassette di sicurezza non può farsi trovare con la porta aperta.)
3 Duemila economisti hanno chiesto di prepararsi ora all’impatto dell’AI
Cosa è successo. Lunedì oltre 200 tra economisti e ricercatori, inclusi 16 premi Nobel, hanno firmato una lettera intitolata “We Must Act Now”, organizzata dal digital economy lab di Stanford, per chiedere ai governi di prepararsi alla trasformazione economica dell’AI (Quartz, Associated Press). Entro martedì le firme avevano superato quota 2.000. La lettera sostiene che nel prossimo decennio l’AI potrebbe diventare molto più potente e produrre uno spostamento “più grande della Rivoluzione Industriale, ma in un tempo molto più compresso”.
Perché conta. Il segnale sta in chi firma, più che nella paura in sé. La professione economica ha passato anni a minimizzare l’idea di una disoccupazione tecnologica rapida. Tra le firme ci sono Daron Acemoglu e Simon Johnson, Nobel 2024 e tra i più scettici sullo sconvolgimento improvviso: che ci mettano il nome è la vera notizia. La lettera, di suo, parla di un orizzonte di dieci anni.
Ognuno vuole un arbitro a sua immagine
Per la prima volta i capi di Google DeepMind, OpenAI e Anthropic sono d’accordo sulla stessa diagnosi: i modelli di frontiera vanno regolati, e in fretta. Nelle ultime cinque settimane Amodei, Altman e Hassabis hanno pubblicato ciascuno la propria versione, e Axios le ha messe in fila trovando cinque punti in comune: test indipendenti prima del rilascio, un unico sistema che certifica e può negare l’accesso ai modelli troppo pericolosi, la regia agli Stati Uniti, l’allarme su rischi informatici e armi biologiche, e la promessa che a finire sotto esame sia solo la manciata di modelli più potenti, non l’AI in generale. Perfino Musk, Nadella e Altman hanno applaudito la proposta di Hassabis, il che nel settore più litigioso del pianeta è quasi commovente.
Poi si guarda dove ognuno vuole piantare l’arbitro, e la concordia si sfila. Amodei chiede un’agenzia federale in stile FAA, l’ente dell’aviazione civile, con il potere di bloccare un modello dal primo giorno. Hassabis vuole un ente privato finanziato dall’industria, la FINRA, che parte volontario e semmai si irrigidisce dopo. Altman, dalle colonne del Financial Times, propone una IAEA dell’AI, un foro internazionale a guida americana che usa l’accesso ai modelli come leva sui Paesi. Tre sigle, tre confini di potere: chi il controllore lo vuole statale, chi di categoria, chi diplomatico. Ognuno disegna l’arbitro nella forma che gli conviene.
E il tempismo dice il resto. Questi manifesti arrivano nelle stesse settimane in cui Washington è intervenuta due volte, di sua iniziativa, per limitare o rinviare l’accesso a modelli di frontiera. Tradotto: se i laboratori non scrivono le regole, qualcuno le scrive per loro, e l’ha appena dimostrato. Quanto all’autoregolazione volontaria, il collaudo lo abbiamo visto questa settimana: l’interruttore della privacy di Grok Build non faceva niente. Sono le stesse aziende, con gli stessi avvocati e le stesse relazioni a Washington, a proporsi come autori e primi sorvegliati delle regole. Più che un complotto, è una questione di incentivi: chi ha già i team di sicurezza e gli uffici legali può convivere con una regolazione che a un concorrente più piccolo, o a un modello aperto cinese, taglierebbe le gambe. La domanda di questa settimana riguarda meno il se regolare l’AI di frontiera, e più chi terrà la penna mentre le regole si scrivono. La risposta, per ora, è che la tengono quelli che quelle regole dovrebbero rispettarle.
27.800x
Sono quanti più dati Grok Build ha spedito ai server di xAI rispetto a quelli che servivano per una singola richiesta, secondo l’analisi di cereblab ripresa da The Hacker News.
🚀 Notizie principali e lanci
L’Europa obbliga Google ad aprire Android ai rivali dell’AI. La Commissione ha imposto a Google, sotto il Digital Markets Act, di aprire undici funzioni di Android agli assistenti AI concorrenti e di condividere in forma anonimizzata i dati di ricerca con chi, come OpenAI, ha funzioni di ricerca. Google protesta parlando di rischi per privacy e sicurezza; la condivisione dei dati scatta da gennaio 2027, le aperture Android da luglio 2027 con la prossima versione del sistema. Il resoconto di Foo Yun Chee per Reuters è il più asciutto su cosa cambia davvero.
Microsoft ha corretto un numero record di vulnerabilità, grazie all’AI. Il “Patch Tuesday” di luglio ha risolto 570 falle, il massimo di sempre, e Microsoft attribuisce buona parte delle scoperte all’uso dell’AI. La stessa tecnologia che allarga la superficie d’attacco (vedi Segnale 2) comincia a essere usata per trovare i buchi prima degli altri. Due minuti di lettura, firma Zack Whittaker su TechCrunch.
Kimi K3 e Inkling: i modelli aperti cinesi entrano nella supply chain americana. Moonshot AI ha rilasciato Kimi K3, modello aperto da 2,8 trilioni di parametri con un milione di token di contesto e pesi scaricabili dal 27 luglio, che nei benchmark del produttore supera GPT-5.6 Sol su alcuni test. Lo stesso giorno Thinking Machines, la startup fondata da Mira Murati dopo OpenAI, ha rilasciato Inkling (975 miliardi di parametri, open-weights), costruito usando Kimi K2.5 nella catena di post-addestramento. Il dato che conta: un modello americano di frontiera usa già modelli aperti cinesi come materia prima. Per chi vuole regolare l’AI di frontiera (vedi Segnale 1), il perimetro si è appena complicato. Moonshot AI · Thinking Machines
🧠 Analisi e approfondimenti
Mechanistic World Models. Posner, Lei e Schölkopf (Oxford e MPI Tübingen) sostengono che prevedere non equivale a capire: i modelli attuali mappano input e output ma non svelano i meccanismi che generano i fenomeni. Propongono un paradigma che mette i meccanismi riutilizzabili al centro, per portare l’AI dalla previsione alla scoperta scientifica vera. Denso, ma è la cornice giusta per giudicare gli annunci di “AI scientist”. arXiv
🧑💻 Ingegneria e ricerca
STOCKTAKE. Deb e Krishnan misurano il divario tra ciò che un agente AI “percepisce” e ciò che poi fa, confrontandolo con un oracolo di riferimento. Utile per chi costruisce agenti e si chiede perché a volte sanno la risposta giusta e agiscono comunque male. arXiv