Il nuovo chip Nvidia B200 cambierà per sempre l’intelligenza artificiale

ADN Kronos 19/03/2024

Nvidia, azienda pioniera nel settore delle tecnologie per l’intelligenza artificiale, ha recentemente confermato la propria posizione di leader di mercato grazie all’introduzione di innovazioni rivoluzionarie che potrebbero estendere ulteriormente il suo vantaggio competitivo. Con il chip AI H100, Nvidia è diventata una compagnia dal valore di svariati trilioni di dollari, sorpassando giganti come Alphabet e Amazon. Tuttavia, la sua ultima mossa nel settore potrebbe lasciare i concorrenti ancora più indietro: l’introduzione del nuovo GPU Blackwell B200 e del “superchip” GB200.

Durante il livestream dell’evento per la GPU Technology Conference il CEO di Nvidia, Jensen Huang, ha presentato il nuovo GPU B200, accanto all’ormai famoso H100, svelando una potenza di calcolo fino a 20 petaflops di FP4 grazie ai suoi 208 miliardi di transistor. Ancora più impressionante è il GB200, che integra due GPU B200 con un unico processore Grace, offrendo prestazioni fino a 30 volte superiori per l’inferenza sui modelli di linguaggio di grandi dimensioni (LLM), con una riduzione significativa dei costi e del consumo energetico fino al 95% rispetto all’H100.

La formazione di un modello con 1,8 trilioni di parametri, che prima richiedeva 8.000 GPU Hopper e 15 megawatt di energia, ora può essere realizzata con soli 2.000 GPU Blackwell, consumando appena quattro megawatt. Nel confronto su un benchmark LLM GPT-3 con 175 miliardi di parametri, il GB200 ha dimostrato una performance circa sette volte superiore a quella dell’H100, quadruplicando la velocità di addestramento. Uno dei principali miglioramenti introdotti da Nvidia riguarda la seconda generazione del motore trasformatore, che raddoppia la potenza di calcolo, la larghezza di banda e la dimensione del modello, utilizzando solo quattro bit per neurone anziché otto. Un’altra innovazione significativa emerge quando si collegano un gran numero di questi GPU: un commutatore NVLink di nuova generazione che permette a 576 GPU di comunicare tra loro, con una larghezza di banda bidirezionale di 1,8 terabyte al secondo.

L’architettura Blackwell si distingue anche per l’aggiunta dei formati FP4 e FP6, e la capacità di scalare fino a decine di migliaia di superchip GB200, collegati tramite reti da 800Gbps con la nuova tecnologia Quantum-X800 InfiniBand o Spectrum-X800 ethernet. Nvidia non si ferma qui e presenta anche il DGX Superpod per DGX GB200, che combina otto sistemi in uno per un totale di 288 CPU, 576 GPU, 240TB di memoria e 11,5 exaflops di potenza di calcolo FP4, promettendo una rivoluzione nel campo dell’addestramento AI su larga scala. Giganti del cloud come Amazon, Google, Microsoft e Oracle stanno già pianificando di offrire i rack NVL72 nelle loro offerte di servizi cloud, segnando l’inizio di una nuova era nella potenza di calcolo disponibile per l’intelligenza artificiale.

Continua la lettura su: https://www.adnkronos.com/tecnologia/il-nuovo-chip-nvidia-b200-cambiera-per-sempre-lintelligenza-artificiale_5ww8zexXNfzK42SK2pQeMV Autore del post: ADN Kronos Tecnologia Fonte: https://www.adnkronos.com/

Categorie: ADN Konos Tecnologia, Vedi le Riviste Culturali, Vedi tutti i post sulla Tecnologia

Tags: Tecnologia

ADN Kronos

GTC 2025: così nVidia sfida il futuro, tra chip AI e robotica

Il colosso dell’IT mondiale nVidia ha appena concluso il GTC 2025, la GPU Technology Conference, una fiera che ha visto 25.000 partecipanti affollarsi a San Jose in California per scoprire di persona le novità in materia di hardware e software e assistere al keynote del CEO Jensen Huang per capire le direzioni essenziali.Sebbene GPU sia l’acronimo di Graphical Processing Unit, di grafica si parla poco o niente da quando l’AI è divenuta centrale nel dibattito IT e le GPU ormai sono acquisite largamente dai big per applicazioni di intelligenza artificiale generativa piuttosto che per fare il rendering di scene 3D.Vediamo quali sono stati gli annunci e quali direzioni lasciano intravedere nell’immediato futuro.Indice degli argomenti
Gli annunci Gtc 2025 NvidiaGli annunci principali sono stati:Nuove architetture GPU: Sono state annunciate le architetture Blackwell Ultra, previste per la seconda metà del 2025, e Vera Rubin, attesa per la fine del 2026. Queste architetture sono disegnate esplicitamente avendo in mente i carichi computazionali di AINVIDIA Dynamo: Un software migliora il processo di inferenza nei modelli avanzati, assegnando dinamicamente le risorse GPU alle diverse fasi dell’inferenza e gestendo i dati in modo efficiente tra i diversi tipi di memoria. Si tratta di un software centrale per chi realizza le cosiddette AI FactoriesRobotica avanzata: Nel campo della robotica, NVIDIA ha introdotto Isaac GR00T N1, un modello open-source progettato per assistere nello sviluppo di robot umanoidi. Inoltre, è stato presentato “Blue”, un robot sviluppato in collaborazione con Disney Research e Google DeepMind, che incorpora le ultime tecnologie robotiche e un nuovo motore fisico chiamato Newton.Collaborazioni strategiche: NVIDIA ha annunciato una collaborazione con General Motors per integrare sistemi AI personalizzati nei veicoli a guida autonoma, sottolineando l’impegno dell’azienda nel settore automobilistico e la sua visione di un futuro in cui l’AI svolge un ruolo centrale nella mobilità.Questi annunci vanno letti in continuità con alcuni annunci recenti, in particolare quelli delle nuove versioni della GPU per dispoitivi IoT, il Jetson Nano, e soprattutto il nuovo DIGITS, un sistema a relativamente basso costo (3000$) capace però di eseguire tutto il software rilevante per l’AI ed eseguire modelli fino a 200 miliardi di parametri.Il software nVidianVidia ha dimostrato di riuscire a creare un connubio tra hardware e software che spesso i produttori di chip non riescono a supportare. Il dominio di nVidia è molto legato alla diffusione del codice scritto con la libreria CUDA lanciata nella seconda metà degli anni duemila, e che ha consentito ad un’ampia platea di sviluppatori di usare in modo efficace le funzioni di algebra lineare utili non solo per la grafica 3D ma anche in molti altri ambiti applicativi.Nessun competitor, inclusi AMD e Intel, è poi riuscito a convincere gli sviluppatori a riscrivere i propri software in modo che vi fosse una sostanziale concorrenza sui chip. Non è un caso che i big stiano lavorando a chip propri per superare questa situazione e ridurre i costi di esercizio con acceleratori sempre più specializzati per le funzioni AI a cui nVidia ribatte con le nuove architetture.Software come Dynamo vanno quindi seguiti con attenzione poiché potrebbero avviare un nuovo percorso in cui gli sviluppatori avvalendosi delle sue funzioni ottengano benefici continuando a consolidare l’ecosistema di software che necessiti dell’hardware nVidia per la sua esecuzione.Verso una AI più distribuitaIn dieci anni il costo di una GPU per un server è lievitato di circa sette volte, rendendo l’accesso a questi componenti sempre più difficile e concentrando le risorse di calcolo direttamente collegate all’AI nelle mani di sempre meno attori. Basti pensare che un server con GPU ne ospita spesso tra 8 e 16 portando il costo complessivo a centinaia di migliaia di euro per nodo. Anche il design dei server è cambiato, per assicurare che le varie GPU abbiano sufficiente capacità di comunicazione nVidia ha progettato un’interconnessione specifica chiamata nVlink che ha di fatto ingessato il design delle schede madri dei server fino al punto da avere un design sostanzialmente analogo con poche possibilità di personalizzazione con un prezzo sostanzialmente fisso e con una ridotta competizione.Gli annunci di Jetson Nano e di DIGITS, sebbene antecedenti a GTC 25, vanno quindi letti in un contesto in cui nVidia si rende conto che rischia di perdere gli sviluppatori. Ormai è divenuto quasi impossibile sviluppare e testare grandi modelli di AI come gli LLM con centinaia di miliardi di parametri senza disporre di server molto costosi.Ecco quindi che lo sviluppo di piattaforme più piccole e accessibili serve al colosso di San Jose per assicurare che il proprio software a supporto dell’AI (e che richiede l’hardware nVidia) possa essere installato nel contesto di robotica ed automazione, e che gli sviluppatori possano avere accesso a dispositivi a costi relativamente contenuti per poter fare ricerca e sviluppare nuovi modelli che possano essere eseguiti nel cloud.È in questo contesto che va letto il crollo del titolo a seguito del rilascio a fine anno di DeepSeek R1 da parte della startup cinese: dal 2022 gli Stati Uniti hanno un embargo sui chip di ultima generazione per l’AI verso la Cina, e il fatto che i cinesi abbiano sviluppato un modello così capace senza, almeno sulla carta, poter disporre degli ultimi acceleratori pone non poche questioni e dubbi sull’effettivo contributo che i nuovi chip portino allo sviluppo.Ma forse è in questo contesto che va letto la mossa in direzione della robotica: aprire nuove linee di sviluppo chip che riportino nVidia anche su un mercato più distribuito in cui non siano solo pochi attori a beneficiare dei chip, come testimonia l’accordo con General Motors.ConclusioniOltre a continuare a supportare modelli di AI generativa giganti con il proprio hardware, nVidia sta cominciando a differenziare i propri sviluppi rivolgendo la propria attenzione anche a mercati come la robotica dove l’AI sta cominciando a far intravedere un futuro con robot umanoidi a costi accessibili che solo pochi anni fa sarebbero stati impensabili.

Agenda Digitale 26/03/2025

Le proprietà delle potenze: approfondimento e spiegazione

Con il termine potenza indichiamo il prodotto di un numero moltiplicato per sé stesso tante volte quante ne richiede l’esponente. Trattasi di un concetto fondamentale, le quali nozioni le ritroviamo non solo nell’aritmetica di tutti giorni, ma anche alla base di numerose materie scientifiche e matematiche come la chimica e la geometria. A tal motivo, risulta di vitale importanza comprendere appieno le caratteristiche di quest’operazione, ricca di numerose proprietà, che analizzeremo insieme nel corso di quest’articolo.

Se, inoltre, vuoi approfondire le tue conoscenze su quest’argomento, ti consiglio di visionare il precedente post in cui approfondiamo il concetto generale della potenza, specificandone definizione, caratteristiche e riportando molti esempi.

Prima proprietà delle potenze

Moltiplicazione tra le potenze con la stessa base: il prodotto tra due o più potenze aventi la stessa base è uguale ad una potenza avente per base la stessa base e per esponente la somma degli esponenti.

Semplificando il tutto si riscrive la base sommandone gli esponenti, come nel seguente esempio: 23*22 = 23+2 = 25.

Seconda proprietà delle potenze

Divisione tra le potenze con la stessa base: il quoziente tra due potenze aventi la stessa base è uguale ad una potenza avente per base la stessa base e per esponente la differenza degli esponenti.

Quindi, la divisione tra le potenze con la stessa base, si svolge in modo similare alla prima proprietà delle potenze, apportando però un’unica caratteristica che le contraddistingue: la differenza degli esponenti. A titolo esemplificativo è possibile riportare un esempio simile a quello precedente come: 23:22 = 23-2 = 2

Terza proprietà delle potenze

Potenza di potenza: la potenza di una potenza è uguale ad una potenza avente per base la stessa base e per esponente il prodotto degli esponenti.

Teoricamente parlando sembra essere simile alle due proprietà riportate in precedenza, eppure presenta caratteristiche contraddistinte prevalentemente a livello grafico e di calcolo. Una potenza di potenza, infatti, è facilmente riconoscibile poiché la base, assieme al suo esponente, sono racchiuse all’interno di una parentesi, al quale esterno è collocato un ulteriore esponente, che dovrà esser moltiplicato per l’esponente interno in modo da ottenere il risultato corretto. Al fine di semplificare la nozione riportata, è possibile spiegare quanto detto attraverso l’utilizzo di un esempio, come (22)3. In questo caso occorrerà riportare la stessa base moltiplicando gli esponenti. Nel caso in questione il risultato sarà equivalente a 26.

Quarta proprietà delle potenze

Moltiplicazione tra potenze con basi diverse ma con identico esponente: il prodotto tra due o più potenze aventi gli stessi esponenti è uguale ad una potenza avente per base il prodotto delle basi e per esponente lo stesso esponente.

Contrariamente a quanto accade nella prima proprietà riportata, in cui la potenza presenta esponenti diversi ma stessa base, in questa nozione si presenta una situazione in cui ad esser uguali sono gli esponenti mentre le basi tendono a diversificarsi. Per questo si procederà moltiplicando le basi e riportando lo stesso esponente. Per rendere il tutto più semplice basti pensare ad una situazione analoga alla seguente: 32*22. Nel caso considerato sarà opportuno riportare le basi all’interno di una parentesi, dentro la quale calcoleremo il prodotto dei fattori, e scrivere al di fuori di esse l’esponente 2: (3*2)2. In questo modo otterremo il risultato finale corrispondente a 62, che, una volta svolto l’elevamento a potenza, equivarrebbe a 36.

Quinta proprietà delle potenze

Divisione tra potenze con basi diverse ma con identico esponente: il quoziente tra due potenze aventi gli stessi esponenti è uguale ad una potenza avente per base il quoziente delle basi e per esponente lo stesso esponente.

La quinta proprietà delle potenze si svolge similarmente alla quarta nozione. In questa caratteristica dell’operazione protagonista bisognerà nuovamente aprire una parentesi, dentro alla quale le basi non andranno moltiplicate, bensì divise e, riportare l’esponente considerato al di fuori delle parentesi tonde. Al fine di comprendere meglio questa parte teorica, è opportuno realizzare un esempio simile a quello precedente, come: 42:22. Il primo passaggio da svolgere sarà quindi trascrivere una parentesi avente le due basi più la loro operazione, e riportare al di fuori di ciò l’esponente: (4:2)2. Una volta svolti gli appositi calcoli, otterremo 22, ossia 4.

Sesta proprietà delle potenze

Potenza con esponente razionale: la potenza con esponente frazionario m/n di un numero reale a, positivo o nullo, è la radice aritmetica n-esima di am.

Semplificando il tutto una potenza ad esponente razionale si può esprimere come radice. Per esempio, se avessimo 52/3, bisognerà trasformarlo semplicemente in una radice, ossia 3√52, che svolto risulta 3√25. Qualora la base corrisponda a zero, inoltre, il risultato sarà sempre zero, mentre, se la base equivalga ad un numero negativo, verrà considerata come impossibile, in quanto esente di significato.

Risulta chiaro, per concludere, quanto le proprietà risultino fondamentali al fine di sviluppare una propria capacità intellettuale che possa permetterci di rivolvere calcoli simili a quelli riportati. Se sei interessato ad argomenti di matematica, inoltre, ti consiglio di accedere tutte le domeniche al nostro blog, in cui, già dalle ore 7:00 del mattino, verrà pubblicato un nuovo articolo con un nuovo interessante argomento.

Blog 26/11/2023

Articoli Correlati