Ciao Salvatore, gia' da tempo volevo chiederti una cosa. Vista la tua conoscenza, potrebbe esser interessante create delle "AI_in_pills", video che spieghino dalle basi i modelli, i concetti che ci sono dietro. Quando hai menzionato inferenza/fp8 - full precision, mix of expert, multi token prediction, attention non ci ho capito nulla. Lo so, il tempo non e' mai abbastanza e lo YTer non e' di certo il tuo lavoro Pero' se altri iscritti fossero interessati potrebbero lasciare un commento qui sotto e chissa'
grazie sarebbe certamente molto interessante, ma mi sono dato la regola di parlare delle cose che mi interessano in quel dato momento. Comunque, ogni tanto una lezione come quella dei vettori la farò..
@@antirez tutto cio' che puoi portare su questo canale sara' sempre apprezzato. Potresti indicarci qualche lettura da dove iniziare? Sono nell'IT da parecchio, troppo :D prima come programmatore back-end poi migrato alla mia passione, sistemista. Grazie mille
@@antirez Mi unisco al suggerimento dell'utente; i video presenti sul canale sono estremamente interessanti, in particolare i talk più "in-depth" su argomenti come vettori e quantizzazione. Penso che 1-2 video dedicati a come approcciarsi al settore, magari con indicazioni su risorse utili da consultare e consigli sul metodo di studio da applicare, potrebbero essere di grande aiuto (e servire anche da "riferimento" per rispondere a future richieste su cosa/dove iniziare a studiare AI)
Catanese, a Catania, raffreddato pure io. si preannuncia una lunga notte anche per me, almeno tra chiedere a derisero consigli su cosa studiare in base alle me necessità e i tuoi video sono in buona compagnia
OpenAI e NVidiia hanno acquisito valore puntando sul concetto che l'unico modo di migliorare un AI sia di renderlo più grande mentre DeepSeek ha reso evidente quanto ancora ci sia di migliorabile a livello di tecnologia. I modelli sono tutt'altro che cristallizzati quindi puntare sulla forza bruta è se non altro prematuro e rende le aziende che ci investono fragili. Questa realizzazione non può che avere un contraccolpo sugli investimenti, non per nulla Trump ha promesso i soldi di Stargate (che poi arrivino o meno poco importa). (Per favore Salvatore quanto citi un articolo lo potresti cortesemente linkare nel commento? grazie)
D’accordo su tutto tranne che vendere, io la vedo come un opportunità per comprare, potenza di calcolo servirà sempre: bitcoin, armamenti, games. È un piacere ascoltarti.
Visione un po' catastrofica per NVDIA, ammetto di non aver letto l'articolo cosa che farò a breve, ma penso sia una normalissima correzione di un assett che ha avuto crescita esponenziale grazie a questa bolla AI. Ci sarà sicuramente una rotazione su altri vendor che sfrutteranno a loro volta questo segmento (AMD per esempio).
Credo che, come è successo con Internet, emergeranno nuove società da tutto il mondo che, attraverso la costruzione di chip, l'addestramento dei modelli e la ricerca, renderanno l'intelligenza artificiale sempre più accessibile e diffusa. Attualmente assistiamo a un monopolio, ma nel tempo queste tecnologie si diffonderanno e molti processi che ora sono costosi e oscuri diventeranno più economici e trasparenti. Le sette grandi aziende del settore sono sopravvalutate e, prima o poi, il loro valore si stabilizzerà su livelli più normali. Naturalmente, nessuno può prevedere con certezza quando, ma la natura umana, con la sua avidità e paura senza limiti, ci insegna che vi sono eccessi di sopravvalutazione che poi vengono corretti in modo brutale.
Io credo che il crollo sia legato di più ad una situazione geopolitica in cambiamento, teniamo sempre in mente che dietro ci sono le solite Vanguard, BlackRock, State Street in riposizionamento con il nuovo Presidente. Io appoggio molto le analisi che vedono sempre più slegato il rapporto tra il valore reale di un'azienda e le proprie azioni, appunto come dici loro nemmeno fanno produzione di nulla. La cosa interessante è che forse proprio grazie a questo "embargo" è nato uno stimolo a percorrere vie alternative. Comunque sempre super interessante.
@@NicolaTomassoni nel breve periodo le azioni vanno un po’ in base all’umore, però nel lungo tendono sempre ad allinearsi al valore reale dell’azienda. Anche se vogliamo tenere solo in considerazione l’effetto della pancia degli investitori, le cose che stanno accadendo potrebbero far sì che Nvidia deluda nel breve termine, e che le azioni cadano giù invecchiata di molto, ma tanto proprio
Ciao Salvatore, ti seguo da un po' e trovo i tuoi spunti sempre interessanti. Mi piacerebbe moltissimo potere approfondire questi temi, legati sia a finanza che a tecnologia, e credo che anche altri utenti sarebbero interessati. Perché non apri un canale Telegram? Sarebbe bello approfondire di più questi e altri temi con la comunity. Ciao e grazie!
Si, avevo azioni Nvidia. Se vendo ora concretizzo la perdita. La borsa è come un gatto - fa di ogni piccolezza un'enormità. Secondo me già domani o dopo domani saranno giornate verdi. Se avessi venduto ogni volta che i titoli vanno sotto, avrei sempre e sistematicamente perso soldi. Vediamo, dai. Alla peggio, mi ricorderò del proverbio siciliano mentre guardo le cifre rosse sul mio schermo
+5% in premarket. Ma il punto non è vendere durante il crollo, ma poi quando/se recupera, decidere se strategicamente tu ci vedi su Nvidia, a questo prezzo. È questa la scelta da fare.
Oggi ho comprato 55k$ NVDA per conto di un conoscente. Effettivamente sembra che sia un bel problema. Bisogna vedere come evolverà la situazione, per ora è presto fare valutazioni. Io non la vedo molto bene sul breve periodo, molto dipendente dai costi di inferenza. È vero anche che nessuno può sapere come andranno le cose, magari la continua e crescente domanda per il mercato AI può compensare i costi di inferenza. In ogni caso il futuro di NVDA dipende dalle sue capacità di adattamento e di diversificazione. Se riuscirà ad adattarsi e rimanere dominante nel mondo AI potrebbe superare la sfida, altrimenti si rivelerà come una azienda che aveva il prodotto giusto al momento giusto e niente più. Rimanere statici in ogni caso è impensabile nel mondo tech, se NVDA non ha le capacità di adattamento DeepSeek o non DeepSeek prima o poi sarebbe crollata lo stesso. Secondo me personalmente sono in ogni caso positivo, potrebbe avere delle correzioni del 30-40% ma sul lungo periodo li vedo posizionati bene, non sono una startup di memecoin per dire e il mondo AI ha mille applicazioni diverse non solo hardware. Sarà molto interessante quando la Robotica diventerà la prossima "bubble" e con robotica intendo gli umanoidi, quello è un settore da tenere d'occhio perché tra Optimus e simili se si riuscisse tra qualche anno a portare sul mercato Robot davvero utili e multi funzione per 20-30k$ a testa ci potrebbero essere grandi opportunità. A mio avviso sarà la prossima big thing, molto trascurata attualmente.
In realtà il motivo è che qualcuno venerdì ha ascoltato i ns discorsi sul moltiplicatore analogico basato su operazionali e componenti discreti :-D , totalmente d'accordo sulla "bolla" Nvidia , e il fatto che modelli "Edge" con risultati discretamente accettabili diventano già oggi a portata di molto dispositivi non CUDA.
..e ripensandoci DeepSeek vs Open ai sembra somigliare all'esempio da te fatto, che se ti concentri solo sull'effettivamente necessario (le ottimizzazioni di cui parlavi) forse ottieni gli stessi risultati con 50 volte meno risorse.
Da profano, la "storia" di deepseek mi sembra abbastanza scontata. Se metti embargo, sanzioni, dazi a qualcuno, questo si adatta e trova soluzioni alternative con le risorse che ha a disposizione. C'è da dire anche che comunque un hardware di qualche tipo sarà sempre necessario, e anche lì chi oggi non può accedervi si sta organizzando per fare in altro modo.
Ma la domanda che mi faccio è perché c'è riuscita deepseek e per esempio non quella di Elon Musk oppure Facebook ecc... è come se tutti avessero copiato Openai finendo per rimanere comunque indietro assieme ad essa.
DeepSeek è allenato sull’output di OpenAI quindi chiaro costa di meno. È stato fatto da un hedge fund, quindi secondo me l’obiettivo è far crollare il mercato attraverso questo storytelling.
Ma no, hanno un training set diverso e la distillazione su OpenAI non è il motivo per cui è forte. OpenAI o1 non a caso non mostra la chain of thoughts, e l'hanno rifatta un R1 senza problemi.
Mi domando perché abbiano lasciato il codice aperto....fare certe scoperte gli porta un grande vantaggio, e lasciandolo aperto tutti possono copiarlo e prendersi gli algoritmi molto complessi di ottimizzazione.
Bel finale 🤣 In ogni caso, secondo me non è particolarmente giustificato questo crollo. D'altronde non è che l'arrivo dei modelli (fighissimi) di DeepSeek abbia cambiato lo status quo in termini di hardware, dove Nvidia (devo dire giustamente, guardando il pessimo lavoro di AMD e ROCm) domina. Che ci siano tantissime ottimizzazioni che si possono fare in ambito ML è risaputo da tempo, e purtroppo è un topic che interessa a pochi (forse anche perché è tecnicamente complesso da affrontare). Ma rimane il fatto che per far girare un modello da B parametri ti servono tante nvidia GPUs.
Il problema è che nel prezzo attuale delle azioni ci sono due cose calcolate: 1. Che l'inferenza doveva costare sempre di più, e non sembra il caso. 2. Che Meta, OpenAI e altri avrebbero continuato ad acquistare GPU come i pazzi, e se ci sono nuovi modi di fare modelli migliori più piccoli, con meno token, migliorando le tecniche, e non le dimensioni dei modelli e il tempo di training, questa tendenza potrebbe rallentare gli acquisti. Sono tanti motivi che si sommano assieme.
@@antirez sì assolutamente è corretto questo ragionamento. D'altra parte, rimane il fatto che Nvidia attualmente non ha reali competitors, in uno dei mercati più inflazionati del momento. Secondo me un crollo così netto è dovuto anche a un po' di sensazionalismo e un po' a ignoranza (e.g. gente che confonde R1 con i modelli distilled).
all'apertura dei mercati si vedranno fuochi d'artificio tutte le big tech sono stragonfiate, un calo e' fisiologico... stiamo alla finestra quando hai menzionato le cpu su singolo wafer immagino ti riferissi a Cerebra quando ho letto la prima volta la notizia sono saltato dalla sedia
Non è un video di finanza... Nel contesto di questo canale, interessa che NVDA abbia perso il 12% in un giorno come segnale del fatto che DeepSeek ha modificato gli assetti.
Sì, lo so, ma ci tenevo a sottolinearlo perché se vedi il tono di tanti commenti, è come se il focus fosse stato sulla borsa. Be', che il titolo vada su e giù ci importa poco rispetto al significato degli scossoni :D
Sinceramente non comprendo il collegamento tra deepseek ed nvidia. Cioè potrei capire se fosse crollata openai, ma deepseek non è neanche lontanamente un competitor per nvidia anzi probabilmente hanno usato pure loro schede video per trainare i modelli.... Non capirò mai la finanza...
nemmeno io capisco di finanza, ma deepseek ha dato un messaggio abbastanza chiaro: si possono creare modelli ai massimi livelli con molte meno schede GPU. E per chi le vende non è una gran bella notizia.
mah! io mi occupo di LLMS da quando è uscito chatgpt e ritengo che DeepSeek anche se sicuramente essendo opensource sia una svolta, non si avvicina minimamente al prodotto di Openai... i mercati sono veramente sensibili and ogni cazzata (premetto di essere un ingegnere informatico vecchio ordinamento....:-) si tratta di una nuova guerra fredda ma tra Cina e USA e questo fa succedere le cazzate piu assurde
@@fabriziocasula la maggior parte della comunità informatica non è d'accordo con questa visione. Ieri con R1 è stata creata una patch per llama.cpp che rende l'inferenza più veloce che è impossibile da ottenere con o1. Sono stati fatti molti test e sembra che DeepSeek sia più forte in molti task.
@@antirez io parlo delle mie esperienze. nei test di codifica che ho fatto non mi è sembrato all'altezza, ma sono solo dei test fatti da me :-) comunque è molto interessante quello he dici sull'inferenza
cercando ho trovato questo: alcuni utenti hanno riscontrato problemi nell'utilizzo di modelli come DeepSeek-R1-Zero-GGUF con llama.cpp, segnalando errori specifici durante il caricamento. Questo indica che potrebbero essere necessarie ulteriori ottimizzazioni o aggiornamenti per garantire una perfetta integrazione tra la patch e l'infrastruttura esistente.
Mah, per quanto mi riguarda scendere da +900% a +600% non è sarebbe sto gran problema. Ad occhio e croce Nvidia acqustata al giusto prezzo è ancora un ottimo investimento per i prossimi 4-5 anni, al di là di speculazioni di breve termine. Ben diversa la questione per OpenAI e compagnia, di quelle aziende molta sarà carne morta in poco tempo, come sempre quando le soluzioni tecnologiche sono in pieno hype.
Comunque sto utilizzando deepseek per preparare la parte di laboratori di sistemi operativi ed é tanta tanta tanta roba. Ho velocizzato il mio apprendimento e lo studio del codice in una maniera assurda
@pier_x0 si,certo. Allora, nel primo caso, non si tratta proprio di analisi del codice o roba simile, ma mi faccio generare tracce d'esame simili a quelle che gli do "in pasto", così da avere più materiale per esercitarmi. Nel secondo caso, invece, l'ho usato proprio durante lo studio. Premetto che conosco il linguaggio C e le sue basi, quindi non parlo di aiuto per capire il linguaggio in sé, ma più che altro, essendo la parte di laboratorio un po' carente di documentazione (secondo me), quando studio il codice che il prof ha fornito come esempio, a volte non capisco alcune funzioni specifiche e come si comportano. E quindi che faccio? Copio il codice su Deepseek e gli chiedo di spiegarmelo. Una volta come si faceva? O Stack Overflow o debugging. Ci tengo a dire, però, che considero questi strumenti come supporti (tipo un assistente che ti sta affianco e ti aiuta o ti ricorda come fare un determinato passaggio). Rimane il fatto che, secondo me, leggere la documentazione è fondamentale se vuoi districarti in modo indipendente nel codice.
a meno di non investire cifre che non influenzino la tua vita/conto in banca, lascia stare gli investimenti a capocchia. Ogni tanto potresti anche prenderci, ma alla fine ci perderai di sicuro In caso rivoltini ad un consulente esterno, non legato a banche
deepseek funziona bene, un ottimo prodotto. ma provando a dare questo prompt: "what famous picture as a man with grocery bags in front of tanks?" guardate che risultati ottenete. ci dobbiamo fidare dei cinesi?
@@antoniocanzanella5875 DeepSeek ci tiene a non fare bloccare la sua ricerca dal governo. Non hanno scelta e non mi pare che per la maggior parte degli use case faccia differenza. Inoltre i modelli occidentali sono pure biases... Forse di meno e certamente in modo diverso. Ma DeepSeek è free e potenzialmente puoi fare un training per disallinearlo. Gli altri modelli di frontiera, no.
Penso che chi ha del capitale investito su Nvidia dovrebbe lasciarlo lì dov'è anziché farsi venire una sincope senza motivo. L'andamento giornaliero è una cosa completamente ininfluente, anche alla luce del fatto che: a) il titolo ha fatto qualcosa tipo +2,300% negli ultimi 5 anni, per cui l'oscillazione di oggi è pressoché ininfluente; b) il titolo ha comunque registrato +80% nell'ultimo anno. semmai più che vendere potrebbe essere un momento buono per comprare 😉 Saluti!
I discorsi che ho fatto comunque si riferiscono a lungo periodo, non a questo specifico crollo. Però anche questo crollo rimane sintomatico del fatto che il prezzo potrebbe essere molto lontano da quello giusto perché questi elementi di volatilità, quasi da Bitcoin, non rassicurano per niente.
Ciao Salvatore,
gia' da tempo volevo chiederti una cosa. Vista la tua conoscenza, potrebbe esser interessante create delle "AI_in_pills", video che spieghino dalle basi i modelli, i concetti che ci sono dietro.
Quando hai menzionato inferenza/fp8 - full precision, mix of expert, multi token prediction, attention non ci ho capito nulla.
Lo so, il tempo non e' mai abbastanza e lo YTer non e' di certo il tuo lavoro
Pero' se altri iscritti fossero interessati potrebbero lasciare un commento qui sotto e chissa'
grazie sarebbe certamente molto interessante, ma mi sono dato la regola di parlare delle cose che mi interessano in quel dato momento. Comunque, ogni tanto una lezione come quella dei vettori la farò..
@@antirez tutto cio' che puoi portare su questo canale sara' sempre apprezzato.
Potresti indicarci qualche lettura da dove iniziare?
Sono nell'IT da parecchio, troppo :D prima come programmatore back-end poi migrato alla mia passione, sistemista.
Grazie mille
@@antirez Mi unisco al suggerimento dell'utente; i video presenti sul canale sono estremamente interessanti, in particolare i talk più "in-depth" su argomenti come vettori e quantizzazione.
Penso che 1-2 video dedicati a come approcciarsi al settore, magari con indicazioni su risorse utili da consultare e consigli sul metodo di studio da applicare, potrebbero essere di grande aiuto (e servire anche da "riferimento" per rispondere a future richieste su cosa/dove iniziare a studiare AI)
Catanese, a Catania, raffreddato pure io. si preannuncia una lunga notte anche per me, almeno tra chiedere a derisero consigli su cosa studiare in base alle me necessità e i tuoi video sono in buona compagnia
Ovviamente derisero sarebbe DEEPSEEK auto corretto da iPhone xD
OpenAI e NVidiia hanno acquisito valore puntando sul concetto che l'unico modo di migliorare un AI sia di renderlo più grande mentre DeepSeek ha reso evidente quanto ancora ci sia di migliorabile a livello di tecnologia. I modelli sono tutt'altro che cristallizzati quindi puntare sulla forza bruta è se non altro prematuro e rende le aziende che ci investono fragili. Questa realizzazione non può che avere un contraccolpo sugli investimenti, non per nulla Trump ha promesso i soldi di Stargate (che poi arrivino o meno poco importa).
(Per favore Salvatore quanto citi un articolo lo potresti cortesemente linkare nel commento? grazie)
Più che altro la scaling law è difficile da sostenere, senza innovazione: abbiamo finito i token.
D’accordo su tutto tranne che vendere, io la vedo come un opportunità per comprare, potenza di calcolo servirà sempre: bitcoin, armamenti, games. È un piacere ascoltarti.
Visione un po' catastrofica per NVDIA, ammetto di non aver letto l'articolo cosa che farò a breve, ma penso sia una normalissima correzione di un assett che ha avuto crescita esponenziale grazie a questa bolla AI. Ci sarà sicuramente una rotazione su altri vendor che sfrutteranno a loro volta questo segmento (AMD per esempio).
Leggi l'articolo, se puoi: potresti cambiare idea. E anche se non cambi idea, è pieno di informazioni di qualità.
Credo che, come è successo con Internet, emergeranno nuove società da tutto il mondo che, attraverso la costruzione di chip, l'addestramento dei modelli e la ricerca, renderanno l'intelligenza artificiale sempre più accessibile e diffusa. Attualmente assistiamo a un monopolio, ma nel tempo queste tecnologie si diffonderanno e molti processi che ora sono costosi e oscuri diventeranno più economici e trasparenti. Le sette grandi aziende del settore sono sopravvalutate e, prima o poi, il loro valore si stabilizzerà su livelli più normali. Naturalmente, nessuno può prevedere con certezza quando, ma la natura umana, con la sua avidità e paura senza limiti, ci insegna che vi sono eccessi di sopravvalutazione che poi vengono corretti in modo brutale.
Io credo che il crollo sia legato di più ad una situazione geopolitica in cambiamento, teniamo sempre in mente che dietro ci sono le solite Vanguard, BlackRock, State Street in riposizionamento con il nuovo Presidente. Io appoggio molto le analisi che vedono sempre più slegato il rapporto tra il valore reale di un'azienda e le proprie azioni, appunto come dici loro nemmeno fanno produzione di nulla. La cosa interessante è che forse proprio grazie a questo "embargo" è nato uno stimolo a percorrere vie alternative. Comunque sempre super interessante.
@@NicolaTomassoni nel breve periodo le azioni vanno un po’ in base all’umore, però nel lungo tendono sempre ad allinearsi al valore reale dell’azienda. Anche se vogliamo tenere solo in considerazione l’effetto della pancia degli investitori, le cose che stanno accadendo potrebbero far sì che Nvidia deluda nel breve termine, e che le azioni cadano giù invecchiata di molto, ma tanto proprio
sono d'accordo
Domanda: Esistono sw eng a cui la finanza e i mercati fanno letteralmente cagare?
@@MannaggiaAlDemonio ne conosco a palate.
Quasi tutti data la RAL media italiana
Concordo, infatti stamattina mi chiedevo come mai non e' avvenuto prima il calo, con l'uscita di deepseek-v3 :)
Ciao Salvatore, ti seguo da un po' e trovo i tuoi spunti sempre interessanti. Mi piacerebbe moltissimo potere approfondire questi temi, legati sia a finanza che a tecnologia, e credo che anche altri utenti sarebbero interessati. Perché non apri un canale Telegram? Sarebbe bello approfondire di più questi e altri temi con la comunity. Ciao e grazie!
Grazie Andrea. Siccome ho pochissimo tempo, preferisco concentrarlo tutto sul canale.
@antirez peccato! Comunque ci sta, lo capisco, continueremo a seguirti qua!:)
Si, avevo azioni Nvidia. Se vendo ora concretizzo la perdita. La borsa è come un gatto - fa di ogni piccolezza un'enormità. Secondo me già domani o dopo domani saranno giornate verdi. Se avessi venduto ogni volta che i titoli vanno sotto, avrei sempre e sistematicamente perso soldi. Vediamo, dai. Alla peggio, mi ricorderò del proverbio siciliano mentre guardo le cifre rosse sul mio schermo
+5% in premarket. Ma il punto non è vendere durante il crollo, ma poi quando/se recupera, decidere se strategicamente tu ci vedi su Nvidia, a questo prezzo. È questa la scelta da fare.
Non c'e' niente di meglio di un bel dippone pre-market.
Comunque e' proprio vero che "Constraints generates innovation"
Oggi ho comprato 55k$ NVDA per conto di un conoscente. Effettivamente sembra che sia un bel problema. Bisogna vedere come evolverà la situazione, per ora è presto fare valutazioni.
Io non la vedo molto bene sul breve periodo, molto dipendente dai costi di inferenza.
È vero anche che nessuno può sapere come andranno le cose, magari la continua e crescente domanda per il mercato AI può compensare i costi di inferenza. In ogni caso il futuro di NVDA dipende dalle sue capacità di adattamento e di diversificazione. Se riuscirà ad adattarsi e rimanere dominante nel mondo AI potrebbe superare la sfida, altrimenti si rivelerà come una azienda che aveva il prodotto giusto al momento giusto e niente più.
Rimanere statici in ogni caso è impensabile nel mondo tech, se NVDA non ha le capacità di adattamento DeepSeek o non DeepSeek prima o poi sarebbe crollata lo stesso. Secondo me personalmente sono in ogni caso positivo, potrebbe avere delle correzioni del 30-40% ma sul lungo periodo li vedo posizionati bene, non sono una startup di memecoin per dire e il mondo AI ha mille applicazioni diverse non solo hardware.
Sarà molto interessante quando la Robotica diventerà la prossima "bubble" e con robotica intendo gli umanoidi, quello è un settore da tenere d'occhio perché tra Optimus e simili se si riuscisse tra qualche anno a portare sul mercato Robot davvero utili e multi funzione per 20-30k$ a testa ci potrebbero essere grandi opportunità. A mio avviso sarà la prossima big thing, molto trascurata attualmente.
In realtà il motivo è che qualcuno venerdì ha ascoltato i ns discorsi sul moltiplicatore analogico basato su operazionali e componenti discreti :-D , totalmente d'accordo sulla "bolla" Nvidia , e il fatto che modelli "Edge" con risultati discretamente accettabili diventano già oggi a portata di molto dispositivi non CUDA.
..e ripensandoci DeepSeek vs Open ai sembra somigliare all'esempio da te fatto, che se ti concentri solo sull'effettivamente necessario (le ottimizzazioni di cui parlavi) forse ottieni gli stessi risultati con 50 volte meno risorse.
Please, subtitles
I added them already in Italian, and the English translation seems ok. Did you try to enable them? I see them working in English.
Da profano, la "storia" di deepseek mi sembra abbastanza scontata. Se metti embargo, sanzioni, dazi a qualcuno, questo si adatta e trova soluzioni alternative con le risorse che ha a disposizione. C'è da dire anche che comunque un hardware di qualche tipo sarà sempre necessario, e anche lì chi oggi non può accedervi si sta organizzando per fare in altro modo.
Ma la domanda che mi faccio è perché c'è riuscita deepseek e per esempio non quella di Elon Musk oppure Facebook ecc... è come se tutti avessero copiato Openai finendo per rimanere comunque indietro assieme ad essa.
In quella specifica società hanno ricercatori di qualità superiore. Un piccolo team di persone geniali.
DeepSeek è allenato sull’output di OpenAI quindi chiaro costa di meno. È stato fatto da un hedge fund, quindi secondo me l’obiettivo è far crollare il mercato attraverso questo storytelling.
Ma no, hanno un training set diverso e la distillazione su OpenAI non è il motivo per cui è forte. OpenAI o1 non a caso non mostra la chain of thoughts, e l'hanno rifatta un R1 senza problemi.
@@antireze non potrebbero aver fatto fine tuning di Llama su milioni di output da OpenAI GPT4?
Mi domando perché abbiano lasciato il codice aperto....fare certe scoperte gli porta un grande vantaggio, e lasciandolo aperto tutti possono copiarlo e prendersi gli algoritmi molto complessi di ottimizzazione.
@@lucaron9167 ne ho parlato tempo fa
@antirez in quale video?
Bel finale 🤣
In ogni caso, secondo me non è particolarmente giustificato questo crollo. D'altronde non è che l'arrivo dei modelli (fighissimi) di DeepSeek abbia cambiato lo status quo in termini di hardware, dove Nvidia (devo dire giustamente, guardando il pessimo lavoro di AMD e ROCm) domina.
Che ci siano tantissime ottimizzazioni che si possono fare in ambito ML è risaputo da tempo, e purtroppo è un topic che interessa a pochi (forse anche perché è tecnicamente complesso da affrontare). Ma rimane il fatto che per far girare un modello da B parametri ti servono tante nvidia GPUs.
Il problema è che nel prezzo attuale delle azioni ci sono due cose calcolate: 1. Che l'inferenza doveva costare sempre di più, e non sembra il caso. 2. Che Meta, OpenAI e altri avrebbero continuato ad acquistare GPU come i pazzi, e se ci sono nuovi modi di fare modelli migliori più piccoli, con meno token, migliorando le tecniche, e non le dimensioni dei modelli e il tempo di training, questa tendenza potrebbe rallentare gli acquisti. Sono tanti motivi che si sommano assieme.
@@antirez sì assolutamente è corretto questo ragionamento. D'altra parte, rimane il fatto che Nvidia attualmente non ha reali competitors, in uno dei mercati più inflazionati del momento. Secondo me un crollo così netto è dovuto anche a un po' di sensazionalismo e un po' a ignoranza (e.g. gente che confonde R1 con i modelli distilled).
all'apertura dei mercati si vedranno fuochi d'artificio
tutte le big tech sono stragonfiate, un calo e' fisiologico... stiamo alla finestra
quando hai menzionato le cpu su singolo wafer immagino ti riferissi a Cerebra
quando ho letto la prima volta la notizia sono saltato dalla sedia
Eh no! Come c'è scritto in ogni manuale di finanza/psicologia, in questi casi: non farsi prendere dal panico! 😅
Non è un video di finanza... Nel contesto di questo canale, interessa che NVDA abbia perso il 12% in un giorno come segnale del fatto che DeepSeek ha modificato gli assetti.
@antirez sì sì, lo so, era una battuta in risposta alla tua ultima battuta 🙂
Sì, lo so, ma ci tenevo a sottolinearlo perché se vedi il tono di tanti commenti, è come se il focus fosse stato sulla borsa. Be', che il titolo vada su e giù ci importa poco rispetto al significato degli scossoni :D
A prescindere da tutto fai bene a mangiare verdura per pranzo, altro che AI e azioni nvidia :D. Pensiamo alla salute prima di tutto.
Sinceramente non comprendo il collegamento tra deepseek ed nvidia.
Cioè potrei capire se fosse crollata openai, ma deepseek non è neanche lontanamente un competitor per nvidia anzi probabilmente hanno usato pure loro schede video per trainare i modelli.... Non capirò mai la finanza...
nemmeno io capisco di finanza, ma deepseek ha dato un messaggio abbastanza chiaro: si possono creare modelli ai massimi livelli con molte meno schede GPU.
E per chi le vende non è una gran bella notizia.
This. E ha dato anche un secondo messaggio: la AI "USA" non è così avanti al resto come si pensava.
e invece compro (ti amo)
mah! io mi occupo di LLMS da quando è uscito chatgpt e ritengo che DeepSeek anche se sicuramente essendo opensource sia una svolta, non si avvicina minimamente al prodotto di Openai... i mercati sono veramente sensibili and ogni cazzata (premetto di essere un ingegnere informatico vecchio ordinamento....:-) si tratta di una nuova guerra fredda ma tra Cina e USA e questo fa succedere le cazzate piu assurde
@@fabriziocasula la maggior parte della comunità informatica non è d'accordo con questa visione. Ieri con R1 è stata creata una patch per llama.cpp che rende l'inferenza più veloce che è impossibile da ottenere con o1. Sono stati fatti molti test e sembra che DeepSeek sia più forte in molti task.
@@antirez io parlo delle mie esperienze. nei test di codifica che ho fatto non mi è sembrato all'altezza, ma sono solo dei test fatti da me :-) comunque è molto interessante quello he dici sull'inferenza
cercando ho trovato questo:
alcuni utenti hanno riscontrato problemi nell'utilizzo di modelli come DeepSeek-R1-Zero-GGUF con llama.cpp, segnalando errori specifici durante il caricamento. Questo indica che potrebbero essere necessarie ulteriori ottimizzazioni o aggiornamenti per garantire una perfetta integrazione tra la patch e l'infrastruttura esistente.
Mah, per quanto mi riguarda scendere da +900% a +600% non è sarebbe sto gran problema. Ad occhio e croce Nvidia acqustata al giusto prezzo è ancora un ottimo investimento per i prossimi 4-5 anni, al di là di speculazioni di breve termine. Ben diversa la questione per OpenAI e compagnia, di quelle aziende molta sarà carne morta in poco tempo, come sempre quando le soluzioni tecnologiche sono in pieno hype.
Comunque sto utilizzando deepseek per preparare la parte di laboratori di sistemi operativi ed é tanta tanta tanta roba. Ho velocizzato il mio apprendimento e lo studio del codice in una maniera assurda
potresti spiegare come lo utilizzi? un semplice esempio
@pier_x0 si,certo. Allora, nel primo caso, non si tratta proprio di analisi del codice o roba simile, ma mi faccio generare tracce d'esame simili a quelle che gli do "in pasto", così da avere più materiale per esercitarmi.
Nel secondo caso, invece, l'ho usato proprio durante lo studio. Premetto che conosco il linguaggio C e le sue basi, quindi non parlo di aiuto per capire il linguaggio in sé, ma più che altro, essendo la parte di laboratorio un po' carente di documentazione (secondo me), quando studio il codice che il prof ha fornito come esempio, a volte non capisco alcune funzioni specifiche e come si comportano. E quindi che faccio? Copio il codice su Deepseek e gli chiedo di spiegarmelo. Una volta come si faceva? O Stack Overflow o debugging.
Ci tengo a dire, però, che considero questi strumenti come supporti (tipo un assistente che ti sta affianco e ti aiuta o ti ricorda come fare un determinato passaggio). Rimane il fatto che, secondo me, leggere la documentazione è fondamentale se vuoi districarti in modo indipendente nel codice.
@@pier_x0 io gli mando un mare di CSV da tradurre, che generalmente sono tradotti un maluccio, ma salva settimane comunque
@@pier_x0 da quello che vedo spesso che il model esegue e chi è davanti si illude di aver imparato qualcosa
Comprate 5090 tra 3 giorni che con 32GB VRAM ti fanno una LocalAI da paura. E probabilmente le rivendete a 2x. Not financial advice :)
Hai visto quello che è uscito di NVIDIA? Quella specie di workstation per l'inferenza a casa? Credo miglior prezzo per bit.
nvidia profondamente inefficente a quanto sembra....non son loro che dicono che ai sostituirà tutto e tutti no,,,
Vendere vendere vendere… Not Financial Advice
Ma quindi tu dici: Comprare ora è stra-perdere? 😮
Vitt
@@vittoriobanfi ognuno prenda le proprie decisioni :)
a meno di non investire cifre che non influenzino la tua vita/conto in banca, lascia stare gli investimenti a capocchia. Ogni tanto potresti anche prenderci, ma alla fine ci perderai di sicuro
In caso rivoltini ad un consulente esterno, non legato a banche
deepseek funziona bene, un ottimo prodotto. ma provando a dare questo prompt: "what famous picture as a man with grocery bags in front of tanks?" guardate che risultati ottenete. ci dobbiamo fidare dei cinesi?
@@antoniocanzanella5875 DeepSeek ci tiene a non fare bloccare la sua ricerca dal governo. Non hanno scelta e non mi pare che per la maggior parte degli use case faccia differenza. Inoltre i modelli occidentali sono pure biases... Forse di meno e certamente in modo diverso. Ma DeepSeek è free e potenzialmente puoi fare un training per disallinearlo. Gli altri modelli di frontiera, no.
è gonfiato come tesla.
Penso che chi ha del capitale investito su Nvidia dovrebbe lasciarlo lì dov'è anziché farsi venire una sincope senza motivo. L'andamento giornaliero è una cosa completamente ininfluente, anche alla luce del fatto che:
a) il titolo ha fatto qualcosa tipo +2,300% negli ultimi 5 anni, per cui l'oscillazione di oggi è pressoché ininfluente;
b) il titolo ha comunque registrato +80% nell'ultimo anno.
semmai più che vendere potrebbe essere un momento buono per comprare 😉
Saluti!
I discorsi che ho fatto comunque si riferiscono a lungo periodo, non a questo specifico crollo. Però anche questo crollo rimane sintomatico del fatto che il prezzo potrebbe essere molto lontano da quello giusto perché questi elementi di volatilità, quasi da Bitcoin, non rassicurano per niente.
finocchio ingranato ottimo per tisane