Ottimo come sempre! Secondo me sarebbe utilissimo vedere vari progetti (di complessità crescente) svolti "from scratch" :) Mi piacerebbe vedere anche qualche applicazione di import/editing dati (es.CSV) e RAG da file PDF. Continuate così!
Ok, dico la mia : fate uno VERO step by step su come installare il tutto su LXC in PROXMOX, e su come si sfruttano i benefici delle KAN (Kolmogorov-Arnold Network) su macchine non troppo "carrozzate" di GPU, ovvero a bassa richiesta di risorse di computazione. Poi, la questione training : fare il training con documenti caricati da noi, e training su siti on line (wiki) è fondamentale per creare macchine AI che svolgano i compiti che ci interessano in situazioni reali. Grazie per la vostra professionalità, siete TOP
Contenuto super! Suggerisco una serie di tutorial che spieghi e faccia vedere step by step come utilizzare un modello opensource da Hugging Face. Magari automatizzando un flusso che integri dati da applicazioni in locale e online, ricevendo un imput iniziale magari da mail.
Il modello da 7B di Llama già non c'è più, ma si può scaricare quello da 8B. Tutorial ottimo e la furbata di andare a cambiare l'endpoint nei setting generali invece che nei singoli nodi è una manna dal cielo. Ora torno ad insegnare a Llama 3 a leggere i Tarocchi, come esercizio semplice e di cui voglio vedere chi mi confuta il risultato.
Grazie ragazzi per aver risposto a praticamente quasi tutte le domande e ottimo video. Il contratto incollato, lo si sarebbe potuto prendere direttamente da un file in locale senza incollarlo? Sarebbe bello infatti capire se impostando tutto il workflow in Rivet, ci fosse poi la possibilità di automatizzare la ricezione dell'input e succcessivamente capire anche come creare una chiamata in batch al grafo di rivet. Si può pensare di fare un caso d'uso nel prossimo video che risponda a questa domanda, partendo anche solo da questo esempio?
Ciao, devo ancora approfondire Rivet e nel frattempo mi sarebbe utile sapere se consente l'upload diretto di file come pdf o word (come se il contratto invece di copiarlo e incollarlo nell'esempio di questo video, se ne potesse caricare direttamente il file). Inoltre nel caso in cui si volesse creare un'applicazione confezionata in una GUI fatta e finita a partire dal workflow, è possibile?
8 GB dovrebbero bastare per modelli che hanno usato 7 mld di parametri 16 GB dovrebbero bastare per modelli che hanno usato 13 mld di parametri 32 GB dovrebbero bastare per modelli che hanno usato 33 mld di parametri Fonte th-cam.com/video/kJvXT25LkwA/w-d-xo.html
Complimenti per il video!!! Mi interessa sapere il livello di privacy di questi modelli in locale. In altre parole, usando i servizi mostrati, quanto mi posso fidare al livello di privacy?
Segnalo che l'opzione Cross-Origin-Resource-Sharing potrebbe essere su OFF al primo avvio. Se non la si mette su ON il Tutorial potrebbe non andare a buon fine e Rivet non riesce a comunicare col server.
Per rispondere il modello deve fare call esterne? o contiene tutte le 'informazioni' in locale? considerando quanto sanno.. e che e' solo 3gb, mi sembra molto poco.
Ciao, ragazzi bel video molto interessanti. Secondo voi è possibile dare in pasto ad un LLM locale qualche gigabytes di documenti di una azienda(docx, xlsx, pdf, emails) e poter interrogare per rispondere a domande su questi documenti e lavorarvi attivamente ? grazie
Come prima cosa complimenti per l'ottimo video, è super interessante! Sarebbe bello se riuscissi a fare un video nel quale fai vedere come addestrare con i propri dati un modello locale. Sarebbe mia intenzione far girare un modello locale su un Nas in modo da essere raggiungibile dall'esterno... secondo tè è fattibile? Ok ho conoscenza pari a zero in questo ambito ma mi piacerebbe studiare per arrivare ad una cosa del genere...😅
esiste un agente master che possa gestire multiagenti? che possa dimensionare le loro reti neurali, comm etc.. etc.. ? per farli cooperare per raggiungere l'obbiettivo? oh devo scrivermi il codice spendendo parecchio tempo e ore di apprendimento con rinforzo?
Ottimo come sempre! Secondo me sarebbe utilissimo vedere vari progetti (di complessità crescente) svolti "from scratch" :)
Mi piacerebbe vedere anche qualche applicazione di import/editing dati (es.CSV) e RAG da file PDF.
Continuate così!
Ok, dico la mia : fate uno VERO step by step su come installare il tutto su LXC in PROXMOX, e su come si sfruttano i benefici delle KAN (Kolmogorov-Arnold Network) su macchine non troppo "carrozzate" di GPU, ovvero a bassa richiesta di risorse di computazione.
Poi, la questione training : fare il training con documenti caricati da noi, e training su siti on line (wiki) è fondamentale per creare macchine AI che svolgano i compiti che ci interessano in situazioni reali.
Grazie per la vostra professionalità, siete TOP
Ottimo tutorial! Suggerisco una serie di tutorial che spieghi e faccia vedere step by step come finetunare un modello opensource.
Bhe... :) wait and see
up
La foto del Pupone che indossa la maglia di Datapizza mi fa volare tantissimo. Siete dei grandi!
ahahah si fa quel che si può
Contenuto super! Suggerisco una serie di tutorial che spieghi e faccia vedere step by step come utilizzare un modello opensource da Hugging Face. Magari automatizzando un flusso che integri dati da applicazioni in locale e online, ricevendo un imput iniziale magari da mail.
Il modello da 7B di Llama già non c'è più, ma si può scaricare quello da 8B.
Tutorial ottimo e la furbata di andare a cambiare l'endpoint nei setting generali invece che nei singoli nodi è una manna dal cielo.
Ora torno ad insegnare a Llama 3 a leggere i Tarocchi, come esercizio semplice e di cui voglio vedere chi mi confuta il risultato.
grande!
Grazie, video molto interessante e utile
Grazie ragazzi per aver risposto a praticamente quasi tutte le domande e ottimo video.
Il contratto incollato, lo si sarebbe potuto prendere direttamente da un file in locale senza incollarlo?
Sarebbe bello infatti capire se impostando tutto il workflow in Rivet, ci fosse poi la possibilità di automatizzare la ricezione dell'input e succcessivamente capire anche come creare una chiamata in batch al grafo di rivet.
Si può pensare di fare un caso d'uso nel prossimo video che risponda a questa domanda, partendo anche solo da questo esempio?
Ciao, ottima idea!
Ciao, devo ancora approfondire Rivet e nel frattempo mi sarebbe utile sapere se consente l'upload diretto di file come pdf o word (come se il contratto invece di copiarlo e incollarlo nell'esempio di questo video, se ne potesse caricare direttamente il file). Inoltre nel caso in cui si volesse creare un'applicazione confezionata in una GUI fatta e finita a partire dal workflow, è possibile?
Ciao quali sono le caratteristiche minime di un pc per utlizzare il modello Ollama 7b? Grazie
8 GB dovrebbero bastare per modelli che hanno usato 7 mld di parametri
16 GB dovrebbero bastare per modelli che hanno usato 13 mld di parametri
32 GB dovrebbero bastare per modelli che hanno usato 33 mld di parametri
Fonte th-cam.com/video/kJvXT25LkwA/w-d-xo.html
Complimenti per il video!!! Mi interessa sapere il livello di privacy di questi modelli in locale. In altre parole, usando i servizi mostrati, quanto mi posso fidare al livello di privacy?
del tutto, girano in locale, sono solo un file compresso di pesi numerici, nient'altro
@@giacomociarlini4557 si può usare lo stesso sistema per usare open interpreter?
@@giacomociarlini4557 si può usare lo stesso sistema con open interpreter?
Ottimo video. Sto provando ad utilizzare microsoft/Phi-3 locale. Devo inserire la api key e nel caso come le ottengo? Grazie
Segnalo che l'opzione Cross-Origin-Resource-Sharing potrebbe essere su OFF al primo avvio. Se non la si mette su ON il Tutorial potrebbe non andare a buon fine e Rivet non riesce a comunicare col server.
Per rispondere il modello deve fare call esterne? o contiene tutte le 'informazioni' in locale? considerando quanto sanno.. e che e' solo 3gb, mi sembra molto poco.
è tutto locale, that's the magic!
Ciao, ragazzi bel video molto interessanti. Secondo voi è possibile dare in pasto ad un LLM locale qualche gigabytes di documenti di una azienda(docx, xlsx, pdf, emails) e poter interrogare per rispondere a domande su questi documenti e lavorarvi attivamente ? grazie
Si certo ma bisogna costruire un sistema RAG, dai un'occhiata a LLama Index
La key di Ope AI la devo comunque creare ed incollare nel campo di appartenenza?
Come prima cosa complimenti per l'ottimo video, è super interessante! Sarebbe bello se riuscissi a fare un video nel quale fai vedere come addestrare con i propri dati un modello locale. Sarebbe mia intenzione far girare un modello locale su un Nas in modo da essere raggiungibile dall'esterno... secondo tè è fattibile? Ok ho conoscenza pari a zero in questo ambito ma mi piacerebbe studiare per arrivare ad una cosa del genere...😅
Non serve addestrare un modello, serve un sistema RAG secondo me
@@giacomociarlini4557 ok grazie! andrò a studiare nel dettaglio il sistema RAG... poi se per caso ci scappa un video in merito... 😅😉👍
Ciao, video interessante! Per favore mi aiuti a capire però quale potrebbe essere il suo utilizzo pratico per utente comune? Grazie…
Creare proof of concept delle sue idee ad esempio, o workflow comuni
@@giacomociarlini4557 grazie!
esiste un agente master che possa gestire multiagenti? che possa dimensionare le loro reti neurali, comm etc.. etc.. ? per farli cooperare per raggiungere l'obbiettivo? oh devo scrivermi il codice spendendo parecchio tempo e ore di apprendimento con rinforzo?
Guarda Crew AI