Serve un computer adatto dillo perché molti si credono che possono funzionare su tutti i co.puter serve una GPU invidia. Senza GPU esempio schede Intel integrata senza GPU e senza avx2 non funziona di impalla tutto e risponde dopo circa un ora ad una domanda. Qualsiasi modello li ho provati tutti...
Non so che problema abbia sul tuo pc ma io lo faccio girare su arch linux su un vecchio thinkpad x230 di 12 anni fa, ci mette solo una ventina di secondi a rispondere ma risponde
@@matteovillani8983 ma davvero io credevo era perché non avevo GPU ho provato di tutto puoi darmi un link di ciò che hai usato tu sul esempio che mi hai fatto.. 20 secondi sarebbe un lusso per me anche mezz'ora hahahah visto come è andata..
il video mi è piaciuto molto Complimenti! Ma adesso per addestrare il modello locale a dati più compatibili all'uso che deve fare come faccio?? Grazie e ancora Complimenti!!!!
Video molto utile e illustrato veramente bene in ogni singolo passaggio. Sarebbe utile se facessi un altro video come questo ma per un intelligenza artificiale che può generare immagini.
Wowo grande, questa AI che gira in locale, sareppo possibile portarla tipo su telegram con un nostro BOT? nel senso il pc o mac sul quale è installata, se fosse online tramite la rete di casa, potremmo sfrtuttarla per poi usarla quando siamo fuori casa dal telefono sfruttando, telegram o whatsapp o tramite una nostra app? ( ios)
Unico che non ho provato LLaMA3 sono anni che faccio queste cose non mi fanno terminare nulla mi bloccano e cancellano tutto il cputer e difficile da spiegare
Ho un pc abbastanza nuovo ma temo di non avere una scheda video adeguata (Nvidia Gforce mx550) perché le risposte del chatbot sono veramente lente, cmq complimenti per il video, sicuramente questo aprirà nuovi scenari
Avevo letto di questa "opzione" però non mi è chiaro come "addestrarla" per farmi inviare i dati che ha raccolto (esempio: inviare i dati ad una web-api che li salverà in un db)
Ho due domande: è comunque censurato? E, secondo: davvero non ha limiti di token, ovvero gli si può far scrivere un romanzo di mille pagine? Grazie e complimenti per il video.
La censura dipende dal modello che scegli di usare! Per quanto riguarda le generazioni, tecnicamente non ci sono limiti e la capacità computazionale del tuo pc potrebbe essere il collo di bottiglia.
@@gianstech e quasi tutto uguale e su windows viene eseguita in powershell ma per la creazione di quella personalizzata ho difficoltà non trovo i comandi giusti
Dovresti poter usare le risposte del tool per questi scopi. Controlla però la documentazione di LLAMA 3. Mi immagino che come parte del training abbia anche materiale protetto da copyright, ma non dovrebbe mai generare risposte che copiano passaggi.
Ciao, grazie per questo video molto utile, non mi è chiaro come iniziare la costumizzare l'AI, su Windows se do il comando "nano yoda" non lo riconosce, da che punto bisogna avviare la personalizzazione?
Ciao, nano e un text editor per Mac Os su Windows basta il semplice blocco note dove scriverci il tutto. Attenzione che se copi dalla descrizione mancano i "#" quindi controlla dove sono dal video se no ti da errore
Serve un computer adatto dillo perché molti si credono che possono funzionare su tutti i co.puter serve una GPU invidia. Senza GPU esempio schede Intel integrata senza GPU e senza avx2 non funziona di impalla tutto e risponde dopo circa un ora ad una domanda. Qualsiasi modello li ho provati tutti...
Non so che problema abbia sul tuo pc ma io lo faccio girare su arch linux su un vecchio thinkpad x230 di 12 anni fa, ci mette solo una ventina di secondi a rispondere ma risponde
@@matteovillani8983 ma davvero io credevo era perché non avevo GPU ho provato di tutto puoi darmi un link di ciò che hai usato tu sul esempio che mi hai fatto.. 20 secondi sarebbe un lusso per me anche mezz'ora hahahah visto come è andata..
@@matteovillani8983 io uso Linux mint ma lo avevo installato anche su peppermint appena formato e uguale
@@matteovillani8983 llama2 avevo iniziato poi li ho provati tutti e nessuno
Funziona anche solo con la cpu
il video mi è piaciuto molto Complimenti! Ma adesso per addestrare il modello locale a dati più compatibili all'uso che deve fare come faccio?? Grazie e ancora Complimenti!!!!
Complimenti per la spiegazione praticamente perfetta! Grazie mille per il video
Grazie a te per aver visto il video 🙏🏻💥
Ma posso aggiungere moduli esempio un modulo che riguarda la fisica ecc?
Bel video! A proposito, puoi dirmi qual è il tuo microfono? La tua voce suona alla grande
Maono PD400X
Grazie per il video. Qual caratteristiche deve avere il pc per avere prestazioni accettabili? Sul mio pc è troppo lento.
Video molto utile e illustrato veramente bene in ogni singolo passaggio. Sarebbe utile se facessi un altro video come questo ma per un intelligenza artificiale che può generare immagini.
In realtà conosco il tool adatto! Stay tuned! 😎👌🏻
Forte, sto provando ad addestrarlo per sostituire, in parte, il manuale dei miei programmi e funziona abbastanza bene. :)
FIGATA 💯
Sei un grande Gian🎉❤
complimenti come sempre, ma i dati che hai inserito per essere ricontattato poi vengono salvati e se sì,dove?
Wowo grande, questa AI che gira in locale, sareppo possibile portarla tipo su telegram con un nostro BOT? nel senso il pc o mac sul quale è installata, se fosse online tramite la rete di casa, potremmo sfrtuttarla per poi usarla quando siamo fuori casa dal telefono sfruttando, telegram o whatsapp o tramite una nostra app? ( ios)
Unico che non ho provato LLaMA3 sono anni che faccio queste cose non mi fanno terminare nulla mi bloccano e cancellano tutto il cputer e difficile da spiegare
Ciao Gian, complimnti come al solito, ma se la volessi disinstallare che comando dovrei utilizzare da terminale?
Molto molto interessante. Bravo e grazie 👋
Grazie a te! Felice che sia piaciuto
Ciao Ottimo video!. E' possibile passargli dei file per insegnargli alcune conoscenze come per i gpts di Chatgpt? grazie!
Ho un pc abbastanza nuovo ma temo di non avere una scheda video adeguata (Nvidia Gforce mx550) perché le risposte del chatbot sono veramente lente, cmq complimenti per il video, sicuramente questo aprirà nuovi scenari
Avevo letto di questa "opzione" però non mi è chiaro come "addestrarla" per farmi inviare i dati che ha raccolto (esempio: inviare i dati ad una web-api che li salverà in un db)
C’è la documentazione su github per collegare le API
@@gianstech ottimo, se c'è anche il container docker, sono a cavallo! Grazie per il chiarimento!
Ho due domande: è comunque censurato? E, secondo: davvero non ha limiti di token, ovvero gli si può far scrivere un romanzo di mille pagine? Grazie e complimenti per il video.
La censura dipende dal modello che scegli di usare!
Per quanto riguarda le generazioni, tecnicamente non ci sono limiti e la capacità computazionale del tuo pc potrebbe essere il collo di bottiglia.
Ciao e Grazie. Photo aggiungere dei files per l’allenamento? Oppure devi inserire tutto in testuale?
se vuoi addestrare un AI da zero, non è questa la procedura
esiste un modo in cui possa aiutarmi con i documenti nel mio pc? farglieli leggere ecc ecc?
Sto provando Llama3 sul LM Studio, non c'è modo di addestrarlo dei documenti PDF mail e MarkDown di alcune direttori? Così si che diventa fantastica!
Secondo me è fattibile. Andrà integrato con qualche tool esterno che prenda in input le sorgenti non compatibili direttamente e le trasformi in testo.
@@gianstech pensa che bello .... poterlo interrogare alla massima potenza, con tutti documenti del mio obsidian!
Lo puoi fare pure con Lama 3.1?
Complimenti del bel video! Una domanda: come fare tutto questo su windows? grazie
Il processo di installazione di Ollama sarà differente ma poi l’esecuzione nel terminale mi aspetto sia uguale!
Grazie👍
@@gianstech e quasi tutto uguale e su windows viene eseguita in powershell ma per la creazione di quella personalizzata ho difficoltà non trovo i comandi giusti
La si può utilizzare anche per far scrivere libretti da vendere su Amazon KDP ?
Domanda Le cose che scrive non sono plagiate hai controllato?
Dovresti poter usare le risposte del tool per questi scopi. Controlla però la documentazione di LLAMA 3. Mi immagino che come parte del training abbia anche materiale protetto da copyright, ma non dovrebbe mai generare risposte che copiano passaggi.
@@gianstech scusa la domanda dove si può vedere la documentazione
@@gianstech dove trovo la documentazione
Quale sarebbe il template da scaricare?
Il testo in descrizione
@@gianstech ciao, ma se uso open webui basta andare nelle impostazioni, me lo confermi?
Ciao, grazie per questo video molto utile, non mi è chiaro come iniziare la costumizzare l'AI, su Windows se do il comando "nano yoda" non lo riconosce, da che punto bisogna avviare la personalizzazione?
Ciao, nano e un text editor per Mac Os su Windows basta il semplice blocco note dove scriverci il tutto. Attenzione che se copi dalla descrizione mancano i "#" quindi controlla dove sono dal video se no ti da errore
@@lellotrek Grazie, seguendo le tue indicazioni funziona.
Ho installato funziona ma lentissima
Dipende dalla capacità computazionale del tuo device