Ciao Gian, testato e mi piace. Como posso aggiungere testi scritti (docx o txt fondamentalmente contratti) in modo che possano diventare la fonte primaria per la ricerca delle risposte?
il video mi è piaciuto molto Complimenti! Ma adesso per addestrare il modello locale a dati più compatibili all'uso che deve fare come faccio?? Grazie e ancora Complimenti!!!!
Ma ... tutto meraviglioso quindi mi stai dicendo essendo offline che i 4 GB di scarico praticamente sono le informazioni che ha per le risposte ( oltre che il programma in se). C sono modelli con più informazioni?( Sempre offline)? e ancora si può togliere l'etica e quindi fare in modo che qualsiasi sia la domanda lui risponda? Quindi per avere maggior informazioni bisogna scaricare un modello con più GB esistono? Grazie
Serve un computer adatto dillo perché molti si credono che possono funzionare su tutti i co.puter serve una GPU invidia. Senza GPU esempio schede Intel integrata senza GPU e senza avx2 non funziona di impalla tutto e risponde dopo circa un ora ad una domanda. Qualsiasi modello li ho provati tutti...
Non so che problema abbia sul tuo pc ma io lo faccio girare su arch linux su un vecchio thinkpad x230 di 12 anni fa, ci mette solo una ventina di secondi a rispondere ma risponde
@@matteovillani8983 ma davvero io credevo era perché non avevo GPU ho provato di tutto puoi darmi un link di ciò che hai usato tu sul esempio che mi hai fatto.. 20 secondi sarebbe un lusso per me anche mezz'ora hahahah visto come è andata..
Video molto utile e illustrato veramente bene in ogni singolo passaggio. Sarebbe utile se facessi un altro video come questo ma per un intelligenza artificiale che può generare immagini.
Wowo grande, questa AI che gira in locale, sareppo possibile portarla tipo su telegram con un nostro BOT? nel senso il pc o mac sul quale è installata, se fosse online tramite la rete di casa, potremmo sfrtuttarla per poi usarla quando siamo fuori casa dal telefono sfruttando, telegram o whatsapp o tramite una nostra app? ( ios)
Unico che non ho provato LLaMA3 sono anni che faccio queste cose non mi fanno terminare nulla mi bloccano e cancellano tutto il cputer e difficile da spiegare
Avevo letto di questa "opzione" però non mi è chiaro come "addestrarla" per farmi inviare i dati che ha raccolto (esempio: inviare i dati ad una web-api che li salverà in un db)
@@gianstech e quasi tutto uguale e su windows viene eseguita in powershell ma per la creazione di quella personalizzata ho difficoltà non trovo i comandi giusti
Ho due domande: è comunque censurato? E, secondo: davvero non ha limiti di token, ovvero gli si può far scrivere un romanzo di mille pagine? Grazie e complimenti per il video.
La censura dipende dal modello che scegli di usare! Per quanto riguarda le generazioni, tecnicamente non ci sono limiti e la capacità computazionale del tuo pc potrebbe essere il collo di bottiglia.
Dovresti poter usare le risposte del tool per questi scopi. Controlla però la documentazione di LLAMA 3. Mi immagino che come parte del training abbia anche materiale protetto da copyright, ma non dovrebbe mai generare risposte che copiano passaggi.
Ho un pc abbastanza nuovo ma temo di non avere una scheda video adeguata (Nvidia Gforce mx550) perché le risposte del chatbot sono veramente lente, cmq complimenti per il video, sicuramente questo aprirà nuovi scenari
Ciao, grazie per questo video molto utile, non mi è chiaro come iniziare la costumizzare l'AI, su Windows se do il comando "nano yoda" non lo riconosce, da che punto bisogna avviare la personalizzazione?
Ciao, nano e un text editor per Mac Os su Windows basta il semplice blocco note dove scriverci il tutto. Attenzione che se copi dalla descrizione mancano i "#" quindi controlla dove sono dal video se no ti da errore
Ciao, ma facedo riferimento al chatbot medico, i dati che ha raccolto, dove vanno a finire? Come fai (tu gestore) a visualizzarli?
Ciao e complimenti per il video.
Ciao Gian, testato e mi piace. Como posso aggiungere testi scritti (docx o txt fondamentalmente contratti) in modo che possano diventare la fonte primaria per la ricerca delle risposte?
Complimenti per la spiegazione praticamente perfetta! Grazie mille per il video
Grazie a te per aver visto il video 🙏🏻💥
il video mi è piaciuto molto Complimenti! Ma adesso per addestrare il modello locale a dati più compatibili all'uso che deve fare come faccio?? Grazie e ancora Complimenti!!!!
Ma posso aggiungere moduli esempio un modulo che riguarda la fisica ecc?
Grazie per il video. Qual caratteristiche deve avere il pc per avere prestazioni accettabili? Sul mio pc è troppo lento.
complimenti come sempre, ma i dati che hai inserito per essere ricontattato poi vengono salvati e se sì,dove?
Ma ... tutto meraviglioso quindi mi stai dicendo essendo offline che i 4 GB di scarico praticamente sono le informazioni che ha per le risposte ( oltre che il programma in se).
C sono modelli con più informazioni?( Sempre offline)? e ancora si può togliere l'etica e quindi fare in modo che qualsiasi sia la domanda lui risponda?
Quindi per avere maggior informazioni bisogna scaricare un modello con più GB esistono?
Grazie
Serve un computer adatto dillo perché molti si credono che possono funzionare su tutti i co.puter serve una GPU invidia. Senza GPU esempio schede Intel integrata senza GPU e senza avx2 non funziona di impalla tutto e risponde dopo circa un ora ad una domanda. Qualsiasi modello li ho provati tutti...
Non so che problema abbia sul tuo pc ma io lo faccio girare su arch linux su un vecchio thinkpad x230 di 12 anni fa, ci mette solo una ventina di secondi a rispondere ma risponde
@@matteovillani8983 ma davvero io credevo era perché non avevo GPU ho provato di tutto puoi darmi un link di ciò che hai usato tu sul esempio che mi hai fatto.. 20 secondi sarebbe un lusso per me anche mezz'ora hahahah visto come è andata..
@@matteovillani8983 io uso Linux mint ma lo avevo installato anche su peppermint appena formato e uguale
@@matteovillani8983 llama2 avevo iniziato poi li ho provati tutti e nessuno
Funziona anche solo con la cpu
quando customizzo fino a quanti mb o gb posso aggiungere?
Video molto utile e illustrato veramente bene in ogni singolo passaggio. Sarebbe utile se facessi un altro video come questo ma per un intelligenza artificiale che può generare immagini.
In realtà conosco il tool adatto! Stay tuned! 😎👌🏻
Wowo grande, questa AI che gira in locale, sareppo possibile portarla tipo su telegram con un nostro BOT? nel senso il pc o mac sul quale è installata, se fosse online tramite la rete di casa, potremmo sfrtuttarla per poi usarla quando siamo fuori casa dal telefono sfruttando, telegram o whatsapp o tramite una nostra app? ( ios)
Unico che non ho provato LLaMA3 sono anni che faccio queste cose non mi fanno terminare nulla mi bloccano e cancellano tutto il cputer e difficile da spiegare
Ciao Gian, complimnti come al solito, ma se la volessi disinstallare che comando dovrei utilizzare da terminale?
esiste un modo in cui possa aiutarmi con i documenti nel mio pc? farglieli leggere ecc ecc?
Forte, sto provando ad addestrarlo per sostituire, in parte, il manuale dei miei programmi e funziona abbastanza bene. :)
FIGATA 💯
Lo puoi fare pure con Lama 3.1?
Ciao Ottimo video!. E' possibile passargli dei file per insegnargli alcune conoscenze come per i gpts di Chatgpt? grazie!
Bel video! A proposito, puoi dirmi qual è il tuo microfono? La tua voce suona alla grande
Maono PD400X
Avevo letto di questa "opzione" però non mi è chiaro come "addestrarla" per farmi inviare i dati che ha raccolto (esempio: inviare i dati ad una web-api che li salverà in un db)
C’è la documentazione su github per collegare le API
@@gianstech ottimo, se c'è anche il container docker, sono a cavallo! Grazie per il chiarimento!
Ciao e Grazie. Photo aggiungere dei files per l’allenamento? Oppure devi inserire tutto in testuale?
se vuoi addestrare un AI da zero, non è questa la procedura
Sei un grande Gian🎉❤
Complimenti del bel video! Una domanda: come fare tutto questo su windows? grazie
Il processo di installazione di Ollama sarà differente ma poi l’esecuzione nel terminale mi aspetto sia uguale!
Grazie👍
@@gianstech e quasi tutto uguale e su windows viene eseguita in powershell ma per la creazione di quella personalizzata ho difficoltà non trovo i comandi giusti
Ciao ma l' AI è aggiornata in tempo reale?
No, essendo in locale no. Si aggiorna quando scarichi una nuova versione del modello.
Sto provando Llama3 sul LM Studio, non c'è modo di addestrarlo dei documenti PDF mail e MarkDown di alcune direttori? Così si che diventa fantastica!
Secondo me è fattibile. Andrà integrato con qualche tool esterno che prenda in input le sorgenti non compatibili direttamente e le trasformi in testo.
@@gianstech pensa che bello .... poterlo interrogare alla massima potenza, con tutti documenti del mio obsidian!
Un sistema di chatbot da integrare nel mio robot sarebbe il massimo!
Ora come ora è già tanto se riesce a fare un passo😂
Ho due domande: è comunque censurato? E, secondo: davvero non ha limiti di token, ovvero gli si può far scrivere un romanzo di mille pagine? Grazie e complimenti per il video.
La censura dipende dal modello che scegli di usare!
Per quanto riguarda le generazioni, tecnicamente non ci sono limiti e la capacità computazionale del tuo pc potrebbe essere il collo di bottiglia.
Molto molto interessante. Bravo e grazie 👋
Grazie a te! Felice che sia piaciuto
La si può utilizzare anche per far scrivere libretti da vendere su Amazon KDP ?
Domanda Le cose che scrive non sono plagiate hai controllato?
Dovresti poter usare le risposte del tool per questi scopi. Controlla però la documentazione di LLAMA 3. Mi immagino che come parte del training abbia anche materiale protetto da copyright, ma non dovrebbe mai generare risposte che copiano passaggi.
@@gianstech scusa la domanda dove si può vedere la documentazione
@@gianstech dove trovo la documentazione
Ho un pc abbastanza nuovo ma temo di non avere una scheda video adeguata (Nvidia Gforce mx550) perché le risposte del chatbot sono veramente lente, cmq complimenti per il video, sicuramente questo aprirà nuovi scenari
Quale sarebbe il template da scaricare?
Il testo in descrizione
@@gianstech ciao, ma se uso open webui basta andare nelle impostazioni, me lo confermi?
Ciao, grazie per questo video molto utile, non mi è chiaro come iniziare la costumizzare l'AI, su Windows se do il comando "nano yoda" non lo riconosce, da che punto bisogna avviare la personalizzazione?
Ciao, nano e un text editor per Mac Os su Windows basta il semplice blocco note dove scriverci il tutto. Attenzione che se copi dalla descrizione mancano i "#" quindi controlla dove sono dal video se no ti da errore
@@lellotrek Grazie, seguendo le tue indicazioni funziona.
Ho installato funziona ma lentissima
Dipende dalla capacità computazionale del tuo device