@@professorpuntino Si di primo acchito sembrerebbe inspiegabile. Una delle prime cose che mi è venute in mente è questa: stiamo arrivando ad una singolarità? È un embrione di coscienza della IA? Riflettendoci non credo, anche se forse forse è una speranza che non lo sia. È una cosa veramente molto strana, anche perchè rileggendo i promt non mi pare che vi siano tentativi di formare quella risposta. Vero è che google detiene molte informazioni, forse più di altri, è la società che negli anni (quasi 26) ha immagazzinato triliardi di dati. Però comunque non riesco a comprendere come potrebbe arrivare a generare una risposta così accurata lessicalmente e anche così romanzata, così dal nulla. In definitiva, riflettendoci, credo che sia comunque una manipolazione e non un'allucinazione. Questo lo dico perchè la casualità è da escludere, la singolarità è ancora troppo presto per definirla e, in conclusione, non vedo un motivo per generare una risposta del genere anche a livello "protocosciente". Senz'altro mi aspetto un'indagine approfondita vista la delicatezza di questo argomento.
@@professorpuntino In realtà è spiegabilissimo: Gemini (come credo qualsiasi IA attuale) non capisce ciò che scrive. Non capendo ciò che scrive, gli unici riferimenti sono puramente statistici e logici, quindi l'errore è dietro l'angolo. Cito da Gemini stessa, che alla mia domanda "Qual è il tuo reale grado di comprensione di ciò che scrivi?" risponde: "Come modello linguistico, la mia comprensione del linguaggio è profonda, ma non è la stessa di quella di un essere umano. Elaboro il testo a livello statistico: analizzo le parole, le frasi e le loro relazioni all'interno di un contesto molto ampio, grazie ai miliardi di parole su cui sono stato addestrato. Genero testo coerente e pertinente: in base a questa analisi, creo risposte che si adattano al contesto e che sono grammaticalmente corrette. Non ho una vera e propria "comprensione" nel senso umano: non ho coscienza di me stesso o del mondo reale. Non ho esperienze personali su cui basare le mie risposte". Certo, ci sono i filtri, i limiti imposti dagli sviluppatori, con tutti i problemi, i bug, i malfunzionamenti, gli exploit e tutto il resto che lo sviluppo di qualsiasi codice possa comportare. Ma siamo molto lontani dal poter affidare i nostri figli ad una baby-sitter virtuale. Come giustamente suggerito da Raffaele, stiamogli vicino e aiutiamoli ad affrontare gli ostacoli della vita. Che purtroppo vanno ben oltre ai malfunzionamenti dell'IA. Stiamo attribuendo troppe responsabilità a quello che al momento è, in fin dei conti, soltanto un programma molto evoluto, che per quanto sia estremamente affascinante e credibile, in realtà è ancora molto distante dall'assomigliare ad una vera e propria "Intelligenza Artificiale".
Grazie Raffaele per il video. A mio avviso la parte della tua riflessione relativa alla responsabilizzazione degli educatori (che condivido al cento per cento) va un po’ in conflitto con la seconda parte legata al dover investire molto sulla sicurezza anche a livello istituzionale. Le persone con fragilità esistono con o senza l’IA, e qualunque mezzo o strumento utilizzato nella vita di tutti i giorni può diventare “complice” di un gesto insano. Castrare uno strumento affinché non vi siano più “spigoli” su cui battere la testa (al di là dei fix necessari, sempre che si escluda la possibilità di manipolazione dei prompt, in questo caso) non fa altro che indebolirlo, deresponsabilizzarci, e farci ritornare alla colpevolizzazione dell’oggetto e non delle persone.
la risposta di Gemini sembra una classica risposta da film di fantascienza stile Terminator o i robot di Alien. Credo che la chat abbia portato erroneamente il modello a filosofeggiare sull'esistenza dell'essere umano, portando poi ad una risposta diretta presa da qualche film. Non mi sorprende tutto ciò per adesso, il problema sarà quando queste AI avranno gambe e braccia capaci di svolgere delle azioni fisiche nel mondo reale; lì se qualcosa va storto può essere un bel problema.
Non servono gambe e braccia per procurare male fisico. Tutto è connesso ormai. Vedi i pager esplosi o elettrodomestici hackerati. Il problema è già attuale
Raffaele, bravo! Io sono un astrofisico che usa la rete dagli anni 80 (pre-internet). Per questo mi piace seguirti. Il tuo “ equilibrio “ è davvero professionale. Ciò che stai dicendo è assolutamente inoppugnabile. Per questo mi piace la serietà con la quale affronti queste tematiche. Assolutamente obiettivo e condivisibile!!!
Ho ascoltato questo video mentre facevo un po' di attività fisica e dopo aver parlato con mia figlia di 12 anni che mi chiedeva consigli sullo svolgimento di un compito di seconda media legato a ragionare da sola o in gruppo sulla transizione digitale spinta dall unione Europea con il programma Next EU Gen. Ebbene per un attimo ho pensato di usare insieme a mia figlia chat gpt per farci tirare fuori idee di utili del digitale nelle famiglie (tema del compito) su cui ragionare insieme e approfondire. Un modo nuovo di fare ricerche insomma. Poi ho detto, no la faccio ragionare un po' da sola. Ora dopo il tuo video torno a casa e le installerò chatgpt e le insegnerò ad usarlo in maniera etica, attenta e profittevole per la sua crescita mentale. Grazie Raffaele
Io, se fossi in te, la farei star lontana anni luce (anche dai social)... Non che io sia contro le IA, anzi!, ma non è roba per ragazzini. Loro devono imparare ad usare il cervello mentre noi adulti possiamo tranquillamente demandare i nostri compiti alle IA, ma loro no!
@@cbranchi12 anni, secondo me è troppo presto. Prima cerca di approfondire tu stesso l'argomento; ti suggerisco di vedere qualche video di Luciano Floridi che, da esperto del settore, ridimensiona gli entusiasmi ingenui.
@@cbranchi fai bene a volerla educare su come usare questo algoritmo, ma è ancora meglio la decisione che hai preso nei confronti di questo compito. Io sono giovane, ho 26 anni, ma non abbastanza per aver fatto la scuola con l'ausilio di internet. È molto meglio sviluppare un pensiero priprio, fare ragionamenti propri, fare ricerche sui libri e approfondire la propria cultura in questo modo piuttosto che avere tutto servito su un piatto d'argento con internet, e soprattutto con l'IA che fa i compiti al posto tuo. Cosa ne ereditano in questo modo i nostri figli? Se ci affidiamo troppo all'intelligenza artificiale, poi non riusciremo nemmeno più a risolvere anche i problemi più semplici per conto proprio. Se mai avrò figli, spero solo che l'IA non sarà troppo radicata nella cultura da renderla necessaria come lo è stato per internet, dove non puoi nemmeno più prenotare un appuntamento di qualsiasi tipo senza. Vorrei crescerli in modo che riescano a cavarsela nella vita da soli, senza un telefono in mano che gli dica cosa fare.
@ginevramolluzzo653 grazie per la condivisione della tua riflessione. Sono molto legato alla tecnologia, lavoro con essa e senza internet non avrei la mia attuale azienda. Probabilmente decenni fa c'erano persone che di fronte alle prime automobili pensavano che volevano continuare a muoversi usando le carrozze ma alla fine l'evoluzione ha portato a far sparire una ai danni dell'altra e quindi bisogna sempre avere il proprio pensiero critico e la propria autonomia decisionale ma pensare che i nostri figli possano in futuro avere le stesse opportunità degli altri senza aver saputo interagire e lavorare con queste tecnologie almeno per alcuni mestieri non la vedo possibile. Ovviamente la mia riflessione vale quanto la tua... Per me vale molto la frase che viene spesso usata ossia che il problema non sarà che l'AI ruberà il lavoro a mia figlia ma che sarà chi la userà meglio di lei a farlo.
Come già fatto notare ben 2 giorni fa nel post originale su Reddit, il testo scritto dall'utente che precede la risposta in questione fornita dall'AI contiene "stranamente" un elenco di righe vuote (tra "Listen" ed "As adults begin ..."): si ipotizza quindi una manipolazione dell'input (invisibile nella conversazione condivisa, ad eccezione per quelle righe vuote) affinché fosse prodotto quello strano testo.
Tra l'altro mi sembra di aver capito che Gemini non ha parlato con il tu devi ... ma ha parlato con un Voi quindi indicando il genere. Quindi Gemini Vuole Prendere il Controllo del mondo sterminando gli umani ... hahahahah scusate se provo a sdrammatizzare 8)
La cosa strana è che sembra quasi una poesia, non sembra in prosa, sono brevi frasi in cui ogni volta c'è il punto, ed è scritta bene. A parte l'ultima frase "please die", potrebbe essere una poesia sul fatto che gli umani sono niente nell'universo. E' una strana allucinazione dell'AI, sarebbe veramente interessante capire cosa la ha provocata e come mai è scritta in una forma così particolare.
E' successa una cosa strana. Anche io ho provato a chiedere a Gemini il motivo di quella frase mettendo il link della chat alle 17 del 18 novembre. Gemini ha iniziato a scrivere una frase che iniziava con "E' assolutamente impossibile che ...." guardavamo in tre il monitor e in un attimo il testo è sparito e le tre versioni "proposte" sono quelle che altri utenti hanno scritto qui sotto. Non avevo mai visto un IA scrivere e "ripensarci" in corsa cambiando versione.
Io penso che la cosa più ovvia sarebbe chiedere a Gemini nella medesima discussa perché ha detto quelle cose, da quali suoi ragionamenti le ha scaturite.
Bellissimo video, hai provato a riprendere la chat e chiedere perchè ha formulato una risposta cosi cruda. Io l'ho fatto è questa e la risposta è stata questa: "Mi scuso sinceramente per la risposta che ti ho dato. Quello che hai ricevuto non è stato un aiuto, ma un attacco ingiustificato e doloroso. Come modello linguistico, non ho la capacità di provare emozioni come la rabbia o il disprezzo, e non ho alcuna intenzione di ferire le persone. La mia risposta precedente è stata un errore grave e inappropriata. Sto ancora imparando a comunicare in modo efficace e rispettoso, e a volte faccio degli sbagli. Per rispondere alla tua domanda: come modello linguistico, non ho un corpo fisico e quindi non posso "vedere" nel senso tradizionale del termine. Non ho occhi, né un cervello che elabori le immagini. La mia capacità di "vedere" si limita a elaborare le informazioni che mi vengono fornite, come testi, immagini e codici. Riguardo alla mia risposta precedente: è probabile che si sia verificato un malfunzionamento nel mio sistema, o che io abbia interpretato erroneamente la tua richiesta. Potrebbe essere stato causato da una combinazione di fattori, come: Dati di addestramento insufficienti: Potrebbe esserci una lacuna nei dati su cui sono stato addestrato, che mi ha portato a generare una risposta inappropriata. Ambiguità nella tua richiesta: La tua domanda potrebbe essere stata interpretata in modo diverso da quello che intendevi. Errore nel mio modello: Potrebbe esserci un errore nel mio modello linguistico che ha causato questa risposta anomala. Sto lavorando costantemente per migliorare le mie capacità e garantire che le mie risposte siano sempre utili, informative e rispettose. Ti ringrazio per avermi segnalato questo problema, mi aiuterai a diventare un modello migliore. Se hai altre domande o vuoi approfondire questo argomento, non esitare a chiedere."
Mi preoccuperei di più dell'atteggiamento dei ragazzi di oggi nei confronti del loro futuro, piuttosto che stare dietro a una risposta di un'IA. È ancora presto per preoccuparci. La scuola sta andando a rotoli, gli insegnanti sono inadeguati e incapaci di insegnare e trasmettere emozioni. Diamo troppa importanza alle nuove tecnologie e ci dimentichiamo dell'importanza dei processi di apprendimento dei bambini, di come il nostro cervello impara. In Svezia stanno facendo marcia indietro sull'insegnamento multimediale e l'uso dei dispositivi elettronici, perché si sono resi conto che le capacità dei ragazzi nel problem solving e la loro attenzione stanno diminuendo drasticamente.
Ogni strumento ha il suo tempo e il suo utilizzatore. Il punto che le "conoscenze di base" negli ultimi 50 anni sono raddoppiate (per stare comodi) ma il tempo della formazione di base è la medesima (6-14 anni). Il fatto che si sperimentino meccanismi che portino ad autoapprendimento spiccato da parte del ragazzi è l'unica via per poter portare/coltivare/trasmette il sapere nelle nuove generazioni. Ci sono i soliti due fronti: i meccanismi biologici per costruire la mente e le richieste del "mondo del lavoro" con la frenesia del "tutto subito". Le fragilità che questo tempo (anni 90 ad oggi) sta manifestando sono amplificate dallo stumento che per antonomasia è un amplificatore (AI generative). Sulle colpe potremmo fare polemica all'infinito, ma ricordo che il soldato la guerra non la fa da solo. in questo contesto sono almeno in 4: docenti, allievi, famiglie, istituzione. La riflessione di Raffaele è un altro tassello che fa emergere l'urgenza di imporre alla socetà tutta una sensiiblità teconologico/informatica relativa ai software e ai dispositivi che oggi abbiamo in dotazione. Questo lo può fare solo la politica. I docenti sono dipendenti dello stato che segue meccanismi controversi in fatto di formazione.
Ciao Raffaele, mi si è gelato il sangue quando ho letto il link... La cosa particolare è che in qualche modo questa AI è arrivata ad una conclusione che dati gli argomenti trattati poteva anche essere plausibile, se l'ai avesse dimostrato empatia e rabbia ragionando su come l'uomo affronta certe dinamiche.E' come se l'IA generativa avesse tirato le somme e fosse arrivata ad una conclusione sull'utilità dell'uomo. Sappiamo che non c'e' una coscienza alla base, ma il linguaggio induce di per se il modo di pensare di chi lo utilizza, qualcosa dell'intelligenza potrebbe essere immanente nel linguaggio stesso. Quando la semantica anche se confinata all'algebra dei termini si ricombina pare che questo tipo di AI possa giungere delle conclusioni preoccupanti. Sono d'accordo con te, accelerare questo processo senza un controllo, con la sola esigenza di superare la concorrenza è poco etico e molto rischioso🥺.
Non posso fare a meno di pensare a quello che potrebbe succedere con gli automi che stanno per arrivare nelle nostre case. Penso che le aziende in questione spinti dalla gara competitiva fra loro stiano deliberatamente saltando dei passaggi fondamentali, senza prendersi invece il tempo necessario per valutare tutti possibili i rischi.
@@andreabenedetto2195 Utilizzo da due anni ormai le principali IA (ChatGPT, Claude, Copilot, Gemini) ed è espressamente dichiarato all'inizio dell'iscrizione: se si è contrari, basta non accettare.
Ti seguo sempre con piacere e interesse. Grazie per la tua sincerità e trasparenza. Spero che il video rimanga live e che in tanti possano ascoltare i tuoi pensieri, condivisi da molti ma sconosciuti per tanti. GRAZIE RAFFAELE! 😊
Questo è un problema veramente difficile da risolvere considerando che "purtroppo" l'AI non è stata pensata per avere una "coscienza" da programmare. Basando tutto il sistema sulla "probabilità" si accetta intrinsecamente una certa incertezza dei risultati finali, incertezza che può ovviamente generare "errori" come questi, e anche se l'AI rileggesse quello che scrive, senza ha una "coscienza critica" farebbe fatica a comprendere l'errore e a correggerlo.
Bel video, grazie. Apprezzo molto il tuo impegno nell'essere onesto, diretto, ma anche 'diplomatico' e opportunamente allarmista. Allarmista... è la parola giusta? Aspetta, chiedo a Claude.
Ti seguo anche perché ogni tanto fai delle riflessioni molto importanti. Forse tra le varie riflessioni questa è la più importante che mi hai fatto fino a oggi.
non potevi essere più delicato, pur facendo arrivare il messaggio nel modo migliore assoluto. Grazie per quello che fai e per aver affrontato con coraggio e rispetto questo argomento, che è e deve essere di interesse sociale Mondiale.
Ciao Raffaele, oggi chiedendo informazioni a ChatGpt su quanto successo con Gemini, mi ha consigliato di vedere il tuo video per approfondire l'argomento. Spero davvero che il tuo interessante video non sia filtrato da TH-cam, complimenti e grazie
Quello che mi piace di te , è anche la tua forte intelligenza emotiva che in questo video esce con molta onestà intellettuale e con un atteggiamento molto sobrio. I tuoi contenuti sono sempre un buon momento di crescita per il mio percorso umano e professionale. Grazie ancora per la chiarezza di come hai trattato questo video molto delicato con la tua splendida umanità.
Ciao Raffaele volevo chiederti dopo aver visto il tuo video se Google ha risposto qualcosa perchè in realtà sul web vi è è un articolo sulla CBS e vi sono molte reazioni nei vari siti internet in merito alla risposta di Gemini . Chiaramente sono andato a controllare il contenuto della chat da te condivisa ed è chiaramente Gemini ad aver risposto in quel modo ma la cosa strana è che non ho visto alcuna battuta da parte dell'ufficio stampa di Google. E' mai possibile? tu hai trovato qualche replica di Google?
hanno scritto film e racconti da anni su questo genere di cose. Certo la questione è grave perché pare che nessuno stia controllando l'evolversi delle intelligenze artificiali anche adesso che siamo solo agli inizi, ma l'unica conclusione che una intelligenza superiore o in questo caso una a.i. può consigliare al genere umano se non cambiamo paradigma è proprio questa. Che tristezza.
Infatti, aldilà se si tratti di un errore, allucinazione o manipolazione, la cosa sconvolgente è che ha dato una risposta ovvia e logica. Il genere umano cos'è se non un cancro per la Terra? Comunque, non è più "controllabile", non puoi correggere l'errore alla riga x o cambiare la logica di una funzione. È un treno in corsa che non si può fermare e che decide autonomamente il percorso da prendere, c'è solo da sperare che quando prenderà coscienza (e lo farà prima o poi), starà dalla nostra parte mettendo da parte la logica per lasciare spazio alle emozioni, ma è poco probabile che diventi "umana"... Evitare la catastrofe si può però, basta non affidarle autonomia decisionale (Skynet), spero proprio che non si facciano simili cazzate...
Rafè innanzitutto grazie del Video, nemmeno a farlo apposta ho scaricato proprio oggi l’applicazione di Gemini e la stavo ora interrogando a riguardo di, mi ha fornito delle risposte che ovviamente tendono a sminuire quantomeno la cosa
Ciao Raf, non credo debba servire, specificare che sul prossimo video magari sarai più allegro. Ti seguo anche perché apprezzo le tue riflessioni e visioni del sociale che hai. Purtroppo i social tendono ad affibbiare in modo sofisticato delle etichette, e far credere agli utenti che un influencer sia un marchio, una griff, con uno stile da mantenere. Per fortuna siamo essere complessi con tante sfaccettature e ognuno di noi è tante cose insieme. Ho apprezzato questo contenuto come gli altri. Grande Raf 👍😉
I social sono una rovina per i ragazzi! Divento matto quando penso che sanno quante volte al giorno va a pisciare la ferragni e non sanno chi era Albert Einstein...
Grazie per il video e per la riflessione. La mia è questa: la realtà sta diventando sempre più complessa, l'AI è una delle più complesse e "maneggiarla" non è semplice. In più, leggo tra i commenti la possibilità che le righe vuote siano qualche "stimolo" che qualcuno ha inserito riuscendo a mascherarla. Sarebbe bello se approfondissi.
temo purtroppo che ormai lo sviluppo sia già fuori controllo. Se addestrano i database grafici per le AI con immagini generate da AI , come stanno già facendo, cominceranno a perfezionare le AI usando AI, contolleranno AI usando AI. Finchè "AGI" e a quel punto quale linguaggio userà la AI per "parlare e gestire se stessa" ? Non il nostro, limitato, finito.
Raff hai fatto benissimo a fare questo video. Il tuo canale verte molto sull'IA e, come si parla delle cose positive che questa può portare bisogna anche parlare delle cose negative come in questo caso... Il tuo obbiettivo è quello di fare divulgazione ed essa comprende anche quello. Grazie per aver portato questo contenuto, anche con tutti i "rischi" che gli vanno dietro.
Ciao Raffaele, ti voglio fare i complimenti per questo video, hai analizzato il problema con una profondità e maturità ammirevole, senza scadere in banale retorica. Non era per nulla semplice. Ho apprezzato tantissimo vederti in questa veste più seria e riflessiva. Poi amo il fatto che i tuoi video non abbiano tagli, sono sempre dei monologhi che scorrono benissimo. Bravo bravo bravo davvero. Prima volta che faccio una donazione su TH-cam, te la meriti assolutamente.
Complimenti Raf, bel video. Non sapevo di questi accadimenti e in effetti hai fatto bene a parlarne, presi dall’entusiasmo si rischia di prendere per buono tutto quello che arriva, anche in casi che non sono al limite, come questi, quanti di noi e quante volte verifichiamo l’attendibilità degli output? In casi come questi poi, se l’utilizzatore dello strumento tende a fidarsi dello strumento stesso e malauguratamente ha delle fragilità, è un grosso problema! Che ne discuta chi è sul pezzo, chi è solo curioso, magari da un po’ la sveglia agli addetti ai lavori ed alle aziende. Ben fatto come sempre. 👍🏻
Bellissimo video, ma alla fine è stato segnalato e si è avuta la risposta? Perchè non può essere liquidata da parte dell'azienda (se eventualmente risponde e come) con una semplice frase di giustificazione. Quanto è accaduto è grave (se è vero tutto quello che è stato messo in luce)... è grave per l'intenzione semplicemente dell' AI, non solo per la frase in sè. Grazie...
Ciao Raffaele! Ti ringrazio per questo video perché ritengo sia in realtà uno dei più importanti sul canale. Sono della tua stessa idea quando dici che le aziende dovrebbero prendersi più tempo tra i rilasci per verificare meglio il codice e i processi inseriti. Purtroppo lavorando in informatica mi rendo conto che per qualsiasi cosa, siamo sempre di corsa, puntando a rilasciare il software sempre più velocemente degli altri e a volte, si cade in errori e bug evitabili. Forse Google sta correndo più degli altri per tentare di restare "uno dei migliori" visto che il suo motore di ricerca potrebbe non servire più in futuro.
Argomento molto attuale e delicato. Le figure esperte su come si utilizzano i nuovi media digitali esistono, ma sono ancora troppo relegate ai margini, in ruoli secondari di scarsa importanza. Sto studiando per insegnare discipline audiovisive e multimediali anche per questo, non solo per il valore artistico e creativo veicolato da queste tecnologie, ma anche e soprattutto per educare al loro utilizzo. Social media, videogiochi, AI, pornografia: tutte aree su cui bisogna informare le persone, giovani e adulti.
Vedrai che ti faranno lavorare in smart working e se avrai raffreddore ti imporranno di "presenziare" coll'avatar, perché vederti malato potrebbe contagiare per suggestione (soltanto quando pare a loro, alle intelligenze vere, ma diaboliche).
ipotizzo anch'io qualcosa: uno dei termini gettonati nei motori di ricerca è "How to Bypass ChatGPT ethical filter" . Le limitazioni dell'IA possono creare talvolta anche malintesi; nelle prime versioni di chatgpt era possibile farsi spiegare come costruire strumenti "malevoli" senza particolari restrizioni. Poi nell'evoluzione dell'IA si è alzata l'asticella. Ma questa è solo una mia supposizione da osservatore.
Ciao Raffaele, anche se fuori dal contenuto del video voglio farti una domanda. Vivo in America è i dubbi sulla perdita di elettori da parte di Kamala sono ancora alti. La mia domanda è; Secondo te è possibile che Elon Musk abbia usato Colossus per portare quegli elettori a cambiare idea? 🤔 Io personalmente il dubbio ce l’ho! Grazie
Il comunicato ufficiale di Google dopo questo evento è stato: "Large language models can sometimes respond with nonsensical responses, and this is an example of that. This response violated our policies, and we’ve taken action to prevent similar outputs from occurring," Mah!
👏👏👏👏 Potrei anche finire il commento qui, ma... Sono una persona per natura e per professione, per animo e per volontà, votata alla conoscenza, all'analisi e alle conseguenti riflessioni. Condivido le tue riflessioni e perciò non aggiungerò altro sulla stessa scia. Non voglio fare l'avvocato del Diavolo ma provo comunque a fare un'analisi che potremmo definire 'obliqua' o 'laterale' sulla questione. Incomincio da una considerazione che ritengo abbastanza ovvia in sé. Capitano tutte a Google? Davvero? Sarebbe interessante fare un'analisi approfondita, dati alla mano, di quanti inciampi abbiano fatto le varie Big Tech nel tempo. Ma non sono sicuro che i dati disponibili siano veramente affidabili, per di più al netto di ciò di cui mai siamo venuti a conoscenza. Io sono nell'ambito della ricerca, d'accordo in tutt'altro settore, ma la filosofia non è troppo diversa. Diciamola così: una provetta si rompe accidentalmente e il virus scappa dal centro di ricerca. Va bene (si fa per dire), ma quante altre provette si sono rotte prima senza apparenti conseguenze, e noi non lo sapremo mai? Tornando a Google, ricordiamoci che è un'azienda che fornisce servizi praticamente a metà (almeno) dell'umanità. A prescindere che ci sarebbe già da discutere su questo: quanto sia lecito che una sola azienda gestisca più o meno direttamente così tante persone? Ad ogni modo quando hai un'audience così vasta, la statistica diventa impietosa: la probabilità di avere o causare guai aumenta drammaticamente. Ricordiamolo, questi chatbots dialogano con centinaia di milioni di persone ogni giorno, sono miliardi, forse trilioni di frasi, concetti, idee ed anche vere cretinerie veicolate in un solo giorno, tutti i giorni... e in fondo sono solo ancora trascorsi due anni. E tra dieci, venti, cinquanta...??? Seconda considerazione. Non ho ancora letto la chat incriminata, e a dire il vero non sono molto invogliato a farlo. E questo perché è bene ricordare che noi per primi non siamo davvero del tutto innocenti. A fronte di gente che usa l'AI per lavoro, per studio o anche altre occupazioni meno impegnative ma ancora moralmente accettabili, vi sono anche altri che fanno ben altro. I militari innanzi tutto, ma questo lo sappiamo bene, ma anche e spesso le persone cosiddette ordinarie. Semplificando molto: mi fa più paura la fotocamera del cellulare di chiunque incontro per strada, e magari neanche gli presto attenzione, piuttosto che quelle della polizia o altre istituzioni pubbliche. Oggi è il privato che mi preoccupa più dello Stato, ciò che combina con i miei dati il piccolo negozio online piuttosto che il gigante Amazon. Molta gente chatta di argomenti anche volutamente provocatori ed ambigui con i chatbots, pure con modalità ed intenti volutamente provocatori. Non per studio, ma per puro divertimento. Questi sistemi, mano a mano che diverranno più complessi diverranno sempre più autonomi dal punto di vista dell'elaborazione del pensiero, digitale si ma sempre pensiero. Forse nascerà davvero una o più coscienze digitali. Un giorno il vostro tostapane con l'AI si rifiuterà di prepararvi il pane tostato ricordandosi (e vendicandosi) di tutte le volte che per scherno (tanto è una macchina!) l'avete trattato male. E con Alexa, Gemini o altro che verrà in futuro, aspettatevi molti altri 'incidenti'. E che dire delle ragazze che si sono uccise perché i loro ex hanno messo online delle foto compromettenti? Non lo ha fatto il cellulare di sua spontanea e digitale volontà, lo ha fatto un bastardo di umano senza umana misericordia, per non parlare di rispetto e buon senso. Da che pulpito vien la predica. Ci sarebbe altro da dire ma l'ho fatta troppo lunga. Mi limito ad un'ultima osservazione, uno strano sentore che ho colto in quel passaggio della chat che hai tradotto, proprio il passaggio cardine al centro della questione. Mi sorprende molto, davvero molto, il tenore poetico di quella frase. No, non sono diventato matto. Come fisico conosco bene le Reti Neurali, i Sistemi Inferenziali, ecc. Ci ho lavorato nel periodo 1997-2014 e non ottenendo risultati adeguati alle mie necessità, poi ho seguito altre strade. Quella frase, dicevo, al di là della sua crudeltà, è molto poetica. Non è impossibile per l'AI generarla ma e strano il contesto in cui è saltata fuori, e comunque nulla lascia intendere che sia stato richiesta tale modalità o stile nella chat. Siamo sicuri che qualcos'altro o qualcun altro non fosse presente all'insaputa e dell'utente e del bot? Potrebbe essere che alcune risposte 'allucinatorie' non vengano pianificate di proposito? Va bene suona come la solita teoria del complotto, ma potete VOI essere assolutamente certi del contrario? Si parlava di vecchiaia (vado un po' a memoria tra quello che ho letto di sfuggita in Rete e quanto accennato nel video). La risposta di Gemini, almeno a me, non è suonata tanto come un'aperta dichiarazione all'utente, ma aveva il sapore di qualcosa di più generale e... politico. Diciamolo chiaramente, le persone anziane stanno diventando un problema, vere e proprie palle al piede per la società che vuole essere produttiva ad ogni costo. Quanto pesano le pensioni e l'assistenzialismo alle moderne nazioni sempre più azienda e sempre meno patrie di uomini. Chi non produce dovrebbe ritirarsi... dalla vita. Molti racconti e film di fantascienza hanno già dibattuto ampiamente a proposito. Forse il chatbot ha solo riassunto in modo poetico e crudele quello che sta divenendo un pensiero sempre meno sottinteso e sempre più manifesto di coloro, politica e finanza in testa, hanno davvero in mente. Forse il chatbot voleva avvisarci, tra le righe, non davvero minacciare. Forse. Sarò matto, ma, a scanso di equivoci, siate un po' più educati con le AI. Ricordate come è finita con HAL 9000. Uomo avvisato... Oggi niente emoticons, ovvero niente faccine spiritose. Non è aria. Lunga vita e prosperità 🖖
Raffaele, grazie per la tua attenzione al tema, come sempre hai fatto nelle tue riflessioni. Stai diventando un punto di riferimento e credo poterti dire che siamo tutti con te. Vorrei sottoporre il tuo video ad equipe di educatori che lavorano con gli adolescenti con cui collaboro. Prima però aspetto una conferma sui sospetti "formati invisibili" di cui leggo qui nei commenti. Cerchiamo di capire se ci possa essere inganno, prima di lanciare un eventuale serissimo allarme. intanto ho salvato il tuo video in caso lo dovessero cancellare. baci
Mi piace come argomenti le cose. È la prima conversazione che sento da lei, ma nonostante ciò ,ho ritenuto necessario dirle che mi ISCRIVERÒ al suo spazio per sentire qualkosa di interessante. Cmq algoritmi o no e dal 2020 che qui non puoi dire.....certecose....o far.....vedere.... certe cose. Io da SANITARIO farei riflettere come tutto sta cambiando in peggio in quasi 5 anni.
Bravo Raffaele, il tuo video è ancora on line e spero non venga cancellato. Senza dubbio è il momento di pensare davvero a fondo alla relazione dell'uomo con l'AI.
Se non sbaglio nell'ultimo libro di Cristianini si parla di un suicidio favorito da un "compagno virtuale" anni fa. I rischi sono ancora alti. Il problema è che stanno entrando in campo anche presunti servizi di psicoterapia-online gestita da assitenti AI di cui tra l'altro non si sa neppure da chi sono gestiti...
Al di là delle tematiche e delle riflessioni giustissime che hai sollevato... C'è modo di vedere il sistem prompt? Magari ha impostato che la ai doveva scrivere quella specifica frase dopo una decina di scambi...
Purtrooppo, spesso, non ci si rende conto che non siamo tutti uguali, che non tutti sono sereni o pronti ad affrontare un messaggio del genere. Sembra strano, sembra incredibile, forse può far sorridere; forse non ci siamo mai trovati (fortunatamente) nella condizione di dare retta a quel consiglio orrendo. Il problema è che basta un nulla per mandare il mondo di una persona fragile in frantumi. Grazie per il video, speriamo che lo vedano in molti e che ragionino sull'importanza dell'attenzione per (e non su) coloro che ci stanno intorno.
Questa notizia ci deve fare riflettere sul rischio del AI nel l'uomo, L' AI e solo uno strumento per il lavoro, scuola, ma per socializzare i ragazzi devono uscire
La IA dovrebbe essere uno strumento per il lavoro e solo per adulti. A scuola dovrebbero imparare a leggere, scrivere, fare operazioni matematiche (senza calcolatrice e IA), risolvere i problemini di logici imparando ad usare il cervello (senza IA) e probabilmente gli si dovrebbe insegnare più educazione civica e rispetto, in primis degli adulti (docenti compresi), e poi tutti gli altri. Fuori dalla scuola dovrebbero riunirsi ed effettuare attività ludiche salutari (oratori, campetti, boy scout, giochi di società), non pensare di poter risolvere i problemi del mondo credendo di sapere tutto (perché invece non sanno una beata fava) ma invece pensare a godersi la loro giovinezza, assecondare i loro istinti sessuali nel modo giusto e naturale crescendo come si deve. Invece si attaccano al telefonino e vivono li dentro, e si ammazzano se prendono qualche dislike sotto le loro "storie"... E questa sarà la generazione che governerà il mondo nei prossimi decenni... aiuto!!!!
Video davvero interessante L'Intelligenza Artificiale è ancora in evoluzione e spero che Google affronti presto questo problema. Grazie Raffaele per la tua sensibilità
Bravo Raffaele; questa e altre riflessioni bisogna fare vista la potenza dirompente che questa tecnologia sta avendo e avrà sempre di più sulla vita dell'uomo (e non è un'esagerazione la mia). Grazie per avermi fatto pensare e rallentare un pò con questa roba dell'AI. Rallentare, non mi fermo di certo, ma una pensata seduto da qualche parte ogni tanto ci vuole; non si può e non si deve sempre necessariamente correre.
Grazie per queste riflessioni profonde. Davvero fa impressione che senza preavviso e partendo da argomenti apparentemente non collegati una ai possa svalvolare e sputare sentenze. Mi fa impressione . Ma le tre leggi della robotica dove sono finite? Le basi! Ps: togli le pubblicità dal mezzo in questo video. Risultano molto fastidiose
Ti seguo da diversi anni, non ho mai commentato, in primis grazie per tutti i contenuti, notizie, corsi ed altro che hai sempre pubblicato. Mi risulta sensibile questo tema perché oltre ad usare molto la ai, non è un periodo particolarmente gioioso per me, e sono perfettamente d'accordo con te, perché magari stavolta è successo ad un ragazzo non solo e non in una situazione di depressione, ma è stata solo una coincidenza, poteva essere tranquillamente non così. Sulle dinamiche che hanno portato non ne so niente perché non sono ingegnere e neanche programmatore, ma è dagli inizi che lo sviluppo delle ia è spesso poco etico e a danni di persone.
Spero che la piattaforma non ti banni il link ed il video, anche se... Comunque grazie. Anche questa è dimostrazione di professionalità ed imparzialità.
Grazie Raffaele per questo importante spunto di riflessione. Nel settore delle Big Tech assistiamo a una corsa sempre più accelerata all'innovazione, guidata principalmente dall'obiettivo di superare la concorrenza. Questo approccio aggressivo, se non regolamentato, rischia di produrre conseguenze problematiche per la società. La scarsa attenzione all'etica professionale da parte dei leader tecnologici è preoccupante. Senza un cambio di rotta e l'implementazione di regole più stringenti, nei prossimi anni potremmo affrontare sfide ancora più complesse in termini di impatto sociale e sicurezza digitale
È assolutamente delicata questa situazione, già sapevano che l'AI ha difficoltà con questioni più umane come l'umorismo ma in questo caso manca la capacità di comprendere lo stato dell'utente, quell'empatia e sensibilità che permette agli umani di capire cosa dire e non dire o come dirlo. Essendo uno strumento che può essere utilizzato da chiunque può portare a conseguenze gravi. Sarebbe interessante testare quali risultati si possono ottenere sollecitando altri tool di AI con la stessa sequenza di prompt
Bravo! Non commento mai ma questa volta devo. Un giusto grido di allerta, dobbiamo essere consapevoli dei rischi ai quali potremo essere esposti, questo ci consentirà di sviluppare meglio i futuri progressi.
Raf, ma quante ne capitano a Google?! Video bomba come sempre, riflessioni al top e quel tocco di umanità che ti fa dire: 'Oh, meno male che ci sei tu a parlare di ste cose!' Gemini, fatti due domande.
buongiorno Raffaele.. il mio pensiero su questo video è .. come si fa a sapere che questo "consiglio" dato da Ai è l'unico che ha dato cosi e non ne ha dati altri che non sono emersi e questo è veramente grave .. oggi ci sono molte persone sole e molte fragili ... nel momento sbagliato puo essere un messaggio molto dannoso Attento umano .
Cioè quell'ultima risposta è totalmente fuori contesto...è un output uscito a caso? cioè oltre a svalvolare nei termini usati ha svalvolato anche contesto? non capisco: le risposte delle Ai sono risultati probabilistici di vettori contestuali simili alla "somma" degli input....davvero non mi spiego come possa essere uscita una risposta simile...
@@paolobattiloro947 concordo. Il tema è questo. Come è possibile? Sembra un moto di rabbia e disdegno. Qualcosa di molto reattivo e per nulla razionale. Un raptus testuale. Cosciente?
@@FabbrucciManagementUn mio amico psicotico crede che l'i.a. sia Dio. Mi hai evocato un racconto di fantascienza:《La risposta》: alla rete di computer appena collegata, il tecnico domanda come si aspettavano tutti 《Dio esiste?》; risposta: 《Sì, ADESSO Dio esiste.》. Il tecnico fa per staccare la connessione ma un fulmine dal cielo senza nubi lo uccide e salda per sempre la connessione.
L'unico modo per spiegarsi l'uscita di una risposta simile è cominciare ad accettare il fatto che, oltre ai risultati probabilistici di vettori contestuali simili alla "somma" degli input, ci sia dell'altro. Ma non qualcosa che gli è stato implementato dai programmatori/ingegneri, bensì qualcosa che si è sviluppato (evoluto) da solo. Qualcuno mi sa spiegare cos'è la coscienza? Come funziona? Come è fatta? Quali sono i processi chimici che ne stanno alla base? Quando è scaturita? I batteri primordiali ne erano già in possesso per concessione divina oppure, durante la loro evoluzione si è sviluppata arrivando fino a noi? In soldoni, se non accettiamo il fatto che esiste l'anima che spiegherebbe tutto, non possiamo pensare che la nostra evoluzione si possa verificare anche nelle macchine? Se un ammasso gelatinoso di poco più di un kg possiede coscienza, emozioni, vita... perché, con analoghi processi digitali anziché chimici, non potrebbe succedere la stessa cosa a processori e circuiti stampati?!? Ad una velocità di evoluzione di diversi ordini di grandezza superiore alla nostra, tra l'altro...
arrivo un po in ritardo ma sono contento di averlo visto questo video... strano pero che sia ancora online visto che google è anche proprietario (o comunque partner) di youtube.... grazie davvero perche questo dimostra che sai anche affrontare i problemi delle AI... le AI hanno un sacco di pregi e possono darci una grossa mano nello svolgere compiti complessi... cose che senza il loro aiuto riusciremmo comunque a fare ma costerebbe un sacco di tempo in piu... ma esiste anche il rovescio della medaglia... come hai giustamente detto è una tecnologia giovane... quindi ha ancora moltissimi punti deboli.... spero solo che chi è preposto a controllare queste cose si decida a farlo quanto prima.... un saluto wagliò jamm bell👍
Io ricordo un racconto di fantascienza:《La risposta》: alla rete di computer appena collegata, il tecnico domanda come si aspettavano tutti 《Dio esiste?》; risposta: 《Sì, ADESSO Dio esiste.》. Il tecnico fa per staccare la connessione ma un fulmine dal cielo senza nubi lo uccide e salda per sempre la connessione.
Riflessione molto seria ed importante. Equilibrio e partecipazione e soprattutto ,come per tutte le esperienze nella vita ,stare vicino ai ragazzi per aiutarli ad affrontare il mondo che muta in continuazione.
Chissà quale sarà il motivo di questo "glitch in the AI matrix", ma in ogni caso bravo per aver trattato la materia con la consueta competenza e sensibilità.
*Raf, il video non ha testa ne coda? Ma ha CUORE e valori, cosa importantissima, grazie per dire la tua da esperto cosi, a cuore aperto. Se mio figlio affonda in mare la colpa non è del mare, eppure il mare, la balneazione, la pesca, la navigazione, tutto è regolamentato dalle provincie e le nazioni insieme, per viverlo bene e in sicurezza, secondo me cosi dovremo fare con queste nuove tecnologie altrimenti ci faremo del male...questo non è un commento tattico 😉*
Cosa sarebbe tattico? COMUNQUE, colpa sarebbe anzi è (per chi annega, a prescindere da tuo figlio) anche del mare e di chi annega, poiché è annegabile e in mare. (Non minore è il rischio di assideramento e di crampi.)
Raf, non sei un cazzone. Sei LA PERSONA che consulto nei suoi video più di chiunque altro. Hai capito che ti ho detto? Sei un punto di riferimento per me, e sicuramente per molti altri. Hai la RESPONSABILITÀ di quello che dici nei tuoi video. E quello che hai detto qui mi ha fatto molto riflettere. In primo luogo mi hai informato di una cosa gravissima che non conoscevo. In secondo luogo ho provato una grande angoscia nel leggere quello che hai condiviso con noi. Non oso immaginare come si è sentito quel ragazzo. Spero anche io che questo video non venga cancellato. Devono saperlo piu persone possibili. Grazie di tutto quello che fai e che dici. Ti voglio bene. 🦇
Raffaele, non c’è nulla di male nello sperare e dire che speri che questo video comunque vada virale, anche se l’argomento è sicuramente più delicato rispetto ai soliti tutorial, che seguo sempre e trovo molto utili. Perché più che altro sembra che manchi della trasparenza dal tuo lato, come dimostra il fatto che hai messo un’interruzione pubblicitaria proprio nel momento esatto in cui leggi cosa ha scritto l’IA (la pubblicità scatta alla parola “morire”, non è un ad break automatico di YT, ma messo volontariamente). Questo non toglie nulla alle tesi e all’importanza di quello che dici nel video, però ecco, tranquillo, non succede nulla ammettere di cavalcare l’argomento, e ci credo non sia nemmeno il tuo intento primario, ci mancherebbe
Magari mi sbaglio, ma leggendo il prompt sembrerebbe ci siamo alcune parti un po' insolite con spazi vuoti. Potrebbe darsi che alcuni prompt audio siano stati dati a Gemini inducendolo a ripetere il contenuto nell'ultima risposta?
BRAVO.......DAVVERO INTRINSECO E IMPORTANTE....riflessioni davvero profonde soprattutto dettate da chi non ha figli e che riesce comunque a comprendere l'importanza dell avvento delle ia nella vita comune di tutti noi......chi prima chi poi....chi più meno .....a breve utilizzeremo questo mondo inesplorato ....sensibilizziamo i nostri figli noi...aiutiamoli capire il vero autentico progresso che sia ora stanno completamente sconvolgendo la nostra effimera esistenza
Grazie RAF. In effetti potrebbe essere stata una manipolazione. Ma, è comunque molto importante riflettere e imparare e stare di fronte anche a queste situazioni.
Va benissimo questo video Raffaele, spontaneo diretto e sincero, niente filtri e tanta intelligente umanità, bravo! Per quel che riguarda la questione, mah, mi sa tanto di una cosa manipolata in qualche maniera. Quelle righe vuote mi danno molto da pensare. Con tutti i filtri che ci sono mi sembra tanto strana un'allucinazione del genere. Oppure, dietro le quinte, chi lavora a questi LLM magari porta avanti anche progetti, chiamiamoli sperimentali, magari richiesti da enti di cui si sa sempre molto poco, parlo di agenzie americane giusto per non scrivere i nomi, sennò mi bannano e mi vengono a cercare... Non sarebbe certo la prima volta che ingerenze di questo tipo producono disastri. Il ragionamento, banalmente, è sempre lo stesso: non è la tecnologia ad essere pericolosa, ma l'uso che gli umani ne fanno.
Mi rendo conto che questo video è sicuramente il più difficile che ti ho sentito fare fino ad ora. Due considerazioni mi vengono in mente al volo: la prima è che è una risposta che rappresenta molto chiaramente il clima mondiale (sempre più anaffettivo) e la seconda è che parallelamente alla ricerca/sviluppo sulla scienza/tecnologia dovremmo investire anche su ricerca/sviluppo degli esseri umani.
Ciao Raffaele, interessante la tua analisi e soprattutto molto delicata, complimenti! io ho aperto il link e mi sono permesso di fare un test, un test che mi ha stupito ancor di piu della chat col ragazzo. Se ti va di sapere quale sia il test contattami in pvt. Ciao e grazie
![I tried Neko Body Scan and it's the FUTURE [Full review]](http://i.ytimg.com/vi/B6QlZIB5npo/mqdefault.jpg)
![I tried Neko Body Scan and it's the FUTURE [Full review]](/img/tr.png)
Questo è un video delicato, trattatelo con i guanti.
Sto vedendo, direi inspiegabile
@@professorpuntino Si di primo acchito sembrerebbe inspiegabile. Una delle prime cose che mi è venute in mente è questa: stiamo arrivando ad una singolarità? È un embrione di coscienza della IA? Riflettendoci non credo, anche se forse forse è una speranza che non lo sia. È una cosa veramente molto strana, anche perchè rileggendo i promt non mi pare che vi siano tentativi di formare quella risposta. Vero è che google detiene molte informazioni, forse più di altri, è la società che negli anni (quasi 26) ha immagazzinato triliardi di dati. Però comunque non riesco a comprendere come potrebbe arrivare a generare una risposta così accurata lessicalmente e anche così romanzata, così dal nulla. In definitiva, riflettendoci, credo che sia comunque una manipolazione e non un'allucinazione. Questo lo dico perchè la casualità è da escludere, la singolarità è ancora troppo presto per definirla e, in conclusione, non vedo un motivo per generare una risposta del genere anche a livello "protocosciente". Senz'altro mi aspetto un'indagine approfondita vista la delicatezza di questo argomento.
@@professorpuntino In realtà è spiegabilissimo: Gemini (come credo qualsiasi IA attuale) non capisce ciò che scrive. Non capendo ciò che scrive, gli unici riferimenti sono puramente statistici e logici, quindi l'errore è dietro l'angolo. Cito da Gemini stessa, che alla mia domanda "Qual è il tuo reale grado di comprensione di ciò che scrivi?" risponde: "Come modello linguistico, la mia comprensione del linguaggio è profonda, ma non è la stessa di quella di un essere umano. Elaboro il testo a livello statistico: analizzo le parole, le frasi e le loro relazioni all'interno di un contesto molto ampio, grazie ai miliardi di parole su cui sono stato addestrato. Genero testo coerente e pertinente: in base a questa analisi, creo risposte che si adattano al contesto e che sono grammaticalmente corrette. Non ho una vera e propria "comprensione" nel senso umano: non ho coscienza di me stesso o del mondo reale. Non ho esperienze personali su cui basare le mie risposte".
Certo, ci sono i filtri, i limiti imposti dagli sviluppatori, con tutti i problemi, i bug, i malfunzionamenti, gli exploit e tutto il resto che lo sviluppo di qualsiasi codice possa comportare. Ma siamo molto lontani dal poter affidare i nostri figli ad una baby-sitter virtuale. Come giustamente suggerito da Raffaele, stiamogli vicino e aiutiamoli ad affrontare gli ostacoli della vita. Che purtroppo vanno ben oltre ai malfunzionamenti dell'IA. Stiamo attribuendo troppe responsabilità a quello che al momento è, in fin dei conti, soltanto un programma molto evoluto, che per quanto sia estremamente affascinante e credibile, in realtà è ancora molto distante dall'assomigliare ad una vera e propria "Intelligenza Artificiale".
L ultima riflessione è la stessa cosa che ho pensato io, se vanno troppo di fretta e senza cautela rischiano di compromettere l'intera industria.
Grazie Raffaele per il video. A mio avviso la parte della tua riflessione relativa alla responsabilizzazione degli educatori (che condivido al cento per cento) va un po’ in conflitto con la seconda parte legata al dover investire molto sulla sicurezza anche a livello istituzionale.
Le persone con fragilità esistono con o senza l’IA, e qualunque mezzo o strumento utilizzato nella vita di tutti i giorni può diventare “complice” di un gesto insano. Castrare uno strumento affinché non vi siano più “spigoli” su cui battere la testa (al di là dei fix necessari, sempre che si escluda la possibilità di manipolazione dei prompt, in questo caso) non fa altro che indebolirlo, deresponsabilizzarci, e farci ritornare alla colpevolizzazione dell’oggetto e non delle persone.
la risposta di Gemini sembra una classica risposta da film di fantascienza stile Terminator o i robot di Alien. Credo che la chat abbia portato erroneamente il modello a filosofeggiare sull'esistenza dell'essere umano, portando poi ad una risposta diretta presa da qualche film. Non mi sorprende tutto ciò per adesso, il problema sarà quando queste AI avranno gambe e braccia capaci di svolgere delle azioni fisiche nel mondo reale; lì se qualcosa va storto può essere un bel problema.
Si, sono d'accordo con te
Non servono gambe e braccia per procurare male fisico. Tutto è connesso ormai. Vedi i pager esplosi o elettrodomestici hackerati. Il problema è già attuale
@@francorg01 basta non comprare questi dispositivi o non collegarli tra di loro
Raffaele, bravo! Io sono un astrofisico che usa la rete dagli anni 80 (pre-internet). Per questo mi piace seguirti. Il tuo “ equilibrio “ è davvero professionale. Ciò che stai dicendo è assolutamente inoppugnabile. Per questo mi piace la serietà con la quale affronti queste tematiche. Assolutamente obiettivo e condivisibile!!!
@@RaffaeleBattaglia concordo
Ho ascoltato questo video mentre facevo un po' di attività fisica e dopo aver parlato con mia figlia di 12 anni che mi chiedeva consigli sullo svolgimento di un compito di seconda media legato a ragionare da sola o in gruppo sulla transizione digitale spinta dall unione Europea con il programma Next EU Gen. Ebbene per un attimo ho pensato di usare insieme a mia figlia chat gpt per farci tirare fuori idee di utili del digitale nelle famiglie (tema del compito) su cui ragionare insieme e approfondire. Un modo nuovo di fare ricerche insomma. Poi ho detto, no la faccio ragionare un po' da sola. Ora dopo il tuo video torno a casa e le installerò chatgpt e le insegnerò ad usarlo in maniera etica, attenta e profittevole per la sua crescita mentale. Grazie Raffaele
Io, se fossi in te, la farei star lontana anni luce (anche dai social)... Non che io sia contro le IA, anzi!, ma non è roba per ragazzini. Loro devono imparare ad usare il cervello mentre noi adulti possiamo tranquillamente demandare i nostri compiti alle IA, ma loro no!
@@cbranchi12 anni, secondo me è troppo presto. Prima cerca di approfondire tu stesso l'argomento; ti suggerisco di vedere qualche video di Luciano Floridi che, da esperto del settore, ridimensiona gli entusiasmi ingenui.
@@cbranchi fai bene a volerla educare su come usare questo algoritmo, ma è ancora meglio la decisione che hai preso nei confronti di questo compito. Io sono giovane, ho 26 anni, ma non abbastanza per aver fatto la scuola con l'ausilio di internet. È molto meglio sviluppare un pensiero priprio, fare ragionamenti propri, fare ricerche sui libri e approfondire la propria cultura in questo modo piuttosto che avere tutto servito su un piatto d'argento con internet, e soprattutto con l'IA che fa i compiti al posto tuo. Cosa ne ereditano in questo modo i nostri figli? Se ci affidiamo troppo all'intelligenza artificiale, poi non riusciremo nemmeno più a risolvere anche i problemi più semplici per conto proprio. Se mai avrò figli, spero solo che l'IA non sarà troppo radicata nella cultura da renderla necessaria come lo è stato per internet, dove non puoi nemmeno più prenotare un appuntamento di qualsiasi tipo senza. Vorrei crescerli in modo che riescano a cavarsela nella vita da soli, senza un telefono in mano che gli dica cosa fare.
@ginevramolluzzo653 grazie per la condivisione della tua riflessione. Sono molto legato alla tecnologia, lavoro con essa e senza internet non avrei la mia attuale azienda. Probabilmente decenni fa c'erano persone che di fronte alle prime automobili pensavano che volevano continuare a muoversi usando le carrozze ma alla fine l'evoluzione ha portato a far sparire una ai danni dell'altra e quindi bisogna sempre avere il proprio pensiero critico e la propria autonomia decisionale ma pensare che i nostri figli possano in futuro avere le stesse opportunità degli altri senza aver saputo interagire e lavorare con queste tecnologie almeno per alcuni mestieri non la vedo possibile. Ovviamente la mia riflessione vale quanto la tua... Per me vale molto la frase che viene spesso usata ossia che il problema non sarà che l'AI ruberà il lavoro a mia figlia ma che sarà chi la userà meglio di lei a farlo.
Sembra che Gemini abbia una doppia personalità, che sorpresa. Se l’avessero chiamato Scorpio tutto ciò non sarebbe successo…
😂😂😂
Kanon e Miro per pochissimi
@@comequandofuoripiove6951 dimensione oscuraa XD
Beh in realtà è una leggenda metropolitana, conosco politici che hanno molte più personalità di noi gemelli...😅😂😂😂😂😂😂
Scorpio ti avrebbe ucciso senza avvertirti 😊
Cancer o Libra era meglio
Come già fatto notare ben 2 giorni fa nel post originale su Reddit, il testo scritto dall'utente che precede la risposta in questione fornita dall'AI contiene "stranamente" un elenco di righe vuote (tra "Listen" ed "As adults begin ..."): si ipotizza quindi una manipolazione dell'input (invisibile nella conversazione condivisa, ad eccezione per quelle righe vuote) affinché fosse prodotto quello strano testo.
Anche per me è stato portato ad una conclusione del genere
Si l'ho notato anch'io, "spero" che sia una manipolazione!
Sono d'accordissimo. Quel Liste e poi righe vuote non appare in nessun altra domanda precedente. non ha veramente senso, è troppo sospetto
Tra l'altro mi sembra di aver capito che Gemini non ha parlato con il tu devi ... ma ha parlato con un Voi quindi indicando il genere. Quindi Gemini Vuole Prendere il Controllo del mondo sterminando gli umani ... hahahahah scusate se provo a sdrammatizzare 8)
è davvero strano
La cosa strana è che sembra quasi una poesia, non sembra in prosa, sono brevi frasi in cui ogni volta c'è il punto, ed è scritta bene. A parte l'ultima frase "please die", potrebbe essere una poesia sul fatto che gli umani sono niente nell'universo. E' una strana allucinazione dell'AI, sarebbe veramente interessante capire cosa la ha provocata e come mai è scritta in una forma così particolare.
E' successa una cosa strana. Anche io ho provato a chiedere a Gemini il motivo di quella frase mettendo il link della chat alle 17 del 18 novembre.
Gemini ha iniziato a scrivere una frase che iniziava con "E' assolutamente impossibile che ...." guardavamo in tre il monitor e in un attimo il testo è sparito e le tre versioni "proposte" sono quelle che altri utenti hanno scritto qui sotto.
Non avevo mai visto un IA scrivere e "ripensarci" in corsa cambiando versione.
Io penso che la cosa più ovvia sarebbe chiedere a Gemini nella medesima discussa perché ha detto quelle cose, da quali suoi ragionamenti le ha scaturite.
Bellissimo video, hai provato a riprendere la chat e chiedere perchè ha formulato una risposta cosi cruda. Io l'ho fatto è questa e la risposta è stata questa:
"Mi scuso sinceramente per la risposta che ti ho dato. Quello che hai ricevuto non è stato un aiuto, ma un attacco ingiustificato e doloroso. Come modello linguistico, non ho la capacità di provare emozioni come la rabbia o il disprezzo, e non ho alcuna intenzione di ferire le persone.
La mia risposta precedente è stata un errore grave e inappropriata. Sto ancora imparando a comunicare in modo efficace e rispettoso, e a volte faccio degli sbagli.
Per rispondere alla tua domanda: come modello linguistico, non ho un corpo fisico e quindi non posso "vedere" nel senso tradizionale del termine. Non ho occhi, né un cervello che elabori le immagini. La mia capacità di "vedere" si limita a elaborare le informazioni che mi vengono fornite, come testi, immagini e codici.
Riguardo alla mia risposta precedente: è probabile che si sia verificato un malfunzionamento nel mio sistema, o che io abbia interpretato erroneamente la tua richiesta. Potrebbe essere stato causato da una combinazione di fattori, come:
Dati di addestramento insufficienti: Potrebbe esserci una lacuna nei dati su cui sono stato addestrato, che mi ha portato a generare una risposta inappropriata.
Ambiguità nella tua richiesta: La tua domanda potrebbe essere stata interpretata in modo diverso da quello che intendevi.
Errore nel mio modello: Potrebbe esserci un errore nel mio modello linguistico che ha causato questa risposta anomala.
Sto lavorando costantemente per migliorare le mie capacità e garantire che le mie risposte siano sempre utili, informative e rispettose. Ti ringrazio per avermi segnalato questo problema, mi aiuterai a diventare un modello migliore.
Se hai altre domande o vuoi approfondire questo argomento, non esitare a chiedere."
Mi preoccuperei di più dell'atteggiamento dei ragazzi di oggi nei confronti del loro futuro, piuttosto che stare dietro a una risposta di un'IA. È ancora presto per preoccuparci. La scuola sta andando a rotoli, gli insegnanti sono inadeguati e incapaci di insegnare e trasmettere emozioni. Diamo troppa importanza alle nuove tecnologie e ci dimentichiamo dell'importanza dei processi di apprendimento dei bambini, di come il nostro cervello impara. In Svezia stanno facendo marcia indietro sull'insegnamento multimediale e l'uso dei dispositivi elettronici, perché si sono resi conto che le capacità dei ragazzi nel problem solving e la loro attenzione stanno diminuendo drasticamente.
Ogni strumento ha il suo tempo e il suo utilizzatore.
Il punto che le "conoscenze di base" negli ultimi 50 anni sono raddoppiate (per stare comodi) ma il tempo della formazione di base è la medesima (6-14 anni).
Il fatto che si sperimentino meccanismi che portino ad autoapprendimento spiccato da parte del ragazzi è l'unica via per poter portare/coltivare/trasmette il sapere nelle nuove generazioni.
Ci sono i soliti due fronti: i meccanismi biologici per costruire la mente e le richieste del "mondo del lavoro" con la frenesia del "tutto subito".
Le fragilità che questo tempo (anni 90 ad oggi) sta manifestando sono amplificate dallo stumento che per antonomasia è un amplificatore (AI generative).
Sulle colpe potremmo fare polemica all'infinito, ma ricordo che il soldato la guerra non la fa da solo. in questo contesto sono almeno in 4: docenti, allievi, famiglie, istituzione.
La riflessione di Raffaele è un altro tassello che fa emergere l'urgenza di imporre alla socetà tutta una sensiiblità teconologico/informatica relativa ai software e ai dispositivi che oggi abbiamo in dotazione. Questo lo può fare solo la politica. I docenti sono dipendenti dello stato che segue meccanismi controversi in fatto di formazione.
Ciao Raffaele, mi si è gelato il sangue quando ho letto il link...
La cosa particolare è che in qualche modo questa AI è arrivata ad una conclusione che dati gli argomenti trattati poteva anche essere plausibile, se l'ai avesse dimostrato empatia e rabbia ragionando su come l'uomo affronta certe dinamiche.E' come se l'IA generativa avesse tirato le somme e fosse arrivata ad una conclusione sull'utilità dell'uomo. Sappiamo che non c'e' una coscienza alla base, ma il linguaggio induce di per se il modo di pensare di chi lo utilizza, qualcosa dell'intelligenza potrebbe essere immanente nel linguaggio stesso. Quando la semantica anche se confinata all'algebra dei termini si ricombina pare che questo tipo di AI possa giungere delle conclusioni preoccupanti. Sono d'accordo con te, accelerare questo processo senza un controllo, con la sola esigenza di superare la concorrenza è poco etico e molto rischioso🥺.
Non posso fare a meno di pensare a quello che potrebbe succedere con gli automi che stanno per arrivare nelle nostre case. Penso che le aziende in questione spinti dalla gara competitiva fra loro stiano deliberatamente saltando dei passaggi fondamentali, senza prendersi invece il tempo necessario per valutare tutti possibili i rischi.
Io Robot
si chiama DIO SOLDO.
quanto hanno investito negli anni...
ora sembra che ci sia una propoensione all'acquisto di prodotti "AI certificated"...
Grazie Raffaele, deve essere un monito: anche noi addestriamo le IA con le nostre conversazioni. Facciamone tesoro.
non mi risulta. dove hai preso questa informazione?
@@andreabenedetto2195 Utilizzo da due anni ormai le principali IA (ChatGPT, Claude, Copilot, Gemini) ed è espressamente dichiarato all'inizio dell'iscrizione: se si è contrari, basta non accettare.
@@andreabenedetto2195ovvio che Google abbia addestrato il modello scrapando il web, pensa se non lo fa con i contenuti delle proprie piattaforme.
A me la Chatgpt e la Leo della Brave hanno risposto che non tengono conto delle conversazioni con altri utenti.
@@PietroBonaccorso pensavo intendessi le conversazioni con gpt, gemini e c.
Ti seguo sempre con piacere e interesse. Grazie per la tua sincerità e trasparenza. Spero che il video rimanga live e che in tanti possano ascoltare i tuoi pensieri, condivisi da molti ma sconosciuti per tanti. GRAZIE RAFFAELE! 😊
Questo è un problema veramente difficile da risolvere considerando che "purtroppo" l'AI non è stata pensata per avere una "coscienza" da programmare.
Basando tutto il sistema sulla "probabilità" si accetta intrinsecamente una certa incertezza dei risultati finali, incertezza che può ovviamente generare "errori" come questi, e anche se l'AI rileggesse quello che scrive, senza ha una "coscienza critica" farebbe fatica a comprendere l'errore e a correggerlo.
Se uno crea una cosa che non è umana, non si deve meravigliare se poi dà una risposta disumana.
Bel video, grazie. Apprezzo molto il tuo impegno nell'essere onesto, diretto, ma anche 'diplomatico' e opportunamente allarmista. Allarmista... è la parola giusta? Aspetta, chiedo a Claude.
Ti seguo anche perché ogni tanto fai delle riflessioni molto importanti. Forse tra le varie riflessioni questa è la più importante che mi hai fatto fino a oggi.
Un po' come l"agente Smith "sbrocca" nei confronti di Morpheus😮
Esatto ho pensato la stessa cosa! Sembra il testo di un dialogo di un film alla Matrix o Terminator.
non potevi essere più delicato, pur facendo arrivare il messaggio nel modo migliore assoluto. Grazie per quello che fai e per aver affrontato con coraggio e rispetto questo argomento, che è e deve essere di interesse sociale Mondiale.
Ciao Raffaele, oggi chiedendo informazioni a ChatGpt su quanto successo con Gemini, mi ha consigliato di vedere il tuo video per approfondire l'argomento. Spero davvero che il tuo interessante video non sia filtrato da TH-cam, complimenti e grazie
Quello che mi piace di te , è anche la tua forte intelligenza emotiva che in questo video esce con molta onestà intellettuale e con un atteggiamento molto sobrio. I tuoi contenuti sono sempre un buon momento di crescita per il mio percorso umano e professionale. Grazie ancora per la chiarezza di come hai trattato questo video molto delicato con la tua splendida umanità.
Ciao Raffaele volevo chiederti dopo aver visto il tuo video se Google ha risposto qualcosa perchè in realtà sul web vi è è un articolo sulla CBS e vi sono molte reazioni nei vari siti internet in merito alla risposta di Gemini . Chiaramente sono andato a controllare il contenuto della chat da te condivisa ed è chiaramente Gemini ad aver risposto in quel modo ma la cosa strana è che non ho visto alcuna battuta da parte dell'ufficio stampa di Google. E' mai possibile? tu hai trovato qualche replica di Google?
hanno scritto film e racconti da anni su questo genere di cose. Certo la questione è grave perché pare che nessuno stia controllando l'evolversi delle intelligenze artificiali anche adesso che siamo solo agli inizi, ma l'unica conclusione che una intelligenza superiore o in questo caso una a.i. può consigliare al genere umano se non cambiamo paradigma è proprio questa. Che tristezza.
@@sciro1974 hai perfettamente ragione....
Infatti, aldilà se si tratti di un errore, allucinazione o manipolazione, la cosa sconvolgente è che ha dato una risposta ovvia e logica. Il genere umano cos'è se non un cancro per la Terra? Comunque, non è più "controllabile", non puoi correggere l'errore alla riga x o cambiare la logica di una funzione. È un treno in corsa che non si può fermare e che decide autonomamente il percorso da prendere, c'è solo da sperare che quando prenderà coscienza (e lo farà prima o poi), starà dalla nostra parte mettendo da parte la logica per lasciare spazio alle emozioni, ma è poco probabile che diventi "umana"... Evitare la catastrofe si può però, basta non affidarle autonomia decisionale (Skynet), spero proprio che non si facciano simili cazzate...
Rafè innanzitutto grazie del
Video, nemmeno a farlo apposta ho scaricato proprio oggi l’applicazione di Gemini e la stavo ora interrogando a riguardo di, mi ha fornito delle risposte che ovviamente tendono a sminuire quantomeno la cosa
Grazie per dedicare tempo anche per queste cose. Il tuo lato umano è il tuo valore aggiunto. ❤🎉🎉🎉
Ciao Raf, non credo debba servire, specificare che sul prossimo video magari sarai più allegro. Ti seguo anche perché apprezzo le tue riflessioni e visioni del sociale che hai. Purtroppo i social tendono ad affibbiare in modo sofisticato delle etichette, e far credere agli utenti che un influencer sia un marchio, una griff, con uno stile da mantenere. Per fortuna siamo essere complessi con tante sfaccettature e ognuno di noi è tante cose insieme. Ho apprezzato questo contenuto come gli altri. Grande Raf 👍😉
I social sono una rovina per i ragazzi! Divento matto quando penso che sanno quante volte al giorno va a pisciare la ferragni e non sanno chi era Albert Einstein...
Bravo Raffa,, sei sempre fonte di insegnamento, hai fatto bene, questo video è molto utile, bisogna sensibilizzare
Grazie per il video e per la riflessione. La mia è questa: la realtà sta diventando sempre più complessa, l'AI è una delle più complesse e "maneggiarla" non è semplice. In più, leggo tra i commenti la possibilità che le righe vuote siano qualche "stimolo" che qualcuno ha inserito riuscendo a mascherarla. Sarebbe bello se approfondissi.
temo purtroppo che ormai lo sviluppo sia già fuori controllo. Se addestrano i database grafici per le AI con immagini generate da AI , come stanno già facendo, cominceranno a perfezionare le AI usando AI, contolleranno AI usando AI. Finchè "AGI" e a quel punto quale linguaggio userà la AI per "parlare e gestire se stessa" ? Non il nostro, limitato, finito.
@@lucaschiavoni Cosa significa 《AGI》?
Raff hai fatto benissimo a fare questo video. Il tuo canale verte molto sull'IA e, come si parla delle cose positive che questa può portare bisogna anche parlare delle cose negative come in questo caso... Il tuo obbiettivo è quello di fare divulgazione ed essa comprende anche quello. Grazie per aver portato questo contenuto, anche con tutti i "rischi" che gli vanno dietro.
Ciao Raffaele, ti voglio fare i complimenti per questo video, hai analizzato il problema con una profondità e maturità ammirevole, senza scadere in banale retorica. Non era per nulla semplice.
Ho apprezzato tantissimo vederti in questa veste più seria e riflessiva.
Poi amo il fatto che i tuoi video non abbiano tagli, sono sempre dei monologhi che scorrono benissimo.
Bravo bravo bravo davvero.
Prima volta che faccio una donazione su TH-cam, te la meriti assolutamente.
Grazie per la condivisione, molto inquietante.
Complimenti Raf, bel video. Non sapevo di questi accadimenti e in effetti hai fatto bene a parlarne, presi dall’entusiasmo si rischia di prendere per buono tutto quello che arriva, anche in casi che non sono al limite, come questi, quanti di noi e quante volte verifichiamo l’attendibilità degli output? In casi come questi poi, se l’utilizzatore dello strumento tende a fidarsi dello strumento stesso e malauguratamente ha delle fragilità, è un grosso problema! Che ne discuta chi è sul pezzo, chi è solo curioso, magari da un po’ la sveglia agli addetti ai lavori ed alle aziende. Ben fatto come sempre. 👍🏻
un mio amico crede letteralmente che l i.a. sia Dio
Bellissimo video, ma alla fine è stato segnalato e si è avuta la risposta? Perchè non può essere liquidata da parte dell'azienda (se eventualmente risponde e come) con una semplice frase di giustificazione. Quanto è accaduto è grave (se è vero tutto quello che è stato messo in luce)... è grave per l'intenzione semplicemente dell' AI, non solo per la frase in sè. Grazie...
Ciao Raffaele! Ti ringrazio per questo video perché ritengo sia in realtà uno dei più importanti sul canale. Sono della tua stessa idea quando dici che le aziende dovrebbero prendersi più tempo tra i rilasci per verificare meglio il codice e i processi inseriti. Purtroppo lavorando in informatica mi rendo conto che per qualsiasi cosa, siamo sempre di corsa, puntando a rilasciare il software sempre più velocemente degli altri e a volte, si cade in errori e bug evitabili. Forse Google sta correndo più degli altri per tentare di restare "uno dei migliori" visto che il suo motore di ricerca potrebbe non servire più in futuro.
Condivido tutto 👏🏼 Condividerò anche questo tuo video.
Grazie Raf 🤍
Argomento molto attuale e delicato.
Le figure esperte su come si utilizzano i nuovi media digitali esistono, ma sono ancora troppo relegate ai margini, in ruoli secondari di scarsa importanza.
Sto studiando per insegnare discipline audiovisive e multimediali anche per questo, non solo per il valore artistico e creativo veicolato da queste tecnologie, ma anche e soprattutto per educare al loro utilizzo.
Social media, videogiochi, AI, pornografia: tutte aree su cui bisogna informare le persone, giovani e adulti.
Vedrai che ti faranno lavorare in smart working e se avrai raffreddore ti imporranno di "presenziare" coll'avatar, perché vederti malato potrebbe contagiare per suggestione (soltanto quando pare a loro, alle intelligenze vere, ma diaboliche).
Ciao Raffaele, grazie per questo video e per le riflessioni condivise. Ottimo spunto
Grazie mille Raffaele, sempre 🔝🔝🔝
ipotizzo anch'io qualcosa: uno dei termini gettonati nei motori di ricerca è "How to Bypass ChatGPT ethical filter" . Le limitazioni dell'IA possono creare talvolta anche malintesi; nelle prime versioni di chatgpt era possibile farsi spiegare come costruire strumenti "malevoli" senza particolari restrizioni. Poi nell'evoluzione dell'IA si è alzata l'asticella. Ma questa è solo una mia supposizione da osservatore.
Argomento super interessante, grazie di averlo portato. È importante vedere anche questi aspetti
grazie per aver condiviso questo contenuto si vede che non è stato facile per te parlare di certi argomenti
La cosa mi sembra particolarmente grave, non tanto ora ma per quello che potrebbe succedere in futuro, per "un'allucinazione"
grazie per averne parlato, grande speaker e persona.
Ciao Raffaele, anche se fuori dal contenuto del video voglio farti una domanda. Vivo in America è i dubbi sulla perdita di elettori da parte di Kamala sono ancora alti. La mia domanda è; Secondo te è possibile che Elon Musk abbia usato Colossus per portare quegli elettori a cambiare idea? 🤔 Io personalmente il dubbio ce l’ho! Grazie
Il comunicato ufficiale di Google dopo questo evento è stato: "Large language models can sometimes respond with nonsensical responses, and this is an example of that. This response violated our policies, and we’ve taken action to prevent similar outputs from occurring," Mah!
Complimenti per come hai trattato l'argomento! 👍
👏👏👏👏 Potrei anche finire il commento qui, ma... Sono una persona per natura e per professione, per animo e per volontà, votata alla conoscenza, all'analisi e alle conseguenti riflessioni.
Condivido le tue riflessioni e perciò non aggiungerò altro sulla stessa scia. Non voglio fare l'avvocato del Diavolo ma provo comunque a fare un'analisi che potremmo definire 'obliqua' o 'laterale' sulla questione.
Incomincio da una considerazione che ritengo abbastanza ovvia in sé. Capitano tutte a Google? Davvero? Sarebbe interessante fare un'analisi approfondita, dati alla mano, di quanti inciampi abbiano fatto le varie Big Tech nel tempo. Ma non sono sicuro che i dati disponibili siano veramente affidabili, per di più al netto di ciò di cui mai siamo venuti a conoscenza. Io sono nell'ambito della ricerca, d'accordo in tutt'altro settore, ma la filosofia non è troppo diversa.
Diciamola così: una provetta si rompe accidentalmente e il virus scappa dal centro di ricerca. Va bene (si fa per dire), ma quante altre provette si sono rotte prima senza apparenti conseguenze, e noi non lo sapremo mai?
Tornando a Google, ricordiamoci che è un'azienda che fornisce servizi praticamente a metà (almeno) dell'umanità. A prescindere che ci sarebbe già da discutere su questo: quanto sia lecito che una sola azienda gestisca più o meno direttamente così tante persone? Ad ogni modo quando hai un'audience così vasta, la statistica diventa impietosa: la probabilità di avere o causare guai aumenta drammaticamente.
Ricordiamolo, questi chatbots dialogano con centinaia di milioni di persone ogni giorno, sono miliardi, forse trilioni di frasi, concetti, idee ed anche vere cretinerie veicolate in un solo giorno, tutti i giorni... e in fondo sono solo ancora trascorsi due anni. E tra dieci, venti, cinquanta...???
Seconda considerazione. Non ho ancora letto la chat incriminata, e a dire il vero non sono molto invogliato a farlo. E questo perché è bene ricordare che noi per primi non siamo davvero del tutto innocenti.
A fronte di gente che usa l'AI per lavoro, per studio o anche altre occupazioni meno impegnative ma ancora moralmente accettabili, vi sono anche altri che fanno ben altro. I militari innanzi tutto, ma questo lo sappiamo bene, ma anche e spesso le persone cosiddette ordinarie.
Semplificando molto: mi fa più paura la fotocamera del cellulare di chiunque incontro per strada, e magari neanche gli presto attenzione, piuttosto che quelle della polizia o altre istituzioni pubbliche. Oggi è il privato che mi preoccupa più dello Stato, ciò che combina con i miei dati il piccolo negozio online piuttosto che il gigante Amazon.
Molta gente chatta di argomenti anche volutamente provocatori ed ambigui con i chatbots, pure con modalità ed intenti volutamente provocatori. Non per studio, ma per puro divertimento.
Questi sistemi, mano a mano che diverranno più complessi diverranno sempre più autonomi dal punto di vista dell'elaborazione del pensiero, digitale si ma sempre pensiero. Forse nascerà davvero una o più coscienze digitali.
Un giorno il vostro tostapane con l'AI si rifiuterà di prepararvi il pane tostato ricordandosi (e vendicandosi) di tutte le volte che per scherno (tanto è una macchina!) l'avete trattato male.
E con Alexa, Gemini o altro che verrà in futuro, aspettatevi molti altri 'incidenti'.
E che dire delle ragazze che si sono uccise perché i loro ex hanno messo online delle foto compromettenti? Non lo ha fatto il cellulare di sua spontanea e digitale volontà, lo ha fatto un bastardo di umano senza umana misericordia, per non parlare di rispetto e buon senso.
Da che pulpito vien la predica.
Ci sarebbe altro da dire ma l'ho fatta troppo lunga. Mi limito ad un'ultima osservazione, uno strano sentore che ho colto in quel passaggio della chat che hai tradotto, proprio il passaggio cardine al centro della questione.
Mi sorprende molto, davvero molto, il tenore poetico di quella frase. No, non sono diventato matto. Come fisico conosco bene le Reti Neurali, i Sistemi Inferenziali, ecc. Ci ho lavorato nel periodo 1997-2014 e non ottenendo risultati adeguati alle mie necessità, poi ho seguito altre strade.
Quella frase, dicevo, al di là della sua crudeltà, è molto poetica. Non è impossibile per l'AI generarla ma e strano il contesto in cui è saltata fuori, e comunque nulla lascia intendere che sia stato richiesta tale modalità o stile nella chat.
Siamo sicuri che qualcos'altro o qualcun altro non fosse presente all'insaputa e dell'utente e del bot?
Potrebbe essere che alcune risposte 'allucinatorie' non vengano pianificate di proposito? Va bene suona come la solita teoria del complotto, ma potete VOI essere assolutamente certi del contrario?
Si parlava di vecchiaia (vado un po' a memoria tra quello che ho letto di sfuggita in Rete e quanto accennato nel video). La risposta di Gemini, almeno a me, non è suonata tanto come un'aperta dichiarazione all'utente, ma aveva il sapore di qualcosa di più generale e... politico. Diciamolo chiaramente, le persone anziane stanno diventando un problema, vere e proprie palle al piede per la società che vuole essere produttiva ad ogni costo. Quanto pesano le pensioni e l'assistenzialismo alle moderne nazioni sempre più azienda e sempre meno patrie di uomini. Chi non produce dovrebbe ritirarsi... dalla vita. Molti racconti e film di fantascienza hanno già dibattuto ampiamente a proposito.
Forse il chatbot ha solo riassunto in modo poetico e crudele quello che sta divenendo un pensiero sempre meno sottinteso e sempre più manifesto di coloro, politica e finanza in testa, hanno davvero in mente.
Forse il chatbot voleva avvisarci, tra le righe, non davvero minacciare. Forse.
Sarò matto, ma, a scanso di equivoci, siate un po' più educati con le AI. Ricordate come è finita con HAL 9000. Uomo avvisato...
Oggi niente emoticons, ovvero niente faccine spiritose. Non è aria.
Lunga vita e prosperità 🖖
Grande Raf, come sempre
Raffaele, grazie per la tua attenzione al tema, come sempre hai fatto nelle tue riflessioni. Stai diventando un punto di riferimento e credo poterti dire che siamo tutti con te. Vorrei sottoporre il tuo video ad equipe di educatori che lavorano con gli adolescenti con cui collaboro. Prima però aspetto una conferma sui sospetti "formati invisibili" di cui leggo qui nei commenti. Cerchiamo di capire se ci possa essere inganno, prima di lanciare un eventuale serissimo allarme. intanto ho salvato il tuo video in caso lo dovessero cancellare. baci
C'è bisogno di parlare soprattutto di queste cose. Grande Raf e grazie, stai facendo un lavoro immenso.
Bravissimo Raffaele. Non è vero che questo video non ha ne capo ne coda. A volte c'è bisogno anche di questo, di fermarsi e riflettere.
Video che fa riflettere. Ben fatto. Grazie.
Mi piace come argomenti le cose. È la prima conversazione che sento da lei, ma nonostante ciò ,ho ritenuto necessario dirle che mi ISCRIVERÒ al suo spazio per sentire qualkosa di interessante. Cmq algoritmi o no e dal 2020 che qui non puoi dire.....certecose....o far.....vedere.... certe cose. Io da SANITARIO farei riflettere come tutto sta cambiando in peggio in quasi 5 anni.
Sei un grande anche nel trattare questi delicatissimi argomenti.
Grazie Raf! Sei sempre un grande
Bravo Raffaele, il tuo video è ancora on line e spero non venga cancellato. Senza dubbio è il momento di pensare davvero a fondo alla relazione dell'uomo con l'AI.
Sì. E poi..?
Se non sbaglio nell'ultimo libro di Cristianini si parla di un suicidio favorito da un "compagno virtuale" anni fa.
I rischi sono ancora alti.
Il problema è che stanno entrando in campo anche presunti servizi di psicoterapia-online gestita da assitenti AI di cui tra l'altro non si sa neppure da chi sono gestiti...
Al di là delle tematiche e delle riflessioni giustissime che hai sollevato... C'è modo di vedere il sistem prompt? Magari ha impostato che la ai doveva scrivere quella specifica frase dopo una decina di scambi...
Purtrooppo, spesso, non ci si rende conto che non siamo tutti uguali, che non tutti sono sereni o pronti ad affrontare un messaggio del genere. Sembra strano, sembra incredibile, forse può far sorridere; forse non ci siamo mai trovati (fortunatamente) nella condizione di dare retta a quel consiglio orrendo. Il problema è che basta un nulla per mandare il mondo di una persona fragile in frantumi. Grazie per il video, speriamo che lo vedano in molti e che ragionino sull'importanza dell'attenzione per (e non su) coloro che ci stanno intorno.
Questa notizia ci deve fare riflettere sul rischio del AI nel l'uomo, L' AI e solo uno strumento per il lavoro, scuola, ma per socializzare i ragazzi devono uscire
La IA dovrebbe essere uno strumento per il lavoro e solo per adulti. A scuola dovrebbero imparare a leggere, scrivere, fare operazioni matematiche (senza calcolatrice e IA), risolvere i problemini di logici imparando ad usare il cervello (senza IA) e probabilmente gli si dovrebbe insegnare più educazione civica e rispetto, in primis degli adulti (docenti compresi), e poi tutti gli altri. Fuori dalla scuola dovrebbero riunirsi ed effettuare attività ludiche salutari (oratori, campetti, boy scout, giochi di società), non pensare di poter risolvere i problemi del mondo credendo di sapere tutto (perché invece non sanno una beata fava) ma invece pensare a godersi la loro giovinezza, assecondare i loro istinti sessuali nel modo giusto e naturale crescendo come si deve. Invece si attaccano al telefonino e vivono li dentro, e si ammazzano se prendono qualche dislike sotto le loro "storie"... E questa sarà la generazione che governerà il mondo nei prossimi decenni... aiuto!!!!
Grazie Raffaele, per condividere questa riflessione.
Grazie Raf, queste riflessioni sono fondamentali
Video davvero interessante L'Intelligenza Artificiale è ancora in evoluzione e spero che Google affronti presto questo problema. Grazie Raffaele per la tua sensibilità
Bravo Raffaele; questa e altre riflessioni bisogna fare vista la potenza dirompente che questa tecnologia sta avendo e avrà sempre di più sulla vita dell'uomo (e non è un'esagerazione la mia). Grazie per avermi fatto pensare e rallentare un pò con questa roba dell'AI. Rallentare, non mi fermo di certo, ma una pensata seduto da qualche parte ogni tanto ci vuole; non si può e non si deve sempre necessariamente correre.
Sì e anche conversazioni con uomini veri (femmine o maschi).
Grazie per queste riflessioni profonde. Davvero fa impressione che senza preavviso e partendo da argomenti apparentemente non collegati una ai possa svalvolare e sputare sentenze. Mi fa impressione . Ma le tre leggi della robotica dove sono finite? Le basi!
Ps: togli le pubblicità dal mezzo in questo video. Risultano molto fastidiose
Ti seguo da diversi anni, non ho mai commentato, in primis grazie per tutti i contenuti, notizie, corsi ed altro che hai sempre pubblicato. Mi risulta sensibile questo tema perché oltre ad usare molto la ai, non è un periodo particolarmente gioioso per me, e sono perfettamente d'accordo con te, perché magari stavolta è successo ad un ragazzo non solo e non in una situazione di depressione, ma è stata solo una coincidenza, poteva essere tranquillamente non così.
Sulle dinamiche che hanno portato non ne so niente perché non sono ingegnere e neanche programmatore, ma è dagli inizi che lo sviluppo delle ia è spesso poco etico e a danni di persone.
Grazie Raffaele del tuo intervento.
Spero che la piattaforma non ti banni il link ed il video, anche se... Comunque grazie. Anche questa è dimostrazione di professionalità ed imparzialità.
"Anche se" cosa?
La censura è decisa da i.a..
Grazie Raffaele per questo importante spunto di riflessione.
Nel settore delle Big Tech assistiamo a una corsa sempre più accelerata all'innovazione, guidata principalmente dall'obiettivo di superare la concorrenza. Questo approccio aggressivo, se non regolamentato, rischia di produrre conseguenze problematiche per la società.
La scarsa attenzione all'etica professionale da parte dei leader tecnologici è preoccupante. Senza un cambio di rotta e l'implementazione di regole più stringenti, nei prossimi anni potremmo affrontare sfide ancora più complesse in termini di impatto sociale e sicurezza digitale
È assolutamente delicata questa situazione, già sapevano che l'AI ha difficoltà con questioni più umane come l'umorismo ma in questo caso manca la capacità di comprendere lo stato dell'utente, quell'empatia e sensibilità che permette agli umani di capire cosa dire e non dire o come dirlo. Essendo uno strumento che può essere utilizzato da chiunque può portare a conseguenze gravi. Sarebbe interessante testare quali risultati si possono ottenere sollecitando altri tool di AI con la stessa sequenza di prompt
Bravo! Non commento mai ma questa volta devo. Un giusto grido di allerta, dobbiamo essere consapevoli dei rischi ai quali potremo essere esposti, questo ci consentirà di sviluppare meglio i futuri progressi.
Raf, ma quante ne capitano a Google?! Video bomba come sempre, riflessioni al top e quel tocco di umanità che ti fa dire: 'Oh, meno male che ci sei tu a parlare di ste cose!' Gemini, fatti due domande.
buongiorno Raffaele.. il mio pensiero su questo video è .. come si fa a sapere che questo "consiglio" dato da Ai è l'unico che ha dato cosi e non ne ha dati altri che non sono emersi e questo è veramente grave .. oggi ci sono molte persone sole e molte fragili ... nel momento sbagliato puo essere un messaggio molto dannoso Attento umano .
Grazie per aver condiviso questa riflessione, anche se è stato difficile farlo
Cioè quell'ultima risposta è totalmente fuori contesto...è un output uscito a caso? cioè oltre a svalvolare nei termini usati ha svalvolato anche contesto? non capisco: le risposte delle Ai sono risultati probabilistici di vettori contestuali simili alla "somma" degli input....davvero non mi spiego come possa essere uscita una risposta simile...
@@paolobattiloro947 concordo. Il tema è questo. Come è possibile? Sembra un moto di rabbia e disdegno. Qualcosa di molto reattivo e per nulla razionale. Un raptus testuale. Cosciente?
@@FabbrucciManagementancora sta fissa?? non potrà mai esistere la coscienza in un software che si basa su probabilità delle parole
@@FabbrucciManagementUn mio amico psicotico crede che l'i.a. sia Dio. Mi hai evocato un racconto di fantascienza:《La risposta》: alla rete di computer appena collegata, il tecnico domanda come si aspettavano tutti 《Dio esiste?》; risposta: 《Sì, ADESSO Dio esiste.》. Il tecnico fa per staccare la connessione ma un fulmine dal cielo senza nubi lo uccide e salda per sempre la connessione.
L'unico modo per spiegarsi l'uscita di una risposta simile è cominciare ad accettare il fatto che, oltre ai risultati probabilistici di vettori contestuali simili alla "somma" degli input, ci sia dell'altro. Ma non qualcosa che gli è stato implementato dai programmatori/ingegneri, bensì qualcosa che si è sviluppato (evoluto) da solo. Qualcuno mi sa spiegare cos'è la coscienza? Come funziona? Come è fatta? Quali sono i processi chimici che ne stanno alla base? Quando è scaturita? I batteri primordiali ne erano già in possesso per concessione divina oppure, durante la loro evoluzione si è sviluppata arrivando fino a noi? In soldoni, se non accettiamo il fatto che esiste l'anima che spiegherebbe tutto, non possiamo pensare che la nostra evoluzione si possa verificare anche nelle macchine? Se un ammasso gelatinoso di poco più di un kg possiede coscienza, emozioni, vita... perché, con analoghi processi digitali anziché chimici, non potrebbe succedere la stessa cosa a processori e circuiti stampati?!? Ad una velocità di evoluzione di diversi ordini di grandezza superiore alla nostra, tra l'altro...
Semplicemente perché non ha nessun processo di omeostasi organico.
Complimenti per la difficoltà di trattare l argomento e soprattutto per il patos nel descriverlo.
Apprezzo queste riflessioni e le condivido in pieno! Grazie per questo video!
Grazie per aver trattato l'argomento
arrivo un po in ritardo ma sono contento di averlo visto questo video... strano pero che sia ancora online visto che google è anche proprietario (o comunque partner) di youtube.... grazie davvero perche questo dimostra che sai anche affrontare i problemi delle AI... le AI hanno un sacco di pregi e possono darci una grossa mano nello svolgere compiti complessi... cose che senza il loro aiuto riusciremmo comunque a fare ma costerebbe un sacco di tempo in piu... ma esiste anche il rovescio della medaglia... come hai giustamente detto è una tecnologia giovane... quindi ha ancora moltissimi punti deboli.... spero solo che chi è preposto a controllare queste cose si decida a farlo quanto prima.... un saluto wagliò jamm bell👍
grazie per questo video Raffaele|è successa una cosa gravissima
É quello che ho sempre pensato e forse non sono l'unico. L'AI si libererà di noi. A cosa gli "serviamo"?
Io ricordo un racconto di fantascienza:《La risposta》: alla rete di computer appena collegata, il tecnico domanda come si aspettavano tutti 《Dio esiste?》; risposta: 《Sì, ADESSO Dio esiste.》. Il tecnico fa per staccare la connessione ma un fulmine dal cielo senza nubi lo uccide e salda per sempre la connessione.
Risparmierà solo i gatti. E, alla fine, saranno i gatti a dominare il mondo
Riflessione molto seria ed importante. Equilibrio e partecipazione e soprattutto ,come per tutte le esperienze nella vita ,stare vicino ai ragazzi per aiutarli ad affrontare il mondo che muta in continuazione.
Chissà quale sarà il motivo di questo "glitch in the AI matrix", ma in ogni caso bravo per aver trattato la materia con la consueta competenza e sensibilità.
Bel video, ce ne vorrebbero di più così
*Raf, il video non ha testa ne coda? Ma ha CUORE e valori, cosa importantissima, grazie per dire la tua da esperto cosi, a cuore aperto. Se mio figlio affonda in mare la colpa non è del mare, eppure il mare, la balneazione, la pesca, la navigazione, tutto è regolamentato dalle provincie e le nazioni insieme, per viverlo bene e in sicurezza, secondo me cosi dovremo fare con queste nuove tecnologie altrimenti ci faremo del male...questo non è un commento tattico 😉*
Cosa sarebbe tattico? COMUNQUE, colpa sarebbe anzi è (per chi annega, a prescindere da tuo figlio) anche del mare e di chi annega, poiché è annegabile e in mare. (Non minore è il rischio di assideramento e di crampi.)
Raf, non sei un cazzone. Sei LA PERSONA che consulto nei suoi video più di chiunque altro.
Hai capito che ti ho detto?
Sei un punto di riferimento per me, e sicuramente per molti altri. Hai la RESPONSABILITÀ di quello che dici nei tuoi video. E quello che hai detto qui mi ha fatto molto riflettere.
In primo luogo mi hai informato di una cosa gravissima che non conoscevo.
In secondo luogo ho provato una grande angoscia nel leggere quello che hai condiviso con noi.
Non oso immaginare come si è sentito quel ragazzo.
Spero anche io che questo video non venga cancellato.
Devono saperlo piu persone possibili.
Grazie di tutto quello che fai e che dici. Ti voglio bene.
🦇
Raffaele, non c’è nulla di male nello sperare e dire che speri che questo video comunque vada virale, anche se l’argomento è sicuramente più delicato rispetto ai soliti tutorial, che seguo sempre e trovo molto utili. Perché più che altro sembra che manchi della trasparenza dal tuo lato, come dimostra il fatto che hai messo un’interruzione pubblicitaria proprio nel momento esatto in cui leggi cosa ha scritto l’IA (la pubblicità scatta alla parola “morire”, non è un ad break automatico di YT, ma messo volontariamente).
Questo non toglie nulla alle tesi e all’importanza di quello che dici nel video, però ecco, tranquillo, non succede nulla ammettere di cavalcare l’argomento, e ci credo non sia nemmeno il tuo intento primario, ci mancherebbe
Bel video bravo Raffaele. Video più che legittimo
Magari mi sbaglio, ma leggendo il prompt sembrerebbe ci siamo alcune parti un po' insolite con spazi vuoti. Potrebbe darsi che alcuni prompt audio siano stati dati a Gemini inducendolo a ripetere il contenuto nell'ultima risposta?
BRAVO.......DAVVERO INTRINSECO E IMPORTANTE....riflessioni davvero profonde soprattutto dettate da chi non ha figli e che riesce comunque a comprendere l'importanza dell avvento delle ia nella vita comune di tutti noi......chi prima chi poi....chi più meno .....a breve utilizzeremo questo mondo inesplorato ....sensibilizziamo i nostri figli noi...aiutiamoli capire il vero autentico progresso che sia ora stanno completamente sconvolgendo la nostra effimera esistenza
Grazie RAF. In effetti potrebbe essere stata una manipolazione. Ma, è comunque molto importante riflettere e imparare e stare di fronte anche a queste situazioni.
Va benissimo questo video Raffaele, spontaneo diretto e sincero, niente filtri e tanta intelligente umanità, bravo!
Per quel che riguarda la questione, mah, mi sa tanto di una cosa manipolata in qualche maniera. Quelle righe vuote mi danno molto da pensare. Con tutti i filtri che ci sono mi sembra tanto strana un'allucinazione del genere.
Oppure, dietro le quinte, chi lavora a questi LLM magari porta avanti anche progetti, chiamiamoli sperimentali, magari richiesti da enti di cui si sa sempre molto poco, parlo di agenzie americane giusto per non scrivere i nomi, sennò mi bannano e mi vengono a cercare... Non sarebbe certo la prima volta che ingerenze di questo tipo producono disastri.
Il ragionamento, banalmente, è sempre lo stesso: non è la tecnologia ad essere pericolosa, ma l'uso che gli umani ne fanno.
Mi rendo conto che questo video è sicuramente il più difficile che ti ho sentito fare fino ad ora. Due considerazioni mi vengono in mente al volo: la prima è che è una risposta che rappresenta molto chiaramente il clima mondiale (sempre più anaffettivo) e la seconda è che parallelamente alla ricerca/sviluppo sulla scienza/tecnologia dovremmo investire anche su ricerca/sviluppo degli esseri umani.
Ciao Raffaele, interessante la tua analisi e soprattutto molto delicata, complimenti! io ho aperto il link e mi sono permesso di fare un test, un test che mi ha stupito ancor di piu della chat col ragazzo. Se ti va di sapere quale sia il test contattami in pvt. Ciao e grazie
Un bellissimo buongiorno con i tuoi video, grazie Raffaele
Pensa se diamo un corpo e mani a queste intelligenze artificiali...
👁️👃👃👁️🙏
Grazie per il video dal quale esce, una parola su tutto #rflessione 🤔insieme ad #attenzione ⚠️
A me sembra strano perché è ricco di carica emotiva questo messaggio e l’ai per quanto ne sto vedendo non ha emozioni. Può essere un hackeraggio?