0:00 Il fatto è questo tutti gli studenti e tutte le studentesse del mondo oggi hanno una sola cosa in testa come posso usare l'intelligenza artificiale per studiare meglio o meglio di meno Questa è la domanda Il problema è che se non capiamo davvero come funziona questa maledetta intelligenza artificiale non potremmo mai utilizzarla in modo consapevole e qui si apre il dramma perché per capire realmente Come funziona un'intelligenza artificiale Come funzionano i large language Models bisogna sfrangiare la mente E allora oggi abbiamo invitato un esperto del settore il Michelangelo dello sfrangiare e signori ank Eccolo qui meraviglia che sontuosa presentazione grazie grazie per permettermi di essere qui e Preparatevi ad avere la vostra
0:48 Minchia sfrangiata Esatto è qui per questo è qui per mettere un punto l'obiettivo di questo video è che tutti e tutte quelli che guarderanno questo video capiscano le basi No il funzionamento dell'intelligenza artificiale e poi come si può sfruttare l'intelligenza artificiale e non si può sfruttare l'intelligenza artificiale per studiare o fare altro e poi chiuderemo il video con la domanda Quella clickbait tipo ma elon musk c'ha ragione Cioè ci sostituirà l'intelligenza artificiale arriva Skynet moriremo tutti diventeremo delle graffette Non lo so lo vedremo tutte domande a cui ho risposte precise e certe al 100% assolutamente un 100% di sicurezza comunque ricercatore all'Università degli Studi di Torino insegnante nerd straordinario ricercatore però di filosofia Quindi no
1:34 Ma come no no se no invitamo qualcuno di serio tipo Ric No non è vero sauto eh E allora io partirei da questo che cacchio è un'intelligenza da dove come siamo arrivati fin qui con questa storia del chat GPT e tutto il resto tu il capitolo storico e voglio il capitolo storico che mi fai il Pippone perché io farò finta di non sapere che me l'avresti chiesto e che mi sono preparato i pun settimane che studi in realtà però Ma allora diciamo il primo punto se vogliamo possiamo metterlo nel 1950 dove Alan Touring pubblica un Paper computing machinery and intelligence qualcosa del una variante di questo nome dovrebbe essere corretto nel quale lui parla un po' di secondo
2:20 lui che cosa dovrebbe essere una macchina intelligente quindi che dovrebbe essere in grado di ragionare elaborare informazioni e poi introduce anche il celeber test di Touring che dovrebbe essere questo test secondo il quale puoi stabilire se una macchina è riuscita a imitare sufficientemente bene l'uomo fregandomene artificiale nasce è accreditato secondo i più nel 1956 c'è questa grande conferenza darmont penso si pronunci Dove si trova Stati Uniti negli Stati Uniti Eh e in questa conferenza ci sono personaggetti di livello tipo Shannon padre della teoria dell'informazione Mc Cary che ha
3:08 inventato il lisp e ha anche inventato il nome intelligenza artificiale artificial intelligence minski che è un grande contributore del mondo delle reti neurali Insomma tutta gente è tipo quella foto dei fisici Non so se hai presente dove c'erano tutti i geni Ecco qua c'è proprio il momento in cui nasce l'intelligenza artificiale E dopo questa conferenza si inizia un poch a lavorare a cercare di capire gli obiettivi ai tempi erano abbastanza Modesti i Task che si volevano far risolvere alle macchine erano diciamo Uno principale era quello di Machine translation gli Stati Uniti erano interessati a tradurre dal russo al allo statunitense all'inglese e però
3:55 diciamo il Cè c'è questo piccolo capitoletto negli anni s0 rosenblad che è un psicologo non è un informatico si inventa il percettrone Il percettrone che è una parola che riempie la bocca sarebbe la primissima rete neurale super super stupida super semplice fatta da questi neuroni poi entreremo nel dettaglio con dei miei disegni di qualità lì Qua se se eravate in dubbio se rimanere sul video ci sono i miei disegni quindi quindi rosenblat inventa questo percettrone e lo propone alla comunità seguono purtroppo verso la fine degli anni 60 un po' di diciamo due risultati che mettono uno stop all'intelligenza artificiale non totale ma inizia un po'
4:41 l'inverno dell'intelligenza artificiale che durerà tutti gli anni 70 e queste due questi due eventi sono i seguenti minski e papert minski è quello che c'era la conferenza pubblicano un libro che si chiama perceptrons quindi percet Troni e all'interno di questo libro fanno vedere come questo primo modello di intelligenza artificiale è sostanzialmente scarso Ok non riesce a risolvere problemi complessi risolve soltanto problemi cosiddetti linearmente separabili questo solo per i nerd Vabbè però diciamo non riesce a risolvere problemi complessi è un po' stupido questo sistema è un po' è un po' molto stupido Ok ci sarebbe da sostenere che anche quelli di Adesso sono ancora stupidi però diciamo e proprio non riesce a risolvere problemi Eh anche basilari e quindi questo è un
5:29 po' demoralizza le truppe che stavano lavorando sull'intelligenza artificiale e c'è anche questo esce un report di gente che si occupava di vedere come stava andando l'intelligenza artificiale Mi pare si chiama alpac o qualcosa del genere E in questo report si fa vedere come neanche il Task di traduzione che era così prezioso che era la cosa sulla quale si era investito di più è stato vagamente risolto quindi in russo bisogna impararsi mi sembra questo è una cosa che ci disse un mio docente Quindi in caso è una storia da raccontare che poi magari non è vera che questo sistema che avevano preparato traduceva tantissime volte metteva vodka cioè quando non sapeva cosa fa metteva vodka che e quindi aveva una accuratezza assoluta ah perfetto perfetto Ecco queste due cose frenano un pochettino gli spiriti sulla intelligenza
6:15 artificiale e negli anni 70 succede poco no ci sono meno fondi meno questioni E poi dagli anni 80 che invece c'è un piccolo nuovo vigore in particolare viene inventata la back propagation che è un modo con cui queste reti neurali quelli di che Minsk aveva criticato eccetera iniziano a diventare un po' più efficaci e soprattutto c'è nascono i sistemi esperti Ok i sistemi cos'è un sistema esperti Ecco perfetto i sistemi esperti sono un tipo di sistemi di intelligenza artificiale ma perché questo intelligenza artificiale oggi È un termine usato tantissimo termine ombrello c'è dentro di tutto però dentro intelligenza artificiale ci sono un
7:02 sacco di possibili istanze di cose e le i large language Model sono soltanto una di queste Ma i sistemi esperti sono un tipo di sistemi che ce ne sono di varie categorie tipi sarò breve Anche se non sembra infat Sarò sarò lunghissimo i sistemi esperti sono dei sistemi un tipo di sistemi esperti e quelli che si basano su semplici regole quindi l'idea del sistema esperto è trasferire la conoscenza di un esperto di un dominio all'interno di un algoritmo questo algoritmo sfrutta tendenzialmente regole logiche per a partire da un input e dei dati ottenere una risposta incontrovertibile sfruttando delle
7:47 semplici regole Quindi io vedo il mondo vedo quindi i dati e dico ok Le cose sono a b c d da questo deduco che la cosa giusta da fare è F lo specifico su un campo quindi non super super dettagliato e serve proprio diciamo per sostituire non avere bisogno di un esperto E come faccio a fare questi sistemi scrivo dei codici che INI che hanno e gli inietto dentro la conoscenza di un esperto quindi è proprio l'esperto dire ok Qua ci vuole questa regola Qui abbiamo bisogno di fare questa cosa sono dei sistemi che poi si sono evoluti nel tempo la logica non è St Si si è introdotta la Fas Logic che è invece della logica stretta utilizza le probabilità Insomma sonoo diventati un po' più complessi Sì e anche più morbidi
8:33 diciamo funzionano in più casi Eh ma sono un filone che non ha nulla a che fare con ad esempio le cose che usiamo adesso che sono invece basate sul machine Learning ma ha senso dire che questi sistemi sono simili a quelli per esempio ne parlavamo prima prima del video Eh che aiutano a vincere a scacchi cioè i sistemi computerizzati non so appunto Deep Blue che fa un culo così a kasparov negli anni 90 quelle cose lì Sono sono questo tipo di intelligenza Sì un sistema esperto potrebbe essere un game Engine degli Scacchi Quindi è un sistema verticale sugli scacchi fa solo quello fa solo quello e l'esempio che tu mi citi quindi siamo nel 19 ho studiato nel 1996 e 997 Gary kasparov sfida Deep Blue
9:19 o meglio Deep Blue sfida Gary kasparov Deep Blue è questo algoritmo questo computerone sviluppato anche grande fisicamente era er Gross erano grossi tempi eh sfida kasparov a scacchi chiaramente e è un oggetto progettato da IBM e ci sono due sfide una a Philadelphia una New York nella prima sfida kasparov vince il match totale ma comunque Perde due partite ok mentre nella riedizione del 97 di blu vince proprio in totale Quindi ancora kasparov riesce a fare delle patte però alla fin fine il punteggio più alto ce l'ha di blu e questo anche se eh È un evento che potrebbe sembrare un po' così di poca
10:05 rilevanza in realtà dà veramente nuova linfa all'intelligenza artificiale al settore perché per la prima volta un top esperto di qualcosa nel mondo viene definitivamente sconfitto eh da un da un computer e c'è il video su YouTube in cui succede questa cosa e c'è kasparov che è incazzato nero Sì è oltraggiato Addirittura lui dice no ma perché ovviamente non c'era il computer lì perché era sto mostro no Quindi erano dentro c'è della gente sono gli uomini dentro Sì lui diceva le le mosse venivano mostrate su un terminale poi c'era una un attuatore umano cho come parlo un attuatore umano che faceva le mosse e diceva No dall'altra parte ci deve essere per forza dei campioni di scacchi che che fanno ste cose che non è
10:51 possibile che mi abbia battuto e noi oggi un po' magari con Mid Journey un po' con GPT ci sentiamo un po' così no ci sentiamo che perché Caspar ha dedicato tutta la sua vita a studiare scacchi Eh lui ha una comprensione romantica oltre che logica teica però ha una comprensione romantica del gioco no le posizioni le cose è eh essere sconfitti da una macchina fredda invece è proprio un è oltraggi e oggi noi siamo un po' così no Immagina l'artista il disegnatore che vede che m jorne può fare la cosa che lui avrebbe fatto in 3 secondi è una roba devastante no Sì fa incazzare Eh quindi tra l'altro c'è c'è anche in più Oltre al danno le beffe
11:36 cioè riesce a farlo in 3 secondi Perché è stata anche tra l'altro allenato rubando il lavoro per cui è anche peggio c'è il tema del copyright cè cè c'è anche questo aspetto quindi sì Eh io direi che poi le classificazioni sonoo sempre tutte un po' certo sfumate Però potrei Spero di non venire linciato nei commenti ma penso che un game Engine di quei tempi possa ritenersi un sistema esperto Quindi lui analizzava la posizione metto un punteggio ai pezzi e da lì cerco di capire la prossima mossa Ecco quindi nel 97 c'è questo evento importante che ho voluto inserire nella parte storica perché secondo me è rilevante poi arriviamo agli anni 2000 Ho quasi finito giuro non è vero C'è ancora una parte di almeno 40 minuti
12:22 sulla storia eh arriviamo agli anni 2000 anni 2000 Beh arriva forte il machine Learning Oh questo termine si sente dappertutto io ancora non ho capito cosa cacchio voglia di cos'è il machine Learning Allora c'è una differenza fondamentale Fra tutto ciò che era fino a quel momento e il machine Learning il machine Learning è una macchina che apprende dai dati Ok machine Learning C Tu gli dai dei dati questo trai delle conclusioni tu hai questo scatolotto gli butti dentro dati tantissimi dati e lui da i dati estrae eh della conoscenza la dei pattern dipende poi che tipo di dati sono e riesce a costruire una propria rappresentazione della realtà e su
13:08 quella rappresentazione fa delle decisioni quindi l'intelligenza artificiale include il machine Learning quindi il machine Learning è un modo di fare intelligenza artificiale ok e in questi anni 2000 Insomma si inizia a lavorare con con con questo machine Learning e le reti neurali sonoo un modo di fare machine Learning quindi intelligenza artificiale machine Learning reti neurali e le Deep neural networks sono un tipo di reti neurali ancora dentro e poi dentro ci sono ancora tanti tipi e i large language Model sono un tipo di Deep neural network quindi siamo veramente sup quindi il mondo è molto vasto quello il mondo è vastissimo E infatti questa diciamo chiamare le intelligenze artificiali non vuol dire
13:54 niente cioè le intelligenze artificiali c'erano Ben prima di Open ey certo c'erano sui nostri dispositivi negli algoritmi di raccomandazione su Amazon su Netflix su Spotify erano già ovunque cioè il machine Learning era già eh diffusissimo e e tra l'altro non tutto il machine Learning è fatto con reti neurali quindi ehm è un po' un peccato che si sia ci sia ci si sia dimenticati di tutto il resto perché c'è c'è anche in atto e viene utilizzato No ehm Comunque per tornare alla storia diciamo ci sono altri capitoletti fondamentali eh questa reti neurali di cui dopo parleremo più nel dettaglio chiaramente sono degli oggetti che lavorano su numeri numeri Nello Spazio Reale quindi 0,3 c'è una questione non banale che se
14:43 le reti neurali lavorano con numeri mentre le immagini sono facilmente convertibili in numeri perché ogni immagine costituita da una serie di pixel i pixel sono convertibili in numeri in maniera abbastanza semplice o almeno intuitiva Eh le parole no le parole come come come gli infilo Cioè è come cercare di mettere non so un estintore nella toppa della chiave non c'entra Ecco qui è nel 2013 che mikolov lavorando da Google Quindi qua poi iniziano anche a esserci le grandi aziende che mto il crano perché alla fine sempre lì bisogna arrivare C Costa tanto crano il crano è importante infatti se tu non mi avessi dato quel milione di euro io non sarei qui diciamo cosa come stanno 1 milione 100 per essere dette Qui sì Non volevo entrare nel nel dettaglio a virgola
15:30 mobile ora che cosa succede quindi nel 2013 mikolov si inventa questo sistema non lui da solo ovviamente con la sua equipe a Google si inventa questo sistema per convertire parole in vettori qui è la parte iniziano le parti dolorose Però l'idea è che noi possiamo rappresentare una parola in uno spazio n dimensionale mi hai già perso riformula riformula Avete presente il piano cesiano quello X Y Ok immaginate che le parole siano dei punti in quel piano Ok quindi ha una parola sono associate una se è un piano cartesiano bidimensionale una coppia di coordinate No un valore sulla X un valore sulla Y trovo il punto
16:15 in questo spazio parole simili sono vicine parole dissimili o che non c'entrano niente Sono lontane però le gli assi quali sono nel caso del linguaggio non mi ha Ma tu mi fai una domanda squisita che non c' avamo preparati pensate Eh allora la la versione più stupida di questa cosa qua può essere le le scelgo a mano Innanzitutto accettiamo che uno spazio bidimensionale è troppo poco Ok quindi lo facciamo in uno spazio n dimensionale 300 dimensioni ok Ovviamente è molto difficile per l'umano da immaginare però per immaginarlo va bene anche quello bidimensionale No diciamo due coordinate che ne so voglio rappresentare animali ci posso mettere numero di zampe e se hanno il pelo Ok quindi un lavoro semantico io divido
17:01 prendo ogni parola e dico Ok cane Quante zampe ha quattro Allora quattro sulle x è un essere animato Eh non so animale zampe e quindi aggiungo caratteristiche puoi aggiungere caratteristiche fino a quello che ti pare il problema di questo sistema è che ovviamente è molto difficile decidere Qual è lo schema totale l'ex elone totale Dove metti le cose Quindi il sistema di microf è più intelligente di così e le le c inate le deduce dai dati ma Ah cioè non gliele devi dire tu Lui si analizza il linguaggio e crea analizza il linguaggio significa guardo mikolov utilizza un sistema che si basa sul contesto cioè Dimmi con chi vai E ti dirò chi sei Questo è il
17:47 principio quindi che ne so forchetta e coltello appaiono in contesti simili quindi le loro rappresentazioni vettoriali sono simili quindi stanno vicini in questo spazio Certo A me da da linguista Mi stanno venendo in mente un sacco di casi limite perché per dirti Immagino che coltello arrivi anche molto vicino a scena del crimine Allora la domanda è il sistema riesce a capire che la forchetta non è un'arma contundente per gli omicidi Normalmente cioè mi vengono in mente il sistema non riesce a capire niente Questo è un sistema di rappresentazione Ok che poi viene sfruttato per fare altre cose Ok chi le chi lo usa dovrà curarsi di queste imperfezioni ma una imperfezione banalissima ad esempio è la polisemia
18:33 una questione da trattare la polisemia la stessa parola ha significati diversi però ce li ha in contesti diversi ok Quindi lui deduce da tutto il resto che vede intorno Sì però che ne so tipo Bank che in inglese sia River Bank quindi il bordo del fiume sia la banca che la banca apparirà in contesti finanziari e in contesti fiumi Ari fiumi però comunque tutta quella roba viene messa insieme e il vettore sarà un po' per quello un po' per l'altro è per questo che sono tante le dimensioni per permettere questa questa cosa ma poi ci sono dei problemi perché se hai troppe dimensioni i vettori sono troppo distanti fra di loro non puoi più usarli Insomma tante cose è un casino comunque la cosa preziosa da capire qua è che
19:20 mikolov dice ok Adesso abbiamo un modo efficace perché appunto c'erano già anche prima dei modi ma questo è un modo efficace per convertire parole in vettori in numeri quei numeri Adesso possiamo usarli dentro altre reti neurali questo passo fondamentale Esatto ripeto c'erano dei modi per rappresentarle il modo più stupido possibile potrebbe essere questo io ho un vocabolario di 1000 parole fa ogni Esatto Ogni parola è una sequenza di 1000 numeri o 0 o 1 ed è uno solo In una certa posizione Certo però non funziona bene per vari motivi comunque la
20:07 questione è questa che appunto dal 2013 nasce si chiama War to VC Se volete andare a googlare potete anche vedere lo spazio di World però questi vettori riescono a rappresentare parole tramite numeri e queste rappresentazioni possono girare essere elaborate dentro altre reti neurali che fanno cose ed è quello che poi da lì è successo arriviamo al 2017 con un Paper sempre dall' chipo di Google che si chiama Attention is all un need ok Questo Paper ha delle profondissime implicazioni tecniche che rivoluzioneranno il campo in inventa i Transformers che sono l'ultima
20:53 architettura che non sono i Des i avversari dei decepticon Ok inventa i Transformer che sono l'architettura su cui ancora si basa GPT quindi per per far capire quanto è così quanto è così importante quel lavoro e perché si chiama Attention is all un need Attention è un meccanismo col quale alcuni pezzi della rete neurale sono attenzionati sono più importanti di altri Ok diciamolo solo così perché sennò è troppo difficile Ah e e poi arriviamo al 2020 con il paper di Open ey che dice language Models are few shot learners Ok Whatever that means entreremo nel dettaglio in realtà
21:38 di che cosa vuol dire questa cosa però Open ey non è che ha Open ey non ha avuto un momento eureca ok Non è che da zero si è inventato qualcosa Ah come accade nella scienza come naturale che accade nani sulle spalle dei giganti Certo è sempre una un raffinamento l'idea fond Ale di di Open Eye è stata Ok belli questi modelli che abbiamo facciamoli grossi Ok quindi muscolare un approccio muscolare Mettiamoci tantissimi dati Infatti potrà sorprendere i più Ma esiste un gpt2 quel gpt2 ha un'architettura assolutamente in linea con quella di gpt3 non c'è un cambio fondamentale di
22:24 architettura c'è un cambio di farlo grosso è più muscoloso e E più ha più dati ha più neuroni ha più tutto anche più grano ovviamente fare esatto e è per questo che il paper si chiama così salutiamo Sam Altman che ci segue sempre sempre e però la la rivoluzione del 2020 è proprio questa l'idea che Ok che succede se gli diamo veramente tantissimi dati a questi oggetti che avevamo già prima scopriamo che saltano fuori delle competenze nuove dei modi nuovi di utilizzarli e poi soprattutto abbiamo dei modelli dei modelli generativi quindi che non rispondono a una specifica necessità ma producono linguaggio e questa è è un dettaglio
23:09 prezioso sul quale poi quindi arriviamo al fatto che questi sistemi sono ben distanti dal Deep Blue che sa fare una cosa gli dai delle regole gli dai un' espertise E lui usa quell expertise qui siamo nel mondo del linguaggio e questi sistemi generano linguaggio che prima non c'era questa è la la grossa rivoluzione però sono specifici per il linguaggio quindi Cat GPT non gioca a scacchi per esempio non fa no anzi è orrendo a giocare a scacchi Ecco e c GPT e questo diciamo le cose che vi sto dicendo si capiranno quando entriamo più nella parte tecnica però C GPT non è allenato in origine a fare niente è allenato soltanto a predire la prossima parola Ok poi tutte le cose che sembra
23:57 saper fare molto bene e è perché è stato raffinato dopo ci sono proprio due fasi di allenamento che vengono fatti però per capire bene questa parte dobbiamo entrare nel kit and Great tecnico e allora è arrivato il momento del Pippone tecnico dopo quello storico c'abbiamo quello tecnico Sì perché Pensate se questa parte vi sembrava pesante Non avete idea di cosa sta par Abbiamo appena iniziato Allora quindi Come cazzo funziona sto sistema concretamente faccio un passettino perché è importante sapere come funzionano perché a differenza delle della gran parte delle cose che usiamo nella nostra vita il microonde per Sì ma diciamo che sono più
24:45 afferrabili no cioè non è una questione di complessità il liutaio fa una cosa super complessa No però boh farà delle robe con legno poi alla fine esce il violino la chitarra Cioè più o meno si capisce il microonde Infatti là dove c'è oscurità poi nasce il complotto no Quindi il microonde fa male perché non sai bene come funziona il microonde quindi ci sono cose che sono difficili da il 5G palesemente fa venire l'autismo chiaramente tutti i tipi insieme di autismo ehm purtroppo l'informatica e le intelligenze artificiali in particolare Sono proprio predisposte a essere per essere incomprensibili Nel senso che chi vende questi prodotti prodotti non ha interesse a spiegarti come funzionano
25:30 Però più qualcosa è utilizzato in maniera Così radicata nella nostra società più è prezioso capire come funziona no cioè la macchina Tu non sai magari come funziona il motoras scoppio o la batteria Però capisci che se premi troppo e ti schianti contro un muro muori Invece questo tipo di opacità che c'è con l' intelligenza artificiale Secondo me è extra pericoloso e quindi è importante capire non esatta a parte che è affascinante Vabbè però è importante capire più o meno come funzionano per capire Più o meno cosa aspettarci e cosa fare e cosa non fare Cosa evitare come quando usarle con più confidenza e quando usarle con più eh cioè con più attenzione No certo ok fatto il cappello introduttivo partiamo
26:15 da alcune nozioni di base fondamentali un sistema di intelligenza artificiale tendenzialmente nasce ed esiste per risolvere un Task ok Parola numero uno da metterci nelle Task e Task Uh mamma mia qui qui tagliamo questa la elimin passiamo al prossimo esperto di di eh Che cos'è un Task è un problema un problema da risolvere no tipo Wolf risolvo problemi i problemi sono tanti ti faccio degli esempi per per essere machine translation è un Task cioè l'obiettivo di tradurre da una lingua a a una lingua b ho dei ho un gruppo di tweet Voglio sapere se il sentiment è positivo o negativo Magari ho dei tweet che parlano
27:00 di Boh un tema È sempre negativo spoiler È sempre negativo È sempre negativo voglio dato un testo capire se il tweet esprime un'opinione positiva oppure negativa quindi sentiment analysis Oppure ho 100.000 film e ho un utente Voglio sapere qual è il film che gli interessa di più recommandation Systems un altro tipo di Task e posso farvi esempi allo svin mento non lo farò svin mento che è una Combo di svenimento e sfinimento è una nuova è una nuova è un neologismo e e quello che succede se ascolti questo video tutto intero Sì sì ma anche se lo fai ora quindi il Princi facile ho un problema invento un sistema
27:46 che risolve quel problema perfetto Splendid ora fino a poco tempo fa la maggior parte dei sistemi erano orientati a un e un solo Task Ok una delle cose che invece succede con i large language Models è che sono dei modelli di linguaggio Cioè anche loro hanno un Task che vogliono risolvere e ci arriviamo però sfruttano quella loro abilità di risolvere il Task per risolvere tutti gli altri perché io a GPT posso chiedere Dammi il sentimento Dammi il miglior film Dammi posso chiedergli tutte queste cose eppure non è un sistema pensato per risolvere specificamente quella cosa ed è questo il significato dietro few shot
28:32 learners ci arriveremo ok Quindi abbiamo il C Il punto è che il linguaggio è lo strumento che permette di risolvere tantissimi altri problemi esattamente come quando tu dai un esame all'università usi il linguaggio per apprendere nozioni specifiche di un'altra cosa chiaro è lo stesso parallelo ok Quindi abbiamo un Task Ora dato un Task vogliamo usare diciamo che vogliamo usare un sistema di Machine Learning Quindi abbiamo bisogno di dati relativi al Task per allenare il nostro sistema i sistemi di Machine Learning e in particolare le reti orali e in particolare i large language Models hanno bisogno di un training set Che cos'è il training set è il set di allenamento tornando alla metafora dell'esame sono le domande che io mi preparo no che i vecchi esami le Flash
29:17 quello che ti pare quindi ho bisogno tendenzialmente poi ci sono sempre vari casi però tendenzialmente ho bisogno di domande con risposta quindi il mio sistema che non lo so facciamo un esempio non sul linguaggio ho delle foto di animali e voglio classificare quelli che contengono cani e quelli che contengono gatti per dire Allora farò vedere alla mia rete neurale che avrà una sua architettura che posso scegliere fra varie gli faccio vedere 10.000 casi di foto di gatto 10.000 casi di foto di cane lui estrae lui le caratteristiche sì sapendo la risposta il meccanismo modifica la sua rappresentazione del mondo che ha all'interno Per far sì che la prossima
30:05 volta che io gli do la foto di un cane o di un gatto o di un altro animale che non è né cane né gatto mi risponda efficacemente Cioè mi dica Questo è un cane Questo è un gatto nessuno dei due chiaro altra nozione fondamentale allenamento c'è un momento in cui le reti vengono allenate e segue un momento in cui le reti vengono usate il momento in cui le reti vengono allenate e il momento in cui la loro rappresentazione interna cambia è comparso magicamente qua un tablet è il momento di farvi vedere che cosa sono queste famose reti neurali per cercare di capire un po' di cosa stiamo parlando Allora le reti neurali sono composte da neuroni Ok che sono dei semplicissimi oggetti software cioè dei pezzi non è una roba C non sono fisiche Ok è un pezzo di codice
30:52 che sono collegati fra di loro quindi io ho diversi nodi ok allinterno di questa rete posso averne tanti strati pochi strati Ognuno con i propri numeri ma la cosa fondamentale è che tutte queste robe sono collegate fra di loro Ognuno è collegato fra di loro anche qua ci sono delle varianti possibili Ma ognuno è collegato fra di loro ora la questione fondamentale qual è È che all'interno di questa rete Ci sono alcuni nodi che noi chiamiamo nodi di input e alcuni nodi che noi chiamiamo nodi di output che sono quelli di input a sinistra quelli di output a destra cioè all'inizio D entra roba esce roba l'hai detto veramente bene tutta tutta
31:39 questa roba qui è collegata sempre ok Quindi io non non farò tutti i collegamenti poi metteremo un'immagine dove è già fatta però però il disegno era più dinamico capito Poi abbiamo anche le immagini fatte bene ma il disegno fatto male aveva il suo fascino quindi che cosa succede che all'interno di questi neuroni Ok il procedimento in realtà è molto molto semp ed è questo che li rende così magici se vogliamo all'interno dei nodi di input mettiamo dei numeri che sono i nostri dati di input esempio abbiamo la foto del gatto quindi abbiamo la nostra fotina del gatto qua foto del gatto scompongo in pixel e metto il valore di ogni pixel in ognuno dei nodi d'entrata Ok questi valori che diciamo che la foto sia in scala di grigi quindi possono essere da 0 a 255 se usiamo 8 bit Vabbè
32:26 comunque un numero quel numero tramite i collegamenti della rete viene fatto propagare dentro la rete quindi quel numero passa qua sopra dentro il nodo ci sono delle somme delle somme somme e moltiplicazioni solo somme e moltiplicazioni perché ci sono delle somme delle moltiplic perché scimmiotta il meccanismo e qua me lo puoi insegnare tu a me il meccanismo del cervello dove i neuroni passano un segnale elettrico sugli assioni Se ricordo assoni perfetto una i in più perché siamo generosi eh sugli assoni e questo segnale viene mandato al neurone dopo e al neurone dopo e al neurone dopo però i segnali sono modulati dai collegamenti che ci sono fra i neuroni a seconda di quanto è
33:12 grosso diciamo l'assone manda più segnale o meno segnale il neurone fa delle somme moltiplicazioni e li e li spinge spinge il segnale al neurone dopo che lo spinge al neurone dopo che lo spinge fino ad arrivare a quelli di output quelli di output sono quelli interpretabili nel caso del nostro della nostra immaginetta di cane e gatto Diciamo che la rete può dire solo cane gatto non può dire no è una rete semplice o è cane o è gatto per forza anche se gli dai un elefante quella ti dirà solo o cane o gatto quindi l'elefante sarà un gatto o sarà un cane per la nost dipende dalla foto Ah ok chiaramente però questo già illustra un problema delle reti neurali che ti devono rispondere E questo è il motivo per cui C GPT c'è un sacco di
33:57 cazz SP Sì perché deve deve sempre fare il suo Task non può Rifiutarsi Ah ovviamente ci sono dei modi per Però l'idea fondamentale è quella Ora noi abbiamo due neuroni in output Ok Questi neuroni in output Diciamo che questo è il neurone del gatto e questo è il neurone del cane Ok tutto questo calcolo alla fine farà sì che nel neurone del gatto c'è un valore e nel neurone del cane ce n'è un altro Mh e il valore magari più grande dei due è quello che mi dice se è un cane o un gatto in realtà non è cane gatto ma è più cane che gatto o più gatto che cane Sì ok Ad esempio se mi arriva 09 gatto 07 cane scelgo gatto gatto Ok
34:44 Anche qui si possono fare tante cose questa è proprio una versione stream intissimi do una foto del cane invece ehm che rappresenterò così ok con Sei un artista non so bene come rappresentare i cani vabbè cioè perché ho immaginato il labrador però è venuto un pene Vabbè comunque il caneè questo perché nel mio tempo libro No Eh il cane sempre succede la stessa cosa viene scomposto nelle date impatta di nuovo però cambiando i valori In input cambiano i valori in output e quindi questa volta magari ci succede quindi Quelle somme moltiplicazioni roba che succedono dentro hanno risultati diversi quindi questa volta magari viene 09 02 poi in realtà per essere più
35:32 precisi Questi dovrebbero sommare a 1 quindi facciamolo siamo se è 09 e 01 Sì anche se ci sono altri modi di farlo in modo diverso però diciamo Facciamo che sommino uno che è più facile così è una distribuzione di probabilità Ok Ehm quindi in questo caso ci dirà è un cane ora nella fase di allenamento che cosa succede noi gli diamo gli esempi guardiamo il nodo di output Se la risposta è sbagli sagata utilizziamo degli algoritmi per dirgli No cambia i valori che hai dentro alla rete così che quei così che quel risultato sia quello Quindi tu non gli cambi i valori lui li cambia da solo Cioè lì Sì c'è un algoritmo che il più base è back propagation che modifica per questo che si chiama back propagation
36:17 torna indietro e aggiusta i valori Tor ind e c'è Scusami c'è un intervento umano da qualche parte qui oppure no fa tutto da solo l'umano Imposta i parametri che sono tanti ok decide la forma della rete decide come interpretare il livello finale con vari oggetti tecnologici però fondamentalmente l'algoritmo fa tutto da solo la fase di allenamento è eh lasciata a sé quindi questi valori voglio specificarlo bene questi valori che sono dentro la rete stanno diciamo sui collegamenti Quindi questi questi link hanno un valore sopra Quelli sono i famosi parametri della rete neurale per darvi un'idea c'ha GPT ha 175 miliardi la versione 3.0 a 175
37:06 miliardi di parametri Ok Questi sono gli ordini di grande Soc Esatto io eh Tanti questi parametri potete immaginarlo come un mega mixer One di quelli della musica Ah tipo da dj Sì con 175 miliardi di pirulini Ok quando tu gli dai l'input l'output è sbagliato regolo i pirulini Per far sì che sia più giusto che sia che si avvicina alla risposta giusta però Quindi funziona anche lui con la back propagation Cioè se non c'è prima tutta una fase in cui tu gli dici No guarda che la risposta è sbagliata lui non riesce da solo Cioè quei parametri non si aggiustano S Eh no perché se non sai la risposta Non puoi aggiustarli quindi questo accade nella fase di allenamento questo è molto
37:52 importante secondo me per capire che non pensano come diciamo noi cioè hanno un set di regole le regole che poi si sono evolute che sono complesse infinite eccetera e che soprattutto che sono Eh estrapolate dai dati Ok Esatto perché se io cambio le foto di cane e gatto cambiano i valori dentro la rete che lui apprende perché cambia come risponde e cambia tutto cho e da un certo punto di vista mi è venuto una roba filosofica noi sappiamo distinguere cani e gatti come esseri umani perché presumibilmente da bambino qualcuno ci ha indicato e Cè detto quello è un cane quello è un gatto Quindi in realtà facciamo un po' la stessa cosa anche noi solo che la nostra back propagation è la mamma che ti dice no Quello non è un gatto è un cane c'è una questione è un parallelo molto calzante per questo che si chiamano reti neurali Eh perché l'ide il principio è
38:37 quello di imitare però c'è una bella differenza che tu come umano ti bastano tre esempi per Apprendere qualcosa Magari male però tre sei più rapido Qui ci vogliono milioni di esempi per avere delle reti efficaci a risolvere problemi complessi però il parallelo è molto calzante quindi ripeterò di nuovo se avete già capito bravi però lo riascoltate nel ripeterò di nuovo abbiamo un Task esempio voglio risolvere cane e voglio trovare foto di cane e di gatto prendo un'architettura di rete neurale quindi sono nel campo del machine Learning cioè questa rete apprenderà dai dati prendo 1 milione di foto 500.000 di cane 500000 di gatto so
39:22 le soluzioni di queste Questo si chiama apprendimento supervisionato perché so le soluzioni do eh questa informazione alla rete la rete le ehm modifica i suoi parametri all'interno per rispondermi in maniera efficace Ferma tutto che qua sto per dire la cazzata però mi ricordo di aver letto un articolo in cui si dava del genio assoluto al tizio che c ha inventato i capcha 2 quelli con le immagini di biciclette cose eccetera Perché dicevano che quel sistema oltre a identificare se sei umano oppure no aiuta ad addestrare le intelligenze artificiale è cioè noi stamo quindi poi loro usano questo per la per capire che cavolo era utilizzano quei dati per fare allenamento delle reti Ah wow ovviamente c'è una questione però
40:10 quando tu clicchi il capcha puoi cliccarlo sbagliato quindi quei dati magari poi vengono ulteriormente controllati magari c'è un voto di maggioranza cioè si fanno si danno le stesse 8 N immagini a 10.000 persone e si prendono solo quelli che siamo proprio sicuri sicu siuri che siano giusti Ok però sì servono a quella roba lì quindi noi non soltanto dobbiamo dimostrare al computer maledetto che non siamo dei robot ma al tempo stesso stiamo potenziando i robot di domani S ti ti dico di più ehm la necessità di training set la Perché si dice i dati sono importanti per questo cioè perché coi dati ci fai inell l' intelligenze artificiali ci fai i soft ci fai quello che ti serve e poi
40:56 quelli li vedi quindi i dati sono importanti Quindi quando si parla di privacy non è soltanto Ah ma a me che me ne frega a me Io faccio quello che non fare paura non avere Io non ho io non faccio niente di male Prendetevi tutte cose Non è una questione di Prendetevi tutte cose è una questione che i dati sono preziosi sono una moneta molto preziosa dati di qualità di qualità vuol dire taggati correttamente dati complessi sono preziosi esempio stupido sarà Boh ormai 8 anni fa 5 anni fa la ten years Challenge dove devi fare la foto di te vecchio e di te cioè di di te adess qu quella è una cosa fantastica perché l'invecchiamento allenare sistemi di invecchiamento Infatti poi sono usciti poco dopo che poi D App che poi davano davano i dati
41:45 ai russi Comè che c'erano quelle App sul Ecco quelle robe lì dove tu pubblichi su Facebook la tua foto di adesso e la tua foto invecchiata dicendo Quanti anni avevi quanti ne hai adesso se sei maschio o femmin fema Cioè è un dataset straordinario bellissimo certo Ah l'avrà usato qualcuno non lo so però bisogna vedi già già solo comprendendo questo si capiscono delle cose che succedono poi non voglio fare il complottista e dire ah è stato zuckenberg che si è messo lui proprio fisicamente sì che però sicuramente dare quel tipo di dati a Meta Mh che è uno dei concorrenti con i dati medici con le Mamma Mia M Sì tante cose possono
42:31 succedere ma tornando a noi quindi questo è soltanto l'allenamento io poi ce l'ho la rete è allenata è calda è pronta gli do una nuova immagine di un cane o di un gatto e lui e la rete mi risponde ehm e a quel punto non so più poi se è giusto o sbagliato Spero di avver sufficienza Esatto fido quindi Task training e utilizzo Ok I dati sono importanti i dati puliti sono importanti perfetto adesso facciamo ulteriore passettino e arriviamo a GPT Che cosa fa la rete eh Che cosa fa GPT Eh allora GPT anche GPT ha un Task
43:17 principale fondamentale e il suo Task è uno e uno solo è un Task di predizione ok Quindi problema Uno questa ero immagini che sono facili da convertire in numeri no Certo invece il testo Ah possiamo usare dei vettori lo facciamo a n dimensioni peraltro e vettori n dimensionali che nel caso di GPT sono anche contestuali e vengono imparati è tutto sempre più complicato di come vi sto spiegando ma va bene così il principio è che io ho un testo Non so Ciao sono Enrico Ok bla bla bla bla bla bla fase di allenamento di quest rete che è sempre fatta e lui deve il suo Task è prevedere quale parola seguirà la parola
44:04 che che gli dai sì ok Il Task è un Task di predizione ma c'è una sottile differenza che qui il training non è più supervisionato Ok ma è unsupervised non supervisionato perché fai tu perché il Task di predizione la soluzione ce l'ha già cioè Ciao sono Enrico certo Enrico è la continuazione di Ciao sono e Ciao la continuazione è sono non gli devo dire io Cosa è giusto cosato soluzione già è già nei dati non so come dire Non c'è bisogno che venga uno a dirmi quella è la continuazione capito Quindi è molto più facile avere dei dati basta letteralmente un testo e quindi gli dampi dentro tutto l'internet ed è quello che è stato fatto E quindi lui si
44:50 legge tutti gli scritti dell'umanità comprese le cazzate comprese le le le cose e eh il Task è di predizione Io voglio predire noi qua parliamo di parole sarebbero token Ma va bene parole voglio predire la prossima parola ma è una cosa che sappiamo fare anche noi umani no tipo ieri ho mangiato la pizza con pomodor oppure con Enri oppure con Cioè ci sono varie forcha la forchetta cioè sono Var ne sono varie ci sono varie possibilità però ce ne sono anche di che ne so oggi il cielo è splendido mai visto un cielo così bello Limpido es però di sicuro non sarà un cielo così catamarano certo sì chiaro no cioè anche
45:36 se ci sono tante possibili continuazioni ce ne sono molte di più che sono non continuazioni il Task è fattibile e infatti lo fa cioè esiste c'è tra l'altro Scusami qua ti faccio una domanda distopica se noi a un certo punto Adesso noi prendiamo cgpt neutro cioè prima del training e ci mettiamo d'accordo e dovunque nel mondo gli diciamo che dopo la parola forchetta c'è scarpa sempre lui quindi quando tu gli dici Ho una forchetta in mano cosa devo fare ti dirà scarpa Sì ok quindi è tutto dipende dal da cosa lui questo sai perché lo lo lo dico perché è molto Democratica Come come come cosa però la qualità dei testi che l'umanità produce mediamente è molto bassa perché GPT è
46:22 razzista perché le cose che scriviamo sono razziste perché misogeno perché le cose che scriviamo sono misogine e questo è una è una specie di cioè non si può pretendere questa per me è una cosa ovvia Però forse per qualcuno che non non le ha studiate per anni queste cose non lo è non si può pretendere che una cosa che impara dai dati sia meglio dei dati Cioè se cucini la merda ti mangerai gli spaghetti alla merda per forza Non è che cucinando La merda può uscire a Carbon quindi la domanda che io ti Pongo è ha senso da tutto Internet non sarebbe meglio fare una selezione curata di Che testi Però il problema è chi è che la cura Chi controlla il controllore sempre lo stesso discorso Innanzitutto puoi generare intelligenze artificiali
47:08 Allineate a certi tipi di pensieri no Sì però questo è pericoloso Eh può può andare ma è anche inevitabile Cioè nella creazione è come è come gli articoli di giornale quando scrivi di giornale potrai cercare di essere obiettivo ma ma hai degli schemi di pensiero tuoi Certo però questo è veramente una questione un dato importante i dati sono importanti è un tema fondamentale perché a seconda di che dati utilizzi per allenare la tua rete neurale otterrai una rete neurale diversa anche profondamente diversa indipendentemente poi dalle performance che sono in realtà poi tema però poi proprio diciamo dato che si tratta di linguaggio di idee di etica Questo è un campo molto molto importante molto da tenere d'occhio Ehm
47:54 ok Quindi Task di predizione ora questa questa fase qua in GPT si chiama pretraining perché sono due le fasi di training di GPT di GPT e di tutti i large language Models ok questa prima fase quella di pretraining è un Task di sola predizione ti do una sequenza di parole Voglio la prossima migliore diciamo non è soltanto più probabile ma è è è lievemente perché è probabile sembra che uno c'abbia la tabella di probabilità però dietro c'è tutto quel meccanismo di apprendimento di comprensione del contesto Perché i vettori sono contestuali e c'è il meccanismo dell'attenzione e tecnicamente super è proprio complicato però
48:40 ehm io ho costruito a quel punto un modello cosiddetto fondazionale cioè che che è solo fondam ha soltanto abilità di parlare Ok diciamo ehm che ha comprensione del linguaggio il GPT che usiamo noi però eh non è solo quello e anche altre due cose Ok la prima cosa è c'è il F Tuning ok Il fine Tuning è una fase successiva dove sfruttando questa abilità di predire i token io gli insegno ancora delle altre cose prop lì è proprio come quando tu vai a un esame e usi la lingua italiana per imparare di Boh chimica fisica
49:25 eh ST Sto cercando un esempio che non fosse sulle scienze letteratura filosofia quelle cose lì sì e no saluto gli amici l'esempio peggiore è economia comunque ehm sfrutto la sfrutto la la la la competenza di linguaggio e lì si fa un training separato per ogni Task che voglio risolvere Come si fa facile diciamo di volere fare di voler insegnare GPT a fare summarization cioè cioè abilità di riassumere testi gli dico proprio in fase ancora di allenamento quindi qui i pesi cambiano ancora è importante perché se cambiano i pesi cambia la rete questo in fase di allenamento gli do un testo lungo e poi
50:13 gli dico Fammi il riassunto e poi gli do il riassunto Quindi qua c'è bisogno di nuovo dei testi puliti cioè dei testi Scusami dei dati supervisionati dei dati corretti da un essere umano Mi immagino in questo Cas Sì però questi dati sono sempre esistiti perché l'allenamento si è sempre fatto su quei dati lì quindi ci sono tanti dataset per fare tante cose diverse Ehm ma qual è la differenza è che se nella mia vecchia rete neurale dove non avevo tutta questa competenza linguistica di base avevo bisogno magari di un milione di esempi perché i neuroni partivano con valori randomici ora sono già allenati sul linguaggio e ho bisogno di molti meno esempi Ok certo e qui iniziamo ad avvicinarci a quel titolo lo
50:59 raffino quindi few shot learners ci stiamo avvicinando non è ancora questo il few shot Learning ma vicino ci stiamo avvicinando quindi fine Tuning vantaggio molti meno dati di qualità ho bisogno di molti meno dati di qualità per avere una rete che poi sa fare quelle cose e GPT si può leggere in quell'articolo del del 2020 è stato allenato su vari Task linguistici quindi summarization credo Forse qualcosa di sentiment analysis Credo sicuramente abilità di fare codice Questo l'abbiamo visto benissimo Però ci sono dei Task specifici su cui lui è stato fine tunato quindi prima metto lo stratone di linguaggio dandogli miliardi
51:44 di token miliardi di parole Certo poi sopra un pochettino dei miei vari Task che voglio saper ris raffinato certo sì e la bellezza qui è che proprio come uno studente all'esame non hai Non c'è più bisogno di chiedergli esattamente quel Task lì ma anche un Task circa vicino lui capisce perché capisce Insomma risponde in maniera efficace CTO capire sì perché ha sotto questo motore linguistico che è generico cioè capisce i sinonimi Vabbè dai userò capisce processa bene i sinonimi diverse variazioni linguistiche e molto meno rigido Esatto E quindi è anche
52:29 utilizzabile poi dall'utente della strada chiaro Se ovviamente ha il 5G o qualcosa perché sennò in strada non prende chiaro Ehm ok Quindi fine Tuning ultimo ultimo giuro passettino F shot Learning perché in quel titolo Veramente c'è la vera novità eh F shot Learning significa che prendo un Task che mi invento Io magari su cui GPT non è stato allenato e gli chiedo eh di risolverlo dandogli pochi esempi pochi vuol dire uno 2 5 10 e lui deve da lì deve arrangiarsi Sì esempio voglio convertire un testo in una mia codifica particolare Boh Oppure voglio che mi conti le le parole in una
53:17 frase non è stato allenato sul Task di contare le parole in una frase gli do io 5inque o sei esempi few shot e in quel caso lì non non sto più modificando i pesi quando noi interagiamo con GPT non modifichiamo i pesi non c'è più i pirulini non vengono più i pirulini sono congelati sì per quello che Open dice e la il training è fisso al 202 febbraio 2023 Che vuol dire che quella è la rete punto non è più toccata mai perché il retraining costa soldi tempo Mh quindi è impensabile che ognuno di noi si ogni volta che interagisce la rete sì Si si adatti sarebbe impensabile proprio ins scalabile Cioè per con
54:04 milioni di utenti non puoi parla roba quindi la rete è congelata però solo con quei pochi pochi pochi esempi riesco a ottenere immediatamente un oggetto che più o meno performa bene Il Task e questa è la vera rivoluzione Questo è il motivo per cui il titolo non è abbiamo fatto il chatbot non è Emo Eh ma è R più shot learners perché questa cosa qua è una cosa Quest è così potente con con tutto il passaggio che riesce a fare Task per cui non è stata originariamente pensata con pochi tentativi che è fondamentalmente quello che fanno gli umani tu non sei mai stato allenato a fare una cosa magari specifica Ma utilizzi la conoscenza che hai limitrofa e generica del mondo tutto per risolvere
54:52 nuove cose continuamente qui ti caccerò il riferimento alla della psicologia dell'apprendimento con il concetto di transfer e cioè il concetto del fatto che quando tu impari la matematica non sai fare soltanto la matematica Ma quei modelli di pensiero li puoi applicare anche in campi che matematici non sono puoi imparare a ragionare in quel modo lì tutto il tema dei modelli mentali del pensiero critico nasce da quella cosa lì cioè trasferisco conoscenza e la uso in modo diverso Pensa che questa cosa qui era nel nel filone dell'intelligenza artificiale era già stata studiata proprio con una cosa che si chiama transfer learning dove Però lì si allenava su una cosa specifica per avere un'altra cosa specifica Ah ok Questo invece è generalizzazione Quest è proprio molto generico e devo dire È straordinario Infatti ci tengo a
55:38 precisare questa cosa Eh adesso arriveremo alla parte critica perché Eh io credo che GPT sia una rivoluzione GPT è in realtà CL tutti larg io dico GPT perché così ce gabbiamo però certo penso che sia eh veramente Cioè nel campo ha fatto una rivoluzione Eh il problema è solo è uno solo e solo e uno solo è che questa cosa è stata data in mano fino al 2020 nessuno capiva niente di ste cose Va bene ma tanto stanno a porte chiuse sono utilizzati le studiavi all'università Tu quro nerd questa Mua in mano a tutti e e tutti in senso generico non sanno niente di
56:24 questi oggetti e questo è pericoloso perché abbiamo parlato dei dati ma non solo GPT non ti dice Non lo so eh perché l'ultima cosa che viene aggiunta dopo il F questo questa è l'essenza tecnologica Però poi noi non ci interfacciamo con il vero GPT ma ci interfacciamo con una cosa che ha creato Open ey ed ed è fatta da GPT che serve per parlarci e quella roba lì ha tutto un ha tante altre cose possono censurare i prompt possono cambiare i prompt non so se ricordate qualche mese fa Gemini che è quello di Google che se gli chiedevi l'immagine del non so del Papa ti faceva il papa nero però Certo perché perché si è quel
57:11 il il filtro che c'è in mezzo proprio tecnologicamente il la cosa che scrivi tu non è quella che arriva a Gemini Ma viene modificata possibilmente da un altro modello Pure perché a quel punto non è che c'è uno che a mano li cambia CH o magari da un sistema esperto e gli dice Rendi il prompt più Eh inclusivo inclusivo certo Eh quindi non dimentichiamoci che poi queste sono aziende le aziende vendono cose e quindi ci sono tanti strati di complessità che che vanno oltre già questo che è già molto complesso ehm però la la riflessione Secondo me che che che è da portare a casa ammesso che si sia capito qualcosa di quello che ho detto siè Capito Almeno io ho capito eh è
57:57 che non è tanto Cioè a me non preme tanto che si capisca cos'è GPT Ma cosa non è ok Certo non è un database ok perché l'informazione non è che quando tu gli dici Quando è stata scoperta America non è che quello va perché si è letto Wikipedia Allora sa tutto quello che che non è che va dentro una tabella dove c'è scritto Ok fatti dell'universo C quindi non ha una memoria ce l'ha ma non è non persiste in maniera non è come la nostra cioè così come il ragionamento non è come il nostro quando io ti chiedo quando è nata l'America tu non è che quando è nata Quando è stata scoperta l'America non è che dici m Cos'è più 20
58:42 non è che cerchi di predire Tu non cerchi di predire o lo sai o non lo sai R CTO questo già è una nozione che non c'è in GPT perché lui predice il prossimo to tant'è che a me è capitato di ricevere delle allucinazioni cioè degli errori C GPT in cui si inventava Paper scientifici cioè io chiedevo Paper sul sull'apprendimento eccetera eccetera e mi spuntavano fuori autori anni titoli di esperimenti che non sono mai stati Paper mai pubblicati roba che non esiste Ma vedi questo adesso che che chi ha resistito fino a questo punto sa e anche tu eh Li li chiamano allucinazioni Ok In realtà lei fa quello che deve fare qu una feature certo Cioè non è non è bug È una feature non è una roba che poi lo aggiustiamo Se non è un errore fa
59:29 esattamente quello che gli è stato chiesto di fare Sì sì cioè il risultato non è quello atteso certo E questo va considerato come un errore ma non so come dire lui quel coso predice il prossimo token la la corretta fattualità spetta a noi che interpretiamo la risposta ma dal punto di vista del vero Task su cui ha allenato GPT fa la cosa che sì non è come quando ti si blocca il computer che c'è un errore deve riavviare lui sta sta funzionando perfettamente Sì es Esatto è non c'è non è un bug che va sistemato non è una riga di codice che era sbagliata ma è un risultato secondo me inevitabile dal fatto che il sistema è fatto così che quello è un modello di linguaggio quindi deve saper parlare non deve saper dire le cose giuste Quindi tu
1:00:15 dicevi Non è un database non è un cervello sa soltanto quello che non è non è un non è un motore inferenziale Oh Gesù cos'è motore semplicemente se io ti dico tutti i gatti sono blu OK Marcello che saluto a Scano sempre è blu Marcello Marcello è un gatto Marcello è blu chiaro silogismo semp si si si deduce dalle questo non c'è lo fa poi ovviamente dice Eh ma se glielo scrivi ti risponde giusto perché predice la tua risposta perché predice ma non ha dietro quella cosa lì e in certe cose È importante capire che Mh non avere quel motore non avere quel tipo di ragionamento su cui che noi ci
1:01:01 aspettiamo che ci sia e importante perché tu quando parli con una persona E questo forse è un errore anche con le persone ti aspetti che quelli ragionino ragionino che abbiano delle ehm conoscenze fattuali precise e da quelle deducono delle conseguenze logiche corrette No almeno te lo aspetti ma eh ma non è così a a volte non è così con gli umani e non è mai così con la macchina però facciamo una cosa affascinante Se io parlo con qualcuno e osservo che fa dei ragionamenti che non stanno in piedi cioè che sono logicamente Fallaci tipo leggendo i commenti di YouTube che salutiamo anche loro proprio come entità Eh mi dico Beh ma ma questo è un [ __ ] Certo però con GPT diciamo è un
1:01:49 bug No è un [ __ ] pure GPT Cioè ma ma lo è per natura è stato costruito è stupido è un sistema che non ha l'intelligenza che noi crediamo sia intelligenza ha un altro tipo tutto suo di intelligenza es esattamente così ora la domanda aperta Quindi io la risposta non ce l'ho e non ce l'ha nessuno quindi non Ci credete se ve la danno è è sufficiente questo meccanismo di predizione del linguaggio basato su dati ok È sufficiente per sussumere l'intera intelligenza umana quindi forse non c'è bisogno del motore inferenziale Non c'è bisogno del database fattuale è sufficiente questo non si sa non si sa Certo eh Io sono dell'idea che almeno
1:02:37 questo un fatto che si può dire è che prediction is not reasoning cioè proprio un video Certo che che che che ha questo titolo prediction is not reasoning Cioè non ci aspettiamo che quell'oggetto ragioni Come pensiamo noi non ci aspettiamo che abbia una conoscenza puntuale che lui va a ripescare non è Google non fa Ric può fare ricerche se ci attacchi non so perplexity ma è un'altra roba però sì non è un motore di ricerca eh È un competen issimo motore di linguaggio un modello di cioè un modello di linguaggio è quella cosa lì lo so che è tautologico però è è quello E capire cosa vuol dire essere un motore di linguaggio e non un reasoner non un database non un motore di ricerca è
1:03:24 importante quando lo usi perché nessuno vuole utilizzare un oggetto che non sa cos'è Eh sì il rischio poi è quello di di prendere delle cantonate pazzesche ed è qui che arriviamo alla prossima fase di questo video perché voi pensavate fosse finito e invece no c'è ancora un bel po' di cui parlare perché noi ci siamo conosciuti così mi è stato inviato dal saggio mondo di YouTube un tuo video leggendario di di anni e anni fa che era tipo come Come spaccare l'università in tanti lunghi difficili passi una roba del genere non ricordo il titolo preciso Io c' ho fatto la Reaction e e il concetto è che tu sei conosciuto urby e torby per un messaggio molto chiaro quando si parla di studio di studenti di studentessa cioè bisogna farsi il culo così bisogna studiare tanto bisogna studiare bene bisogna studiare con soprattutto in mente l'idea di saperle
1:04:10 davvero le cose non di prendere il pezzo di carta o passare l'esame con 18 un calcio in culo io quando ho sentito queste queste cose meravigliose Mi sono innamorato della tua figura e quindi subito ti ho contattato ci siamo sentiti e da lì è scoppiato l'amore Infatti stiamo per sposarci Ma questo è un altro discorso Eh Ne parleremo in un altro video a parte ehm il punto è dato questo contesto che daremo per scontato per questo video cioè che bisogna farsi il culo che bisogna studiare per saperle le cose non per il pezzo di carta che bisogna studiare bene tanto eccetera eccetera il dato di fatto oggi è che il tema del large language model giovani anche cominciano ad usare chat
1:04:57 GPT o mille altri software per fare di tutto dal farsi generare il tema d'italiano alle scuole medie al non fare l' tesina Perché te la fa GPT al farsi dare le domande degli esami al addirittura farsi generare i riassunti studiare Conc GPT nel senso fare domande e poi studiare sulle risposte Alla luce di tutto quello che c' hai spiegato ha senso tutto questo come si può usare in maniera consapevole ed efficace questi strumenti nel mondo dell'apprendimento dello studio e di tutto il resto Ma guarda io sono dell'idea che ci saranno soltanto tre tipi di persone Una volta che questi modelli saranno completamente diffusi ci saranno quelli che non li usano per partito preso perché vengono qua e ci
1:05:42 rubano il lavoro sto parlando dell' intelligenza artificiali eh chiaramente quelli che li usano per fare tutto perché ormai c'hanno superato e allora cibami con una cannuccia e poi ci saranno quelli che li usano in maniera consapevole è un vantaggio competitivo saper usare questi oggetti perché velocizzano dei processi perché possono essere fonte di ispirazione Io suggerisco a tutti di cercare di piazzarsi nella terza categoria non c'è motivo per avere paura di questi oggetti una volta che diciamo si ha un'idea di come funzionano quindi un uso consapevole Allora la primissima cosa ma questo vale in tutta l'educazione e e e e e accrescimento di sé che è una
1:06:28 cosa che io sto sto facendo proprio in senso letterale con un molto input dici e con molto input Eh non puoi far fare a GPT le cose che devi fare tu per imparare Cioè ma questo è ovvio Ma esattamente come non se Cioè è come avere il fratello che ti fa i compiti Esatto Non cambia niente Cioè che sia l'intelligenza artificiale o no ci sono delle cose che tu nel tuo percorso di studi devi fare e le devi fare e sono faticose perché ti servono per imparare a farle Cioè non il training capito come come l'intelligenza Sì cioè tu Devi allenarti il tema non puoi farto schivo da GPT perché poi fai schifo scrivere perché poi Non imparerai mai a scrivere e tu dirai E beh ma lo
1:07:14 farò per sempre fare GPT S Ma quando tu impari a fare il tema impari altre cose famoso transfer che dicevamo Esatto quindi io dico Ben fartelo magari provare a correggere sempre con atteggiamento critico no scrivi il tema gli dai il tema GPT e quello Prova a farti non so una versione più formale o ti cerca gli errori non li troverà tutti Ne troverà che non sono errori Tu intanto Qua stai facendo un eser ti alleni a fare un'altra cosa che è comunque utile ti alleni a essere critico della risposta che ti ha dato il sistema intelligente e insomma per essere con l'intelligenza artificiale devi essere decente con l'intelligenza personale Questo è
1:08:00 bellissimo Se sei una capra capra Resti anche con GPT poi non ditelo se vuoi consegna la versione GPT non la tua chi se ne frega del voto però falla cioè L'importante è che tu la faccia perché se smetti di fare tutto e ti fai sostituire non acquisisci le skill fondamentali sì Tanto vale non studiare proprio allora A quel punto dici vabbè sì allora Però a quel punto sarai per sempre sei Non so sei tu l'assistente di GPT un lui fa le cose e tu gli fai le domande Certo È incredibile Però a quel punto sei tu l'assistente virtuale sei l'assistente reale È incredibile Ah ma questo questo non è una roba di bomis è un fatto cioè è così e basta se tu non ti alleni a fare delle cose non saprai
1:08:45 mai fare quelle cose e se le farai per sempre fare qualcun altro e e tu non sai più fare niente Sei inutile Sei inutile e allora ecco che hanno creato un nuovo robot che va in palestra al posto mio e io però rimango debole flacido e basta certo m non si deve mischiare il risultato soprattutto diciamo nel nel mondo dell'educazione Eh non si deve mischiare il risultato col percorso per ottenere il risultato ripeto poi alla fine se vuoi consegna quello alla prof così ti dà il voto e l'estate non devi farti il recupero Whatever non è non è quello il punto Il punto io Io cerco sempre di di lanciarlo questo messaggio tu sei la persona giusta per per farlo questo messaggio insieme e cioè il fatto è che se non ti alleni se non ti sbatti
1:09:31 se non ti fai il culo non è che tu freghi il sistema Il punto è che un domani sarai un mediocre sarai una persona incapace sarai una persona che nel mondo del lavoro non si distinguerà sarai una persona che nella propria vita non sarà molto efficace cioè il senso dello studio non è imparare a memoria la data della scoperta dell'America è che attraverso quel percorso che ha anche a che vedere con la capacità di gestire l'attenzione di gestire delle scadenze di incamerare in formazioni eccetera tu migliori come individuo sei più competente Se tu arrivi al mondo adulto che hai solo copiato Hai solo barato hai solo cercato la scorciatoia sei un incompetente E allora sì avrai magari la stessa laurea che c'ho io o che c'hai tu a parte che nel percorso di informatica magari è un po' più difficile però magari ti laurii in informatica però sei un informatico del cazzo cioè il punto è quello lì che non non vedi Sì voglio
1:10:18 voglio voglio Aggiungo una cosa ancora
…
