0:00 Eu fiz recentemente um episódio que foi com o Jared Butler e o Dean de Bloa, que são os caras que fizeram lá o como treinar seu dragão. E aí eu fui usar o chat EPT para sei lá, para estudar. Então, eh, e aí e quando a gente tava falando ali e eu falei, ele me deu uma informação sobre eh quem dublou o primeiro filme. E aí eu fui, eu de eu errei e disse para pro chat EPT que ele tava errado. Ele falou: "Você tem razão, eu tava errado mesmo. Sei o que tudo mais". Quando aí eu, pô, pera aí, deixa eu ir ver na internet lá. Ele e aí quando eu fui ver na internet, eu tava errado. Aí eu falei: "Cara, na verdade eu tava errado que não sei o que ele: "Ah, eh, ah, tá, então, então tá bom, então vamos lá". E teve uma outra vez que eu tava eh ele não é muito bom, ele tentou me explicar porque que ele não
0:46 funcionou muito bem quando eu tava tentando eh estudar sobre futebol e aí tava pedindo para para entender o que tinha acontecido no na sei lá, era segunda-feira e eu queria saber como tinha sido a rodada do domingo, por exemplo. E ele me dava um um umas coisas assim absolutamente putz, loucuras de outro planeta. E eu, cara, você tá malucão aí, cara. Não é isso que não foi isso que aconteceu. Tava propondo, por exemplo, que eh tinha jogadores no time do Flamengo que já não estavam lá há anos, sabe? E eu, caraca, que doideira, de onde será que ele tirou isso? E aí eu fui tentando e eu desisti. Chegou uma hora que eu desisti porque assim, não adiantava eu tentar corrigir, porque ele ele ele corrigia uma parada e cagava a outra e ficou nessa. Eu acho que tem a ver com o lance da informação muito recente, porque com com a ideia de
1:31 ir buscar na internet ou qualquer coisa assim. Ele tava então cagando a modelo base, ele sempre vai ter aquele cutof ali 2023. Se ele tá tirando qualquer informação nova, porque ele foi na internet, buscou e usou isso como prompt. Então é um ele tá ele está no prompt escondido. Agora a parte que é ruim é que eu não gosto dessa. Esse que é o maior problema, eu acho, das LLMs. Eles são famosos, ficaram populares porque eles falam de uma forma simpática com a maioria das pessoas. A maioria das pessoas gosta disso. Uhum. Não porque elas estão certas, mas porque elas parecem que estão certas. Aham. E se você checar, às vezes elas estão muito erradas, que nem você estava falando. E elas não, elas nunca vão dizer até você apontar. É, ele ele é um mentiroso muito
2:19 convincente. Aí quando você pega ele no erro, ele fala: "Ah, você tem razão, você tem razão. Eu estava errado. Eu vou, não vou consertar". Aí quando você pergunta de novo, ele mente da mesma forma, da mesma com a mesma convicção. Ele não tem nenhuma vergonha, ele não guarda a memória da de nada, ele não tem remorço, ele não tem absolutamente nada. Aí o problema e tem uma uma notícia, uma das fotos que eu mandei que acho que é legal colocar, o Sultima Millennials Advisor, e que saiu uma notícia que o Sultim justamente estava até constatando que muitos jovens, os millennials tal não conseguem mais tomar nenhuma decisão de vida. Jenzy, na verdade, eh, sem usar o chat GPT como life advisor. Então, tipo, ah, você acha que eu devo sair da casa dos meus pais? Ah, você acha que eu
3:05 deveria ter um filho agora? Ah, você acha que eu deveria sair da faculdade? Eles perguntam tudo pro chat GPT, entendeu? Só que o chat GPT, por mais que ele pareça convincente, certo de si, etc., ele não tá tentando dar resposta. Ele não foi feito para tentar dar a resposta certa. Ele foi feito para ser convincente como um ser humano. Mais do que isso, nó as empresas como a Open AI, eles treinam, não é treino aleatório, ah, dê um monte de informação passiva e aprende passivamente, não. Eles ativamente dão perguntas e respostas e obrigam. Você vai responder isto quando perguntar isso, você responder isto quando perguntar isto, o tempo todo ele vai fazer isso. Então, e usar o chat GPT como um life advisor é a pior coisa que
3:50 você poderia fazer. Nunca faça isso, pelo amor de Deus. Todo mundo que é jovem, bacana, pesquisa, mas não segue, entendeu? É, pode, pode até ser uma resposta interessante, bonitinha e tudo mais, que faça, dê o tapinha nas costas e tal, mas, pô, levar isso como eh bom, a própria ideia de de entender, acho que o mais importante de tudo é entender que o que o chat ele não é ele não tá pensando isso. Acho que a partir do momento que você entende isso, tu tira um monte de coisa da tua frente. Põe uma imagem que tá na primeira pasta que é Apple Illusions of Thinking. Acho que vale a pena tocar nesse, que também foi outro que gerou um buz gigante. Porque que nem eu aí, qual que é a parte engraçada? Quando você tá perdendo é mais fácil
4:36 você dizer a verdade. É, é o é o que eu tiro isso. Por quê? Aí Apple lançou um paper, que é esse aqui, The illusions of thinking. Então ele ele justamente explica como as o óbvio que eu acabei de explicar, as LLMs não estão raciocinando, eles são só máquinas de encontrar padrões. Se eu der problemas lógicos mais complicados, ele não consegue chegar nem nos que dão o passo a passo e tudo mais. ele não consegue porque ele não foi feito para isso. Ele ele tá dizendo óbvio. Aí o ruim da desse paper é que ele tá correto. Só que primeiro ele é superficial, a metodologia dele é muito criticável. Inclusive tem uma uma paródia em cima desse que é the illusion of the illusion of thinking. Que ele alguém passou isso aqui em alguma LLM num chat EPT e falou:
5:21 "Critica o paper". ele começa a criticar os erros no paper e tem vários erros de premissa, por exemplo. Então, papers não são verdades. Eles têm uma argumentação dado uma certo conjunto de premissas para chegar numa determinada resposta. Pode ser que a premissa esteja errada, pode ser que tenha erro de lógica. Ele é um o paper não é a verdade. Então, muita gente acha que ah, porque publicou num paper, portanto é verdade. Fala, não é verdade. E eu vi isso daqui um milhão de vezes no Instagram com, só que assim, de uma forma mais, né, que tinha a ver com o Instagram. Isso aí eu vi 1 milhão de vezes mesmo, assim como se fosse um um meteoro que caindo no na em toda essa ideia. É. E aí o o problema é o timing, porque agora ele se ele se expõe a um problema. Qual o problema? A Apple é a única das bigs que ficou para trás em
6:08 IA. Que nem eu acabei de falar, WWDC do ano passado, eles prometeram Apple Intelligence. WWDC 2000 2025. Que que é o que que eles falaram agora? Liquid glass falar. [ __ ] cara. Sério, você gastou o ano inteiro, você tem mais designer sobrando do que programador. Porque primeiro você não consertou a IA. Então, Siri continua sendo uma droga. A Ia de imagens é uma droga, aquele meme que a gente falou. O eles não não falam mais sobre isso, fic a gente tá trabalhando, pá, pá, pá. Aí o que eles têm depende do chat GPT, tipo, não é deles. Eles tiver fazendo uma parceria com o chat GPT, ou seja, tá nesse nível de humilhação. E aí o o paper que eles lançam é: "Ah, não, Llms
6:54 não funciona." Aí você fala: "É, eu eu sou obrigado a concordar, mas eu não vou eu não vou, como é que chama? Culpar os as pessoas de falar que você tá falando bullshit só para se proteger agora." Você entendeu? Porque ficou feio pros shareholders da Apple ouvir da cadê os produtos de IA da Apple não tem. Microsoft lançou na frente, todo mundo lançou notebook, tá embutido no sistema operacional, tem o copilot agora de laptop, né? Se é bom, se não é bom. Mas assim, você vê a pegada de lançamento deles é muito mais agressiva. Aí você vê o Google começou, que nem eu falei mais ou menos, Gemini tá mandando aí agora o Gemini tá num ponto que realmente tá muito bom. Ele é, ele é de fato um dos melhores, tanto que o VO3 agora e todo
7:41 mundo tava olhando para OPI para que sair vídeo, aí o jogou pro chinês aí o Google chegou com o Vio 3 e matou todo mundo, ou seja, deu uma evolução muito grande. Então, ó, deixa eu só te falar aqui, ó. Eh, eu tava falando com eu o lance lá do chat de PT falando que ele tá, cara, eu comecei a falar, cara, ele, pô, quer que eu faça de novo? Não sei o que, o cara não precisa, você é incapaz. Esse é o ponto. Faz horas que eu tô tentando te corrigir e conseguir uma resposta decente. Eh, aí ele não, pera aí, vamos mais um pouquinho. Tá bom. Tenta de novo aí. Mais sério, qual dificuldade de conseguir informações corretas? Na moral mesmo. Aí, cara, na moral, o problema é que as fontes em tempo real que eu acesso nem sempre são as mesmas que você usaria. E aí, e aí ele vai dando um monte de desculpinha aqui. Mas é desculpa que ele tá dando,
8:26 não é uma justificativa, certo? Até porque depois aí eu eu falo para ele, então usa esse, esse e esse ele usa e erra igualzinho. Então tá só, é isso que você falou assim, não é que ele ele não tá tentando falar a verdade, né? Pois é. Mas aí o grande problema é que aí eu que eu falei no começo, a Apple falou a verdade nesse paper porque agora ela não tem mais o incentivo de fazer a propaganda porque ela não tem um produto bom. Então assim, eu acredito no paper de fazer assim e isso isso é uma coisa que todo mundo deveria prestar atenção, porque por exemplo, o pessoal tava falando que eu não gosto do cara da Antropic. A Antropic, ninguém lembra das das coisas ruins. Por exemplo, teve um problema agora, que eles tiveram com processo judicial, etc. Que deu merda porque o advogado usou o Claud, o Clud,
9:15 [ __ ] E obviamente ela sinou no meio do caminho e tinha um problema ali. Eh, e isso enquanto o CEO tá falando, não, ano que vem vamos substituir todos os programadores por ya. Agora, qual que é o qual que é o lance? Você tá ouvindo o o Johnson da Nvidia, você tá ouvindo o Zuckerberg da Meta, você tá ouvindo ã Sultima da Open AI, você tá ouvindo o Sundarpai da do Google, mas a Nvidia faz as GPUs, ela precisa que você use. A Microsoft tem os data centers que compram da Nvidia, precisa que você use a Open AI e a e a a meta, eles usam os data centers para gerar os produtos que eles precisam que você use. E se você
10:03 não acreditar que funciona, você para de usar, você quebra a cadeia inteira. Você quebra a cadeia inteira. Então você vai ouvir quem que tá sempre falando: "Ah, o futuro futuro são eles." Mas é que nem você falar: "Não, cocaína faz bem porque o traficante me falou". Aham. Tipo, não faz sentido. Você entendeu? Entendi demais. Aí o problema todo é que a outra coisa que eles não falam é que assim, o produto que eles estão vendendo, eles não dão resposta correta 100% do tempo, mas eu pago por todas as respostas erradas que ele me dá também. E são os créditos. Quanto mais dividido em milhões de produtos tiver, menos você percebe isso. Eu percebo isso porque eu pago uma bilhetagem só e eu sozinho, sem fazer nada muito avançado, eu gasto fácil $ por mês, $2 por mês de crédito,
10:51 que já é subsidiado. 200 por mês em reais de hoje dá 1000 e pouco, pô. Isso. E não é usando todos os dias. Se você usar todos os dias no ambiente de programação da forma como eu tô acostumado, seria 10 vezes isso. Eu teria que gastar pelo menos 2.000 por mês se eu quisesse trabalhar em programação no nível que eu tô que eu estaria trabalhando. Entendi. É no mínimo no mínimo 20.000 000 por ano só em crédito. Sendo que aí eu eu dei um nome, isso eu fiz um blog post sobre isso. Esses eh todas essas LLMs eles são lootboxes. Entendi. Para quem é de quem é gamer, quem é gamer entendeu. Eh, você paga para de vez em quando sortear uma
11:36 resposta certa, certo? É isso. É assim que funciona. Esse é o modelo de negócio. Esse é o modelo de negócio do empreendimento mais bem-sucedido de tecnologia dos últimos 40 anos. Bom, vamos combinar que lootbox dá certo nos videogames também, né? A Electronic Art sabe bastante sobre isso, certo? Sabe, eles são bons nisso daí. E se tem uma Os gamers podem ficar contentes que a o legado de lootboxes nunca será esquecido agora que Ia vai prevalecer, mas a vantagem é que vocês sabem que para você tirar um bom preço tem que pagar bastante. É, é, é caro para [ __ ] né, cara? para fazer direito para ou pelo menos para fazer em volume fazer. Ah, e aí já aproveitando, já que tá falando de do que eles erram e não erram, aí você, esse é fácil, aí você
12:22 tem a notícia do chat GPT que chantageou um pesquisador. Você viu isso daí? Vi, vi. Então, primeiro é aquele parece um pouco fantasia hashagonteceu muito, mas vamos dizer que aconteceu. Vamos dizer que aconteceu. Eh, simplesmente ele ele leu toda a internet. Se eu e eu não sei quais foram todos os inputs e todos os prompts que foram dados. Ele tá completando o texto. Eu eu estou eu inventei uma narrativa de história, coloquei isso no prompt, pedi completa. Ele falou: "Ah, bacana, eu vou te chantagear porque vários livros e vários contos fazem isso. Não tem nenhuma intenção." O problema é que as o jornalista coloca isso, fala: "Ah, por será que a Iá tende a ser maldosa e ter
13:10 fal por viu o que que tem na internet?" Ele leu a internet, cara. Desculpa. Tem filha da [ __ ] na internet. Tu quer que o chat é PT reage, mas esse é o medo que as pessoas têm. Fala, caramba, então nós criamos um monstro, as pessoas ficam muito que é um monstro, não é? Simplesmente a gente só tá lendo o seu diário. É isso. Mas não tem nada demais nisso. E ele não tem uma intenção. E o maior problema é isso. Não tem intenção. Todo agente, ele não tem a principal coisa que define o agente, que é a agência. Ele não tem agência sobre o seu comportamento. Não há agência, não há intenção, não há raciocínio, não há sentimento nenhum envolvido na no na ação que ele tá tomando. Toda ação que ele tá tomando, eu instruí ele a fazer isso no processo de instrução. Eu existe
13:58 um uma fase no treinamento que se chama instrução. Nenhuma LLM sai no mercado puramente do treinamento dos dados brutos. Ele passa por um longo, intenso e caríssimo processo de alinhamento para dar instruções de como ele deve responder. E não é deve responder no sentido ah, seja educado, não fale palavrões, não. Você vai responder esta resposta completa que eu tirei para responder. Toda vez que eu fizer uma pergunta deste tipo, você vai responder deste tipo. Aham. Entendeu? Então, e esse esse a LLM não tem personalidade que ela não foi dada pela empresa que tá treinando. Entendi. E assim, e se a gente for parar para pensar eh no grande medo que a galera tem aí do do da coisa começar a pensar por si só, basicamente
14:44 a gente precisaria de eh fazer algo novo, porque até o jeito que funciona hoje eh faz com que isso seja impossível. Sim. E aí é por isso também que todo mundo fica olhando pros grandes pais fundadores da IA para ver. Então toda vez que eles falam alguma coisa tem tem o peso, certo? Então é o tal do Jeffrey Hinton que eu falei, o Ilas Skiver. O Elias Skiever dois dias atrás ele teve ele teve na faculdade de Toronto, acho que é onde ele estudou para fazer aquela eh comencement, aquele discurso. E aí de novo ele, o filho da mãe falou uma frase que as pessoas começaram de novo. Ele falou o seguinte: "Ah, vai chegar o dia que a IA vai fazer tudo que a gente consegue fazer". A razão é que o cérebro
15:30 é um computador biológico. Então, por que um computador digital não poderia fazer as mesmas coisas, as mesmas coisas? É engraçado que estamos debatendo se a pode verdadeiramente pensar ã ou só dar a ilusão de pensamento, como se os nossos cérebros biológicos fossem superiores ou fundamentalmente diferentes. Eu não sei se ele fala isso na desonestidade, porque ele não é burro e esse conhecimento não é segredo para ninguém. Então, eu acabei de explicar, ele sendo matemático, eu acabei de explicar como um computador digital é fundamentalmente mais limitado do que a matemática inteira e do que todos os outros problemas que existem antes. E além disso, ele sabe hoje que os neurônios não tem nada a ver com neurônio de rede
16:16 neural. Não tem nada a ver, nada a ver. comportamento é completamente diferente. A gente dá os mesmos nomes e isso que é uma desgraça. Ah, você que tá assistindo esse vídeo aqui no Talk Flow, dá para você virar membro, cara, do Flow. Agora é um botãozinho do lado do botão de se inscrever. A gente faz um programa semanal só pros membros, olha. Então fica esperto aí. Se quiser virar membro, tá bem aqui do lado é m custar S, menos de R$ 8, irmão.
