1:29 Olá, querido aluno. Ajeitar aqui para vocês, querida aluna, que é o professor Víor Kessler para mais um evento aqui pelo GR. Vamos falar do CNU bloco três. Tá chegando a hora. Vamos lá, né? Deixa eu ver aqui no ao vivo. Pouquinha gente, né? Rapaz, me botaram para dar aula 22 horas, ó. Ah, eu eu não sei que que o povo tá com a cabeça. Vamos embora. Ó, gente, o o
2:15 objetivo deste evento é trazer o que é que a gente tem que revisar na reta final, tá? A gente tá aí há um mês praticamente da cur do da prova do CNU e eu vou dar uma passada geral no nos assuntos, nos eixos temáticos e depois lá no final vou trazer aqui uma revisão matadora de de machine learning e no finalzinho eu vou falar um pouquinho de a generativa de LLNs, tá bom? E que são minhas apostas pra prova, beleza? Beleza. Deixa eu ver aqui no ao vivo se tem que esperar para ver se melhora um pouquinho a gente. Boa noite, Samuel, tudo bem, Juliana? Boa noite. Vamos ao vivo, né? Ao vivaço. Material na tela. O que revisar na reta final para aumentar
3:00 as suas chances com o professor Víctor Kesseler? Quem não me segue no Instagram, me segue lá. V_line Kessler, tudo que eu faço Rio Grand tá lá. E vamos dar primeiro uma visão geral nos assuntos. Gente, a parte inicial ela é importante, tá? Não não deixe de focar nessa parte inicial. A gente, eu peguei aqui os tópicos das aulas, tópicos e aulas, né, lá eh eh na nossa plataforma. Então, a gente tem desafios de estado de direito com o professor, o professor e tá dando branca aqui, é o professor nosso querido Aragonê, tem a parte de políticas públicas, né, mais voltada assim paraa administração, para direito administrativo. Tem uma parte aqui de
3:45 transformação digital, tem duas aulinhas minhas lá, tá certo? A parte de ética e integridade. Muito bem. Com, ó, com transparência, essa informação, beleza? Diversidade, inclusão na sociedade, né? Tópico da moda. Isso aqui, ó, esses dois, ética e integridade, diversidade e inclusão na sociedade. Com certeza isso aí vai aparecer na sua prova. Você tá com os desafiados. Administração pública federal, beleza? Com professor Bruno aqui domina e trabalho em tecnologia comigo, tá? E lá tem inteligência artificial, automação e produtividade no setor público, limitação, riscos e problemas associadas no setor público. Gente, essa parte inicial aqui, essa
4:30 altura do campeonato, eh, se você não estudou, deveria já ter passado por isso, mas ela é importante, tá? Você pode, vai acabar sendo reprovado se você não estudou isso aqui. Estamos em cima da hora para para você começar a ver isso aqui. Claro que aqui aqui como eu sou sempre objetivo, né? Dá para ver a minha minha tranquilo, porque são três blocos, eu acho, três ou quatro blocos que eu faço as coisas bem objetivo que cai na prova e vamos embora, né? Mas aqui quando o cara tem que detalhar muito, eu acho que não vai pra frente não. Eh, o eixo, os eixos, todos os eixos são importantes, tá? O eixo temático um, o professor ele trouxe tudo num único tópico, tá? E eu eu, ó, esse aqui, porque assim, ó, vamos lá, vamos ser sincero, é um concurso para
5:18 TI, né? Essa esse esse bloco três é o bloco de TI e para os outros as outras áreas lá de concentração, né? parte de biologia, de geologia, química, física também veio misturado nesse bloco. Então, meu querido aluno, você que é de TI, que tem formação em TI, por exemplo, você já tem a obrigação legal, moral de tá, pelo menos não tá zerado inteligência artificial, que eu vou falar daqui a pouco, e nem tá e tá bem lá na parte de gerenciamento de projetos. O que vai colocar gente para dentro e gente para fora do concurso são os eixos temáticos do e 5. Porque se vocês não estudaram 1, 2 e 5 ou não vão fazer uma preparação de reta final aqui
6:04 grande, vocês vão ser reprovados, tá? Porque eh o que você aprendeu de gerencia de projeto de scrank que tá lá no no eixo temático do Darlan e no meu não é o suficiente para você ser aprovado. Que vai fazer você ser aprovado são esses três. Então o recado que eu queria trazer para vocês nessa noite é esse, tá bem? É esse. Vocês precisam estar com este temático 1 do e tr [Música] mente de vocês, tá bem? Porque senão não vai dar bom. Fala aí, Samuel. Tenho uma dúvida. Eu tenho 29, faço 30 ano que vem. Você indica fazer concurso da PM. Samuel, qual é a sua formação? Eti, porque você tem que ter essa noção de que você o que você vai ter, tá? Ou porque, tipo, bem claro, você quer fazer
6:52 carreira policial, dá dá tempo. 30 anos na final 29 tá novo. Eu que tô velho, 46. Eh, e quer aí você foca na carreira policial. Você quer TI, foca em TI. Você quer da, você é da área de direito, foca em direito. Se você ficar atirando para todo lado, não vai dar povo de jeito nenhum, tá? Até porque eh eh a carreira policial é uma concorrência gigante, então você tem que tá focado sul, fazendo concurso para toda a PM e toda a polícia civil que aparece por aí. Você tem que estar muito focado, muito focado no tema. Se você desfocar, você vai você vai se perder, viu? Mas perder bonito, a não ser que seja um perito federal, né? Agora só que perito federal ti da
7:39 Polícia Federal agora só no próximo concurso, só daqui a uns 5 anos. Beleza? Eh, material, gente. O eixo temático um com a parte de ciência, tecnologia e sociedade, o eixo temático dois com políticas públicas de ciência, tecnologia e inovação, o marco legal de CTI. Isso aqui, ó, cara, pô, você não estudou marco legal? Marco legal vai dar essas 12 questões do sistemático sistemático dois. Vai ser umas cinco questões, na minha visão, tá? Eh, eh, eh, é, isso aqui é o mais importante, ó. Vá no marco legal, vá no marco legal de você ter aí. Isso aqui, pelo menos você tem que chegar sabendo disso porque vai aparecer na sua prova, tá? Eh, os outros dá até para você dar uma enroladinha, mas esse aqui tem que
8:25 tá bom. Eh, beleza. ODS não, ODS tem pouca questão, vai aparecer uma ou duas questões. Enfim, eh, o eixo temático três é o eixo do professor Darlan, então tem essa primeira parte aqui de gerenciamento de projetos, mais gerenciamento de projetos tem scran e camb, tá? Tá o material completinho para você estudar, tá? Por exemplo, se você é de TI, você não deveria estar estudando mais scrun Camban, porque isso aí eh eh já deveria estar na veia, porque são assuntos cobrados e fáceis. Gerenciamento de projeto é problema. Gerenciamento de projeto eu focaria, tá? Eh, mas só que aprender o PMB agora nessa altura do campeonato é meio complicado. Eh, a parte de ciência de dados, o grande, deixa eu mudar a canetinha, o grande que que é que aí é a
9:11 minha disciplina, né, que enfim, a grande parte aqui vai ser, não é transformação digital, é isso aqui, ó, conceitos, aplicação, ciências e dados IA, machine learning, análise preditiva. Isso aqui é o que vai cair, tá? Bigira tem espaço para ser cobrado porque tá lá no edital. A internet das coisas tem espaço para ser cobrado, mas não foquem, né? Se autorado não vale focar. Governança de dados quase não tem questão. GPD é importante, tá? GPD vai aparecer aí umas duas questõezinhas. Dados abertos também. Dados abertos são três aulas minhas, salvo enant são duas ou três aulas. Vale muito a pena você assistir as aulas para para para se você ainda não viu, tá? Eh, eu vou eu vou trazer aqui para vocês aula, tá? Revisão já de machine learning. e focar também
10:00 em a generativa que tá dentro do machine. Tá bem? Muito bem. Visualização, uso de dados, transparência na gestão pública, eh eh enfim, a a live você tem que estudar, né? Você já vai estudar, porque tá lá no tópico, tá lá em ética, integridade, nos conhecimentos básicos. Foca na live, a LI também vale a pena você dar uma estudadinha, tá? Esse eixo temático cinco, quem fez graduação quem fez bacharelado, provavelmente pagou isso lá no primeiro período e vai ser 1/5 da sua prova, né? Então, e isso aqui ninguém estuda para concurso. Aproveita lá que o Gran teve trabalho de gravar todas as aulas desses conteúdos. Eu eu focaria nele. Eixo temático cinco, eixo temático
10:47 um e eixo temático dois. O eixo o o o eixo do Darlan Venturelli, nosso professor é é é PMBO na veia. E o meu eixo você tem que chegar pelo menos com uma maturidadezinha, inteligência artificial machin tá que eu vou tentar trazer aqui nessa segunda parte do nosso evento aqui por enquanto, ó, 8 minutinhos só de evento. É bom que vai dar tempo pra gente dar muita aula aqui. Samuel ficou quieto. Samuel não falou mais nada não, gente. Vamos lá, então. Vamos pras aulas. Vamos para vamos revisar machine learning. Machine learning, meu jovem, você tem que entender o seguinte. Tem um mapa mental que eu gosto de fazer, quem assiste minhas aulas sabe, que que explica muita coisa. Primeiro, inteligência artificial e um machine learning é uma área de inteligência
11:33 artificial. Inteligência artificial é você desenvolver sistemas inteligentes, sistemas que resolvem problemas que antes só eram resolvidos pela mente humana. Machine learning é o aprendizado de máquina. É você desenvolver máquinas que aprendem como e com ou melhor dizendo, desenvolver máquinas que aprendem como a gente aprende. Como é que nós aprendemos? A partir da experiência, né? Você tem acesso a uma informação repetidas vezes e você compreende e você traz para dentro de você. O que é experiência em bases de dados, em em computação? Bases de dados históricas. Então você entrega uma base de dados histórica, uma base de dados feita por humanos, dados feitos por humanos e a máquina vai extrair os
12:20 padrões, vai extrair os o os eh eh as relações dentro daquele daquela base de dados. Então, se eu entrego para máquina uma base de dados com os cartões de vacinação do Brasil inteiro e peço para ela, máquina, eh, identifique grupos de pessoas parecidas, que eu quero, três grupos, quatro grupos que eu quero desenvolver, estratégias políticas, públicas específicas para cada um desses grupos, desses grupos. A máquina vai percorrer o os dados históricos, todos eles, né? vai ver cartão de vacina por cartão de vacina e vai sair separando e no final ela vai te mostrar que tem pessoas que, sei lá, grupos de de vacinação, pessoas que completaram todo
13:07 o o o a cartela, né? Fizeram todas as vacinas possíveis, pessoas que não têm vacina, pessoas que não gostam de ser de não foram vacinados com relação uma doença específica. Então, a máquina ela vai encontrar verdades que estavam escondidas naquelas milhões de de linhas, milhões de de cartões de vacinação, tá? Essa é a lógica do machine learning. Ela ela ele penetra dentro dos dados, extrai as informações e te apresenta. Eh, essa é a análise descritiva. É o aprendizado não supervisionado porque não tem rótulo. Como assim, professor? Porque não tem um campo especial que diz o que é que a máquina tem que aprender. Eu só entreguei para ela os cartões de os
13:52 cartões de vacinação de todo mundo. Toma aqui. Aí ela viu e separou as pessoas de acordo com o o que ela encontrou nos dados, que a máquina encontrou nos dados. Esse é o não supervisionado, tá? O supervisionado tem rótulo. Deixa eu te explicar. Eh, eu sou um banco e quero saber se eu vou dar um cartão de crédito VIP ou não para um cliente. Antes era o gerente que decidia. né? O os o cliente pedia, o gerente dava ou não, de acordo com os critérios que poderiam até tá definidos no banco. Aí agora não, eu não quero gastar dinheiro com o gerente, eu quero que o gerente faça outras coisas. Eu vou treinar uma máquina com os dados históricos. Aí ela vai receber todas as os as aplicações, os pedidos de cartão de crédito VIP, se eles foram aceites ou
14:38 não, tá? E aí o rótulo é justamente isso, é cartão de crédito VIP concedido, cartão de crédito VIP não concedido, né? Vai ganhar o Blackzin, não vai ganhar o Blackzinho. É isso. Esse é o rótulo, é a classe, é o campo que vai dizer a máquina que ela tem que aprender. Então eu entrego pra máquina quem é o cara, quanto que ele ganha, quanto que ele tem investido, quanto que ele deve, onde ele mora e aí esse aí foi VIP ou não foi VIP? Aí a máquina prende a relação entre a entrada de dados, que é os dados da pessoa, e a saída desejada, que é classificar a pessoa em VIIP ou não, tá? Esse é o aprendizado supervisionável, porque eu tenho rótulo, porque eu tenho classe. Aí o nosso mapa mental, ele já abre aqui, ó. Eu tenho três tipos de
15:24 aprendizado de máquina. Tenho mais, mas esses são os mais cobrados em concurso, tá? O aprendizado supervisionado, que se caracteriza por um rótulo. Entendeu? O conceito de rótulo? Você entendeu? No ao vivo aí tem chance ainda, tá? E o aprendizado não supervisionado, porque eu só entrego uma base pra máquina e a máquina que se vire. E eu tenho o aprendizado por reforço. O aprendizado por reforço, eu tô falando o seguinte: um agente inteligente interage com o ambiente, ele vai tomar decisões e aí ele vai ser recompensado ou não de ou penalizado de acordo com suas decisões. Então eu solto um robozinho na superfície da lua. Ele, a lua é o ambiente, o robozinho é um agente inteligente. Ele ainda não sabe andar na
16:09 superfície da lua, mas ele pode tomar quatro decisões: pra frente, para trás e pra esquerda ou pra direita. Se ele toma, se ele vai pra frente mesmo os sensores captando a parede que tem lá, ele bate na parede lá na superfície lunar, ele recebe uma penalidade. Se ele dobra pra esquerda, cai no buraco, penalidade. Agora, se ele dobrou para, resolveu dobrar pra direita e aí ele andou de boa, ele ganha uma recompensa. E aí o objetivo do robozinho é maximizar a recompensa ao longo do tempo, ou seja, não cair, não bater, tá? E aí ele vai explorando a superfície lunar. Esse é o aprendizado por reforço, tá, galera? Eh, o aprendizado supervisionado, ele tem de dois tipos, dois tipos, tá? Duas tarefas. Deixa eu ver se tem alguém
16:56 aqui falando alguma coisa no ao vivo. Ao vivo. Opa, olha aí o Milton. Boa noite, Milton. Eh, beleza. Eh, gente, o supervisionado, isso pode aparecer muito na sua prova. Eh, eh, eh, eh, é noções. Isso aqui que eu tô falando são noções básicas de a e machino, tá? Ele pode ser do tipo classificação e do tipo regressão. Na classificação, o rótulo que eu tô ensinando pra máquina, ele é categórico, ou seja, é um dado categórico, é um dado discreto, é um dado tipo sim, não, é um categórico binário, tem duas possibilidades. Então, dar o VIP lá, ele, né? Dá o cartão de crédito VIP ou não dá o cartão de crédito VIP. Isso é o aprendizado
17:44 supervisionado do tipo classificação. Quero classificar eh uma uma pessoa que foi identificada numa imagem. Eu quero saber quem é essa pessoa. Aí eu vou usar IA para isso. Isso é classificação, né? Porque pode ser Vítor, João, Maria, José. Beleza? No não, no no na regressão, eu quero prever um número. Por exemplo, eu eu tenho uma IA que vai prever o valor da ação da Petrobras amanhã. Eu tenho uma IA que vai prever a temperatura amanhã com base nos dados meteorológicos históricos. Quero uma uma I que vai prever qual o limite de cartão de crédito automático vai ser disponibilizado pro meu cliente de acordo com os dados que eu tenho do cliente. Isso é regressão, porque eu tô prevendo um número, um valor, tá? Então
18:31 beleza. Classificação, eu tô prevendo um rótulo categórico e regressão, um rótulo numérico. O aprendizado supervisionado, ele é o mais poderoso, podemos dizer assim, né? Porque eu posso fazer previsões do futuro a partir do passado. No aprendizado não supervisionado, como eu não digo o que é que a máquina tem que aprender a prever. E eh eu tenho outro outros tipos de tarefa. A gente chama até assim, ó. A gente fala que o aprendizado supervisionado, ele tem a ver com a análise preditiva. E o aprendizado não supervisionado, ele é uma análise descritiva. Ele vai encontrar padrões que já existiam na base, mas que estavam escondidos. Um um caso, claro, um tipo que eu já falei hoje é o de agrupamento ou clusterização, que é o exemplo lá de eu agrupar os os cartões de vacinação da
19:20 galera para identificar pessoas que têm os mesmos hábitos de vacinação, por assim dizer, tá? No um outro exemplo aqui é o agrupamento, regras de associação e redução de dimensionalidade. Regras de associação é eu encontrar dados que cocorrem na base de dados. Dados que aparecem bastante na base de dados e que é uma informação, nossa, que legal. Por exemplo, eu posso fazer um dataset, é a cesta de compras, onde cada coluna é um produto vendido e cada linha, dataset é um conjunto de dados, é um tabelão, tá? Então, cada coluna vai ter um produto que que um o supermercado vende e cada linha é uma venda realizada. Se aquele
20:06 produto X ele foi vendido na linha tal, eu boto um. Se ele não tava na naquela venda, eu boto zero e aí eu aí eu rodo o algoritmo de regras de associação e ele vai encontrar ele vai encontrar eh eh situações tipo toda vez que o produto X é um, ou seja, foi vendido, o produto Y é um, foi vendido também, ou seja, compras casadas. Toda vez que eu compro pão, eu compro manteiga, tá? O Walmart fez isso aí. Ele descobriu que toda vez que ol olha olha a a a regra que foi encontrada. Toda vez que um homem vai no Walmart, no período da noite e compra fralda, ele compra cerveja, porque sai
20:53 de casa à noite chateado para comprar fralda, compra uma cerveja para resolver os problemas da vida. Então, eh eh regras de associação também é um conceito que você deve entender porque pode aparecer na sua prova. Redução de dimensionalidade é outro conceito interessante que também pode aparecer na sua prova. Redução de dimensionalidade, meu jovem. Boa noite, Pedro Henrique. Deixa eu aparecer, né, que o cara quando para elogiar, né, aí a gente tem que falar, né, não tem como. O Pedro Henrique aqui ao vivo. Boa noite. Melhor professor de TI do GR. Aí sim. Mas também, né, disputar com aquelas peças que tem lá. Não, tô brincando, galera, a equipe de TI é muito boa. Tô na zoeira. Eh, gente, eu tava onde? Me perdi. Redução de dimensionalidade. Eu falei para vocês que tem um dataset, é
21:40 um conjunto de dados que eu vou trabalhar nele, né? onde as tem colunas e tem linhas. Pois bem, colunas eu posso chamar de atributos features, características em inglês, faturies, eh, atributos, variáveis e também posso chamar de dimensão. Então, redução de dimensionalidade é diminuir o tamanho das o a quantidade de colunas do meu dataset para que ele fique mais limpinho, para que eu só coloque colunas que tenham a ver com o problema que eu tô resolvendo, tá? Aí tem alguns algoritmos de aprendizado do supervisionado que servem para reduzir a quantidade de colunas. O mais famoso é análise de componentes principais. Se você d estatística, você já ouviu falar dela. O PCA, principal componente, análises, tá? Eh, beleza? Eh, e aqui
22:25 obrigação se levar pra prova, pelo menos saber, tipo, que a rede neural é é artificial, tem o percepton, por aí vai. Enfim, classificação tem dois algoritmos. a regressão, que apesar do nome é classificação, regressão logística e o nave base, o base em ingêno baseado em probabilidades condicionais e regressão. Eu posso eu só no meu no meu no meu mapa mental eu boto só regressão linear e pronto. Quero desenhar uma retinha para prever um X ou para prever o Y a partir de um X. Beleza? No agrupamento são três para você levar pra prova. O camins, que é o mais famoso de todos, Kédias em português, né? Os algoritmos hierárquicos, que é uma classe de
23:11 algoritmos de agrupamento, e o density based, é um algoritmo de agrupamento baseado em densidade. Density based special cluster application, DB Scan, tá? E vai aparecer na sua prova o seguinte, ó. O DB Scan é um algoritmo de aprendizado supervisionado, errado, tá? Ele é não supervisionado, ele serve para agrupamento. Regras de associação, a priori é o mais famoso. Pronto. E o aprendizado por refurso. Não cai questão de concurso cobrando, nunca vi questão de concurso cobrando em detalhes as políticas, os algoritmos específicos de aprendizado reforço, tá? Isso aqui, esse negócio feio aqui, é a obrigação você pelo menos saber por alto o que é cada um dos algoritmos, os tipos
23:56 de tarefas que você resolve com os respectivos tipos de aprendizado. Isso aí vai cair na sua prova, tá bem, pessoal? Vai cair. Deixa eu ver aqui no ao vivo. Tem gente ao vivo aqui, ó, falando coisa. Henrique Rocha, só aqui que tá travando. Eu acho que é. E o Jelino, boa noite, professor. Valeu, Jcelino. Boa noite, gente. Próximo aí, eh, já que é revisar a reta final, para mentar suas chances e tal, isso aqui vai aparecer na sua prova. E uma aposta minha é os large language models, tá? Os eh são os modelos de linguagem largos ou amplos, tá? que são nada mais
24:43 nada menos do que as IA generativas que chegaram que chegaram para abalar, tá? O o são são as IA generativas que revolucionaram o mundo, tá? Então, eh os LLMs eh large language models, modelos de linguagem grande, tá? Eles são e há treinados com grandes volumes de texto para entender e gerar linguagem natural. Tem um conceito que precede esses algoritmos que precede o chatpt, que era o processamento de linguagem natural. eh eh é você extrair, é você fazer classificação de texto. Por exemplo, quando eu fiz minha po lá em Ciência de Dados eh eh pelo pelo TCU,
25:29 teve um colega lá do TCU que ele fez o seguinte algoritmo. Ele pegou todos os documentos que davam entrada no TCU lá no protocolo e que aí vinha uma pessoa, uma pessoa humana e classificava esse documento. Isso é uma portaria, isso é uma petição, isso é uma é uma não sei o que lá. E aí ele pegou essa base dados histórica de classificações desses textos e ensinou uma máquina. E aí agora lá no TCU não tem aposentaram o cara do protocolo, porque esse preenchimento é feito de forma automatizada, porque eh foi um algoritmo de PLN que aprendeu a classificar textos. Análise sentimento é outro exemplo que tá muito na moda, né? Análise sentimento é classificar um texto em positivo, negativo ou neutro.
26:14 Então, se uma pessoa faz um comentário sobre um produto no e-commerce e aí você pega esse comentário, coloca na máquina, né? Máquina diz comentário positivo, aí tem 1000 comentários sobre determinado produto. Se tem mais comentários positivos, que é que você faz com esse esse produto, bota na na porta da loja para vender, né? Agora, se você tem muitas avaliações negativas, você tira o produto porque ele tá teimando. Então, a análise sentimento, ela ajuda inclusive nisso, tá? Eh, esses aí, tipo, PLN, ela evoluiu, evoluiu graças a quantidade, a a capacidade de processamento gigante, porque pegaram todos os textos indexados pelo Google e colocaram dentro de uma máquina e a máquina aprendeu a a escrever. Foi isso
27:02 que aconteceu. Eh, na verdade, ela não é inteligente, ela só faz uma análise estatística, tá? Então, se você coloca lá, eu gosto de cachorro e na na verdade a máquina tá gerando para você, olha, eu gosto de cachorro. Aí é no contexto de culinária, tem 99,9% de chance da próxima palavra que vier seja quente, né? Eu gosto de de cachorro quente. E assim, eh o o a IA Generativa, essa I aí que tá revolucionando o mundo, quando treinaram o treinamento, a primeira parte do treinamento pré-trainer, eh ela ela recebeu todos os textos do mundo e aprendeu as
27:47 probabilidades de, dada que essa palavra tá no texto, qual é a próxima palavra que vem? É essa. E e dado que já entrou duas palavras, qual vai ser a terceira? E dade, né? E como é que ele ele reconhece o prompt, né? A entrada de dados, tem um tal de mecanismo de atenção que também ele aprendeu nesse pré-trainer. Ele aprendeu quais são as palavras mais importantes dentro de uma frase. E aí ele consegue ver, ter uma visão global da frase. Olha a loucura, né? Identificar o meio do mecanismo de atenção, quais são as palavras principais. E a partir dessas palavras principais ele começa a gerar o texto, tá? De resposta. É assim que posicionar do negócio e tudo baseado em estatística, não tem nada de
28:32 inteligência de verdade, não, tá? Então, nossa querida inteligência artificial treinada com grande volume de texto são os large language models, Ll, tá? Eh, o GPT, o chat GPT da Open é o mais famoso. O Google, ele tem o Gemini, né, que tá que tá bombando, mas o BERT também é um é um é um LLM livre que a turma gosta muito. Tem o Lama da Meta, né, lá do do Facebook e o Clou da Antropic. Antrópica é uma galera da Openai que saiu e aí disseram assim, ó, agora a gente vai fazer um LLM muito bonzinho, politicamente correto, que não vai fazer nada de errado, é o close, tá? Ele é muito bom, tá? Vou dar uma pesquisada nele. Eh, para você ter uma noção, a
29:19 rede neural que foi treinada nesses modelos podem ter bilhões ou até trilhões de parâmetros. Parâmetros são os pesos das conexões das redes dos neurônios. Cada neurônio da rede neural, ele recebe os dados da camada anterior. Então, se tinha três neurônios na camada anterior, tem três pezinhos aqui, três valorezinhos, três parâmetros entrando nesse neurônio. E se na próxima camada tem dois neurônios, aí aparece mais de dois parâmetros aqui, dois pezinhos que precisam ser ajustados durante o treinamento da rede neuroartar. Então, a gente tá falando de bilhões de trilhões de conexões. Então, imagina a quantidade de neurônios que tem essa essas
30:05 rebichinha, tá? Então, são modelos pesados, pesadíssimos, que não vão rodar no seu computador, não. Você não consegue treinar um um GPT na sua máquina, não. Tá bem? Então fica aí para vocês a base tecnológica, gente. Transformer, o o GPT é generativo, pretrainering, que é a primeira etapa do treinamento que eu vou falar para vocês, Transformer, que é o nome que deram pra rede neural proposto em 2017 e que tem como principal diferencial o mecanismo de atenção. Então, dado um texto grande, ó, por exemplo, isso aqui, ó, o texto é dividido em unidades menores. Ele vai dizer que unidades dividido é o mais
30:51 importante. E aí, a partir disso aqui, eh ele pode chegar ao conceito de tokenização, tá? Então, eh eh como que o Transformer funciona, grosso modo? Ele primeiro ele vai tokenizar, vai separar cada palavra do texto, tá? Tokenizar é dividir um textão em palavras pequenas, porque ele aprende por palavras, por tokens. E aí o mecanismo de atenção vai ver quais são os tokens mais relevantes. E aí um mecanismo de predição, porque ela foi treinada, ela vai prever o próximo token ou então vai finalizar a sequência de palavras com base no que ela aprendeu no pré-training, no treinamento anterior, que eu vou trazer para vocês já já, tá? E aí eu te pergunto, meu jovem tá aí assistindo ao vivo, ficou confuso, não, né? Dá, tá, tá
31:38 andando, né? Tá andando. Qualquer dúvida, manda aí que eu respondo, tá? Eh, beleza. Material na tela. Agora, próximo, próximo slide aqui, que que temos aqui, ó, o processo de treinamento. São três etapas, ó. Prettraining, o ajuste fino e o reinforcementar with woman. Rif, não, né? Vamos fedback. É o TH é a primeira coisa que você aprende quando começa a estudar inglês, né? Eu não aprendi, não. Aprendi jogando videogame. Fliperama. Vamos lá. Para trein aprendizado não supervisionado. Eu pego todos os textos do mundo. Todos os textos do mundo, milhões de textos, inclusive aqueles protegidos por direito
32:24 autoral, né? Um PDF do Ariano Soarsuna, né, que tava lá no Google, vai junto, tá? E aí eu entrego paraa máquina. E a máquina vai aprender o seguinte, ela vai aprender a prever uma palavra ou pedaço palavra a partir das palavras anteriores, a partir do contexto que é dado no prompt, na história que ela tá conversando com você, tá certo? São dados massivos e não rotulados. É aprendizado não supervisionado. Beleza? Beleza? Então ela vai aprender, tipo, tem um masc language model, onde ela mascara as palavras para prever o que é que tá faltando. E aí o causal language mod, não sei aqui tá cair em conclusão, é o GPT prevendo o próximo
33:10 topo. Então o que acontece quando o GPT começa a falar com você? Eh, ele vai lá, eh, por exemplo, você pergunta o que é o pré-training do Transformer? Ele vai dizer e é, é, a prime, ele vai prevendo cada uma das palavras, porque ele já tem o contexto do seu prompt. Dado o contexto do seu prompt, qual é a palavra que vem? Eh, eu tô querendo ensinar o que é o o pré-training, cara. Todos os textos que eu li sobre train, ele dizia que é a primeira etapa do negócio. Então eu vou dizer, então ele vai gerar essa primeira frase aqui, ó, é a primeira etapa do processo de treinamento de uma rede neural de um lar de um LLM, tá?
33:55 Palavra por palavra. Por isso que não pensem que é, sei lá, um um design, uma besteirinha, não. Quando ele fica lá a bolinha, né, ele vai gerando palavrinha por palavrinha. Aquilo ali é ele trabalhando, tá? Aquilo ali é ele trabalhando a partir do pré-training, a partir de tudo que ele viu, todas as estatísticas de texto do mundo. Beleza? Beleza. Muito bem. Ele aprendeu a fazer isso. Aprendeu? É o suficiente? Não, porque ele vai aprender besteira. Nem nem só de acertos vai existir. Nem só de acertos. Eh, a gente tá falando de uma base de dados com todos os dados da internet. vai vir muita besteira, vai vir muito texto problemático. Então eu vou fazer o ajuste fino. É, o ajuste
34:43 fino é segunda etapa. O terceira etapa é que resolve o problema lá da bagunça. Gente, o ajuste fino é o seguinte, eu o o GP fez isso, tá? Aqui é eh eh eh é é fazer com que o meu modelo original que foi treinado, ele aprenda a resolver tarefas específicas, tá? Então eu posso fazer um LLM paraa área jurídica, um LLM paraa área médica. Lá na CGU a gente tem uma a o CGU site. CGU Insite ele foi é um GPT que foi treinado, que recebeu um ajuste fino por meio de Rag, eu vou falar de Rio também. Eh, nem é meio ajuste fino, mas ele a gente pegou todos os relatórios de auditoria que a gente produziu, os PDF, deu pra máquina. A
35:29 máquina agora tá especialista em relatório de auditoria. Resolvemos um problema lá de gestão de conhecimento que era histórico, porque ninguém conseguia recuperar as informações de lá vou de tal Bolsa Família, quais foram os últimos três relatórios, o que é que a gente recomendou, o que é que foi achado. Isso aí só tava na cabeça das pessoas que tinham trabalhado, tá? E agora não, a gente tem uma máquina, uma um um IA que a gente vai iniciar um trabalho de auditoria, quer saber o histórico, tá lázinho para nós, tá? Isso é sensacional. Então, o ajuste fino é quando você vai melhorando o GPT, o o o pré trainer para resolver alguns problemas específicos. Eh, o pessoal fez ajuste fino para tentar deixar o GPT
36:17 mais ético, né, para ele não ficar falando muito abobrinha, tá? Isso aí, isso aí é verdade. Eh, e a terceira etapa é o RLHF, tá? é o aprendizado reforço com feedback humano. Não sei se você usa o chat EPT, já fez um promptí na resposta tem assim: "Você prefere essa resposta ou essa resposta?" É quase a mesma coisa essa resposta, né? Aí você diz: "Eu quero essa". Isso você acaba, parabéns, você acabou de participar do RL RLHF, tá? É o aprendizado por reforço com o feedback humano, tá bom? Os humanos avaliam as respostas, né? vão descobrir quais são as respostas melhores. Aí o chatt aprende com isso. Ele vai ser reforçado com qual estilo de de resposta é um e nem mostrei para
37:04 vocês, né? Então, ó, humanos avaliam as respostas e aí eles vão preferir as mais claras, úteis e seguras, né? E com isso chatt vai aprendendo que que é claro, útil, útil e seguro, tá? Então, ó, primeiro eu aprendo com todos os dados no mundo, dados não rotulados, aprendizado não supervisionado, é o é o é o prrain. Depois eu faço a justifing tuning e depois eu faço o RLHs, é o reinforcement learn with with ruban feedback. Tá bom? Beleza. Isso pode aparecer na sua prova, pode aparecer na sua prova. Fé em Deus, tá? Eh, vamos lá pro próximo slide aqui. Tem umas coisas aqui ou já terminou o nosso? Deixa eu ver aqui.
37:50 Material. Beleza. Eh, os nossos problemas enfrentados pelos os problemas enfrentados pelo pelos LLN vai aparecer na sua prova, tá? Você tem que saber o que é uma alucinação. É quando ele inventa informação, quando não tem base confiável, tá? Então, eh, ele não encontra a resposta dentro lá da sua da base estatística dele. Ele começa a a fingir que sabe. Isso é o problema que ele fala com a com a com a propriedade, né, que pode enganar as pessoas. Esse é o conceito de alucinação, tá? É quando o chatpt erra, ele inventa, tá certo? Pode aparecer na sua prova, conceito de alucinação, dependência de dados de treino. E eu quero trazer aqui o viés
38:37 algoritmo, que é o assunto que mais aparece questão do concurso quando você fala em ética. E ética tá lá explícito no seu edital, viés algoritmo tá lá explícito no seu edital. O viés algoritmo é quando a máquina parte de um pressuposto errado para gerar uma informação, tá certo? E aí vai ter viés na base de dados aprendida pelo chatt. Quer ver um viés lascado? eh, no chat EPTP para gerar imagens, tá? Gerar imagens é um outro algoritmo e tal, mas é a mesma lógica, né? Ele recebeu imagens de todo mundo e aprendeu a a criar imagens do nada, do zero, partir do ruído. Enfim, eh o que é que aconteceu quando a gente pedia pro chat EPT fazer uma pessoa negra, ele sempre tinha mais
39:22 dificuldade de desenhar aquela pessoa negra com perfeição do que uma pessoa branca. Inclusive ele tinha dificuldade de identificar pessoas negras importantes, né? Se você botar lá a foto do Lula, que isso? Vai ver o Lula. Agora se você colocasse lá o Martin Luther King, ele teria dificuldade para achar que poderia errar, tá? Ia falar Ed Murf, sei lá, entendeu? Eh, por quê? Porque ele no na base de treinamento do chatt do Aali lá, ele ele ele tinha poucas poucas pessoas negras representadas. E aí deu ruim. Quer ver um outro problema? Aí ele aprendeu. Teve um outro problema de viés algoritmo muito forte, ó. Você pede pro chat EPT criar a imagem de um auditor, ele bota uma pessoa branca.
40:08 Você pede pro chat CPT criar a imagem de uma de um caixa de supermercado, ele coloca a pessoa nele. Isso é um viés porque ele tá eh ele tá associando as profissões a à raça da pessoa. Não tem nada a ver com a história, né? não tem nada a ver com a história. Então isso é o viés. Então eh outro exemplo de viés, fizeram a máquina para prever quantos anos de cadeia ia dar pro marginal, né? Ou seja, quantos anos um juiz daria de de sentença pra pessoa. E aí a máquina começou a dar penas maiores para pessoas negras. tava a pessoa branca, a o o crime era o mesminho, a a pena era mais
40:54 branda. Por que que ela fazia isso? Vamos ver se vocês percebem. Porque ela foi treinada com dados reais, dados históricos reais. Os juízes quando pegavam a pessoa negra, inconscientemente, racismo estrutural e tal, dava, deixava a pessoa mais tempo presa. E aí o chatpt, ah, chatt deu deu essa, inventou isso aí, tipo, proibiram lá nos Estados Unidos de usar eh IA para esse tipo de problema, né, de decisão relacionada ao poder judiciário. Dá para tudo. Beleza. Então, o viés algoritmo ficou, quer ver um exemplo brincando lá? Eu quero prever se o cartão de crédito é VIP ou não. Aí teve um gerente humano
41:41 que deu cartão de crédito VIP paraa família dele todinha, deu para 30 pessoas da da família Albuquerque. Aí quando o a máquina foi treinada com essa base de dados e ela viu assim: "Nossa, tem 32 albquerque na base, 30 ganharam cartão de crédito VIP." Então o sobrenomeque é importante. Aí começou a dar cartão de crédito VIP para todoquerque que aparecia. Isso é viés algoritmo. Ela tá tomando uma decisão, ela tá fazendo uma previsão com base numa lorota que ela aprendeu na base de dados. Tá bem? Pronto. Viés nunca viés vai aparecer sua prova essa palavra. Tenha certeza disso. Eh, outro problema relacionado aos GPTs, aos LLM é o custo computacional. processamento,
42:28 energia, tá? Isso aqui é um problema não resolvido. E aqui é para ficar claro para vocês que eles não têm consciência, não tem compreensão real, é apenas estatística, tá? Para fechar, não tem mais coisa aqui. O o hag, hag é um assunto que volta e meia a FGV fala nas nos concursos de TI. Então, é mais uma aposta minha. O que é RAG, professor? É o que a CGU fez para eh criar lá a máquina, a IA que sabia dos relatórios de auditoria da CGU. O hag, eu pego um banquinho de dados e deixo aqui do lado. Eu não, eu não, ó, treinamento mesmo, treinamento não supervisionado com pré-training, tá? O ajuste fino, ele
43:17 é um é um treinamento supervisionado, onde eu entrego os dados e treino a máquina, também é treinamento. Agora, o hag não é treinamento, não. É isso que eu quero chegar para vocês. O reenforcement learning é aprendizado por reforço. Então veja, essas máquinas poderosas, esses LLNs, eles eles são treinados, eles passam pelos três tipos de processo de de aprendizado de máquina. O supervisionado, o supervisionado primeiro, depois o supervisionado com fine tone e depois o o reforço com ajuda dos humantes, tá? Então, interessante isso, né? Agora volta para cá. O hag. O hag é o seguinte. Eu crio uma base de dados com os PDFs do relatório da auditoria e
44:02 deixo aqui do lado da IA. Aí quando vem o prompt, quando o cara pergunta alguma coisa, aí eu faço uma pesquisa nessa base de dados, pego o que é importante e mando para dentro da IA. Aí a IA recebe o seu prompt e os resultados do Rag. E aí ela tem ali uma informação adicional que vai ajudar ela a te entregar uma resposta mais legal, tá? Então, ó, o hag ele combina modelo generativo de linguagem. Hag é retrieval, ou seja, recuperação aumentada, é generation aumentada por meio da recuperação de dados, tá? Então, eu tenho um sistema de recuperação de informações, que é um banco de dados que vai recuperar esses dados e vai entregar para Iá, tá? Com isso eu diminuo a
44:49 alucinação, porque o que é alucinação? É quando a IA vai nos seus alfarados, vai na sua base de dados e não encontra a resposta. Aí ela inventa. Então quando eu entrego para Iá, eh, o cara perguntou sobre o relatório do Bolsa Família, eu mostro para ela quais são os relatórios do Bolsa Família, qual é a chance dela alucinar? Zero, tá? Então, de fato, rádio diminui bastante a alucinação. O processo é assim, eu já falei para vocês, ó. O cara faz uma consulta no um prompt, pá. Aí o módulo de recuperação, antes do LLM trabalhar, antes da IA generativa trabalhar, busca a base externa confiável, né, os o meu minha base de dados. E aí esses documentos
45:34 recuperados entram no LLM junto com prompt e aí o LLN utiliza o prompt, o seu conhecimento pré-treinado, as informações recuperadas e gera uma resposta melhor, tá? O hag, ele é muito bom e e vai aparecer na sua prova também. Para terminar esse evento, né, que a gente tá trazendo aqui conceitos, eh, a engenharia de pontes. Deixa eu só ver se alguém falou alguma coisa. Vocês estão quietos no no ao vivo, hein? Vocês já foram melhor, hein? Deixa eu ver aqui. Jeline. Preconceito. É isso, Jceline. Em outras palavras, a máquina aprende os preconceitos que foram inseridos na base de idade, tá? Aí o povo diz que não tem racismo estrutural, né? Ele a base de dados é racista. Pronto.
46:25 Você falar mais alguma coisa? Vamos lá. Eh, engenharia de prompt. de ó gente, o prompt é entrada de dados para o meu LLM trabalhar. E aí engenharia de prompt é você construir promptes que vão diminuir o risco de alucinação, que vão fazer o LLN te trazer informações mais confiáveis, mais detalhadas. E aí tem uns nomezinhos que já apareceram em algumas questões do concurso que aí é o meu chute para algo que pode aparecer na sua prova, tá? Então, ó, quando aparecer assim, shot, shot, tem a ver com você dar exemplos. Um bom prompt você entrega exemplos, tá? O zero shot prompt você
47:10 ele vai ele não vai receber exemplos no prompt de entrada, não é uma boa prática. Quando você fala assim, ó, explique o que é auditoria de sistemas, pronto, aí ele vai procurar e tal, vai ver se acha o f shop pr você dá alguns exemplos aí, ó. Olha o pronto. Traduza, ó. Dog é cachorro, cat, horse, cavalo. É o quê? Ele vai dizer cavalo. Ah, ele tá querendo traduzir. Vai, porque isso aqui é um exemplo besta, né? Mas quando você entrega exemplos, por exemplo, quando eu vou fazer questões pro simulado do gran, eu pego questões reais da banca do assunto que que e aí eu peço para ir a gerar. Então, olhe, eu quero
47:56 que você gere uma questão sobre hack, tá? Aqui questões anteriores da da banca sobre ra, tá? Inove um pouquinho, mas siga o padrão. Aí ela segue o padrão e eu quase não tenho problema com aquela questão, tá? Porque a graça ah, professor, o senhor tá usando chatt para fazer? Todo mundo tá usando, o examinador tá usando muito, não é pouco não, entendeu? Mas assim, o importante é que tenha uma a revisão humana. A revisão humana é fundamental, diferente do que acontece algumas provas. Eu vou eu ainda vou fazer um evento com as questões esdúchulas criadas pelo GPT. Já tem questão aí que, tipo, o enunciado tem a resposta. É, tentar mostr aqui.
48:43 Será que eu consigo recuperar? Fácil. Não, não consigo não. Mas enfim, eh, é importante que haja essa revisão depois, né? senão vira bagunça. Então o fio shot, você, eu quero que você faça um mapa mental sobre LLM. Olha o mapa mental que eu fiz sobre alguma coisa. Aí você manda a imagem para ele, tá? Aí ele Ah, tá. O shen não sei falar isso não. Não sei. É o cot. O cot é quando é uma estratégia para você fazer a máquina pensar melhor antes de te responder. Tipo, você quer que ela faça uma resolva uma questão matemática? Você diz a ela: "Faça passo a passo." O passo a passo
49:28 vai fazer com que ela te mostre como que ela chegou ao resultado. E isso aí normalmente gera eh respostas melhores, tá? Explique o que é auditoria de sistemas. Passo a passo vai vir melhor do que explique o que é auditoria de sistema. Beleza, fechamos, fechamos, fechamos. Como é que estamos aí, ó? 50% off na assinatura. Você que não é do Gran. Imagenzinha, ó, o Iago Gomes Pereira, o primeiro lugar do MCTI. Muito bem. É isso, gente. Fechamos CNU bloco três. O que revisar, gente? Horal da história, terminou meu tempo. Eh, eixo temático 1, 2 e 5 é o que vai diferenciar na prova, tá? Vai que vai, porque são 12 questões
50:14 de cada. Eu focaria nesses três. Eh, se eu sou de TI, né? Se eu sou de TI, eu focaria nesses três, porque gerenciamento de projeto já estudei na vida. Eh, e a já estud na vida, ainda tive essa revisão hoje aqui com o professor Víor. Então, eu focaria nesses três e não deixaria de lados a parte básica lá, não, porque a parte básica também vai reprovar a gente, tá certo, gente? Valeu. Quem não me segue no Instagram me segue lá, Vitor Cel. Deixa eu ver se tem mais alguma mensagem aqui no ao vivo. Tem, ó, Henrique. Deixa eu ver aqui. Tuchu. Hoje em dia não existe mais programador sem a todo mundo usa ou se adapta ou fica para trás. É. Eh, e aí vamos falar dos problemas, né, que tem a ver lá com a disciplina de trabalho e emprego ou trabalho e tecnologia lá dos conhecimentos básicos. É aquela
51:00 história, hoje a gente tá feliz porque o programador tá fazendo mais código, a a a fábrica de software, a empresa que que contrata o programador, tá entregando mais código e a empresa que contratou, a empresa que desenvolve o software, tá recebendo mais rápido e mais código e mais sistema funcionando. Então tá um momento de êxtase. Vai chegar um momento que o meu, minha querida fábrica de software vai perceber assim, cara, para que que eu vou querer 10 programadores que se eu posso colocar dois e botar eles só para ficar revisando o código gerado por IA? Aí demite oito e a própria empresa lá, para que que eu vou contratar a fábrica de software se eu mesmo aqui contrato dois programador e
51:48 ele mesmo vai fazer o sistema todinho da minha organização, para que que eu vou terceirizar? Então vai ter mudanças estruturais em breve. Já tá tendo, né? Layoff é o que não falta, né? O nosso querido rotina de guerreiro, nosso querido Gunteramorim. Segue lá. Você que não segue, @rotinadeguerreiro lá no Instagram. Eh, ele tem um conceito maravilhoso de deve estável, que é o programador que passou no concurso público. E aí não tem mais risco de layoff e não tem mais risco daí a chegar e tomar o emprego dele, né? Se ele não conseguir a estabilidade a tempo, tá? Tá, tá, tá tranquilo. Então é isso, gente. É isso aí. Beleza, fechamos. Segue lá no Instagram Vitor Castle. Um abraço para todos. Boa noite. Até a próxima.
