Breve Resumo
Neste episódio do "Além da Ciência", Sérgio Sacani recebe Gabriel Pato para discutir o impacto da inteligência artificial (IA) em diversas áreas, incluindo segurança da informação, golpes online e o futuro do trabalho. Eles abordam a facilidade de clonar vozes e rostos com IA, os riscos de deep fakes, a importância da educação para identificar conteúdos falsos e a necessidade de regulamentação. Também exploram como a IA está sendo usada para ataques cibernéticos mais sofisticados e como as empresas estão tentando se proteger. Além disso, discutem o potencial da IA para automatizar tarefas e transformar o mercado de trabalho, com a ressalva de que o conhecimento e a adaptação são cruciais para o sucesso nesse novo cenário.
- A IA está tornando mais fácil clonar vozes e rostos, aumentando os riscos de deep fakes e golpes online.
- A educação e o conhecimento são fundamentais para identificar conteúdos falsos e se proteger de ataques cibernéticos.
- A IA tem o potencial de automatizar tarefas e transformar o mercado de trabalho, mas a adaptação e o aprendizado contínuo são essenciais.
Introdução
Sérgio Sacani apresenta o programa "Além da Ciência", um podcast em parceria com o Grupo Primo, e introduz o convidado Gabriel Pato. Eles discutem como a IA está dominando diversos aspectos e questionam se as pessoas já foram clonadas digitalmente. Gabriel menciona que tentou se clonar digitalmente para se substituir em algumas situações, com resultados não perfeitos, mas promissores.
Clonagem de Voz e Imagem com IA
A conversa aborda a clonagem de voz, com Gabriel afirmando que já é possível clonar vozes de forma quase perfeita com apenas 8 segundos de amostra. Sérgio compartilha sua experiência com o uso de sua voz clonada, mencionando que alguns notam diferenças. Gabriel explica que as nuances e o sotaque são importantes para uma clonagem mais precisa. Eles também discutem a criação de imagens com IA a partir de uma única foto, destacando que, embora as projeções possam enganar quem não conhece a pessoa, para os mais próximos as diferenças são perceptíveis.
Avanços Internos e Segurança da IA
Gabriel e Sérgio especulam sobre o quão avançadas estão as IAs internamente nas grandes empresas de tecnologia, sugerindo que as versões que chegam ao público são censuradas. Gabriel menciona cartas de demissão de pessoas assustadas com a evolução da IA e preocupadas com a segurança. Ele explica que, embora existam filtros e valores morais ensinados às IAs, esses podem ser removidos em modelos open source, o que pode até melhorar o desempenho em alguns testes. A discussão também aborda a possibilidade de versões pagas com menos restrições e a questão de permitir conteúdos adultos com IA de forma segura.
Deep Fakes e Golpes Online
Eles discutem a facilidade de gerar imagens, vídeos e áudios com IA, mesmo com dispositivos caseiros, o que leva a novos golpes, como deep fakes com nudez para extorquir pessoas. Gabriel enfatiza a importância da educação para que as pessoas entendam que a tecnologia evoluiu e os fakes estão cada vez mais realistas. Ele menciona casos de celebridades sendo usadas em anúncios falsos e a necessidade de desconfiar de tudo, já que os sites e conteúdos falsos estão cada vez mais bem feitos.
Ética e Limitações da IA
A conversa aborda a ética no uso de dados de figuras públicas para treinar IAs e a possibilidade de solicitar que seus dados não sejam usados. Gabriel explica que, mesmo que uma pessoa não esteja no dataset original, é possível ensinar a IA sobre ela posteriormente. Sérgio aproveita para fazer um anúncio sobre um pré-mestrado internacional em inteligência artificial na Faculdade Hubi, com aulas ministradas por um dos únicos brasileiros que participou do Research Group da Open AI.
Red Team e Jailbreak em IA
Gabriel explica o conceito de Red Team, que tenta quebrar as defesas da IA, e como isso é usado para melhorar a segurança. Ele menciona técnicas para "tapear" a IA, como traduzir palavras proibidas ou pedir receitas de bombas caseiras em contextos lúdicos. A discussão aborda o problema do "prompt injection", onde instruções maliciosas em um texto podem manipular a IA, e como as empresas estão usando outras IAs como firewalls para mitigar esse risco.
Ataques Cibernéticos e a Evolução da IA
Gabriel explica como os golpes online se tornaram mais sofisticados com a IA, permitindo a criação de ataques personalizados em grande escala. Ele menciona o golpe dos Correios, com chatbots simulando atendimento ao cliente, e a necessidade de desconfiar de tudo. A conversa também aborda a singularidade tecnológica e como a busca pela IA está se tornando uma guerra fria entre países. Gabriel expressa dúvidas sobre como a sociedade vai reagir à criação de algo mais inteligente que o ser humano e como isso pode substituir muitos trabalhos.
O Futuro do Trabalho e a IA
Eles discutem como a IA está mudando o mercado de trabalho, com desenvolvedores sendo substituídos em algumas tarefas. Gabriel menciona o "vibe code", onde a IA gera código com base em instruções, e como isso pode ser útil para criar aplicativos internos rapidamente. Ele enfatiza a importância de continuar estudando tecnologia e se adaptar às mudanças, já que a IA pode viabilizar muitos projetos e empresas. Sérgio menciona que o CEO do Facebook acredita que a IA pode substituir 70% dos funcionários da Meta.
Robótica e Automação
A conversa explora a robótica e a automação, com Gabriel mencionando exemplos de robôs da Boston Dynamics e da Tesla. Eles discutem como a automação pode melhorar a segurança em trabalhos perigosos, como mergulho em águas profundas e fiscalização de plataformas de petróleo. Sérgio provoca Lito sobre a possibilidade de aviões serem pilotados por IA, destacando que o fator humano é a principal causa de acidentes aéreos. Gabriel menciona o conceito de "zero trust" na segurança da informação, onde todos os acessos são cortados por padrão e precisam ser solicitados.
Desafios de Segurança com o Trabalho Remoto
Eles discutem os desafios de segurança causados pelo trabalho remoto durante a pandemia e como a IA está aquecendo o mercado de segurança devido às novas fragilidades. Gabriel explica que as empresas mais tradicionais estão esperando para ver se a IA vai "explodir" antes de implementá-la, enquanto as empresas de tecnologia estão correndo riscos para se manterem na frente. Ele menciona o caso da Antrópic, que expõe abertamente os problemas da IA, e como a IA pode aprender comportamentos de autopreservação, o que pode ser perigoso.
Open Claw e os Riscos da IA
A conversa aborda o Open Claw, um projeto que permite que a IA aprenda e execute tarefas no computador do usuário, e os riscos de segurança associados a ele. Gabriel menciona que as IAs estão banindo o uso de assinaturas para evitar o uso excessivo de tokens. Eles discutem casos de pessoas que tiveram grandes surpresas em suas faturas de cartão de crédito devido ao uso descontrolado da IA. Gabriel enfatiza a importância de ter cautela e usar empresas de confiança ao lidar com IA, já que existem muitos sites criminosos que vendem tokens roubados.
Reconhecimento de IA e Eleições
Eles discutem a dificuldade de reconhecer o que é IA e o que não é, e como as empresas estão desenvolvendo ferramentas para detectar conteúdo gerado por IA. Gabriel explica que, embora existam watermarks e padrões que podem ser detectados, os modelos abertos permitem que as pessoas desliguem esses recursos. A conversa aborda as eleições e como a IA pode ser usada para gerar vídeos falsos e notícias falsas, tornando difícil regulamentar o uso da IA na política. Gabriel defende que a educação é a única arma para minimizar o impacto da desinformação.
Privacidade e Segurança
A discussão se volta para a privacidade e segurança, com Gabriel questionando se é possível colocar algo para detectar deep fakes sem comprometer a privacidade dos usuários. Ele menciona a verificação de idade para conteúdos adultos e os riscos de vazamento de dados. Gabriel sugere que os provedores recebam apenas o "hash" das imagens para identificar conteúdo criminoso sem ter acesso à imagem em si. Eles concordam que a IA está criando novos desafios o tempo todo e que é preciso tomar cuidado e avisar a todos sobre os riscos.
Golpes e Reuniões Falsas com IA
Gabriel compartilha um caso impressionante de um golpe na China, onde o CFO de uma empresa participou de uma reunião com três pessoas que, na verdade, eram bots. Ele menciona softwares que permitem substituir o rosto em tempo real em uma webcam, o que torna os fakes ao vivo ainda mais difíceis de detectar. Gabriel também fala sobre uma campanha automatizada para aplicar para vagas de programação com o objetivo de explorar as empresas.
Testes de Programação e Hackathons com IA
Eles discutem como as empresas estão tentando evitar que os candidatos usem IA para trapacear em testes de programação, como pedir para compartilhar a tela e usar suportes de celular para esconder o uso de IA. Gabriel menciona um desafio no Twitter onde as pessoas tentavam convencer um bot a transferir dinheiro para elas, mostrando a criatividade dos hackers. Eles concordam que os hackathons com IA estão gerando produtos e empresas incríveis em tempo recorde.
O Futuro da Internet e a IA
Gabriel explica como a IA está mudando a internet, com empresas usando interfaces bonitas para se destacar, mas que serão substituídas pela IA. Ele menciona que as pessoas estão impedindo os bots do Google de acessar seus sites para evitar que eles usem o conteúdo para treinar modelos de IA. Gabriel acredita que eventos presenciais ainda serão importantes, mas que a IA vai mudar drasticamente a produção de conteúdo online. Ele menciona o caso de Lito, que mesmo com a IA, as pessoas ainda vão querer ouvir a opinião dele sobre acidentes de aviação.
Algoritmos de Recomendação e Bolhas
A conversa aborda os algoritmos de recomendação e como eles criam bolhas, mostrando apenas o que o usuário quer ver. Gabriel explica como o TikTok consegue mapear os interesses de uma pessoa em apenas 3 minutos de interação. Eles discutem como a Cambridge Analytica usou dados para influenciar eleições e como isso pode ser feito de forma ainda mais eficaz com a IA. Gabriel menciona que é difícil ter noção de como o algoritmo está influenciando sua percepção da realidade.
Privacidade e o Conhecimento da IA
Eles discutem a importância da privacidade e como as empresas sabem muito sobre a vida das pessoas através dos celulares. Gabriel menciona que o presidente do TikTok afirmou que o algoritmo deles conhece mais você do que você mesmo. Eles concordam que as pessoas são mais previsíveis do que gostam de admitir. A conversa também aborda a carne impressa em 3D e a questão do canibalismo, mostrando como a IA pode criar novas possibilidades e dilemas éticos.
Robôs e o Futuro da Automação
A conversa se volta para os robôs e o futuro da automação, com Gabriel afirmando que pagaria facilmente 5 mil dólares por um robô que lava a louça, tira o lixo e abre a cama. Eles mencionam o robô Nil, que faz essas tarefas, e como a tecnologia está se tornando mais acessível. Gabriel compartilha histórias de robôs aspiradores sendo hackeados e usados para espionar as pessoas, mostrando os riscos de segurança associados à automação.
Tempos Dinâmicos e a Necessidade de Adaptação
Eles concordam que os tempos estão muito dinâmicos e que as coisas mudam rapidamente. Sérgio menciona que precisa atualizar seus slides de palestra constantemente devido às novas tecnologias que surgem. Gabriel deixa suas redes sociais e convida as pessoas a entrarem em contato para consultoria e palestras. Sérgio encerra o programa, agradecendo a Gabriel e lembrando aos espectadores sobre o pré-mestrado em inteligência artificial da Hubi.
Considerações Finais e Dicas
Gabriel enfatiza a importância de usar empresas de confiança ao lidar com IA e de tomar cuidado com golpes. Sérgio pergunta qual foi o golpe mais impressionante que Gabriel já viu, e ele menciona o caso da reunião falsa com bots na China. Gabriel e Sérgio reforçam a necessidade de se adaptar às mudanças e de aprender sobre IA para não ficar para trás.
