Transcrição do Episódio 0:00 [música de introdução] Diretamente da maior comunidade de ciência de dados do Brasil, a gente traz o Data Hackers News, as notícias mais quentes da área de dados AI e tecnologia, direto do podcast Data Hackers. 0:18 Eu sou Monique Femme e junto comigo eu trago ele, Paulo Vasconcelos, pra falar sobre as notícias que estão bombando essa semana na área de dados. E aí Paulo, como que cê tá? Fala Monique, e aí pessoal, beleza? 0:30 Vamo simbora pra mais uma semana aí de notícias quentes, né, da área de dados e inteligência artificial. É, haja modelo aí sendo lançado, né Paulo? Pô, nem fala. Anunciado, lançado, muita coisa boa aí. É isso mesmo. 0:42 Então bora pras notícias dessa semana. [música de transição] E a primeira notícia dessa semana é que a Meta lançará a versão mais poderosa do Llama 3 no dia vinte e três de julho. 0:59 A Meta vai lançar o seu maior modelo no dia vinte e três, conforme saiu no The Information na última sexta-feira. 1:05 O novo modelo multimodal possui quatrocentos e cinco bilhões de parâmetros pra entender e gerar imagens e texto. 1:12 Vale ressaltar que em abril desse ano a gente anunciou aqui no Data Hackers News, duas versões ali do Llama 3, que chegou a ser lançado uma com oito bilhões e outra com setenta bilhões, né Paulo? 1:23 E que já era algo muito significativo ali pro desenvolvedores. Mas Paulo, eu quero ouvir de você, o que esse próximo lançamento do Llama 3 representa após um ano ali do lançamento do Llama dois, né? 1:36 Pois é, um ano depois do lançamento do Llama dois e o, o que, uns três meses depois do lançamento do três, né, do, do Llama 3. É. 1:44 E assim, é um, um dos modelos mais poderosos e com certeza o mais famoso que a gente tem na, na comunidade, né? As pessoas tavam bem ansiosas aí com essa lan-- com esse lançamento. 1:52 E essa questão da capacidade multimodal desse modelo, eu acho que é um grande, é, é o grande sabor que ele vai trazer ali pra mesa, sabe? Porque vai ser capaz de gerar, entender imagem. 2:03 Não é um modelo fácil de você disponibilizar na sua, na sua empresa, né? Quatrocentos e cinco bilhões de parâmetros é muita coisa, então você vai precisar de uma infraestrutura bem poderosa. 2:13 Então provavelmente muitos desses provedores de cloud, esses serviços de nuvem assim, vão utilizar ele pra oferecer de alguma forma. 2:21 Provavelmente a AWS também dev-deva pegar também, que o Bedrock deles lá tem suporte ao Llama. Quem sabe a gente vai ver o Llama quatrocentos e cinco aí. 2:29 E assim, é, legal é que assim, mas de novo, a gente tá vendo sempre coisa nova saindo na, na, na comunidade, né, de- É. De IA. 2:36 Tipo assim, cara, desde o começo do ano, não param, toda semana tem alguma, algum lançamento bacana e esse aí marca mais um desses, desses lançamentos. 2:45 Aí Monique, o que a gente pode esperar acontecer disso daí, né, com certeza vão ter muitos testes, muita gente vai pegar esse modelo e experimentar com suas próprias tarefas, experimentar com seus próprios dados. 2:54 E ele pode ser muito bem o modelo pra bater de frente com um, um GPT-4 assim de, de qualidade, embora ele vai trazer desafios também de deploy, né, de você disponibilizar esse modelo dentro da sua infraestrutura. 3:08 Mas vamo ver aí o que que vai sair aí, que só acredito com o modelo na mão, testando o meu dado ali, ver se ele funciona. 3:14 [riso] E, e é engraçado cê falar, né Paulo, que cê até em um determinado momento, cê até citou que esse modelo já era algo esperado, né? Que ele viesse a acontecer, né? Uhum. 3:23 Uma vez que a gente já tivesse anunciado lá atrás esse modelo de oito bilhões, né? E o outro de setenta bilhões no passado. Isso, oito e setenta. 3:30 Eles falaram, né, tipo assim, quando eles lançaram, falou assim: "Galera, tamo disponibilizando aqui pra vocês oito e setenta bi, é, mas ao longo do ano aí vamos disponibilizar mais um de quatrocentos e cinco". 3:40 Isso chamou bastante a atenção, porque o quatrocentos e cinco pode ser até um modelo que enten-entenda melhor o nosso idioma, inclusive. 3:46 Um modelo que consiga entender melhor o português, pra gente fazer re-requisições de dados e tudo mais. 3:50 E, na verdade, acho que não vai ser muito difícil de você, você que tá ouvindo a gente aqui, testar esse modelo, porque tem muito serviço que você pode cob-- é, pagar por hora ali do, pra usar esse tipo de, de modelo ali também. 4:01 Então, assim, acho que vai ser-- o Hugging Face provavelmente vai colocar também no, no Hugging Chat deles lá, pra gente testar. Mas vamo ver, tô animado, tô animado. 4:09 Um lançamento bem bacana aí, contribuição da Meta que pode ser bem impactante pra comunidade. Que legal! Vamos aguardar então o lançamento desse modelo. 4:19 [música de encerramento]E a próxima notícia é que um novo modelo da OpenAI está em produção. 4:27 A OpenAI tá supostamente trabalhando em modelos de inteligência artificial com capacidades avançadas de raciocínio sobre um projeto secreto com o codinome de Strawberry. 4:38 Como esse modelo funciona, ainda é um segredo bem guardado até mesmo dentro da OpenAI. 4:44 Mas um documento citado ali por um jornal que teve acesso, descreve um projeto que usa esse modelo Strawberry com o objetivo de permitir que a inteligência artificial não apenas gere respostas de consulta, mas também planeje com antecedência a navegação na internet de forma autônoma e confiável. 5:03 E tudo isso é pra executar o que a OpenAI chama de pesquisa profunda, de acordo ali com as fontes citadas. 5:10 Mas e aí, Paulo, o que que cê acha de toda essa história, esse projeto secreto aí da OpenAI, que não é mais secreto, né, na verdade, né? 5:16 [risadas] Pois é, esse projeto que eles tão chamando de Strawberry, né, né, o morango, né, que eles tão chamando ali, dizem que é o modelo K-Star, né, que saiu alguns meses atrás também. Ééé, verdade. 5:31 Teve esse rumor: "Nossa, a OpenAI tá trabalhando no modelo que eles chamam de K-Star, né, que é o K asterisco assim", que tão falando que é esse novo. 5:39 E vale ressaltar, né, quando surgiu esses rumores, era bem na época que o próprio Sam Altman tinha sido, é, demitido, né, e tinha muitas suposições sobre esse modelo também, né? Verdade, é verdade. 5:51 Teve isso mesmo, pode crer. Pessoal achava que foi por causa disso que ele foi demitido, só [risadas] Exato. Já tava tudo separado. Lembrando aqui agora. 5:58 Mas assim, tem duas coisas que eu, que eu fico curioso com esse, com esse anúncio, Monique. Uma delas é que ele vem depois do, de semanas que a OpenAI anunciou o treinamento do GPT-5, né? 6:11 Então, com certeza, bem provável que esse, essa nova arquitetura, esse novo modelo não vai ser utilizado junto com o GPT-5, porque se o modelo já tá em treinamento, a menos que eles estejam fazendo ao mesmo tempo, eu, eu acho meio difícil, é, meio complicado fazer isso. 6:26 E outra coisa que eu achei também interessante é que tomara que quando eles falam de um novo modelo, eles não estejam falando de um novo modelo de LLM tra-- de Transformer, sabe? Mas por que, Paulo? 6:36 Então assim, eu queria muito ver um novo modelo que é, não é baseado na, na arquitetura de Transformers, ali inventado pela Google, né? E que o, a OpenAI alavancou e criou o GPT, o GPT e o GPT-2 depor-- depois disso, né. 6:49 Então assim, se for uma nova arquitetura que eles tão propondo pra vez substituir o Transformer, substituir essa espinha dorsal de toda LLM que a gente tem, aí a gente tem um negócio interessante pra trabalhar, porque pode ser um modelo que pensa de uma forma diferente, lide com a tarefa de uma forma diferente também. 7:03 Então aí sim ele pode trazer, tipo assim, um novo respiro pra, pra área de IA como um todo, porque agora a gente tem um, um novo brinquedo ali pra testar, pro treinar e tudo mais. 7:14 E assim, não seria o primeiro modelo com, de LLM com uma arquitetura nova, né. Tem o Mamba, que saiu alguns meses atrás também, que é uma arquitetura que tá sendo bastante elogiada, assim, tem bastante potencial. 7:26 Mas assim, a verdade é, até agora é só rumor, ele falando, então é, é a mesma coisa eu falar assim: "Não, eu tô trabalhando num negócio aí que vai ficar top" e tipo, não mostrar nada, né? 7:35 [risadas] Então vamo aguardar aí, ver se vai realmente sair alguma coisa de bom aí, algum produto legal pra gente usar, algum modelo novo pra, pra sacudir um pouco a comunidade. 7:45 Mas por enquanto eu vou ficar aqui com o meu, com o meu realismo aqui de que isso aí pode ser nada que eles tão anunciando. 7:51 Olha, é aquela coisa, né, Paulo: eu só acredito quando o modelo já tiver pronto, tiver um paper aí pra poder consultar, né, e vida que segue, né? Exatamente. 8:00 Na minha mão ali, achar aqui no meu, no meu computador e testar, aí eu acredito que o modelo saiu mesmo. O que não vai acontecer, né, eu nunca mais vou contribuir com nada open source, né, então... [risadas] Olha! 8:11 [risadas] Vamo ver o que sai daí. Vamo ver o que sai daí. 8:14 E que o Elon Musk não apareça aí depois, né, pra poder reivindicar alguma coisa, né, que geralmente quando tem alguns rumores ali da própria OpenAI, de vez em quando ele quer dar uma causada ali no Twitter, né? 8:25 Verdade, é verdade. [risadas] [música de ação] E vamos pra última notícia, onde emissões de carbono do Google sobem cinquenta por cento devido à inteligência artificial. O quê? 8:41 Uma demanda crescente por inteligência artificial faz emissões de carbono do Google dispararem, comprometendo a meta de zerar emissões até 2030. 8:50 Esse aumento significativo é atribuído ao maior consumo de energia em seus centros de dados e as emissões da cadeia de suprimentos, que acaba impulsionando ali os avanços rápidos e crescentes da demanda por inteligência artificial. 9:04 E é engraçado falar sobre isso, né, Paulo, porque tem pesquisas que já mostram, né, que isso já era algo inevitável, independente do Google ou outras empresas que utilizam ali a tecnologia. Verdade. 9:14 Comparando até mesmo as evoluções do mercado, né? Não, total. 9:17 E a gente, a gente anunciou na news ou a gente falou aqui no Data Hackers News, é, de que teve uma previsão falando que o consumo de energia no, no planeta vai con-- vai aumentar muito nos próximos dois, três anos, se não me engano, muito motivado por conta da, da, dos, de treinamento de modelos de IA, né? 9:35 E acho que esse relatório aí da Google realmente demonstra um pouco disso. 9:39 E o que, o que eu fico até curioso também com isso, Monique, é onde que a Apple entra nisso também, por conta daquele anúncio que eles fizeram que vai zerar a emissão de carbono até 2030, uma coisa assim, né? 9:50 Ééé, verdade. Bom, eu não sei se eles tão considerando os fornecedores deles também, né, porque se tá cons-- colocando a OpenAI nisso aí também, esquece que essa meta no, não vai ser batida, de jeito, de jeito nenhum. 10:00 Exatamente. Né, mas realmente, assim A gente vai ter que pensar em formas melhores de, de, é, treinar modelos de forma mais eficiente, né? Exatamente. 10:09 Ainda mais também pelas demandas dos chips ali, que são pedidos também, né? A demanda que precisa ser sanada ali dos, dos próprios chips, né? Então tudo isso movimenta o mercado e uma indústria também, né? Não, total. 10:19 E assim, todas essas big tech tão nessa. Tipo, o Google tá assim, a gente tá aqui pegou o Google de notícia, mas a Microsoft já falou que desde 2020 subiu trinta por cento a emissão de carbono também. 10:31 E você pontuou muito bem, porque isso é muito reflexo também dos chips e do, da, dos dispositivos que a gente usa pra isso, né? Eventualmente, esse tipo de tecnologia ela vai se tornar mais eficiente, né. 10:40 Eu, eu costumo brincar com, com os amigos, falando até aqui também, que a gente tá na era do cartão perfurado da IA ainda. É! 10:46 É muito ineficiente ainda treinar modelo, é muito ineficiente ainda você criar modelo de inteligência artificial, modelo de machine learning, deep learning e tudo mais. 10:55 É, mas assim, eu acho que é importante tá sempre pontuando, levantando essas questões ambientais que o modelo, que a tecnologia, é, implica pra ser cobrado cada vez mais um, um, uma forma mais eficiente de utilizar recursos naturais, né. 11:08 É isso mesmo. Agora vamo ver o que que o próprio mercado vai fazer também, pensando nessa questão de diminuição desse gás carbônico aí que tá pros próximos tempos, antes de 2030, né, Paulo? Por favor, por favor. 11:21 [risos] [música de transição] Bom, essas e outras notícias você acompanha lá na nossa newsletter semanal, no DataHackers.news. 11:34 É só você se cadastrar, colocar seu e-mail e toda segunda-feira chega notícias fresquinhas e tudo que rola na área de dados aí pra você na sua caixa de e-mail. E aí, Paulo, bora se despedir? Vambora, Monique. 11:47 É isso aí, pessoal. Muito obrigado aí pela presença de vocês. De novo aqui fazendo um pedido também pra você votar no nosso dataset lá no Kaggle, se você ainda não votou. Verdade! 11:56 Tamo com bastante votos lá, mas ainda precisamos de vinte e três votos pra atingir a medalha de ouro. Só isso? Pois é. 12:03 O negócio que eles falam lá que tem que ser, n-não pode ser novato, né, mas você se transforma em não novato, preenchendo algumas informações do perfil, colocando endereço. 12:12 Endereço não, mas, é, confirmando e-mail, algumas coisas assim. 12:15 Se você puder dar um pulinho lá no State of the Data Brasil 2023, lá no Kaggle, dá um up vote pra gente lá conseguir conquistar nossa medalhinha de ouro aí, mais uma medalha aí por esse trabalho que a gente tá fazendo aqui na comunidade. 12:26 Isso aí, vai lá que falta pouco pra gente poder conseguir a medalha de ouro. Tchau, tchau. [risos] Falou. 12:35 [música de encerramento] Esse podcast foi editado por Aerolitos, edição inteligente. 12:54 [música de encerramento]
