Transcrição do Episódio 0:00 [música de introdução] Fala pessoal! 0:09 Diretamente da maior comunidade de ciência de dados do Brasil, a gente traz o Data Hackers News, as notícias mais quentes da área de dados AI e tecnologia, direto do podcast Data Hackers. 0:19 Eu sou Monique Femme e junto comigo eu trago ele, Paulo Vasconcelos, pra gente discutir as notícias que estão bombando essa semana na área de dados. E aí, Paulo, como cê tá? Fala, Monique! Fala, pessoal, beleza? 0:32 Mais uma semana começando aí. Altas notícias. É! Polêmicas. O pessoal, o pessoal perdendo dinheiro, deixando de lançar coisa. [risada] Mas vamo lá, eu vou deixar você bastante informada aí hoje com essas notícias. 0:43 Exatamente. E gente que lança um novo produto, depois barra outro e a gente segue aí essa semana, né, Paulo? Essa é a nossa vida, é, nossa vida é essa aí. [risada] Bora pras notícias dessa semana. 0:54 [vinheta] E bora de primeira notícia, onde a OpenAI anuncia novo modelo de baixo custo, o GPT 4O Mini. 1:08 Um modelo pequeno e mais econômico e amplamente acessível é a proposta que a OpenAI lança ao anunciar o GPT 4O Mini, que conta em expandir significativamente a gama de aplicativos criados com inteligência artificial, tornando a inteligência muito mais acessível. 1:24 Além de superar os recursos do GPT 4, ele custa quinze centavos por milhão de tokens de entrada e sessenta centavos por milhão de tokens de saída, que traz uma ordem ali de magnitude mais acessível do que modelos anteriores, sendo sessenta por cento mais barato que o GPT 3.5 Turbo. 1:44 Mas Paulo, eu não vou me estender por aqui porque eu quero ouvir de você o que a gente ganha com esse lançamento da OpenAI e saber se você já esperava por isso, né? Boa, Monique. 1:54 É, o lançamento, assim, o que era esperado pela comunidade era muito do ponto que o próprio GPT 4 Mini, é, supre, que é a questão de substituir o GPT 3.5 Turbo, que é um modelo aí que tá há um tempinho já, né, tipo, ma-mais de um ano aí rodando dentro da comunidade, o pessoal queria algo tipo assim, nível GPT 4, só que de forma mais barata, né? 2:14 E bom, as apostas é essa, né, como vocês sabem que eu só acredito quando coloco pra funcionar e vejo funcionando. [risada] Mas assim, é interesse-- alguns pontos dessa notícia são interessantes. 2:24 O primeiro é que ele pode ser uma opção bem mais barata, mais custo eficiente ali para as pessoas que usam OpenAI, né. 2:31 Ponto, assim, que a comunidade se interessa muito, Monique, são esses modelos menores e mais baratos, né. 2:35 A gente falou semana passada ali do Llama 3, né, que quatrocentos e cinco bilhões de parâmetros aí que vai lan-- ser lançado essa semana, mas a comunidade adora esses modelinhos menores para, enfim, escalar o negócio, aplicar em, em um ambiente de produção. 2:48 Então esse pode ser um modelo que vai se chamar bastante a atenção. 2:51 E outra coisa que achei interessante aqui nesse anúncio é que o tokenizador desse modelo do GPT 4, ou seja, o que transforma pa-- as palavras em números para que a LLM consiga interpretar e entender, é, consegue-- esse modelo do GPT 4 Mini e do GPT 4 em si, ele consegue lidar melhor com caracteres não inglês. 3:12 Então principalmente pra nós aqui no, no Brasil, hispanohablante, pro-- li-língua portuguesa, é, isso pode ser muito bom, porque geralmente você processar um token, por exemplo, uma c cedilha, né, um cedilha, por exemplo, é mais caro do que você processar um C simples, por exemplo. 3:29 Olha! Né, então, mais caro, assim, você precisa de mais tokens pra isso, consequentemente se torna mais caro. Então ele pode ser uma forma de lidar com isso aqui. 3:36 E achei bastante interessante, a gente aqui mesmo na, na Hotmart já tamo começando a testar ele pra ver se é, é uma opção melhor mesmo. 3:43 Segundo os benchmarks ali que eles mostram, né, acadêmicos, é, ele passa, né, muito dos modelos como o Gemini Flash, o Cloud Haiku, que é o, né, o, a, as versões, é, mini dessas da, da Google e da, da Anthropic. 3:57 É, inclusive ele compara ali com o próprio GPT 4O, né, e como que ele se compara ali. Um nível bem aceitável ali de, de performance. 4:05 Mas assim, Mo-Monique, acho que isso encaminha muito a OpenAI e essas, é, fornecedoras de AI, de LLM como uma questão mais próxima do commodity, né? 4:15 Tipo assim, cara, se eventualmente todas elas tiverem o mesmo nível de, de qualidade de resposta, o que vai mandar é o preço. Então se torna um commodity como qualquer outro software, né? 4:25 Então, é, a OpenAI tá apostando nisso também, é muito importante pra ela garantir a perpetuidade do negócio ali também, sabe? É, Paulo, exatamente, né? 4:32 Porque, é, a gente já prevê uma concorrência do próprio mercado, né, mas a gente sabe que o valor influencia muito dentro de uma, da escolha de algum desses serviços, desses produtos, né? Não, exatamente, Monique. 4:43 E o-- outra coisa interessante quando a gente olha assim todo esse tempo aí que temos modelos de LLM rodando, né, desde lá do DaVinci, quando o, foi um dos primeiros modelos que a OpenAI liberou até agora. 4:55 Um dado que eles trazem aqui nessa notícia, nesse report, que eu achei bastante interessante, é que o preço de, do custo por token, né, desses mo-- do, por exemplo, do GPT 4 Mini comparado ao DaVinci 03, que era um dos primeiros modelos ali, caiu noventa e nove por cento. 5:11 Olha! Então, tipo assim, é aquilo que eu sempre falo aqui: a gente tá na era do cartão perfurado da IA. É! A gente ainda vai ver muita evolução, principalmente a nível de custo. 5:21 Então assim, é muito legal ver, tá acompanhando isso, né, tipo, acompanhando essa cena, traz todos os desafios dela, né, que a gente garante que a gente não quebre a empresa da gente com a, a conta de OpenAI, mas ao mesmo tempo a gente tá participando ativamente da, da revolução assim, né, de criar coisas novas. 5:36 Eu acho muito bacana isso. Exatamente. E até mesmo testar as falsas promessas, né, Paulo? Que a gente acaba vendo aí. Sempre tem, sempre vai ter, mas é muito legal a gente tá vivendo esse momento, né? Isso aí. 5:48 [música de encerramento]É, Paulo, na semana passada a gente já anunciou o lançamento ali do, do Llama, né, que teoricamente essa semana, né, acaba, acaba sendo lançado, mas tem um burburinho aí da Meta, porque Meta diz que suspendeu os recursos de inteligência artificial generativas aqui no Brasil. 6:08 Nos últimos dias, houve esse burburinho sobre a suspensão dos recursos da Meta, que também atualizou sua política de privacidade, que previa ali coletar dados de usuários, de nós, né, que utilizamos ali o Instagram e o Facebook pra treinar sua inteligência artificial. 6:24 Mas isso só não foi pra frente, porque a Autoridade Nacional de Proteção de Dados, a ANPD, ordenou que a prática fosse interrompida. 6:31 Os recursos de inteligência artificial generativa foram interrompidos aqui no Brasil e isso acaba também fazendo com que algumas funcionalidades que foram anunciadas até mesmo aqui no Data Hackers News, acabem não chegando nas mãos de nós brasileiros. 6:45 E não é só a gente, tá? Porque a União Europeia tá retendo o uso do modelo multimodal da Meta, por falta de clareza dos reguladores. 6:53 Bom, Paulo, não sei você, mas parece que não é dessa vez que a gente vai criar uns stickers personalizados ali no WhatsApp, né? 7:00 Eu não vou falar é nada, que senão o pessoal vai falar que eu sou polêmico e tudo mais, mas essa notícia me deixou puto, véio. Assim, vamo lá, vamo entender qual é essa, qual é a treta que tá dando, tá, Mônica? Bora. 7:10 As empresas, eles lidam com o seguinte tipo de política sobre treinamento de dados usando IA. Eles lidam com a parte de opt-out. Exato. Então, ou seja, você estando na plataforma, já vai ser treinado. Exato. 7:24 Né, tipo, já vai ser treinado, mas se você não quiser ser treinado, cê pode dar o opt-out, que é você sair e não querer fazer isso. Até viralizou um tempo atrás o pessoal do Instagram querendo fazer... 7:35 Ah, um montão de vídeo, o pessoal: "Gente, como é que cês podem fazer pro o Facebook não treinar IA com seus dados e tal?" 7:41 Só que o, o que o pessoal da regulação tá brigando bastante é que esse processo ele tem que ser opt-in, ou seja, eu tenho que consentir que você treine, hã, IAs com, com os meus dados. 7:53 Eu acho besteira, porque vai ser, vai existir outras formas de fa-- de fazer isso, a, muitas vezes- Exatamente. 7:59 Isso não vai proteger ninguém, só impede que a gente tenha coisas legais como o criador de sticker, por exemplo, né, que a gente tem ali. [risos] E acho que a gente tá lidando com, tá lutando com... 8:09 Tá focando na coisa errada, assim, pra proteger, pra proteger os nossos dados. Essa, essa é minha opinião, mas não vou elaborar em cima disso, que senão vira um podcast de uma hora. Exatamente. 8:17 E vira uma polêmica também, né, Paulo? Porque eu, eu vejo assim, só te interrompendo um pouquinho. Claro. Que não é só uma questão relacionada ao que a plataforma está fazendo. 8:26 Cabe nós também, no nosso senso de responsabilidade, né, identificar, ler essas políticas, entender se realmente eu tô disposta a dar ou não o meu dado ali, né? 8:36 Mas aí é uma outra discussão, né, que senão a gente vai realmente levar um podcast aqui, né? Exato. 8:40 E eventualmente vão mudar o termo de uso lá pra você utilizar a solução, você vai consentir sem saber que vão utilizar seu dado pra alguma forma. Facebook vai ser assim, WhatsApp não duvido que seja alguma coisa também. 8:51 Mas o ponto é que essas legislações têm batido mais forte mesmo, pelo menos a do, a da Europa ela é um pouco diferente, porque a questão aqui é o multimodal, que é o quê? 8:59 Você tem a, o ato de regulação lá de-deles, que algumas coisas de, por exemplo, reconhecimento facial, você, e se não me engano voz também, não sei ao certo, é, você tem que ter um pouco mais de clareza e isso que tá batendo ali no Facebook. 9:12 Esse é um dos motivos que eles tão evitando ali trazer novos modelos multimodais, que são esses modelos que aceitam texto, voz e imagem, né, ali também. 9:21 É, e acho, assim, acho que quem perde bastante mesmo são profissionais, as pessoas que têm, evitam ter alguma solução diferen-- uma solução legal ali pra experimentar e tudo mais. 9:31 Mas vamo ver aí, né, como é que vai ser os próximos capítulos aí dessa, dessa novela, né? 9:35 É, e o, a questão é que não tem agora uma previsão pra gente poder utilizar essas funcionalidades de stickers ou outras funcionalidades que tavam previstas pra acontecer por agora, né? Uhum. 9:47 E a gente fica aguardando aí qual vai ser o fechamento disso, né, dessas políticas, mas eu acho que vai pra essa via mesmo, né, Paulo? Exato. 9:54 Amanhã vai existir uma outra forma ali de, da gente poder, é, deles poderem, né, dar esse opt-in, opt-out aí dessa, dessa funcionalidade. E se fosse só a Meta, tava bom, né? 10:04 Porque o que a gente tem hoje de aplicativo, [riso] de plataforma, que utiliza nossos dados, a gente nem sabe, né? Pois é. Então, vamos aguardar. 10:13 Eu queria que resolvesse os vazamentos do meu dado pessoal pelo governo ali, por organização, é, instituição do governo, antes de bloquear aplicativo de sticker, pra falar a verdade, tá, Mônica? Exatamente. 10:22 Tem dado seu sendo vazado que cê nem sabe que cê tem, né? É essa a questão. 10:26 Não, tem vazamento aí que eu, eu queria pagar pelo dado que o cara vazou, que eu falei: "Nem eu tenho esse dado aqui, véio, me dá aí, me dá esse." 10:32 [riso] Mas é sempre, é sempre a mesma história, é sempre a mesma coisa, né? É isso aí. [efeito sonoro]E bora pra última notícia, porque tem dinheiro caindo aí da mesa, né, Paulo? Porque- Caindo, vazando a-aos montes, né? 10:49 [risos] Exatamente, eu queria ser, né, mais, mais levinha aqui com a notícia- [risos] Mas parece que a Alexa tá dando prejuízo de bilhões à Amazon. 10:59 Uma década depois de lançar seus dispositivos, parece que a conta não fechou ali pra Amazon, né? 11:05 Porque mesmo tendo centenas de milhões de clientes com dispositivos habilitados para Alexa, a ideia de que a Amazon gastaria dinheiro para comprar produtos na Amazon, falando ali com o assistente de voz, nos alto-falantes supervalorizados, não decolou. 11:21 A discussão agora é que foi um erro de cálculo de alto risco sobre o comando do Jeff Bezos. 11:27 Isso porque, é, entre os anos de 2017 e 2021, a Amazon teve vinte e cinco bilhões de dólares em perdas com seu negócio de dispositivos, de acordo com alguns documentos. 11:39 As perdas dos anos anteriores e posteriores a esse período não puderam ser determinadas e desde 2021, o atual CEO está tentando ali mudar esse cenário, né, enxugar com gelo ali, ou, enxugar com pano ali o gelo. 11:54 E eu não sei se você tem essa impressão, Paulo, mas tenho ali as minhas dúvidas se esse é um bom ano pra Amazon, porque vira e mexe sai alguma notícia ali que fere o capital da empresa, né? 12:04 Pois é, sobre essa questão da, da, da Alexa é complicado, né? Porque assim, realmente ela é um sucesso no sentido de ser muito barato, né? Tipo, cara, você tropeça no, no, na rua, tu ganha uma Alexa, assim, né? 12:16 Que realmente é muito barato de você ter, quando tu pensa no dispositivo tecnológico que, que ela tem. É, inclusive, na própria notícia ele fala, né, que é um pouco da estratégia da Amazon. 12:26 Aí, assim, a, a gente sabia que esse valor era subsidiado, né, por exemplo- Exato. 12:31 Por exemplo, a Amazon tanka muito desse valor pra justamente a estratégia deles é que as pessoas iriam comprar mais usando a Alexa, que foi de longe o que não aconteceu, né? 12:42 Então, a própria notícia fala ali, né, que muitas pessoas usam a Alexa como um, um despertador inteligente, um timer inteligente. É literalmente o que eu uso aqui, é tipo... Exatamente. 12:52 Peço ali: "Ô, coloca aí cinco minutinhos aí, trinta minutinhos". Que realmente, é, é um dado preocupante. 12:58 E eu acho que a questão da L, das LLMs, a questão de OpenAI mudou bastante isso, porque quando tu compara o serviço gerado por um ChatGPT, por exemplo, assim, comparado com uma Alexa, é gritante a diferença, né? 13:11 Mui-- e você tem casos em que, por exemplo, Gemini tá se tornando um aplicativo, total-- fazendo exatamente as mesmas funções que uma Alexa faz, por exemplo. Então, e, e, e a gente sabia também que isso era um... 13:22 né, a Alexa era um objetivo do Bezos, né? Tipo assim, ele gostava do produto, ele defendia bastante o produto. 13:28 Só que desde que ele saiu em 2021, provavelmente o, o próximo CEO aí, né, o, o CEO atual, na verdade, não tá gostando muito, né, do resultado e provavelmente vai ter alguma reviravolta aí em cima disso, porque, o, o, Monique, são dez mil pessoas trabalhando em cima disso. 13:41 É muita gente, cara. Exatamente. É muita gente e muito dinheiro, né? 13:47 Existe até ali algumas questões, até na própria notícia, né, que falam ali que um dos motivos de eles não terem descontinuado, porque desde 2011 pra cá, né? 13:56 Então tem muito tempo, é uma década ali que já se passou e eles... Não tiveram retorno do investimento, né? É. Exatamente. Então uma hora a conta tem que fechar, não tem como. 14:05 E aí você vai ter que escolher entre você manter um produto, né, que pode ser um potencial ou não. Exato. E até essa questão de que, é, o, o Jeff Bezos fala, né, se for-- erre, erre rápido, né? Então, pra [risos]... 14:18 E aí tem essa discussão ali de se realmente se esse é o momento de manter ou quais são as, as próprias estratégias que eles vão utilizar, porque é muito dinheiro, né, Paulo? Muito dinheiro e muitas pessoas envolvidas. 14:29 Exato. E a Alexa, ela veio num momento também, ela foi criada num momento que a gente não tinha tantas opções como a gente tem hoje de dispositivos e até aplicativos que poderiam fazer a funcionalidade dela, né? Exato. 14:39 Então, a gente tá falando, tá, uma época que saiu, o dispositivo em si, ele era charmoso, né, tipo assim, ele tinha um apelo, por assim dizer. 14:46 Mas hoje, assim, tem a discussão de: cara, o que que a, a Alexa faz que não poderia ser um aplicativo, né? 14:52 E a gente já teve até algumas críticas aqui no podcast, que parece que com o passar do tempo ela foi ficando mais burra, né? Tipo, você dava um comando, ela não pegava o comando, falava uma parada totalmente diferente. 15:02 E assim, e a própria comunidade não foi o suficiente pra sustentar o crescimento dela, né? 15:07 Com-- a gente tem a comunidade lançando, eu esqueci qual era o nome dos, qual o nome dos addons que a gente coloca, que a gente pode criar. 15:13 Acho que é actions, não sei qual é o nome, que tipo assim, eu posso criar uma action, um aplicativo pra Alexa que imita um cachorro, por exemplo, né? Eu não sei como é que, como é que, como é que tá isso. 15:23 Mas assim, a própria, a própria comunidade não foi o suficiente pra manter o produto tão relevante. Ela é relevante no sentido de que assim, ninguém consegue competir com ela, né? 15:30 Não tem nenhum outro dispositivo assim que consiga bater o preço dela, mas o valor que ela gera pra gente é ok, pode dizer, por exemplo, mas pra Amazon tá longe de ser o que eles querem. Exatamente. 15:40 O que dá a impressão é que eles se perderam no meio da estratégia, né? Não sei se é por tantas pessoas envolvidas, né? Mas tem essa, essa sensação, né? Até pelo que a notícia fala, do que cê já mencionou, né? 15:52 De ser uma proposta em que eles têm essa solução, onde eles tinham o objetivo das pessoas comprarem, né, cada vez mais os produtos- Exato. Da própria Amazon utilizando a Alexa. 16:02 E aí você vai ver que a usabilidade ali do usuário, na verdade, é pra ver o clima, e alarme, e instalar aplicativos gratuitos, né? É isso, é isso. 16:13 E a, é, aqui em casa a gente usa também pra saber se a gente pode dar comida pro cachorro ou não. Olha! O cachorro pode comer manga, pode comer maçã, a gente sempre pergunta pra ela também. [risos] É foda isso. 16:23 Mas vamo ver aí qual que vai ser a, a cena dos próximos capítulos, né? E qual vai ser o futuro da Alexa, né? Exatamente, exatamente. 16:36 [música de transição] Bom, essas e outras notícias você acompanha lá na nossa newsletter semanal, acessando datahackers.news. 16:45 E se você ainda não se inscreveu, se inscreve lá, coloca seu e-mail, que toda segunda-feira chega notícias fresquinhas na sua caixa de entrada. E aí, Paulo, bora se despedir? Vambora! 16:55 É isso aí, pessoal, até semana que vem. A gente se vê por aí. Não esquece aí de seguir a gente no, no, no Spotify, né, pro podcast. 17:01 Toda semana a gente tem aqui, eu e a Monique aqui falando as melhores notícias da, da semana, uma atualização rápida do seu dia aí, no tempo de você ir pro trabalho, no tempo do Uber aí. 17:10 Aproveita e segue a gente aí, né, compartilha com o pessoal do seu trabalho, o pessoal da sua equipe aí, pra gente poder aqui valorizar nosso trabalho que a gente tá fazendo. Exatamente. 17:17 E semana que vem a gente volta com mais notícias. Tchau, tchau. Até mais. Falou. 17:21 [música de encerramento] Esse podcast foi editado por Aerolitos, edição inteligente. 17:45 [música desvanecendo]
