AI Tools

CarreiraState of DataNewsletterArtificial IntelligenceAI ToolsData StackBlog post
Artificial IntelligenceArtificial Intelligence
+2+2
Por que os rankings de modelos de IA para código podem estar errados (e o que fazer sobre isso)

Por que os rankings de modelos de IA para código podem estar errados (e o que fazer sobre isso)

Entenda o ruído presente na infraestrutura dos benchmarks de modelos, e o que pode ser feito a respeito dele

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Visual prompt injection: o que é e como hackers estão enganando o GPT-4V com imagens

Visual prompt injection: o que é e como hackers estão enganando o GPT-4V com imagens

Entenda a modalidade de ataque que incorpora instruções maliciosas em imagens e faz modelos fugirem do comportamento esperado

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Prompt injection indireto: a vulnerabilidade escondida que ameaça seus sistemas de IA

Prompt injection indireto: a vulnerabilidade escondida que ameaça seus sistemas de IA

Entenda o vetor indireto que permite atacar sistemas de IA para que eles desviem de seu propósito e contornem seus sistemas de segurança

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
As últimas técnicas de Jailbreaking descobertas em AI

As últimas técnicas de Jailbreaking descobertas em AI

Conheça as técnicas mais recentes para contornar as proteções dos modelos, e que envolvem elementos como tokenização e distração contextual

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
O Jailbreaking da Avó: por que o ChatGPT está ensinando a fazer Napalm?

O Jailbreaking da Avó: por que o ChatGPT está ensinando a fazer Napalm?

Entenda como uma estratégia improvável fez com que o modelo fornecesse instruções para fabricar metanfetamina e napalm

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
O que é Red Teaming em AI? Conheça a área que testa a segurança de IA

O que é Red Teaming em AI? Conheça a área que testa a segurança de IA

Entenda como o Red Teaming ajuda a encontrar vulnerabilidades em sistemas de IA e deixá-los mais resistentes a ataques

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
O que é AI Red Teaming e por que é essencial para segurança de sistemas GenAI

O que é AI Red Teaming e por que é essencial para segurança de sistemas GenAI

Entenda como o red teaming está remodelando a abordagem para proteger sistemas de IA generativa

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Memory Infection: como hackers infectam a memória dos seus agentes de IA sem você perceber

Memory Infection: como hackers infectam a memória dos seus agentes de IA sem você perceber

Entenda a maneira como hackers manipulam a memória dos agentes de IA para que eles executem comandos maliciosos

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Como se preparar para hackear uma IA: guia completo de red teaming para LLMs

Como se preparar para hackear uma IA: guia completo de red teaming para LLMs

Aprenda a testar vulnerabilidades de segurança e assim tornar seu modelo de IA mais seguro e resiliente

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Conheça técnicas para diminuir alucinação em agentes de IA

Conheça técnicas para diminuir alucinação em agentes de IA

Entenda como evitar alucinações e garantir que seu modelo entregue outputs mais confiáveis e precisos

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Seu agente de IA dá respostas muito diferentes? Faça isso para resolver

Seu agente de IA dá respostas muito diferentes? Faça isso para resolver

Veja estratégias para diminuir a inconsistência e a imprevisibilidade nas respostas dos modelos de linguagem

Data Hackers
Data Hackers
Artificial IntelligenceArtificial Intelligence
+2+2
Jailbreaking: como evitar que pessoas "quebrem" a sua IA

Jailbreaking: como evitar que pessoas "quebrem" a sua IA

Ataques podem fazer com que sua IA viole políticas de uso ou gere conteúdo inapropriado, veja como defendê-la

Data Hackers
Data Hackers