Pular para o conteúdo
Atlas de Dados

Pessoas e governança

IA, LGPD e Compliance

Como usar IA dentro da lei — princípios e bases legais da LGPD, dados pessoais em modelos e RAG, decisões automatizadas, supervisão humana, riscos, drift e um checklist antes de ir para produção.

Visão geral

Colocar IA em produção exige três tipos de prova: desempenho técnico (o modelo acerta?), desempenho organizacional (gera resultado?) e legitimidade jurídica e institucional (é permitido e justo?). A LGPD (Lei nº 13.709/2018) é o marco brasileiro para o terceiro ponto sempre que houver dado pessoal.

A lógica de trabalho é: princípio → pergunta de projeto → controle.

Lendo números de adoção sem se enganar

  • Indicadores de pesquisas de mercado (uso de IA, impacto no lucro, empresas de alto desempenho) não formam um funil: são perguntas diferentes.
  • Diferença de pontos percentuais não é crescimento percentual: de 15% para 34% são 19 p.p., não "19% de crescimento".
  • "X% das horas têm potencial técnico de automação" não é previsão de desemprego: faltam viabilidade econômica, organizacional e jurídica.
  • Dados de países diferentes, com anos e metodologias diferentes, não são comparáveis.

Conceitos técnicos que importam para a lei

  • Treinamento e fine-tuning alteram os parâmetros do modelo; o RAG não, por si só.
  • O RAG pode vazar dado se ignorar permissões: um usuário não pode receber um trecho de documento que não poderia ver.
  • Data drift: a distribuição das entradas muda. Concept drift: muda a relação entre entrada e saída. Os dois exigem monitoramento depois do deploy.
  • DSS (sistema de apoio à decisão: o humano decide) × ADM (decisão automatizada: o sistema decide). Atenção ao viés de automação — aceitar a sugestão da máquina sem pensar.

LGPD em 10 princípios (art. 6º)

Finalidade, adequação, necessidade, livre acesso, qualidade dos dados, transparência, segurança, prevenção, não discriminação, responsabilização e prestação de contas.

Cada princípio vira uma pergunta de projeto. Ex.: necessidade → "o modelo precisa mesmo do CPF ou basta um identificador interno?".

Dados pessoais: o que conta

  • Pseudonimizado (trocar nome por código, mantendo a chave) continua sendo dado pessoal.
  • Anonimizado de forma irreversível deixa de ser.
  • Dado inferido (o que o modelo deduz sobre a pessoa) também é coberto pela lei.
  • Dados sensíveis (saúde, origem racial, religião, biometria, entre outros) têm regras mais rígidas.

Bases legais

  • O consentimento não é a base universal: há outras hipóteses nos arts. 7º (dados pessoais) e 11 (dados sensíveis), como execução de contrato, obrigação legal e legítimo interesse.
  • Legítimo interesse não serve como base geral para dado sensível.

Decisões automatizadas (art. 20)

O titular pode pedir revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses, e tem direito a informações sobre os critérios e procedimentos usados, respeitados os segredos comercial e industrial. A ANPD pode fazer auditoria. O texto atual não exige que a revisão seja feita por uma pessoa natural, mas a governança deve definir quem revisa.

Três perguntas ao contratar uma solução de IA

  1. Quais dados ajustam o modelo (treino e fine-tuning)?
  2. Quais dados são recuperados durante o uso (RAG, conectores)?
  3. Quais dados são enviados ao fornecedor na inferência — e ele os usa para treinar?

Usar ChatGPT, Claude, Gemini ou similares em geral implica transferência internacional de dados e dependência dos termos do fornecedor.

Quando usar cada técnica

  • Fine-tuning: taxonomias e tarefas estáveis (ex.: classificar fraude).
  • RAG: documentos que mudam com frequência.
  • Treinamento do zero: capacidades gerais (raro fora de grandes empresas).

Supervisão humana

Nível Papel do humano Quando
Human in the loop integra cada decisão alto impacto
Human on the loop supervisiona e pode intervir impacto moderado
Human out of the loop não intervém só baixo impacto e com controles

Nenhuma dessas siglas é garantia jurídica por si: o que vale é a governança documentada. Quem responde pela decisão de um agente de IA? Quem a governança indicar — o sistema não tem personalidade jurídica.

Riscos e impactos

  • Avaliação de risco (risk assessment): eventos adversos possíveis e sua mitigação.
  • Avaliação de impacto (impact assessment): efeito sobre pessoas e direitos. Na LGPD, o RIPD (relatório de impacto à proteção de dados).
  • Prova por evidência: hipótese → protocolo de teste → execução → achados → mitigação. Ambientes de sandbox regulatório testam soluções sob supervisão, mas não são aprovação comercial.

Checklist antes de colocar em produção

  1. A finalidade está definida e documentada?
  2. Os dados usados são os necessários (e só eles)?
  3. Qual a base legal?
  4. Os titulares foram informados?
  5. Qual o papel de cada fornecedor (controlador, operador)?
  6. Há transferência internacional?
  7. Riscos e discriminação foram testados?
  8. Os direitos dos titulares (acesso, correção, revisão) são viáveis na prática?
  9. Há segurança e logs de auditoria?
  10. O RIPD e as medidas estão documentados?