Visão geral
Colocar IA em produção exige três tipos de prova: desempenho técnico (o modelo acerta?), desempenho organizacional (gera resultado?) e legitimidade jurídica e institucional (é permitido e justo?). A LGPD (Lei nº 13.709/2018) é o marco brasileiro para o terceiro ponto sempre que houver dado pessoal.
A lógica de trabalho é: princípio → pergunta de projeto → controle.
Lendo números de adoção sem se enganar
- Indicadores de pesquisas de mercado (uso de IA, impacto no lucro, empresas de alto desempenho) não formam um funil: são perguntas diferentes.
- Diferença de pontos percentuais não é crescimento percentual: de 15% para 34% são 19 p.p., não "19% de crescimento".
- "X% das horas têm potencial técnico de automação" não é previsão de desemprego: faltam viabilidade econômica, organizacional e jurídica.
- Dados de países diferentes, com anos e metodologias diferentes, não são comparáveis.
Conceitos técnicos que importam para a lei
- Treinamento e fine-tuning alteram os parâmetros do modelo; o RAG não, por si só.
- O RAG pode vazar dado se ignorar permissões: um usuário não pode receber um trecho de documento que não poderia ver.
- Data drift: a distribuição das entradas muda. Concept drift: muda a relação entre entrada e saída. Os dois exigem monitoramento depois do deploy.
- DSS (sistema de apoio à decisão: o humano decide) × ADM (decisão automatizada: o sistema decide). Atenção ao viés de automação — aceitar a sugestão da máquina sem pensar.
LGPD em 10 princípios (art. 6º)
Finalidade, adequação, necessidade, livre acesso, qualidade dos dados, transparência, segurança, prevenção, não discriminação, responsabilização e prestação de contas.
Cada princípio vira uma pergunta de projeto. Ex.: necessidade → "o modelo precisa mesmo do CPF ou basta um identificador interno?".
Dados pessoais: o que conta
- Pseudonimizado (trocar nome por código, mantendo a chave) continua sendo dado pessoal.
- Anonimizado de forma irreversível deixa de ser.
- Dado inferido (o que o modelo deduz sobre a pessoa) também é coberto pela lei.
- Dados sensíveis (saúde, origem racial, religião, biometria, entre outros) têm regras mais rígidas.
Bases legais
- O consentimento não é a base universal: há outras hipóteses nos arts. 7º (dados pessoais) e 11 (dados sensíveis), como execução de contrato, obrigação legal e legítimo interesse.
- Legítimo interesse não serve como base geral para dado sensível.
Decisões automatizadas (art. 20)
O titular pode pedir revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses, e tem direito a informações sobre os critérios e procedimentos usados, respeitados os segredos comercial e industrial. A ANPD pode fazer auditoria. O texto atual não exige que a revisão seja feita por uma pessoa natural, mas a governança deve definir quem revisa.
Três perguntas ao contratar uma solução de IA
- Quais dados ajustam o modelo (treino e fine-tuning)?
- Quais dados são recuperados durante o uso (RAG, conectores)?
- Quais dados são enviados ao fornecedor na inferência — e ele os usa para treinar?
Usar ChatGPT, Claude, Gemini ou similares em geral implica transferência internacional de dados e dependência dos termos do fornecedor.
Quando usar cada técnica
- Fine-tuning: taxonomias e tarefas estáveis (ex.: classificar fraude).
- RAG: documentos que mudam com frequência.
- Treinamento do zero: capacidades gerais (raro fora de grandes empresas).
Supervisão humana
| Nível | Papel do humano | Quando |
|---|---|---|
| Human in the loop | integra cada decisão | alto impacto |
| Human on the loop | supervisiona e pode intervir | impacto moderado |
| Human out of the loop | não intervém | só baixo impacto e com controles |
Nenhuma dessas siglas é garantia jurídica por si: o que vale é a governança documentada. Quem responde pela decisão de um agente de IA? Quem a governança indicar — o sistema não tem personalidade jurídica.
Riscos e impactos
- Avaliação de risco (risk assessment): eventos adversos possíveis e sua mitigação.
- Avaliação de impacto (impact assessment): efeito sobre pessoas e direitos. Na LGPD, o RIPD (relatório de impacto à proteção de dados).
- Prova por evidência: hipótese → protocolo de teste → execução → achados → mitigação. Ambientes de sandbox regulatório testam soluções sob supervisão, mas não são aprovação comercial.
Checklist antes de colocar em produção
- A finalidade está definida e documentada?
- Os dados usados são os necessários (e só eles)?
- Qual a base legal?
- Os titulares foram informados?
- Qual o papel de cada fornecedor (controlador, operador)?
- Há transferência internacional?
- Riscos e discriminação foram testados?
- Os direitos dos titulares (acesso, correção, revisão) são viáveis na prática?
- Há segurança e logs de auditoria?
- O RIPD e as medidas estão documentados?