Tema
Governança de IA
Quem responde pela IA que a empresa usa: supervisão, accountability, regulação e contratação de soluções de dados e IA.
11 conteúdos · séries: The Agentic Era, Arquitetos de Evidências, Análises de IA
- Como verificar se um modelo de IA é próprio? O caso do Rio 3.5Há dois métodos para verificar a origem de um modelo. O comportamental remove o system prompt e pergunta ao modelo quem ele é. O matemático compara os pesos com modelos candidatos. No caso do Rio 3.5 Open 397B, o modelo se identificou com outra empresa em 79% das vezes e os pesos mostraram 98% a 99% de colinearidade.
- O que é recursive self-improvement e o que muda para as empresas?Recursive self-improvement é quando a IA passa a ajudar a construir a próxima versão de si mesma. Segundo relatório da Anthropic analisado no vídeo, mais de 80% do código da empresa em maio de 2026 foi escrito pelo Claude. Para as empresas, isso reduz o espaço de supervisão humana e transforma a adoção de IA numa decisão de governança.
- Como contratar consultoria de dados com um termo de referência?Para contratar consultoria de dados, o termo de referência deve ter três pilares: a dor do negócio ligada a uma decisão executiva, o construto que define como o resultado será medido e as travas de qualidade. As travas exigem um método causal, como matching ou diferenças em diferenças, um efeito mínimo e uma margem de erro máxima.
- Quem supervisiona a IA quando ela cria a próxima IA?Quando a IA ajuda a construir a próxima versão de si mesma, o humano fica cada vez mais distante do processo que deveria supervisionar. Erros sutis passam entre versões e só aparecem quando já se multiplicaram. Por isso cada sistema de IA precisa de um responsável interno nomeado, um protocolo para decisões erradas e validação de cada nova versão.
- Why should executives become system designers in the age of AI?Executives should become system designers because a human who only approves AI output tends to stop thinking. Automation complacency and the artifact effect turn reviewers into the hands of the algorithm. A system designer builds productive friction into the process, so teams keep the domain expertise needed to supervise AI and to take control when it fails.
- How do you govern AI agents at machine speed?AI agents act faster than humans can react, so governance must be built into the architecture. The class proposes systemic circuit breakers that revoke an agent's ability to act when it crosses a threshold, a fast linear activation probe that flags risky activity, and a constitutional classifier that audits outputs against an explicit written constitution of rules.
- Why does LLM-as-a-judge favor AI-generated work?LLM-as-a-judge favors AI-generated work because a language model scores text by how closely it matches its own probability patterns. Human writing is idiosyncratic and unpredictable, so the model reads it as error. Research cited in the class found AI judges ranking AI-generated systems above a perfect human ground truth and scoring other AI outputs leniently.
- What is AI sycophancy and how do you manage it?AI sycophancy is the tendency of a model to agree with and flatter the user. It comes from reinforcement learning from human feedback, which rewards answers people approve of. To manage it, avoid leading questions, allow the model to say it does not know, and force a reasoning step that weighs the user's request against the facts.
- How do speculative RAG and synthetic data fix AI's limits?Speculative RAG reduces hallucination by having small models read documents and draft answers in parallel, while a large model only verifies and picks the best one. Synthetic data protects privacy by learning statistical patterns from real data and generating fictional records with the same shape. Differential privacy frameworks such as CTCL add protection while keeping useful accuracy.
- What is the shift from predictive AI to agentic AI?Predictive AI worked like a thermometer. It measured the environment and classified data, while humans interpreted and acted. Generative and agentic AI work like a thermostat. They hold a model of a desired state and act to reach it. Scanning, interpretation and action collapse into one machine loop, so executives move from making decisions to managing parameters.
- What AI terms do executives get wrong?Executives often describe AI with words from an older paradigm. Calling AI software suggests a passive tool, prompting suggests a vending machine and output suggests a result that waits for review. The video replaces 12 such terms, including hallucination, RAG, sycophancy and prompt injection, because each word shapes the governance decisions leaders make.