Segurança e regulação
Os riscos da inteligência artificial e as regras que estão sendo criadas para ela, no Brasil e no mundo, sem alarmismo e sem descaso.
O que cobrimos
- Riscos concretos e presentes: vieses, desinformação, fraudes, privacidade, uso militar.
- Pesquisa em segurança de IA: como testar, entender e controlar sistemas cada vez mais capazes.
- Regulação no Brasil, como a LGPD (Lei 13.709/2018) e o PL 2338/2023, aprovado pelo Senado em dezembro de 2024.
- Regulação internacional, como o AI Act da União Europeia, em vigor desde agosto de 2024 com aplicação escalonada.
Perguntas que acompanhamos
- Como garantir que sistemas de IA façam o que se pretende, e não apenas o que foi literalmente pedido?
- Quem responde quando uma IA causa dano?
- A regulação protege as pessoas sem impedir a pesquisa e a inovação no país?
Conceitos para começar
Alinhamento: o desafio de fazer os objetivos e o comportamento de um sistema de IA corresponderem às intenções e aos valores humanos.
Viés: distorção sistemática nos resultados, muitas vezes herdada dos dados de treino, que pode prejudicar grupos de pessoas.
Interpretabilidade: a área que tenta entender o que acontece dentro de um modelo, em vez de tratá-lo como uma caixa-preta.
Red teaming: testes em que especialistas tentam deliberadamente fazer o sistema falhar ou se comportar mal, para corrigir os problemas antes do uso.
Como lemos este tema
Leis aprovadas e incidentes documentados são fatos. A tramitação de projetos de lei muda com frequência, e indicamos a data de cada informação. Riscos futuros de sistemas mais capazes são especulação: apresentamos os argumentos de quem se preocupa e de quem discorda.