Glossário
Termos de aprendizado de máquina e IA usados nos textos, explicados em português.
- Alinhamento
- Área que estuda como fazer sistemas de IA perseguirem os objetivos e valores que as pessoas realmente pretendem, e não apenas o que foi literalmente especificado.
- Data poisoning data poisoning
- Ataque em que dados de treinamento são manipulados para induzir um modelo de aprendizado de máquina a aprender padrões incorretos ou a produzir resultados sob controle do atacante.
- Deep learning deep learning
- Área do aprendizado de máquina que usa redes neurais com muitas camadas para aprender representações e padrões a partir de dados.
- Deriva de modelo model drift
- Queda de desempenho de um modelo em produção porque os dados do mundo real mudaram em relação aos dados usados no treinamento.
- Função objetivo objective function
- A medida que um sistema de aprendizado de máquina tenta maximizar ou minimizar durante o treinamento. É a forma como "pedimos" algo ao modelo.
- Gestão de risco operacional operational risk management
- Processo de identificar, avaliar, monitorar e reduzir riscos de perdas causadas por falhas de processos, pessoas, sistemas ou eventos externos.
- Justiça algorítmica algorithmic fairness
- Campo que estuda e mede se decisões automatizadas tratam grupos de pessoas de forma desigual ou discriminatória.
- Lei de Goodhart Goodhart's law
- Quando uma medida vira meta, ela deixa de ser uma boa medida, porque as pessoas (ou os sistemas) passam a otimizar o número em vez do propósito.
- LLM large language model
- Modelo de linguagem de grande porte, treinado em enormes volumes de texto para prever a próxima palavra. É a base de assistentes conversacionais.
- Observabilidade observability
- Capacidade de entender o que um sistema está fazendo em produção a partir dos sinais que ele emite, como métricas, registros e amostras de entradas e saídas.
- Provisão judicial
- Valor estimado e reconhecido para cobrir uma possível obrigação financeira decorrente de uma ação judicial, considerando a probabilidade de perda e o valor esperado.
- Viés indutivo inductive bias
- O conjunto de suposições embutidas em um modelo que o fazem preferir certas generalizações a outras quando os dados, sozinhos, não bastam para decidir.