Alucinações em modelos de IA são respostas que parecem plausíveis, mas contêm informações erradas ou inventadas.
O que são?
- Ocorrem quando o modelo gera texto que não está alinhado com a realidade.
- São comuns em modelos de linguagem grandes (LLMs).
Por que acontecem?
- O modelo aprende padrões estatísticos, não fatos.
- Pode gerar informações que não existem nos dados de treinamento.
Exemplos:
- Citar fontes que não existem.
- Inventar detalhes sobre pessoas ou eventos.
Análise
- A) Correta: descreve alucinações como informações erradas/inventadas.
- B) Incorreta: alucinações não são baseadas em fatos.
- C) Incorreta: alucinações são opostas a respostas corretas.
- D) Incorreta: alucinações não vêm de fontes confiáveis.
Alternativa A.