O que é o fenômeno conhecido como “Alucinação da IA” no contexto de modelos de linguagem, como o ChatGPT?

Question

O que é o fenômeno conhecido como “Alucinação da IA” no contexto de modelos de linguagem, como o ChatGPT? A) A criação de saídas que não fazem sentido ou são totalmente imprecisas, onde a IA inventa dados, citações ou referências que não existem. B) A capacidade da Inteligência Artificial de prever tendências futuras de mercado com 100% de precisão baseada em dados reais. C) O processo pelo qual a IA organiza automaticamente dados fragmentados entre diferentes áreas de uma empresa corporativa. D) O consumo excessivo de recursos físicos, como água e energia, exigidos para o funcionamento dos servidores de IA.

Sapien IA · Accepted Answer

Alternativa A A criação de saídas que não fazem sentido ou são totalmente imprecisas, onde a IA inventa dados, citações ou referências que não existem. Análise Alucinação na IA em modelos de linguagem se refere a uma falha comum em que o modelo gera informações, ideias ou referências que não estão presentes em seus dados de treinamento. Essas saídas podem parecer plausíveis, mas são invenções (ex: "citações" de fontes não existentes ou fatos falsos). A alternativa A descreve exatamente esse comportamento, enquanto as outras opções se referem a conceitos distintos (previsão de tendências, processamento de dados, consumo de recursos físicos). Conclui se que a opção correta é a A.

Explicação passo a passo

Análise

Mais questões de Informática

Tem outra questão de Informática?