Análise da Questão
A questão aborda a classificação de sistemas de Inteligência Artificial (IA) baseados no nível de risco, um conceito fundamental em marcos regulatórios modernos de tecnologia.
Alternativa B - Necessidade de testes, documentação técnica e supervisão humana reforçada.
Fundamentação Didática
Em qualquer estrutura regulatória de IA (seja a Lei de IA da União Europeia, o Marco Civil da IA brasileiro em discussão ou diretrizes do CNJ), a classificação de um sistema como "de alto risco" acarreta obrigações rigorosas para mitigar danos potenciais.
Principais características de sistemas de alto risco:
- Rigor Técnico: Exigem avaliação de conformidade prévia, incluindo testes extensivos de precisão, robustez e cibersegurança.
- Transparência e Documentação: É obrigatório manter registros técnicos detalhados (logs, dados de treinamento) para permitir auditorias futuras.
- Supervisão Humana: Diferente de sistemas de baixo risco, estes não operam de forma totalmente autônoma. Humanos devem manter o poder de decisão final e intervenção ("human-in-the-loop").
- Proteção de Direitos: O foco é evitar discriminação, viés algorítmico e violações de privacidade.
Por que as outras alternativas estão incorretas?
| Alternativa | Erro Conceitual |
|---|
| A | Dados públicos não dispensam auditoria. Pelo contrário, o uso de dados sensíveis em contextos jurídicos exige ainda mais cautela. |
| C | Código aberto não é uma regra universal para alto risco. A transparência é exigida via documentação, não necessariamente liberando o código-fonte. |
| D | Sistemas de alto risco podem ser usados externamente (ex: tribunais atendendo cidadãos), desde que cumpram as normas de segurança. |
| E | O conceito de "alto risco" aumenta a responsabilidade civil e administrativa, jamais gera isenção. |
Portanto, a definição de "alto risco" está intrinsecamente ligada à necessidade de controles adicionais, garantindo que a tecnologia sirva à justiça sem comprometer direitos fundamentais.