Alucinação
O que significa?
Uma alucinação é uma resposta de um modelo de IA que parece plausível mas é factualmente incorreta ou inventada. Como um modelo de linguagem prevê padrões de linguagem em vez de procurar factos, pode afirmar com confiança algo falso. A indicação de fontes, o RAG e a revisão humana reduzem bastante este risco.
As alucinações não são um 'erro' que se elimina por completo, mas uma característica do funcionamento dos modelos de linguagem. Controlam-se: fazer o modelo responder com base nas suas fontes (RAG), mostrar as fontes e garantir que os colaboradores sabem onde é necessária revisão humana.
A literacia em IA é aqui fundamental: quem percebe como um modelo chega a uma resposta reconhece quando é preciso verificar. É exatamente isso que as nossas formações transmitem.
Continuar a ler
Do conceito à aplicação?
Marque uma conversa sem compromisso. Traduzimos estes conceitos no que significam concretamente para a sua organização.