O Correction melhora a confiabilidade de respostas de IA, mas gera desconfiança, utilizando tecnologia da informação e modelos de IA para classificar erros e fontes confiáveis.
A Microsoft desenvolveu uma ferramenta inovadora que visa combater as “alucinações” de Inteligência Artificial, que ocorrem quando textos gerados por IA contêm informações erradas. Essa tecnologia de Inteligência Artificial é capaz de identificar e corrigir automaticamente esses erros, garantindo uma maior precisão e confiabilidade nos resultados.
O serviço, chamado Correction, utiliza fontes confiáveis, como transcrições, para verificar a veracidade dos trechos potencialmente imprecisos. Além disso, a tecnologia de Inteligência Artificial por trás do Correction é capaz de aprender e se adaptar às necessidades específicas dos usuários, tornando-a uma ferramenta cada vez mais eficaz no combate às “alucinações” de IA. Com essa inovação, a Microsoft está revolucionando a forma como a Inteligência Artificial é utilizada em diversas áreas.
Inteligência Artificial: Desenvolvimento de Tecnologia de Correção
A tecnologia de inteligência artificial está em constante evolução, e a Microsoft recentemente introduziu um recurso chamado Correction, integrado à API Azure AI Content Safety. Esse recurso pode ser utilizado com diversos modelos de IA, como Llama e GPT-4, e tem como objetivo aumentar a confiabilidade das respostas geradas por esses modelos. No entanto, especialistas alertam que essa tecnologia não resolve o problema fundamental das ‘alucinações’ – respostas fabricadas que esses modelos produzem.
Um especialista compara tentar eliminar essas alucinações a remover hidrogênio da água, já que fazem parte da natureza da tecnologia da informação. A Microsoft espera que o Correction aumente a confiabilidade das respostas geradas por IA, mas críticos apontam que isso pode criar uma falsa sensação de segurança nos usuários sobre a precisão dos modelos.
Artigos Relacionados
Funcionamento do Correction
O Correction utiliza dois tipos de modelos: um classificador para identificar erros e um modelo de linguagem para corrigir esses trechos. No entanto, críticos afirmam que, mesmo que funcione, isso pode gerar custos adicionais, levantando questões sobre a motivação comercial da Microsoft em um cenário onde a empresa ainda visa gerar receita significativa com IA. Além disso, o serviço, embora gratuito até um certo limite, pode gerar preocupações sobre a precisão e confiabilidade.
A tecnologia de inteligência artificial está sendo adotada rapidamente pela indústria, mas críticos afirmam que isso está acontecendo antes de resolver questões fundamentais sobre sua eficácia e confiabilidade. A Microsoft está trabalhando para melhorar a precisão e confiabilidade de seus modelos de IA, mas ainda há muito a ser feito para resolver o problema das alucinações.
Desafios da Inteligência Artificial
A precisão e confiabilidade continuam a ser um desafio para empresas que adotam ferramentas de IA. Relatos de problemas em suas implementações evidenciam a necessidade de melhorias na tecnologia. A indústria está adotando essas tecnologias rapidamente, mas críticos afirmam que isso está acontecendo antes de resolver questões fundamentais sobre sua eficácia e confiabilidade.
A Microsoft está trabalhando para melhorar a precisão e confiabilidade de seus modelos de IA, mas ainda há muito a ser feito para resolver o problema das alucinações. A tecnologia de inteligência artificial tem o potencial de revolucionar muitas áreas, mas é importante abordar os desafios e limitações dessas tecnologias para garantir que sejam utilizadas de forma responsável e eficaz.
Fonte: @Olhar Digital
Comentários sobre este artigo