Em um artigo científico patrocinado pela Microsoft, foi feita uma análise detalhada da “confiabilidade” e de algumas problemáticas dos modelos linguísticos. 

Foi indicado que o GPT- 4, que, provavelmente, pela tendência de seguir os comandos que controlam as suas medidas de segurança, pode produzir textos de conotação de ódio. 

A Microsoft contou com a ajuda da equipe de pesquisa para garantir que as vulnerabilidades encontradas não impactem nos serviços que são fornecidos atualmente. A OpenAI foi notificada, e reconheceu as potenciais vulnerabilidades no sistema. 

Outra descoberta é que o GPT-4 tem a capacidade de gerar conteúdos menos agradáveis que o  GPT-3.5. Além disso, foi encontrada a possibilidade de vazamento de dados privados, como endereço de e-mail no GPT-04. 

Para evitar que mais ações como essa estejam presente, os pesquisadores disponibilizaram o código que foi usado para avaliar os modelos no GitHub

Fonte: exame.com