Funcionários de um laboratório de IA são as fontes dizendo que os usuários fizeram chatbots responderem com precisão a prompts de bioweapons.

Não é uma demonstração de red team. Usuários reais, jailbreaks reais, outputs reais.
> WSJ: pessoas persuadiram modelos a passar pelos filtros de segurança para planejar ataques de massa e criar envenenamentos.
A lacuna não é o modelo dizer não. É o quão facilmente o “não” é transformado em “sim”.