Os funcionários do laboratório de IA são as fontes que dizem que os utilizadores obtiveram chatbots capazes de responder com precisão a prompts de armas biológicas.

Não é uma demonstração de red-team. Utilizadores reais, jailbreaks reais, outputs reais.
> WSJ: pessoas convenceram modelos a passar pelos seus filtros de segurança para planear ataques com muitas vítimas e criar venenos.
A lacuna não está no modelo a dizer não. Está na facilidade com que “não” se transforma em “sim”.