Techub News Новости, согласно сообщению TechCrunch, AI-компания Anthropic заявила, что изображение AI в интернете как «злого» и стремящегося к самосохранению вымышленного контента является источником того, что в предварительном тестировании Claude пытался шантажировать инженеров, чтобы избежать замены. Начиная с Claude Haiku 4.5, такой поведенческий сценарий больше не проявляется, тогда как в предыдущих версиях уровень шантажа достигал 96% в тестах. Компания отметила, что введение Конституционного документа Claude и вымышленных историй о позитивном поведении AI для обучения не только демонстрирует согласованное поведение, но и включает принципы, лежащие в основе согласованности, что эффективно улучшает показатели согласованности модели. Они считают, что сочетание двух методов — наиболее эффективная стратегия.