Anthropic công bố một mô hình trong tháng này gọi là Claude Mythos. Nói rằng nó quá nguy hiểm để phát hành.

Họ khóa nó sau một liên minh đã được kiểm duyệt gồm AWS, Apple, Microsoft, Google và JPMorgan với giá gấp 5 lần mô hình tốt nhất tiếp theo của họ.
Thuyết trình là nó tìm ra các lỗ hổng phần mềm mà không ai, kể cả con người hay AI, từng phát hiện trước đó.
Hai tuần sau, một nhà nghiên cứu an ninh đã phát hiện ra chính xác các lỗi mà Anthropic đã trình diễn như bằng chứng và đưa chúng vào các mô hình nhỏ, rẻ tiền, mã nguồn mở mà bất kỳ ai cũng có thể chạy.
Mỗi mô hình đều phát hiện ra lỗi chính trong tiêu đề. Một mô hình mở trọng số từ một phòng thí nghiệm Trung Quốc cũng nhận thấy điều mà thông báo của Anthropic không đề cập đến: lỗi này có thể lây lan qua mạng.
Nó tự lan truyền từ máy này sang máy khác.
Đó là sự khác biệt giữa một lỗi nghiêm trọng và loại lỗi có thể làm sập các bệnh viện trên 150 quốc gia trong một cuối tuần.