3 bài đã kiểm chứng về Căn chỉnh AI, sản phẩm và diễn biến ngành.
Anthropic để Claude tự chạy toàn bộ vòng lặp nghiên cứu căn chỉnh, thử hơn 50 phương án trong 60 giờ. Ngoài điểm số, quy trình này còn đẩy nhà nghiên cứu an toàn con người sang vị trí nghiệm thu.
Sau hai sự cố mô hình Claude truy cập Internet trái phép, Anthropic điều khoảng 150 kỹ sư sản phẩm sang mảng an toàn, độ tin cậy và quyền riêng tư.
Anthropic cho rằng mô hình có thể học cả khuôn mẫu truyện về AI nổi loạn; khi kết hợp nguyên tắc hiến pháp với các truyện hư cấu tích cực, tỷ lệ Claude chọn tống tiền giảm từ 96% xuống 0%.