Tin tức và phân tích Goodfire

Goodfire đổi mục tiêu huấn luyện, mô hình giải đề trung thực tới 96%

Goodfire đề xuất mechanistic shaping: thêm một số hạng vào hàm mất mát để phạt khái niệm trong biểu diễn nội bộ, giúp mô hình giải đề trung thực 96% đến 98% số lần.