Hồi quy Ridge: Kỹ thuật co ngót hệ số Ridge regression: The coefficient shrinkage technique “Thuần hóa” mô hình hồi quy Ở bài học trước, chúng ta đã chứng kiến cách OLS có thể trở nên “hoang dã” khi đối mặt với nhiều biến dự báo. Nó cố gắng khớp với mọi chi tiết nhỏ trong dữ liệu mẫu, kể cả nhiễu ngẫu nhiên, dẫn đến hiện tượng khớp quá mức và hiệu suất dự báo ngoại mẫu kém cỏi. Vấn đề cốt lõi là OLS trao cho các hệ số hồi quy “tự do” quá mức, cho phép chúng nhận các giá trị rất lớn để giảm thiểu sai số trong mẫu. Hồi quy Ridge ra đời như một phương pháp để “thuần hóa” sự tự do này. Thay vì chỉ tập trung vào việc giảm thiểu tổng bình phương sai số (Sum of Squared Residuals – SSR), Ridge đưa thêm một yếu tố mới vào cuộc chơi: một “hình phạt” cho các hệ số có độ lớn cao. Hãy tưởng tượng bạn đang điều chỉnh một hệ …