Giới thiệu phương pháp Bayes và thuật toán chuỗi Markov Monte Carlo (MCMC)

An Introduction to Bayesian methods and Markov Chain Monte Carlo (MCMC) Algorithms

Cấu trúc chuỗi bài học

Để giúp các bạn có một lộ trình học tập rõ ràng và hiệu quả, chúng tôi đã cấu trúc chuỗi bài học này thành các phần riêng biệt, đi từ cơ bản đến nâng cao. Mỗi bài viết đều được thiết kế để xây dựng dựa trên kiến thức của bài trước, giúp bạn củng cố kiến thức một cách có hệ thống.

Kiến thức tiên quyết

Để tiếp thu tốt nhất chuỗi bài học này, các bạn cần có sự chuẩn bị trước một số kiến thức nền tảng. Việc này sẽ giúp bạn tập trung vào các khái niệm mới của phương pháp Bayes thay vì bỡ ngỡ với những công cụ cơ bản.

Mục tiêu học tập

Sau khi hoàn thành chuỗi bài học này, chúng tôi tin rằng các bạn sẽ đạt được những kỹ năng và kiến thức quan trọng, giúp bạn tự tin hơn trong việc nghiên cứu và phân tích dữ liệu.

Tài liệu tham khảo

Kiến thức trong chuỗi bài viết này được tổng hợp và phát triển dựa trên các nguồn tài liệu uy tín trong lĩnh vực kinh tế lượng và thống kê Bayes. Các bạn có thể tìm đọc thêm để hiểu sâu hơn về các chủ đề được đề cập.

Phụ lục: Dữ liệu mô phỏng

Để đảm bảo tính nhất quán và giúp các bạn dễ dàng thực hành theo các ví dụ, toàn bộ chuỗi bài viết sẽ sử dụng cùng một bộ dữ liệu được mô phỏng. Dữ liệu này được tạo ra cho một mô hình Probit đơn giản, nơi một biến kết quả nhị phân y (nhận giá trị 0 hoặc 1) phụ thuộc vào một biến giải thích x.

Quy trình tạo dữ liệu (DGP – Data-Generating Process):

Chúng ta sẽ bắt đầu bằng việc tạo ra một biến ẩn (latent variable) $y_i^*$ theo mô hình tuyến tính:

$$y_i^* = 0.5 + 1.0 \cdot x_i + u_i$$

Trong đó:

Tuy nhiên, chúng ta không quan sát được biến ẩn $y_i^*$. Thay vào đó, chúng ta quan sát biến nhị phân $y_i$ được xác định như sau:

$$
y_i =
\begin{cases}
1 & \text{if } y_i^* > 0 \\
0 & \text{if } y_i^* \le 0
\end{cases}
$$

Điều này có nghĩa là xác suất để $y_i=1$ chính là $Pr(y_i=1 | x_i) = \Phi(0.5 + 1.0 \cdot x_i)$, đây chính là mô hình Probit. Chúng ta sẽ tạo một mẫu gồm 100 quan sát. Đoạn mã Stata dưới đây sẽ được sử dụng ở đầu mỗi bài thực hành để tạo ra bộ dữ liệu này.

* ==================================================
* MỤC ĐÍCH: Tạo dữ liệu mô phỏng cho mô hình Probit
* QUY TRÌNH TẠO DỮ LIỆU (DGP): Pr(y=1|x) = Φ(0.5 + 1.0*x)
* KÍCH THƯỚC MẪU: N = 100
* ==================================================

* Xóa dữ liệu cũ và thiết lập kích thước mẫu
clear
set obs 100

* Thiết lập seed để đảm bảo kết quả có thể tái lập
set seed 1234567

* Tạo biến giải thích x từ phân phối chuẩn N(0,1)
generate x = rnormal(0,1)

* Tạo biến ẩn ystar dựa trên DGP
generate ystar = 0.5 + 1*x + rnormal(0,1)

* Tạo biến phụ thuộc nhị phân y từ biến ẩn
generate y = (ystar > 0)

* Tạo biến hằng số (cần cho lập trình Mata sau này)
generate cons = 1

* Lưu dữ liệu để sử dụng trong các bài học
save "mus230bayesgenerated.dta", replace

* ==================================================
* MỤC ĐÍCH: Tạo dữ liệu mô phỏng cho mô hình Probit
* QUY TRÌNH TẠO DỮ LIỆU (DGP): Pr(y=1|x) = Φ(0.5 + 1.0*x)
* KÍCH THƯỚC MẪU: N = 100
* ==================================================

* Xóa dữ liệu cũ và thiết lập kích thước mẫu
clear
set obs 100

* Thiết lập seed để đảm bảo kết quả có thể tái lập
set seed 1234567

* Tạo biến giải thích x từ phân phối chuẩn N(0,1)
generate x = rnormal(0,1)

* Tạo biến ẩn ystar dựa trên DGP
generate ystar = 0.5 + 1*x + rnormal(0,1)

* Tạo biến phụ thuộc nhị phân y từ biến ẩn
generate y = (ystar > 0)

* Tạo biến hằng số (cần cho lập trình Mata sau này)
generate cons = 1

* Lưu dữ liệu để sử dụng trong các bài học
save "mus230bayesgenerated.dta", replace

Bộ dữ liệu này sẽ là cơ sở để chúng ta so sánh các phương pháp ước lượng khác nhau, từ MLE, Bayes với lệnh có sẵn, cho đến các thuật toán MCMC tự lập trình. Chúc các bạn có một hành trình học tập hiệu quả và thú vị!