Random-Forest - Nhãn - NZQIRChttps://nzqirc.xyz/tags/random-forest/Random-Forest - Nhãn - NZQIRCHugo -- gohugo.ioviThis work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.Fri, 18 Sep 2026 21:00:00 +0700Lộ trình từ Decision Tree đến Random Foresthttps://nzqirc.xyz/posts/math/stats/from-decision-tree-to-random-forest/Fri, 18 Sep 2026 21:00:00 +0700Du Mãhttps://nzqirc.xyz/posts/math/stats/from-decision-tree-to-random-forest/Một cây quyết định (DT) sâu có độ chệch thấp nhưng phương sai rất cao: nó học vẹt nhiễu và rất nhạy với dữ liệu huấn luyện. Bagging và Random Forest (RF) cùng dùng triết lý “sức mạnh số đông” để dập tắt phương sai, nhưng ở hai cấp độ khác nhau.

1. Bagging: Hội đồng đọc chung tài liệu

Thay vì tin 1 cây, Bagging rút mẫu bootstrap tạo $B$ tập con, trồng cây DT nguyên bản trên mỗi tập rồi lấy trung bình dự đoán:

]]>Bagging: Giảm phương sai cho cây học máyhttps://nzqirc.xyz/posts/math/stats/bagging/Fri, 18 Sep 2026 20:50:00 +0700Du Mãhttps://nzqirc.xyz/posts/math/stats/bagging/Một cây quyết định sâu có độ chệch thấp nhưng phương sai rất cao: nó ghi nhớ nhiễu và rất nhạy với mẫu huấn luyện.

Năm 1996, Leo Breiman đề xuất Bagging (Bootstrap Aggregating) giúp triệt tiêu phương sai mà không tăng độ chệch.

1. Trực giác toán học: Sức mạnh số đông

Nếu có $B$ biến ngẫu nhiên độc lập cùng phương sai $\sigma^2$, trung bình cộng của chúng có phương sai giảm $B$ lần:

]]>Random Forest: Khi nhiều cây quyết định cùng bỏ phiếuhttps://nzqirc.xyz/posts/math/stats/random-forest/Sun, 30 Aug 2026 14:00:00 +0700Du Mãhttps://nzqirc.xyz/posts/math/stats/random-forest/Một cây quyết định (Decision Tree) có cách suy luận trực quan và dễ theo dõi: đặt liên tiếp các câu hỏi để chia nhỏ dữ liệu. Tuy nhiên, một cây đơn lẻ có thể dao động rất mạnh theo mẫu huấn luyện (phương sai cao) — chỉ vài quan sát thay đổi cũng có thể làm phép chia gần gốc đổi chỗ và kéo theo toàn bộ cấu trúc cây đảo lộn.

]]>