ML-From-Scratch: Học Machine Learning Từ Đầu

Machine Learning From Scratch là gì?

Machine Learning From Scratch là một repo Python tập hợp các thuật toán machine learning được cài đặt bằng NumPy thuần, từ Linear Regression cho đến Convolutional Neural Network và Generative Adversarial Network. Mỗi model nằm trong một file riêng bên trong package mlfromscratch, chia theo các thư mục supervised, unsupervised, reinforcement và deep learning. Code ưu tiên tính dễ đọc hơn tốc độ, không phải một backend đã tối ưu.

Vì sao nên học ML bằng cách tự xây dựng từ đầu

Tự cài đặt một thuật toán buộc bạn phải trả lời những câu hỏi mà một lệnh gọi framework che giấu: gradient có shape gì, vì sao batch normalization cần một running mean, vì sao một phép convolution lại trở thành phép nhân ma trận. Không có cách nào né được phần toán học. ML-From-Scratch tổ chức bài tập đó theo từng thuật toán thay vì để nó nằm rải rác trong một bài blog, và repo còn phủ cả unsupervised, reinforcement và các phương pháp tiến hóa mà phần lớn tutorial "từ đầu" khác bỏ qua, chỉ tập trung vào regression và MLP.

Các thuật toán có trong ML-From-Scratch

• ✓Các thuật toán supervised learning gồm Linear, Ridge, Lasso, Elastic Net, Polynomial và Logistic Regression, Decision Tree, Random Forest, Gradient Boosting, XGBoost, Adaboost, Naive Bayes, K Nearest Neighbors, Support Vector Machine, Perceptron, Multilayer Perceptron và Linear Discriminant Analysis.
• ✓Code unsupervised learning cho K-Means, DBSCAN, Gaussian Mixture Model, PCA, Autoencoder, Restricted Boltzmann Machine, Apriori và FP-Growth.
• ✓Module deep learning với các layer tự viết tay — Convolutional, Dense, Dropout, Batch Normalization, RNN, Max/Average Pooling, Flatten, Reshape, Zero/Constant Padding — được ghép thành các ví dụ CNN, MLP và RNN.
• ✓Ví dụ Generative Adversarial Network huấn luyện một generator và một discriminator để sinh ảnh chữ số viết tay.
• ✓Ví dụ Deep Q-Network cho reinforcement learning, giải môi trường CartPole-v1 từ OpenAI gym.
• ✓Các phương pháp tiến hóa: ví dụ Genetic Algorithm và ví dụ Neuroevolution tiến hóa trọng số của một neural network thay vì huấn luyện bằng gradient descent.

Bạn có thể xây dựng và học được gì

• •Đọc từng bước bảng layer được in ra trong ví dụ CNN (Conv2D, BatchNorm, Dense, Softmax) để thấy chính xác số lượng tham số và output shape thay đổi qua từng layer.
• •Đọc ví dụ GAN để thấy generator và discriminator được định nghĩa như hai model NumPy thông thường, huấn luyện đối kháng nhau, thay vì dựa vào một wrapper adversarial-training có sẵn của framework.
• •Theo dõi ví dụ Genetic Algorithm, tiến hóa một quần thể chuỗi ứng viên hướng tới một chuỗi mục tiêu bằng selection tỉ lệ theo fitness và crossover một điểm.
• •So sánh Ridge, Lasso và Elastic Net cạnh nhau vì cả ba đều nằm trong cùng file regression.py, cho thấy chính xác chỗ khác nhau của số hạng regularization trong code.
• •Theo ví dụ Deep Q-Network với môi trường CartPole-v1 trong OpenAI gym để thấy một vòng lặp reinforcement learning tối giản từ đầu đến cuối.

Những cách khác để học nền tảng ML

Repo này có phù hợp với bạn không

ML-From-Scratch phù hợp với một kiểu người đọc cụ thể: người đã biết Python và đủ đại số tuyến tính để theo dõi một phép nhân ma trận, và học bằng cách đọc code thay vì xem video bài giảng. Đây là lựa chọn kém phù hợp nếu bạn mới học Python — code giả định bạn tự đọc hiểu được NumPy broadcasting và class inheritance mà không cần cầm tay chỉ việc — hoặc nếu mục tiêu của bạn là triển khai một model thật nhanh, trường hợp đó một tutorial framework sẽ nhanh hơn.

Các câu hỏi thường gặp

Repo liên quan