Nhập môn hệ thống học máy
Machine Learning Systems — Tập I, Chương 1
← tất cả bài họcDanh sách cảnh (12 mục, 25 cảnh)
Mục 1Mục đích0:00
Mục 2Chuyển dịch sang dữ liệu làm trung tâm1:03
Mục 3Các điểm nghẽn của AI qua từng thời kỳ6:16
Mục 4Bài học đắng12:53
Mục 5Định nghĩa hệ thống học máy16:05
Mục 6Học máy và phần mềm truyền thống20:19
Mục 7Định luật sắt của hệ thống học máy22:29
Mục 8Ba chiều hiệu quả của học máy27:24
Mục 9Kỹ thuật AI, một ngành riêng29:37
Mục 10Khung năm trụ cột33:16
Mục 11Ngộ nhận và cạm bẫy35:28
Mục 12Tổng kết38:01
📓 Sổ tay thực hành
Chạy trên Colab bằng CPU, không cần cài thêm gì.
1. Định luật sắt: GPT-3 và số hạng chi phối
Làm lại Napkin Math 1.1 (GPT-3 trên 1,024 bộ tăng tốc, 25 rồi 19 ngày), quét số bộ tăng tốc, thông lượng đỉnh và mức sử dụng, đặt AlexNet, GPT-3 và GPT-4 lên một thang GPU-ngày, tìm số hạng chi phối ở một job huấn luyện, đường ống 130 ms và một tầng tuyến tính đo trên CPU, rồi tính thuế năng lượng theo batch và RoC.
Mục 1. Mục đích · 3. Các điểm nghẽn của AI qua từng thời kỳ · 4. Bài học đắng · 7. Định luật sắt của hệ thống học máy · 11. Ngộ nhận và cạm bẫy
chạy dưới 1 phútMở trong Colab ↗2. Hành vi nằm trong dữ liệu: nhãn hỏng và suy giảm âm thầm
Tính khoảng trống kiểm chứng của ImageNet tới từng chữ số, đổi quy trình gán nhãn mà giữ nguyên mã huấn luyện, so cách sửa lấy mô hình làm trung tâm với cách lấy dữ liệu làm trung tâm, rồi cho ánh sáng đổi dần 12 tháng trên MNIST: độ chính xác tụt mà dịch vụ không báo lỗi, khớp phương trình suy giảm, đặt ngưỡng trôi và chẩn đoán theo D·A·M.
Mục 1. Mục đích · 2. Chuyển dịch sang dữ liệu làm trung tâm · 5. Định nghĩa hệ thống học máy · 6. Học máy và phần mềm truyền thống · 9. Kỹ thuật AI, một ngành riêng · 11. Ngộ nhận và cạm bẫy
chạy dưới 1 phútMở trong Colab ↗3. Bài học đắng và ba chiều của hiệu quả
Đặt 34 đặc trưng do người thiết kế cạnh điểm ảnh thô theo lượng dữ liệu, ước lượng độ co giãn của đường cong học tập theo ba hướng chi thêm 10 % phép toán, đo ba chiều hiệu quả trên phương trình chi phí (lấy mẫu theo độ bất định, đổi bộ tối ưu, chạy cả khối), rồi tính các nhịp 44.5×, 15 tháng, 3.4 tháng và khoảng cách hệ thống.
Mục 3. Các điểm nghẽn của AI qua từng thời kỳ · 4. Bài học đắng · 5. Định nghĩa hệ thống học máy · 8. Ba chiều hiệu quả của học máy
chạy dưới 1 phútMở trong Colab ↗