Kết luận — lập luận xuyên ranh giới

Machine Learning Systems — Tập I, Chương 16

0:00 / 48:55

Mục 1/8 · Mục đíchs00Làm chủ cả ngăn xếp1/49

Danh sách cảnh (8 mục, 49 cảnh)

Mục 1Mục đích2 cảnh · 2 phút0:00

Mục 2Tổng hợp hệ thống học máy11 cảnh · 9 phút1:45

Mục 3Mười ba nguyên lý định lượng11 cảnh · 11 phút10:59

Mục 4Nguyên lý trong thực hành4 cảnh · 4 phút22:09

Mục 5Hướng đi tương lai8 cảnh · 10 phút26:22

Mục 6Hành trình phía trước3 cảnh · 4 phút36:09

Mục 7Ngộ nhận và cạm bẫy6 cảnh · 6 phút39:40

Mục 8Tổng kết4 cảnh · 3 phút45:29

📓 Sổ tay thực hành

Chạy trên Colab bằng CPU, không cần cài thêm gì.

1. Mười ba nguyên lý thành mã: một token của Llama 2 70B đi qua cả tập sách
Viết mỗi nguyên lý định lượng của bảng 2 thành một hàm nhỏ và áp vào phép tính nhẩm 1.1 (140 GB, 140 GFLOP, 20.9 ms so với 0.07 ms, 295.2 lần), quét gom batch và INT8 trên biểu đồ roofline, đếm năng lượng theo sự kiện, đặt trần Amdahl (10 lần thành 1.1 lần), dựng một biên Pareto đo được rồi đặt ngân sách độ trễ lên nó, đo khoảng trống kiểm chứng, trôi thống kê và lệch giữa huấn luyện và phục vụ trên load_digits, mô phỏng vòng phản hồi thiên lệch, lần theo một quyết định lượng tử hoá qua tám nguyên lý, rồi đổi phạm vi tới cả cụm (48.8 giờ) và một hệ thống ghép.
Mục 1. Mục đích · 2. Tổng hợp hệ thống học máy · 3. Mười ba nguyên lý định lượng · 4. Nguyên lý trong thực hành · 5. Hướng đi tương lai · 6. Hành trình phía trước · 7. Ngộ nhận và cạm bẫy · 8. Tổng kết
chạy dưới 1 phútMở trong Colab ↗