Netflix đã thay thế thuật toán đề xuất tồn tại suốt 15 năm của mình bằng một LLM.
Nó được gọi là “GenRec”, và nó đang thay đổi hoàn toàn cách các hệ thống gợi ý nội dung được xây dựng.
Trong hơn một thập kỷ, hệ thống đề xuất của Netflix được xem là một ví dụ kinh điển về feature engineering.
Các nhà khoa học dữ liệu đã xây dựng hàng nghìn đặc trưng phức tạp được thiết kế thủ công nhằm dự đoán xem bạn muốn xem gì tiếp theo.
Hệ thống này đòi hỏi:
Họ xây dựng GenRec — một hệ thống xếp hạng được hỗ trợ bởi LLM.
Thay vì chuyển hành vi của người dùng thành hàng loạt biểu diễn toán học phức tạp, Netflix có thể biến lịch sử xem và metadata thành một đoạn mô tả bằng ngôn ngữ tự nhiên.
Sau đó, phần văn bản thô này được đưa vào một foundation LLM.
AI đơn giản là “đọc” hành vi của bạn giống như đọc một câu chuyện, hiểu sở thích của bạn đang thay đổi như thế nào, rồi chấm điểm các nội dung trong catalog chỉ trong một lần chạy qua mô hình.
Không còn phải xây dựng hàng nghìn feature thủ công.
Không cần quá nhiều kiến trúc chuyên biệt phức tạp.
Và đây mới là phần có thể khiến những người làm data science theo phương pháp truyền thống phải chú ý.
Hệ thống LLM dựa trên văn bản này không chỉ đạt hiệu quả tương đương với hệ thống production đã được Netflix tối ưu trong nhiều năm.
Nó còn vượt qua hệ thống cũ.
Đáng chú ý hơn, GenRec đạt được những cải thiện có ý nghĩa thống kê trong khi chỉ sử dụng khoảng 1/40 lượng dữ liệu huấn luyện có nhãn.
Chúng ta đang chứng kiến một sự thay đổi mô hình rất lớn diễn ra ngay trước mắt.
Những thuật toán dự đoán phức tạp nhất thế giới đang dần được thay thế bởi những mô hình đơn giản hơn về mặt thiết kế hệ thống — những mô hình có khả năng đọc, hiểu ngữ cảnh và suy luận từ dữ liệu dạng ngôn ngữ tự nhiên.
Nếu Netflix có thể thay thế một trong những hệ thống cốt lõi của sản phẩm bằng LLM, thì câu hỏi dành cho doanh nghiệp là:
Có bao nhiêu hệ thống phức tạp mà chúng ta đang sử dụng hôm nay có thể sớm trở nên lỗi thời trước cách tiếp cận dựa trên LLM?
Nó được gọi là “GenRec”, và nó đang thay đổi hoàn toàn cách các hệ thống gợi ý nội dung được xây dựng.
Trong hơn một thập kỷ, hệ thống đề xuất của Netflix được xem là một ví dụ kinh điển về feature engineering.
Các nhà khoa học dữ liệu đã xây dựng hàng nghìn đặc trưng phức tạp được thiết kế thủ công nhằm dự đoán xem bạn muốn xem gì tiếp theo.
Hệ thống này đòi hỏi:
- Các kiến trúc được thiết kế riêng
- Hạ tầng khổng lồ
- Quá trình tinh chỉnh thủ công liên tục
Họ xây dựng GenRec — một hệ thống xếp hạng được hỗ trợ bởi LLM.
Thay vì chuyển hành vi của người dùng thành hàng loạt biểu diễn toán học phức tạp, Netflix có thể biến lịch sử xem và metadata thành một đoạn mô tả bằng ngôn ngữ tự nhiên.
Sau đó, phần văn bản thô này được đưa vào một foundation LLM.
AI đơn giản là “đọc” hành vi của bạn giống như đọc một câu chuyện, hiểu sở thích của bạn đang thay đổi như thế nào, rồi chấm điểm các nội dung trong catalog chỉ trong một lần chạy qua mô hình.
Không còn phải xây dựng hàng nghìn feature thủ công.
Không cần quá nhiều kiến trúc chuyên biệt phức tạp.
Và đây mới là phần có thể khiến những người làm data science theo phương pháp truyền thống phải chú ý.
Hệ thống LLM dựa trên văn bản này không chỉ đạt hiệu quả tương đương với hệ thống production đã được Netflix tối ưu trong nhiều năm.
Nó còn vượt qua hệ thống cũ.
Đáng chú ý hơn, GenRec đạt được những cải thiện có ý nghĩa thống kê trong khi chỉ sử dụng khoảng 1/40 lượng dữ liệu huấn luyện có nhãn.
Chúng ta đang chứng kiến một sự thay đổi mô hình rất lớn diễn ra ngay trước mắt.
Những thuật toán dự đoán phức tạp nhất thế giới đang dần được thay thế bởi những mô hình đơn giản hơn về mặt thiết kế hệ thống — những mô hình có khả năng đọc, hiểu ngữ cảnh và suy luận từ dữ liệu dạng ngôn ngữ tự nhiên.
Nếu Netflix có thể thay thế một trong những hệ thống cốt lõi của sản phẩm bằng LLM, thì câu hỏi dành cho doanh nghiệp là:
Có bao nhiêu hệ thống phức tạp mà chúng ta đang sử dụng hôm nay có thể sớm trở nên lỗi thời trước cách tiếp cận dựa trên LLM?