Spotify và Hành Trình Cá Nhân Hóa Trải Nghiệm Âm Thanh Bằng AI

Mục lục

1. Lời Mở Đầu: AI Tạo Sinh và Câu Chuyện Cá Nhân
2. Xây Dựng Nền Tảng AI Linh Hoạt và Mở Rộng
3. Ứng Dụng Thực Tế: Đề Xuất Theo Bối Cảnh và Bình Luận AI
   • Đề Xuất Được Giải Thích: Vì Sao Bạn Nghe?
   • Bình Luận AI: DJ Ảo Đồng Hành Cùng Bạn
4. Tối Ưu Hóa Mô Hình Ngôn Ngữ Lớn (LLM) cho Spotify
5. Hạ Tầng Mở Rộng và Hiệu Quả cho AI
6. Lời Kết: Tương Lai của AI trong Cá Nhân Hóa Trải Nghiệm

---

1. Lời Mở Đầu: AI Tạo Sinh và Câu Chuyện Cá Nhân

Spotify đang khám phá tiềm năng của trí tuệ nhân tạo (AI) tạo sinh, đặc biệt là các mô hình ngôn ngữ lớn (LLM), để mang đến những trải nghiệm âm thanh cá nhân hóa sâu sắc hơn cho người dùng. Với khả năng kết hợp kiến thức rộng lớn và thích ứng với nhiều ngữ cảnh khác nhau, LLM có thể tạo ra những "câu chuyện cá nhân" - những lời giới thiệu, giải thích đầy ý nghĩa và gần gũi, giúp người dùng khám phá những nội dung mới một cách tự nhiên.

Mục tiêu của Spotify là kết nối người sáng tạo và người nghe một cách ý nghĩa. Bằng cách tận dụng sức mạnh của LLM kết hợp với chuyên môn về âm nhạc, podcast và sách nói, Spotify mong muốn mang đến những trải nghiệm được "đo ni đóng giày" để người nghe có thể khám phá những nghệ sĩ, tác giả và người sáng tạo mới, cũng như hiểu sâu hơn về những đề xuất được đưa ra.

Cá nhân hóa đề xuất chỉ là một phần trong hành trình AI của Spotify. Công ty đang khám phá nhiều ứng dụng khác nhau, bao gồm:

• Hệ thống tìm kiếm và đề xuất nội dung được cá nhân hóa cao.
• Xử lý âm thanh tiên tiến, tạo ra những giọng nói AI tự nhiên và thu hút như AI DJ tiếng Anh và tiếng Tây Ban Nha.
• Nội dung tạo sinh, ví dụ như chia chương cho podcast, giúp người dùng dễ dàng điều hướng nội dung hơn.

Bài viết này sẽ đi sâu vào hai trường hợp sử dụng cụ thể, minh họa cách Spotify sử dụng LLM để tạo ra những đề xuất có ngữ cảnh thông qua những câu chuyện cá nhân: giúp người dùng khám phá những nghệ sĩ mới với những giải thích ngắn gọn và ý nghĩa, và cung cấp những bình luận theo thời gian thực được tùy chỉnh cho từng người nghe thông qua AI DJ.

2. Xây Dựng Nền Tảng AI Linh Hoạt và Mở Rộng

Trong thập kỷ qua, Spotify đã sử dụng nhiều kỹ thuật học máy khác nhau để cải thiện cách người dùng tương tác với kho nội dung phong phú của mình. Khi tiến sâu hơn vào phát triển LLM, Spotify nhận thấy cần có một phương pháp tiếp cận bài bản, đảm bảo AI được tích hợp để mang lại những đề xuất có ngữ cảnh thông qua những câu chuyện cá nhân.

Một mô hình nền tảng mạnh mẽ là yếu tố then chốt. Nó mang lại sự linh hoạt cho các thử nghiệm nhanh chóng và cho phép phát triển các giải pháp mục tiêu. Spotify có thể tối ưu hóa một LLM đa mục đích để đáp ứng các yêu cầu sản phẩm cụ thể, đồng thời thúc đẩy đổi mới trong cách kể chuyện cá nhân hóa bằng cách sử dụng LLM đa mục đích làm mô hình nền tảng. Một mô hình nền tảng tốt cần có những đặc điểm sau:

• Kiến thức rộng lớn: Mô hình cần bao phủ kiến thức chung và kiến thức chuyên ngành, phù hợp với danh mục đa dạng các nội dung âm nhạc, podcast và sách nói của Spotify.
• Tính linh hoạt: Mô hình cần thực hiện tốt các tác vụ như gọi hàm và hiểu nội dung, ví dụ như trích xuất chủ đề và phân loại an toàn.
• Hỗ trợ cộng đồng: Sự hỗ trợ mạnh mẽ từ cộng đồng giúp đơn giản hóa việc tinh chỉnh, cung cấp các công cụ đào tạo và suy luận quy mô lớn hiệu quả, và thúc đẩy cải tiến liên tục.
• An toàn: An toàn là rất quan trọng để đảm bảo trải nghiệm tích cực cho người dùng, đặc biệt là trong các câu chuyện cá nhân hóa.

Spotify đã đánh giá nhiều mô hình tiên tiến và nhận thấy mô hình Llama của Meta là một ứng cử viên sáng giá. Llama đáp ứng các tiêu chí cần thiết cho một mô hình nền tảng đáng tin cậy và phù hợp để điều chỉnh theo các lĩnh vực cụ thể.

3. Ứng Dụng Thực Tế: Đề Xuất Theo Bối Cảnh và Bình Luận AI

Thông thường, người dùng Spotify dựa vào ảnh bìa và sự quen thuộc với nghệ sĩ hoặc thể loại khi quyết định có nghe các đề xuất âm nhạc hay không. Spotify đang tìm cách thêm sự minh bạch và ngữ cảnh vào các đề xuất để tăng sự tin tưởng của người dùng và khuyến khích họ khám phá sâu hơn.

LLM đã thể hiện tiềm năng lớn trong việc cung cấp ngữ cảnh cá nhân hóa, giống như lời giới thiệu của một người bạn. Thông tin bổ sung này tăng khả năng người dùng sẽ khám phá nội dung mới. Spotify đã đạt được những kết quả đầy hứa hẹn trong việc điều chỉnh LLM cho mục đích này.

Đề Xuất Được Giải Thích: Vì Sao Bạn Nghe?

LLM mang đến một chiều hướng mới cho quá trình cá nhân hóa của Spotify bằng cách giải thích lý do một mục cụ thể có thể phù hợp với người dùng. Những giải thích này giúp người dùng hiểu rõ hơn về các đề xuất và có cái nhìn sâu sắc hơn về nội dung.

Spotify đã thử nghiệm LLM trong việc tạo ra những giải thích ngắn gọn và ý nghĩa cho các đề xuất âm nhạc, podcast và sách nói. Bằng cách kết hợp kiến thức rộng lớn của mô hình nền tảng với chuyên môn về nội dung âm thanh, Spotify đã tạo ra những giải thích cung cấp thông tin chi tiết về nội dung được đề xuất. Ví dụ: "Đĩa đơn mới nhất của Dead Rabbitts là một cơn cuồng adrenaline metalcore!" hoặc "Sống lại buổi hòa nhạc Dublin năm 1993 mang tính biểu tượng của U2 với ZOO TV Live EP".

Tuy nhiên, việc sử dụng LLM để tạo ra các giải thích đề xuất cũng có những thách thức: đảm bảo phong cách nhất quán, triển khai các biện pháp an toàn để ngăn chặn các nội dung không phù hợp, giảm thiểu sự "ảo giác" (thông tin sai lệch), và hiểu rõ sở thích của người dùng. Spotify đã sử dụng phương pháp "con người trong vòng lặp", với các biên tập viên cung cấp các ví dụ "vàng" về ngữ cảnh hóa và đưa ra phản hồi liên tục để giải quyết các vấn đề.

Kết quả thử nghiệm cho thấy, những giải thích có thông tin chi tiết về nghệ sĩ hoặc âm nhạc đã giúp tăng đáng kể sự tương tác của người dùng. Trong một số trường hợp, người dùng có khả năng nhấp vào các đề xuất đi kèm giải thích cao gấp bốn lần, đặc biệt là đối với các nội dung niche.

Bình Luận AI: DJ Ảo Đồng Hành Cùng Bạn

Một ví dụ khác về cách đề xuất theo ngữ cảnh tạo ra kết nối sâu sắc hơn với người sáng tạo là AI DJ của Spotify. Ra mắt vào năm 2023, DJ là một hướng dẫn AI cá nhân, hiểu rõ sở thích âm nhạc của người nghe, đưa ra những lựa chọn bài hát phù hợp và những bình luận sâu sắc về các nghệ sĩ và bài hát được đề xuất.

LLM mang đến cơ hội độc đáo để mở rộng những câu chuyện cá nhân này, đảm bảo mọi người nghe đều nhận được những bình luận phong phú, dựa trên ngữ cảnh, giúp họ kết nối sâu sắc hơn với âm nhạc và những người sáng tạo.

Một trong những thách thức chính đối với bình luận AI DJ dựa trên LLM là đạt được sự hiểu biết sâu sắc về văn hóa, phù hợp với sở thích của từng người nghe. Tại Spotify, các biên tập viên âm nhạc đóng vai trò trung tâm trong việc giải quyết thách thức này. Bằng cách trang bị cho các biên tập viên này các công cụ AI tạo sinh, Spotify có thể mở rộng chuyên môn của họ hiệu quả hơn bao giờ hết.

Spotify đã thử nghiệm nhiều mô hình và nhận thấy rằng việc tinh chỉnh các mô hình Llama nhỏ hơn đã tạo ra những câu chuyện có tính văn hóa và hấp dẫn, ngang bằng với các công nghệ tiên tiến khác, đồng thời giảm đáng kể chi phí và độ trễ.

Những câu chuyện cá nhân hóa cho AI DJ cho phép người nghe khám phá âm nhạc mới và những câu chuyện đằng sau các bài hát, làm sâu sắc thêm sự kết nối của họ với nội dung.

4. Tối Ưu Hóa Mô Hình Ngôn Ngữ Lớn (LLM) cho Spotify

Để xây dựng những câu chuyện cá nhân hóa, Spotify cần một cơ sở hạ tầng có thể mở rộng. Công ty đã phát triển một hệ sinh thái quản lý và đào tạo dữ liệu toàn diện để có thể nhanh chóng mở rộng LLM.

Các LLM như Llama là những mô hình đa mục đích mạnh mẽ, có khả năng hỗ trợ nhiều trường hợp sử dụng khác nhau. Spotify đã điều chỉnh LLM trên một tập dữ liệu đào tạo được tuyển chọn cẩn thận, bao gồm các ví dụ nội bộ, dữ liệu do các chuyên gia âm nhạc tạo ra, và dữ liệu tổng hợp được tạo ra thông qua kỹ thuật nhắc lệnh và sử dụng suy luận zero-shot của các LLM tiên tiến.

Spotify cũng đánh giá các LLM từ mô hình 1B đến 8B, so sánh hiệu suất zero-shot của chúng với các giải pháp phi tạo sinh. Llama 3.1 8B đã chứng minh hiệu suất cạnh tranh. Dựa trên kết quả này, Spotify đã triển khai một phiên bản thích ứng đa nhiệm của Llama, nhắm mục tiêu 10 tác vụ cụ thể của Spotify. Cách tiếp cận này nhằm mục đích tăng cường hiệu suất tác vụ mà vẫn giữ nguyên các khả năng chung của mô hình.

Kết quả cho thấy, việc điều chỉnh theo lĩnh vực đã giúp cải thiện đáng kể (lên đến 14%) các tác vụ cụ thể của Spotify so với hiệu suất của Llama khi chưa được điều chỉnh.

5. Hạ Tầng Mở Rộng và Hiệu Quả cho AI

Đào tạo các LLM với hàng tỷ tham số đòi hỏi phải có khả năng đào tạo phân tán. Spotify đã phát triển một quy trình kiểm tra điểm dừng có thông lượng cao để lưu lại tiến độ của mô hình. Bằng cách tối ưu hóa thông lượng đọc/ghi, Spotify đã giảm đáng kể thời gian kiểm tra điểm dừng và tối đa hóa việc sử dụng GPU.

Hành trình LLM của Spotify không chỉ dừng lại ở việc tinh chỉnh. Công ty đang giải quyết các thách thức trên toàn bộ vòng đời, bao gồm cả việc phục vụ và suy luận hiệu quả cho các trường hợp sử dụng ngoại tuyến và trực tuyến. Spotify sử dụng các mô hình nhẹ và các kỹ thuật tối ưu hóa tiên tiến như bộ nhớ cache nhắc lệnh và lượng tử hóa để giảm độ trễ trong khi tối đa hóa thông lượng mà không làm giảm độ chính xác.

Việc tích hợp vLLM, một công cụ suy luận và phục vụ phổ biến cho LLM, đã mang lại những cải tiến lớn về hiệu quả phục vụ. vLLM cho phép độ trễ thấp và thông lượng cao trong quá trình suy luận, cho phép Spotify cung cấp các giải pháp AI tạo sinh theo thời gian thực cho hàng triệu người dùng.

6. Lời Kết: Tương Lai của AI trong Cá Nhân Hóa Trải Nghiệm

Spotify đã kết hợp AI tạo sinh với chuyên môn sâu rộng về lĩnh vực âm thanh để mang đến những đề xuất theo ngữ cảnh thông qua những câu chuyện cá nhân. Bài viết này cho thấy LLM có thể được điều chỉnh để vượt qua các giới hạn của hệ thống đề xuất, cho phép tạo ra các trải nghiệm theo thời gian thực và được cá nhân hóa cao, như bình luận AI DJ và giải thích đề xuất.

Spotify cam kết thúc đẩy công nghệ này hơn nữa bằng cách hợp tác với các nhà lãnh đạo trong ngành và cộng đồng mã nguồn mở, đồng thời giải quyết các thách thức quan trọng như tối ưu hóa cơ sở hạ tầng và khả năng mở rộng.

Bằng cách chia sẻ các ứng dụng cụ thể, Spotify hy vọng sẽ truyền cảm hứng cho những cách thức mới để mang đến những trải nghiệm cá nhân hóa, ý nghĩa, thúc đẩy mối quan hệ sâu sắc hơn giữa người dùng và nội dung.