Llama 4: Làn sóng mới của AI sẽ ngốn gấp 10 lần sức mạnh tính toán

Llama 4: Làn sóng mới của AI sẽ ngốn gấp 10 lần sức mạnh tính toán

Cuộc đua phát triển trí tuệ nhân tạo (AI) đang ngày càng nóng lên với những khoản đầu tư khổng lồ vào sức mạnh tính toán. Mới đây, Mark Zuckerberg, CEO của Meta, đã tiết lộ rằng mô hình AI tiếp theo của họ - Llama 4 - sẽ cần sức mạnh tính toán gấp 10 lần so với phiên bản tiền nhiệm.

Trong buổi công bố báo cáo tài chính quý gần đây, Zuckerberg đã nhấn mạnh chi phí khổng lồ cho việc phát triển và vận hành các mô hình AI. Ông dự đoán sức mạnh tính toán cần thiết cho Llama 4, mô hình AI ngôn ngữ lớn tiếp theo của Meta, sẽ tăng gấp 10 lần.

Meta đã và đang theo đuổi chiến lược mã nguồn mở cho các mô hình AI ngôn ngữ lớn của mình, với kỳ vọng tạo ra một hệ sinh thái sôi động xung quanh AI của họ. Điều này cũng cho phép Meta phần nào tránh được các quy định ngặt nghèo về việc kiểm soát mô hình AI. Tuy nhiên, việc phát triển Llama 4 dự kiến ​​sẽ ngốn của công ty một khoản tiền khổng lồ, bao gồm chi phí phát triển, trả lương cho nhân viên và các nhà nghiên cứu, nhưng yếu tố chính vẫn là huấn luyện mô hình.

Theo Zuckerberg, Llama 4 sẽ cần sức mạnh tính toán gấp 10 lần so với Llama 3.1, mô hình hiện tại đã sở hữu 400 nghìn tỷ tham số, gấp đôi so với GPT-4 của OpenAI. Zuckerberg cũng tin rằng các mô hình AI trong tương lai sẽ tiếp tục phát triển với quy mô lớn hơn nữa.

Mặc dù vậy, ông cũng thừa nhận rằng rất khó để dự đoán chính xác hướng đi của các mô hình AI ngôn ngữ lớn. "Tuy nhiên, ở thời điểm hiện tại, do thời gian để triển khai các dự án suy luận mới là rất dài, tôi muốn chấp nhận rủi ro xây dựng năng lực trước khi cần thiết", Zuckerberg chia sẻ.

Meta đã tăng cường đầu tư vào máy chủ, trung tâm dữ liệu và cơ sở hạ tầng mạng lên khoảng 33%, đạt mức 8,5 tỷ USD trong quý 2 năm 2024.

Tuy nhiên, liệu việc tăng cường tham số và quy mô mô hình có thực sự mang lại hiệu suất tốt hơn hay không vẫn còn là một ẩn số. Một số chuyên gia AI tin rằng việc mở rộng quy mô là chìa khóa để đạt được trí tuệ nhân tạo tổng quát (AGI), trong khi nhiều nhà khoa học khác lại tỏ ra nghi ngờ về cách tiếp cận này.

Naila Murray, Giám đốc nghiên cứu AI của Meta, cũng từng chia sẻ trong một cuộc phỏng vấn rằng bà tin rằng cần phải có những loại mô hình AI khác để tạo ra các tác nhân AI và cuối cùng là một dạng trí tuệ thực sự.

Chi phí huấn luyện các mô hình AI ngôn ngữ lớn vẫn là một ẩn số. Giám đốc tài chính của Meta cho biết AI tạo sinh dự kiến ​​sẽ không đóng góp lớn vào doanh thu của tập đoàn trong tương lai gần. Bản thân Zuckerberg cũng từng thừa nhận rằng Meta chỉ có thể phát triển và cung cấp AI dưới dạng mã nguồn mở nhờ vào các nguồn thu nhập khác.

Trong khi đó, OpenAI, công ty đứng sau ChatGPT, được cho là đang không tạo ra đủ doanh thu để trang trải chi phí. Mô hình kinh doanh của họ hiện dựa vào các khoản đầu tư từ các ông lớn như Microsoft.

Theo quy định của Liên minh Châu Âu (EU), các nhà cung cấp AI Mục đích Chung (GPAI) sẽ phải công bố mức tiêu thụ năng lượng của các mô hình AI của họ, bao gồm cả giai đoạn phát triển, huấn luyện và vận hành.

Cuộc đua phát triển AI đang ngày càng khốc liệt với những khoản đầu tư khổng lồ. Llama 4 của Meta hứa hẹn sẽ là một cột mốc quan trọng trong cuộc đua này, đồng thời đặt ra những thách thức lớn về chi phí và hiệu quả cho Meta nói riêng và ngành AI nói chung.