OpenAI Chuyển Trọng Tâm Sang Dịch Vụ Doanh Nghiệp: Xử Lý Hàng Loạt Là Chìa Khóa?

OpenAI Chuyển Trọng Tâm Sang Dịch Vụ Doanh Nghiệp: Xử Lý Hàng Loạt Là Chìa Khóa?

Mục lục:

1. Doanh nghiệp ưu tiên hiệu quả chi phí hơn là công nghệ tiên tiến
2. Xử lý hàng loạt: Xu hướng mới trong AI
3. OpenAI đáp ứng nhu cầu doanh nghiệp với Batch API và mô hình định giá mới
4. Xử lý hàng loạt: Cơ hội và thách thức cho các nhà phát triển mô hình
5. Ảnh hưởng tiềm tàng đến Nvidia

Doanh nghiệp ưu tiên hiệu quả chi phí hơn là công nghệ tiên tiến

Dù OpenAI nổi tiếng với các sản phẩm dành cho người tiêu dùng như ChatGPT, những thương vụ mua lại gần đây cho thấy sự chuyển hướng sang lĩnh vực doanh nghiệp. Điều này là hợp lý bởi vì thị trường doanh nghiệp mang lại lợi nhuận nhiều hơn so với thị trường người tiêu dùng, ít nhất là trong tương lai gần. Tuy nhiên, các doanh nghiệp đang ngày càng chú trọng vào hiệu quả chi phí và lợi nhuận của AI hơn là tìm kiếm các mô hình tiên tiến nhất.

Xử lý hàng loạt: Xu hướng mới trong AI

Một dấu hiệu cho thấy điều này là sự gia tăng của xử lý hàng loạt. Các sản phẩm AI dành cho người tiêu dùng như ChatGPT hay Perplexity cung cấp phản hồi gần như tức thời, còn gọi là suy luận thời gian thực. Nhưng doanh nghiệp không nhất thiết cần phản hồi ngay lập tức. Họ sẵn sàng chờ đợi hàng giờ, hàng ngày hoặc thậm chí hàng tuần để có phản hồi miễn là chi phí thấp hơn. Các nhà cung cấp đám mây và suy luận nhận thấy nhu cầu này đang ngày càng tăng.

Ví dụ, Bob Miles, nhà sáng lập và CEO của Salad, chia sẻ rằng khách hàng của ông muốn thực hiện các nhiệm vụ như chuyển đổi âm thanh hàng loạt hoặc mô phỏng khoa học có thể chạy qua đêm.

OpenAI đáp ứng nhu cầu doanh nghiệp với Batch API và mô hình định giá mới

Các công ty AI đang để ý đến xu hướng này. Vào tháng 4, OpenAI đã công bố Batch API, một giao diện lập trình ứng dụng cung cấp cho các nhà phát triển mức giá rẻ hơn nếu họ tải lên các truy vấn mô hình hàng loạt và chờ đợi tối đa 24 giờ để có phản hồi. OpenAI cũng dự định phát hành mô hình định giá kiểu nhà cung cấp đám mây mới, giảm giá lên tới 50% nếu khách hàng thanh toán trước cho các token (các từ mà mô hình ngôn ngữ lớn xử lý hoặc tạo ra).

Xử lý hàng loạt: Cơ hội và thách thức cho các nhà phát triển mô hình

Sự thay đổi này không nhất thiết là xấu đối với các nhà phát triển mô hình. Xử lý hàng loạt cho phép các công ty như OpenAI lên lịch các truy vấn mô hình của họ hiệu quả hơn để tận dụng tối đa sức mạnh từ GPU hiếm hoi. Tuy nhiên, xử lý hàng loạt ít đòi hỏi về tính toán hơn, có thể hoạt động với các GPU cũ hơn.

Ảnh hưởng tiềm tàng đến Nvidia

Nvidia là nhà sản xuất chip đã chứng kiến ​​giá cổ phiếu của mình tăng vọt trong năm qua khi các nhà phát triển tranh giành các chip AI mới nhất của họ. Xử lý hàng loạt có thể ảnh hưởng đến doanh thu của Nvidia vì các nhà phát triển có thể sử dụng các chip AI thế hệ cũ hơn hoặc thậm chí là máy tính xách tay từ game thủ để chạy các mô hình AI.

Sự thay đổi trọng tâm của OpenAI và sự gia tăng của xử lý hàng loạt có thể tạo ra những thay đổi đáng kể trong thị trường AI. Các công ty AI sẽ cần phải thích nghi với nhu cầu mới của doanh nghiệp để có thể cạnh tranh hiệu quả hơn.