Agent.ai.vn

eSelf: Công nghệ chatbot video thời gian thực đột phá

Mục lục:
<ol>
<li>Giới thiệu về eSelf và vòng gọi vốn</li>
<li>Công nghệ tiên tiến và tốc độ phản hồi</li>
<li>Khả năng ứng dụng đa ngành</li>
<li>Câu chuyện khởi nghiệp bất ngờ của người sáng lập</li>
<li>Kết luận</li>
</ol>
<hr>
1. Giới thiệu về eSelf và vòng gọi vốn
<img alt="eSelf" src="https://s.yimg.com/ny/api/res/1.2/RaUZQ27GzuQlpxRheYQ_7Q--/YXBwaWQ9aGlnaGxhbmRlcjt3PTk2MDtoPTUzNTtjZj13ZWJw/https://media.zenfs.com/en/techcrunch_for_finance_733/273e3b9469e6886cd347905e9babfe19">
eSelf, một startup công nghệ đến từ Israel, vừa công bố hoàn tất vòng gọi vốn hạt giống trị giá 4,5 triệu đô la Mỹ. Công ty này đang phát triển một nền tảng cho phép tạo ra và vận hành các chatbot AI đàm thoại dựa trên video, thời gian thực. Vòng gọi vốn này do Explorer Investments (Bồ Đào Nha) dẫn đầu, với sự tham gia của Ridge Ventures, M-Fund và các nhà đầu tư thiên thần chiến lược như Eyal Manor (cựu Phó Chủ tịch kỹ thuật của YouTube và Giám đốc sản phẩm và kỹ thuật tại Twilio). eSelf hướng đến các lĩnh vực như giáo dục, bán hàng, dịch vụ tài chính, bất động sản và sức khỏe & đời sống.
2. Công nghệ tiên tiến và tốc độ phản hồi
Điểm mạnh của eSelf nằm ở tốc độ phản hồi nhanh chóng của chatbot. Theo công ty, thời gian phản hồi trung bình chỉ dưới 1,7 giây – nhanh hơn đáng kể so với các chatbot giọng nói của các công ty hàng đầu khác như OpenAI. Điều này góp phần tạo nên trải nghiệm tương tác chân thực hơn. eSelf cung cấp một studio tạo chatbot "không cần mã hóa" (no-code), giúp khách hàng dễ dàng xây dựng các chatbot riêng của mình. Các chatbot này có khả năng tương tác với các ứng dụng phổ biến như Calendly, Salesforce, v.v., để lên lịch hẹn, truy cập nội dung và tham chiếu dữ liệu giống như một trợ lý con người.
3. Khả năng ứng dụng đa ngành
eSelf cho biết họ đã âm thầm vận hành "hàng triệu" cuộc trò chuyện thời gian thực. Hiện tại, công ty đã có một số khách hàng lớn như Christie's (bất động sản) và ngân hàng AGI (Brazil). Khả năng tích hợp với nhiều ứng dụng và tốc độ phản hồi nhanh chóng của eSelf mở ra tiềm năng ứng dụng rộng rãi trong nhiều lĩnh vực, góp phần tăng hiệu quả và trải nghiệm người dùng.
4. Câu chuyện khởi nghiệp bất ngờ của người sáng lập
eSelf được đồng sáng lập bởi Tiến sĩ Alan Bekker (CEO) và Eylon Shoshan (CTO). Câu chuyện khởi nghiệp của họ khá bất ngờ. Ban đầu, Alan Bekker mong muốn trở thành một giáo sĩ Do Thái. Tuy nhiên, sau khi đặt ra những câu hỏi lớn về đức tin và không nhận được câu trả lời thỏa đáng, ông đã từ bỏ con đường này.
“Tôi đã về nhà và nói với vợ Liza rằng tôi không còn tin vào Chúa nữa,” ông chia sẻ.
Sau đó, ông chuyển hướng sang nghiên cứu kỹ thuật, vật lý và khoa học máy tính. Một khóa học về máy học tình cờ đã thay đổi cuộc đời ông.
“Bạn có thể, bằng toán học, hiểu được ngôn ngữ tự nhiên, thị giác, lời nói. Thật kinh ngạc,” ông nói. Niềm đam mê hiểu về con người và thế giới đã dẫn dắt ông đến với lĩnh vực trí tuệ nhân tạo, tạo nên nền tảng cho sự ra đời của eSelf.
5. Kết luận
eSelf đang tạo ra một làn sóng mới trong lĩnh vực chatbot AI với công nghệ video thời gian thực và tốc độ phản hồi ấn tượng. Vòng gọi vốn thành công và danh sách khách hàng ngày càng tăng cho thấy tiềm năng to lớn của công ty này trong việc cách mạng hóa cách chúng ta tương tác với các trợ lý ảo. Với sự phát triển mạnh mẽ của AI, eSelf hứa hẹn sẽ đóng góp quan trọng vào tương lai của công nghệ đàm thoại.

eSelf: Công nghệ chatbot video thời gian thực đột phá

Mục lục: Giới thiệu về eSelf và vòng gọi vốn Công nghệ tiên tiến và tốc độ phản hồi Khả năng ứng dụng đa ngành Câu chuyện khởi nghiệp b...

tháng 12 15, 2024

SambaNova tối ưu hóa mô hình ngôn ngữ Meta Llama 3.3 70B: Tốc độ vượt trội, hiệu quả cao

Mục lục
<ul>
<li>Giới thiệu</li>
<li>Hiệu năng vượt trội của Llama 3.3 70B trên nền tảng SambaNova</li>
<li>Chất lượng mô hình tổng thể</li>
<li>Ý nghĩa đối với các nhà phát triển</li>
<li>Bắt đầu sử dụng</li>
<li>Thông tin về SambaNova</li>
</ul>
Giới thiệu
Trong bối cảnh công nghệ trí tuệ nhân tạo (AI) phát triển nhanh chóng, SambaNova tiếp tục khẳng định vị thế dẫn đầu bằng việc tối ưu hóa và phát hành mô hình ngôn ngữ lớn Llama 3.3 70B của Meta chỉ vài ngày sau khi Meta chính thức ra mắt. Mô hình này hiện đã có sẵn trên nền tảng SambaNova Cloud, mang đến tốc độ xử lý ấn tượng và hiệu quả cao cho các nhà phát triển.
<img alt="Llama 3.3 70B speed verified by Artificial Analysis" src="https://sambanova.ai/hs-fs/hubfs/aa-llama-33-70b.png?width=1600&height=755&name=aa-llama-33-70b.png">
Hiệu năng vượt trội của Llama 3.3 70B trên nền tảng SambaNova
Theo kết quả kiểm định độc lập của Artificial Analysis, SambaNova đạt tốc độ xử lý 430 tokens/giây cho mô hình Llama 3.3 70B trên giao diện lập trình ứng dụng (API) của SambaNova Cloud. Tốc độ này nhanh hơn đáng kể so với các API mô hình độc quyền tương đương. Điều này đặc biệt hữu ích cho các ứng dụng đòi hỏi tốc độ xử lý cao như ứng dụng thời gian thực hay các ứng dụng tác nhân (agentic applications).
<blockquote>
"Điểm cuối mới của SambaNova cung cấp mức độ thông minh này với tốc độ nhanh hơn nhiều lần so với các API mô hình độc quyền tương đương, đây là một đề xuất hấp dẫn đối với các nhà phát triển, đặc biệt là những người có các trường hợp sử dụng phụ thuộc vào tốc độ, chẳng hạn như những người đang xây dựng các ứng dụng thời gian thực hoặc tác nhân." - George Cameron, Trưởng nhóm sản phẩm, Artificial Analysis
</blockquote>
Chất lượng mô hình tổng thể
Mô hình Llama 3.3 70B của Meta được cải thiện đáng kể nhờ các kỹ thuật huấn luyện hậu xử lý tiên tiến, dẫn đến sự nâng cao hiệu suất đáng kể trong nhiều lĩnh vực, bao gồm lập luận, toán học và kiến thức tổng quát. Đối với các nhà phát triển đang sử dụng Llama 3.1 70B, việc nâng cấp lên Llama 3.3 là một lựa chọn tự nhiên, với tốc độ và độ chính xác cao hơn. Đồng thời, Llama 3.3 70B cũng là một sự lựa chọn hấp dẫn cho những người đang sử dụng các mô hình cơ sở độc quyền khác, vì nó có độ chính xác cao và tốc độ nhanh hơn hầu hết các nhà cung cấp khác, ngoại trừ những nhà cung cấp hiện đang sử dụng GPU.
Mặc dù Llama 3.3 70B đã tiệm cận Llama 3.1 405B về độ chính xác, nếu bạn cần mô hình cơ sở mã nguồn mở tốt nhất để xử lý các tác vụ của mình, chúng tôi vẫn khuyên bạn nên đánh giá mô hình 405B trên SambaNova và xem liệu nó có phù hợp hơn với trường hợp sử dụng của bạn hay không.
Ý nghĩa đối với các nhà phát triển
SambaNova hiện cung cấp chiều dài ngữ cảnh lớn trên Llama 3.3 70B với 64K token đầu vào, đủ cho hầu hết các trường hợp sử dụng Truy xuất thông tin (RAG) và Gọi hàm (Function Calling). Các nhà phát triển có thể bắt đầu sử dụng mô hình này ngay hôm nay trong các loại tải công việc đó và kết hợp nó với nhiều mô hình khác trên nền tảng đám mây của chúng tôi để tạo ra các Ứng dụng Tác nhân. Ví dụ: nếu bạn đang phát triển một tác nhân lập trình (xem ví dụ từ các đối tác của chúng tôi tại Blackbox), bạn có thể sử dụng Llama 3.3 để phân tách một nhiệm vụ lập trình thành nhiều vấn đề nhỏ hơn, sau đó sử dụng một mô hình khác như mô hình Qwen-32B-Coder mới được ra mắt của chúng tôi để viết mã nhanh hơn!
Bắt đầu sử dụng
Các nhà phát triển và doanh nghiệp hiện có thể truy cập mô hình Llama 3.3 70B thông qua bảng điều khiển dành cho nhà phát triển của SambaNova Cloud. Tại đây, bạn có thể nhận được khóa API miễn phí và bắt đầu xây dựng các ứng dụng AI của mình ngay lập tức.
Đối với những người cần giới hạn tốc độ cao hơn, hãy xem xét đăng ký Chương trình hỗ trợ khởi nghiệp mà chúng tôi vừa ra mắt, nơi bạn sẽ được truy cập vào các mô hình này và nhiều hơn nữa ngay cả trước đó.
Thông tin về SambaNova
SambaNova Systems, có trụ sở chính tại Palo Alto, California, được thành lập vào năm 2017 bởi các chuyên gia hàng đầu trong ngành, các chuyên gia thiết kế phần cứng và phần mềm từ Sun/Oracle và Đại học Stanford. Các nhà đầu tư bao gồm SoftBank Vision Fund 2, các quỹ và tài khoản được quản lý bởi BlackRock, Intel Capital, GV, Walden International, Temasek, GIC, Redline Capital, Atlantic Bridge Ventures, Celesta, và một số khác. SambaNova cung cấp nền tảng AI quy mô doanh nghiệp được xây dựng đặc biệt, giúp khách hàng khai thác các hiểu biết kinh doanh có giá trị từ dữ liệu của họ.

SambaNova tối ưu hóa mô hình ngôn ngữ Meta Llama 3.3 70B: Tốc độ vượt trội, hiệu quả cao

Mục lục Giới thiệu Hiệu năng vượt trội của Llama 3.3 70B trên nền tảng SambaNova Chất lượng mô hình tổng thể Ý nghĩa đối với các nhà ph...

tháng 12 15, 2024

Trí tuệ nhân tạo mã nguồn mở: Động lực thúc đẩy đột phá trong y tế, giáo dục và khởi nghiệp

Mục lục
<ol>
<li>Giới thiệu</li>
<li>Ứng dụng trong Y tế và Khoa học<ul>
<li>City of Hope</li>
<li>OtonoCo và Gene Outlook</li>
</ul>
</li>
<li>Ứng dụng trong Giáo dục<ul>
<li>DLYog Lab</li>
<li>Quỹ Giáo dục Pratham</li>
</ul>
</li>
<li>Ứng dụng trong Khởi nghiệp và Doanh nghiệp nhỏ<ul>
<li>HiiiWAV</li>
<li>AIIRA</li>
</ul>
</li>
<li>Kết luận</li>
</ol>
1. Giới thiệu
Trí tuệ nhân tạo (AI) mã nguồn mở đang biến đổi nhiều ngành công nghiệp bằng cách cung cấp các công cụ dễ tiếp cận và minh bạch, cho phép cộng tác và phát huy sự sáng tạo. Các nhà nghiên cứu và nhà phát triển trên toàn thế giới đang sử dụng Llama – một mô hình AI mã nguồn mở – để giải quyết các vấn đề thực tế, từ những thiếu sót trong các thử nghiệm lâm sàng ung thư đến những bất cập trong nông nghiệp. Meta tin rằng AI mã nguồn mở là con đường phát triển bền vững trong tương lai, và rất vui mừng khi thấy các nhà phát triển trên toàn cầu đang sử dụng các mô hình mã nguồn mở như Llama để định hình tương lai. Trong năm nay, Meta đã tổ chức một loạt các sự kiện nhằm xây dựng cộng đồng mã nguồn mở và hỗ trợ các nhà phát triển Llama thông qua tư vấn, tài trợ và một mạng lưới rộng lớn. Các nhà phát triển này đã cho ra mắt các dự án sáng tạo trải rộng trên các lĩnh vực khoa học, giáo dục, y tế, khởi nghiệp và nhiều hơn nữa. Các dự án này thể hiện những lợi thế độc đáo của AI mã nguồn mở và chứng minh cách mã nguồn minh bạch và dễ tiếp cận cho phép cộng tác, sáng tạo và linh hoạt – chính xác là những phẩm chất cần thiết cho sự phát triển an toàn và ổn định trong lĩnh vực AI.
<img alt="User added image" src="https://aimodels.org/open-source-ai/open-source-ai_hu69dcc8bf2dbacc82cd284361402a9dbd_1205375_1280x720_crop_q90_h2_lanczos_smart1_3.webp">
2. Ứng dụng trong Y tế và Khoa học
2.1 City of Hope
Tại Trung tâm Y tế Quốc gia City of Hope, các nhà nghiên cứu đang sử dụng các mô hình ngôn ngữ lớn (LLM) để xây dựng các công cụ cho bác sĩ ung thư, bao gồm một công cụ giúp kết nối bệnh nhân ung thư với các thử nghiệm lâm sàng phù hợp. Ông Kingson Man, Khoa học gia dữ liệu chính tại City of Hope, cho biết 40% các thử nghiệm lâm sàng ung thư thất bại vì không tìm đủ bệnh nhân đủ điều kiện tham gia, và chỉ 3-7% bệnh nhân tham gia được vào thử nghiệm. Để giải quyết vấn đề này, City of Hope đã xây dựng một công cụ khớp nối phân tích xem các tiêu chí đủ điều kiện của thử nghiệm lâm sàng cụ thể có áp dụng cho bệnh nhân City of Hope hiện tại hay không, sau đó tạo ra một điểm số khớp nối. Với điểm số khớp nối đó, các bác sĩ có thể tìm ra thêm các thử nghiệm lâm sàng có thể bị bỏ sót để xem xét cho bệnh nhân của họ.
2.2 OtonoCo và Gene Outlook
OtonoCo sử dụng các LLM mã nguồn mở để cung cấp sức mạnh cho Gene Outlook, một nền tảng được thiết kế để đẩy nhanh việc khám phá và trích xuất thông tin chi tiết từ dữ liệu, đặc biệt là trong lĩnh vực genomics. Các nhà nghiên cứu sử dụng Gene Outlook để tìm các dấu hiệu gen quan trọng hoặc các loại dữ liệu liên quan đến gen khác ở bệnh nhân ung thư, sau đó Llama chuyển đổi ký hiệu gen thành nội dung mà các nhà khoa học và doanh nghiệp có thể dễ dàng hiểu được. OtonCo cũng đã phát triển một LLM nhận biết sinh vật dựa trên Llama có tên là GeneTuned LLM, và đang trong quá trình mở rộng Gene Outlook sang các lĩnh vực sức khỏe đường ruột và microbiome. Ông Jong Hang Siong, người sáng lập và Chủ tịch của OtonoCo, nhấn mạnh rằng việc sử dụng mã nguồn mở giúp họ tập trung vào vấn đề và tìm giải pháp phù hợp thay vì phải lo lắng về việc tạo ra thuật toán AI mới.
3. Ứng dụng trong Giáo dục
3.1 DLYog Lab
DLYog Lab được đồng sáng lập bởi Tarun Chawdhury và Mousumi Chawdhury, những người được truyền cảm hứng từ kinh nghiệm với con trai của họ, người có nhu cầu đặc biệt. Cùng nhau, họ đã phát triển một ứng dụng hỗ trợ GenAI đơn giản hóa quá trình tạo Kế hoạch Giáo dục Cá nhân (IEP) cho giáo dục đặc biệt. Ứng dụng này xử lý các bản ghi chép từ các cuộc họp IEP với phụ huynh, con cái của họ, giáo viên và chuyên gia để tạo ra một kế hoạch giáo dục nêu chi tiết các mục tiêu và dịch vụ cho trẻ. Ông Tarun Chawdhury, đồng sáng lập của DLYog Lab, cho biết Llama giúp các tổ chức nhỏ như họ hiện thực hóa ước mơ vì lợi ích xã hội. Ứng dụng của DLYog cho phép giáo viên nhanh chóng tạo ra các kế hoạch cá nhân dựa trên hồ sơ của trẻ, và kiến trúc mã nguồn mở công khai của Llama có thể được mở rộng nhanh chóng cho các tổ chức nhỏ như trường tư thục. Phiên bản mới nhất của Llama còn phân tích các tín hiệu phi ngôn ngữ như biểu cảm khuôn mặt và chuyển động mắt, giúp đưa ra những hiểu biết vượt xa các phương pháp truyền thống đối với IEP.
3.2 Quỹ Giáo dục Pratham
Quỹ Giáo dục Pratham (PEF) ở Ấn Độ đã sử dụng Llama để xây dựng một giải pháp giúp các bà mẹ trẻ học về chăm sóc trẻ em và giáo dục mầm non. Thông tin này khó tiếp cận trên web mở, nơi thường cung cấp thông tin gây nhầm lẫn hoặc mâu thuẫn. Ông Nishant Baghel, Giám đốc Đổi mới Công nghệ tại PEF, cho biết Llama đóng vai trò là "xương sống" của PEF để tạo ra và sử dụng kiến thức. Chatbot dựa trên WhatsApp của PEF bao gồm 12 ngôn ngữ Ấn Độ, và các bà mẹ có thể tương tác với bot bằng giọng nói thay vì gõ văn bản. Bot tạo ra câu trả lời âm thanh và video dựa trên các tài liệu đã được xác minh, ngoài ra còn gửi liên kết video giúp các bà mẹ dễ dàng tiếp thu thông tin cần thiết. Hơn 40.000 bà mẹ ở Ấn Độ đã sử dụng sản phẩm này.
4. Ứng dụng trong Khởi nghiệp và Doanh nghiệp nhỏ
4.1 HiiiWAV
HiiiWAV là một tổ chức ươm tạo có trụ sở tại Oakland, California, dạy các nghệ sĩ, đặc biệt là các nhạc sĩ da đen, cách xây dựng các công ty khởi nghiệp bằng AI. Mục tiêu của họ là giúp các nghệ sĩ này nhận ra và tận dụng sức mạnh của AI và máy học. Vì điều quan trọng đối với các công ty khởi nghiệp giai đoạn đầu là giữ chi phí thấp, HiiiWAV khuyến nghị sử dụng công nghệ mã nguồn mở, điều này tạo ra sân chơi bình đẳng bằng cách mở rộng quyền truy cập vào các công cụ kỹ thuật cao, thường có giá thành đắt đỏ. Trong số các lựa chọn có sẵn, họ gọi Llama là "hàng đầu", vì nó không chỉ cắt giảm chi phí mà còn cho phép họ xây dựng cộng đồng và chia sẻ thông tin một cách tự do. Ông Bosko Kante, Giám đốc điều hành của HiiiWAV, cho biết các lựa chọn mã nguồn đóng sẵn có trở nên đắt đỏ khi sử dụng và khó xây dựng. Mã nguồn mở chắc chắn là con đường đúng đắn. Các doanh nhân trong chương trình ươm tạo HiiiWAV đã sử dụng AI mã nguồn mở để xây dựng nhiều công cụ khác nhau, bao gồm GooRoo, một nhà sản xuất bản ghi âm hỗ trợ giọng nói di động và Choice Scores, một nền tảng hỗ trợ AI chuyển đổi các bài hát hip-hop thành bản nhạc.
4.2 AIIRA
AIIRA, Viện AI vì Nông nghiệp Bền vững, xây dựng các công cụ AI để giúp nông dân trong hoạt động hàng ngày của họ. Mục tiêu của họ là khuyến khích việc áp dụng AI trong số các nông dân để giúp họ giải quyết những thách thức trong việc cải thiện và sản xuất cây trồng. Công nghệ mã nguồn mở của Llama cho phép tinh chỉnh đa ngôn ngữ, địa lý và phụ thuộc vào ngữ cảnh, do đó tổ chức có thể có các mô hình khác nhau hoạt động cho các khu vực cụ thể. AIIRA sử dụng Llama để tạo ra các khuyến nghị cá nhân cho nông dân để giải quyết vấn đề sâu bệnh và cỏ dại. Ông Chinmay Hegde, thành viên AIIRA và giáo sư tại Đại học New York, hy vọng tinh thần mã nguồn mở này sẽ tiếp tục trong tương lai để họ có thể tiếp tục tận dụng những tiến bộ mới nhất trong AI.
5. Kết luận
Những đổi mới với Llama cho thấy AI mã nguồn mở đang tác động tích cực đến thế giới, và Meta mong muốn được chứng kiến cộng đồng toàn cầu tiếp tục nhận ra tiềm năng của AI mã nguồn mở.

Trí tuệ nhân tạo mã nguồn mở: Động lực thúc đẩy đột phá trong y tế, giáo dục và khởi nghiệp

Mục lục Giới thiệu Ứng dụng trong Y tế và Khoa học City of Hope OtonoCo và Gene Outlook Ứng dụng trong Giáo dục DLYog Lab Quỹ Giáo...

tháng 12 15, 2024

Người dùng tiên phong đang từ bỏ Google Tìm kiếm để chuyển sang Trò chuyện AI

Mục lục
<ol>
<li>Giới thiệu</li>
<li>Matthew Berman và trải nghiệm cá nhân</li>
<li>Lý do chuyển đổi sang chatbot AI</li>
<li>Tầm ảnh hưởng của chatbot AI đến công cụ tìm kiếm truyền thống</li>
<li>Kết luận</li>
</ol>
<h2>1. Giới thiệu</h2>
Đang có xu hướng ngày càng nhiều người dùng, đặc biệt là những người dùng tiên phong, đang chuyển từ việc sử dụng Google Tìm kiếm sang các chatbot AI để tìm kiếm thông tin. Điều này đặt ra câu hỏi về tương lai của các công cụ tìm kiếm truyền thống trước sự trỗi dậy mạnh mẽ của trí tuệ nhân tạo.
<h2>2. Matthew Berman và trải nghiệm cá nhân</h2>
Matthew Berman, một người dùng được đề cập trong bài báo, chia sẻ câu chuyện cá nhân về việc chuyển đổi thói quen tìm kiếm. Trước đây, khi lên kế hoạch cho chuyến đi cắm trại, ông thường sử dụng Google để kiểm tra tính xác thực của thông tin, chẳng hạn như liệu dựng lều trên nóc xe có giúp tránh được động vật hoang dã hay không. Tuy nhiên, hiện nay, ông đã chuyển sang sử dụng một chatbot AI tên là Perplexity.
<h2>3. Lý do chuyển đổi sang chatbot AI</h2>
Sự chuyển đổi này không phải là trường hợp cá biệt. Nhiều người dùng đang tìm đến các chatbot AI vì những ưu điểm vượt trội so với công cụ tìm kiếm truyền thống:
<ul>
<li>Giao diện thân thiện và dễ sử dụng: Chatbot AI cung cấp giao diện trực quan hơn, cho phép người dùng đặt câu hỏi bằng ngôn ngữ tự nhiên thay vì phải sử dụng các từ khóa chính xác.</li>
<li>Câu trả lời tổng hợp và dễ hiểu: Chatbot AI không chỉ cung cấp danh sách liên kết mà còn tổng hợp thông tin từ nhiều nguồn, trình bày dưới dạng câu trả lời ngắn gọn, dễ hiểu.</li>
<li>Khả năng tương tác: Người dùng có thể đặt câu hỏi tiếp theo, làm rõ thông tin hoặc yêu cầu chatbot AI thực hiện các tác vụ khác.</li>
</ul>
<img alt="Image" src="https://img.digitimes.com/newsshow/20241211vl203_files/1_b.jpg">
Credit: AFP

<h2>4. Tầm ảnh hưởng của chatbot AI đến công cụ tìm kiếm truyền thống</h2>
Sự phổ biến ngày càng tăng của chatbot AI đặt ra thách thức lớn đối với các công cụ tìm kiếm truyền thống như Google. Mặc dù Google cũng đang tích cực phát triển công nghệ AI, nhưng sự tiện lợi và khả năng tương tác của chatbot AI đang thu hút một lượng lớn người dùng. Điều này có thể dẫn đến sự thay đổi đáng kể trong cách thức mọi người tìm kiếm và tiếp cận thông tin trong tương lai.
<h2>5. Kết luận</h2>
Sự chuyển đổi của người dùng tiên phong từ Google Tìm kiếm sang chatbot AI là một dấu hiệu cho thấy sự phát triển nhanh chóng của trí tuệ nhân tạo và ảnh hưởng của nó đến thói quen sử dụng internet. Tương lai của các công cụ tìm kiếm truyền thống sẽ phụ thuộc vào khả năng thích ứng và đổi mới của các công ty công nghệ hàng đầu.

Người dùng tiên phong đang từ bỏ Google Tìm kiếm để chuyển sang Trò chuyện AI

Mục lục Giới thiệu Matthew Berman và trải nghiệm cá nhân Lý do chuyển đổi sang chatbot AI Tầm ảnh hưởng của chatbot AI đến công cụ tìm ...

tháng 12 15, 2024

Cerebras CePO: Tăng cường Khả năng Lập Luận cho Mô Hình Llama AI

Mục lục:
<ol>
<li>Giới thiệu về CePO</li>
<li>Hiệu suất vượt trội của CePO</li>
<li>Cơ chế hoạt động của CePO</li>
<li>Tầm nhìn và kế hoạch tương lai của Cerebras</li>
<li>Thông tin về Cerebras Systems</li>
</ol>
1. Giới thiệu về CePO
Cerebras Systems, công ty tiên phong trong lĩnh vực tăng tốc AI thế hệ mới, đã công bố Cerebras Planning and Optimization (CePO) tại hội nghị NeurIPS 2024. CePO là một khung công nghệ mạnh mẽ, giúp nâng cao đáng kể khả năng lập luận của dòng mô hình Llama của Meta. Sử dụng các kỹ thuật tính toán tinh vi trong quá trình suy luận, CePO cho phép mô hình Llama 3.3-70B vượt trội so với mô hình Llama 3.1-405B lớn hơn và các mô hình mã nguồn đóng hàng đầu trên các chuẩn đánh giá khó khăn, đồng thời duy trì tốc độ tương tác 100 token mỗi giây – một thành tựu tiên phong trong các mô hình lập luận thời gian thử nghiệm.
CePO đánh dấu một bước đột phá quan trọng trong việc đưa khả năng lập luận tiên tiến đến cộng đồng AI mã nguồn mở. Trong khi các mô hình như OpenAI o1 và Alibaba QwQ đã chứng minh sức mạnh của việc tính toán bổ sung trong thời gian suy luận, CePO mang những khả năng này đến với Llama – dòng mô hình ngôn ngữ lớn (LLM) mã nguồn mở phổ biến nhất thế giới.
2. Hiệu suất vượt trội của CePO
CePO cải thiện đáng kể khả năng lập luận của Llama 3.3-70B, giúp nó vượt trội hơn Llama 3.1-405B trên các chuẩn đánh giá quan trọng bao gồm MATH, MMLU-Pro (Toán), GPQA và CRUX.
<img alt="CePO significantly enhances Llama 3.3. 70B's reasoning capabilities, enabling it to outperform the larger Llama 3.1 405B model across key benchmarks including MATH, MMLU-Pro (Math), GPQA and CRUX." src="https://mms.businesswire.com/media/20241210664485/en/2328097/4/CePO_graph.jpg">
Khi so sánh trực tiếp với GPT-4 Turbo và Claude 3.5 Sonnet, Llama 3.3-70B kết hợp với CePO đạt được hiệu suất tương đương trong các chuẩn đánh giá CRUZ, LiveCodeBench và GPQA, đồng thời vượt trội đáng kể trong các đánh giá MATH. Khung công nghệ này cũng cho thấy thành công đáng kể trong các thử thách lập luận cổ điển như Bài kiểm tra Dâu tây và bài toán Roulette Nga được sửa đổi, chứng minh khả năng lập luận thực sự chứ không chỉ là khớp mẫu.
3. Cơ chế hoạt động của CePO
Khung công nghệ lập luận CePO đạt được những cải tiến này thông qua một đường dẫn bốn giai đoạn sáng tạo:
<ul>
<li>Lập kế hoạch từng bước: Phân tích bài toán phức tạp thành các bước nhỏ hơn.</li>
<li>Nhiều đường dẫn thực thi: Đảm bảo tính chắc chắn của giải pháp.</li>
<li>Phân tích chéo thực thi: Xác định và sửa chữa các mâu thuẫn.</li>
<li>Đánh giá độ tin cậy có cấu trúc: Trong khuôn khổ Best-of-N.</li>
</ul>
CePO sử dụng sự kết hợp các kỹ thuật lập luận, tạo ra nhiều kế hoạch và tự kiểm tra công việc của mình, tiêu thụ nhiều token đầu ra hơn (10-20 lần) so với các phương pháp one-shot. Tuy nhiên, nhờ tối ưu hóa phần cứng của Cerebras, nó vẫn đạt tốc độ 100 token mỗi giây – tương đương với các ứng dụng trò chuyện tốt nhất hiện nay như GPT-4 Turbo và Claude 3.5 Sonnet.
4. Tầm nhìn và kế hoạch tương lai của Cerebras
Cerebras sẽ mã nguồn mở khung công nghệ CePO để các nhà nghiên cứu và nhà phát triển trên toàn thế giới có thể xây dựng và nâng cao những kỹ thuật đột phá này. Kế hoạch phát triển của công ty bao gồm việc phát triển các khung công nghệ gợi ý nâng cao tận dụng khả năng lập luận so sánh, tạo ra các tập dữ liệu tổng hợp được tối ưu hóa cho việc tính toán thời gian suy luận và xây dựng các cơ chế xác minh nâng cao cho chuỗi lập luận phức tạp.
5. Thông tin về Cerebras Systems
Cerebras Systems là một nhóm các kiến trúc sư máy tính, nhà khoa học máy tính, nhà nghiên cứu học sâu và kỹ sư tiên phong. Sản phẩm chủ lực của họ, hệ thống CS-3, được cung cấp sức mạnh bởi bộ xử lý AI lớn nhất và nhanh nhất trên thị trường hiện nay, Wafer-Scale Engine-3. Các hệ thống CS-3 dễ dàng được kết nối với nhau để tạo ra các siêu máy tính AI lớn nhất thế giới. Giải pháp Cerebras Inference cung cấp tốc độ suy luận đột phá, giúp khách hàng tạo ra các ứng dụng AI tiên tiến.
Thông tin liên hệ truyền thông: <a href="mailto:PR@zmcommunications.com">PR@zmcommunications.com</a>

Cerebras CePO: Tăng cường Khả năng Lập Luận cho Mô Hình Llama AI

Mục lục: Giới thiệu về CePO Hiệu suất vượt trội của CePO Cơ chế hoạt động của CePO Tầm nhìn và kế hoạch tương lai của Cerebras Thông t...

tháng 12 15, 2024

Mô hình lập luận o1 của OpenAI: Liệu có thực sự thay đổi thế giới?

Mục lục:
<ol>
<li>Giới thiệu về mô hình lập luận o1 của OpenAI</li>
<li>Khả năng và hạn chế của mô hình o1</li>
<li>Giải pháp của Cerebras: CePO – mô hình lập luận thời gian thực</li>
<li>Nhận định và kết luận</li>
</ol>
1. Giới thiệu về mô hình lập luận o1 của OpenAI
OpenAI đã ra mắt Strawberry (tên gọi khác của mô hình o1) vào ngày 12 tháng 9 năm 2024, bao gồm cả phiên bản đầy đủ o1-preview và phiên bản giá rẻ hơn o1-mini. Mô hình này thể hiện cách AI có thể được cải thiện đáng kể bằng cách phân tách truy vấn thành các bước lập luận theo chuỗi (chain-of-thought reasoning). Phương pháp này hoạt động giống như con người, bằng cách phân chia vấn đề thành các phần nhỏ hơn và giải quyết tuần tự từng phần. Đặc biệt hữu ích trong các bài toán STEM và toán học, o1 đã thu hút được rất nhiều sự quan tâm.
<img alt="Standard promoting vs. the chain-of-thought approach of OpenAI's o1 reasoning model" src="https://imageio.forbes.com/specials-images/imageserve/67585fc3020bf120cc5d2fa8/The-Cerebras-Wafer-Scale-Engine/960x0.jpg?format=jpg&width=1440">
2. Khả năng và hạn chế của mô hình o1
Mô hình o1 của OpenAI thực sự ấn tượng. Mặc dù hầu hết mọi người đều cho rằng nó chưa phải là AI tổng quát, nhưng nó đạt được 83% điểm trong Olympic Toán học, hoạt động ở mức độ chính xác của tiến sĩ, so với 13% của GPT4.0.
Tuy nhiên, o1 có ba vấn đề chính: 1. Nó rất chậm; 2. Nó đắt gấp bốn lần (60 đô la cho một triệu token so với 15 đô la cho GPT4); và 3. Nó chỉ hoạt động với văn bản. Vấn đề thứ ba có thể dễ dàng được OpenAI giải quyết. Hai vấn đề còn lại cũng có thể được cải thiện, nhưng việc giải quyết vấn đề từng bước và lặp lại để tìm ra câu trả lời "tốt nhất" cần rất nhiều khả năng tính toán. Đây là một vấn đề không dễ giải quyết.
3. Giải pháp của Cerebras: CePO – mô hình lập luận thời gian thực
Hai vấn đề về tốc độ và chi phí đang được Cerebras Systems (Thông tin tiết lộ: Cerebras là khách hàng của công ty tôi, Cambrian-ai Research) giải quyết. Tại hội nghị NeurIPS hàng năm, Cerebras đã công bố mã nguồn mở một phiên bản của Llama có tên CePO (Cerebras Planning and Optimization) dựa trên Llama 3.3-70B, bổ sung khả năng lập luận kiểu o1 cho các mô hình Llama. Cerebras tuyên bố đây là mô hình lập luận đầu tiên và duy nhất có thể chạy thời gian thực, cung cấp câu trả lời cho các câu hỏi phức tạp trong vài giây thay vì vài phút như mô hình o1 của OpenAI.
<img alt="Cerebras' new CePO ,odel is faster than the 405B model, which is seven times larger than Llama 3.3-70B." src="https://imageio.forbes.com/specials-images/imageserve/67585fc3020bf120cc5d2fa8/The-Cerebras-Wafer-Scale-Engine/960x0.jpg?format=jpg&width=1440">
CePO giúp Llama 70B của Meta chính xác hơn Llama 405B và đối với nhiều vấn đề, chính xác hơn cả GPT4. Cerebras chưa thương mại hóa mô hình mới này, nhưng có thể thêm nó vào danh mục dịch vụ suy luận được công bố hồi đầu năm nay. Mô hình CePO mới của Cerebras nhanh hơn mô hình 405B, vốn lớn hơn Llama 3.3-70B gấp bảy lần. Cerebras cũng đã chỉ ra dữ liệu hiệu suất cho thấy CePO của họ vượt trội hơn cả Llama-3.3 70B hiện tại và thậm chí cả mô hình Llama 3.1 405B.
4. Nhận định và kết luận
Kiểu lập luận của o1 rất mạnh mẽ nhưng đòi hỏi khả năng tính toán nhiều hơn GPT 4.0. Dựa trên mô hình định giá hiện tại của OpenAI, nó có thể cần nhiều khả năng tính toán gấp bốn lần. Đó là lúc mà Hệ thống Wafer-Scale Engine của Cerebras phát huy tác dụng, với hàng tấn lõi và bộ nhớ SRAM trên "chip" có kích thước bằng đĩa bay.

Mô hình lập luận o1 của OpenAI: Liệu có thực sự thay đổi thế giới?

Mục lục: Giới thiệu về mô hình lập luận o1 của OpenAI Khả năng và hạn chế của mô hình o1 Giải pháp của Cerebras: CePO – mô hình lập luận...

tháng 12 15, 2024

eSelf: Công nghệ chatbot video thời gian thực đột phá

SambaNova tối ưu hóa mô hình ngôn ngữ Meta Llama 3.3 70B: Tốc độ vượt trội, hiệu quả cao

Trí tuệ nhân tạo mã nguồn mở: Động lực thúc đẩy đột phá trong y tế, giáo dục và khởi nghiệp

Người dùng tiên phong đang từ bỏ Google Tìm kiếm để chuyển sang Trò chuyện AI

Cerebras CePO: Tăng cường Khả năng Lập Luận cho Mô Hình Llama AI

Mô hình lập luận o1 của OpenAI: Liệu có thực sự thay đổi thế giới?

Bài đăng phổ biến

Labels