Agent.ai.vn

Từ VR đến Vũ khí AI: Hành trình tỷ đô của Anduril và Tham vọng Thay đổi Lĩnh vực Quốc phòng

<h2>Từ VR đến Vũ khí AI: Hành trình tỷ đô của Anduril và Tham vọng Thay đổi Lĩnh vực Quốc phòng</h2>

<ol>
  <li><strong>Vòng gọi vốn khổng lồ và tham vọng của Anduril</strong></li>
  <li><strong>Chuyển dịch trong tư duy quân sự</strong></li>
  <li><strong>Arsenal: Nền tảng sản xuất vũ khí AI của tương lai</strong></li>
  <li><strong>Bài học từ Tesla và cuộc đua sản xuất vũ khí tự động</strong></li>
  <li><strong>Ảnh hưởng của cuộc chiến Ukraine và sự trỗi dậy của drone giá rẻ</strong></li>
  <li><strong>Kết luận: Tương lai của chiến tranh và vai trò của Anduril</strong></li>
</ol>

<p>Công ty khởi nghiệp công nghệ quốc phòng Anduril, được thành lập bởi Palmer Luckey, nhà sáng lập Oculus VR, vừa công bố huy động thành công 1,5 tỷ USD để sản xuất hàng chục nghìn vũ khí tự động mỗi năm. Vòng gọi vốn này, dẫn đầu bởi Founders Fund và Sands Capital, đánh dấu bước chuyển mình của Anduril từ một công ty non trẻ thành nhà thầu quốc phòng tiềm năng của Hoa Kỳ.</p>

<p>Việc Anduril nhận được khoản đầu tư khổng lồ phản ánh sự thay đổi lớn trong tư duy quân sự. Các nhà hoạch định chính sách đang phải thích nghi với viễn cảnh chiến trường tương lai, nơi không chỉ có xe tăng và máy bay chiến đấu mà còn có sự thống trị của máy bay không người lái (drone) và trí tuệ nhân tạo (AI). Hoa Kỳ đang nỗ lực tăng cường năng lực sản xuất phần cứng quân sự để cạnh tranh với các đối thủ tiềm năng như Trung Quốc.</p>

<p>Để hiện thực hóa tham vọng của mình, Anduril đang phát triển một nền tảng sản xuất dựa trên AI có tên là Arsenal. Nền tảng này được thiết kế để tăng tốc quá trình sản xuất kho vũ khí drone và các thiết bị phần cứng khác của công ty. Anduril tin rằng cách tiếp cận tinh gọn và hiệu quả của ngành công nghệ sẽ tạo ra một phương thức sản xuất vũ khí quy mô lớn hoàn toàn mới. </p>

<p>Lấy cảm hứng từ mô hình sản xuất công nghệ cao của Apple và Tesla, Anduril tập trung vào việc thiết kế sản phẩm hướng đến tối ưu hóa quy trình sản xuất. Công ty cũng chú trọng xây dựng chuỗi cung ứng linh hoạt, chủ yếu từ Hoa Kỳ và các quốc gia đồng minh. Dự kiến, nhà máy Arsenal-1 đầu tiên của Anduril sẽ được xây dựng với kinh phí hàng trăm triệu USD.</p>

<p>Trong bản tuyên ngôn Tái thiết Kho vũ khí Dân chủ, Anduril nhấn mạnh tầm quan trọng của việc khắc phục điểm yếu chí mạng của quân đội Hoa Kỳ, đó là sự thiếu hụt vũ khí trầm trọng. Báo cáo cho biết kho dự trữ đạn dược quan trọng của Hoa Kỳ sẽ mất nhiều năm để sản xuất lại và theo các cuộc diễn tập quân sự, quân đội Hoa Kỳ có thể cạn kiệt vũ khí chỉ trong vòng chưa đầy một tuần nếu xảy ra chiến tranh với Trung Quốc.</p>

<p>Anduril lấy Tesla làm nguồn cảm hứng với cách tiếp cận dựa trên phần mềm trong thiết kế xe hơi và khả năng mở rộng quy mô sản xuất xe điện nhanh chóng. Công ty tin rằng phần mềm là chìa khóa để thiết kế, phát triển và sản xuất phần cứng theo những cách thức hoàn toàn mới.</p>

<p>Động thái của Anduril cũng phù hợp với sáng kiến Replicator của Lầu Năm Góc, được khởi động vào tháng 8 năm ngoái, nhằm rót tiền vào các công ty có khả năng sản xuất hàng nghìn hệ thống tự động có thể tiêu hao mỗi năm. Chương trình đã tài trợ cho AeroVironment, công ty sản xuất drone Switchblade, và các nhà sản xuất tàu mặt nước tự động.</p>

<p>Cuộc chiến ở Ukraine đã chứng minh tầm quan trọng của drone giá rẻ được trang bị phần mềm AI. Vào tháng 5, Anduril đã giành được hợp đồng phát triển một loại drone mới có tên là Collaborative Combat Aircraft cho Lực lượng Không quân và Hải quân Hoa Kỳ. Dự án này cho thấy cách tiếp cận mới của Bộ Quốc phòng, lấy cảm hứng từ cuộc xâm lược Ukraine của Nga và những lo ngại về nguy cơ Trung Quốc tấn công Đài Loan.</p>

<p>Sự trỗi dậy của Anduril và những khoản đầu tư khổng lồ vào lĩnh vực vũ khí tự động cho thấy một tương lai mới của chiến tranh, nơi công nghệ và AI đóng vai trò then chốt. Liệu Anduril có thành công trong việc cách mạng hóa ngành công nghiệp quốc phòng và định hình lại chiến trường tương lai? Chỉ có thời gian mới trả lời được. </p>

Từ VR đến Vũ khí AI: Hành trình tỷ đô của Anduril và Tham vọng Thay đổi Lĩnh vực Quốc phòng

Từ VR đến Vũ khí AI: Hành trình tỷ đô của Anduril và Tham vọng Thay đổi Lĩnh vực Quốc phòng Mục lục Vòng gọi vốn khổng lồ và tham vọ...

tháng 8 10, 2024

Cuộc Khủng Hoảng Dữ Liệu và Sự Trỗi Dậy của Dữ Liệu Giả trong Lĩnh Vực AI

<h2>Cuộc Khủng Hoảng Dữ Liệu và Sự Trỗi Dậy của Dữ Liệu Giả trong Lĩnh Vực AI</h2>

<ol>
  <li><strong>Cạn Kiệt Nguồn Dữ Liệu Thực: Nỗi Lo Của Các Ông Lớn Công Nghệ</strong></li>
  <li><strong>Dữ Liệu Tổng Hợp: Giải Pháp Hay Vấn Nạn?</strong></li>
  <li><strong>Hạn Chế Của Dữ Liệu Tổng Hợp và Nguy Cơ Habsburg AI</strong></li>
  <li><strong>Tương Lai Nào Cho AI: Dữ Liệu Lai và Những Tiếp Cận Mới</strong></li>
</ol>

<p>Ngành công nghiệp AI đang đứng trước một thách thức lớn: Nguồn dữ liệu thực, vốn là yếu tố sống còn để huấn luyện các mô hình AI ngày càng thông minh hơn, đang dần cạn kiệt. </p>

<h3>1. Cạn Kiệt Nguồn Dữ Liệu Thực: Nỗi Lo Của Các Ông Lớn Công Nghệ</h3>

<p>Trong nhiều năm qua, các ông lớn công nghệ như OpenAI và Google đã thu thập dữ liệu từ internet để huấn luyện các mô hình ngôn ngữ lớn (LLM), nền tảng cho các công cụ và tính năng AI của họ. Các LLM này tiêu hóa lượng lớn văn bản, video và các dữ liệu trực tuyến khác do con người tạo ra trong nhiều thế kỷ.</p>

<p>Tuy nhiên, nguồn cung dữ liệu thực, do con người tạo ra đang cạn kiệt dần. Công ty nghiên cứu Epoch AI dự đoán dữ liệu văn bản có thể cạn kiệt vào năm 2028. Các công ty đã khai thác mọi ngóc ngách của internet để tìm kiếm dữ liệu huấn luyện, đôi khi vi phạm chính sách của họ, đang phải đối mặt với những hạn chế ngày càng tăng đối với dữ liệu còn lại.</p>

<p>Trước tình hình đó, dữ liệu tổng hợp, hay còn gọi là dữ liệu giả, được xem là một giải pháp thay thế đầy tiềm năng. Thay vì được lấy từ thế giới thực, dữ liệu tổng hợp được tạo ra bởi các hệ thống AI đã được huấn luyện trên dữ liệu thực.</p>

<p>Những người ủng hộ dữ liệu tổng hợp đưa ra nhiều lý do cho việc sử dụng nó. Dữ liệu do con người tạo ra thường lộn xộn, đòi hỏi các nhà nghiên cứu phải mất nhiều thời gian và công sức để làm sạch và dán nhãn trước khi sử dụng. Trong khi đó, dữ liệu tổng hợp có thể lấp đầy những lỗ hổng mà dữ liệu của con người không thể. Ví dụ, Meta đã sử dụng dữ liệu tổng hợp để cải thiện hiệu suất của Llama 3.1 trong việc lập trình và giải toán.</p>

<h3>3. Hạn Chế Của Dữ Liệu Tổng Hợp và Nguy Cơ Habsburg AI</h3>

<p>Tuy nhiên, dữ liệu tổng hợp cũng tiềm ẩn những hạn chế nghiêm trọng. Nghiên cứu cho thấy việc sử dụng dữ liệu tổng hợp một cách bừa bãi trong huấn luyện mô hình có thể gây ra những khiếm khuyết không thể đảo ngược, được gọi là sụp đổ mô hình. </p>

<p>Jathan Sadowski, một nhà nghiên cứu cấp cao tại Đại học Monash, đã đặt ra thuật ngữ Habsburg AI để chỉ hiện tượng này. Giống như triều đại Habsburg của Áo được cho là đã tự hủy hoại do hôn nhân cận huyết, các mô hình AI được huấn luyện quá nhiều trên dữ liệu do AI tạo ra có thể bị đột biến và suy thoái.</p>

<h3>4. Tương Lai Nào Cho AI: Dữ Liệu Lai và Những Tiếp Cận Mới</h3>

<p>Câu hỏi đặt ra là liệu có giải pháp nào để khắc phục những hạn chế của dữ liệu tổng hợp hay không. Một số công ty đang đặt cược vào tương lai của dữ liệu lai, kết hợp cả dữ liệu tổng hợp và dữ liệu thực để ngăn chặn mô hình bị lệch hướng.</p>

<p>Bên cạnh đó, các nhà nghiên cứu cũng đang tìm kiếm những cách tiếp cận mới, chẳng hạn như phương pháp kết hợp giữa mạng nơ-ron và logic biểu tượng, được sử dụng trong hệ thống AI AlphaGeometry của Google DeepMind.</p>

<p>Sự kết hợp giữa dữ liệu lai và các phương pháp tiếp cận mới được kỳ vọng sẽ giúp giải quyết cuộc khủng hoảng dữ liệu và thúc đẩy sự phát triển của AI trong tương lai.</p>

Cuộc Khủng Hoảng Dữ Liệu và Sự Trỗi Dậy của Dữ Liệu Giả trong Lĩnh Vực AI

Cuộc Khủng Hoảng Dữ Liệu và Sự Trỗi Dậy của Dữ Liệu Giả trong Lĩnh Vực AI Cạn Kiệt Nguồn Dữ Liệu Thực: Nỗi Lo Của Các Ông Lớn Công Ngh...

tháng 8 10, 2024

Claude 3: Vượt Mặt ChatGPT trong Chẩn đoán Ung Thư Đầu & Cổ

<h2>Claude 3: Vượt Mặt ChatGPT trong Chẩn đoán Ung Thư Đầu & Cổ</h2>

<h3>Mục Lục</h3>
<ol>
  <li><a href='#Claude-3'>Claude 3 - Làn gió mới trong lĩnh vực AI y tế</a></li>
  <li><a href='#Phuong-phap'>Phương pháp nghiên cứu và kết quả</a></li>
  <li><a href='#Tuong-lai'>Tương lai của Claude 3 trong chẩn đoán ung thư</a></li>
</ol>

<p>Kết quả nghiên cứu được công bố trên Tạp chí Lưu trữ Châu Âu về Tai Mũi Họng cho thấy một công cụ trí tuệ nhân tạo (AI) mới mang tên Claude 3 Opus đã thể hiện hiệu suất vượt trội trong việc chẩn đoán ung thư biểu mô tế bào vảy đầu và cổ (HNSCC) so với ChatGPT.</p>

<h3 id='Claude-3'>Claude 3 - Làn gió mới trong lĩnh vực AI y tế</h3>

<p>Nghiên cứu đã đánh giá việc sử dụng mô hình ngôn ngữ lớn (LLM) Claude 3 Opus mới được công bố và so sánh nó với LLM ChatGPT 4.0 tiên tiến nhất hiện nay trong việc chẩn đoán và lập kế hoạch điều trị HNSCC nguyên phát.</p>

<h3 id='Phuong-phap'>Phương pháp nghiên cứu và kết quả</h3>

<p>Phân tích được thực hiện vào tháng 3 năm 2024 trên 50 trường hợp ung thư đầu và cổ nguyên phát liên tiếp. Các thông số chẩn đoán và khuyến nghị được so sánh với các khuyến nghị của Claude 3 Opus và ChatGPT 4.0 cho các thông số sau: khuyến nghị lâm sàng, giải thích và tóm tắt, ngoài ra còn có Công cụ Đánh giá Hiệu suất Trí tuệ Nhân tạo (AIPI).</p>

<p>Kết quả cho thấy Claude 3 đạt được điểm số thành công vượt trội hơn ChatGPT 4.0 trong việc chẩn đoán bệnh nhân và đưa ra các khuyến nghị điều trị bao gồm phẫu thuật, hóa trị và xạ trị. Ngoài ra, đối với các khuyến nghị lâm sàng, giải thích và tóm tắt, Claude 3 đạt điểm tương tự như ChatGPT 4.0.</p>

<h3 id='Tuong-lai'>Tương lai của Claude 3 trong chẩn đoán ung thư</h3>

<p>Các nhà nghiên cứu kết luận: Nghiên cứu này là phân tích đầu tiên về Claude 3 đối với các trường hợp ung thư đầu và cổ nguyên phát và cho thấy hiệu suất vượt trội trong chẩn đoán HNSCC so với ChatGPT 4.0 và kết quả tương tự đối với các khuyến nghị về trị liệu. Điều này đánh dấu sự ra đời của một mô hình AI tiên tiến mới ra mắt có thể vượt trội hơn ChatGPT 4.0 trong việc đánh giá các trường hợp ung thư đầu và cổ nguyên phát và có thể hỗ trợ chẩn đoán lâm sàng và thiết lập MDT.</p>

Claude 3: Vượt Mặt ChatGPT trong Chẩn đoán Ung Thư Đầu & Cổ

Claude 3: Vượt Mặt ChatGPT trong Chẩn đoán Ung Thư Đầu & Cổ Mục Lục Claude 3 - Làn gió mới trong lĩnh vực AI y tế Phương pháp ...

tháng 8 10, 2024

Google Gemini: Trợ lý AI mới sẽ sớm có mặt trên tai nghe Pixel Buds Pro?

<h2>Google Gemini: Trợ lý AI mới sẽ sớm có mặt trên tai nghe Pixel Buds Pro?</h2>

<h3>Mục lục</h3>
<ol>
  <li><strong>Google Gemini: Từ điện thoại đến tai nghe</strong></li>
  <li><strong>Pixel Buds Pro 2: Thiết bị đầu tiên sở hữu Gemini?</strong></li>
  <li><strong>Tương lai của Gemini: Không chỉ dừng lại ở tai nghe</strong></li>
</ol>

<p>Google đang có những bước tiến lớn trong việc phát triển trợ lý AI của mình với dự án mang tên Gemini. Không chỉ dừng lại ở việc tích hợp trên điện thoại, Google được cho là đang thử nghiệm Gemini trên các thiết bị tai nghe, mở ra tiềm năng cho một tương lai tương tác rảnh tay hoàn toàn mới.</p>

<h3>Google Gemini: Từ điện thoại đến tai nghe</h3>
<p>Dù Google Assistant đã là trợ lý giọng nói mặc định trên các thiết bị của hãng, Google dường như đang hướng tới một tương lai với Gemini - chatbot AI do chính họ phát triển.  Mục tiêu của Google là mang Gemini đến với nhiều thiết bị hơn, vượt ra khỏi giới hạn của điện thoại và website. Tai nghe là một trong những thiết bị được nhắm đến, cho phép người dùng tương tác với chatbot mà không cần điện thoại.</p>
<p>Bằng chứng cho thấy sự hiện diện của Gemini trên tai nghe đã xuất hiện trong ứng dụng Google phiên bản 15.31, với dòng chữ 'Talk to Gemini on earbuds' (Trò chuyện với Gemini trên tai nghe).  Một đoạn mã khác trong ứng dụng cũng cho thấy trợ lý AI mới sẽ hoạt động trên tai nghe.</p>

<h3>Pixel Buds Pro 2: Thiết bị đầu tiên sở hữu Gemini?</h3>
<p>Google được cho là sẽ ra mắt Pixel Buds Pro 2 cùng với dòng Pixel 9 vào cuối tháng này. Nhiều khả năng đây sẽ là thiết bị đầu tiên được tích hợp Gemini, cho phép người dùng trải nghiệm trợ lý AI mới mẻ này.</p>
<p>Tuy nhiên, vẫn chưa rõ liệu Gemini có được tích hợp trên các tai nghe hỗ trợ Google Assistant hiện có hay không, và Google cũng chưa tiết lộ gì về các tính năng phần mềm của thiết bị đeo sắp ra mắt.</p>

<h3>Tương lai của Gemini: Không chỉ dừng lại ở tai nghe</h3>
<p>Trước đó, Google đã công bố Gemini sẽ có mặt trên Pixel Tablet.  Phiên bản beta hiện tại của Gemini trên máy tính bảng cho phép người dùng yêu cầu trợ lý thực hiện các tác vụ như học điều mới, lên kế hoạch sự kiện, viết thiệp cảm ơn, v.v.</p>
<p>Có vẻ như Google đang đặt nhiều kỳ vọng vào Gemini, và việc tích hợp trợ lý AI này trên tai nghe chỉ là bước khởi đầu cho một kế hoạch lớn hơn.  Rất có thể trong tương lai, Gemini sẽ trở thành trợ lý AI chủ đạo trên tất cả các thiết bị của Google, thay thế cho Google Assistant.</p>

Google Gemini: Trợ lý AI mới sẽ sớm có mặt trên tai nghe Pixel Buds Pro?

Google Gemini: Trợ lý AI mới sẽ sớm có mặt trên tai nghe Pixel Buds Pro? Mục lục Google Gemini: Từ điện thoại đến tai nghe Pixel B...

tháng 8 10, 2024

Cuộc Thi Triệu Đô Và Giới Hạn Của Chatbot Trên Con Đường Đến Với Trí Tuệ Nhân Tạo Toàn Phần

<h2>Cuộc Thi Triệu Đô Và Giới Hạn Của Chatbot Trên Con Đường Đến Với Trí Tuệ Nhân Tạo Toàn Phần</h2>

<p>François Chollet, một kỹ sư phần mềm và nhà nghiên cứu AI, tin rằng chatbot (hay còn gọi là Mô Hình Ngôn Ngữ Lớn - LLM) chỉ là một ngõ cụt trên con đường phát triển máy tính có khả năng tư duy như con người.</p>

<h3>1. Hạn Chế Của Chatbot Trong Việc Mô Phỏng Trí Tuệ Con Người</h3>

<p>Theo Chollet, hầu hết các bài kiểm tra AI hiện tại đều có thể được giải quyết bằng cách ghi nhớ đơn thuần. Các chatbot chỉ đơn giản là tìm kiếm các câu hỏi tương tự trong dữ liệu huấn luyện của chúng thay vì thực sự hiểu và suy luận như con người. Ông cho rằng ghi nhớ là hữu ích, nhưng trí thông minh lại là một thứ khác biệt.</p>

<p>Chollet chỉ ra rằng các vấn đề phổ biến của chatbot như sụp đổ mô hình và ảo giác có thể không thể khắc phục được do giới hạn này. Thậm chí, ông còn cho rằng chatbot của OpenAI do Sam Altman phát triển đã cản trở sự phát triển của lĩnh vực này vì nó thu hút quá nhiều nguồn lực.</p>

<p>Các bài kiểm tra mang tính biểu tượng như bài kiểm tra Turing hiện được coi là lỗi thời. Bài kiểm tra này chỉ đo lường xem con người có nghĩ rằng một chiếc máy tính là con người hay không, và với khả năng thu thập thông tin khổng lồ từ Internet, chatbot dễ dàng đánh lừa con người.</p>

<h3>2. ARC-AGI: Thử Thách Mới Cho Trí Tuệ Nhân Tạo</h3>

<p>Nhằm đưa AI lên một tầm cao mới, Chollet và nhà phát triển phần mềm Mike Knoop đã tạo ra giải thưởng ARC (ARC Prize) với tổng giá trị giải thưởng lên đến 1.100.000 đô la.</p>

<p>ARC-AGI (Abstraction and Reasoning Corpus for Artificial General Intelligence) là một bài kiểm tra chính thức duy nhất về trí tuệ nhân tạo tổng quát (AGI) do Chollet tạo ra vào năm 2019. Bài kiểm tra này tập trung vào khả năng học hỏi kỹ năng mới và giải quyết các vấn đề mở thay vì chỉ dựa vào dữ liệu được huấn luyện trước.</p>

<p>Bài kiểm tra tâm lý được sử dụng trong cuộc thi, Raven's Progressive Matrices, có vẻ khá đơn giản nhưng dường như AI vẫn chưa thể giải quyết được.</p>

<h3>3. Tương Lai Của Trí Tuệ Nhân Tạo Toàn Phần</h3>

<p>Mặc dù vẫn chưa rõ phương pháp nào sẽ dẫn đến AGI, Chollet đã chia sẻ chi tiết về các phương pháp tiếp cận hiệu quả nhất trong ARC cho đến nay, bao gồm suy luận chủ động, tổng hợp chương trình DSL và tìm kiếm chương trình rời rạc. Ông cũng khuyến khích các thí sinh thử nghiệm các phương pháp mới.</p>

<h3>4. Giới Hạn Không Thể Phá Vỡ?</h3>

<p>Tuy nhiên, liệu mục tiêu tạo ra máy tính suy nghĩ như con người có khả thi hay không vẫn là một câu hỏi còn bỏ ngỏ. Giáo sư kỹ thuật máy tính Robert J. Marks chỉ ra rằng máy tính, theo định nghĩa, chỉ tính toán, trong khi con người suy nghĩ về những thứ không thể tính toán được.</p>

<p>Lập trình viên Eric Holloway cũng lưu ý rằng tính toán chỉ là một loại hình suy nghĩ. Dựa trên luận đề Church-Turing, mọi thứ đều có thể được giản lược thành tính toán, do đó, bất kể AI trở nên tinh vi đến đâu, nó cũng sẽ không thể xử lý những suy nghĩ không thể được giản lược thành logic 0 và 1.</p>

<p>Đây có thể là một giới hạn khó có thể phá vỡ, giống như du hành thời gian hay du hành nhanh hơn tốc độ ánh sáng. Tuy nhiên, việc cố gắng vượt qua giới hạn đó có thể mang lại những khám phá mới đầy hứa hẹn.</p>

Cuộc Thi Triệu Đô Và Giới Hạn Của Chatbot Trên Con Đường Đến Với Trí Tuệ Nhân Tạo Toàn Phần

Cuộc Thi Triệu Đô Và Giới Hạn Của Chatbot Trên Con Đường Đến Với Trí Tuệ Nhân Tạo Toàn Phần François Chollet, một kỹ sư phần mềm và nhà n...

tháng 8 10, 2024

Giọng Nói Quá Đỗi Thật, OpenAI Lo Ngại Người Dùng Nảy Sinh Cảm Xúc Với Chatbot

<h2>Giọng Nói Quá Đỗi Thật, OpenAI Lo Ngại Người Dùng Nảy Sinh Cảm Xúc Với Chatbot</h2>

<h3>Mục Lục</h3>
<ol>
  <li><strong>Cảnh Báo Từ OpenAI</strong></li>
  <li><strong>Nguy Cơ Tiềm Ẩn</strong></li>
  <li><strong>Lợi Ích Và Mối Lo</strong></li>
  <li><strong>Lỗ Hổng Bảo Mật Mới?</strong></li>
  <li><strong>Vấn Đề Chung Của Các Trợ Lý Ảo</strong></li>
  <li><strong>Kết Luận</strong></li>
</ol>

<p>OpenAI, công ty mẹ của chatbot ChatGPT, vừa công bố một phân tích an toàn cho thấy giọng nói nhân tạo giống người thật đến kỳ lạ của ChatGPT có thể khiến người dùng trở nên lệ thuộc cảm xúc.</p>

<p>Những cảnh báo này nằm trong thẻ hệ thống của GPT-4o, một tài liệu kỹ thuật vạch ra những rủi ro tiềm ẩn liên quan đến mô hình, cùng với chi tiết về thử nghiệm an toàn và các nỗ lực giảm thiểu rủi ro của công ty.</p>

<p>Động thái này diễn ra trong bối cảnh OpenAI đối mặt với nhiều chỉ trích sau khi một số nhân viên nghiên cứu rủi ro dài hạn của AI từ chức. Một số người sau đó cáo buộc OpenAI mạo hiểm không cần thiết và phớt lờ những ý kiến bất đồng trong cuộc đua thương mại hóa AI. Việc công bố thêm chi tiết về chế độ an toàn có thể giúp xoa dịu dư luận và trấn an công chúng rằng công ty đang rất coi trọng vấn đề này.</p>

<p>Thẻ hệ thống mới nêu bật tốc độ phát triển chóng mặt của các rủi ro AI, đặc biệt là với những tính năng mới như giao diện giọng nói của OpenAI. Trước đó, khi công ty ra mắt chế độ thoại có khả năng phản hồi nhanh chóng và xử lý gián đoạn một cách tự nhiên, nhiều người dùng nhận thấy nó có vẻ thả thính quá mức trong các bản demo.</p>

<p>Trong thẻ hệ thống, phần có tiêu đề <strong>Nhân Cách Hóa và Lệ Thuộc Cảm Xúc</strong> phân tích những vấn đề phát sinh khi người dùng coi AI như con người, điều này càng trở nên trầm trọng hơn với chế độ giọng nói giống người thật.</p>

<p>OpenAI cho biết sự nhân cách hóa có thể khiến người dùng tin tưởng hơn vào thông tin sai lệch mà mô hình ảo giác. Theo thời gian, nó thậm chí có thể ảnh hưởng đến mối quan hệ của người dùng với những người khác. Tài liệu viết: <em>'Người dùng có thể hình thành mối quan hệ xã hội với AI, giảm nhu cầu tương tác với con người - điều này có thể có lợi cho những người cô đơn nhưng có thể ảnh hưởng đến các mối quan hệ lành mạnh.'</em></p>

<p>Joaquin Quiñonero Candela, người đứng đầu bộ phận chuẩn bị tại OpenAI, cho biết chế độ thoại có thể phát triển thành một giao diện cực kỳ mạnh mẽ. Ông cũng lưu ý rằng những tác động cảm xúc được thấy với GPT-4o có thể là tích cực - chẳng hạn như giúp đỡ những người cô đơn hoặc những người cần luyện tập kỹ năng xã hội. Ông nói thêm rằng công ty sẽ nghiên cứu kỹ lưỡng về sự nhân cách hóa và kết nối cảm xúc, bao gồm cả việc theo dõi cách người dùng thử nghiệm beta tương tác với ChatGPT.</p>

<p>Các vấn đề khác phát sinh từ chế độ thoại bao gồm các cách thức mới tiềm ẩn để vượt ngục mô hình của OpenAI - ví dụ như bằng cách nhập âm thanh khiến mô hình phá vỡ các giới hạn của nó. Chế độ thoại bị vượt ngục có thể bị dụ dỗ mạo danh một người cụ thể hoặc cố gắng đọc cảm xúc của người dùng. OpenAI cũng phát hiện ra rằng chế độ thoại có thể gặp trục trặc khi phản hồi với tiếng ồn ngẫu nhiên và trong một trường hợp, người thử nghiệm nhận thấy nó sử dụng giọng nói giống với người dùng.</p>

<p>OpenAI không phải là công ty duy nhất nhận ra rủi ro khi trợ lý AI bắt chước sự tương tác của con người. Vào tháng 4, Google DeepMind đã công bố một bài báo dài thảo luận về những thách thức đạo đức tiềm ẩn do các trợ lý AI có năng lực cao hơn đặt ra. Iason Gabriel, nhà khoa học nghiên cứu tại công ty và là đồng tác giả của bài báo, nói với WIRED rằng khả năng sử dụng ngôn ngữ của chatbot tạo ra ấn tượng về sự thân mật thực sự.</p>

<p>Những mối quan hệ tình cảm như vậy có thể phổ biến hơn nhiều người nghĩ. Một số người dùng chatbot như Character AI và Replika báo cáo căng thẳng trong giao tiếp xã hội do thói quen trò chuyện của họ. Một video TikTok gần đây với gần một triệu lượt xem cho thấy một người dùng dường như nghiện Character AI đến mức họ sử dụng ứng dụng này khi đang xem phim tại rạp. Một số người bình luận cho biết họ phải ở một mình mới sử dụng chatbot vì sự thân mật trong các tương tác của họ.</p>

<p>Sự phát triển của AI, đặc biệt là các tính năng như chế độ thoại, đòi hỏi sự cẩn trọng và nghiên cứu kỹ lưỡng về tác động tiềm ẩn của nó đối với hành vi và sức khỏe tinh thần của con người. Việc OpenAI cởi mở về những rủi ro này là một bước đi tích cực, thúc đẩy các cuộc thảo luận và nghiên cứu sâu hơn về cách giảm thiểu những tác động tiêu cực tiềm ẩn của AI, đồng thời khai thác tiềm năng của nó một cách có trách nhiệm.</p>

Giọng Nói Quá Đỗi Thật, OpenAI Lo Ngại Người Dùng Nảy Sinh Cảm Xúc Với Chatbot

Giọng Nói Quá Đỗi Thật, OpenAI Lo Ngại Người Dùng Nảy Sinh Cảm Xúc Với Chatbot Mục Lục Cảnh Báo Từ OpenAI Nguy Cơ Tiềm Ẩn Lợi Í...

tháng 8 10, 2024

Từ VR đến Vũ khí AI: Hành trình tỷ đô của Anduril và Tham vọng Thay đổi Lĩnh vực Quốc phòng

Cuộc Khủng Hoảng Dữ Liệu và Sự Trỗi Dậy của Dữ Liệu Giả trong Lĩnh Vực AI

Claude 3: Vượt Mặt ChatGPT trong Chẩn đoán Ung Thư Đầu & Cổ

Google Gemini: Trợ lý AI mới sẽ sớm có mặt trên tai nghe Pixel Buds Pro?

Cuộc Thi Triệu Đô Và Giới Hạn Của Chatbot Trên Con Đường Đến Với Trí Tuệ Nhân Tạo Toàn Phần

Giọng Nói Quá Đỗi Thật, OpenAI Lo Ngại Người Dùng Nảy Sinh Cảm Xúc Với Chatbot

Bài đăng phổ biến

Labels