Tin tức công nghệ AI tuần này: Cảnh báo về ngày tận thế AI, Apple hợp tác với ChatGPT và Humane gặp khó khăn

Tin tức công nghệ AI tuần này: Cảnh báo về ngày tận thế AI, Apple hợp tác với ChatGPT và Humane gặp khó khăn

Mục lục

1. Cảnh báo về ngày tận thế AI: Nhân viên OpenAI kêu gọi minh bạch và kiểm soát
2. Apple hợp tác với ChatGPT: Chuẩn bị cho WWDC 2024
3. Nvidia thống trị thị trường chip AI: Thu hút đầu tư và gây chú ý của cơ quan chống độc quyền
4. Humane gặp khó khăn: AI Pin gặp nhiều vấn đề, vụ kiện về pin sạc tiềm ẩn nguy cơ cháy nổ
5. Công cụ Recall của Microsoft gặp rắc rối: Các chuyên gia bảo mật lo ngại về tính bảo mật

1. Cảnh báo về ngày tận thế AI: Nhân viên OpenAI kêu gọi minh bạch và kiểm soát

Nhân viên hiện tại và cũ của OpenAI, Google DeepMind và Anthropic đã cùng ký vào một bức thư ngỏ vào ngày 4 tháng 6, cảnh báo về nguy cơ tiềm ẩn của trí tuệ nhân tạo thế hệ tiếp theo (gen AI). Nhóm gồm 13 người này cho rằng mặc dù AI có tiềm năng mang lại lợi ích to lớn cho nhân loại, các công ty phát triển gen AI chưa minh bạch trong việc chia sẻ thông tin, khi họ đang chạy đua giành thị phần trong thị trường dự kiến đạt 1,3 nghìn tỷ đô la cho chatbot và các công nghệ AI khác vào năm 2032.

Nhóm này kêu gọi các công ty AI minh bạch hơn với công chúng về mức độ rủi ro của các tác động tiêu cực, do các công ty này có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả.

Trong số những tác động tiêu cực có thể xảy ra: gia tăng bất bình đẳng, gia tăng thông tin sai lệch và mất kiểm soát các hệ thống AI tự động có thể dẫn đến sự tuyệt chủng của loài người. Bức thư cũng nhận được sự ủng hộ của hai người tiên phong trong lĩnh vực AI là Yoshua Bengio và Geoffrey Hinton, cũng như nhà khoa học máy tính nổi tiếng Stuart Russell.

Do thiếu sự giám sát hiệu quả của chính phủ đối với các công ty AI và công nghệ của họ - Mỹ đã tụt hậu so với Liên minh Châu Âu, nơi đã thông qua luật AI đầu tiên trên thế giới vào tháng 5 - nhóm này cũng kêu gọi các công ty AI khuyến khích tranh luận công khai. Điều này bao gồm việc thông qua các chính sách mới cho phép nhân viên hiện tại và cũ nói công khai về những lo ngại liên quan đến rủi ro mà không sợ bị trả thù. Họ lưu ý rằng các thỏa thuận bảo mật và không phỉ báng khiến nhân viên, những người có thể chịu trách nhiệm trước công chúng, khó lên tiếng.

Các công ty AI sở hữu nhiều thông tin không công khai về khả năng và hạn chế của hệ thống của họ, sự phù hợp của các biện pháp bảo vệ và mức độ rủi ro của các tác động tiêu cực khác nhau. Hiện tại họ chỉ có nghĩa vụ yếu ớt trong việc chia sẻ một số thông tin này với chính phủ và không có nghĩa vụ nào với xã hội dân sự. 'Chúng tôi không nghĩ rằng họ có thể được tin tưởng để chia sẻ nó một cách tự nguyện,' nhóm này viết.

Liz Bourgeois, phát ngôn viên của OpenAI, cho biết trong một cuộc phỏng vấn với The Washington Post rằng công ty khởi nghiệp có trụ sở tại San Francisco đồng ý rằng cuộc tranh luận nghiêm ngặt là rất cần thiết xét đến tầm quan trọng của công nghệ này.

Tuy nhiên, bức thư ngỏ được đưa ra sau khi một số giám đốc điều hành đáng chú ý rời khỏi OpenAI, trích dẫn những lo ngại về an toàn và cho biết công ty đã cắt giảm nguồn lực cho các nhóm nghiên cứu về những rủi ro lâu dài của AI. Thành viên hội đồng quản trị của OpenAI, Helen Toner, cũng lên tiếng gần đây, nói rằng việc hội đồng quản trị mất lòng tin vào Giám đốc điều hành Sam Altman vào năm ngoái là do ông không thành thật trong việc giao tiếp với hội đồng quản trị.

Điều gì sẽ xảy ra tiếp theo? Điều đó phụ thuộc vào các công ty AI và cơ quan quản lý. Nếu lịch sử công nghệ là bất kỳ hướng dẫn nào, tôi không mong đợi nhiều. Tuy nhiên, tôi phải nói rằng bức thư ngỏ đã thúc đẩy nhiều cuộc thảo luận và nhắc tôi về một thuật ngữ AI đã tạo ra rất nhiều tiếng vang vào năm 2023: p(doom). Đó là một trong những chỉ số mà các nhà nghiên cứu AI sử dụng để tính toán xác suất trí tuệ nhân tạo dẫn đến ngày tận thế.

2. Apple hợp tác với ChatGPT: Chuẩn bị cho WWDC 2024

Apple đã tuyên bố trong nhiều tháng rằng họ sẽ có những tin tức lớn về AI, với Giám đốc điều hành Tim Cook dự kiến ​​sẽ công bố những tin tức này tại sự kiện chính trong hội nghị nhà phát triển thường niên của công ty vào ngày 10 tháng 6.

Trong số những điều được mong đợi là chức năng AI được tích hợp vào iOS 18, phiên bản tiếp theo của hệ điều hành iPhone. Nó thường được phát hành với một mẫu điện thoại thông minh mới vào tháng 9. Chức năng đó có thể bao gồm phiên mã ghi chú thoại, tìm kiếm nhanh hơn và Siri có tính năng trò chuyện hơn. Nó cũng có thể giới thiệu một tính năng AI tóm tắt các câu chuyện tin tức, tài liệu và thông báo, về cơ bản là cung cấp một bản tóm tắt thông minh về những gì bạn đã bỏ lỡ.

Ngoài ra còn có một thỏa thuận hợp tác được báo cáo sẽ cho phép người dùng Apple truy cập vào chatbot ChatGPT phổ biến của OpenAI từ trong iOS, hiện đang cung cấp năng lượng cho 2,2 tỷ điện thoại thông minh. Điều đó dựa trên các báo cáo từ Bloomberg rằng hai công ty đã làm việc để đạt được thỏa thuận trong vài tháng qua và đã ký hợp đồng vào tháng 5. Theo Bloomberg, Apple cũng đang đàm phán với Google về việc cấp phép cho chatbot Gemini của mình và cuối cùng có thể cung cấp một loạt các chatbot của bên thứ ba.

Tất cả điều này là một vấn đề lớn, bởi vì Apple được coi là đang chơi theo kịp các đối thủ cạnh tranh như Google, Microsoft và Samsung về AI, vì họ đã giữ im lặng về việc chia sẻ những gì họ đang làm cho iPhone, iPad và máy tính Mac. Vì vậy, hãy theo dõi tin tức từ Hội nghị nhà phát triển toàn cầu (hoặc WWDC, như được biết đến trong các vòng tròn công nghệ).

3. Nvidia thống trị thị trường chip AI: Thu hút đầu tư và gây chú ý của cơ quan chống độc quyền

Nvidia, nhà sản xuất chip được coi là người dẫn đầu trong thị trường bộ xử lý AI, đã chứng kiến ​​cổ phiếu của mình tăng vọt trong một ngày vào tuần trước, cho phép nó vượt qua Apple với giá trị thị trường là 3 nghìn tỷ đô la (vâng, nghìn tỷ - đó không phải là lỗi đánh máy) để trở thành công ty có giá trị thứ hai trên thế giới sau Microsoft.

Tại sao? CNBC giải thích: Công ty có thị phần ước tính là 80% trong các chip AI cho trung tâm dữ liệu, nơi thu hút hàng tỷ đô la chi tiêu từ các nhà cung cấp đám mây lớn.

Thị trường chứng khoán có thể dễ thay đổi, đó là lý do tại sao cổ phiếu của Nvidia đã giảm trở lại vào ngày hôm sau. Tuy nhiên, công ty đang ở vị thế mạnh để tận dụng nhu cầu đối với công nghệ AI, đó là lý do tại sao cổ phiếu sẽ tiếp tục đi lên và xuống trong suốt phần còn lại của năm.

Vị thế thống trị thị trường của Nvidia cũng có thể thúc đẩy một cuộc điều tra chống độc quyền của Bộ Tư pháp Hoa Kỳ, theo The New York Times, trích dẫn các nguồn tin giấu tên. Báo cáo cho biết cả DOJ và Ủy ban Thương mại Liên bang sẽ xem xét các lo ngại về chống độc quyền đối với Nvidia, Microsoft và OpenAI như một phần của nỗ lực của chính phủ để đi trước ngành công nghiệp AI và đảm bảo rằng các ông lớn đang chơi một cách công bằng.

Chủ tịch FTC Lina Kahn nói trong một cuộc phỏng vấn vào tháng 2 với Harvard Law Today rằng cơ quan này đang làm việc để xác định các vấn đề tiềm ẩn ngay từ khi bắt đầu, thay vì phải đợi nhiều năm sau, khi các vấn đề đã ăn sâu vào và rất khó sửa chữa.

Nghe có vẻ rất giống với những gì các nhân viên AI, với bức thư ngỏ của họ, cũng đang nói.

4. Humane gặp khó khăn: AI Pin gặp nhiều vấn đề, vụ kiện về pin sạc tiềm ẩn nguy cơ cháy nổ

Humane AI, công ty có AI Pin đeo được được cho là sẽ đại diện cho sự ra mắt của một loại thiết bị mới, tiếp tục gặp khó khăn. Và lần này, những người dùng đầu tiên háo hức muốn đi đầu trong công nghệ cũng đang cảm thấy đau đớn.

Đầu tiên, công ty khởi nghiệp, đã làm việc trên thiết bị đeo được thanh lịch của mình trong năm năm và tiếp thị nó trên trang web của mình với dòng chữ, 'Mọi thứ đang sáng lên,' đã phải hứng chịu một làn sóng đánh giá tồi tệ cho thiết bị trị giá 699 đô la của họ vào tháng 4. Đánh giá của Scott Stein của CNET là một trong số những đánh giá tốt nhất, mô tả AI Pin là 'quá thất vọng để sử dụng hàng ngày.' Theo The New York Times, công ty được báo cáo là đã bán được 10.000 thiết bị - thấp hơn 100.000 thiết bị mà họ mong đợi.

Sau đó là tin tức cho biết công ty, được thành lập bởi các nhà thiết kế cũ của Apple, đã tự đưa mình lên bán với giá hơn 1 tỷ đô la. The New York Times báo cáo tuần trước rằng HP là một trong số các công ty quan tâm và mô tả những thất bại của Humane là một phần của mô hình vấp ngã trên toàn thế giới của gen A.I., khi các công ty phát hành các sản phẩm chưa hoàn thiện. Trong hai năm qua, Google đã giới thiệu và thu hẹp lại khả năng tìm kiếm A.I. đề xuất cho mọi người ăn đá, Microsoft đã quảng cáo một chatbot Bing bị ảo giác và Samsung đã thêm các tính năng A.I. vào điện thoại thông minh bị gọi là tuyệt vời đôi khi và khó hiểu vào những lúc khác.

Giờ đây là tin tức cho biết Humane đã gửi email cho chủ sở hữu Pin, yêu cầu họ ngừng sử dụng Phụ kiện sạc ngay lập tức vì lý do thận trọng sau khi nói rằng pin trong hộp sạc là một mối nguy hiểm cháy nổ tiềm ẩn.

'Chúng tôi biết điều này có thể gây bất tiện cho bạn, nhưng an toàn của khách hàng là ưu tiên hàng đầu của chúng tôi tại Humane,' công ty viết trong email, được gửi vào ngày 5 tháng 6 và sau đó được đăng trên trang web của công ty.

Trong đánh giá của mình, Stein lưu ý rằng AI Pin của anh ấy đột nhiên cần làm mát sau khi anh ấy sử dụng màn hình chiếu laser của nó và thiết bị trở nên ấm một cách khó chịu trong khi sử dụng.

Bạn không cần phải là chuyên gia công nghệ để biết rằng việc có một hộp sạc có thể bốc cháy là không tốt.

Humane cho biết họ sẽ cung cấp cho người dùng hai tháng đăng ký dịch vụ không dây của họ, trị giá 48 đô la, như một khoản bồi thường, CNET báo cáo. Họ không nói liệu họ có cung cấp thay thế hay không.

5. Công cụ Recall của Microsoft gặp rắc rối: Các chuyên gia bảo mật lo ngại về tính bảo mật

Như một phần của việc giới thiệu các PC mới được tích hợp với trợ lý AI Copilot, Microsoft đã quảng cáo một tính năng mới được gọi là Recall, tính năng này thu thập dữ liệu từ tất cả các ứng dụng của bạn - trừ khi bạn loại trừ bất kỳ ứng dụng nào - bằng cách chụp ảnh nhanh mọi thứ bạn đang làm trên PC Windows của mình. Sau đó, nó lưu trữ những ảnh chụp đó trong một cơ sở dữ liệu để bạn có thể tìm kiếm và tìm thấy bất cứ thứ gì bạn đã xem hoặc làm việc bằng cách chỉ sử dụng một truy vấn ngôn ngữ tự nhiên để yêu cầu Recall lấy nó cho bạn.

Recall chạy cục bộ và có thể hoạt động mà không cần kết nối internet, và ngay cả khi bạn không đăng nhập vào tài khoản Microsoft của mình, CNET báo cáo.

Điều gì có thể xảy ra với một tính năng tạo lịch sử mọi thứ bạn đã làm trên PC của mình? Bạn thực sự không biết câu trả lời phải không?

Các chuyên gia bảo mật đang gọi Recall là một thảm họa bảo mật đang chờ xảy ra và nói rằng phần mềm nên được thu hồi. Ít nhất một hacker mũ trắng đã tạo ra một công cụ có thể trích xuất dữ liệu nhạy cảm từ Recall. Nó được gọi là - đợi đã - TotalRecall.

Trước khi bạn hoảng sợ, Recall chỉ dành cho các PC Copilot Plus mới, CNET lưu ý. Những chiếc PC đó được bán ra vào ngày 18 tháng 6. Recall không đến như một bản cập nhật cho PC bạn đã có.

Microsoft ban đầu đã chuyển hướng mọi người đến tài liệu tổng quan về Recall của mình, nhưng vào ngày 7 tháng 6, công ty đã đưa ra một Bản cập nhật về tính năng xem trước Recall cho PC Copilot+ để giải quyết những lo ngại về bảo mật. Trong bài đăng, Pavan Davuluri, người giám sát Windows và thiết bị, đã công bố một số thay đổi về cách Recall hoạt động - bao gồm việc quay trở lại kế hoạch bật tính năng này một cách tự động khi bạn mua một PC CoPilot Plus mới.

'Chúng tôi đang cập nhật trải nghiệm thiết lập của PC Copilot+ để cung cấp cho mọi người sự lựa chọn rõ ràng hơn để đăng ký lưu trữ ảnh chụp nhanh bằng Recall. Nếu bạn không chủ động chọn bật nó, nó sẽ bị tắt theo mặc định,' Davuluri viết. Ngoài ra, việc đăng ký Windows Hello là bắt buộc để bật Recall. Ngoài ra, bằng chứng về sự hiện diện cũng được yêu cầu để xem dòng thời gian của bạn và tìm kiếm trong Recall.

Davuluri cũng nói rằng công ty đang thêm các lớp bảo mật bổ sung, lưu ý rằng ảnh chụp nhanh của Recall chỉ được giải mã và có thể truy cập khi người dùng xác thực.

Tất cả đều hay nghe, mặc dù tôi chắc chắn các nhà nghiên cứu bảo mật và hacker mũ trắng sẽ tiếp tục đưa Recall vào thử nghiệm. Tuy nhiên, nếu Microsoft đã tự kiểm tra nhiều hơn, Recall sẽ không phải là bổ sung mới nhất cho danh sách ngày càng tăng các sản phẩm chưa hoàn thiện được đưa ra bởi các công ty công nghệ.

Điều này có nghĩa gì đối với bạn? Nếu bạn dự định mua một trong những PC Copilot Plus mới và không muốn Recall được kích hoạt, bạn không còn phải lo lắng nữa. Microsoft cũng nhắc nhở người dùng rằng bạn có thể tạm dừng, lọc và xóa những gì đã được lưu trữ bất cứ lúc nào. Bạn luôn kiểm soát những gì được lưu trữ dưới dạng ảnh chụp nhanh. Bạn có thể tắt việc lưu trữ ảnh chụp nhanh, tạm dừng chúng, lọc các ứng dụng và trang web khỏi ảnh chụp nhanh và xóa ảnh chụp nhanh của bạn bất kỳ lúc nào.

Làm sao? Bằng cách vào Cài đặt Windows và chọn Quyền riêng tư & Bảo mật. Sau đó, hãy vào Recall & Ảnh chụp nhanh và sử dụng cài đặt để tắt tính năng này và xóa bất kỳ dữ liệu nào đã được thu thập.

Bạn được chào đón.