xAI tung ra chatbot Grok-2 tích hợp khả năng tạo ảnh AI gây lo ngại

xAI tung ra chatbot Grok-2 tích hợp khả năng tạo ảnh AI gây lo ngại

Công ty trí tuệ nhân tạo (AI) xAI của Elon Musk vừa ra mắt Grok-2 và Grok-2 mini: hai phiên bản nâng cấp đáng kể của chatbot Grok với hiệu suất vượt trội và khả năng tạo ảnh mới. Tính năng tạo ảnh theo yêu cầu của Grok được cung cấp bởi mô hình AI Flux 1 của Black Forest Lab, cho phép người dùng tạo và đăng ảnh trực tiếp lên nền tảng mạng xã hội X. Tuy nhiên, dường như xAI chưa thiết lập các biện pháp kiểm soát chặt chẽ để ngăn chặn việc lạm dụng.

Grok-2 và Grok-2 mini hiện đang trong giai đoạn thử nghiệm beta trên X (chỉ dành cho người đăng ký Premium và Premium Plus), và dự kiến sẽ sớm được cung cấp thông qua API dành cho nhà phát triển vào cuối tháng này.

xAI tự hào tuyên bố Grok-2 là “bước tiến vượt trội” so với phiên bản tiền nhiệm Grok-1.5, với khả năng “trực quan, linh hoạt và đa năng hơn” trong việc trò chuyện, viết mã và lập luận. Trong khi đó, Grok-2 mini được mô tả là "phiên bản thu nhỏ nhưng mạnh mẽ" của Grok-2, mang đến sự cân bằng giữa tốc độ và chất lượng phản hồi.

Tuy nhiên, sự xuất hiện của tính năng tạo ảnh đi kèm với nhiều lo ngại về khả năng bị lợi dụng. Một số hình ảnh do Grok tạo ra đã được lan truyền trên mạng, cho thấy chatbot này có thể được sử dụng để tạo ra những hình ảnh giả mạo nhạy cảm về các nhân vật chính trị nổi tiếng như Donald Trump và Barack Obama. Điều này làm dấy lên hồi chuông cảnh báo về nguy cơ lan truyền thông tin sai lệch, đặc biệt trong bối cảnh cuộc bầu cử sắp tới.

Đáng chú ý, những hình ảnh do Grok tạo ra hiện tại không hề có bất kỳ dấu hiệu nào cho thấy chúng được tạo bởi AI. Điều này có thể khiến người dùng khó phân biệt giữa ảnh thật và ảnh giả, từ đó gia tăng nguy cơ lan truyền thông tin sai lệch một cách khó kiểm soát. The Verge đã liên hệ với X để hỏi về kế hoạch hạn chế tính năng tạo ảnh của chatbot, nhưng nền tảng này vẫn chưa đưa ra bất kỳ phản hồi nào.

Việc tích hợp khả năng tạo ảnh vào chatbot Grok-2 là một bước tiến đáng kể về mặt công nghệ, nhưng đồng thời cũng đặt ra nhiều thách thức về đạo đức và kiểm duyệt nội dung. Việc thiếu các biện pháp kiểm soát chặt chẽ có thể biến Grok-2 trở thành công cụ đắc lực cho việc lan truyền thông tin sai lệch và gây ảnh hưởng tiêu cực đến xã hội.

Để đảm bảo tính an toàn và tin cậy cho người dùng, xAI cần sớm thiết lập các biện pháp kiểm soát chặt chẽ hơn đối với Grok-2, đặc biệt là tính năng tạo ảnh. Đồng thời, X cũng cần có trách nhiệm trong việc đảm bảo tính minh bạch và chính xác của thông tin được lan truyền trên nền tảng của mình.