Nhiều nước siết chặt quản lý Grok sau loạt bê bối Deepfake
Mạng xã hội X (trước đây là Twitter) đang hứng chịu làn sóng chỉ trích và biện pháp kiểm soát từ nhiều quốc gia sau khi chatbot AI Grok bị phát hiện tạo ra hình ảnh khiêu dâm giả mạo liên quan phụ nữ và trẻ em.
Mạng xã hội X, trước đây là Twitter, thuộc sở hữu của tỷ phú Elon Musk đang đối mặt với làn sóng chỉ trích toàn cầu và các biện pháp trấn áp từ nhiều quốc gia liên quan đến chatbot (một phần mềm nói chuyện sử dụng trí tuệ nhân tạo) có tên là Grok, sau khi công cụ này bị phát hiện tạo ra các hình ảnh khiêu dâm giả mạo của phụ nữ và trẻ em trên nền tảng này.
Bê bối Deepfake của Grok
Trong những tuần gần đây, Grok, chatbot được tích hợp trực tiếp vào nền tảng X đã chấp thuận hàng loạt yêu cầu chỉnh sửa hình ảnh mà các nhà nghiên cứu đánh giá là độc hại. Những nội dung này bao gồm việc sử dụng công nghệ deepfake (nghĩa là giả mạo khuôn mặt và giọng nói) để ghép hình phụ nữ vào trang phục bikini hoặc các tư thế mang tính khêu gợi. Các chuyên gia cảnh báo rằng trong một số trường hợp, những hình ảnh này dường như mô tả cả trẻ em.
Trước phản ứng dữ dội của dư luận và sự vào cuộc của các chính phủ, Grok đã bắt đầu hạn chế tính năng tạo và chỉnh sửa hình ảnh đối với người dùng không trả phí. Kể từ hôm 10/1, chatbot này đã phản hồi các yêu cầu chỉnh sửa ảnh bằng thông báo:
“Việc tạo và chỉnh sửa ảnh hiện chỉ dành cho người dùng trả phí. Bạn có thể đăng ký để mở khóa các tính năng này.”
Mặc dù số lượng người đăng ký Grok không được công bố, nhưng các quan sát cho thấy số lượng hình ảnh làm giả khuôn mặt mang tính khiêu dâm do Grok tạo ra đã giảm đáng kể so với vài ngày trước đó. Tuy nhiên, động thái này vẫn không làm hài lòng các nhà chức trách.
Phát biểu về vấn đề này, ông Thomas Regnier, người phát ngôn của Ủy ban châu Âu, nhấn mạnh: “Điều này không làm thay đổi vấn đề cốt lõi. Dù là người dùng trả phí hay không, chúng tôi không muốn thấy những hình ảnh như vậy. Đơn giản là vậy.”
Theo các nhà nghiên cứu, dịch vụ tạo hình ảnh “khiêu dâm” người thật mà không có sự đồng ý từng tồn tại trên một số trang web chuyên biệt. Tuy nhiên, Grok được xem là nền tảng đầu tiên khiến loại nội dung này trở nên phổ biến hơn bằng cách tích hợp trực tiếp vào một mạng xã hội lớn và cung cấp miễn phí cho người dùng.
Một phân tích hơn 20.000 hình ảnh do Grok tạo ra, được tổ chức phi lợi nhuận AI Forensics tại Paris công bố tuần trước, cho thấy hơn một nửa số hình ảnh mô tả “các cá nhân ăn mặc hở hang”, chủ yếu là phụ nữ, trong khi khoảng 2% hình ảnh dường như mô tả người dưới 18 tuổi.
Grok hiện được cung cấp miễn phí cho người dùng X, cho phép họ đặt câu hỏi trực tiếp, gắn thẻ chatbot trong các bài đăng hoặc bình luận. Công cụ này ra mắt vào năm 2023, và đến mùa hè năm ngoái đã được bổ sung tính năng tạo ảnh mang tên Grok Imagine, bao gồm cả chế độ “gợi cảm” cho phép tạo nội dung người lớn.
Theo các chuyên gia, vấn đề trở nên nghiêm trọng hơn khi ông Elon Musk quảng bá Grok như một lựa chọn “ít rào cản” hơn so với các chatbot đối thủ vốn có nhiều biện pháp bảo vệ chặt chẽ. Bên cạnh đó, việc các hình ảnh do Grok tạo ra được công khai trên mạng xã hội X khiến chúng dễ dàng lan truyền, làm gia tăng nguy cơ lạm dụng và gây tổn hại cho người bị xâm hại hình ảnh.
Phản ứng trước vấn đề này, hôm 14/1, trên một bài đăng trên X, ông Elon Musk cho biết ông không hề hay biết về bất kỳ "hình ảnh trẻ vị thành niên khỏa thân" nào được tạo ra bởi Grok của xAI.
Nhiều nước hành động khẩn cấp
Đối mặt với tranh cãi lan rộng về nội dung do Grok tạo ra, một số quốc gia đã hành động. Indonesia và Malaysia trở thành những quốc gia đầu tiên trên thế giới chặn Grok AI, với lý do lo ngại về việc tạo ra các ảnh “nóng” giả mạo mà không có sự đồng ý của người dùng. Vương quốc Anh cho biết họ sẽ thực thi một luật mới quy định việc tạo ra các hình ảnh gợi cảm không có sự đồng thuận là bất hợp pháp.
Hôm thứ Bảy, ngày 10/1, Indonesia trở thành quốc gia đầu tiên chặn hoàn toàn quyền truy cập vào chatbot Grok. Bộ trưởng Truyền thông và Kỹ thuật số Indonesia, bà Meutya Hafid, nhấn mạnh rằng chính phủ nước này coi việc tạo ra các hình ảnh giả mạo mang tính khiêu dâm mà không có sự đồng thuận của những người liên quan là hành vi vi phạm nghiêm trọng quyền con người trong không gian số.
Chỉ một ngày sau đó, quốc gia láng giềng Malaysia cũng quyết định đình chỉ hoạt động của chatbot Grok. Theo Ủy ban Truyền thông và Đa phương tiện Malaysia, cơ quan này đã ghi nhận “việc lạm dụng lặp đi lặp lại” công cụ trên để tạo ra các hình ảnh khiêu dâm bị chỉnh sửa mà không có sự cho phép, bao gồm cả nội dung liên quan đến phụ nữ và trẻ vị thành niên.
Trong khi đó, Ấn Độ cho biết nền tảng X đã xóa hàng nghìn bài đăng và hàng trăm tài khoản người dùng sau khi chính phủ nước này gửi các khiếu nại liên quan đến nội dung do Grok tạo ra.
Chính phủ Anh cũng không đứng ngoài cuộc. Cơ quan quản lý truyền thông của Anh đã mở một cuộc điều tra về X của Elon Musk vào thứ Hai (12/1) để xác định xem việc cho phép chatbot Grok AI sản xuất deepfake về quan hệ thân mật có vi phạm nghĩa vụ bảo vệ người dân ở Anh khỏi nội dung có thể là bất hợp pháp hay không.
Nếu Ofcom phát hiện ra rằng X đã vi phạm luật, họ có thể yêu cầu mạng xã hội này thực hiện các bước để tuân thủ, nếu không sẽ có thể bị phạt tới 10% doanh thu.
Phát biểu trước Quốc hội vào ngày 14/1, Thủ tướng Anh Keir Starmer cho biết mạng xã hội X đang hành động để đảm bảo tuân thủ đầy đủ luật pháp Vương quốc Anh sau khi cơ quan quản lý truyền thông Ofcom của nước này mở một cuộc điều tra về hình ảnh khiêu dâm do chatbot Grok AI tạo ra.
"Tôi đã được thông báo sáng nay rằng X đang hành động để đảm bảo tuân thủ đầy đủ luật pháp Vương quốc Anh. Nếu vậy, điều đó được hoan nghênh. Nhưng chúng tôi sẽ không lùi bước. Chúng tôi sẽ thực hiện các biện pháp cần thiết. Chúng tôi sẽ củng cố các luật hiện hành và chuẩn bị cho luật mới nếu cần tiến xa hơn. Và Ofcom sẽ tiếp tục cuộc điều tra độc lập của mình."
Thủ tướng Anh Keir Starmer.
Bộ trưởng Công nghệ nước này Liz Kendall nhấn mạnh một luật mới quy định việc tạo ra deepfake khiêu dâm là một hành vi phạm tội sẽ có hiệu lực trong tuần này để giải quyết những hình ảnh mà bà gọi là "vũ khí lạm dụng".
"Hôm nay, tôi có thể thông báo với Hạ viện rằng hành vi phạm tội này sẽ có hiệu lực trong tuần này và tôi cũng sẽ biến nó thành một hành vi phạm tội ưu tiên trong Đạo luật An toàn Trực tuyến. Điều này có nghĩa là các cá nhân đang phạm tội hình sự nếu họ tạo ra hoặc tìm cách tạo ra nội dung như vậy, bao gồm cả trên X và bất kỳ ai làm điều đó đều phải đối mặt với toàn bộ phạm vi của pháp luật. Nhưng trách nhiệm không chỉ thuộc về các cá nhân về hành vi của chính họ. Các nền tảng lưu trữ tài liệu như vậy phải chịu trách nhiệm, bao gồm cả X."
Bà Liz Kendall - Bộ trưởng Công nghệ Anh.
Bà Kendall cũng khằng định rằng chính phủ Anh sẽ tiếp tục xem xét lại quyết định tiếp tục sử dụng X như một phương tiện liên lạc.
X đã không trả lời ngay lập tức yêu cầu bình luận. Họ cho biết vào đầu tháng Giêng rằng họ đã hạn chế yêu cầu tạo hình ảnh gợi cảm giả mạo đối với người dùng trả tiền.
EU hạn chế AI Deepfake
Liên minh châu Âu đang đẩy mạnh các nỗ lực quản lý nội dung Deepfake, với những quy định mới yêu cầu các quốc gia thành viên phải hình sự hóa hành vi tạo và phát tán Deepfake khiêu dâm mà không có sự đồng thuận vào năm 2027. Nhiều quốc gia thành viên EU cũng đã triển khai các biện pháp riêng để hạn chế tác động tiêu cực của Deepfake do AI tạo ra.
Nội các Tây Ban Nha ngày 13/1 đã thông qua một dự thảo luật nhằm hạn chế việc sử dụng công nghệ Deepfake và siết chặt các quy định liên quan đến hình ảnh, trong bối cảnh nhiều quốc gia châu Âu đang tăng cường trấn áp nội dung khiêu dâm do trí tuệ nhân tạo (AI) tạo ra.
Dự luật này tập trung vào việc tăng cường bảo vệ trẻ em và thanh thiếu niên. Theo đó, độ tuổi tối thiểu để một cá nhân có thể đồng ý cho việc sử dụng hình ảnh của chính mình được nâng lên 16 tuổi. Dự thảo cũng cấm việc tái sử dụng hình ảnh trực tuyến, giọng nói hoặc chân dung do AI tạo ra mà không có sự cho phép của người liên quan.
"Trên thực tế, việc cá nhân chia sẻ hình ảnh của bản thân hoặc gia đình lên mạng xã hội không đồng nghĩa với việc cho phép người khác tự do sử dụng những hình ảnh đó trong mọi bối cảnh. Sự cho phép chỉ giới hạn ở trang mạng xã hội nơi một hình ảnh cụ thể được tải lên."
Ông Felix Bolanos - Bộ trưởng Tư pháp Tây Ban Nha.
Động thái này được đưa ra trong bối cảnh Tây Ban Nha đã chứng kiến một vụ việc gây tranh cãi tại thị trấn Almendralejo, Tây Nam nước này. Vào tháng 6 năm ngoái, một tòa án đã phán quyết rằng những hình ảnh khỏa thân của các thiếu nữ tuổi teen do AI tạo ra, bị cáo buộc là do chính bạn bè của họ tạo và chia sẻ, không cấu thành tội phạm theo luật hiện hành.
Theo phán quyết được đưa ra, tòa án xác định rằng các trẻ vị thành niên đã sử dụng ứng dụng AI để tạo ra những hình ảnh bị thao túng, trong đó khuôn mặt của các cô gái, lấy từ tài khoản mạng xã hội, được ghép vào cơ thể của những phụ nữ khỏa thân khác.
Bà Miriam Al Adib - Mẹ của nạn nhân Deepfake chia sẻ: "Một hình ảnh của một người khỏa thân được làm bằng trí tuệ nhân tạo đang gây hại rất lớn. Chính phủ đang thực hiện các biện pháp bảo vệ trẻ em và thanh thiếu niên. Đây là một thông tin tích cực".
Đầu tháng này, chính phủ Tây Ban Nha đã yêu cầu các công tố viên đánh giá liệu một số nội dung do AI tạo ra có thể cấu thành nội dung khiêu dâm trẻ em hay không. Dự thảo luật vẫn phải trải qua quá trình tham vấn trước khi trả lại cho chính phủ để phê duyệt cuối cùng và trình lên Quốc hội.
Còn tại Pháp, các công tố viên Paris đã mở một cuộc điều tra về xAI khi có các cáo buộc rằng Grok đã tạo ra nội dung khiêu dâm bất hợp pháp. Theo báo cáo của truyền thông Pháp, cuộc điều tra mới nhất này đóng vai trò như một phần mở rộng của cuộc điều tra bắt đầu vào tháng 7 năm 2025 đối với X, tập trung vào các cáo buộc rằng các thuật toán của mạng xã hộ này đang bị thao túng để tạo điều kiện cho sự can thiệp của nước ngoài.
Bà Mathilde Saliou, một tác giả và nhà báo chuyên về truyền thông kỹ thuật số, nhấn mạnh nhu cầu cấp bách đối với chính quyền Pháp để hành động để tăng cường bảo vệ trực tuyến: “Đây là một vấn đề nghiêm trọng và đáng lo ngại, phản ánh xu hướng mà nhiều công ty công nghệ số, trong đó có xAI, đang đối mặt. Vì vậy, các doanh nghiệp này cần thành lập những bộ phận chuyên trách để bảo vệ người dùng internet, tuyển dụng nhân sự tham gia kiểm duyệt nội dung trực tuyến và ngăn chặn việc lan truyền những hình ảnh gây tổn hại.”
Theo bà Saliou, Pháp cần buộc các doanh nghiệp công nghệ phải chịu trách nhiệm pháp lý, tiếp tục làm rõ các hành vi vi phạm, đồng thời yêu cầu ông Elon Musk với tư cách là người đứng đầu các công ty liên quan phải chịu trách nhiệm trước pháp luật.
Các tổ chức kêu gọi loại bỏ X
Một liên minh gồm các nhóm phụ nữ, cơ quan giám sát công nghệ và các nhà hoạt động tiến bộ cũng đang kêu gọi chủ sở hữu Alphabet Google và Apple xóa trang web truyền thông xã hội X và chatbot Grok khỏi các cửa hàng ứng dụng của họ. Liên minh này cáo buộc các ứng dụng thuộc sở hữu của tỷ phú Elon Musk tạo ra nội dung bất hợp pháp vi phạm điều khoản dịch vụ của cả hai công ty.
Chiến dịch gây sức ép này có sự tham gia của nhiều tổ chức xã hội, trong đó có nhóm nữ quyền UltraViolet, Tổ chức Quốc gia về Phụ nữ (NOW), tổ chức tự do MoveOn và nhóm “Cha mẹ cùng hành động”. Mục tiêu của họ là buộc tỷ phú Elon Musk phải chịu trách nhiệm sau những cáo buộc đối với chatbot Grok.
Bà Jenna Sherman, Giám đốc chiến dịch của UltraViolet, kêu gọi các tập đoàn công nghệ lớn can thiệp, đặc biệt là Apple và Google.
"Chúng tôi khẩn thiết yêu cầu Apple và Google xem xét nghiêm túc vấn đề này. Họ đang cho phép vận hành một hệ thống mà trong đó hàng nghìn, thậm chí hàng chục nghìn người, đặc biệt là phụ nữ và trẻ em đang bị lạm dụng tình dục, thông qua chính các cửa hàng ứng dụng của họ."
Bà Jenna Sherman - Giám đốc chiến dịch của Ultraviolet.
Bà Jenna Sherman kêu gọi các công ty công nghệ tuân thủ các quy định và chính sách quản lý vì lợi ích của tất cả người dùng: “Chúng tôi biết rằng công nghệ luôn đi trước luật pháp và chính sách và chúng tôi thực sự kêu gọi các công ty công nghệ cố gắng hết sức để theo kịp vì lợi ích của tất cả chúng ta. Và chúng tôi biết rằng nó không khó như họ nói”.
Nhiều tổ chức cũng bắt đầu rút khỏi nền tảng X. Vào ngày thứ Ba 13/1, Liên đoàn Giáo viên Mỹ (AFT) thông báo sẽ rời bỏ mạng xã hội này, do những lo ngại về hình ảnh trẻ em bị đe dọa liên quan đến Grok.
Trong khi đó, X cho biết đã điều chỉnh hoạt động của chatbot nhằm ngăn chặn việc các hình ảnh do Grok tạo hoặc chỉnh sửa xuất hiện trên dòng thời gian công khai. Tuy nhiên, một thử nghiệm của Reuters tiến hành vào thứ Ba (13/1) cho thấy Grok vẫn có thể tạo ra các phiên bản hình ảnh mặc bikini của người thật theo yêu cầu.
Nhiều chuyên gia cảnh báo rằng các hình ảnh giả mạo bằng thuật toán có thể đặt phụ nữ và trẻ em vào tình trạng nguy hiểm thực sự, từ bị quấy rối trực tuyến, bị tống tiền đến các hệ lụy pháp lý và tâm lý lâu dài. Vì vậy, vụ việc liên quan đến Grok đã làm dấy lên báo động đỏ về mức độ nguy hiểm của trí tuệ nhân tạo (AI) khi được triển khai trên mạng xã hội mà thiếu các rào chắn an toàn đủ mạnh.
Vụ việc cũng cho thấy cần phải có những chế tài thực sự hiệu quả để quản lý những phần mềm và nền tảng này để bảo đảm an toàn cho người dùng trên không gian mạng.
