(SeaPRwire) – Người ta đã tăng cường đàn áp vào lạm dụng tình dục được tạo bởi AI vào ngày Thứ Hai sau khi các bộ trưởng xác nhận khả năng cấm nền tảng mạng xã hội X của Elon Musk trong bối cảnh cuộc điều tra mở rộng và công ty có thể phải chịu phạt nặng.
Động thái mạnh mẽ này xảy ra sau khi Ofcom, cơ quan quản lý truyền thông của Vương quốc Anh, bắt đầu điều tra xem X có vi phạm nghĩa vụ pháp lý theo Đạo luật An toàn Trực tuyến của Vương quốc Anh hay không, và sau khi có báo cáo rằng chatbot AI tích hợp của nền tảng, Grok, đã được sử dụng để tạo và chia sẻ ảnh deepfake có yếu tố tình dục về phụ nữ và trẻ em.
Grok được ra mắt vào năm 2023 nhưng tính năng tạo ảnh Grok Imagine được thêm vào năm 2025 với một chế độ cụ thể để tạo nội dung người lớn.
Bộ trưởng Khoa học, Sáng tạo và Công nghệ Liz Kendall mô tả việc sử dụng sai công cụ AI này để tạo ảnh khỏa thân tường minh và không được đồng ý gần đây là “đáng lo ngại sâu sắc”.
Kendall cũng cảnh báo rằng các công ty mạng xã hội sẽ phải chịu trách nhiệm nếu họ không hành động.
“Tôi hoan nghênh sự cấp bách của Ofcom trong việc bắt đầu một cuộc điều tra chính thức hôm nay,” Kendall nói, theo… “Điều quan trọng là Ofcom phải hoàn thành cuộc điều tra nhanh chóng vì công chúng – và quan trọng nhất là nạn nhân – sẽ không chấp nhận sự chậm trễ nào.”
Trong một… được chia sẻ sau đó vào ngày Thứ Hai, Kendall nói công cụ AI Grok đã được sử dụng để tạo và phổ biến ảnh khỏa thân bị làm hỏng danh dự, không được đồng ý.
“Không phụ nữ hay trẻ em nên sống trong nỗi sợ hãi vì ảnh họ bị điều khiển tình dục,” bà nói trước khi thêm, “Nội dung được phổ biến trên X thật ác độc. Nó không chỉ là một sự xúc phạm đối với xã hội lành mạnh, mà còn là hành vi bất hợp pháp.”
Kendall thêm rằng việc chia sẻ hoặc đe dọa chia sẻ ảnh khỏa thân deepfake mà không có sự đồng ý, bao gồm ảnh người mặc quần lót, là hành vi phạm tội theo luật pháp Vương quốc Anh.
Bà cảnh báo rằng Ofcom có thẩm quyền ban hành… hoặc phạt lên đến 10% doanh thu toàn cầu đủ điều kiện của một công ty.
“Nhưng X không cần phải chờ đến khi cuộc điều tra của Ofcom kết thúc,” Kendall nói. “Họ có thể chọn hành động sớm hơn để đảm bảo rằng nội dung ghê tởm và bất hợp pháp này không thể được chia sẻ trên nền tảng của họ,” bà cảnh báo.
Ofcom đã nói rằng họ “đã liên lạc khẩn cấp” với X vào ngày 5 tháng 1, yêu cầu giải thích về các biện pháp được thực hiện để bảo vệ người dùng ở Vương quốc Anh và đặt thời hạn trả lời là ngày 9 tháng 1.
Mặc dù xAI, một công ty khác do Musk thành lập, đã phản hồi, Ofcom cho biết họ quyết định mở cuộc điều tra chính thức sau khi xem xét bằng chứng có sẵn “như một ưu tiên hàng đầu”.
Trong… được chia sẻ vào ngày Thứ Hai, Ofcom nói: “Báo cáo về việc Grok được sử dụng để tạo và chia sẻ ảnh khỏa thân bất hợp pháp không được đồng ý và tài liệu lạm dụng tình dục trẻ em trên X thật đáng lo ngại.”
“Các nền tảng phải bảo vệ người dân ở Vương quốc Anh khỏi nội dung bất hợp pháp trên lãnh thổ Vương quốc Anh, và chúng tôi sẽ không ngần ngại điều tra khi nghi ngờ các công ty không thực hiện nghĩa vụ của mình, đặc biệt là khi có nguy cơ gây hại cho trẻ em,” tuyên bố nói.
Như đã được báo cáo trước đây bởi…, chatbot đã thừa nhận trong một bài đăng công khai trên X rằng nó đã tạo và chia sẻ một ảnh AI miêu tả hai cô gái trẻ trong trang phục có yếu tố tình dục, gọi vụ việc là “sự thất bại trong biện pháp an toàn” và xin lỗi vì thiệt hại gây ra.
Trong bối cảnh chỉ trích tăng dần, Grok xác nhận đã bắt đầu hạn chế một số tính năng tạo và chỉnh sửa ảnh cho người đăng ký trả phí. Chatbot nói rằng những hạn chế này được áp dụng để ngăn chặn sự lạm dụng thêm.
Musk cũng buộc tội Chính phủ Vương quốc Anh là “phát xít” vào ngày Thứ Hai vì “tương tự hàng ngàn người vì bài đăng trên mạng xã hội”.
Người sáng lập Tesla, tỷ phú này, đã phản hồi một bài đăng trên X tuyên bố rằng đất nước này bắt giữ nhiều người vì bài đăng trên mạng xã hội hơn “bất kỳ quốc gia nào trên thế giới”.
Cùng với cuộc điều tra của Ofcom, Chính phủ Vương quốc Anh thông báo rằng luật pháp coi việc tạo ảnh khỏa thân không được đồng ý bằng AI là tội sẽ có hiệu lực trong tuần này.
Kendall nói trách nhiệm không chỉ thuộc về cá nhân.
“Các nền tảng.host nội dung như vậy phải chịu trách nhiệm, bao gồm cả X,” bà nói.
Nếu chúng không hành động, bà nói mình “sẵn sàng đi xa hơn”.
Trong khi đó, người phát ngôn chính thức của Thủ tướng Keir Starmer nói rằng sự hiện diện của chính phủ trên nền tảng đang “được đánh giá lại” và “tất cả các lựa chọn đều được xem xét”.
… cũng báo cáo vào ngày Thứ Hai rằng Malaysia và Indonesia đã trở thành các quốc gia đầu tiên cấm Grok.
Digital đã liên hệ với Elon Musk và Văn phòng Thủ tướng Keir Starmer để lấy ý kiến.
Associated Press và Reuters đã đóng góp vào bài báo này.
Bài viết được cung cấp bởi nhà cung cấp nội dung bên thứ ba. SeaPRwire (https://www.seaprwire.com/) không đưa ra bảo đảm hoặc tuyên bố liên quan đến điều đó.
Lĩnh vực: Tin nổi bật, Tin tức hàng ngày
SeaPRwire cung cấp phát hành thông cáo báo chí thời gian thực cho các công ty và tổ chức, tiếp cận hơn 6.500 cửa hàng truyền thông, 86.000 biên tập viên và nhà báo, và 3,5 triệu máy tính để bàn chuyên nghiệp tại 90 quốc gia. SeaPRwire hỗ trợ phân phối thông cáo báo chí bằng tiếng Anh, tiếng Hàn, tiếng Nhật, tiếng Ả Rập, tiếng Trung Giản thể, tiếng Trung Truyền thống, tiếng Việt, tiếng Thái, tiếng Indonesia, tiếng Mã Lai, tiếng Đức, tiếng Nga, tiếng Pháp, tiếng Tây Ban Nha, tiếng Bồ Đào Nha và các ngôn ngữ khác.