Hệ lụy từ những ứng dụng AI tạo ảnh 'cởi đồ'

Một thiếu niên ở New Jersey vừa đệ đơn kiện chống lại công ty phát triển công cụ "cởi quần áo" bằng trí tuệ nhân tạo (AI) với cáo buộc đã tạo ra hình ảnh khỏa thân giả của cô. Vụ việc thu hút sự chú ý của cả nước vì cho thấy AI có thể xâm phạm quyền riêng tư theo những cách gây hại, Fox News đưa tin hôm 15/10.

Vụ kiện được đệ trình nhằm bảo vệ học sinh và thanh thiếu niên chia sẻ ảnh trực tuyến, đồng thời cho thấy các công cụ AI có thể khai thác hình ảnh của họ dễ dàng như thế nào.

Theo đơn kiện, cô bé đã đăng một vài bức ảnh tự sướng lên mạng xã hội. Một bạn nam cùng lớp đã sử dụng công cụ AI có tên "ClothOff" để cởi bỏ quần áo của cô trong một trong những bức ảnh đó. Bức ảnh đã được chỉnh sửa vẫn giữ nguyên khuôn mặt của cô, khiến nó trông như thật.

Hình ảnh giả mạo này nhanh chóng lan truyền qua các nhóm chat và mạng xã hội. Hiện 17 tuổi, cô bé kiện AI/Robotics Venture Strategy 3 Ltd. - công ty điều hành "ClothOff".

Một giáo sư tại Trường Luật Yale, một số sinh viên và một luật sư bào chữa đã đệ đơn kiện thay mặt cô bé.

Đơn kiện yêu cầu tòa án ra lệnh xóa tất cả hình ảnh giả mạo và ngăn chặn công ty sử dụng chúng để huấn luyện các mô hình AI. Đơn kiện cũng yêu cầu gỡ bỏ công cụ này khỏi internet và bồi thường thiệt hại về mặt tinh thần và quyền riêng tư.

Cuộc chiến pháp lý chống lại việc lạm dụng deepfake

Các tiểu bang trên khắp nước Mỹ đang ứng phó với sự gia tăng của nội dung khiêu dâm do AI tạo ra. Theo Fox News, 45 tiểu bang đã thông qua hoặc đề xuất luật quy định việc sử dụng deepfake mà không có sự đồng ý là một tội hình sự, có thể dẫn đến án tù và hình phạt như tội phạm tình dục thông thường.

Ở cấp liên bang, Đạo luật Gỡ bỏ (Take It Down Act) yêu cầu các công ty quản lý ứng dụng phải xóa bỏ hình ảnh không được sự đồng thuận trong vòng 48 giờ sau khi nhận được yêu cầu hợp lệ. Bất chấp luật mới, các công tố viên vẫn phải đối mặt với nhiều thách thức khi các nhà phát triển ứng dụng sống ở nước ngoài hoặc hoạt động thông qua các nền tảng ẩn.

Trong bối cảnh này, các chuyên gia tin rằng vụ kiện của cô bé 14 tuổi có thể định hình lại cách tòa án nhìn nhận trách nhiệm pháp lý của AI. Thẩm phán có thể sẽ phải quyết định liệu các nhà phát triển AI có phải chịu trách nhiệm khi người dùng sử dụng AI để phạm tội. Họ cũng cần xem xét liệu bản thân phần mềm có thể là một công cụ gây hại hay không.

Vụ kiện còn nêu bật một câu hỏi khác: Làm thế nào nạn nhân có thể chứng minh thiệt hại khi không có hành vi vật lý nào xảy ra, nhưng tổn hại tinh thần gây ra với nạn nhân thực sự to lớn? Phán quyết trong vụ kiện, có thể là án lệ cho các vụ kiện lên quan deepfake trong tương lai, các chuyên gia luật nhận định.

Vụ kiện này không chỉ liên quan đến một thiếu niên. Nó đánh dấu một bước ngoặt trong cách tòa án xử lý lạm dụng kỹ thuật số. Nếu một công cụ AI tạo ra hình ảnh làm tổn hại danh tiếng của ai đó, liệu công ty tạo ra hình ảnh đó có phải chịu cùng hình phạt như người chia sẻ nó không?

Về ứng dụng AI "ClothOff" liên quan vụ kiện, báo cáo cho thấy nó không còn khả dụng ở một số quốc gia. Ví dụ, Vương quốc Anh đã cấm ứng dụng này sau phản ứng dữ dội của công chúng. Tuy nhiên, người dùng ở các khu vực khác, bao gồm cả Mỹ, dường như vẫn có thể truy cập vào nền tảng web của công ty, nơi vẫn tiếp tục quảng cáo công cụ có thể "cởi quần áo bất cứ người nào trong ảnh".

Trên trang web chính thức, công ty phát triển ứng dụng nàu có một tuyên bố miễn trừ trách nhiệm ngắn gọn: "Chúng tôi khuyến khích người dùng tiếp cận vấn đề này với sự hiểu biết về trách nhiệm và tôn trọng quyền riêng tư của người khác, đảm bảo rằng việc sử dụng ứng dụng "cởi đồ" được thực hiện với nhận thức đầy đủ về các tác động đạo đức".

Việc ứng dụng này vẫn tồn tại và được sử dụng đặt câu hỏi nghiêm túc về mặt pháp lý và đạo đức về việc các nhà phát triển AI có đi quá xa trong việc làm ra những ứng dụng "vô bổ" như thế, Fox News nhận định.

Bảo vệ trẻ em trong thời đại tội phạm tình dục không biên giới

Các chuyên gia tội phạm đánh giá, khả năng tạo ảnh khỏa thân giả từ một bức ảnh đơn giản đe dọa bất kỳ ai hiện diện trực tuyến. Thanh thiếu niên phải đối mặt với những rủi ro đặc biệt vì các công cụ AI rất dễ sử dụng và chia sẻ. Nó gây ra những tổn thương về mặt cảm xúc và sự sỉ nhục mà những hình ảnh như vậy gây ra.

Phụ huynh và nhà giáo dục lo ngại về tốc độ lan truyền nhanh chóng của công nghệ này trong trường học. Các nhà lập pháp đang chịu áp lực phải hiện đại hóa luật bảo mật. Các công ty lưu trữ hoặc cung cấp các công cụ này giờ đây phải cân nhắc các biện pháp bảo vệ mạnh mẽ hơn và hệ thống gỡ bỏ nhanh hơn.

Chuyên gia khuyến cáo, nếu bạn là nạn nhân của hình ảnh do AI tạo ra, hãy hành động nhanh chóng. Đầu tiên, bạn cần lưu ảnh chụp màn hình, liên kết và ngày tháng trước khi nội dung biến mất, rồi yêu cầu gỡ bỏ ngay lập tức khỏi các trang web lưu trữ hình ảnh và nộp các báo cáo lên cơ quan chức năng.

Cha mẹ nên thảo luận, giáo dục con cái về an toàn kỹ thuật số. Vì ngay cả những bức ảnh rất bình thường cũng có thể bị lợi dụng để tạo ra ảnh đồi trụy.

Tại Việt Nam vừa qua, lần đầu tiên Dự thảo Trí tuệ nhân tạo đã đề xuất cấm phát triển các ứng dụng AI độc hại có tính chất thao túng tâm lý, hành vi; lợi dụng các điểm yếu của một nhóm người dễ tổn thương (trẻ em, người cao tuổi, người khuyết tật, người hạn chế nhận thức) để tác động hành vi theo hướng gây tổn hại cho chính họ hoặc người khác.

Dự thảo cũng đề xuất cấm các AI sản xuất nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội, quyền con người...

Trong Công ước Hà Nội được 64 quốc gia ký kết hôm 25/10 vừa qua về phòng chống tội phạm mạng, lần đầu tiên hình sự hóa trên quy mô quốc tế việc sử dụng hình ảnh riêng tư không có sự đồng thuận; sản xuất và phân phối, truy cập các hình ảnh khiêu dâm, lạm dụng tình dục trẻ em.

Hải Thư