Nghệ sĩ đoạt giải Pulitzer bị bắt vì tàng trữ CSAM do AI tạo ra
Một nghệ sĩ hoạt hình nổi tiếng đã bị bắt tại Sacramento vì tàng trữ nội dung lạm dụng tình dục trẻ em (CSAM) được tạo ra bằng trí tuệ nhân tạo, đánh dấu vụ bắt giữ đầu tiên theo luật mới của California.
California đã chính thức thực thi luật cấm sở hữu và phân phối CSAM do AI tạo ra từ đầu năm nay. Luật này nhấn mạnh tác hại của mọi hình thức CSAM, đặc biệt là loại do AI tạo ra, vì nó có thể khiến trẻ em bình thường hóa các hành vi tình dục với người lớn. Điểm đáng chú ý là luật này xem việc tạo ra CSAM bằng AI là hành vi gây hại cho trẻ em, ngay cả khi không có nạn nhân thực sự. Lý do được đưa ra là các mô hình học máy được huấn luyện trên dữ liệu chứa hình ảnh của nạn nhân CSAM thật, do đó việc sử dụng AI để tạo ra CSAM đồng nghĩa với việc tiếp tục xâm hại những đứa trẻ này.
Vụ bắt giữ đầu tiên liên quan đến luật này là trường hợp của một nghệ sĩ hoạt hình 49 tuổi, người đã từng đoạt giải Pulitzer. Sau khi nhận được thông tin từ Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột, Lực lượng Đặc nhiệm Chống Tội phạm Internet Trẻ em Thung lũng Sacramento đã tiến hành điều tra và phát hiện người này đang chia sẻ 134 video CSAM trực tuyến. Cảnh sát đã thu giữ bằng chứng liên quan tại nhà của nghi phạm, bao gồm cả CSAM do máy tính/AI tạo ra.
Luật mới định nghĩa "trí tuệ nhân tạo" là một hệ thống được thiết kế hoặc dựa trên máy móc, có mức độ tự chủ khác nhau và có thể, cho các mục tiêu rõ ràng hoặc ngầm định, suy ra từ đầu vào mà nó nhận được cách tạo ra đầu ra có thể ảnh hưởng đến môi trường vật lý hoặc ảo. Việc bắt giữ này cho thấy nỗ lực của cơ quan chức năng trong việc áp dụng luật mới và ngăn chặn sự lạm dụng công nghệ AI để tạo ra nội dung bất hợp pháp, đặc biệt là liên quan đến xâm hại trẻ em. Đây cũng là một lời cảnh tỉnh cho cộng đồng về mặt trái của công nghệ và tầm quan trọng của việc sử dụng nó một cách có trách nhiệm.
Mặc dù công nghệ AI mang lại nhiều lợi ích, nhưng việc lạm dụng nó để tạo ra CSAM là một vấn đề nghiêm trọng cần được quan tâm và xử lý nghiêm khắc. Vụ việc này cũng đặt ra câu hỏi về đạo đức trong việc sử dụng AI và cần có những biện pháp kiểm soát chặt chẽ hơn để ngăn chặn những hành vi tương tự trong tương lai.
