Microsoft đối mặt với vụ kiện liên quan đến lạm dụng AI tạo nội dung độc hại
Microsoft đang theo đuổi vụ kiện chống lại một nhóm bị cáo buộc đã phát triển và vận hành một dịch vụ "hacking-as-a-service", cho phép tạo ra nội dung độc hại và bất hợp pháp bằng cách sử dụng nền tảng AI tạo nội dung của công ty. Các bị cáo được cho là đã phát triển các công cụ để vượt qua các biện pháp bảo vệ an toàn của Microsoft, xâm nhập vào tài khoản của người dùng hợp pháp và bán quyền truy cập vào các tài khoản này thông qua một trang web.
Dịch vụ này hoạt động từ tháng 7 đến tháng 9 năm ngoái, cung cấp hướng dẫn chi tiết về cách sử dụng các công cụ tùy chỉnh để tạo nội dung độc hại. Nó sử dụng một máy chủ proxy để chuyển tiếp lưu lượng truy cập giữa khách hàng và máy chủ AI của Microsoft, sử dụng các API không được ghi chép và các khóa API bị xâm nhập để xác thực các yêu cầu.
Microsoft chưa tiết lộ cách thức các tài khoản khách hàng bị xâm nhập, nhưng cho biết tin tặc thường tạo ra các công cụ để tìm kiếm khóa API trong kho lưu trữ mã. Việc bảo mật thông tin nhạy cảm, bao gồm cả khóa API, là vô cùng quan trọng để ngăn chặn các cuộc tấn công tương tự. Các nhà phát triển cần tuân thủ các quy tắc bảo mật nghiêm ngặt và thường xuyên kiểm tra tính bảo mật của hệ thống.
Microsoft cấm sử dụng hệ thống AI tạo nội dung của mình để tạo ra nội dung liên quan đến lạm dụng tình dục, khiêu dâm, phân biệt đối xử, đe dọa, bạo lực và các hành vi lạm dụng khác. Công ty đã triển khai các biện pháp bảo vệ để kiểm tra cả nội dung đầu vào và đầu ra, nhưng những biện pháp này đã bị vượt qua nhiều lần trong những năm gần đây. Vụ việc này cho thấy sự cần thiết phải liên tục cải tiến và cập nhật các biện pháp bảo vệ an ninh để đối phó với các mối đe dọa mới.
Vụ kiện của Microsoft cáo buộc các bị cáo vi phạm Đạo luật Gian lận và Lạm dụng Máy tính, Đạo luật Bản quyền Kỹ thuật số Thiên niên kỷ, Đạo luật Lanham và Đạo luật về các Tổ chức Bị ảnh hưởng bởi Tội phạm có Tổ chức. Đây là một lời cảnh tỉnh cho các công ty công nghệ về tầm quan trọng của việc bảo vệ các hệ thống AI của họ khỏi bị lạm dụng cho mục đích bất hợp pháp. Sự phát triển của công nghệ AI mang lại nhiều lợi ích, nhưng cũng đi kèm với những rủi ro tiềm ẩn cần được giải quyết một cách nghiêm túc.
