Kota San Francisco telah mengajukan gugatan bersejarah terhadap situs web yang menggunakan teknologi kecerdasan buatan (AI) untuk membuat gambar telanjang tanpa persetujuan dari individu tersebut. Gugatan ini bertujuan untuk menutup situs-situs tersebut dan meminta pertanggungjawaban para pemiliknya atas penyebaran pornografi non-konsensual.
Situs-situs ini telah mendapatkan lebih dari 200 juta kunjungan, dan seringkali menargetkan perempuan dan anak perempuan secara tidak proporsional. Mereka menggunakan teknologi AI untuk menciptakan gambar yang sangat realistis, sehingga banyak yang merasa dirugikan dan terpapar tanpa keinginan mereka.
Gugatan yang diajukan menyebutkan pelanggaran terhadap undang-undang yang melarang pembuatan pornografi deepfake, pornografi balas dendam, serta pornografi anak. Pornografi deepfake adalah jenis konten yang menggunakan algoritma untuk mengubah wajah seseorang dalam video atau gambar dengan wajah orang lain. Hal ini dapat berbahaya karena seringkali bisa merugikan individu tanpa sepengetahuan mereka.
Langkah hukum ini digambarkan sebagai upaya kuat untuk memberikan keadilan kepada para korban dan mengirimkan pesan yang tegas bahwa penyalahgunaan AI untuk eksploitasi seksual tidak akan ditoleransi. Gugatan ini juga diharapkan dapat menjadi langkah penting menuju pembentukan preseden hukum yang baru dan penyesuaian kerangka hukum yang ada dalam menghadapi tantangan unik yang ditimbulkan oleh penyalahgunaan teknologi AI.
