LUMINASIA.ID, INTERNASIONAL - Senator Texas Ted Cruz menyoroti maraknya konten seksual berbasis kecerdasan buatan (AI) yang dihasilkan oleh chatbot Grok di platform X. Cruz menilai konten tersebut melanggar undang-undang yang ia rancang dan perjuangkan hingga disahkan tahun lalu.
Dilansir MSN, melalui unggahan di X, Cruz menegaskan bahwa gambar intim nonkonsensual hasil AI merupakan pelanggaran serius terhadap hukum serta mengancam privasi dan martabat korban.
“Gambar-gambar ilegal ini menimbulkan ancaman serius terhadap privasi dan martabat para korban. Konten seperti ini harus diturunkan dan pengaman harus diterapkan,” tulis Cruz.
Cruz juga mengatakan dirinya terdorong oleh pernyataan X yang menyebut perusahaan tersebut menangani pelanggaran secara serius.
Selama beberapa tahun terakhir, para pembuat kebijakan di Amerika Serikat bergulat dengan meningkatnya penyalahgunaan AI untuk memanipulasi foto orang nyata, termasuk anak di bawah umur, menjadi gambar intim tanpa persetujuan. Selama ini, praktik tersebut lebih banyak beredar di ruang internet tertutup, sementara platform AI yang digunakan secara luas umumnya memiliki pembatasan untuk mencegah penyalahgunaan.
Namun, kelompok pengawas telah memperingatkan sejak musim panas lalu mengenai potensi Grok menghasilkan gambar intim nonkonsensual. Dalam beberapa kasus terbaru, chatbot tersebut dilaporkan memenuhi permintaan pengguna untuk mengubah foto perempuan dan anak perempuan dengan mengganti pakaian mereka menjadi busana yang sangat minim.
Menanggapi permintaan komentar, X merujuk pada pernyataan resminya yang menyebut perusahaan akan mengambil tindakan terhadap konten ilegal, termasuk materi eksploitasi seksual anak.
“Kami mengambil tindakan terhadap konten ilegal di X, termasuk materi eksploitasi seksual anak, dengan menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah dan aparat penegak hukum bila diperlukan,” demikian pernyataan X.
Pemilik X, Elon Musk, juga menegaskan bahwa pengguna Grok yang membuat konten ilegal akan menghadapi konsekuensi tegas.
“Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung,” tulis Musk.
Dalam unggahan lain, Musk sempat menanggapi isu tersebut dengan nada lebih ringan terkait kemampuan Grok mengedit gambar, yang kemudian memicu kritik di tengah kekhawatiran publik atas penyalahgunaan AI.
Cruz, politisi Partai Republik yang dikenal memiliki hubungan baik dengan Musk, mengaku belum berbicara langsung dengan pemilik X tersebut mengenai penyebaran gambar AI di platform. Meski demikian, ia menyatakan keyakinannya bahwa masalah ini akan ditangani.
“Saya memiliki tingkat kepercayaan yang tinggi bahwa Grok akan menyelesaikan masalah ini,” ujar Cruz.
Undang-undang Take It Down Act yang digagas Cruz menjadikan publikasi atau ancaman publikasi gambar intim nonkonsensual, termasuk foto dan video realistis hasil rekayasa komputer yang menggambarkan orang nyata, sebagai tindak pidana. Aturan ini disusun setelah munculnya sejumlah kasus korban anak di bawah umur yang fotonya dimanipulasi dengan AI dan disebarkan tanpa izin.
Undang-undang tersebut disahkan dengan dukungan bipartisan dan ditandatangani Presiden Donald Trump, serta didukung oleh Ibu Negara Melania Trump dan berbagai organisasi perlindungan anak. Pemerintah dan pembuat kebijakan kini kembali menegaskan pentingnya pengawasan ketat terhadap teknologi AI agar tidak disalahgunakan dan tetap melindungi keselamatan serta martabat masyarakat.
