Bos Microsoft Tanggapi Gambar Porno AI Taylor Swift: Mengkhawatirkan dan Mengerikan

dianrakyat.co.id, JAKARTA – CEO Microsoft Satya Nadella turut mengomentari hebohnya gambar porno Taylor Swift yang dibuat menggunakan kecerdasan buatan (AI).

Dalam sebuah wawancara dengan NBC Nightly News, yang akan disiarkan secara penuh Selasa depan, bos Microsoft menyebut lonjakan simulasi ketelanjangan non-konsensual “mengganggu dan menakutkan.”

“Kita harus bergerak cepat dalam hal ini,” kata Nadella juga dalam wawancara dengan Lester Holt, seperti dilansir The Verge, Senin (29 Januari 2024).

Dalam transkrip yang dirilis NBC menjelang acara tersebut, Holt meminta Satya Nadella untuk mengomentari “kengerian barang palsu di internet” dan merujuk pada banyaknya gambar porno palsu Taylor Swift.

“Saya akan memulai dengan menegaskan kembali komitmen kami terhadap semua perlindungan yang kami terapkan seputar teknologi kami untuk menghasilkan konten yang lebih aman,” kata Nadella.

Nadella mengatakan masih banyak pekerjaan yang harus diselesaikan. Namun, kata dia, ini adalah hal global dan ada konvergensi standar tertentu.

“Kita bisa melakukan ini, terutama ketika kita memiliki platform hukum, penegakan hukum, dan teknologi yang dapat diintegrasikan,” kata Nadella. “Saya pikir kita bisa menangani lebih banyak hal daripada yang kita kira,” katanya.

Microsoft sendiri tampaknya terlibat dalam gambar palsu Swift yang dibuat oleh AI.

Media 404 melaporkan bahwa mereka berasal dari komunitas pembuat film porno tidak langsung di Telegram yang merekomendasikan penggunaan pembuat gambar Microsoft Designer.

Secara teori, Designer akan mencegah pengguna membuat gambar orang-orang terkenal. Namun, 404 menyatakan bahwa aturan ini dapat dielakkan dengan sedikit mengubah arahannya.

Meskipun hal ini tidak membuktikan bahwa Designer digunakan untuk gambar porno Taylor Swift, ini adalah kelemahan teknis yang perlu diatasi oleh Microsoft.

Taylor Swift baru-baru ini mendapat kritik, baik di dunia nyata maupun di media sosial, setelah ia menjadi korban kecerdasan buatan (AI) yang mengubah gambar pornografi.

Untuk itu, pelantun “Shake it Off” itu berencana menggugat situs porno deepfake yang salah mengartikan perubahan citranya.

Ada puluhan foto mendalam Taylor Swift di berbagai platform media sosial seperti Facebook, Reddit, Instagram, dan lainnya

Secara tidak sengaja, X (sebelumnya bernama Twitter) juga memblokir pencarian kata kunci “Taylor Swift”.

Pantauan Tim dianrakyat.co.id Techno Hingga Minggu (28/1/2024), saat ini ketika mengetik “Taylor Swift” dan “Taylor Swift AI” di kolom pencarian, muncul tulisan “Oh, ada yang tidak beres”.

PhD.

“Mereka akan secara agresif menghapus semua gambar yang teridentifikasi dan mengambil tindakan terhadap akun yang memposting gambar Taylor Swift tersebut,” kata X dalam sebuah pernyataan.

Platform media sosial tersebut juga menyatakan secara tegas melarang pengunggahan konten yang mengandung ketelanjangan eksplisit, serta konten media yang disintesis dan dimanipulasi.

Sementara itu, baik Threads maupun Instagram hanya menampilkan pesan yang mengatakan bahwa “kata kunci yang dicari terkadang dikaitkan dengan aktivitas organisasi dan individu berbahaya.”

Foto palsu tersebut dengan cepat menjadi viral di X, Facebook, Instagram, dan Reddit. X dan Reddit mulai menghapus postingan pada Kamis pagi, 25 Januari 2024.

Sebuah sumber yang dekat dengan Swift mengatakan pada hari Kamis bahwa “belum diputuskan apakah tindakan hukum akan diambil, tetapi satu hal yang jelas: Tidak jelas apakah gambar palsu ini dihasilkan oleh kecerdasan buatan.”

“Akun X yang memposting pesan tersebut sudah tidak ada lagi. Sungguh menakjubkan bahwa platform media sosial mengizinkan mereka melakukan hal ini,” katanya. “Gambar-gambar ini harus dihapus dari mana-mana dan tidak boleh dipromosikan oleh siapa pun.”

“Keluarga dan teman-teman Taylor, serta penggemarnya, marah… Pintunya harus ditutup. Hukum harus disahkan dan ditegakkan untuk mencegah hal ini terjadi,” tegasnya.