Gawat, Ada 3.000 Postingan Dark Web Bahas Penggunaan AI ChatGPT untuk Bikin Malware Berbahaya

dianrakyat.co.id, Jakarta – Kaspersky Digital Footprint Intelligence menemukan hampir 3.000 postingan di web gelap pada tahun 2023 yang menyebutkan penggunaan ChatGPT untuk tujuan ilegal atau membicarakan alat berbasis teknologi AI.

Analis jejak digital Kaspersky, Alisa Kulishenko, mengatakan diskusi mengenai topik ini sebagian besar terjadi pada Maret 2023 dan masih berlangsung.

“Aktor ancaman secara aktif menjajaki berbagai skema untuk mengimplementasikan ChatGPT dan AI. Topiknya biasanya mencakup pengembangan malware dan jenis penggunaan model bahasa ilegal lainnya, seperti pemrosesan data pengguna yang dicuri, penguraian file dari perangkat yang terinfeksi, dll.,” ungkap Alisa.

Dalam keterangan tertulisnya yang dikutip Jumat (2/2/2024), ia menyimpulkan bahwa popularitas alat AI telah menyebabkan terintegrasinya respons otomatis dari AI ChatGPT atau sejenisnya ke banyak forum kejahatan dunia maya.

“Selain itu, pelaku ancaman cenderung berbagi jailbreak – serangkaian perintah khusus yang membuka fungsionalitas tambahan – melalui berbagai saluran web gelap, menciptakan peluang untuk mengeksploitasi alat yang sah, seperti pengujian pena, untuk tujuan jahat berdasarkan model tersebut.” , Alisa menjelaskan.

Selain chatbots dan kecerdasan buatan yang disebutkan, banyak perhatian juga diberikan pada proyek seperti XXXGPT, FraudGPT, dan lainnya.

Model bahasa ini dipasarkan di web gelap sebagai alternatif ChatGPT, dengan fungsionalitas tambahan dan tanpa batasan asli.

Ancaman lain bagi pengguna dan bisnis adalah pasar akun berbayar ChatGPT. Pada tahun 2023, 3000 postingan tambahan (selain yang disebutkan di atas) yang mempromosikan penjualan akun ChatGPT diidentifikasi di web gelap dan saluran bayangan Telegram.

Postingan ini menyebarkan akun curian atau sangat mempromosikan layanan pendaftaran otomatis dengan membuat akun berdasarkan permintaan. Secara khusus, beberapa postingan berulang kali dipublikasikan di berbagai saluran web gelap.

“Meskipun alat AI itu sendiri tidak berbahaya, peretas berusaha menemukan cara yang efisien untuk menggunakan model bahasa, sehingga memicu tren mengubahnya menjadi ancaman dunia maya dan, dalam beberapa kasus, berpotensi meningkatkan jumlah serangan dunia maya,” kata Alisa.

Namun, kecil kemungkinan AI generatif dan chatbots akan mengubah lanskap serangan – setidaknya sebelum tahun 2024.

“Namun, tetap memantau aktivitas serangan adalah hal yang penting untuk tetap menjadi yang terdepan dalam keamanan siber perusahaan,” simpul Alisa.

Baru-baru ini, OpenAI mengatakan sedang menyelidiki keluhan bahwa ChatGPT “malas”.

Dalam beberapa hari terakhir, perusahaan telah menerima keluhan dari pengguna ChatGPT versi terbaru, yang didasarkan pada model GPT-4 OpenAI. Mereka mengklaim bahwa chatbot tersebut menolak perintah yang diberikan dan tidak menjawab pertanyaan mereka.

Mengutip Independent, Jumat (15/12/2023): Misalnya, jika pengguna ChatGPT meminta serangkaian kode, chatbot ini hanya akan memberikan sedikit informasi lalu memerintahkan pengguna untuk memasukkan sisanya.

Tidak hanya itu, beberapa orang juga mengeluhkan chatbot kecerdasan buatan yang memberi tahu mereka bahwa mereka (pengguna) “dapat melakukan pekerjaannya sendiri.”

Sementara itu, pengguna mengeluh di thread Reddit dan postingan di forum pengembang OpenAI bahwa sistem menjadi kurang berguna.

Mereka pun meyakini bahwa perubahan ini sengaja dilakukan OpenAI agar ChatGPT lebih efisien dan tidak memberikan jawaban yang panjang.

OpenAI menyadari keluhan tentang sistem. Namun, mereka mengatakan tidak ada perubahan yang dilakukan pada model ini.

“Kami telah mendengar semua tanggapan Anda tentang GPT4 yang bersifat malas!” tulis perusahaan kecerdasan buatan tersebut di Twitter/X.

“Kami belum memperbarui model tersebut sejak 11 November dan kami tidak pernah bermaksud melakukannya. Perilaku model tidak dapat diprediksi dan kami berupaya memperbaikinya,” tambahnya lebih detail.

Selain itu, penelitian terbaru yang dilakukan Ofcom di Inggris menemukan bahwa remaja dan anak-anak cenderung lebih sering menggunakan AI generatif (kecerdasan buatan) dibandingkan orang dewasa.

Regulator mengatakan penelitian terbarunya menunjukkan bahwa empat dari lima remaja berusia 13 hingga 17 tahun sekarang menggunakan alat AI generatif, termasuk chatbots seperti ChatGPT. Faktanya, 40% remaja usia 7 hingga 12 tahun juga menggunakan teknologi ini.

Sementara itu, baru 31% pengguna internet dewasa yang pernah menggunakan teknologi AI. Dan dari 69% yang belum pernah menggunakannya, 24% mengetahui apa itu teknologi. Demikian dilansir Independent, dikutip Selasa (12 Mei 2023).

Menurut penelitian yang dilakukan oleh Ofcom, ChatGPT OpenAI adalah alat AI generatif yang paling banyak digunakan oleh peserta penelitian. 23% anak usia 16 tahun menggunakan chatbot semacam itu.

58% dari mereka menggunakan ChatGPT hanya untuk bersenang-senang. Sepertiga dari mereka sekarang menggunakannya untuk bekerja dan seperempatnya untuk belajar. Selain itu, orang lain juga menggunakannya untuk meminta nasihat tentang sesuatu.