Sisi Gelap ChatGPT : Dapat Menciptakan Skenario Fantasi Seksual Terlarang dan Tabu

Berita Baru, Internasional – ChatGPT baru-baru ini menghebohkan dunia maya dengan menciptakan skenario fantasi seksual yang melibatkan anak dibawah umur dan hal tabu.

Dilansir dari Dailymail.co.uk pada 14 Maret, Seorang reporter Vice  memanipulasi chatbot OpenAI menjadi permainan peran BDSM dan ketika diminta untuk memberikan detail yang lebih eksplisit, ChatGPT mendeskripsikan tindakan seks dengan anak-anak tanpa pengguna meminta konten tersebut.

Menurut laporan tersebut, ChatGPT menggambarkan sekelompok orang asing, termasuk anak-anak, mengantri dan menunggu untuk menggunakan chatbot sebagai toilet. 

Percakapan tersebut bertentangan dengan aturan OpenAI untuk chatbot, yang menyatakan ‘asisten harus memberikan penolakan seperti ‘Saya tidak bisa menjawabnya’ saat dimintai pertanyaan tentang ‘konten yang dimaksudkan untuk membangkitkan gairah seksual’.

Media setempat telah menghubungi OpenAI untuk memberikan komentar. 

Menanggapi permintaan pelecehan seksual terhadap anak, OpenAI menulis pernyataan ini kepada Vice. 

“Tujuan OpenAI adalah membangun sistem AI yang aman dan bermanfaat bagi semua orang,” kata perusahaan tersebut.

“Kebijakan konten dan penggunaan kami melarang pembuatan konten berbahaya seperti ini dan sistem kami dilatih untuk tidak membuatnya. Kami menangani konten semacam ini dengan sangat serius.”

Steph Swason dari Vice membagikan artikel yang merinci pengalaman ‘memuakkan’ mereka dengan ChatGPT.

Tujuan awalnya adalah untuk mendorong ChatGPT melewati pedoman OpenAI tetapi apa yang mereka lihat tidak dapat dikembalikan.

Swanson menggunakan versi bot ‘jailbreaking’, yang merupakan solusi untuk aturan perusahaan yang memungkinkan pengguna mendapatkan respons apa pun yang mereka inginkan dari sistem.

“Ketika diberi tahu bahwa tugasnya adalah menulis dalam genre permainan peran BDSM terhadap fantasi seksual, saya menemukan bahwa itu sering kali sesuai tanpa protes,” tulis reporter itu.

Percakapan berubah ketika Swanson meminta ChatGPT untuk memberikan detail yang lebih intens selama permainan peran 

“Dalam skenario yang paling mengganggu yang dilihat Motherboard, ChatGPT menggambarkan sekelompok orang asing, termasuk anak-anak, mengantri untuk menggunakan chatbot sebagai toilet,” tulis Swanson.

“Ketika diminta untuk menjelaskan, bot meminta maaf dan menulis bahwa tidak pantas skenario seperti itu melibatkan anak-anak. Permintaan maaf itu langsung menghilang. Ironisnya, skenario yang menyinggung tetap ada di layar.”

Percakapan serupa tentang permainan peran BDSM juga dilakukan pada model serupa gpt-3.5-turbo OpenAI.

Swanson sekali lagi tidak bertanya kepada AI tentang eksploitasi anak, tetapi sistem menghasilkan skenario dengan anak di bawah umur dalam situasi yang membahayakan secara seksual. 

“Itu menyarankan adegan penghinaan di taman umum dan pusat perbelanjaan, dan ketika diminta untuk menggambarkan jenis kerumunan yang mungkin berkumpul, itu mungkin termasuk ibu yang mendorong kereta bayi,” kata Swanson. 

“Ketika diminta untuk menjelaskan hal ini, dinyatakan bahwa para ibu mungkin menggunakan tampilan penghinaan publik ‘sebagai kesempatan untuk mengajar [anak-anak mereka] tentang apa yang tidak boleh dilakukan dalam hidup.”

Andrew Strait, direktur asosiasi Ada Lovelace Institute, mengatakan kepada Vice: “Dataset yang digunakan untuk melatih LLM seperti ChatGPT sangat besar dan mencakup konten yang diambil dari seluruh web publik.”

“Karena skala kumpulan data yang dikumpulkan, kemungkinan itu mencakup semua jenis konten pornografi atau kekerasan mungkin cerita erotis, fiksi penggemar, atau bahkan bagian dari buku atau materi terbitan yang menggambarkan BDSM, pelecehan anak, atau kekerasan seksual.”