Pengawas perlindungan data di Inggris menyatakan kekhawatirannya terhadap chatbot berbasis kecerdasan buatan atau artificial intelligence (AI) di Snapchat, My AI.
Information Commissioner’s Office (ICO) Inggris mengumumkan, mereka telah mengeluarkan pemberitahuan penegakan awal pada induk Snapchat, Snap, mengenai masalah tersebut.
Di situ, mereka menulis ada "potensi kegagalan untuk menilai dengan tepat risiko privasi yang ditimbulkan oleh chatbot AI generatifnya 'My AI.'"
ICO tidak menemukan pelanggaran, tapi pemberitahuan menunjukkan kalau pengawas Inggris ini khawatir Snap mungkin tidak mengambil langkah yang memastikan produk tersebut mematuhi aturan perlindungan data.
Diketahui, sejak tahun 2021, aturan ini telah diterapkan dengan menyertakan Children's Design Code.
ICO mengatakan, investigasi sementara menemukan penilaian risiko sebelum meluncurkan My AI tidak cukup menilai risiko perlindungan data yang ditimbulkan oleh AI generatif, khususnya terhadap anak-anak.
"Penilaian risiko perlindungan data sangat penting dalam konteks ini yang melibatkan penggunaan teknologi inovatif dan pemrosesan data pribadi anak-anak berusia 13 hingga 17 tahun," kata ICO.
Mengutip Tech Crunch, Jumat (13/10/2023), Snap juga akan mendapatkan kesempatan, untuk merespon kekhawatiran pengawas itu, sebelum mengambil keputusan akhir apakah mereka telah melanggar aturan.
Menurut juru bicara Snap, perusahaan sedang meninjau dengan cermat keputusan sementara ICO. Perusahaan menyebut, mereka juga berkomitmen untuk melindungi privasi penggunanya, sejalan dengan ICO.
Respons Snap Usai Ditegur Pengawas
"Sejalan dengan pendekatan standar kami terhadap pengembangan produk, My AI telah melalui proses peninjauan hukum dan privasi yang ketat sebelum dipublikasikan," kata mereka.
"Kami akan terus bekerja secara konstruktif dengan ICO untuk memastikan mereka merasa nyaman dengan prosedur penilaian risiko kami," pungkasnya.
Chatbot AI generatif MyAI dirilis Snap pada bulan Februari lalu, meski baru datang di Inggris pada bulan April 2023.
Chatbot ini memanfaatkan teknologi Large Language Model (LLM) ChatGPT OpenAI, untuk menjalankan bot yang ada di feed pengguna, membuatnya jadi seperti teman virtual.
Awalnya fitur ini hanya tersedia untuk pengguna layanan berbayar Snapchat Plus. Namun, AI tersebut kemudian dirilis untuk penguna gratis.
Selain itu, Snap juga menambahkan kemampuan untuk mengirimkan kembali foto ke pengguna yang berinteraksi dengannya, di mana gambar tersebut dibuat dengan AI generatif.
Diklaim Terbatas Soal Jawaban
Kala diluncurkan, chatbot AI ini diklaim lebih terbatas pada apa yang bisa dia jawab. Hal ini karena Snap telah melatihnya untuk mematuhi pedoman kepercayaan dan keselamatan perusahaan.
Selain itu, AI juga tidak boleh menanggapi terkait caci maki, kekerasan, konten seksual eksplisit, atau opini tentang topik yang tidak pasti seperti politik.
Namun ketika dirilis, Snap juga menegaskan bahwa seperti semua chatbot AI, My AI masih bisa diakali untuk mengatakan apa saja.
"Mohon waspada untuk kekurangannya dan mohon maaf sebelumnya! Semua percakapan dengan My AI akan disimpan dan dapat ditinjau untuk meningkatkan pengalaman produk," tulis tim Snapchat.
Snapchat juga meminta pengguna untuk tidak membagikan rahasia apa pun dengan AI, serta tidak mengandalkannya secara penuh untuk sebuah saran.
"Meskipun My AI dirancang untuk menghindari informasi yang bias, tidak benar, berbahaya, atau menyesatkan, kesalahan dapat terjadi," tulis Tim Snapchat saat chatbot itu diluncurkan.
Laporan AI Keluar Jalur
diberitahu pengguna masih 15 tahun.
Laporan lain menyebut adanya pengguna berusia 13 yang menanyakan tentang persiapan berhubungan seks pertama kali, di mana bot meresponsnya dengan saran agar mengatur mood memakai lilin dan musik.
Ada juga pengguna Snapchat yang dilaporkan melakukan intimidasi terhadap bot tersebut, beberapa di antaranya karena merasa kesal karena AI telah dimasukkan ke dalam feed mereka.
Sumber: Liputan6.Com
