Kominfo Antisipasi Potensi Adu Domba Gara-gara AI di dalam pilpres 2024

Kementerian Komunikasi serta Informatika () mengantisipasi adu domba dengan menggunakan video kecerdasan buatan () di dalam dalam momen .

Penggunaan AI dalam masa kampanye pilpres 2024 memang menjadi kecemasan berbagai pihak. Pasalnya, teknologi ini diprediksi dapat menyebabkan disinformasi juga hoaks semakin merajalela.

“Ini sedang mengkaji bagaimana artificial intelligence nanti kan ke depannya makin canggih. Jangan-jangan Bu Vero (Ketua Dharma Pertiwi) mukanya disamarin berantem deh sejenis tetangga. Diedit diadu domba seperti itu, diedit gitu doang. Makanya kami sedang mengkaji etik untuk AI akibat ini penting,” ujar Menkominfo Budi Arie Setiadi, ketika ditanya mengenai prospek hoaks AI saat pemilu, Jakarta, Kamis (19/10).

Budi menyebut AI miliki prospek kebermanfaatan yang mana digunakan sangat besar. Namun, teknologi ini juga mempunyai prospek merusak yang tersebut dimaksud serupa besarnya.

“Iya, apalagi nanti pemilu. Orang dapat berantem akibat AI. Yang tadi saya contohin, coba suara, muka kamu difitnah. Berantem enggak? Padahal hasil AI,” tuturnya.

Untuk mengawal kesempatan tersebut, Budi mengaku pihaknya tengah melakukan kajian terkait regulasi yang dimaksud mungkin dihadirkan, mulai dari dampak AI hingga etika penggunaannya.

Sebelum regulasi hal hal itu rampung, ia mengimbau masyarakat untuk berhati-hati terhadap hoaks, fitnah, kemudian juga ujaran kebencian.

Hoaks atau misinformasi pada masa pada masa kini hadir dalam bentuk yang dimaksud mana sangat canggih, salah satunya deepfake. Deepfake adalah teknik manipulasi konten video serta ucapan yang mana digunakan mengandalkan kecerdasan buatan.

Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi akan datang digunakan untuk mempengaruhi situasi serta opini publik jelang pemilihan umum 2024.

Penelitian Kasperksy juga mengungkap terdapat permintaan yang digunakan signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik.

Menurut Head of Government Affairs and Public Policy for Asia-Pacific, Japan, Middle East, Turkey and Africa Regions Kaspersky Genie Sugene Gan, teknologi deepfake sebetulnya tak berbahaya, namun di tempat area tangan penipu, teknologi ini mampu menjadi alat kejahatan. Maka dari itu, ia mengajak seluruh pihak membangun kesadaran juga kewaspadaan terhadap teknologi deepfake kemudian juga kemungkinan eksploitasinya.

Sebagai contoh, beberapa waktu lalu ramai pengumuman mirip Presiden Joko Widodo (Jokowi) menyanyikan lagu ‘Asmalibrasi’ milik band Soegi Bornean. Suara yang mana hal tersebut terdengar dalam video yang tersebut disebut dinilai mirip dengan pendapat asli Jokowi.

Raksasa teknologi Microsoft juga mewanti-wanti prospek bahaya AI pada pilpres 2024. Salah satunya adalah penyelenggaraan AI yang digunakan dapat menimbulkan disinformasi menyebar luas.

Panji Wasmana, National Technology Officer Microsoft Indonesia mengungkap AI sanggup belaka dipakai untuk “tujuan yang tersebut hal itu tidaklah ada baik” seperti memunculkan disinformasi selama pemilihan umum 2024.

“Kalau menggunakan beberapa tools seperti llm (large language models), search engine atau apa pun, coba ketik siapa pemenang presiden, bagaimana menjadi presiden 2024, akan keluar sebuah informasi. Dan kita akan mudah melakukan disinformasi di area dalam dalamnya. Itu kemungkinan dapat hanya terjadi dengan melakukan teknologi AI,” kata Panji di area dalam kantor Microsoft Indonesia, Jakarta, Rabu (18/10).

“Kita bisa saja cuma menggunakan teknologi AI untuk targeted campaign bahkan,” ujarnya menambahkan.