Artificial Intelligence Regulation in Indonesia: A Normative Study of Deepfake Misuse Within the Risk-Based Regulation Framework
DOI:
https://doi.org/10.37253/conescintech.v6i1.12806Keywords:
artifical Intelligence, deepfake, risk-based regulation, legal regulation, risk clasificationAbstract
The rapid development of Artificial Intelligence (AI) has accelerated the emergence of deepfake technology, which offers significant benefits in fields such as entertainment, education, and digital content creation but also poses serious legal and societal risks. The misuse of deepfakes has contributed to privacy violations, identity theft, defamation, misinformation, fraud, and other forms of cybercrime. In Indonesia, the current legal framework remains inadequate because existing regulations are fragmented, reactive, and lack specific provisions governing deepfake technology. This study aims to analyze the adequacy of Indonesian legal regulations in addressing deepfake misuse and to propose the adoption of a risk-based regulation approach as a more adaptive and comprehensive regulatory framework. This research employs a normative legal method using statutory and conceptual approaches by examining relevant legislation, including the Electronic Information and Transactions Law, the Personal Data Protection Law, and the Indonesian Criminal Code. The findings indicate that Indonesia's legal framework primarily relies on broad interpretations of existing laws, resulting in legal uncertainty and limited preventive capacity. In contrast, a risk-based regulation approach classifies AI applications according to their level of risk and imposes proportional legal obligations, including transparency, accountability, and preventive risk management. The study concludes that adopting a risk-based regulatory framework would strengthen Indonesia's legal system by improving legal certainty, protecting individual rights, and ensuring a more effective balance between technological innovation and public safety.
Downloads
References
Akbar, B. M., Yulia, R., & Romdoni, M. (2026). Urgensi Reformulasi Undang-Undang Informasi dan Transaksi Elektronik terhadap Penyalahgunaan Kecerdasan Buatan Deepfake dalam Perspektif Pembaharuan Hukum Pidana. ALADALAH : Jurnal Politik, Sosial, Hukum Dan Humaniora, 4(2), 1–20.
Al-Ayoubi, S. J., & Suharto, M. A. (2025). Pemidanaan Kepada Pelaku Konten Pornografi Menggunakan Aplikasi Deepfake Pada Peraturan Perundang-Undangan di Indonesia. UNES Law Review, 8(1), 163–173. https://doi.org/10.31933/unesrev.v8i1.2464
Alfitri, N. A., Rahmawati, & Firmansyah. (2024). Perlindungan Terhadap Data Pribadi di Era Digital Berdasarkan Undang-Undang Nomor 27 Tahun 2022. Journal Social Society, 4(2), 92–111. https://doi.org/10.54065/jss.4.2.2024.511
Alif, S. S. Al, Rindiani, A., & Marhayati, C. (2025). Konstruksi Hukum Pidana Dalam Penanggulangan Kejahatan Siber Berbasis Teknologi Deepfake di Indonesia. Legal Standing: Jurnal Ilmu Hukum, 9(5), 1169–1183. https://news.detik.com/berita/d-3567290/polling-58-masyarakat-puas-kinerja-kpk
Amboro, F. Y. P., & Komarhana, K. (2021). Prospek Kecerdasan Buatan sebagai Subjek Hukum Perdata di Indonesia. Law Review, XXI (2), 193–217.
Anggoro, T. C., & Santoso, B. (2025). Politik Kriminal Integratif dalam Penanggulangan Perjudian Onlinedi Indonesia. Jurnal USM Law Review, 8(3), 1643–1664. https://doi.org/10.26623/julr.v8i3.12541
Anuar, M. A. (2026). Pengaturan Hukum Terhadap Penyalahgunaan Artificial Inteligence (AI) Dalam Konteks Deepfake Pornografi Di Indonesia. Skripsi: Universitas Jambi.
Apandi, M., Rahayu, K., Agus Prayugo, W., & Ariany, L. (2025). Kekaburan Norma dalam Kebebasan Berekspresi di Era Digital: Analisis Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik. Jurnal Hukum Lex Generalis, 5(12). https://doi.org/10.56370/jhlg.v5i12.1007
Arrasuli, B. K., & Fahmi, K. (2023). Perlindungan Hukum Positif Indonesia Terhadap Kejahatan Penyalahgunaan Data Pribadi. Unes Journal of Swara Justisia, 7(2), 369–392.
Arvitto, R. S. (2025). Implikasi Hukum Deepfake: Telaah terhadap UU ITE dan UU PDP. Jurnal Ilmiah Hukum Dan Hak Asasi Manusia, 4(2), 73–82. https://doi.org/10.35912/jihham.v4i2.3937
Aryawan, I. P. G. (2026). Kekosongan Norma Hukum dalam Penanganan Deepfakesebagai Alat Kejahatan Siber: Studi Yuridis di Wilayah Polri Klungkung. Menulis : Jurnal Penelitian Nusantara, 2(4), 295–307.
Athallah, N. B. P., Candra, A., & Sanusi, H. A. (2026). Urgensi dan Kecukupan Pengaturan Deepfake dalam Undang- Undang Informasi dan Transaksi Elektronik di Indonesia. Judge: Jurnal Hukum, 06(09), 1665–1676.
Azis, A. (2025). Rekonstruksi Hukum Penyalahgunaan Artificial Intelligence(AI) Dalam Konten Kesusilaan Dan Pencemaran Nama Baik. Rewang Rencang : Jurnal Hukum Lex Generalis, 6(7), 1–30.
Balqis, A. N., Ramadhani, S. N., & Sumual, A. K. (2025). Risiko Operasional dalam Teknologi Informasi: Kajian Literatur Mengenai Mekanisme Identifikasi, Penilaian, dan Dampaknya terhadap Manajemen Risiko. Journal of Economics, Management, and Accounting, 1(1), 67–77. https://doi.org/10.65310/8hq2hc60
Basah, D. A. Y., Wijaya, A., & Januardy, I. (2025). Kriminalisasi Pelanggaran Protokol Digital: Tinjauan Hukum Pidana Terhadap Penyebaran Deepfake di Media Sosial. Innovative: Journal Of Social Science Research, 5(4), 386–398.
Butt, J. S. (2024). Analytical Study of the World’s First EU Artificial Intelligence (AI) Act, 2024. International Journal of Research Publication and Reviews, 5(3), 7343–7364.
Devi, B. C. (2025). Etika Komunikasi dan Tantangan Regulasi atas Konten AI-Generated di TikTok : Studi Disinformasi Visual di Indonesia. Seminar Nasional Fakultas Hukum, Ilmu Sosial, Dan Ilmu Politik, 1–9.
Disemadi, H. S. (2022). Lenses of Legal Research: A Descriptive Essay on Legal Research Methodologies. Journal of Judicial Review, 24(2), 289–304. https://doi.org/10.37253/jjr.v24i2.7280
Domuari, A., & Yudiantara, I. G. N. N. K. (2026). Penyalahgunaan Deepfake Dalam Bentuk Pornografi Anak Menurut Hukum Positif Indonesia. Jurnal Media Akademik, 4(1), 1–16.
European Parliament and Council of the European Union. (2024). European Union Artificial Intelligence Act (EU AI Act) - Final Text. European Parliament and Council of the European Union.
Fa’izah, F. N., & Kurniasari, R. J. (2026). Deep Fake Crime On Social Media: A Juridical Analysis Of The Spread Of Hoaxes And The Manipulation Of Public Opinion In State Security. Yurijaya : Jurnal Ilmiah Hukum, 7(3), 522–550. https://doi.org/10.51213/yurijaya.v7i3.238
Hasanuddin, M., Nurfransiska, F., & Maryuliyanto. (2026). Pengaturan Artificial Intelligence (AI) Dalam Perspektif Hukum Indonesia: Analisis Normatif Atas Tntangan, Implikasi, Dan Model Regulasi Ideal. Judge: Jurnal Hukum, 6(6), 1890–1897.
Hermansyah, M. G. R. N. (2025). Penggunaan Artificial Intelligence dan Deep Fake Analisis Kasus Pidana Video Deepfake yang Mencatut Presiden Prabowo Subianto Tahun 2025. JIC: Jurnal Hukum Dan Konstitusi, 1(3), 132–146.
Ibrahim, M. K., Hafidz, M., & Atmaja, Z. F. H. (2025). Urgensi Pembaruan Hukum Dalam Menghadapi Kejahatan Yang Melibatkan Teknologi Kecerdasan Buatan AI. Journal of Legal, Political, and Humanistic Inquiry, 1(2), 106–115. https://doi.org/10.65310/2dk3wh05
Intani, N. A., Widyastuti, I., & Simamora, H. S. (2026). Tinjauan Hukum Terhadap Penyalahgunaan Artificial IntelligenceDalam Pembuatan Konten Video Bermuatan Pelecehan Seksual Terhadap Perempuan. Al-Zayn: Jurnal Ilmu Sosial & Hukum, 4(1), 173–183.
Kartadinata, A. (2026). Rekonstruksi Delik Pidana dalam Kejahatan Deepfake : Tantangan Pembuktian dan Perlindungan Korban. Jurnal Ilmiah Hukum Dan Administrasi Publik (MUARAKUM), 2(1), 36–48.
Khair, F., & Ahyar Wiraguna, S. (2025). Data Protection Impact Assessment (DPIA) sebagai Instrumen Kunci Menjamin Kepatuhan UU PDP 2022 di Indonesia. Politika Progresif : Jurnal Hukum, Politik Dan Humaniora, 2(2), 246–254. https://doi.org/10.62383/progres.v2i2.1821
Kristiyenda, Y. S., Faradila, J., & Basanova, C. (2025). Pencegahan Kejahatan Deepfake: Studi Kasus terhadap Modus Penipuan Deepfake Prabowo Subianto dalam Tawaran Bantuan Uang. ALADALAH: Jurnal Politik, Sosial, Hukum Dan Humaniora, 3(2), 149–164. https://doi.org/10.59246/aladalah.v3i2.1263
Kusnadi, S. A. (2021). Perlindungan Hukum Data Pribadi Sebagai Hak Privasi. AL WASATH Jurnal Ilmu Hukum, 2(1), 9–16. https://doi.org/10.47776/alwasath.v2i1.127
Lestari, P. A., Saputri, Z. R., Jamilah, R., Febiyanti, F., Fadilah, M. F., Firnanda, M. F., & Koeswara, T. S. N. (2026). Konten Ilegal Kecerdasan Buatan Berbasis Deepfake dan Upaya Penanggulangannya di Indonesia. Jurnal Ilmiah Sistem Informasi, 5(1), 26–35. https://doi.org/10.51903/r5xwq018
Mecca, A. S. P., Aznul Hidaya, W., & Tuasikal, H. (2025). Pemanfaatan Teknologi Kecerdasan Buatan (Artificial Intelligence) Dalam Sistem Peradilan Pidana Di Indonesia. Jurnal Sosial Teknologi, 5(6), 1730–1746. https://doi.org/10.59188/jurnalsostech.v5i6.32207
Nicholle, M. (2025). Pertanggung-jawaban Hukum atas Keputusan Otomatis Berbasis Kecerdasan Buatan: Studi Komparatif antara Uni Eropa dan Asia Tenggara. Jaksa : Jurnal Kajian Ilmu Hukum Dan Politik, 3(4), 65–79. https://doi.org/10.51903/ejr3ep34
Nirmala, A. Z., & Rahmania, N. (2025). Transformation of Sexual Harassment in the Age of Artificial Intelligence: A Review of Indonesian Law. Unizar Law Review, 8(1).
Nugroho, Y., & Halim, A. (2026). Rekonstruksi Tanggung Jawab Hukum Penyalahgunaan Artificial Intelligence di Indonesia Dalam Perspektif Regulasi Global. FENOMENA, 20(01), 174. https://doi.org/10.36841/fenomena.v20i01.8262
Nurdin, S. W., & Nugraha, I. F. (2025). Ancaman Deepfake Dan Disinformasi Berbasis Ai: Implikasi Terhadap Keamanan Siber Dan Stabilitas Nasional Indonesia. JIMR: Journal Of International Multidisciplinary Research, 4(vol), 84. http://azramedia-indonesia.azramediaindonesia.com/index.php/JIMR/index
DOI: https://doi.org/10.62668/jimr.v4i01.1551
Nurhayati, S., Eddy Soeryanto Soegoto, & Tri Utomo Wiganarto. (2026). Model Technopreneurship Berbasis Explainable Artificial Intelligence (Xai) untuk Meningkatkan Kepercayaan dan Intensi Adopsi Teknologi pada Startup Digital. EKONOMIKA45 : Jurnal Ilmiah Manajemen, Ekonomi Bisnis, Kewirausahaan, 13(2), 1744–1756. https://doi.org/10.30640/ekonomika45.v13i2.6141
Nurkholisah, S., Rismana, D., Nugroho, A. E., Munjiyah, A., & Ayunisa, Q. (2025a). Tantangan Kriminalisasi Deepfake dalam Hukum Pidana Indonesia Challenges in Criminalizing Deepfakes under Indonesian Criminal Law. Jurnal Usm Law Review, 8(3), 1–12. https://journals.usm.ac.id/index.php/julr/article/view/13060
Oktavianti, R. G., Muqsith, A., & Nadia, I. (2025). Penyalahgunaan Deepfake Era Canggihnya Teknologi Memicu Kejahatan Media: Misuse of Deepfake in The Era of Advanced Technology Is Triggering Media Crime. IUS: Jurnal Ilmiah Fakultas Hukum, 13(1), 114–122.
Orwat, C., Bareis, J., Folberth, A., Jahnel, J., & Wadephul, C. (2022). Normative Challenges of Risk Regulation of Artificial Intelligence and Automated Decision-Making. SSRN Electronic Journal, 01. https://doi.org/10.2139/ssrn.4274828
Prasetyo, E. (2024). Kesesuaian Sistem Pengawasan Perizinan Berbasis Risiko di Sektor Lingkungan Hidup Pasca UU Cipta Kerja Dengan Prinsip Perlindungan dan Pengelolaan Lingkungan Hidup di Indonesia. Prosiding Seminar Hukum Aktual Fakultas Hukum Universitas Islam Indonesia, 2(6), 84–102.
Prastia, Y. (2025). Keseimbangan Inovasi dan Kepatuhan: Implementasi Pelindungan Data Pribadi dalam Ekosistem Finansial Teknologi dan Aset Digital. Journal of Financial Sector Law & Policy, 1(2), 262–302.
Pratama, F., Avini, T., Saputra, I., Putri, M. K., & Imamfajri, S. (2024). Analisis Risiko Keamanan Pada Pengembangan Perangkat Lunak Berbasis Cloud. Jurnal Kecerdasan Buatan Dan Teknologi Informasi, 3(2), 61–67. https://doi.org/10.69916/jkbti.v3i2.130
Prayoga, H., & Tuasikal, H. (2025). Penyebaran Konten Deepfake Sebagai Tindak Pidana: Analisis Kritis Terhadap Penegakan Hukum Dan Perlindungan Publik Di Indonesia. Abdurrauf Law and Sharia, 2(1), 22–38. https://doi.org/10.70742/arlash.v2i1.194
Puannandini, D. A., Fabian, R. M., Firdaus, R. A. P., Mustopa, M. Z., & Herdiyana, I. (2025). Liabilitas Produk Ai Dalam Sistem Hukum Indonesia: Implikasi Bagi Pengembang, Pengguna, Dan Penyedia Layanan. Luris Studia: Jurnal Kajian Hukum, 6(1), 24–33.
Putri, B. W. Y. (2025). Perlindungan Hukum Hak Publisitas Terhadap Eksploitasi Teknologi Deepfake Ai Dalam Konteks Komersial Menurut Hukum Positif Di Indonesia. NUSANTARA: Jurnal Ilmu Pengetahuan Sosial, 12(9), 3968–3978.
Putri, N. P. M., Hartono, M. S., & Yudiawan, I. D. G. H. (2024). Analisis Reformulasi Pertanggungjawaban Pidana Pengguna Teknologi Deepfake Dalam Tindak Pidana Pencemaran Nama Baik Berbasis Artificial Intelligence. Jurnal Pacta Sunt Servanda, 5(2), 120–129. https://doi.org/10.23887/jpss.v5i2.5807
Putri, S. M. I., Salsabila, N., & Hosnah, A. U. (2024). Kriminalisasi Penggunaan Deepfake dalam Tindak Pidana Penipuan dan Pencemaran Nama Baik: Tantangan dan Solusi Hukum. Jurnal Hukum Legalita, 6(2), 83–90. https://doi.org/10.47637/legalita.v6i2.1453
Redaksi Tribata. (2025). Polisi Berhasil Menangkap Pelaku Sindikat Penipuan Modus Video Deepfake. Tribata News.
Respati, A. A. (2024). Reformulasi UU ITE terhadap Artificial Intelligence Dibandingkan dengan Uni Eropa dan China AI Act Regulation. Jurnal USM Law Review, 7(3), 1737–1758. https://doi.org/10.26623/julr.v7i3.10578
Salsabilla, A. (2026). Perlindungan Hukum terhadap Korban Perekaman Tidak Sah dan Penyebaran Konten Pribadi di Platform Digital Berdasarkan Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribad. Al-Zayn: Jurnal Ilmu Sosial & Hukum, 4(3), 3769–3781.
Shabrina, A. N., Naila, G. S., Nuryansyah, G. P., & Amanda, R. (2026). Bahaya Deepfake Dalam Penyalahgunaan Grok AI Di Platform X Sebagai Bentuk Disinformasi. Integrative Perspectives of Social and Science Journal (IPSSJ), 3(1), 195–207.
Shuen, Y. Y., Mariana, L., & Sihombing, L. (2026). Perlindungan Hukum Hak Atas Potret Publik Figur Terhadap Penggunaan Teknologi Generative AI oleh Penggemar. Al-Zayn: Jurnal Ilmu Sosial & Hukum, 4(3), 8303–8311.
Silalahi, W., & Dachi, F. N. (2026). Pertanggung jawaban Hukum Platform Media Sosial terhadap Penyebaran Konten Deepfake Berbasis Artificial Intelligence dalam Kasus Penipuan Berkedok Ritual Uang Gaib Ujang Busthomi. Politika Progresif: Jurnal Hukum, Politik Dan Humaniora, 3(2), 22–36.
Sofia, Shahrullah, R. S., & Situmeang, A. (2026). Tanggung Jawab Hukum atas Penyalahgunaan Teknologi AI: Studi Kasus Deepfake Prabowo Subianto dalam Modus Bantuan Uang. Jurnal Media Hukum, 26(1), 165–191.
Susanti, D. K. E. D., Yuliartini, N. P. R., & Mangku, D. G. S. (2026). Analisis Yuridis Pertanggungjawaban Pidana Penyelenggara Sistem Elektronik Artificial Intelligence Atas Manipulasi Data Biometrik Orang Lain Dalam Penipuan Transaksi Elektronik. Al-Zayn: Jurnal Ilmu Sosial & Hukum, 4(3), 125–138.
Sutiyono, H., Ihsan, M., Yahya, M., Syauqi, M., Puspita, I., Fitriyani, A., Fachrurozi, M., & Rahman, R. (2026). Teori Belajar Cybernetik dalam Perspektif Islam & Etika Kejujuran di Era Teknologi Informasi (N. L. Mahmudah & Y. N. Hadi (eds.)). Semarang: PT. Naya Sasmita Pustaka.
Syahra, A., Mecca, P., Hidaya, W. A., Tuasikal, H., & Sorong, U. M. (2025). Pemanfaatan Teknologi Kecerdasan Buatan (Artifical Intelligence) dalam Sistem Peradilan Pidana di Indonesia. Jurnal Sosial Teknologi, 5(6), 1–17.
Tan, D. (2021). Metode penelitian hukum: Mengupas dan mengulas metodologi dalam menyelenggarakan penelitian hukum. NUSANTARA: Jurnal Ilmu Pengetahuan Sosial, 8(8), 2463–2478.
Usman, S. O. (2025). The Dual-Use Dilemma: Deepfakes as a Tool for Innovation and Misinformation. ResearchGate.
Utami, N. P. G. S., Sutrisni, N. K., & Suharyanti, N. P. N. (2025). Pengaturan Hukum Tanggung Jawab Pemanfaatan Artificial Intelligence di Indonesia. Jurnal Hukum Mahasiswa, 5(2), 315–325. https://doi.org/10.36733/jhm.v5i2
Wardoyo, H. (2026). Analisis Yuridis Penggunaan Artificial Intelligencedalam Aktivitas Bisnis Digital di Indonesia: Tantangan Regulasi dan Kepastian Hukum. Jurnal Serambi Hukum, 19(2), 133–148.
Wicaksono, D. T., Prasetya, F., & Lestari, N. P. (2026). Penegakan Hukum Terhadap Kejahatan Deepfake dalam Perspektif Hukum Positif Indonesia. Jurnala Fakta Hukum, 4(2), 63–70.
Widjaja, G. (2025). Deepfake dan Masa Depan Kebenaran: Implikasi Etis Dan Sosial. Berajah Journal: Jurnal Pembelajaran Dan Pengembangan Diri, 5(2), 147–156.
Yanuafriza, A. Y., & Eluan, F. V. (2025). Pertanggungjawaban Perdata atas Penyalahgunaan Teknologi Deepfake dalam Perspektif Hukum Indonesia. Indonesian Journal of Social Sciences and Humanities, 5(2), 294–304.
Zulfikar, & Sihombing, P. V. A. E. (2025). Urgensi Model Kerangka Yuridis Adaptif terhadap Deepfake AI (Artificial Intelligence) dalam Perspektif Hukum Siber. Jurnal Pendidikan Sejarah Dan Riset Sosial Humaniora (KAGANGA), 8(6), 915–926.
Zulkarnain, R., & Rahmayanti. (2026). Kedudukan Artifical Intelligence dalam Sistem Hukum Indonesia Analisis Normatif Antara Subjek Hukum dan Instrumen Teknologi. Jurnal Ilmiah Bidang Sosial, Ekonomi, Budaya, Teknologi Dan Pendidikan, 5(5), 2482–2490.
