OPINI HUKUM
Menakar Tanggung Jawab Hukum Robotik AI (Artificial Intelligence)
A. Latar Belakang
Perkembangan teknologi informasi dan komunikasi di era Revolusi Industri 4.0 dan
menuju Era Society 5.0 telah melahirkan disrupsi teknologi yang masif, salah satunya melalui
pemanfaatan Artificial Intelligence (AI) atau Kecerdasan Buatan. Di Indonesia, adopsi AI tidak
lagi sebatas pada wacana teoritis, melainkan telah diimplementasikan secara konkret dalam
berbagai sektor strategis. Mulai dari sistem algoritma pengambilan keputusan di sektor
finansial (fintech), diagnosis medis berbasis kecerdasan buatan, hingga pengoperasian
kendaraan otonom dan sistem robotik manufaktur. Kehadiran AI diakui mampu meningkatkan
efisiensi, akurasi, dan produktivitas secara signifikan.
Pemanfaatan AI membawa konsekuensi hukum yang sangat kompleks ketika sistem
kecerdasan buatan tersebut melakukan kesalahan, kegagalan sistem (system error), atau
tindakan yang menimbulkan kerugian bagi manusia. Sebagai contoh, bagaimana jika algoritma
AI salah menganalisis rekam medis yang berujung pada malapraktik, atau sistem otomatisasi
investasi melakukan transaksi keliru yang mengakibatkan kerugian finansial berskala besar
bagi konsumen. Fenomena ini memicu pertanyaan mendasar dalam filsafat dan praktis hukum:
siapakah yang harus memikul tanggung jawab hukum atas kerugian yang ditimbulkan oleh
entitas non-manusia yang mampu berpikir mandiri tersebut.
Hukum positif di Indonesia saat ini, khususnya Hukum Perdata yang bersumber pada
Kitab Undang-Undang Hukum Perdata (KUHPerdata) dan Undang-Undang Informasi dan
Transaksi Elektronik (UU ITE), subjek hukum hanya dibagi menjadi dua kategori
konvensional, yaitu manusia (natuurlijke persoon) dan badan hukum (rechtspersoon). AI,
secanggih apa pun kemampuannya, belum diakui sebagai subjek hukum mandiri yang memiliki
hak dan kewajiban hukum (legal personhood). Akibatnya, terjadi kekosongan hukum
(rechtsvacuüm) dalam menentukan pertanggungjawaban hukum (liability) atas tindakan
otonom AI.
Secara konvensional, penyelesaian sengketa teknologi kerap menggunakan pendekatan
Perbuatan Melawan Hukum (Pasal 1365 KUHPerdata) atau Tanggung Jawab Mutlak (strict
liability). Namun, pendekatan ini menemui jalan buntu karena karakteristik AI modern berbasis
Deep Learning memiliki sifat Black Box—di mana proses pengambilan keputusan oleh mesin
sering kali tidak dapat dilacak kembali atau diprediksi, bahkan oleh pencipta algoritmanya
sendiri. Kondisi ini menyulitkan pembuktian unsur “kesalahan” (schuld) yang menjadi syarat
mutlak dalam hukum perdata nasional.
Jika kondisi kekosongan dan ketidakpastian regulasi ini dibiarkan, hal tersebut
berpotensi merugikan masyarakat selaku konsumen akhir dan sekaligus menghambat iklim
investasi digital karena tidak adanya perlindungan hukum yang berkepastian. Oleh karena itu,
diperlukan suatu analisis dan wacana hukum yang komprehensif untuk menakar serta
merumuskan kembali formula pertanggungjawaban hukum bagi teknologi bertenaga AI. Hal
ini krusial agar inovasi teknologi dapat berjalan selaras dengan kepastian hukum dan
perlindungan hak-hak masyarakat di Indonesia.
B. Dasar Hukum
- Kitab Undang-Undang Hukum Perdata (KUHPerdata) / Burgerlijk Wetboek
Pasal 1365 (Perbuatan Melawan Hukum): “Tiap perbuatan yang melanggar hukum dan
membawa kerugian kepada orang lain, mewajibkan orang yang menimbulkan kerugian itu
karena kesalahannya untuk menggantikan kerugian tersebut.” - Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas UU Nomor 11
Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE)
Pasal 1 angka 8 (Definisi Agen Elektronik): “Agen Elektronik adalah perangkat dari suatu
sistem elektronik yang dibuat untuk melakukan suatu tindakan terhadap suatu Informasi
Elektronik tertentu secara otomatis yang diselenggarakan oleh Orang.” - Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan
Transaksi Elektronik (PP PSTE)
Pasal 11 ayat (1): Menetapkan bahwa Penyelenggara Sistem Elektronik (PSE) wajib
mengoperasikan Sistem Elektronik secara andal, aman, dan bertanggung jawab atas
beroperasinya Sistem Elektronik sebagaimana mestinya.
C. Analisis
Pemanfaatan Artificial Intelligence (AI) di Indonesia menunjukkan adanya kekosongan
hukum (rechtsvacuüm) yang bersumber dari keterbatasan status yuridis teknologi tersebut.
Berdasarkan Pasal 1 angka 8 UU ITE, AI secara tegas diklasifikasikan sebagai Agen Elektronik
yang memposisikannya sekadar sebagai objek hukum atau alat, bukan subjek hukum mandiri.
Akibatnya, merujuk pada Pasal 21 ayat (2) UU ITE, seluruh pertanggungjawaban hukum atas
kerugian yang ditimbulkan oleh pengoperasian AI otomatis ini dibebankan secara mutlak
kepada Orang atau Badan Hukum yang menyelenggarakan sistem tersebut. Kebijakan
pengalihan tanggung jawab ini selaras dengan prinsip kedudukan badan usaha sebagai
penyelenggara sistem elektronik dalam Pasal 11 ayat (1) PP PSTE yang mewajibkan
pengoperasian sistem dilakukan secara andal dan bertanggung jawab.
Pengujian kerugian akibat kecerdasan buatan melalui instrumen gugatan Perbuatan
Melawan Hukum (PMH) berdasarkan Pasal 1365 KUHPerdata menemui hambatan
pembuktian yang signifikan. Sifat inheren AI modern yang berbasis Deep Learning melahirkan
fenomena Black Box, di mana alur logika keputusan mesin sering kali tidak dapat dilacak atau
diprediksi kembali, bahkan oleh pengembang algoritmanya sendiri. Kondisi ini menyulitkan
pihak korban untuk membuktikan adanya unsur “kesalahan” atau kelalaian manusia (schuld)
yang menjadi syarat mutlak dalam pasal PMH tradisional. Jika pengembang menggunakan
dalih bahwa kesalahan tersebut murni evolusi mandiri teknologi yang tidak dapat diduga, maka
hak-hak korban terancam tidak terlindungi.
Guna mengatasi kebuntuan pembuktian tersebut, konstruksi hukum perdata nasional
dapat dioptimalkan dengan mengalihkan beban pembuktian menggunakan pendekatan Pasal
1367 ayat (1) KUHPerdata mengenai tanggung jawab atas barang di bawah pengawasan.
Melalui pendekatan ini, pelaku usaha atau pengembang diposisikan sebagai pengawas mutlak
atas AI, sehingga segala kerugian yang ditimbulkan oleh objek tersebut menjadi tanggung
jawab hukum mereka tanpa korban harus membuktikan letak kesalahan internal algoritma.
Perlindungan ini diperkuat oleh Pasal 19 UU Perlindungan Konsumen yang menerapkan
prinsip tanggung jawab produk (product liability). Pelaku usaha wajib memberikan ganti rugi
atas kegagalan fungsi (malfunction) teknologi yang mereka edarkan, kecuali mereka dapat
membuktikan sebaliknya di pengadilan. Mengingat SE Menkominfo No. 9/2023 tentang Etika
AI saat ini masih bersifat soft law tanpa sanksi mengikat, Indonesia mendesak adanya
pembentukan undang-undang khusus untuk merumuskan batasan tanggung jawab hukum AI
demi menjamin kepastian hukum di era digital.
D. Kesimpulan dan Opini
Artificial Intelligence (AI) saat ini belum memiliki status sebagai subjek hukum
mandiri (legal personhood), melainkan masih dikategorikan sebagai Agen Elektronik yang
berstatus sebagai objek hukum berdasarkan ketentuan UU ITE. Konsekuensi yuridis dari status
ini adalah seluruh pertanggungjawaban hukum atas kerugian yang ditimbulkan oleh kegagalan
fungsi atau keputusan otonom AI dialihkan sepenuhnya kepada manusia atau badan hukum
yang mengoperasikannya. Namun, instrumen hukum perdata tradisional seperti Pasal 1365
KUHPerdata tentang Perbuatan Melawan Hukum (PMH) tidak lagi memadai untuk
menyelesaikan sengketa berbasis AI akibat karakteristik Black Boxyang menyulitkan korban
dalam membuktikan unsur kesalahan manusia. Guna menjamin perlindungan konsumen,
pendekatan hukum harus bergeser dari pembuktian kesalahan konvensional menuju
pemanfaatan Pasal 1367 KUHPerdata mengenai tanggung jawab atas barang di bawah
pengawasan serta penerapan pertanggungjawaban mutlak (strict liability) berdasarkan UU
Perlindungan Konsumen.
Membebankan kesalahan teknologi Black Box kepada korban melalui beban
pembuktian PMH konvensional adalah sebuah ketidakadilan hukum yang nyata. Di era disrupsi
digital saat ini, Indonesia tidak lagi bisa bergantung pada SE Menkominfo No. 9/2023 yang
sekadar bersifat imbauan etis tanpa taring penegakan hukum perdata maupun pidana.
Pemerintah bersama DPR RI harus segera menginisiasi pembentukan regulasi setingkat
undang-undang, yang mengadopsi prinsip pertanggungjawaban mutlak produk (product
liability) bagi korporasi pengembang AI. Lebih lanjut, hukum Indonesia sudah saatnya mulai
mendiskusikan pemberian status subjek hukum terbatas (electronic person) bagi sistem AI
dengan risiko tinggi, yang diwajibkan untuk memiliki asuransi tanggung gugat mutlak
(compulsory liability insurance). Langkah progresif ini sangat krusial; bukan untuk membatasi
ruang gerak inovasi teknologi, melainkan demi memberikan kepastian hukum yang adil,
melindungi hak-hak masyarakat sebagai konsumen, dan mencegah terjadinya kekosongan
hukum yang dapat merugikan ekosistem digital nasional.
E. Rekomendasi
Guna mengatasi kekosongan hukum (rechtsvacuüm) dan mengantisipasi dampak
kerugian dari pemanfaatan teknologi kecerdasan buatan, Pemerintah bersama Dewan
Perwakilan Rakyat (DPR) RI direkomendasikan untuk segera menginisiasi pembentukan
regulasi komprehensif setingkat undang-undang, yang secara khusus mengatur tentang Tata
Kelola dan Tanggung Jawab Hukum Artificial Intelligence (UU AI). Regulasi baru ini harus
mengadopsi prinsip pertanggungjawaban produk (product liability) dan memprioritaskan
penerapan asas beban pembuktian terbalik (omkeren van bewijslast). Melalui pendekatan
tersebut, ketika terjadi kegagalan fungsi (malfunction) sistem AI yang merugikan publik, beban
untuk membuktikan ketiadaan kelalaian berada di tangan korporasi pengembang atau penyedia
layanan, bukan pada masyarakat selaku konsumen yang awam terhadap teknis algoritma.
Selain penguatan dari sisi legislasi primer, Kementerian Komunikasi dan Digital
(Kemenkomdigi) direkomendasikan untuk meningkatkan status hukum Surat Edaran Menteri
Kominfo Nomor 9 Tahun 2023 tentang Etika AI menjadi Peraturan Menteri (Permen) yang
memiliki kekuatan hukum mengikat dan sanksi administratif yang tegas. Sebagai langkah
implementatif jangka pendek di peradilan perdata, para praktisi hukum dan hakim agung di
Mahkamah Agung disarankan untuk menelurkan Surat Edaran Mahkamah Agung (SEMA)
yang memberikan panduan seragam bagi hakim di seluruh Pengadilan Negeri untuk
menggunakan konstruksi Pasal 1367 KUHPerdata tentang tanggung jawab atas barang di
bawah pengawasan dalam memutus sengketa kerugian akibat AI. Terakhir, bagi sektor industri
teknologi, pelaku usaha direkomendasikan untuk menerapkan skema mitigasi risiko mandiri
berupa kewajiban kepemilikan asuransi tanggung gugat (compulsory liability insurance)
khusus untuk produk AI dengan risiko tinggi, guna menjamin ketersediaan dana pemulihan hak
bagi korban jika terjadi error pada sistem otonom mereka.