SUMATERA BARAT — Menurut Nezar, pendekatan etika AI yang bersifat sukarela sudah tidak lagi memadai untuk menghadapi kompleksitas ancaman saat ini. Ia menekankan perlunya protokol ketat yang memastikan keputusan-keputusan penting tetap berada di bawah kendali manusia.
"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," kata Nezar dalam keterangannya, Kamis (18/6).
Ia mengungkapkan, rendahnya literasi digital masyarakat terhadap perkembangan AI membuat banyak orang mudah terkecoh. Kondisi ini, lanjut Nezar, menjadi salah satu faktor utama maraknya penipuan berbasis AI yang merugikan korban secara masif.
Nezar menyampaikan bahwa sejumlah pakar telah mengusulkan penerapan protokol yang lebih ketat dalam pengembangan AI. Usulan tersebut mencakup kewajiban menyertakan prinsip human in the loop dalam setiap tahapan pengambilan keputusan oleh sistem AI.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa. Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," ujarnya.
Wamenkomdigi menegaskan bahwa prinsip transparansi, akuntabilitas, dan keamanan tidak boleh sekadar menjadi slogan. Ketiga prinsip itu harus diwujudkan secara konkret dalam proses pengembangan produk AI melalui pendekatan ethics by design.
"Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," tandas Nezar.
Ia mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk bersama-sama memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan. Langkah ini dinilai penting agar teknologi AI dapat dimanfaatkan secara optimal tanpa mengorbankan keamanan dan kepercayaan publik.