Indonesia Siapkan Peta Jalan dan Perpres AI, Ini Arah Tata Kelolanya

Suara Kalbar – Pemanfaatan kecerdasan buatan atau artificial intelligence (AI) terus meluas dan mulai digunakan untuk membantu berbagai aktivitas di sejumlah sektor.

Teknologi ini tidak lagi hanya dimanfaatkan untuk membuat teks, gambar, maupun konten digital. AI juga berkembang menjadi sistem yang mampu menjalankan sejumlah tugas berdasarkan tujuan atau perintah yang diberikan.

Perkembangan tersebut membuat kebutuhan terhadap tata kelola AI semakin penting. Pemerintah Indonesia saat ini menyiapkan kerangka pengaturan yang lebih komprehensif melalui peta jalan AI nasional dan peraturan presiden (perpres).

Kerangka tersebut diarahkan untuk memberikan panduan mengenai pemanfaatan AI sekaligus memperhatikan aspek etika, keamanan, perlindungan data pribadi, serta berbagai risiko yang dapat muncul seiring perkembangan teknologi.

Indonesia Sudah Memiliki Pedoman Etika AI

Sebelum menyiapkan regulasi yang lebih luas, Indonesia telah memiliki pedoman mengenai penggunaan AI. Salah satunya adalah Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.

Pedoman tersebut menjadi acuan bagi pelaku usaha dan penyelenggara sistem elektronik dalam kegiatan yang berkaitan dengan pengembangan maupun pemanfaatan AI.

Sejumlah prinsip yang ditekankan meliputi kemanusiaan, inklusivitas, keamanan, transparansi, akuntabilitas, perlindungan data pribadi, aksesibilitas, serta pembangunan dan lingkungan berkelanjutan.

Dengan prinsip tersebut, penggunaan AI tidak hanya dilihat dari kemampuan teknologinya. Dampaknya terhadap manusia, keamanan sistem, dan aspek etika juga menjadi bagian yang perlu diperhatikan.

Namun, perkembangan AI yang berlangsung cepat membuat pemerintah menilai dibutuhkan kerangka tata kelola yang lebih luas untuk mengantisipasi perkembangan teknologi tersebut.

Pemerintah Siapkan Peta Jalan dan Perpres AI

Pemerintah kemudian menyiapkan peta jalan AI nasional serta regulasi yang akan dituangkan dalam perpres. Kerangka tersebut diarahkan menjadi panduan tata kelola pemanfaatan AI di berbagai sektor.

Peta jalan tersebut nantinya menjadi acuan bagi kementerian dan lembaga dalam mengadopsi AI, termasuk pada sektor transportasi, pendidikan, kesehatan, hingga layanan keuangan.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengatakan pemerintah menyiapkan dua produk utama dalam pengembangan tata kelola AI, yakni peta jalan dan regulasi AI.

“Akan ada dua produk, yaitu peta jalan dan regulasi AI. Lalu Peraturan Presiden yang dapat berlaku di seluruh lembaga. Jadi, dengan melakukan itu, kami memperkuat regulasi kami tentang AI,” kata Nezar, dikutip dari laman Kemenkomdigi.

Menurut Nezar, peta jalan tersebut akan memberikan panduan mengenai prinsip penggunaan AI, termasuk hal-hal yang boleh dilakukan, hal yang tidak boleh dilakukan, serta berbagai risiko yang perlu diperhatikan.

“Ini seperti panduan untuk semua kementerian yang terkait dengan adopsi AI. Kami hanya memberikan prinsip-prinsip bagaimana mengadopsinya, apa yang boleh dan tidak boleh dilakukan, serta apa yang perlu diwaspadai terkait risikonya,” ujarnya.

Tingkat Risiko Jadi Pertimbangan

Tingkat risiko menjadi salah satu aspek yang diperhatikan dalam penyusunan tata kelola AI. Hal ini berkaitan dengan kemampuan AI yang terus berkembang.

AI kini tidak hanya digunakan untuk memberikan jawaban berdasarkan perintah pengguna, tetapi juga berkembang menjadi sistem yang mampu menjalankan sejumlah tindakan secara lebih mandiri.

Salah satu perkembangan tersebut terlihat melalui agentic AI. Teknologi ini dirancang untuk menjalankan tindakan berdasarkan tujuan atau perintah yang diberikan.

Kemampuan tersebut kemudian menimbulkan pertanyaan mengenai batas kewenangan AI dan sejauh mana sistem dapat diberi kemampuan untuk bertindak tanpa campur tangan manusia.

Persoalan menjadi semakin kompleks ketika AI dapat berkomunikasi atau berkoordinasi dengan sistem AI lainnya. Karena itu, batas kewenangan, pengawasan, dan mekanisme pengendalian menjadi bagian penting dalam tata kelola AI.

Manusia Tetap Memegang Kendali

Dalam menghadapi perkembangan AI yang semakin mandiri, pemerintah menekankan prinsip human centric dan human in the loop.

Secara sederhana, AI dapat digunakan untuk membantu pekerjaan manusia dan meningkatkan efisiensi. Namun, dalam keputusan tertentu, manusia tetap perlu terlibat dalam proses pengambilan keputusan dan memiliki kendali terhadap sistem.

Risiko AI juga tidak hanya muncul ketika sistem menghasilkan keputusan. Aspek keamanan perlu diperhatikan sejak pengelolaan data hingga proses pengembangan model AI.

Beberapa risiko yang menjadi perhatian antara lain prompt injection dan data poisoning. Kedua bentuk serangan tersebut dapat memengaruhi cara sistem AI memproses informasi dan menghasilkan keluaran.

Karena itu, perkembangan AI juga berkaitan erat dengan keamanan siber. Pemanfaatan teknologi tersebut membutuhkan perhatian terhadap kemungkinan penyalahgunaan sistem maupun manipulasi data.

Data Pribadi dan Transparansi

Perlindungan data pribadi menjadi salah satu prinsip yang telah ditekankan dalam pedoman etika AI di Indonesia. Hal ini berkaitan dengan kemampuan AI dalam menggunakan dan memproses berbagai jenis data.

Pengelolaan data dalam pengembangan maupun pemanfaatan AI perlu memperhatikan ketentuan mengenai perlindungan data pribadi.

Transparansi juga menjadi prinsip penting. Penyelenggara AI perlu memperhatikan keterbukaan mengenai data dan proses yang digunakan dalam pengembangan maupun penerapan teknologi tersebut.

Selain itu, kredibilitas dan akuntabilitas menjadi bagian yang perlu diperhatikan. Informasi atau hasil yang dihasilkan AI perlu dapat dipertanggungjawabkan ketika digunakan maupun disebarkan kepada masyarakat.

Dengan prinsip tersebut, tata kelola AI tidak hanya berfokus pada kemampuan teknologi, tetapi juga pada bagaimana teknologi digunakan secara bertanggung jawab.

Regulasi Tidak Ditujukan Menghambat Inovasi

Penyusunan aturan AI tidak diarahkan untuk menghentikan perkembangan teknologi. Pemerintah berupaya membangun kerangka yang dapat menjaga keseimbangan antara inovasi dan perlindungan terhadap masyarakat.

Regulasi diperlukan agar pengembangan AI tetap dapat berlangsung, sementara risiko yang muncul dapat dikenali dan dikendalikan.

Nezar mengatakan pemerintah tidak ingin aturan yang dibuat justru menghambat perkembangan teknologi AI.

“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” tutur Nezar.

Dengan peta jalan nasional dan perpres yang sedang disiapkan, pemerintah berupaya membangun kerangka tata kelola yang dapat menjadi acuan lintas sektor dalam pemanfaatan AI di Indonesia.

Kerangka tersebut mencakup sejumlah aspek, mulai dari etika, keamanan, perlindungan data pribadi, transparansi, akuntabilitas, hingga keterlibatan manusia dalam penggunaan AI berisiko tinggi.

Sumber: Beritasatu.com