Aturan AI Pertama di Dunia: 4 Tingkat Bahaya dalam UU Uni Eropa

Melansir dari akun Instagram Narasi (@narasi.tv), Parlemen Uni Eropa akan memberlakukan undang-undang yang mengatur penggunaan AI setidaknya dua tahun setelah persetujuan. 

Tujuannya adalah mendorong pengembangan dan penerapan AI yang aman, terpercaya, transparan, dapat dilacak, tidak diskriminatif, dan ramah lingkungan di Uni Eropa. Dengan begitu, penggunaan AI dapat berjalan sebagaimana mestinya di bawah pengawasan.

Hal ini merupakan tindakan lanjutan dari Parlemen Uni Eropa yang sebelumnya telah berperan dalam membuat aturan terkait teknologi, seperti memerintahkan penggunaan steker pengisi daya yang umum sehingga memaksa Apple untuk mengubah jenis miliknya.

Diharapkan keputusan untuk mengawasi dan mengatur penggunaan teknologi ini dapat memberikan dampak positif dalam melindungi demokrasi, aturan hukum, dan hak-hak fundamental, seperti kebebasan berpendapat dan perlindungan masyarakat.

Dalam Undang-Undang AI pertama di dunia, Parlemen Uni Eropa mengadopsi pendekatan berbasis risiko untuk mengategorikan sistem AI menjadi empat tingkatan. Dalam hal ini, semakin berisiko sebuah aplikasi AI, maka semakin ketat pula aturan yang berlaku.

• AI dengan risiko yang tidak dapat diterima (unacceptable risk): Sistem AI yang dinilai mengancam manusia, termasuk manipulasi perilaku terhadap orang atau kelompok tertentu.
• AI dengan risiko tinggi (high risk): Sistem AI yang memiliki dampak negatif terhadap keselamatan atau hak-hak dasar manusia, termasuk dalam produk-produk tertentu, seperti peralatan medis, penerbangan, dan sejenis lainnya.
• AI dengan risiko terbatas (limited risk): Sistem AI yang berhubungan dengan kurangnya transparansi dalam penggunaan AI.
• AI dengan risiko minimal (minimal risk): Sistem AI yang cenderung diperbolehkan untuk digunakan berdasarkan UU AI, seperti aplikasi video game.

Dengan demikian, segala risiko berbahaya yang mengancam manusia dapat ditanggulangi secara jelas. Hal ini berlaku tidak hanya bagi masyarakat, tetapi juga pihak berwenang.

Melansir dari voaindonesia.com, aturan ini membuat polisi tidak dapat memindai wajah warga di tempat publik dengan menggunakan sistem “identifikasi biometrik” AI dari jauh, kecuali untuk kejahatan yang serius, seperti penculikan, terorisme, dan lain-lain.

Para pakar berpendapat bahwa dampak aturan ini dapat melampaui perbatasan dan menjadi standar global. Ini berarti, Indonesia bisa saja meninjau atau mengadopsi aturan serupa atau yang lebih baik untuk melindungi masyarakat dari bahaya AI. Setuju?