Eropa menjabarkan rencana aturan AI berbasis risiko untuk meningkatkan kepercayaan dan penyerapan – TechCrunch


Anggota parlemen Uni Eropa telah mempresentasikannya proposal berbasis risiko untuk mengatur aplikasi risiko tinggi kecerdasan buatan dalam pasar tunggal blok tersebut.

Rencana tersebut mencakup larangan pada sejumlah kecil kasus penggunaan yang dianggap terlalu berbahaya bagi keselamatan orang atau hak-hak dasar warga negara UE, seperti sistem penilaian kredit sosial gaya China atau jenis pengawasan massal berkemampuan AI tertentu.

Sebagian besar penggunaan AI tidak akan menghadapi regulasi apa pun (apalagi larangan) berdasarkan proposal, tetapi sebagian dari apa yang disebut penggunaan “berisiko tinggi” akan tunduk pada persyaratan regulasi khusus, baik ex ante maupun ex post.

Ada juga persyaratan transparansi untuk kasus penggunaan tertentu – seperti chatbots dan deepfake – di mana anggota parlemen UE percaya bahwa potensi risiko dapat dikurangi dengan memberi tahu pengguna bahwa mereka berinteraksi dengan sesuatu yang artifisial.

Tujuan menyeluruh dari anggota parlemen UE adalah untuk menumbuhkan kepercayaan publik tentang bagaimana AI diimplementasikan untuk membantu meningkatkan penggunaan teknologi. Pejabat Komisi Senior berbicara tentang keinginan untuk mengembangkan ekosistem keunggulan yang selaras dengan nilai-nilai Eropa.

“Hari ini, kami bertujuan untuk menjadikan Eropa kelas dunia dalam pengembangan Artificial Intelligence yang aman, dapat dipercaya dan berpusat pada manusia, dan penggunaannya,” kata EVP Margrethe Vestager, mengumumkan adopsi proposal pada konferensi pers.

“Di satu sisi, peraturan kami membahas risiko manusia dan sosial yang terkait dengan penggunaan AI secara spesifik. Ini untuk menciptakan kepercayaan. Di sisi lain, rencana terkoordinasi kami menguraikan langkah-langkah yang diperlukan yang harus diambil Negara Anggota untuk meningkatkan investasi dan inovasi. Untuk menjamin keunggulan. Semua ini, untuk memastikan bahwa kami memperkuat penyerapan AI di seluruh Eropa. ”

Di bawah proposal, persyaratan wajib dilampirkan ke kategori “risiko tinggi” dari aplikasi AI – artinya itu menghadirkan risiko keamanan yang jelas atau mengancam untuk melanggar Hak-hak dasar UE (seperti hak non-diskriminasi).

Contoh kasus penggunaan AI berisiko tinggi yang akan tunduk pada peraturan tingkat tertinggi tentang penggunaan ditetapkan dalam lampiran 3 peraturan tersebut – yang menurut Komisi akan memiliki kekuatan untuk diperluas dengan tindakan yang didelegasikan, sebagai kasus penggunaan AI terus berkembang dan risiko terus berkembang.

Untuk saat ini contoh risiko tinggi yang dikutip masuk ke dalam kategori berikut: Identifikasi biometrik dan kategorisasi orang perorangan; Manajemen dan pengoperasian infrastruktur kritis; Pendidikan dan pelatihan kejuruan; Pekerjaan, manajemen pekerja dan akses ke wirausaha; Akses ke dan kenikmatan layanan pribadi penting serta layanan dan manfaat publik; Penegakan hukum; Migrasi, suaka dan manajemen kontrol perbatasan; Administrasi peradilan dan proses demokrasi.

Penggunaan AI oleh militer secara khusus dikecualikan dari ruang lingkup karena regulasi difokuskan pada pasar internal blok.

Pembuat aplikasi berisiko tinggi akan memiliki serangkaian kewajiban ex ante yang harus dipatuhi sebelum membawa produk mereka ke pasar, termasuk seputar kualitas kumpulan data yang digunakan untuk melatih AI mereka dan tingkat pengawasan manusia atas tidak hanya desain tetapi juga penggunaan. sistem – serta persyaratan ex post yang sedang berlangsung, dalam bentuk pengawasan pasca pasar.

Persyaratan lainnya termasuk kebutuhan untuk membuat catatan sistem AI untuk memungkinkan pemeriksaan kepatuhan dan juga untuk memberikan informasi yang relevan kepada pengguna. Kekokohan, akurasi, dan keamanan sistem AI juga akan tunduk pada regulasi.

Pejabat komisi menyarankan sebagian besar aplikasi AI akan berada di luar kategori yang sangat diatur ini. Pembuat sistem AI ‘berisiko rendah’ ​​tersebut hanya akan didorong untuk mengadopsi (tidak mengikat secara hukum) kode etik saat digunakan.

Hukuman karena melanggar aturan pada larangan kasus penggunaan AI tertentu telah ditetapkan hingga 6% dari omset tahunan global atau € 30 juta (mana saja yang lebih besar). Sementara pelanggaran aturan terkait aplikasi berisiko tinggi dapat mencapai skala hingga 4% (atau € 20 juta).

Penegakan akan melibatkan banyak lembaga di setiap Negara Anggota UE – dengan proposal yang bermaksud pengawasan dilakukan oleh lembaga (relevan) yang ada, seperti badan keamanan produk dan lembaga perlindungan data.

Hal itu segera menimbulkan pertanyaan tentang sumber daya yang memadai dari badan-badan nasional, mengingat pekerjaan tambahan dan kerumitan teknis yang akan mereka hadapi dalam mengawasi aturan AI; dan juga bagaimana kemacetan penegakan akan dihindari di Negara Anggota tertentu. (Khususnya, Peraturan Perlindungan Data Umum UE juga diawasi di tingkat Negara Anggota dan telah menderita karena kurangnya penegakan hukum yang seragam.)

Juga akan ada database di seluruh Uni Eropa yang disiapkan untuk membuat daftar sistem berisiko tinggi yang diterapkan di blok tersebut (yang akan dikelola oleh Komisi).

Badan baru, yang disebut European Artificial Intelligence Board (EAIB), juga akan dibentuk untuk mendukung penerapan regulasi yang konsisten – mencerminkan Dewan Perlindungan Data Eropa yang menawarkan panduan untuk menerapkan GDPR.

Sejalan dengan aturan tentang penggunaan AI tertentu, rencana tersebut mencakup langkah-langkah untuk mengoordinasikan dukungan Negara Anggota UE untuk pengembangan AI – seperti dengan membentuk kotak pasir regulasi untuk membantu para pemula dan UKM mengembangkan dan menguji inovasi yang dipicu oleh AI – dan melalui prospek pendanaan Uni Eropa yang ditargetkan untuk mendukung pengembang AI.

Komisaris pasar internal Thierry Breton mengatakan investasi adalah bagian penting dari rencana tersebut.

“Di bawah program Eropa Digital dan Cakrawala Eropa kami akan membebaskan satu miliar euro per tahun. Dan di atas semua itu kami ingin menghasilkan investasi swasta dan investasi kolektif di seluruh Uni Eropa sebesar € 20BN per tahun selama dekade mendatang – ‘dekade digital’ seperti yang kami sebut, “katanya. “Kami juga ingin memiliki € 140BN yang akan membiayai investasi digital di bawah Uni Eropa Generasi Berikutnya [COVID-19 recovery fund] – dan sebagian menggunakan AI. ”

Membentuk aturan untuk AI telah menjadi prioritas utama bagi presiden UE Ursula von der Leyen yang menjabat pada akhir 2019. A kertas putih diterbitkan tahun lalu, mengikuti a AI 2018 untuk strategi UE – dan Vestager mengatakan bahwa proposal hari ini adalah puncak dari kerja tiga tahun.

Breton menambahkan bahwa memberikan panduan bagi bisnis untuk menerapkan AI akan memberi mereka kepastian hukum dan keunggulan Eropa. “Kepercayaan … menurut kami sangat penting untuk memungkinkan perkembangan kecerdasan buatan yang kami inginkan,” katanya. [Applications of AI] harus dapat dipercaya, aman, tidak diskriminatif – itu sangat penting – tetapi tentu saja kami juga harus dapat memahami bagaimana tepatnya aplikasi ini akan bekerja. ”

Versi proposal hari ini bocor minggu lalu – menuju ke panggilan oleh anggota parlemen untuk memperkuat rencana tersebut, seperti dengan melarang pengawasan biometrik jarak jauh di tempat umum.

Dalam hal proposal akhir memperlakukan pengawasan biometrik jarak jauh sebagai penerapan risiko AI yang sangat tinggi – dan pada prinsipnya terdapat larangan penggunaan teknologi tersebut di depan umum oleh penegak hukum.

Namun penggunaan tidak sepenuhnya dilarang, dengan sejumlah pengecualian di mana penegak hukum masih dapat memanfaatkannya, tunduk pada dasar hukum yang sah dan pengawasan yang sesuai.

Proposal hari ini memulai dimulainya proses legislatif bersama UE, dengan Parlemen Eropa dan Negara Anggota melalui Dewan UE diatur untuk memberikan suara mereka pada draf tersebut – yang berarti banyak hal dapat berubah sebelum kesepakatan tentang peraturan final pan-UE.

Para komisaris menolak untuk memberikan kerangka waktu kapan undang-undang dapat diadopsi, hanya mengatakan bahwa mereka berharap lembaga UE lainnya akan segera terlibat dan bahwa prosesnya dapat dilakukan secepatnya. Meskipun demikian, peraturan AI bisa jadi beberapa tahun sebelum diratifikasi dan diberlakukan.

Cerita ini berkembang, segarkan untuk pembaruan…



Sumber

Related Articles

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Stay Connected

21,933FansLike
0FollowersFollow
0SubscribersSubscribe
- Advertisement -

Latest Articles