Untuk memastikan inklusivitas, administrasi Biden harus menggandakan inisiatif pengembangan AI – TechCrunch


Komisi Keamanan Nasional untuk Kecerdasan Buatan (NSCAI) mengeluarkan a melaporkan bulan lalu menyampaikan pesan publik yang tidak nyaman: Amerika tidak siap untuk bertahan atau bersaing di era AI. Ini mengarah pada dua pertanyaan kunci yang menuntut tanggapan segera kita: Akankah AS terus menjadi negara adidaya global jika tertinggal dalam pengembangan dan penyebaran AI? Dan apa yang dapat kita lakukan untuk mengubah lintasan ini?

Jika dibiarkan, alat kecerdasan buatan (AI) yang tampaknya netral dapat dan akan melanggengkan ketidaksetaraan dan, pada dasarnya, mengotomatiskan diskriminasi. Kerugian terkait teknologi telah muncul dalam keputusan kredit, layanan perawatan kesehatan dan periklanan.

Untuk mencegah pengulangan dan pertumbuhan dalam skala besar ini, pemerintahan Biden harus mengklarifikasi undang-undang saat ini yang berkaitan dengan AI dan model pembelajaran mesin – baik dalam hal bagaimana kami akan mengevaluasi penggunaan oleh aktor swasta dan bagaimana kami akan mengatur penggunaan AI dalam sistem pemerintah kami.

Jika dibiarkan, alat kecerdasan buatan (AI) yang tampaknya netral dapat dan akan melanggengkan ketidaksetaraan dan, pada dasarnya, mengotomatiskan diskriminasi.

Administrasi telah mengedepankan langkah yang kuat, mulai dari penunjukan utama di bidang teknologi hingga penerbitan perintah eksekutif pada hari pertama menjabat yang membentuk Kelompok Kerja Data yang Setara. Ini telah menghibur para skeptis yang prihatin tentang komitmen AS terhadap pengembangan AI dan untuk memastikan ekuitas di ruang digital.

Tapi itu akan cepat berlalu kecuali jika pemerintah menunjukkan tekad yang kuat dalam membuat pendanaan AI menjadi kenyataan dan membentuk pemimpin dan struktur yang diperlukan untuk melindungi pengembangan dan penggunaannya.

Perlu kejelasan tentang prioritas

Ada pergeseran seismik di tingkat federal dalam kebijakan AI dan dalam komitmen yang dinyatakan untuk kesetaraan dalam teknologi. Sejumlah penunjukan profil tinggi oleh pemerintahan Biden – dari Dr. Alondra Nelson sebagai wakil OSTP, hingga Tim Wu di NEC, hingga (mantan penasihat senior kami) Kurt Campbell di NSC – menandakan bahwa perhatian yang signifikan akan diberikan pada inklusif Pengembangan AI oleh para ahli di dalam.

Itu Laporan akhir NSCAI mencakup rekomendasi yang terbukti sangat penting untuk memungkinkan fondasi yang lebih baik untuk pengembangan AI yang inklusif, seperti membuat saluran talenta baru melalui a Akademi Layanan Digital AS untuk melatih karyawan saat ini dan masa depan.

Laporan tersebut juga merekomendasikan pembentukan yang baru Dewan Daya Saing Teknologi dipimpin oleh wakil presiden. Ini terbukti penting dalam memastikan bahwa komitmen negara terhadap kepemimpinan AI tetap menjadi prioritas di tingkat tertinggi. Masuk akal untuk memiliki kepemimpinan administrasi pada AI yang dipelopori oleh Wakil Presiden Harris sehubungan dengan kemitraan strategisnya dengan presiden, dia. paham kebijakan teknologi dan fokusnya pada hak-hak sipil.

AS perlu memimpin dengan memberi contoh

Kami tahu AI sangat kuat dalam kemampuannya untuk menciptakan efisiensi, seperti menelusuri ribuan resume untuk mengidentifikasi kandidat yang berpotensi cocok. Tapi itu juga bisa menskalakan diskriminasi, seperti Alat perekrutan Amazon yang memprioritaskan kandidat laki-laki atau “redlining digital”Dari kredit berdasarkan ras.

Administrasi Biden harus mengeluarkan perintah eksekutif kepada agensi yang mengundang ide tentang cara AI dapat meningkatkan operasi pemerintah. Perintah tersebut juga harus mewajibkan pemeriksaan AI yang digunakan oleh USG untuk memastikan tidak menyebarkan hasil diskriminatif secara tidak sengaja.

Misalnya, harus ada jadwal rutin di tempat di mana sistem AI dievaluasi untuk memastikan penyematan, bias berbahaya tidak menghasilkan rekomendasi yang diskriminatif atau tidak konsisten dengan nilai-nilai demokrasi dan inklusif kita – dan dievaluasi ulang secara rutin mengingat bahwa AI terus-menerus mengulang dan belajar. pola baru.

Menerapkan sistem tata kelola AI yang bertanggung jawab sangat penting di Pemerintah AS, yang harus ditawarkan jatuh tempo proses perlindungan saat menyangkal manfaat tertentu. Misalnya, ketika AI digunakan untuk menentukan alokasi Manfaat Medicaid, dan manfaat tersebut dimodifikasi atau ditolak berdasarkan algoritma, pemerintah harus dapat menjelaskan hasil tersebut, tepat disebut proses karena teknologi.

Jika keputusan didelegasikan ke sistem otomatis tanpa kemampuan menjelaskan, pedoman dan pengawasan manusia, kami menemukan diri kami dalam situasi yang tidak dapat dipertahankan di mana hak konstitusional dasar ini ditolak.

Demikian pula, administrasi memiliki kekuatan yang sangat besar untuk memastikan bahwa pengamanan AI oleh pemain perusahaan utama dilakukan melalui kekuatan pengadaannya. Pengeluaran kontrak federal diharapkan melebihi $ 600 miliar pada tahun fiskal 2020, bahkan sebelum memasukkan dana stimulus ekonomi pandemi. USG dapat memberikan dampak yang luar biasa dengan mengeluarkan daftar periksa untuk pengadaan federal sistem AI – ini akan memastikan proses pemerintah ketat dan diterapkan secara universal, termasuk pertimbangan hak-hak sipil yang relevan.

Perlindungan dari diskriminasi yang berasal dari sistem AI

Pemerintah memegang tuas kuat lain untuk melindungi kita dari bahaya AI: otoritas investigasi dan penuntutannya. Perintah eksekutif yang menginstruksikan agensi untuk mengklarifikasi penerapan hukum dan peraturan saat ini (misalnya, ADA, Perumahan yang Adil, Pinjaman yang Adil, Undang-undang Hak Sipil, dll.) Ketika penentuan bergantung pada sistem yang didukung AI dapat mengakibatkan perhitungan global. Perusahaan yang beroperasi di AS akan memiliki motivasi yang tidak perlu dipertanyakan lagi untuk memeriksa sistem AI mereka dari bahaya terhadap kelas yang dilindungi.

Individu berpenghasilan rendah sangat rentan terhadap banyak efek negatif AI. Hal ini terutama terlihat dalam kaitannya dengan kredit dan penciptaan pinjaman, karena mereka cenderung tidak memiliki akses ke produk keuangan tradisional atau kemampuan untuk memperoleh skor tinggi berdasarkan kerangka kerja tradisional. Ini kemudian menjadi data yang digunakan untuk membuat sistem AI yang mengotomatiskan keputusan semacam itu.

Biro Perlindungan Keuangan Konsumen (CFPB) dapat memainkan peran penting dalam meminta pertanggungjawaban lembaga keuangan atas proses pinjaman diskriminatif yang diakibatkan oleh ketergantungan pada sistem AI yang diskriminatif. Mandat dari EO akan menjadi fungsi pemaksaan untuk pernyataan tentang bagaimana sistem yang mendukung AI akan dievaluasi, memberi tahu perusahaan dan melindungi publik dengan lebih baik dengan ekspektasi yang jelas tentang penggunaan AI.

Ada jalan yang jelas menuju pertanggungjawaban ketika seseorang bertindak dengan cara yang diskriminatif dan proses yang seharusnya pelanggaran ketika kepentingan umum ditolak secara sewenang-wenang, tanpa penjelasan. Secara teoritis, kewajiban dan hak ini akan ditransfer dengan mudah ketika sistem AI terlibat, tetapi tinjauan tindakan keagenan dan preseden hukum (atau lebih tepatnya, ketiadaan) menunjukkan sebaliknya.

Administrasi dimulai dengan awal yang baik, seperti memutar kembali a mengusulkan aturan HUD yang akan membuat tantangan hukum terhadap AI yang diskriminatif pada dasarnya tidak mungkin tercapai. Selanjutnya, agen federal dengan otoritas investigasi atau penuntutan harus mengklarifikasi praktik AI mana yang akan ditinjau dan undang-undang saat ini akan berlaku – misalnya, HUD untuk diskriminasi perumahan ilegal; CFPB pada AI yang digunakan dalam pemberian pinjaman kredit; dan Departemen Tenaga Kerja tentang AI digunakan dalam penentuan yang dibuat dalam perekrutan, evaluasi, dan penghentian.

Tindakan tersebut akan memiliki keuntungan tambahan dengan mendirikan a preseden yang berguna untuk tindakan penggugat dalam pengaduan.

Pemerintahan Biden telah mengambil langkah pertama yang mendorong yang menandakan niatnya untuk memastikan AI yang inklusif dan kurang diskriminatif. Namun, itu harus mengatur rumahnya sendiri dengan mengarahkan bahwa agen federal memerlukan pengembangan, akuisisi dan penggunaan AI – secara internal dan oleh mereka yang berbisnis dengannya – dilakukan dengan cara yang melindungi privasi, hak sipil, kebebasan sipil dan Amerika. nilai-nilai.



Sumber

Related Articles

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Stay Connected

21,989FansLike
0FollowersFollow
0SubscribersSubscribe
- Advertisement -

Latest Articles