Hadiah bias untuk AI akan menunggu untuk menangkap algoritma yang tidak adil lebih cepat

Hadiah bias untuk AI akan menunggu untuk menangkap algoritma yang tidak adil lebih cepat

Saat ini, komunitas AI dan konsultan pencari mesin meluncurkan kompetisi hadiah bias baru-baru ini, yang mereka harap akan menghambat pendekatan untuk mengungkap sebagian besar prasangka yang tertanam ini.

kompetisi, yang mengambil inspirasi dari program jahat dalam keamanan siber, meminta kontributor untuk menikmati alat untuk membangun dan mengurangi bias algoritmik di gadget AI.

Ini diselenggarakan oleh komunitas sukarelawan yang bekerja di perusahaan-perusahaan yang menikmati Twitter, perusahaan aplikasi Splunk, dan startup pendeteksi deepfake, Fact Defender. Mereka menjuluki diri mereka sendiri sebagai “Bias Buccaneers.”

Kompetisi bounty bias mendasar akan mencapai tingkat fokus pada deteksi gambar bias. Ini adalah proyek yang diterima: di masa lalu, sebagai contoh, program pendeteksian gambar yang salah memungut orang Hitam yang salah mengidentifikasi kita sebagai gorila.

Pesaing dapat ditantang untuk membuat manekin pencari mesin yang memberi label pada setiap gambar dengan pori-pori dan warna kulitnya, jenis kelamin yang dipersepsikan, dan kelompok usia, yang menarik karena lebih mudah diukur dan menempatkan bias dalam kumpulan data. Mereka akan diberikan akses masuk ke fitur info sekitar 15.000 fotografi wajah manusia yang dibuat secara sintetis. Orang-orang diberi peringkat berdasarkan seberapa tepat manekin mereka menandai fotografi dan penemuan lama yang dibutuhkan kode untuk membungkuk, di antara metrik yang sama sekali berbeda. Kompetisi ditutup pada 30 November.

Microsoft dan startup Sturdy Intelligence mengumpulkan hadiah uang sebesar $6.000 untuk pemenang, $4.000 untuk runner-up, dan $2.000 untuk siapa pun yang datang ketiga. Amazon telah menyumbangkan $5.000 untuk fitur pertama pendatang untuk daya komputasi.

Kompetisi adalah contoh pengganti pemula yang muncul di AI: audit untuk bias algoritmik. Twitter meluncurkan bounty bias AI pertama yang sempurna 365 hari, dan Stanford University trusty menyimpulkan cadel audit AI pertamanya. Sementara itu, Mozilla nirlaba sedang membangun alat untuk auditor AI.

HOT 🔥  Unduhan: Debat tua/penyakit yang meningkat, dan sisi gelap WeChat

Audit ini cenderung menjadi semakin diterima. Mereka telah dipuji oleh regulator dan konsultan etika AI sebagai pendekatan yang tidak memihak untuk mendukung program AI yang bertanggung jawab, sehingga mereka akan menjadi persyaratan yang tepat di yurisdiksi tertentu.

Undang-undang moderasi gemuruh kontemporer UE, Undang-Undang Produk dan Penyedia Digital, melibatkan kebutuhan audit tahunan untuk saran dan algoritme lama oleh platform teknologi raksasa, dan Undang-Undang AI UE yang akan datang juga dapat memungkinkan pihak berwenang untuk mengaudit program AI. Institut Persyaratan dan Pengetahuan Nasional AS juga merekomendasikan audit AI sebagai penerimaan emas. Premisnya adalah bahwa audit ini akan bertindak menikmati jenis inspeksi yang kami lihat di sektor peluang tinggi yang sama sekali berbeda, setara dengan bunga kimia, kata Alex Engler, yang mengalami tata kelola AI di tangki pengumpulan Brookings Institution.

Yang menyedihkan adalah, tidak ada banyak kontraktor yang tidak memihak yang tersedia untuk memenuhi permintaan kedatangan untuk audit algoritmik, dan perusahaan enggan untuk menunjukkan mereka menemukan akses ke program mereka, kata peneliti Deborah Raji, yang membuat spesialisasi akuntabilitas AI, dan rekan penulisnya dalam makalah dari bulan Juni yang sempurna.

Itulah yang ingin dikembangkan oleh kompetisi-kompetisi ini. Harapan dalam komunitas AI adalah bahwa mereka akan memimpin lebih banyak insinyur, peneliti, dan konsultan untuk membangun bakat dan keahlian untuk mencapai audit ini.

Banyak pengawasan terbatas di planet AI ini ke level ini berasal dari dosen atau dari perusahaan teknologi itu sendiri. Tujuan dari kompetisi menikmati yang satu ini adalah untuk menikmati sektor konsultan terbaru yang berspesialisasi dalam mengaudit AI.

“Kami mencoba untuk menikmati tempat ketiga bagi mereka yang tertarik pada bangunan tenaga kerja ini , siapa yang lebih memilih untuk melakukan pengiriman atau siapa konsultan yang tidak bekerja di perusahaan teknologi,” kata Rumman Chowdhury, direktur kru Twitter untuk etika, transparansi, dan akuntabilitas dalam pencarian mesin, kepala Bias Buccaneers. Kami ini juga dapat terdiri dari peretas dan ilmuwan informasi yang lebih suka diajari kapasitas terkini, katanya.

HOT 🔥  Setiap hal kecil mati, termasuk pengetahuan

Kru dengan bantuan kompetisi bounty Bias Buccaneers berharap ini mungkin yang pertama dari banyak kompetisi.

Persaingan menikmati ini tidak lagi hanya menikmati insentif bagi komunitas pencari mesin untuk membangun audit tetapi juga mendekati kerja bersama tentang “seberapa efektif untuk mengaudit dan bentuk audit apa yang kita perlukan berinvestasi,” kata Sara Hooker, yang memimpin Cohere for AI, lab penelitian AI nirlaba.

Kemalangan itu “sangat luar biasa dan sangat diinginkan,” kata Abhishek Gupta, pendiri Montreal AI Ethics Institute, yang pernah menjadi bagian dari laporan audit AI Stanford.

“Semakin banyak mata yang Anda dapatkan pada sebuah plot, semakin terlihat bahwa kami mengumpulkan tempat-tempat di mana ada kekurangan,” kata Gupta.

Liputan Asli

Baca juga

Siapa yang akan mengatur kita dari AI sederhana?

Siapa yang akan mengatur kita dari AI sederhana?

Tentang waktu sialan. Itu adalah tanggapan dari pemenang kebijakan dan etika AI terhadap berita minggu …

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *