UE ingin menjaga agar perusahaan tetap waspada terhadap AI yang buruk

UE ingin menjaga agar perusahaan tetap waspada terhadap AI yang buruk

UE sedang membangun prinsip-prinsip ringan untuk membuatnya lebih mudah untuk menuntut perusahaan AI karena cedera. Sebuah undang-undang yang diluncurkan minggu ini, yang tampaknya akan menjadi undang-undang dalam beberapa tahun, adalah bagian dari dorongan Eropa untuk menghentikan pengembang AI merilis sistem yang mengerikan. Dan sementara perusahaan teknologi mengeluh bahkan akan memiliki produksi yang mengerikan pada inovasi, para aktivis konsumen mengatakan itu tidak cukup mendayung jauh.

Teknologi AI yang sangat efisien semakin banyak membentuk kehidupan, hubungan, dan masyarakat kita, dan kerugiannya didokumentasikan dengan baik. Algoritme media sosial meningkatkan informasi yang salah, teknik pengenalan wajah cenderung sangat diskriminatif, dan teknik AI prediktif yang memudar untuk menyetujui atau menolak pinjaman tampaknya kurang faktual bagi minoritas.

Undang-undang ringan, yang dikenal sebagai AI Liability Directive, akan memperkuat Undang-Undang AI UE, yang dibuat untuk menjadi undang-undang UE sepanjang waktu yang sama. Undang-undang AI akan membutuhkan tes tambahan untuk penggunaan AI “kemungkinan tinggi” yang pada dasarnya paling mungkin melukai kita, di samping teknik untuk kepolisian, perekrutan, atau perawatan yang tepat.

Tagihan pertanggungjawaban ringan akan memberi kita dan perusahaan jenis yang paling mudah untuk menuntut ganti rugi setelah dirugikan oleh sistem AI. Plotnya adalah untuk menguras biaya pembuat, produsen, dan pengguna teknologi, dan meminta mereka untuk menceritakan bagaimana teknik AI mereka dibuat dan dilatih. Perusahaan teknologi yang gagal menampilkan video dasar kemungkinan tindakan kelas ekstensif UE.

Misalnya, pencari kerja yang dapat menceritakan bahwa sistem AI untuk menyaring resume yang didiskriminasi terhadap mereka dapat meminta pengadilan untuk memberi kuasa kepada perusahaan AI untuk memberi mereka akses ke fakta-fakta tentang sistem sehingga mereka dapat mengidentifikasi ini dalam harga dan mencari tahu apa pergi tidak ramah. Berbekal fakta ini, mereka akan menuntut.

HOT 🔥  Download: organ sedang menunggu, dan penipuan covid di China

Proposal terpisah ingin mengubah rencananya dengan rencana proyek legislatif UE, yang akan memakan waktu setidaknya dua tahun. Hal ini juga diubah oleh kontributor Parlemen Eropa dan pemerintah UE dan tampaknya akan menghadapi lobi yang intens dari perusahaan teknologi, yang mendesah bahwa prinsip-prinsip semacam itu bahkan mungkin memiliki manufaktur yang “dingin” dalam hal inovasi.

Apakah itu berhasil atau tidak, aturan UE yang ringan ini dapat memiliki riak pembuatan tentang bagaimana AI diatur di seluruh dunia.

Singkatnya, RUU tersebut bahkan mungkin memiliki dampak yang merugikan pada tren sistem, kata Mathilde Adjutor, manajer cakupan Eropa untuk komunitas lobi teknologi CCIA, yang mewakili perusahaan di sisi Google, Amazon, dan Uber.

Di bawah prinsip-prinsip ringan, “pembangun tidak hanya bertanggung jawab atas bug sistem, tetapi juga untuk kemungkinan efek sistem pada kesejahteraan psikologis pengguna,” katanya.

Imogen Parker, direktur asosiasi liputan di Ada Lovelace Institute, sebuah lembaga analisis AI, mengatakan RUU itu akan mengalihkan kekuasaan agak jauh dari perusahaan dan menginspirasi konsumen — koreksi yang menurutnya sangat penting mengingat potensi AI untuk mendiskriminasi. Dan tagihan tampaknya akan jelas bahwa segera setelah sistem AI menyebabkan kerusakan, sering ada rencana untuk melihat kompensasi di seluruh UE, kata Thomas Boué, kepala cakupan Eropa untuk lobi teknologi BSA, yang kontributornya mencakup Microsoft dan IBM.

Meskipun demikian, beberapa organisasi hak konsumen dan aktivis memerintahkan proposal tersebut tidak mengayuh terlalu jauh dan dapat membuat standar terlalu tinggi bagi konsumen yang harus melatih klaim.

Ursula Pachl, wakil direktur jenderal Organisasi Pengguna Eropa, mengatakan proposal tersebut adalah “kekecewaan yang sah”, karena menempatkan tanggung jawab pada konsumen untuk mengingat bahwa sistem AI merugikan mereka atau pengembang AI menjadi lalai.

HOT 🔥  Unduhan: Kepanikan tak tergoyahkan TikTok, dan AI pemecah file DeepMind

“Dalam dunia teknik AI ‘bidang bayangan’ yang sangat maju dan tidak tepat, tampaknya tidak mungkin bagi pelindung untuk memanfaatkan prinsip-prinsip ringan,” kata Pachl. Misalnya, katanya, tampaknya akan sangat menarik untuk mengingat bahwa diskriminasi rasial terhadap siapa pun disebabkan oleh rencana di mana sistem penilaian peringkat kredit dibangun.

RUU tersebut juga gagal mempertimbangkan kerugian tidak langsung yang dipicu oleh teknik AI, kata Claudia Prettner, perwakilan UE di Future of Lifestyles Institute, sebuah organisasi nirlaba yang berspesialisasi dalam kemungkinan AI eksistensial. Model yang lebih baik akan menghabiskan biaya perusahaan ketika tindakan mereka menyebabkan cedera tanpa pada dasarnya membutuhkan kesalahan, menyukai fondasi yang sudah ada untuk kendaraan atau hewan, tambah Prettner.

“Teknik AI cenderung dibangun karena alasan tertentu, tetapi kemudian mengakibatkan kerusakan tak terduga di bangunan lain. Algoritme media sosial, harus kami rangkul, dibangun untuk memaksimalkan waktu yang dihabiskan di platform, tetapi secara tidak sengaja meningkatkan materi pekikan polarisasi, ”katanya.

UE ingin UU AI-nya menjadi kebiasaan emas global untuk regulasi AI. Negara-negara lain seperti AS, di mana beberapa upaya sedang dilakukan untuk mengubah keterampilan, sedang diamati dengan cermat. Federal Exchange Price digembar-gemborkan oleh prinsip-prinsip seputar bagaimana perusahaan mengelola file dan menyusun algoritme, dan telah memaksa perusahaan yang memiliki file mute secara ilegal untuk menghapus algoritme mereka. Awal tahun ini, agensi memaksa perusahaan diet Weight Watchers untuk menyelesaikannya setelah membisukan file pada tahun-tahun formatif secara ilegal.

Apakah itu berhasil atau tidak, aturan UE yang ringan ini dapat memiliki riak pembuatan tentang bagaimana AI diatur di seluruh dunia. “Ada jarak tertentu dalam kepentingan penduduk, bisnis, dan regulator bahwa UE akan mendapatkan tanggung jawab atas jenis AI yang tepat. Itu mungkin tidak akan melakukan pekerjaan AI untuk kita dan masyarakat tanpanya, ”kata Parker.

Cakupan Asli

Baca juga

Abaikan bayi desainer.  Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan bayi desainer. Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan He Jiankui, ilmuwan bahasa China yang menciptakan bayi yang diedit gennya. Sebagai tambahan, meskipun …

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *