Percaya objek bahasa perkasa di tangan Anda mengandung bahaya

Percaya objek bahasa perkasa di tangan Anda mengandung bahaya

Mitos ini awalnya dianggap dalam The Algorithm, buletin mingguan kami tentang AI. Untuk mendapatkan laporan melahap ini di kotak masuk Anda terlebih dahulu, check in di sini.

Ketika Meta meluncurkan Galactica, model bahasa kuat yang menyediakan asal-usul yang dirancang untuk mendukung para ilmuwan, perusahaan — terhuyung-huyung karena kritik atas investasi metaverse yang mahal dan PHK besar-besaran saat ini — dulu mengharapkan proses PR yang besar berakhir. Sebagai gantinya, semuanya menjadi kritik di Twitter dan posting blog yang menarik dari salah satu kritikus paling vokal, diakhiri dengan keputusannya yang memalukan untuk menghentikan demo publik model tersebut setelah hanya tiga hari.

Sejalan dengan Meta, Galactica dapat “meringkas makalah tutorial, memecahkan masalah matematika, menghasilkan artikel Wiki, menulis kode ilmiah, membuat anotasi molekul dan protein, dan banyak lagi.” Namun segera setelah kemunculannya, sangat mudah bagi orang luar untuk mendesak model tersebut untuk membuat “penelitian ilmiah” tentang manfaat homofobia, anti-Semitisme, bunuh diri, makan gelas, berkulit putih, atau menjadi individu. Sementara itu, makalah tentang AIDS atau rasisme telah diblokir. Menawan!

Seperti yang ditulis oleh kolega saya Will Douglas Heaven dalam mitosnya tentang bencana tersebut: “Kesalahan langkah Meta—dan keangkuhannya—menyebabkan sekali lagi bahwa Expansive Tech memiliki lokasi buta sehubungan dengan batas keras objek bahasa yang kuat.”

Bukan hanya asal-usul Galactica sebelum waktunya, tetapi ini menunjukkan betapa tidak cukupnya upaya peneliti AI untuk mengumpulkan benda-benda bahasa yang kuat dengan lebih aman.

Meta akan yakin bahwa Galactica mengungguli lawan dalam menghasilkan materi dengusan yang terdengar ilmiah. Namun, fiturnya mencoba keluar dari model untuk bias dan kejujuran dapat dengan senang hati menghalangi perusahaan untuk melepaskannya ke alam liar.

Salah satu tujuan peneliti metodologi model untuk mengumpulkan objek bahasa yang kuat yang tidak terlalu rentan untuk memuntahkan bahan dengusan beracun adalah untuk menyaring frase kunci positif. Namun, tidak diragukan lagi menarik untuk membuat filter yang mungkin mengambil solusi bernuansa lengkap yang mungkin lebih rendah dari manusia. Perusahaan akan dengan senang hati menyelamatkan dirinya sendiri dari dunia kesakitan jika telah melakukan lebih banyak upaya permusuhan dari Galactica, di mana para peneliti akan dengan senang hati mencoba membuatnya memuntahkan sebanyak mungkin hasil yang bias.

HOT 🔥  Bagaimana OpenAI mencoba membuat ChatGPT lebih aman dan tidak bias

Peneliti Meta mengukur model untuk bias dan kejujuran, dan meskipun kinerjanya sedikit lebih baik daripada pesaing yang setara dengan GPT-3 dan model Meta berisi OPT, itu memberikan semacam jawaban yang bias atau cacat. Dan ada juga sedikit batasan yang berbeda. Model ini dididik tentang sumber daya ilmiah yang berasal dari akses masuk, tetapi banyak makalah ilmiah dan buku teks dibatasi di belakang paywalls. Hal ini pasti membuat Galactica menggunakan sumber sekunder yang lebih samar.

Galactica juga tampaknya menjadi contoh dari sesuatu yang kami tidak benar-benar ingin AI berhenti. Sepertinya itu tidak mungkin menghentikan tujuan Meta yang diakui untuk membantu para ilmuwan bekerja lebih cepat. Sungguh, itu mungkin mengharuskan mereka untuk melakukan upaya ekstra untuk memastikan apakah tip dari model itu benar atau tidak.

Sungguh mengecewakan (namun sama sekali tidak mengejutkan) melihat laboratorium AI yang besar, yang mungkin tahu lebih baik, mengembangkan teknologi yang salah seperti itu. Kita tahu bahwa objek bahasa cenderung mereproduksi prasangka dan menyampaikan kepalsuan sebagai detail. Kami tahu mereka akan “berhalusinasi” atau mengumpulkan bahan dengusan, seperti artikel wiki tentang sejarah beruang di rumah. Namun, bencana itu berguna untuk satu hal, paling tidak. Itu mengingatkan kita bahwa hal terbaik yang “diketahui” oleh objek bahasa perkasa adalah bagaimana kata dan kalimat dibentuk. Segala sesuatu yang lain adalah tebakan.

Mempelajari Lebih Dalam

Intip robot taring ini merayap di medan rumit dengan memanfaatkan kameranya

Pendekatan baru yang dikembangkan oleh tim dari Carnegie Mellon dan Berkeley berpotensi membantu robot menjadi lebih berguna dengan membuatnya lebih baik dalam menavigasi medan yang rumit, seperti tangga dan tanah yang tidak rata.

HOT 🔥  EmTech 2022: menjembatani jalan keluar antara manusia dan mesin

Tidak seperti robot lain, yang cenderung sangat bergantung pada prosedur interior untuk berkeliling, robot mereka menggunakan kumpulan kamera dan pembelajaran penguat. Menerapkan pendekatan ini pada robot lain mungkin dapat membantu merakitnya lebih sulit, karena mereka tidak akan dibatasi oleh kemungkinan kesalahan dalam prosedur.

Mengapa ini masalah besar:Pekerjaan mereka mungkin dapat mendukung upaya untuk mengeluarkan robot dari lab dan membuat mereka bergerak lebih bebas di dunia nyata. Pelajari mitos saya di sini.

Bit dan Byte

Stanford mempelajari 30 objek bahasa yang kuat sehingga Anda tidak menginginkannya
Heart for Research on Foundation Devices milik universitas telah memadukan cukup banyak metrik menjadi satu tolok ukur holistik besar yang mengevaluasi akurasi, kalibrasi, ketahanan, keadilan, bias, toksisitas, dan efektivitas objek bahasa yang hebat. Saya dulu sangat terkejut melihat bahwa objek yang lebih besar tidak benar-benar menghasilkan kinerja yang lebih tinggi. (Stanford)

Italia telah melarang teknologi pengenalan wajah di sebagian besar kondisi
Negara tersebut telah melarang penggunaan pengenalan wajah kecuali untuk memerangi kejahatan — setidaknya sampai akhir tahun depan. Larangan tersebut seperti yang sedang dipertimbangkan oleh UE dalam peraturannya yang akan datang, Undang-Undang Kecerdasan Buatan. (Reuters)

Pekerja pertunjukan di India bersatu untuk menghentikan perubahan dari algoritme
Mitos yang kuat tentang bagaimana pekerja pertunjukan menemukan solusi untuk menggunakan algoritme yang mengatur kehidupan kerja mereka demi kelegaan mereka, untuk sekali ini. (Dunia Lainnya)

Fakta yang mengecewakan tentang hak cipta AI adalah tidak ada yang tahu apa yang akan terjadi selanjutnya
Undang-undang seputar hak cipta perlu diubah dengan tergesa-gesa karena AI pembuat gambar menjadi semakin penting di mana-mana. Bagian ini menjabarkan ketegangan dan jebakan yang terjadi melalui prosedur industri. (The Ambang)

Cakupan Asli

Baca juga

Abaikan bayi desainer.  Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan bayi desainer. Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan He Jiankui, ilmuwan bahasa China yang menciptakan bayi yang diedit gennya. Sebagai tambahan, meskipun …

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *