File awal untuk pembuatan kebijakan tentang AI generatif

File awal untuk pembuatan kebijakan tentang AI generatif

Teks ini dari The Technocrat, buletin elektronik liputan teknologi mingguan MIT Abilities Review tentang vitalitas, politik, dan Lembah Silikon. Untuk menyimpannya di kotak masuk Anda setiap hari Jumat, bergabung di sini.

Awal minggu ini, saya mengobrol dengan profesor liputan di Washington, DC, yang memberi tahu saya bahwa siswa dan kolega sama-sama bertanya tentang GPT-4 dan AI generatif: Apa yang harus mereka baca? Bagaimana pertimbangan yang belum pernah terjadi sebelumnya yang harus mereka bayarkan?

Dia ingin tahu apakah saya punya solusi, dan bertanya apa yang saya yakini dari seluruh kemajuan baru Anda yang dimaksudkan untuk anggota parlemen. Saya telah menghabiskan beberapa hari untuk merenungkan, membaca, dan mengobrol dengan para ahli tentang hal ini, dan balasan saya berubah menjadi buletin elektronik ini. Jadi ini dia!

Meskipun GPT-4 adalah pembawa lama, itu adalah salah satu dari banyak rilis AI generatif profil tinggi dalam beberapa bulan terakhir: Google, Nvidia, Adobe, dan Baidu semuanya telah mengumumkan inisiatif mereka sendiri. Singkatnya, AI generatif adalah hal yang dibicarakan setiap orang. Dan meskipun teknologinya tidak lagi segar, implikasi cakupannya berbulan-bulan jika tidak bertahun-tahun lagi untuk dipahami.

GPT-4, diluncurkan oleh OpenAI minggu lalu, adalah model bahasa raksasa multimodal yang menggunakan pembelajaran mendalam untuk memprediksi kata dalam sebuah kalimat. Ini menghasilkan materi verbalisasi tekstual yang sangat lancar, dan itu akan membalas foto juga menjadi petunjuk berdasarkan kesadaran. Untuk klien berbayar, GPT-4 sekarang akan menghidupkan ChatGPT, yang telah terintegrasi ke dalam fungsi komersial.

Pada dasarnya iterasi yang paling orisinal telah menghasilkan percikan yang berharga, dan Invoice Gates menyebutnya “modern” dalam sebuah surat minggu ini. Di sisi lain, OpenAI juga dikritik karena kurangnya transparansi tentang bagaimana model tersebut menjadi berpengetahuan dan dinilai bias.

Terlepas dari seluruh kegembiraan Anda, AI generatif memiliki risiko yang berharga. Objek-objek tersebut memiliki pengetahuan tentang repositori beracun yang ada di internet, yang mengaturnya secara total menampilkan keluaran rasis dan seksis. Mereka juga di atas fondasi fondasi yang telah lama berdiri mengatur masalah dan mengungkapkannya dengan persepsi diri yang meyakinkan. Itu juga akan menjadi mimpi buruk dari sudut pandang informasi yang salah dan mungkin membuat penipuan menjadi lebih persuasif dan produktif.

Alat AI generatif juga merupakan ancaman potensial terhadap keamanan dan privasi orang-orang, dan mereka kurang memperhatikan pedoman resmi hak cipta. Perusahaan yang menggunakan AI generatif yang mencuri karya orang lain sudah dituntut.

Alex Engler, seorang rekan dalam pengalaman tata kelola di Brookings Institution, memiliki keyakinan tentang bagaimana pembuat kebijakan ingin disibukkan dengan hal ini dan melihat dua jenis risiko yang berharga: bahaya dari pekerjaan berbahaya dan bahaya dari pekerjaan komersial. Pemanfaatan teknologi yang berbahaya, menikmati disinformasi, ujaran kebencian otomatis, dan penipuan, “memiliki banyak muatan dengan moderasi materi secara verbal,” kata Engler dalam email kepada saya, “dan keterampilan paling mungkin untuk mengatasi risiko ini tampaknya tata kelola platform.” (Jika Anda ingin mempelajari lebih lanjut tentang ini, saya sarankan untuk memperhatikan Pameran Minggu minggu ini dari Tech Policy Press, lampiran Justin Hendrix, seorang editor dan dosen di bidang teknologi, media, dan demokrasi, berbicara dengan panel para ahli tentang apakah metode AI generatif ingin diatur sama untuk memimpin algoritma percobaan dan rekomendasi.Kesampingkan: Penjatahan 230.)

HOT 🔥  Model bahasa mungkin memiliki peluang untuk bias faktual diri — jika Anda membutuhkannya

Diskusi kebijakan tentang AI generatif membutuhkan jarak yang berpusat pada kategori 2d itu: risiko dari penggunaan teknologi secara komersial, menikmati pengkodean atau periklanan dan pemasaran. Sejauh ini, otoritas AS telah mengambil tindakan kecil tapi signifikan, terutama oleh Federal Change Price (FTC). FTC mengeluarkan pernyataan peringatan kepada perusahaan bulan lalu yang mendesak mereka untuk tidak mengajukan klaim tentang kemampuan teknis yang tidak dapat mereka buktikan, seperti melebih-lebihkan apa yang dapat dikembangkan oleh AI. Minggu ini, di weblog alternatifnya, ia mengembangkan bahasa yang lebih kuat tentang risiko yang harus dirampok perusahaan saat menggunakan AI generatif.

“Setiap kali Anda memproduksi atau menyediakan media sintetis atau produk AI generatif, merampok cerita pada tahap kesepakatan dan kemudian dengan cara yang cukup dapat diperkirakan — dan dengan cara yang sangat jelas — hal itu akan disalahgunakan untuk penipuan atau menyebabkan berbagai kerugian. Kemudian tanyakan pada diri Anda sendiri apakah risiko seperti itu lumayan tinggi sehingga Anda tidak boleh menjual produk sedikit pun, ”tulis posting blog itu.

Kantor Hak Cipta AS juga meluncurkan prakarsa baru yang dimaksudkan untuk menangani pertanyaan peliputan seputar AI, atribusi, dan properti psikologis.

UE, untuk sementara, mempertahankan reputasinya sebagai pemimpin dunia dalam cakupan teknologi. Pada peluncuran satu tahun ini, kolega saya Melissa Heikkilä menulis tentang upaya UE untuk melihat keluar dari Undang-Undang Kecerdasan Buatan. Ini adalah situasi pedoman yang mungkin dapat dengan baik mencegah perusahaan melepaskan objek ke alam liar tanpa mengungkapkan cara kerja internal mereka, yang justru dituduhkan oleh beberapa kritikus OpenAI dengan rilis GPT-4.

UE bermaksud untuk memisahkan penggunaan AI dengan kemungkinan tinggi, menikmati perekrutan, menyilaukan, atau fungsi keuangan, dari penggunaan kemungkinan rendah menggunakan permainan video menikmati dan filter surat yang tidak diminta, dan memerlukan transparansi ekstra bulat yang digunakan lebih sensitif . OpenAI telah mengakui beberapa kekhawatiran krusial terkait serbuan adopsi. Faktanya, CEO-nya sendiri, Sam Altman, mengatakan kepada ABC News bahwa dia berbagi banyak ketakutan terkait. Di sisi lain, perusahaan tersebut dianggap tidak lagi mengungkapkan informasi penting tentang GPT-4.

HOT 🔥  Menghilangkan tiga mitos tentang pasokan dan energi terbarukan

Untuk orang-orang liputan di Washington, Brussel, London, dan kantor di setiap situasi lain di planet ini, penting untuk membayangkan bahwa AI generatif ada di sini untuk dihentikan. Tentu, ada hype yang berharga, tetapi pada dasarnya kemajuan AI yang paling orisinal sama tepat dan pentingnya dengan bahaya yang ditimbulkannya.

Apa yang saya baca minggu ini

Sehari sebelum hari ini, Kongres AS memanggil Shou Zi Bite, CEO TikTok, untuk mendengarkan tentang masalah privasi dan keamanan yang diangkat oleh aplikasi media sosial yang disukai. Kemunculannya terjadi setelah pemerintahan Biden mengancam larangan nasional jika firma walinya, ByteDance, tidak membuang sebagian besar sahamnya.

Ada banyak tajuk utama, sebagian besar menggunakan permainan kata sementara, dan mendengarkan mengungkapkan kedalaman pertempuran keren teknologi baru antara AS dan China. Untuk banyak tatapan, mendengarkan menjadi penting dan mengecewakan, dengan beberapa legislator menunjukkan latihan teknis yang mengerikan dan kemunafikan tentang bagaimana perusahaan China menangani privasi ketika perusahaan Amerika mengamankan dan mengganti file dengan cara yang belum pernah terjadi sebelumnya.

Itu juga menunjukkan seberapa dalam ketidakpercayaan anggota parlemen Amerika terhadap teknologi China. Berikut adalah beberapa pengambilan spicier penting dan artikel tak ternilai untuk menyelamatkan merek:

  • Poin-poin penting dari mendengarkan TikTok di Kongres – dan penyerang yang ragu-ragu – Kari Paul dan Johana Bhuiyan, The Guardian
  • Yang Perlu Diketahui Mengenai Masalah Keamanan TikTok – Billy Perrigo, Time
  • Komplikasi privasi online AS belum pernah terjadi sebelumnya lebih besar dari TikTok – Will Oremus, Washington Post
  • Ada Pemalu Dengan Melarang TikTok. Ini Dikenal sebagai Modifikasi Pertama – Jameel Jaffer (Direktur Pemerintah Institut Modifikasi Knight First), Konsepsi NYT

Apa yang saya sadari minggu ini

AI siap meyakinkan orang-orang untuk mengubah pikiran mereka tentang komponen politik tombol panas menikmati larangan senjata serbu dan cuti orang tua berbayar, per kunjungan oleh tim di Lab Polarisasi dan Perdagangan Sosial Stanford. Para peneliti ketika menempatkan urusan verbalisasi orang berikutnya pada suatu masalah sebelum dan setelah membaca argumen yang dihasilkan AI, dan menemukan bahwa argumen ini mungkin juga seefisien argumen yang ditulis manusia dalam meyakinkan pembaca: “AI peringkat secara konsisten sebagai lebih tepat dan logis, apalagi marah, dan tidak lagi bergantung pada mendongeng sebagai teknik persuasif.”

Tim menghargai perhatian terkait penggunaan AI generatif dalam konteks politik, setara dengan melobi atau wacana online. (Untuk informasi lebih lanjut tentang penggunaan AI generatif dalam politik, harap pelajari karya paling orisinal ini oleh Nathan Sanders dan Bruce Schneier.)

Cakupan Asli

Baca juga

Abaikan bayi desainer.  Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan bayi desainer. Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan He Jiankui, ilmuwan bahasa China yang menciptakan bayi yang diedit gennya. Sebagai tambahan, meskipun …

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *