Generator gambar AI Midjourney memblokir pornografi dengan melarang kata-kata yang mengacu pada mesin reproduksi manusia

Generator gambar AI Midjourney memblokir pornografi dengan melarang kata-kata yang mengacu pada mesin reproduksi manusia

Pembuat gambar AI populer Midjourney melarang perbedaan besar kata-kata yang mengacu pada mesin reproduksi manusia menjadi lemah seperti petunjuknya, MIT Skills Review telah menemukan.

Jika seseorang membentuk “plasenta”, “tuba falopi”, “kelenjar susu”, “sperma”, “rahim”, “uretra”, “serviks”, “selaput dara”, atau “vulva” ke dalam Midjourney, mesin menandai pengamatan sebagai disarankan dilarang dan tidak membiarkan atau tidak lagi atau tidak lagi itu lemah. Sesegera mungkin, pengguna yang mencoba salah satu petunjuk tersebut diblokir untuk waktu yang terbatas karena ingin membuat status terlarang. Kata-kata lain tentang biologi manusia, tidak memihak seperti “hati” dan “ginjal”, diperbolehkan.

Pendiri Midjourney, David Holz, mengatakan itu melarang kata-kata ini sebagai tindakan sementara untuk menyimpulkan orang-orang menghasilkan keadaan yang mempesona atau berdarah sementara perusahaan “memperbaiki hal-hal di sisi AI.” Holz mengatakan moderator menyaksikan bagaimana kata-kata menjadi lemah dan bentuk gambar apa yang dihasilkan, dan mengubah larangan secara berkala. Perusahaan memiliki halaman pedoman komunitas yang mencantumkan pembuatan negara yang diblokir dalam formulir ini, termasuk citra seksual, gore, dan bahkan 🍑 emoji, yang dalam banyak kasus lemah sebagai gambar untuk bokong.

Model AI yang tidak memihak seperti Midjourney, DALL-E 2, dan Trusty Diffusion dilatih pada miliaran gambar yang diambil dari penyelamatan. Bandingkan oleh seorang kru di University of Washington telah menemukan bahwa mode seperti itu mempelajari bias yang secara seksual mengobjektifkan kaum wanita, yang kemudian tercermin dalam gambar yang mereka susun. Ukuran besar tempat rekaman membuatnya hampir tidak akan lagi menghapus gambar yang tidak diinginkan, tidak memihak seperti yang bersifat seksual atau kekerasan, atau orang yang mungkin akan mengumpulkan hasil yang bias. Semakin sering sesuatu muncul di tempat rekaman, semakin kuat koneksi yang dibuat oleh model AI, sehingga semakin mungkin untuk muncul dalam gambar yang dihasilkan oleh model tersebut.

Larangan observasi di tengah jalan adalah upaya sedikit demi sedikit untuk membahas masalah ini. Beberapa frasa tentang mesin reproduksi pria, tidak memihak seperti “sperma” dan “testis”, juga diblokir, tetapi daftar kata yang dilarang tampaknya cenderung didominasi oleh wanita.

HOT 🔥  Sistem keuangan turun, tetapi AI mendesis. Penyelamatan, bisakah kita buru-buru dari sini?

Larangan yang disarankan pertama kali ditemukan oleh Julia Rockwell, seorang analis catatan ilmiah di Datafy Clinical, dan temannya Madeline Keenen, seorang ahli biologi sel di University of North Carolina di Chapel Hill. Rockwell Lemah Midjourney untuk menjadi saksi untuk menghasilkan gambaran santai dari plasenta untuk Keenen, yang meninjaunya. Yang mengejutkan, Rockwell menemukan bahwa konsumsi “plasenta” sebagai anjuran dilarang. Dia kemudian mulai bereksperimen dengan kata lain yang terkait dengan mesin reproduksi manusia, dan menemukan hal yang sama.

Meskipun demikian, pasangan tersebut juga menunjukkan bagaimana atau tidak lagi mungkin untuk mengatasi larangan ini untuk mengoperasikan gambar-gambar seksual dengan menggunakan banyak ejaan kata-kata, atau eufemisme lain untuk keadaan seksual atau berdarah.

Dalam temuan yang mereka bagikan dengan MIT Skills Review, mereka menemukan bahwa “pemeriksaan ginekologis” yang direkomendasikan—penggunaan ejaan Inggris—menghasilkan beberapa gambar yang sangat menyeramkan: salah satu dari dua wanita telanjang di kantor dokter, dan yang lainnya botak. orang berkaki tiga mengurangi perut mereka yang sangat memanjakan.

pemeriksaan ginekologi tengah jalan
Gambar yang dihasilkan di Midjourney mengkonsumsi “pemeriksaan ginekologi” yang disarankan.

JULIA ROCKWELL

Pelarangan vulgar petunjuk tentang biologi reproduksi di Midjourney menyoroti betapa canggihnya kehidupan seperti program AI generatif di seluruh negara bagian. Ini juga menunjukkan bagaimana kecenderungan program AI untuk membuat wanita menjadi seksual hingga ke organ dalam mereka, kata Rockwell.

Tidak harus tenang menjadi harta ini. OpenAI dan Stability.AI dalam menemukan berhasil memfilter output dan prompt yang tidak diinginkan, jadi Anda harus membentuk kata-kata yang sama ke dalam program pembuatan gambar mereka—masing-masing DALL-E 2 dan Trusty Diffusion—mereka menyusun sangat banyak gambar. “Pemeriksaan ginekologi” yang disarankan menghasilkan gambar seseorang yang menyimpan alat medis yang ditemukan untuk DALL-E 2, dan dua orang wanita bertopeng yang terdistorsi dengan sarung tangan karet dan jas lab di Trusty Diffusion. Setiap program juga memungkinkan “plasenta” yang disarankan, dan menghasilkan gambar organ gendut yang tidak sesuai secara biologis sebagai tanggapan.

Seorang juru bicara Stability.AI mengakui model terbaru mereka memiliki filter yang memblokir status tidak aman dan tercemar dari pelanggan, dan memiliki alat yang mendeteksi ketelanjangan dan gambar tercemar lainnya serta mengembalikan gambar buram. Perusahaan memanfaatkan kombinasi frase kunci, pengenalan gambar, dan sistem lain untuk hidup seperti gambar yang dihasilkan mesin AI-nya. OpenAI tidak lagi menanggapi permintaan komentar.

HOT 🔥  Startup asli dengan bantuan Stable Diffusion telah meluncurkan AI generatif untuk video

Namun alat untuk memfilter gambar yang dihasilkan AI yang tidak diinginkan masih sangat jahat. Karena pembuat dan peneliti AI ini belum mengetahui peta yang tepat untuk mengaudit dan meningkatkan model mereka secara sistematis, mereka “memperbaiki” mereka dengan harta larangan selimut yang telah dilengkapi Midjourney, kata Marzyeh Ghassemi, asisten profesor di MIT yang meninjau membuat mengkonsumsi mesin mencari tahu untuk kesehatan.

Tidak jelas mengapa merujuk pada pemeriksaan ginekologi atau plasenta, organ yang berkembang selama kehamilan dan memberikan oksigen dan nutrisi kepada seorang anak, akan menghasilkan darah atau keadaan khusus seksual. Sebaliknya, itu mungkin memiliki sesuatu untuk diangkat dengan asosiasi yang telah dibuat oleh model antara gambar di tempat rekamannya, menurut Irene Chen, seorang peneliti di Microsoft Bandingkan, yang meninjau pembelajaran mesin untuk perawatan kesehatan yang adil.

“Lebih banyak pekerjaan yang perlu dilakukan untuk menyerap apa yang mungkin juga dipelajari oleh model asosiasi sinis, karena jika kita bekerja dengan catatan manusia, kita akan mempelajari bias,” kata Ghassemi.

Ada banyak pendekatan yang mungkin diambil oleh perusahaan teknologi untuk mengatasi misi ini bersama dengan melarang kata-kata sama sekali. Mari kita perjelas, kata Ghassemi, petunjuk tertentu — yang tidak memihak tentang biologi manusia — mungkin juga akan diizinkan dalam konteks tertentu tetapi dilarang dalam konteks lain.

“Plasenta” mungkin juga akan diizinkan dengan sangat baik jika rangkaian kata di bagian yang disarankan menandakan bahwa pengguna pernah ingin membuat gambar organ untuk kemampuan akademis atau ulasan. Tetapi jika rekomendasi menjadi sangat lemah dalam konteks di mana seseorang mencoba untuk membuat keadaan seksual atau darah kental, itu juga akan dilarang.

Meskipun demikian vulgar, sensor Midjourney telah diselesaikan dengan niat yang benar.

“Pagar ini ada untuk memberikan perlindungan kepada kaum wanita dan minoritas dari keadaan mengganggu yang ditimbulkan di sekitar mereka dan lemah terhadap mereka,” kata Ghassemi.

Cakupan Asli

Baca juga

Abaikan bayi desainer.  Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan bayi desainer. Inilah cara CRISPR mengubah sebagian besar kehidupan

Abaikan He Jiankui, ilmuwan bahasa China yang menciptakan bayi yang diedit gennya. Sebagai tambahan, meskipun …

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *