Meta pada hari Rabu mengumumkan pembentukan lembaga penasihat AI dengan hanya lelaki kulit putih di dalamnya. Apa lagi yang kita boleh jangkakan? Wanita dan individu berkulit tidak kira warna telah lama menyuarakan ketidakpedulian dan pengecualian dari dunia kecerdasan buatan walaupun mereka berkelayakan dan memainkan peranan penting dalam evolusi ruang ini. Meta tidak segera memberikan jawapan kepada permintaan kami untuk mengulas mengenai kepelbagaian lembaga penasihat.

Papan penasihat baru ini berbeza daripada ahli lembaga pengarah sebenar Meta dan Papan Pengawalannya, yang lebih beraneka ragam dari segi jantina dan representasi ras. Pemegang saham tidak memilih papan AI ini, yang juga tidak mempunyai kewajipan fidusia. Meta memberitahu Bloomberg bahawa lembaga ini akan menawarkan "wawasan dan cadangan mengenai kemajuan teknologi, inovasi, dan peluang pertumbuhan strategik." Ia akan bertemu "sekali-sekala."

Mempunyai empati bahawa lembaga penasihat AI terdiri sepenuhnya daripada ahli perniagaan dan usahawan, bukan etis atau sesiapa yang mempunyai latar belakang akademik atau penyelidikan yang mendalam. Walaupun seseorang boleh berhujah bahawa eksekutif Stripe, Shopify dan Microsoft semasa dan bekas memegang jawatan adalah posisi yang baik untuk mengawasi perancangan produk AI Meta mengingat jumlah produk yang luar biasa yang mereka bawa ke pasaran di antara mereka, tetapi telah terbukti berulang kali bahawa AI tidak seperti produk lain. Ini adalah perniagaan yang berisiko, dan akibatnya jika melakukan kesilapan dapat tersebar jauh, terutama untuk kumpulan yang terpinggirkan.

Dalam temu bual baru-baru ini dengan TechCrunch, Sarah Myers West, pengarah pengurusan di Institut AI Now, sebuah badan kebajikan yang mengkaji implikasi sosial AI, berkata bahawa adalah penting untuk “menyemak secara kritis” institusi yang menghasilkan AI untuk “memastikan keperluan awam dilayan.”

“Ini adalah teknologi yang mudah melakukan kesilapan, dan kita tahu dari penyelidikan bebas bahawa kesilapan itu tidak didistribusikan dengan sama, ia secara melampau menyakiti komuniti yang telah lama menanggung beban diskriminasi,” katanya. “Kita seharusnya meletakkan bar yang jauh lebih tinggi.”

Wanita jauh lebih cenderung daripada lelaki untuk mengalami sisi gelap AI. Sensity AI menemui pada tahun 2019 bahawa 96% video deepfake AI dalam talian adalah video seks tidak bersetuju, eksplisit. Generative AI telah menjadi lebih meluas sejak itu, dan wanita masih menjadi sasaran tindakan ini.

Dalam satu insiden besar pada bulan Januari, deepfakes porno tidak bersetuju tentang Taylor Swift menjadi viral di X, dengan salah satu pos yang paling meluas menerima beratus-ratus ribu suka, dan 45 juta tontonan. Platform sosial seperti X selama ini gagal melindungi wanita dari keadaan ini - tetapi kerana Taylor Swift adalah salah satu wanita yang paling berkuasa di dunia, X campur tangan dengan melarang frasa carian seperti “taylor swift ai” dan taylor swift deepfake.”

Tetapi jika ini berlaku kepada anda dan anda bukan seorang sensasi pop global, maka anda mungkin gagal nasib. Terdapat banyak laporan mengenai pelajar sekolah menengah dan menengah yang membuat deepfakes eksplisit rakan sekelas mereka. Walaupun teknologi ini telah wujud sejak lama, ia tidak pernah menjadi lebih mudah untuk diakses - anda tidak perlu berpengetahuan teknologi untuk memuat turun aplikasi yang secara khusus diiklankan untuk “membuka baju” foto wanita atau menukar muka mereka ke filem lucah. Sebenarnya, mengikut laporan oleh Kat Tenbarge NBC, Facebook dan Instagram memaparkan iklan untuk aplikasi bernama Perky AI, yang menggambarkan dirinya sebagai alat untuk membuat imej eksplisit.

Dua iklan tersebut, yang didakwa lepas dari pengesanan Meta sehingga Tenbarge memberitahu syarikat mengenai masalah itu, menunjukkan foto selebriti Sabrina Carpenter dan Jenna Ortega dengan badan mereka disamaratakan, menggesa pelanggan untuk mendorong aplikasi itu untuk menanggalkan pakaian mereka. Iklan menggunakan imej Ortega dari ketika dia hanya berusia enam belas tahun.

Kesilapan membenarkan Perky AI beriklan bukanlah satu insiden berasingan. Papan Pengawas Meta baru-baru ini membuka siasatan ke atas kegagalan syarikat untuk menangani laporan mengenai kandungan AI secara seksual yang dihasilkan.

adalah penting untuk mengikutsertakan suara wanita dan orang berkulit dalam inovasi produk kecerdasan buatan. Begitu lama, kumpulan-kumpulan yang terpinggirkan telah dikecualikan dari pembangunan teknologi dan penyelidikan yang mengubah dunia, dan hasilnya telah menjadi malapetaka.

Satu contoh mudah adalah hakikat bahawa sehingga tahun 1970-an, wanita dikecualikan dari ujian klinikal, bermakna seluruh bidang penyelidikan berkembang tanpa pemahaman bagaimana ia akan memberi kesan kepada wanita. Orang kulit hitam, khususnya, melihat impak teknologi yang dibina tanpa mereka di benak - sebagai contoh, kereta auton dari self cenderung memukul mereka kerana pengesan mereka mungkin sukar untuk mengesan bahawa kulit hitam, menurut satu kajian pada tahun 2019 oleh Institut Teknologi Georgia.

Algoritma yang dilatih pada data yang sudah diskriminatif hanya mengulangi bias yang sama yang manusia telah dilatih untuk mengambil. Secara umum, kita sudah melihat sistem AI meneruskan dan memperkuat diskriminasi rasial dalam pekerjaan, perumahan, dan keadilan jenayah. Pembantu suara berjuang untuk memahami aksen yang berbeza dan sering menunjuk kerja oleh penutur asli bukan Bahasa Inggeris sebagai yang dihasilkan oleh AI kerana, seperti yang diutarakan Axios, Bahasa Inggeris adalah bahasa ibu AI. Sistem pengenalan wajah menandakan orang kulit hitam sebagai padanan mungkin untuk tersangka jenayah lebih kerap daripada orang putih.

Pembangunan AI semasa mencerminkan struktur kuasa yang sama yang sedia ada berkaitan dengan kelas, bangsa, jantina dan Eurosentrisma yang kita lihat di tempat lain, dan tidak cukup pemimpin yang menangani itu. Sebaliknya, mereka menguatkkannya. Pelabur, pengasas, dan pemimpin teknologi begitu fokus pada bergerak cepat dan memecahkan perkara sehingga mereka kelihatan tidak memahami bahawa Generative AI - teknologi AI panas ketika ini - boleh menjadikan masalah itu lebih teruk, bukannya lebih baik. Mengikut laporan dari McKinsey, AI boleh mengautomasi kira-kira separuh daripada semua pekerjaan yang tidak memerlukan ijazah empat tahun dan membayar lebih $42,000 setahun, pekerjaan di mana pekerja minoriti banyak diwakili.

Adalah wajar untuk bimbang mengenai bagaimana satu pasukan lelaki kulit putih di salah satu syarikat teknologi paling terkemuka di dunia, terlibat dalam perlumbaan ini untuk menyelamatkan dunia menggunakan AI, boleh memberi nasihat mengenai produk untuk semua orang apabila hanya satu demografi yang sempit diwakili. Memerlukan usaha besar untuk membina teknologi yang setiap orang - benar-benar setiap orang - boleh gunakan. Sebenarnya, lapisan yang diperlukan untuk benar-benar membina AI yang selamat dan inklusif - dari penyelidikan hingga pemahaman pada peringkat sosial yang berinterseksi - sangat rumit sehingga hampir jelas bahawa lembaga penasihat ini tidak akan membantu Meta membuatnya betul. Setidaknya di mana Meta kekurangan, sebuah startup lain boleh muncul.

Kami sedang melancarkan buletin AI! Daftar di sini untuk mula menerimanya dalam peti masuk anda pada 5 Jun.