Untuk memberi tumpuan yang sepatutnya kepada wanita akademik yang berfokus dalam bidang AI dan yang lain, TechCrunch telah menerbitkan siri temu ramah yang memberi tumpuan kepada wanita yang luar biasa yang telah menyumbang kepada revolusi AI. Kami menerbitkan bahagian-bahagian ini sepanjang tahun semasa boom AI berlanjutan, menonjolkan kerja utama yang sering tidak diiktiraf. Baca profil-profil lebih lanjut di sini.

Miriam Vogel ialah CEO EqualAI, sebuah badan bukan untung yang dicipta untuk mengurangkan prasangka tidak sedar dalam AI dan mempromosikan pentadbiran AI yang bertanggungjawab. Beliau juga berkhidmat sebagai pengerusi kepada Jawatankuasa Penasihat AI Nasional yang baru dilancarkan, yang diperintahkan oleh Kongres untuk memberi nasihat kepada Presiden Joe Biden dan White House mengenai dasar AI, dan mengajar undang-undang dan dasar teknologi di Pusat Undang-undang Universiti Georgetown.

Sebelum ini, Vogel berkhidmat sebagai timbalan peguam negara di Jabatan Kehakiman, memberi nasihat kepada peguam negara dan timbalan peguam negara mengenai pelbagai isu undang-undang, dasar dan operasi. Sebagai ahli Lembaga Institut AI Bertanggungjawab dan penasihat kanan kepada Pusat Demokrasi dan Teknologi, Vogel telah memberi nasihat kepada kepimpinan White House tentang inisiatif yang meliputi dasar wanita, ekonomi, kawalan dan keselamatan makanan hingga perkara keadilan jenayah.

Secara ringkas, bagaimana awak memulakan karier dalam AI? Apa yang menarik awak kepada bidang ini?

Saya memulakan karier saya dalam kerajaan, pada mulanya sebagai praktikal Senat, musim panas sebelum darjah 11. Saya mula terlibat dalam bidang dasar dan menghabiskan beberapa musim panas berikutnya bekerja di Capitol Hill dan kemudian di White House. Pada ketika itu, tumpuan saya adalah hak asasi manusia, yang bukan laluan konvensional ke arah kecerdasan buatan, tetapi jika dilihat kembali, ia adalah sesuatu yang sesuai.

Selepas menamatkan sekolah undang-undang, karier saya berkembang dari seorang peguam hiburan yang pakar dalam harta intelek menjadi terlibat dalam pekerjaan hak asasi manusia dan impak sosial dalam cabang eksekutif. Saya berpeluang memimpin pasukan tugas gaji yang saksama semasa saya berkhidmat di White House, dan, semasa berkhidmat sebagai timbalan peguam negara di bawah bekas timbalan peguam negara Sally Yates, saya memimpin pembangunan dan pembangunan latihan bias tidak sedar untuk penguatkuasaan undang-undang persekutuan.

Saya dijemput untuk memimpin EqualAI berdasarkan pengalaman saya sebagai seorang peguam dalam teknologi dan latar belakang saya dalam dasar menangani prasangka dan kebaikan sistemik. Saya tertarik dengan organisasi ini kerana saya sedar bahawa AI mempersembahkan medan hak asasi manusia seterusnya. Tanpa kewaspadaan, dekad kemajuan boleh dibatalkan dalam baris kod.

Saya sentiasa teruja dengan peluang yang dicipta oleh inovasi, dan saya masih percaya AI boleh memberikan peluang baru yang mengagumkan untuk lebih banyak populasi berkembang — tetapi hanya jika kita berhati-hati pada persimpangan penting ini untuk memastikan lebih ramai orang boleh turut serta dengan signifikan dalam penciptaan dan pembangunan AI.

Bagaimana awak menghadapi cabaran dalam industri teknologi yang dikuasai oleh lelaki, dan, dengan itu, industri AI yang dikuasai oleh lelaki?

Saya pada dasarnya percaya bahawa kita semua mempunyai peranan untuk memastikan bahawa AI kita adalah seberapa efektif, cekap dan bermanfaat mungkin. Ini bermakna memastikan kita melakukan lebih untuk menyokong suara wanita dalam pembangunannya (yang, dengan jalan yang betul, menyumbang lebih dari 85% daripada pembelian di Amerika Syarikat, dan memastikan kepentingan dan keselamatan mereka diambil kira adalah langkah perniagaan yang bijak), serta suara populasi lain yang tidak mencukupi perwakilan seperti umur, kawasan, etnik dan kebangsaan. Semasa kita berusaha ke arah kesamarataan jantina, kita harus memastikan bahawa lebih banyak suara dan perspektif yang dipertimbangkan bagi membangunkan AI yang berfungsi bagi semua pengguna — bukan AI yang berfungsi bagi pembangunnya.

Apa nasihat yang akan awak berikan kepada wanita yang ingin memasuki bidang AI?

Pertama, tidak pernah terlambat untuk memulakan. Tidak pernah. Saya memberi galakan kepada semua datuk nenek untuk mencuba menggunakan ChatGPT OpenAI, Copilot Microsoft atau Gemini Google. Kita semua perlu menjadi berpengetahuan AI untuk berkembang dalam apa yang akan menjadi ekonomi yang berkuasa AI. Dan itulah yang menarik! Kita semua mempunyai peranan untuk dimainkan. Sama ada anda memulakan kerjaya dalam AI atau menggunakan AI untuk menyokong kerja anda, wanita patut mencuba alat-alat AI, melihat apa yang alat-alat ini boleh dan tidak boleh lakukan, melihat sama ada ia berfungsi bagi mereka dan secara umum menjadi mahir dalam AI.

Kedua, pembangunan AI yang bertanggungjawab memerlukan lebih daripada hanya saintis komputer etika. Ramai orang berpikir bahawa bidang AI memerlukan ijazah sains komputer atau ijazah STEM lain ketika, sebenarnya, AI memerlukan perspektif dan kepakaran dari wanita dan lelaki dari pelbagai latar belakang. Melompat masuk! Suara dan perspektif anda diperlukan. Kesertaan anda penting.

Apa beberapa isu mendesak yang dihadapi AI seiring dengan perkembangannya?

Pertama, kita memerlukan literasi AI yang lebih besar. Kami "AI net-positive" di EqualAI, bermaksud kami berpikir AI akan menyediakan peluang yang belum pernah ada sebelum ini untuk ekonomi kita dan meningkatkan kehidupan harian kita — tetapi hanya jika peluang-peluang ini sedia ada dan memberi faedah kepada pelbagai segmen populasi kita. Kita perlu mempunyai tenaga kerja sedia ada, generasi akan datang, datuk nenek kita — semua kita — dilengkapi dengan pengetahuan dan kemahiran untuk mendapat manfaat daripada AI.

Kedua, kita mesti membangunkan ukuran dan metrik piawaian untuk menilai sistem-sistem AI. Penilaian piawaian akan menjadi penting untuk membangunkan kepercayaan dalam sistem AI kita dan membolehkan pengguna, pengatur dan pengguna hulu memahami had-had sistem AI yang mereka interaksi dan menentukan sama ada sistem itu wajar dipercayai. Memahami siapa sistem itu dibina untuk melayani dan kes yang dirancang akan membantu kita menjawab soalan utama: Untuk siapa ia boleh gagal?

Apa yang perlu pengguna AI sedar?

Kecerdasan buatan hanyalah itu: buatan. Ia dibina oleh manusia untuk "mensimulasikan" kognisi manusia dan memberdayakan manusia dalam usaha mereka. Kita mesti mengekalkan tahap skeptisisme yang sewajarnya dan menjalankan kajian yang sewajarnya ketika menggunakan teknologi ini untuk memastikan bahawa kita meletakkan kepercayaan kita dalam sistem yang layak dipercayai. AI boleh memperkuat — tetapi tidak menggantikan — kemanusiaan.

Kita mesti tetap jelas fakta bahawa AI terdiri daripada dua bahan utama: algoritma (dibuat oleh manusia) dan data (mencerminkan perbualan dan interaksi manusia). Akibatnya, AI mencerminkan dan menyesuaikan kelemahan manusia kita. Prasangka dan bahaya dapat terbenam sepanjang kitaran hidup AI, sama ada melalui algoritma yang ditulis oleh manusia atau melalui data yang menjadi snapshot kehidupan manusia. Walau bagaimanapun, setiap titik sentuhan manusia adalah peluang untuk mengenal pasti dan mengurangkan kemungkinan bahaya.

Kerana seseorang hanya dapat membayangkan secaranya yang luas sebagaimana yang boleh diperuntukkan oleh pengalaman sendiri dan program AI adalah terhad oleh struktur di bawah mana ia dibina, semakin ramai orang dengan perspektif dan pengalaman yang berbeza dalam satu pasukan, semakin besar kemungkinan mereka menangkap prasangka dan kebimbangan keselamatan lain yang tertanam dalam AI mereka.

Apakah cara terbaik untuk membina AI secara bertanggungjawab?

Membina AI yang layak dipercayai adalah tanggungjawab kita semua. Kita tidak boleh mengharapkan orang lain untuk melakukannya bagi kita. Kita mesti mula dengan mengajukan tiga soalan asas: (1) Untuk siapa sistem AI ini dibina (2), apa kes yang dirancangkan dan (3) untuk siapa ini boleh gagal? Walaupun dengan soalan-soalan ini diingat, pasti akan ada rintangan. Untuk mengurangkan risiko ini, mereka yang merancang, membangunkan dan melancarkan harus mengikuti amalan terbaik.

Di EqualAI, kami mempromosikan "hidupan AI yang baik," yang melibatkan merancang rangka kerja anda dan memastikan akauntabiliti, standardisasi ujian, dokumentasi dan pengauditan rutin. Kami juga baru-baru ini menerbitkan panduan untuk merancang dan melaksanakan rangka kerja pentadbiran AI yang bertanggungjawab, yang menghuraikan nilai, prinsip dan rangka bagi melaksanakan AI secara bertanggungjawab di suatu organisasi. Kertas itu berfungsi sebagai sumber untuk organisasi apa sahaja, sektor atau matang dalam proses mengambil, mengembangkan, menggunakan dan melaksanakan sistem AI dengan komitmen dalaman dan awam untuk melakukannya secara bertanggungjawab.

Bagaimana pelabur boleh lebih mendorong untuk AI yang bertanggungjawab?

Pelabur memainkan peranan penting dalam memastikan AI kita selamat, efektif dan bertanggungjawab. Pelabur boleh memastikan syarikat-syarikat yang mencari pembiayaan sedar dan memikirkan untuk mengurangkan bahaya dan liabiliti yang berpotensi dalam sistem AI mereka. Hanya dengan mengajukan soalan, “Bagaimana anda menerapkan amalan pentadbiran AI?” adalah langkah permulaan yang penting dalam memastikan hasil yang lebih baik.

Usaha ini bukan sahaja baik untuk kebaikan awam; ia juga dalam kepentingan terbaik pelabur yang ingin memastikan syarikat yang mereka labur dan berafiliasi dengan tidak dikaitkan dengan tajuk-tajuk buruk atau terbeban dengan litigasi. Kepercayaan adalah salah satu perkara yang tidak boleh dipertikaikan bagi kejayaan sebuah syarikat, dan komitmen kepada pentadbiran AI yang bertanggungjawab adalah cara terbaik untuk membina dan mengekalkan kepercayaan awam. AI yang kukuh dan dapat dipercayai adalah keputusan perniagaan yang baik.