Pegawai kerajaan dan eksekutif industri AI bersetuju pada hari Selasa untuk mengambil langkah keselamatan asas dalam bidang yang berkembang pesat ini dan membentuk rangkaian penyelidikan keselamatan antarabangsa.

Hampir enam bulan selepas persidangan global pertama mengenai keselamatan AI di Bletchley Park di England, Britain dan Korea Selatan mengadakan persidangan keselamatan AI minggu ini di Seoul. Perhimpunan ini menunjukkan cabaran dan peluang baru yang dihadapi dunia dengan kemunculan teknologi AI.

Kerajaan Britain mengumumkan pada hari Selasa suatu perjanjian baru antara 10 negara dan Kesatuan Eropah untuk membentuk rangkaian antarabangsa yang serupa dengan Institut Keselamatan AI UK, yang merupakan organisasi pertama di dunia yang disokong secara awam, untuk mempercepat kemajuan sains keselamatan AI. Rangkaian ini akan mempromosikan pemahaman bersama mengenai keselamatan AI dan menyelaraskan kerjanya dengan penyelidikan, standard, dan ujian. Australia, Kanada, Kesatuan Eropah, Perancis, Jerman, Itali, Jepun, Singapura, Korea Selatan, UK, dan Amerika Syarikat telah menandatangani perjanjian tersebut.

Pada hari pertama AI Summit di Seoul, pemimpin global dan syarikat AI terkemuka berhimpun untuk mesyuarat maya yang diketuai oleh perdana menteri UK Rishi Sunak dan presiden Korea Selatan Yoon Suk Yeol untuk membincangkan keselamatan AI, inovasi, dan inklusi.

Wakil-wakil pemimpin bersepakat dengan Deklarasi Seoul yang lebih luas, menekankan peningkatan kerjasama antarabangsa dalam membina AI untuk menangani isu global utama, menegakkan hak asasi manusia, dan mengatasi jurang digital di seluruh dunia, semuanya sambil memberi keutamaan kepada 'berpusatkan manusia, boleh dipercayai, dan bertanggungjawab'.

'AI adalah teknologi yang sangat menarik - dan UK telah memimpin usaha global untuk menangani potensi teknologi ini, dengan menjadi tuan rumah persidangan AI Safety pertama di dunia pada tahun lalu,' kata Sunak dalam satu kenyataan kerajaan UK. 'Namun, untuk mendapatkan manfaatnya, kita mesti memastikan ia selamat. Itulah sebabnya saya sangat gembira kita telah mencapai persetujuan hari ini untuk rangkaian Institut Keselamatan AI.'

Baru sebulan yang lalu, UK dan Amerika Syarikat menandatangani nota persefahaman untuk bekerjasama dalam penyelidikan, penilaian keselamatan, dan panduan mengenai keselamatan AI.

Perjanjian yang diumumkan hari ini mengikutui Komitmen Keselamatan AI pertama di dunia dari 16 syarikat yang terlibat dalam AI, termasuk Amazon, Anthropic, Cohere, Google, IBM, Inflection AI, Meta, Microsoft, Mistral AI, Open AI, Samsung Electronics, Technology Innovation Institute, xAi dan Zhipu.ai. (Zhipu.ai adalah syarikat China yang disokong oleh Alibaba, Ant, dan Tencent.)

Syarikat-syarikat AI, termasuk yang dari Amerika Syarikat, China, dan Emiriah Arab Bersatu (UAE), telah bersetuju dengan komitmen keselamatan untuk 'tidak membangunkan atau melancarkan model atau sistem sama sekali jika pengurangan risiko tidak dapat dikekalkan di bawah paras yang ditetapkan,' mengikut kenyataan kerajaan UK. 'Ini adalah satu pencapaian pertama di dunia untuk memiliki begitu banyak syarikat AI terkemuka dari pelbagai bahagian dunia yang bersetuju dengan komitmen yang sama mengenai keselamatan AI,' kata Sunak. 'Komitmen ini memastikan syarikat-syarikat AI terkemuka di dunia akan memberikan kejelasan dan akauntabiliti mengenai rancangan mereka untuk membangunkan AI yang selamat.'