Pegawai perlindungan data UK telah menutup penyiasatan hampir setahun terhadap AI chatbot Snap, My AI — mengatakan bahawa mereka puas bahawa firma media sosial tersebut telah menangani kebimbangan tentang risiko kepada privasi kanak-kanak. Pada masa yang sama, Pejabat Komisioner Maklumat (ICO) mengeluarkan amaran umum kepada industri untuk menjadi proaktif dalam menilai risiko kepada hak orang sebelum membawa alat AI generatif ke pasaran.

GenAI merujuk kepada satu jenis AI yang sering menekankan penciptaan kandungan. Dalam kes Snap, teknologi ini membolehkan chatbot memberi respons kepada pengguna secara mirip dengan gaya manusia, seperti menghantar mesej teks dan snaps, membolehkan platform untuk menyediakan interaksi automatik.

Chatbot AI Snap dikuasakan oleh ChatGPT OpenAI, tetapi firma media sosial tersebut mengatakan bahawa mereka menyediakan pelbagai pelindung kepada aplikasi itu, termasuk pensijilan garis panduan dan pertimbangan usia secara secara automatik, yang bertujuan untuk menghalang kanak-kanak daripada melihat kandungan yang tidak sesuai dengan umur. Mereka juga menyediakan kawalan ibu bapa.

"Siasatan kami ke atas 'My AI' patut dianggap sebagai amaran kepada industri," tulis Stephen Almond, pengarah eksekutif risiko penguat kuasa ICO, dalam satu kenyataan pada hari Selasa. "Organisasi yang membangunkan atau menggunakan AI generatif harus mempertimbangkan perlindungan data dari awal, termasuk menilai dengan teliti dan mengurangkan risiko kepada hak dan kebebasan orang sebelum membawa produk ke pasaran."

"Kami akan terus memantau penilaian risiko organisasi dan menggunakan keseluruhan kuasa penguat kuasa kami — termasuk denda — untuk melindungi orang awam daripada bahaya," tambah beliau.

Pada bulan Oktober, ICO menghantar Snap satu notis penguatkuasaan awal berkenaan apa yang dibincangkan pada masa itu sebagai "kegagalan berpotensi untuk menilai dengan betul risiko privasi yang ditimbulkan oleh chatbot AI generatif 'My AI'."

Notis awal itu pada musim gugur tahun lalu kelihatan sebagai teguran awam tunggal terhadap Snap. Pada teorinya, rejim itu boleh mengenakan denda sehingga 4% daripada perolehan tahunan syarikat dalam kes pelanggaran data yang disahkan.

Mengumumkan penutupan siasatannya pada hari Selasa, ICO mencadangkan syarikat itu telah mengambil "langkah-langkah yang signifikan untuk menjalankan semula penilaian risiko yang ditimbulkan oleh 'My AI'," selepas campur tangan mereka. ICO juga mengatakan Snap dapat membuktikan bahawa mereka telah melaksanakan "pengurangan yang sesuai" sebagai tindak balas kepada kebimbangan yang dibangkitkan — tanpa menetapkan langkah-langkah tambahan (jika ada) yang syarikat itu telah ambil (kami telah bertanyakan).

Mungkin terdapat lebih banyak butiran yang akan dikeluarkan apabila keputusan akhir penguatkuasa itu diterbitkan dalam beberapa minggu yang akan datang.

"ICO berpuas hati bahawa Snap kini telah menjalankan penilaian risiko berkenaan dengan 'My AI' yang mematuhi undang-undang perlindungan data. ICO akan terus memantau pelaksanaan 'My AI' dan bagaimana risiko yang muncul diperhatikan," tambah regulator itu.

Apabila diminta memberikan respons terhadap penutupan siasatan, seorang jurucakap Snap menghantar kepada kami satu kenyataan — menulis: "Kami gembira bahawa ICO telah menerima bahawa kami telah mengambil langkah-langkah yang sesuai untuk melindungi komuniti kami semasa menggunakan My AI. Walaupun kami menilai risiko yang ditimbulkan oleh My AI dengan teliti, kami menerima bahawa penilaian kami boleh didokumenkan dengan lebih jelas dan telah membuat perubahan kepada prosedur kami secara global untuk mencerminkan maklum balas yang membina ICO. Kami mengalu-alukan kesimpulan ICO bahawa penilaian risiko kami sepenuhnya mematuhi undang-undang perlindungan data UK dan berharap untuk meneruskan kerjasama yang konstruktif."

Snap enggan mengesahkan sebarang pengecilan yang dilaksanakan sebagai tindak balas kepada campur tangan ICO.

Pengawal UK tersebut telah mengatakan bahawa AI generatif tetap menjadi keutamaan penguatkuasaannya. Mereka menunjuk pembangun kepada panduan yang mereka hasilkan mengenai peraturan AI dan perlindungan data. Mereka juga mempunyai konsultasi terbuka yang meminta input mengenai bagaimana undang-undang privasi sepatutnya digunakan dalam pembangunan dan penggunaan model AI generatif.

Walaupun UK belum memperkenalkan undang-undang formal untuk AI, kerana kerajaan telah memilih untuk bergantung kepada penguatkuasa seperti ICO menentukan bagaimana pelbagai peraturan sedia ada digunakan, ahli undang-undang Kesatuan Eropah baru sahaja meluluskan satu rangka kerja berasaskan risiko untuk AI — yang akan dilaksanakan dalam beberapa bulan dan tahun akan datang — yang termasuk kewajipan ketelusan untuk chatbot AI.