Ciri yang Google tunjukkan semalam di konfrensi I/O, menggunakan teknologi AI generatifnya untuk mengimbas panggilan suara secara langsung untuk corak perbualan yang berkaitan dengan penipuan kewangan, telah menghantar kejutan kolektif ke tulang belakang pakar privasi dan keselamatan yang memperingatkan bahawa ciri tersebut mewakili bahagian nipis penapisan "." Mereka memperingatkan bahawa, sekali pemindaian oleh pihak pengguna disatukan ke dalam infrastruktur mudah alih, ia boleh membuka era penapisan terpusat.

Demonstrasi Google tentang ciri pengesan penipuan panggilan, yang syarikat teknologi itu kata akan disertakan dalam versi masa depan OS Android miliknya - dianggarkan berjalan di kira-kira tiga suku dari telefon pintar dunia - dikuasakan oleh Gemini Nano, yang terkecil daripada generasi semasa model AI-nya dimaksudkan untuk berjalan sepenuhnya pada peranti.

Ini pada dasarnya adalah pemindaian oleh pihak pengguna: Teknologi yang baru yang telah menimbulkan kontroversi besar dalam beberapa tahun terakhir berkaitan dengan usaha untuk mengesan bahan penyalahgunaan seksual kanak-kanak (CSAM) atau pun aktiviti grooming pada platform mesej.

Apple menggugurkan rancangan untuk melaksanakan pemindaian oleh pihak pengguna bagi CSAM pada tahun 2021 selepas tekanan privasi yang besar. Walau bagaimanapun, ahli politik terus menumpahkan tekanan ke atas industri teknologi untuk mencari cara untuk mengesan aktiviti haram yang berlaku di platform mereka. Sebarang pergerakan industri untuk menyempurnakan infrastruktur pemindaian oleh pihak pengguna boleh oleh itu membuka jalan untuk pelbagai pemindaian kandungan secara lalai - sama ada yang dipimpin oleh kerajaan atau berkaitan dengan agenda komersial tertentu.