Bagaimana AI Memperkuat Pengawasan Pengguna

AI dapat mengotomatiskan pencarian wajah serupa dalam database dan analisis data aktivitas pengguna. Hasil pemrosesan dapat digunakan untuk identifikasi, iklan, dan keputusan lain. Namun, kecocokan wajah atau prediksi model bisa salah dan tidak boleh dianggap sebagai fakta yang telah terbukti tentang seseorang. Bagian berikut membahas contoh terdokumentasi dan pemeriksaan berbagi data.

Dari Tinjauan Manual hingga Analisis Massal

Salah satu contoh otomatisasi adalah pencarian wajah dalam database gambar. NIST membedakan perbandingan dua foto dengan pencarian kecocokan di antara banyak foto. Dalam pencarian tersebut, sistem dapat menampilkan kandidat untuk diperiksa lebih lanjut.

Untuk menilai proses ini, bedakan:

• Gambar atau data lain yang dikumpulkan
• Hal yang dibandingkan atau diperkirakan oleh sistem
• Pihak yang memeriksa hasil dan tindakan yang mengikutinya

Pemrosesan otomatis tidak membuktikan keakuratan hasil atau kelayakan pengumpulan data. Baca juga risiko penyimpanan data terpusat.

Pengenalan Wajah dan Identitas

Pencarian database dapat menghasilkan kecocokan palsu: sistem menghubungkan foto orang yang berbeda. Kesalahan sebaliknya juga mungkin terjadi, yaitu gagal mencocokkan foto orang yang sama. Dalam penelitian NIST tahun 2019, hasil berbeda antar algoritme dan kelompok demografis. Temuan tersebut bukan penilaian untuk setiap sistem yang digunakan saat ini.

Menentukan identitas dan menyimpulkan emosi adalah tugas yang berbeda. Tinjauan Lisa Feldman Barrett dan rekan-rekannya pada 2019 menjelaskan bahwa interpretasi gerakan wajah bergantung pada konteks serta berbeda antar orang dan budaya. Ekspresi wajah yang sama tidak dapat otomatis disamakan dengan satu emosi.

Keberadaan gambar dalam database tidak menunjukkan masa penyimpanan, penerima, atau penggunaan yang diizinkan. Periksa ketentuan tersebut dengan operator sistem terkait.

Pada Desember 2023, FTC mengumumkan kasus Rite Aid. Menurut tuduhan komisi tersebut, sistem pengenalan wajah menghasilkan kecocokan palsu, lalu karyawan mengikuti pelanggan, menggeledah mereka, atau meminta mereka pergi. Ini merupakan contoh dampak hasil yang salah, bukan bukti bahwa semua sistem memiliki tingkat akurasi yang sama.

Pengaturan perlindungan perangkat pribadi dibahas dalam panduan keamanan smartphone.

Prediksi dan Profil Perilaku

Profil merupakan hasil pemrosesan informasi yang tersedia bagi sistem, bukan gambaran lengkap seseorang. Google, misalnya, menjelaskan penggunaan informasi dan aktivitas untuk personalisasi iklan. Kemampuan memilih iklan tidak membuktikan pengetahuan tentang tindakan pengguna di masa depan.

Pada Januari 2025, FTC menerbitkan temuan awal penelitian penetapan harga yang dipersonalisasi. Alat yang diteliti menggunakan informasi lokasi, halaman yang dikunjungi, dan pembelian untuk menyesuaikan harga serta penawaran. Ini adalah penjelasan tentang alat yang diteliti, bukan pernyataan bahwa setiap toko mengubah harga berdasarkan profil Anda.

Seleksi otomatis juga perlu diperiksa. Pada September 2023, EEOC mengumumkan penyelesaian kasus iTutorGroup. Menurut lembaga tersebut, perangkat lunak secara otomatis menolak pelamar berdasarkan usia. Kasus ini menunjukkan risiko aturan seleksi yang diprogram; kasus tersebut tidak membuktikan penggunaan jaringan saraf yang dilatih. Tidak setiap keputusan otomatis merupakan AI.

Pengumpulan data, pembuatan profil, dan penerapan model merupakan tahap yang berbeda. Baca lebih lanjut tentang pengumpulan data dalam bagian sidik jari browser dan profil iklan.

Siapa yang menggunakan pengenalan dan pemrofilan

Sistem dapat dimiliki satu organisasi dan digunakan organisasi lain. Dalam laporan GAO yang diterbitkan pada Juni 2021, 20 dari 42 lembaga federal AS yang disurvei melaporkan memiliki sistem pengenalan wajah atau menggunakan sistem milik pihak lain. Laporan tersebut juga menjelaskan penggunaan sistem milik organisasi nonpemerintah.

Ini adalah contoh terdokumentasi tentang hubungan antar organisasi. Hal ini tidak membuktikan bahwa semua data setiap perusahaan otomatis tersedia bagi pihak berwenang.

Untuk layanan tertentu, periksa siapa yang mengumpulkan informasi, siapa yang memprosesnya, kepada siapa informasi dibagikan, dan untuk tujuan apa. Login bersama di beberapa layanan tidak mengungkap semua hubungan tersebut. Baca juga risiko menghubungkan layanan ke satu akun.

Cara memeriksa izin dan berbagi data

Mulailah dari sumber data tertentu. Pengaturan aplikasi, personalisasi iklan, dan pengoperasian kamera eksternal dikelola dengan cara berbeda. Mengubah satu pengaturan tidak membuktikan bahwa semua pelacakan telah berhenti.

Cara memeriksa izin aplikasi Android

1. Buka Setelan → Aplikasi.
2. Pilih aplikasi. Jika tidak ada dalam daftar, buka Lihat semua aplikasi.
3. Buka Izin.
4. Pilih akses kamera, mikrofon, atau lokasi dan periksa mode yang diizinkan. Jika akses tidak diperlukan, pilih Jangan izinkan.
5. Buka kembali aplikasi dan periksa fitur yang Anda butuhkan. Jika perlu, tinjau kembali izin untuk fitur tertentu.

Jalur dan mode yang tersedia dapat berbeda menurut perangkat dan versi Android. Menolak izin mengatur akses terkait bagi aplikasi tersebut; tindakan ini tidak menghapus catatan yang telah dibagikan atau mematikan kamera organisasi lain.

Cara memeriksa personalisasi iklan Google

1. Buka Pusat Iklan dan periksa akun yang digunakan untuk login.
2. Cari pengaturan Personalisasi iklan.
3. Jika Anda ingin menonaktifkan personalisasi, pilih Nonaktif dan konfirmasikan pilihan.
4. Buka kembali pengaturan dan periksa statusnya.

Ini adalah pengaturan personalisasi iklan Google, bukan tombol untuk mematikan semua analisis atau AI. Pengaturan ini tidak menghentikan setiap bentuk pemrosesan data dan tidak mengendalikan teknologi iklan perusahaan lain.

Hal yang diubah oleh VPN

Terowongan VPN yang terlindungi mengenkripsi lalu lintas antara perangkat dan server VPN. Untuk koneksi yang melewatinya, situs melihat alamat IP server keluar. Ini tidak menghapus profil akun, menyembunyikan informasi yang Anda kirim dari situs itu sendiri, atau menghentikan pengenalan wajah oleh kamera eksternal.

Langkah tambahan dibahas dalam dasar-dasar keamanan internet.

Hal yang perlu ditanyakan kepada operator sistem

1. Cari pemberitahuan pengumpulan data atau kebijakan layanan serta kontak untuk pertanyaan privasi.
2. Tanyakan data yang digunakan, tujuannya, masa penyimpanannya, dan penerimanya.
3. Jika keputusan memengaruhi Anda, tanyakan prosedur yang tersedia untuk pemeriksaan oleh manusia dan perbaikan informasi yang salah.
4. Simpan jawaban dan ketentuan yang disebutkan. Periksa ketersediaan prosedur dan hak untuk negara serta situasi Anda.

Klaim iklan “menggunakan AI” saja tidak menunjukkan sumber data atau keakuratan keputusan.

Hal yang perlu diperiksa setelah mengubah pengaturan

Buka kembali daftar izin dan pengaturan iklan yang dipilih. Pastikan status yang diinginkan telah tersimpan dan periksa fungsi aplikasi. Pemeriksaan ini menunjukkan status pengaturan tertentu, bukan ketiadaan semua sistem pengawasan.

Jika keputusan sistem memengaruhi Anda, simpan pemberitahuannya dan mintalah prosedur peninjauan yang tersedia. Jangan menganggap prediksi atau kecocokan wajah sebagai fakta yang telah terbukti tentang seseorang. Langkah lain dibahas dalam panduan perlindungan smartphone.