Yapay zeka kullanıcı gözetimini nasıl artırır?

Yapay zeka, bir veritabanında benzer yüzleri aramayı ve kullanıcıların etkinlik verilerini analiz etmeyi otomatikleştirebilir. İşleme sonuçları kimlik tespiti, reklam ve başka kararlar için kullanılabilir. Ancak yüz eşleşmesi veya model tahmini hatalı olabilir; kişi hakkında kanıtlanmış bir gerçek olarak kabul edilmemelidir. Aşağıda belgelenmiş örnekler ve veri paylaşımını kontrol etme yolları açıklanmaktadır.

Manuel İncelemeden Kütle Analizine

Otomasyonun bir örneği, görüntü veritabanında yüz aramaktır. NIST, iki fotoğrafın karşılaştırılması ile çok sayıda fotoğraf arasında eşleşme aranmasını ayırır. İkinci durumda sistem, ek inceleme için adaylar sunabilir.

Böyle bir süreci değerlendirirken şu konuları ayırın:

• Hangi görüntülerin veya diğer verilerin toplandığı
• Sistemin tam olarak neyi karşılaştırdığı veya tahmin ettiği
• Sonucu kimin kontrol ettiği ve ardından hangi işlemin yapıldığı

Otomatik işleme, sonucun doğru olduğunu veya veri toplamanın uygun olduğunu kanıtlamaz. Ayrıntılar için merkezi veri depolamanın riskleri makalesine bakın.

Yüz ve Kimlik Tanıma

Veritabanı aramasında yanlış eşleşme oluşabilir: sistem farklı kişilerin fotoğraflarını ilişkilendirir. Tersi de mümkündür; aynı kişinin fotoğrafları arasında eşleşme bulamayabilir. NIST'in 2019 araştırmasında sonuçlar algoritmalar ve demografik gruplar arasında farklılık gösterdi. Bu bulgular, bugün kullanılan her sistemin değerlendirmesi değildir.

Kimlik tespiti ile duygu çıkarımı farklı görevlerdir. Lisa Feldman Barrett ve çalışma arkadaşlarının 2019 tarihli incelemesi, yüz hareketlerinin yorumlanmasının bağlama bağlı olduğunu, kişiler ve kültürler arasında değiştiğini açıklar. Aynı yüz ifadesi otomatik olarak tek bir duyguyla eşitlenemez.

Bir görüntünün veritabanında bulunması, saklama süresini, alıcıları veya izin verilen kullanım biçimlerini göstermez. Bu koşulları ilgili sistemin işletmecisinden kontrol edin.

Aralık 2023'te FTC, Rite Aid hakkındaki davayı duyurdu. Komisyonun iddiasına göre yüz tanıma sistemi yanlış eşleşmeler üretiyor, ardından çalışanlar müşterileri takip ediyor, arıyor veya mağazadan çıkmalarını istiyordu. Bu olay, hatalı bir sonucun etkilerine örnektir; tüm sistemlerin aynı doğruluğa sahip olduğunu kanıtlamaz.

Kişisel cihazı korumaya yönelik ayarlar akıllı telefon güvenliği kılavuzunda açıklanmaktadır.

Davranışsal Tahmin ve Profil Oluşturma

Profil, sistemin erişebildiği bilgileri işlemesinin sonucudur; bir kişinin eksiksiz tanımı değildir. Örneğin Google, bilgi ve etkinliklerin reklam kişiselleştirmede kullanılmasını açıklar. Reklam seçebilmek, kullanıcının gelecekteki davranışlarının bilindiğini göstermez.

Ocak 2025'te FTC, kişiselleştirilmiş fiyatlandırma araştırmasının ilk bulgularını yayımladı. İncelenen araçlarda fiyatları ve teklifleri ayarlamak için konum, ziyaret edilen sayfalar ve satın alma bilgileri kullanılıyordu. Bu, incelenen araçların açıklamasıdır; her mağazanın profilinize göre fiyat değiştirdiği anlamına gelmez.

Otomatik seçim süreçleri de incelenmelidir. Eylül 2023'te EEOC, iTutorGroup davasında uzlaşmaya varıldığını duyurdu. Kuruma göre yazılım, adayları yaşlarına göre otomatik olarak reddediyordu. Bu olay, önceden belirlenen seçim kuralının riskini gösterir; tek başına eğitilmiş bir sinir ağı kullanıldığını doğrulamaz. Her otomatik karar yapay zeka değildir.

Veri toplama, profil oluşturma ve modeli uygulama ayrı aşamalardır. Veri toplamayla ilgili ayrıntılar tarayıcı parmak izi ve reklam profili bölümlerindedir.

Tanıma ve profil oluşturma sistemlerini kimler kullanır?

Bir sistem bir kuruluşa ait olabilir, başka bir kuruluş tarafından kullanılabilir. Haziran 2021'de yayımlanan GAO raporunda, ankete katılan 42 ABD federal kurumunun 20'si yüz tanıma sistemine sahip olduğunu veya başkalarının sistemlerini kullandığını bildirdi. Rapor, devlet dışı kuruluşlara ait sistemlerin kullanımını da açıkladı.

Bu, kuruluşlar arasındaki etkileşimin belgelenmiş bir örneğidir. Her şirketin tüm verilerinin otomatik olarak yetkililere açık olduğunu doğrulamaz.

Belirli bir hizmet için bilgileri kimin topladığını, kimin işlediğini, kime ve hangi amaçla aktarıldığını kontrol edin. Birden fazla hizmette ortak oturum açmak tüm bu ilişkileri göstermez. Ayrıntılar için hizmetleri tek hesaba bağlamanın riskleri makalesine bakın.

İzinler ve veri paylaşımı nasıl kontrol edilir?

Belirli veri kaynaklarından başlayın. Uygulama ayarları, reklam kişiselleştirme ve dış kameraların çalışması farklı yollarla yönetilir. Bir ayarın değiştirilmesi, tüm izlemenin durduğunu doğrulamaz.

Android'de uygulama izinleri nasıl kontrol edilir?

1. Ayarlar → Uygulamalar bölümünü açın.
2. Uygulamayı seçin. Listede yoksa Tüm uygulamaları göster seçeneğini açın.
3. İzinler bölümünü açın.
4. Kamera, mikrofon veya konum erişimini seçin ve izin verilen modu kontrol edin. Erişim gerekmiyorsa İzin verme seçeneğini seçin.
5. Uygulamayı tekrar açın ve gerekli işlevleri kontrol edin. Gerekirse ilgili işlevin iznini yeniden değerlendirin.

Yol ve kullanılabilir modlar cihaza ve Android sürümüne göre değişebilir. İznin reddedilmesi, uygulamanın ilgili erişimini yönetir; daha önce aktarılan kayıtları silmez veya başka kuruluşların kameralarını kapatmaz.

Google reklam kişiselleştirmesi nasıl kontrol edilir?

1. Reklam Merkezim sayfasını açın ve hangi hesapla oturum açıldığını kontrol edin.
2. Kişiselleştirilmiş reklamlar ayarını bulun.
3. Kişiselleştirmeyi kapatmak istiyorsanız Kapalı seçeneğini seçin ve onaylayın.
4. Ayarı tekrar açın ve durumunu kontrol edin.

Bu, Google reklam kişiselleştirme ayarıdır; tüm analizleri veya yapay zekayı kapatan bir anahtar değildir. Her türlü veri işlemeyi durdurmaz ve başka şirketlerin reklam teknolojilerini yönetmez.

VPN neyi değiştirir?

Güvenli bir VPN tüneli cihaz ile VPN sunucusu arasındaki trafiği şifreler. Bu tünelden geçen bağlantılarda site, çıkış sunucusunun IP adresini görür. Bu, hesap profilini silmez, siteye gönderilen bilgileri sitenin kendisinden gizlemez ve dış kameraların yüz tanımasını durdurmaz.

Ek önlemler internet güvenliğinin temellerinde açıklanmaktadır.

Sistem işletmecisine ne sorulmalı?

1. Veri toplama bildirimini veya hizmet politikasını ve gizlilik soruları için iletişim bilgisini bulun.
2. Hangi verilerin, hangi görev için kullanıldığını, ne kadar saklandığını ve kime aktarıldığını sorun.
3. Karar sizi etkilediyse sonucun insan tarafından incelenmesi ve hatalı bilgilerin düzeltilmesi için mevcut prosedürü sorun.
4. Yanıtı ve belirtilen koşulları kaydedin. Prosedürlerin ve hakların ülkenizde ve durumunuzda geçerli olup olmadığını kontrol edin.

Yalnızca “yapay zeka kullanıyoruz” reklam iddiasından veri kaynakları veya kararın doğruluğu anlaşılamaz.

Ayarlar değiştirildikten sonra ne kontrol edilmeli?

İzin listesini ve seçilen reklam ayarını yeniden açın. İstenen durumun kaydedildiğini doğrulayın ve uygulamanın çalışmasını kontrol edin. Bu kontroller, tüm gözetim sistemlerinin bulunmadığını değil, belirli ayarların durumunu gösterir.

Sistemin kararı sizi etkilediyse bildirimi saklayın ve mevcut inceleme prosedürünü talep edin. Bir tahmini veya yüz eşleşmesini kişi hakkında kanıtlanmış bir gerçek saymayın. Diğer önlemler akıllı telefonu koruma kılavuzunda açıklanmaktadır.