Ulusal İnsan Hakları Danışma Komisyonu mevcut sistemi öfkeyle eleştiriyorYetersiz garantiler, güçlendirilmesi gereken izleme organları, toplumsal tercihler… Fransız hükümetine insan hakları konusunda danışmanlık yapan bir kurum olan Ulusal İnsan Hakları Danışma Komisyonu'nun (CNCDH), 2 Temmuz Salı günü resmi gazetede yayımlanan ve yaklaşık on gün önce internet sitesinde yayınlanan görüşünde, algoritmalarla desteklenen video gözetlemesi olan mevcut VSA sistemine karşı sert bir tutum sergilediği belirtiliyor.
Yapay zeka destekli kameralar Paris Olimpiyatları öncesinde, sırasında ve sonrasında test edilirken, ” VSA'nın daha önemli bir şekilde konuşlandırılması “, CNCDH video gözetim cihazlarının mevcut garantilerinin oldukça eleştirel bir değerlendirmesini yapıyor. Hatırlatmak gerekirse, VSA ilk kez Fransa'da (Avrupa'da bir ilk) 19 Mayıs 2023'teki Paris Olimpiyat Oyunları ile ilgili yasa ile yetkilendirildi: Mart 2025'e kadar bir deney olarak test ediliyor. Bağımsız otorite, danışma görüşünde, video gözetim cihazlarının geri yüklenmesi için bir dizi öneri yayınlıyor “Temel hak ve özgürlüklere yönelik saldırılar ile kamu düzeninin korunması arasındaki denge bozuldu”.
Ayrıca ” Kamu otoriteleri, video koruma cihazlarının dağıtımını hızlandırma isteklerini yeniden değerlendiriyor “, açıklayan “ algoritmik video gözetiminin kullanımı hakkında demokratik bir tartışmanın düzenlenmesini talep edin “, Fransız gizlilik gözlemcisi CNIL ile işbirliği içinde.
CNCDH, 1990'ların sonundan bu yana, gözetleme kameralarının yaygınlaşmadan önce kamusal alanlara yerleştirildiğini açıklıyor. Bu yetkili, ” Bu polis teknolojisine, yalnızca yer, zaman ve amaç açısından kesin ve haklı sınırlamalar içinde izin verilmeli, bunların kurulumu ve uygulanmasının etkin bir şekilde kontrol edilmesiyle garanti altına alınmalıdır. “. Davranışları tespit etmekten sorumlu yapay zeka (AI) bu kullanıma eklendi” anormal “kalabalık hareketi, anormal derecede yüksek yoğunluk veya terk edilmiş bagajların varlığı gibi.
Bu son teknoloji ” video korumasının sürekliliğinin bir parçasıdır ve aynı zamanda doğasını değiştiriyor gibi görünmektedir “, diyor danışma kurulu. AI “ aslında bir yandan gözetimin sistematikleştirilmesine ve yoğunlaştırılmasına, diğer yandan özel aktörlerin (yazılım tasarımcıları) egemen bir misyonun uygulanmasına benzeri görülmemiş bir şekilde dahil olmasına izin veriyor “diye ekliyor. Devlet aslında Briefcam gibi bu video gözetim araçlarında kullanılan algoritmaları tasarlamak için özel şirketlere çağrıda bulundu.
Bu kurumun dikkat çektiği bir diğer sorun ise şu: “ Bu yenilenen video gözetim sistemi ” abilir ” indüklemek Polis ile halk arasında yeni bir ilişki türü, güvensizlik ve mesafe ile karakterize “. Bunlar ” Yeni teknolojiler, herhangi birinin temel hak ve özgürlüklerini kullanma yeteneğinin kısıtlanacağı yönündeki korkuları yeniden canlandırıyor. kamusal alanlarda anonim olarak gösteri yapma özgürlüğü ” o yazdı.
“VSA'nın” bir bağlamda geliştirilmesi zayıf mevzuat »
Bu VSA'nın “bir” bağlamda geliştiğini kaydeden danışma kurumu, zayıf mevzuat “, hükümetten şunu istiyor: Temel hak ve özgürlükleri ihlal eden bu cihazların yasallığının merkezine zorunluluk ve orantılılık gerekliliklerini koymak, yapay zeka eklendiğinde bu ihlaller daha da belirginleşecektir. “.
Bir kameranın prensip olarak günün her saati ve yılın her zamanında aktif olmaması gerektiğini savunuyor. Bu cihazların kurulumu için talep valiliğe iletilmek zorundaysa, ” kamu düzenini bozacak riskleri açığa çıkarmak “Bu tür bir itirazı haklı kılan şey. Bu zorunluluk ve orantılılık gerekliliklerine uyum, bir sistematik bağımsız kontrolCNCDH devam ediyor. Günümüzde idari yargıcın müdahalesi, eyleme bağlıdır. “Sistemin etkinliğinin” bağlı olduğu hak savunma derneklerinden de üzüntü duyduğunu belirtiyor.
Bakanlık video koruma komisyonlarının ve CNIL'in kontrol yetkisi güçlendirilmelidir
Danışma kurulu, şu anda sağlanan garantilerin yetersiz olduğu düşünüldüğünden, denetim organlarının yetkilerinin güçlendirilmesini öneriyor. Başlangıçta karşıt güçler olarak tasarlanan ancak eylemleri aslında fazlasıyla sınırlı olacak olan departman video koruma komisyonlarıyla başlayarak. Vali, kurulum taleplerini yetkilendirme veya reddetme kararını vermeden önce bunlara danışıyor. Ancak onların görüşleri tamamen tavsiye niteliğinde. CNCDH, bir diğer denetim organı olan CNIL'nin, tüm belediyelerle a posteriori kontroller yapmasına izin verecek yeterli insan kaynağına sahip olmaktan uzak olduğunu belirtiyor.
Bu nedenle kurum, bu iki kurumun izleme misyonunun güçlendirilmesini, örneğin bu komisyonların görüşlerinin kamuoyuyla paylaşılmasını öneriyor. bağlayıcıİkincisinin bileşiminde de özellikle Hakların Savunucusu tarafından belirlenecek bir kişinin yer alması gerekmektedir.
Yapay zeka önyargısı sorunu
Yetkili daha sonra algoritmik araçlardaki farklı önyargı türlerinin sorununa dikkat çekerek özellikle VSA'ya odaklanıyor. Bu cihazlar aslında çoğunlukla beyaz adamların aşırı temsil edildiği görüntülerde eğitiliyor ve bu da daha az temsil edilen insanlar üzerinde olumsuz bir etki yaratabiliyor. ” ” Başka bir deyişle, yazılım Afrika kökenli insanları tespit ederken daha fazla hata yapıyor ve özellikle kadınlar söz konusu olduğunda bu hata daha da artıyor.” ile “(potansiyel olarak) aranan kişi olarak yanlış tanımlanan bir kişinin tutuklanmasıyla sonuçlanan”kurum belirtiyor.
Sorun şu ki bugün, ” Önyargı kontrolü artık hayalden başka bir şey değil “, pişmanlık duyuyor. Makinenin öğrenmesi sırasında koruduğu önyargıları tespit etmek neredeyse imkansız. CNCDH, “ VSA yazılımının herhangi bir kullanıcısı, yazılımın ayrımcı olmadığından emin olmalı ve değilse, bu durumu düzeltmek için tüm uygun önlemleri almalıdır. “.
Yetersiz insan aracı kontrolü
VSA deneyi için sağlanan bir diğer güvenlik önlemi Danışma Komisyonu tarafından yetersiz kabul ediliyor. Fransız mevzuatı, gözetleme kameralarıyla birleştirilmiş yazılımın ” kalıcı olarak kontrol altında kalmak “Bir insan aracısı. Ancak insan aracısı kendini daha çok bir konumda bulacaktıricracı makineye göre bir kontrolörden daha fazlası, CNCDH'yi tahmin eder. Özellikle ” açısından Bireylerin bir bilgisayar programı tarafından üretilen önerileri veya uyarıları takip etme eğilimi (bazen “otomasyon önyargısı” olarak adlandırılır) “. CNCDH, kamu otoritelerinin makine uyarıları karşısında ajanın özerkliğini etkili bir şekilde garanti altına almanın yollarını değerlendirmelerini öneriyor.
Kamusal alan anlayışımızda derin bir değişim
Ancak ” VSA'ya başvuru şartları üzerindeki kontrollerin ötesinde “, Bu ” sorgulanmaya değer olan kullanımının ilkesi “, Danışma Komisyonu yazıyor. Öncelikle çünkü ” Vatandaşlar (genellikle) VSA tarafından tespit edilen nesneler ve durumlar hakkında ayrıntılı olarak bilgilendirilmiyor “Bu tür cihazlar normalde filme alınan kişilerin önceden bilgilendirilmesini gerektirir.
Sorun: Danışma kurulu, VSA'ların kamu yollarında varlığı konusunda kullanıcıları uyarmayı amaçlayan duyuru panolarının yeterince görünür olmadığını ve cihazın amacı, işlemden sorumlu kişi, CNIL'e itirazda bulunma olanağı gibi yeterli bilgi içermediğini belirtiyor.
Altın, “ (bu araçlar) artan gözetim duygusunun gelişmesine yol açabilir.” Ve bu hiç de önemsiz değil: “bu gelişmeler ve algılar kamusal alan anlayışımızı, ondan özel bir boyut çıkararak kökten bozarCNCDH, kamusal alanın tarihsel olarak, özgürlüklerin kullanılmasına ve özel hayata saygı gösterilmesine olanak tanıyan anonim bir hareket alanı olarak tasarlandığını hatırlatıyor. ” diye yazıyor bağımsız kurum.
“Sonuçta tehlikede olan toplumun bir tercihidir”
Organ genel olarak kamu otoritelerini şu konularda uyarıyor: video koruma cihazlarının dağıtımını hızlandırma isteklerini yeniden gözden geçirmeleri. O ” VSA'nın kullanımı hakkında demokratik bir tartışmanın düzenlenmesini talep etmek için CNIL ile güçlerini birleştiriyor “. Çünkü eğer ” kamu güvenliğinin sağlanması meşru bir amaçtır » (…), « Ancak bunun için öncelikle kamusal alanda varlıklarının ve etkilerinin en aza indirilmesi gerekliliğinden başlayarak detaylı bir inceleme yapılması gerekiyor. “.
CNCDH'nin sözleri özellikle sert: ” “Sonuçta tehlikede olan toplumun bir tercihidir”: kamu düzenini korumak için gereken kısıtlamalara tabi olarak bedenlerin ve zihinlerin özgürlüğünün önceliğini sağlamak veya tam tersine genelleştirilmiş ve otomatikleştirilmiş gözetim yoluyla onu engellemeyi seçmek “.
Ulusal İnsan Hakları Danışma Komisyonu'nun (CNCDH) 2 Temmuz 2024 tarihli resmi gazetede yayınlanan kamusal alanın gözetlenmesine ilişkin görüşü
Yapay zeka destekli kameralar Paris Olimpiyatları öncesinde, sırasında ve sonrasında test edilirken, ” VSA'nın daha önemli bir şekilde konuşlandırılması “, CNCDH video gözetim cihazlarının mevcut garantilerinin oldukça eleştirel bir değerlendirmesini yapıyor. Hatırlatmak gerekirse, VSA ilk kez Fransa'da (Avrupa'da bir ilk) 19 Mayıs 2023'teki Paris Olimpiyat Oyunları ile ilgili yasa ile yetkilendirildi: Mart 2025'e kadar bir deney olarak test ediliyor. Bağımsız otorite, danışma görüşünde, video gözetim cihazlarının geri yüklenmesi için bir dizi öneri yayınlıyor “Temel hak ve özgürlüklere yönelik saldırılar ile kamu düzeninin korunması arasındaki denge bozuldu”.
Ayrıca ” Kamu otoriteleri, video koruma cihazlarının dağıtımını hızlandırma isteklerini yeniden değerlendiriyor “, açıklayan “ algoritmik video gözetiminin kullanımı hakkında demokratik bir tartışmanın düzenlenmesini talep edin “, Fransız gizlilik gözlemcisi CNIL ile işbirliği içinde.
Gözetimin sistemleştirilmesi, özel aktörlerin egemen bir misyona dahil edilmesi…
CNCDH, 1990'ların sonundan bu yana, gözetleme kameralarının yaygınlaşmadan önce kamusal alanlara yerleştirildiğini açıklıyor. Bu yetkili, ” Bu polis teknolojisine, yalnızca yer, zaman ve amaç açısından kesin ve haklı sınırlamalar içinde izin verilmeli, bunların kurulumu ve uygulanmasının etkin bir şekilde kontrol edilmesiyle garanti altına alınmalıdır. “. Davranışları tespit etmekten sorumlu yapay zeka (AI) bu kullanıma eklendi” anormal “kalabalık hareketi, anormal derecede yüksek yoğunluk veya terk edilmiş bagajların varlığı gibi.
Bu son teknoloji ” video korumasının sürekliliğinin bir parçasıdır ve aynı zamanda doğasını değiştiriyor gibi görünmektedir “, diyor danışma kurulu. AI “ aslında bir yandan gözetimin sistematikleştirilmesine ve yoğunlaştırılmasına, diğer yandan özel aktörlerin (yazılım tasarımcıları) egemen bir misyonun uygulanmasına benzeri görülmemiş bir şekilde dahil olmasına izin veriyor “diye ekliyor. Devlet aslında Briefcam gibi bu video gözetim araçlarında kullanılan algoritmaları tasarlamak için özel şirketlere çağrıda bulundu.
Bu kurumun dikkat çektiği bir diğer sorun ise şu: “ Bu yenilenen video gözetim sistemi ” abilir ” indüklemek Polis ile halk arasında yeni bir ilişki türü, güvensizlik ve mesafe ile karakterize “. Bunlar ” Yeni teknolojiler, herhangi birinin temel hak ve özgürlüklerini kullanma yeteneğinin kısıtlanacağı yönündeki korkuları yeniden canlandırıyor. kamusal alanlarda anonim olarak gösteri yapma özgürlüğü ” o yazdı.
“VSA'nın” bir bağlamda geliştirilmesi zayıf mevzuat »
Bu VSA'nın “bir” bağlamda geliştiğini kaydeden danışma kurumu, zayıf mevzuat “, hükümetten şunu istiyor: Temel hak ve özgürlükleri ihlal eden bu cihazların yasallığının merkezine zorunluluk ve orantılılık gerekliliklerini koymak, yapay zeka eklendiğinde bu ihlaller daha da belirginleşecektir. “.
Bir kameranın prensip olarak günün her saati ve yılın her zamanında aktif olmaması gerektiğini savunuyor. Bu cihazların kurulumu için talep valiliğe iletilmek zorundaysa, ” kamu düzenini bozacak riskleri açığa çıkarmak “Bu tür bir itirazı haklı kılan şey. Bu zorunluluk ve orantılılık gerekliliklerine uyum, bir sistematik bağımsız kontrolCNCDH devam ediyor. Günümüzde idari yargıcın müdahalesi, eyleme bağlıdır. “Sistemin etkinliğinin” bağlı olduğu hak savunma derneklerinden de üzüntü duyduğunu belirtiyor.
Bakanlık video koruma komisyonlarının ve CNIL'in kontrol yetkisi güçlendirilmelidir
Danışma kurulu, şu anda sağlanan garantilerin yetersiz olduğu düşünüldüğünden, denetim organlarının yetkilerinin güçlendirilmesini öneriyor. Başlangıçta karşıt güçler olarak tasarlanan ancak eylemleri aslında fazlasıyla sınırlı olacak olan departman video koruma komisyonlarıyla başlayarak. Vali, kurulum taleplerini yetkilendirme veya reddetme kararını vermeden önce bunlara danışıyor. Ancak onların görüşleri tamamen tavsiye niteliğinde. CNCDH, bir diğer denetim organı olan CNIL'nin, tüm belediyelerle a posteriori kontroller yapmasına izin verecek yeterli insan kaynağına sahip olmaktan uzak olduğunu belirtiyor.
Bu nedenle kurum, bu iki kurumun izleme misyonunun güçlendirilmesini, örneğin bu komisyonların görüşlerinin kamuoyuyla paylaşılmasını öneriyor. bağlayıcıİkincisinin bileşiminde de özellikle Hakların Savunucusu tarafından belirlenecek bir kişinin yer alması gerekmektedir.
Yapay zeka önyargısı sorunu
Yetkili daha sonra algoritmik araçlardaki farklı önyargı türlerinin sorununa dikkat çekerek özellikle VSA'ya odaklanıyor. Bu cihazlar aslında çoğunlukla beyaz adamların aşırı temsil edildiği görüntülerde eğitiliyor ve bu da daha az temsil edilen insanlar üzerinde olumsuz bir etki yaratabiliyor. ” ” Başka bir deyişle, yazılım Afrika kökenli insanları tespit ederken daha fazla hata yapıyor ve özellikle kadınlar söz konusu olduğunda bu hata daha da artıyor.” ile “(potansiyel olarak) aranan kişi olarak yanlış tanımlanan bir kişinin tutuklanmasıyla sonuçlanan”kurum belirtiyor.
Sorun şu ki bugün, ” Önyargı kontrolü artık hayalden başka bir şey değil “, pişmanlık duyuyor. Makinenin öğrenmesi sırasında koruduğu önyargıları tespit etmek neredeyse imkansız. CNCDH, “ VSA yazılımının herhangi bir kullanıcısı, yazılımın ayrımcı olmadığından emin olmalı ve değilse, bu durumu düzeltmek için tüm uygun önlemleri almalıdır. “.
Yetersiz insan aracı kontrolü
VSA deneyi için sağlanan bir diğer güvenlik önlemi Danışma Komisyonu tarafından yetersiz kabul ediliyor. Fransız mevzuatı, gözetleme kameralarıyla birleştirilmiş yazılımın ” kalıcı olarak kontrol altında kalmak “Bir insan aracısı. Ancak insan aracısı kendini daha çok bir konumda bulacaktıricracı makineye göre bir kontrolörden daha fazlası, CNCDH'yi tahmin eder. Özellikle ” açısından Bireylerin bir bilgisayar programı tarafından üretilen önerileri veya uyarıları takip etme eğilimi (bazen “otomasyon önyargısı” olarak adlandırılır) “. CNCDH, kamu otoritelerinin makine uyarıları karşısında ajanın özerkliğini etkili bir şekilde garanti altına almanın yollarını değerlendirmelerini öneriyor.
Kamusal alan anlayışımızda derin bir değişim
Ancak ” VSA'ya başvuru şartları üzerindeki kontrollerin ötesinde “, Bu ” sorgulanmaya değer olan kullanımının ilkesi “, Danışma Komisyonu yazıyor. Öncelikle çünkü ” Vatandaşlar (genellikle) VSA tarafından tespit edilen nesneler ve durumlar hakkında ayrıntılı olarak bilgilendirilmiyor “Bu tür cihazlar normalde filme alınan kişilerin önceden bilgilendirilmesini gerektirir.
Sorun: Danışma kurulu, VSA'ların kamu yollarında varlığı konusunda kullanıcıları uyarmayı amaçlayan duyuru panolarının yeterince görünür olmadığını ve cihazın amacı, işlemden sorumlu kişi, CNIL'e itirazda bulunma olanağı gibi yeterli bilgi içermediğini belirtiyor.
Altın, “ (bu araçlar) artan gözetim duygusunun gelişmesine yol açabilir.” Ve bu hiç de önemsiz değil: “bu gelişmeler ve algılar kamusal alan anlayışımızı, ondan özel bir boyut çıkararak kökten bozarCNCDH, kamusal alanın tarihsel olarak, özgürlüklerin kullanılmasına ve özel hayata saygı gösterilmesine olanak tanıyan anonim bir hareket alanı olarak tasarlandığını hatırlatıyor. ” diye yazıyor bağımsız kurum.
“Sonuçta tehlikede olan toplumun bir tercihidir”
Organ genel olarak kamu otoritelerini şu konularda uyarıyor: video koruma cihazlarının dağıtımını hızlandırma isteklerini yeniden gözden geçirmeleri. O ” VSA'nın kullanımı hakkında demokratik bir tartışmanın düzenlenmesini talep etmek için CNIL ile güçlerini birleştiriyor “. Çünkü eğer ” kamu güvenliğinin sağlanması meşru bir amaçtır » (…), « Ancak bunun için öncelikle kamusal alanda varlıklarının ve etkilerinin en aza indirilmesi gerekliliğinden başlayarak detaylı bir inceleme yapılması gerekiyor. “.
CNCDH'nin sözleri özellikle sert: ” “Sonuçta tehlikede olan toplumun bir tercihidir”: kamu düzenini korumak için gereken kısıtlamalara tabi olarak bedenlerin ve zihinlerin özgürlüğünün önceliğini sağlamak veya tam tersine genelleştirilmiş ve otomatikleştirilmiş gözetim yoluyla onu engellemeyi seçmek “.
Kaynak :01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.
Ulusal İnsan Hakları Danışma Komisyonu'nun (CNCDH) 2 Temmuz 2024 tarihli resmi gazetede yayınlanan kamusal alanın gözetlenmesine ilişkin görüşü