Yapay zeka çağında insan haklarının korunması

   Yapay zekanın günlük hayatımızda kullanımı giderek artıyor ve artık birçok faaliyet alanını kapsıyor. Akıllı bir navigasyon sistemi kullanarak trafik sıkışıklığından kaçınmak veya güvenilir bir perakendeciden hedefli teklifler almak gibi görünüşte banal bir şey, AI sistemlerinin kullanabileceği büyük veri analizinin sonucudur. Bu belirli örneklerin bariz yararları olsa da, bunların arkasındaki veri biliminin etik ve yasal sonuçları genellikle kamuoyunun geneli tarafından fark edilmez.

   Yapay zeka ve özellikle makine öğrenimi ve derin öğrenmenin alt alanları, eğer varsa, yalnızca görünüşte tarafsız olabilir. Yüzeyin altında, son derece kişisel hale gelebilir. Kararları matematiksel hesaplamalara dayandırmanın faydaları hayatın birçok alanında çok büyük olabilir, ancak doğası gereği bu hesaplamaların ötesinde kalıpları belirlemeyi içeren yapay zekaya çok fazla güvenmek aynı zamanda kullanıcıların aleyhine dönebilir, adaletsizlikler yapabilir ve insan haklarını kısıtlayabilir.

   Benim görüşüme göre, AI, kullanımı geniş bir yelpazedeki insan haklarımızı olumsuz yönde etkileyebileceğinden, aslında yetkimin birçok yönüne değiniyor. Nasıl tasarlandıkları, nasıl çalıştıkları ve zaman içinde nasıl değişebilecekleri konusunda hiçbir şeffaflık, hesap verebilirlik veya güvence olmamasına rağmen, kararların bu sistemler temelinde alınması sorunu daha da karmaşık hale getiriyor.

Özel hayatın gizliliği ve eşitlik hakkının ihlali

   Yapay zeka teknolojisinin avantajları ile insan haklarımıza yönelik riskler arasındaki gerilim, en çok gizlilik alanında ortaya çıkıyor. Mahremiyet, onurlu ve güvenli bir şekilde yaşamak için gerekli olan temel bir insan hakkıdır. Ancak, uygulamaları ve sosyal medya platformlarını kullandığımız zamanlar da dahil olmak üzere dijital ortamda, bilgimiz olsun veya olmasın büyük miktarda kişisel veri toplanır ve profilimizin profilini çıkarmak ve davranışlarımıza ilişkin tahminler üretmek için kullanılabilir. Bu verileri kimin, ne amaçla ve nasıl kullanacağını bilmeden sağlığımıza, siyasi düşüncelerimize ve aile yaşantımıza dair veriler sunuyoruz.

   Makineler, insanların onlara söylediklerine göre çalışır. Bir sistem insan önyargılarıyla (bilinçli veya bilinçsiz) beslenirse, sonuç kaçınılmaz olarak önyargılı olacaktır. Bu nedenle, AI sistemlerinin tasarımında çeşitlilik ve kapsayıcılık eksikliği önemli bir endişe kaynağıdır: kararlarımızı daha nesnel hale getirmek yerine, onlara nesnel bir görünüm vererek ayrımcılığı ve önyargıları güçlendirebilirler. Kadınların, etnik azınlıkların, engellilerin ve LGBTİ kişilerin özellikle önyargılı algoritmalar tarafından ayrımcılığa maruz kaldığına dair artan kanıtlar var.

   Örneğin araştırmalar, Google'ın yüksek ücretli iş ilanlarını iş arayan erkeklere kadınlardan daha fazla gösterme olasılığının daha yüksek olduğunu göstermiştir. Geçen Mayıs ayında, AB Temel Haklar Ajansı tarafından yapılan bir araştırma , AI'nın ayrımcılığı nasıl artırabileceğini de vurguladı. Veriye dayalı karar verme toplumsal önyargıları yansıttığında, o toplumun önyargılarını yeniden üretir ve hatta güçlendirir. Bu sorun, yakın zamanda Toronto Deklarasyonu'nu kabul eden ve makine öğrenimi sistemlerinin ayrımcı uygulamalara katkıda bulunmasını önlemek için güvenlik önlemleri talep eden akademi ve STK'lar tarafından da sık sık gündeme getirildi .

   Kusurlu bir algoritmanın sonuçları sorgulanmadan verilen kararlar insan hakları açısından ciddi sonuçlar doğurabilir. Örneğin, sağlık ve maluliyet yardımlarıyla ilgili kararları bilgilendirmek için kullanılan yazılımlar, bunlara hakkı olan kişileri haksız yere dışladı ve ilgili kişiler için korkunç sonuçlar doğurdu. Adalet sisteminde de AI, iyileştirme veya kötü bir güç için bir itici güç olabilir. Polislikten suçların tahmin edilmesine ve mükerrerliğe kadar, dünyanın dört bir yanındaki ceza adaleti sistemleri, AI'nın suçu önlemek için sağladığı fırsatları giderek daha fazla araştırıyor. Aynı zamanda, birçok uzman bu tür modellerin nesnelliği konusunda endişelerini dile getiriyor. Bu konuyu ele almak için, Avrupa Konseyi'nin Adaletin Etkinliği için Avrupa Komisyonu (CEPEJ), çok disiplinli uzmanlardan oluşan bir ekip oluşturdu. “Tahmin edici adalet de dahil olmak üzere adalet sistemlerinde algoritmaların etik kullanımı için kılavuzların hazırlanmasına öncülük edecek”.

Boğucu ifade özgürlüğü ve toplanma özgürlüğü

   Söz konusu diğer bir hak ise ifade özgürlüğüdür. Algoritmalar ve İnsan Hakları üzerine yakın tarihli bir Avrupa Konseyi yayını, örneğin Facebook ve YouTube'un şiddet içeren aşırılık yanlısı içerikleri tespit etmek için bir filtreleme mekanizması benimsediğini kaydetti. Ancak, hangi videoların "açıkça yasa dışı içerik" gösterdiğini belirlemek için benimsenen süreç veya kriterler hakkında hiçbir bilgi mevcut değil. Bu tür materyallerin yayılmasını durdurma girişimini selamlamaktan başka bir şey yapamamakla birlikte, içerik denetimi etrafındaki şeffaflığın olmaması, meşru ifade özgürlüğünü kısıtlamak ve insanların kendilerini ifade etme yeteneklerini ihlal etmek için kullanılabileceğinden endişe uyandırmaktadır. benzer endişeler AB Telif Hakkı Direktifi ile öne çıkan, fikri mülkiyet haklarını ihlal ettiği iddia edilen, kullanıcı tarafından oluşturulan içeriğin yükleme noktasında otomatik olarak filtrelenmesi konusunda gündeme getirildi. Belirli durumlarda, içeriğin yayılması için otomatik teknolojilerin kullanılması, botlar, trol orduları, hedeflenen spam veya reklamlar kullanıldığında ifade özgürlüğü ve mahremiyet hakkı üzerinde önemli bir etkiye sahip olabilir. içeriğin gösterilmesi.

   Teknoloji ve insan hakları arasındaki gerilim yüz tanıma alanında da kendini gösteriyor. Bu, kolluk kuvvetleri için şüpheli teröristleri bulmak için güçlü bir araç olsa da, insanları kontrol etmek için bir silaha dönüşebilir. Bugün hükümetlerin sizi sürekli izlemesi ve mahremiyet, toplanma özgürlüğü, hareket özgürlüğü ve basın özgürlüğü haklarını kısıtlaması çok kolay.

Hükümetler ve özel sektör ne yapabilir?

   AI, insanların zamanlarını, özgürlüklerini ve mutluluklarını en üst düzeye çıkarmasına yardımcı olma potansiyeline sahiptir. Aynı zamanda bizi distopik bir topluma da götürebilir. Bu nedenle teknolojik gelişme ile insan haklarının korunması arasında doğru dengeyi bulmak, içinde yaşamak istediğimiz toplumun geleceğinin bağlı olduğu acil bir meseledir.

   Bunu doğru yapmak için, devlet aktörleri - hükümetler, parlamentolar, yargı, kolluk kuvvetleri - özel şirketler, akademi, STK'lar, uluslararası kuruluşlar ve ayrıca genel olarak halk arasında daha güçlü bir işbirliğine ihtiyacımız var. Görev göz korkutucu ama imkansız değil.

   Halihazırda bir dizi standart mevcuttur ve bir başlangıç ​​noktası olarak hizmet etmelidir. Örneğin, Avrupa İnsan Hakları Mahkemesi'nin içtihatları özel hayata, özgürlüğe ve güvenliğe saygı konusunda net sınırlar koymaktadır. Ayrıca, devletlerin özel hayata izinsiz girişlere karşı etkili bir çözüm sağlama ve bireyleri yasa dışı gözetimden koruma yükümlülüklerinin altını çizer. Buna ek olarak, bu yıl kabul edilen, Kişisel Verilerin Otomatik İşlenmesine İlişkin Bireylerin Korunmasına İlişkin Modernize Avrupa Konseyi Sözleşmesi, yeni bilgi ve iletişim teknolojilerinin kullanımından kaynaklanan mahremiyet zorluklarını ele almaktadır.

   Devletler ayrıca AI tasarımı, programlaması ve uygulamasından sorumlu olan özel sektörün insan hakları standartlarını desteklediğinden emin olmalıdır. Avrupa Konseyi Öneriler insan hakları ve iş  ve  rolleri ve internet aracıların sorumlulukları üzerine , iş ve insan hakları ilkelerini kılavuz BM ve İçerik Düzenlemesi raporu Düşünce ve ifade özgürlüğü hakkının teşviki ve korunmasına ilişkin BM Özel Raportörü tarafından yapılan açıklamalar, yaşamlarımızı iyileştirebilecek yapay zeka teknolojisi geliştirme çabalarını beslemelidir. Algoritmaların arkasındaki mantığı anlamak, hesap verebilirliği sağlamak ve bu kararlara etkili yollarla itiraz edebilmek için algoritmaları kullanan karar verme süreçlerinde daha fazla şeffaflık olması gerekir.

   Üçüncü bir eylem alanı, insanların “AI okuryazarlığını” artırmak olmalıdır. Devletler, tüm vatandaşların ve özellikle genç nesillerin yetkinliklerini geliştirmek, AI teknolojileriyle olumlu bir şekilde ilgilenmek ve yaşamlarımız üzerindeki etkilerini daha iyi anlamak için kamu bilincine ve eğitim girişimlerine daha fazla yatırım yapmalıdır. Son olarak, ulusal insan hakları yapıları, yapay zeka kullanımından kaynaklanan yeni ayrımcılık türleriyle başa çıkmak için donatılmalıdır.

   Özel sektörün bu konularda Avrupa Konseyi ile işbirliği yapmaya hazır olduğunu görmek cesaret vericidir . İnsan Hakları Komiseri olarak, görevim süresince temel sorunları ön plana çıkarmak ve üye devletlerin insan haklarına saygı gösterirken bunlarla mücadele etmelerine yardımcı olmak için yapay zekaya odaklanmayı planlıyorum. Geçenlerde Estonya ziyaretim sırasında Başbakan ile yapay zeka ve insan haklarıyla ilgili konularda umut verici bir tartışma gerçekleştirdim.

   Yapay zeka, arzu ettiğimiz hayatı yaşama yeteneklerimizi büyük ölçüde artırabilir. Ama aynı zamanda onları yok edebilir. Bu nedenle, modern bir Frankenstein'ın canavarında dönüşümden kaçınmak için katı düzenlemeler gerektirir.

Dunja Mijatovic