AI Yasası tamamlandı. İşte ne değişecek ( ve değişmeyecek )

İşte ne değişecek ( ve değişmeyecek ):

1. Bazı yapay zeka kullanımları bu yılın ilerleyen dönemlerinde yasaklanacak

    Kanun, sağlık, eğitim ve polislik gibi alanlarda insanların temel hakları açısından yüksek risk oluşturan yapay zeka kullanım durumlarına kısıtlamalar getiriyor. Bunlar yıl sonuna kadar yasaklanacak.

    Ayrıca “kabul edilemez risk” teşkil ettiği düşünülen bazı kullanımlar da yasaklanıyor. Bunlar arasında, "davranışı çarpıtmak ve bilinçli karar almayı bozmak için bilinçaltı, manipülatif veya aldatıcı teknikler" uygulayan veya savunmasız insanları istismar eden yapay zeka sistemleri gibi oldukça yaygın ve belirsiz kullanım durumları yer alıyor. Yapay Zeka Yasası aynı zamanda birinin siyasi görüşleri veya cinsel yönelimi gibi hassas özelliklerini ortaya çıkaran sistemleri ve halka açık yerlerde gerçek zamanlı yüz tanıma yazılımının kullanımını da yasaklıyor. İnterneti Clearview AI yoluyla kazıyarak yüz tanıma veritabanlarının oluşturulması da yasa dışı olacak. 

    Ancak bazı oldukça büyük uyarılar var. Kolluk kuvvetlerinin, terörizm veya adam kaçırma gibi ciddi suçlarla mücadele etmek için halka açık yerlerde hassas biyometrik verilerin yanı sıra yüz tanıma yazılımlarını kullanmasına hâlâ izin veriliyor. Dijital haklar örgütü Access Now gibi bazı sivil haklar örgütleri , yapay zeka yasasını "insan hakları açısından bir başarısızlık" olarak nitelendirdi çünkü yüz tanıma gibi tartışmalı yapay zeka kullanım örneklerini doğrudan yasaklamadı. Şirketlerin ve okulların, insanların duygularını tanıdığını iddia eden yazılımları kullanmasına izin verilmese de, tıbbi veya güvenlik nedenleriyle bunu yapabilirler.

2. Bir yapay zeka sistemiyle etkileşime girdiğinizde bu daha belirgin olacaktır

    Teknoloji şirketlerinin deepfake'leri ve yapay zeka tarafından oluşturulan içerikleri etiketlemeleri ve bir sohbet robotu veya başka bir yapay zeka sistemiyle etkileşime girdiklerinde insanları bilgilendirmeleri gerekecek. Yapay Zeka Yasası aynı zamanda şirketlerin yapay zeka tarafından oluşturulan medyayı tespit etmeyi mümkün kılacak şekilde geliştirmesini de gerektirecek. Bu, yanlış bilgiye karşı mücadelede umut verici bir haber ve filigranlama ve içerik kaynağı araştırmalarına büyük bir destek sağlayacak. 

    Ancak bunu söylemek yapmaktan daha kolaydır ve araştırmalar, düzenlemenin gerektirdiğinin çok gerisinde kalmaktadır. Filigranlar hala deneysel bir teknolojidir ve kurcalanması kolaydır. Yapay zeka tarafından oluşturulan içeriği güvenilir bir şekilde tespit etmek hala zordur . Açık kaynaklı bir internet protokolü olan C2PA gibi bazı çabalar ümit vericidir , ancak kaynak tekniklerini güvenilir hale getirmek ve endüstri çapında bir standart oluşturmak için çok daha fazla çalışmaya ihtiyaç vardır. 

3. Vatandaşlar yapay zekadan zarar görmüşlerse şikayette bulunabilirler

    Yapay Zeka Yasası, uyumluluğu, uygulamayı ve yaptırımı koordine etmek için yeni bir Avrupa Yapay Zeka Ofisi kuracak ( ve işe alım yapacaklar ). Yapay Zeka Yasası sayesinde AB'deki vatandaşlar, yapay zeka sistemlerinden zarar gördüklerinden şüphelendiklerinde şikayette bulunabiliyor ve yapay zeka sistemlerinin neden böyle kararlar verdiğine dair açıklamalar alabiliyor.

    Bu, giderek otomatikleşen bir dünyada insanlara daha fazla yetki verme yönünde önemli bir ilk adımdır. Ancak bu, vatandaşların yeterli düzeyde yapay zeka okuryazarlığına sahip olmasını ve algoritmik zararların nasıl gerçekleştiğinin farkında olmasını gerektirecektir. Çoğu insan için bunlar hâlâ çok yabancı ve soyut kavramlardır. 

4. Yapay zeka şirketlerinin daha şeffaf olması gerekecek

    Çoğu yapay zeka kullanımı, Yapay Zeka Yasasına uygunluğu gerektirmeyecektir. Kanun üç yıl içinde tam olarak yürürlüğe girdiğinde yeni yükümlülüklere sahip olacak olanlar yalnızca kritik altyapı veya sağlık hizmetleri gibi "yüksek riskli" sektörlerde teknolojiler geliştiren yapay zeka şirketleri olacak. Bunlar arasında daha iyi veri yönetimi, insan gözetiminin sağlanması ve bu sistemlerin insan haklarını nasıl etkileyeceğinin değerlendirilmesi yer alıyor.

    Dil modelleri gibi "genel amaçlı yapay zeka modelleri" geliştiren yapay zeka şirketlerinin ayrıca modeli nasıl oluşturduklarını, telif hakkı yasasına nasıl uyduklarını gösteren teknik belgeler oluşturmaları ve saklamaları ve hangi eğitim verilerinin gittiğine dair kamuya açık bir özet yayınlamaları gerekecek. AI modelini eğitmek için. 

    Bu, teknoloji şirketlerinin modellerine giren verileri gizli tuttuğu ve yapay zeka sektörünün karmaşık veri yönetimi uygulamalarının elden geçirilmesini gerektireceği mevcut statükoya göre büyük bir değişiklik.

    GPT-4 ve Gemini gibi en güçlü yapay zeka modellerine sahip şirketler, model değerlendirmeleri, risk değerlendirmeleri ve hafifletme işlemleri gerçekleştirmek, siber güvenlik korumasını sağlamak ve yapay zeka sisteminin başarısız olduğu tüm olayları raporlamak gibi daha zorlu gereksinimlerle karşı karşıya kalacak . Buna uymayan şirketler büyük para cezalarıyla karşı karşıya kalacak veya ürünleri AB'ye yasaklanabilecek. 

    Modelin mimarisi, parametreleri ve ağırlıkları da dahil olmak üzere modelin nasıl oluşturulduğuna dair her ayrıntıyı paylaşan ücretsiz açık kaynaklı yapay zeka modellerinin, Yapay Zeka Yasasının birçok yükümlülüğünden muaf olduğunu da belirtmekte fayda var.