Avrupa Birliği Temel Haklar Ajansı (THA), teknoloji hakkında yapılması gereken etik hususları inceleyen bir yapay zeka raporu yayınladı.
THA’nın ‘Geleceği Doğru Bulmak’ başlıklı raporunda, yapay zekânın hayatlarımızı daha iyi hale getirdiği bazı yöntemlerden söz edilmiş, örneğin kanser teşhisine yardımcı olmak ve hırsızlıkların nerede gerçekleşeceğini tahmin etmek gibi.
THA Direktörü Michael O’Flaherty, raporun önsözünde “olasılıklar sonsuz görünüyor” diye yazıyor. “Ama yapay zekâyı kullanırken temel hak standartlarını tam olarak nasıl koruyabiliriz?”
THA, bu soruyu yanıtlamak için yüzden fazla kamu idaresi yetkilisi, özel şirket personeli ve çeşitli uzmanlarla röportaj yaptı.
O’Flaherty diyor ki:
“Yapay Zekâ insanlar tarafından yapıldığı için her zaman yanılma payı vardır çünkü insan hata yapabilir. Bu nedenle, insanların yapay zekânın ne zaman kullanıldığını, nasıl çalıştığını ve otomatik kararlara nasıl karşı çıkacağını bilmeleri gerekir. AB, mevcut kuralların yapay zekâ için geçerliliğini netleştirmelidir. Organizasyonların, teknolojilerinin hem yapay zekânın geliştirilmesinde hem de kullanımında insanların haklarına nasıl müdahale edebileceğini değerlendirmeleri gerekiyor.
“Yalnızca insan haklarımıza ve temel haklarımıza saygı duymakla kalmayıp aynı zamanda onları koruyan ve destekleyen yapay zekâyı modelini şekillendirme fırsatına sahibiz.”
Yapay zekâ hemen hemen her sektörde bir şekilde kullanılıyor. Henüz tam olarak değilse bile yakında olacak. Yapay zekâdaki önyargılar, bazı endüstrilerde diğerlerinden daha tehlikelidir. Polis faaliyetleri buna bir örnektir. Ancak finansal hizmetler gibi alanlarda, bir kişiye diğerine kıyasla kredi veya ipotek verilmesi anlamına gelebilir. Gerekli şeffaflık olmadan bu önyargılar, hiç kimsenin bu tür kararların arkasındaki nedenleri bilmediği anlarda gerçekleşebilir. Bunun nedeni, birinin farklı bir mahallede büyümüş olması olabilir. Her otomatik kararın arkasında bir insan etkisi vardır.
THA, AB’ye şu çağrıda bulunuyor:
-Yapay zekânın temel haklara saygı duyduğundan emin olun; yapay zekâ yalnızca gizlilik veya veri korumayı değil, birçok hakkı etkileyebilir. Ayrıca adaleti ayırt edebilir veya engelleyebilir. Gelecekteki herhangi bir yapay zekâ mevzuatı bunu dikkate almak ve etkili koruma önlemleri oluşturmak zorundadır.
-İnsanlara yapay zekâ tarafından alınan kararlara itiraz edebileceğinin garantisini verin. İnsanlara yapay zekânın ne zaman kullanıldığını ve nasıl kullanıldığını söylemenin yanı sıra nasıl ve nerede şikâyet edebileceklerini de öğretin. Yapay zekâ kullanan kuruluşların, sistemlerinin nasıl karar aldığını açıklayabilmeleri gerekir.
-Olumsuz etkileri azaltmak için kullanımdan önce ve kullanım sırasında değerlendirme yapın. Özel ve kamu kuruluşları yapay zekânın temel haklara nasıl zarar verebileceğine dair değerlendirmeler yapmalıdır.
-Veri koruma kuralları hakkında daha fazla rehberlik hizmeti sağlayın. AB, veri koruma kurallarının yapay zekâ için nasıl geçerli olduğunu daha da netleştirmelidir. Otomatik karar vermenin etkileri ve yapay zekâ kullanıldığında insan incelemesi hakları konusunda daha fazla netliğe ihtiyaç vardır.
-Yapay zekânın ayrımcılık yapıp yapmadığını değerlendirin. Bu konunun etkisi hakkında farkındalık nispeten düşüktür. Yapay zekânın potansiyel olarak ayrımcı etkilerine bakmak için daha fazla araştırma fonu gerekiyor, böylece Avrupa buna karşı korunabilir.
-Gözetim sistemi oluşturun. AB, yapay zekâ kullanırken işletmeleri ve kamu idarelerini sorumlu tutmak için daha ‘birleşik’ bir sisteme yatırım yapmalıdır. Yetkililerin gözetim sistemlerinin işi yapmak için yeterli kaynaklara ve becerilere sahip olup olmadığını kontrol etmeleri gerekir.
AB, incelemeleri artırdı
AB, son yıllarda gizlilik uygulamalarını ihlal eden ve kullanım alanlarını kötüye kullananlar hakkındaki endişeleri nedeniyle Google gibi “büyük teknoloji” şirketlerine yönelik incelemesini artırdı. Geçen hafta AI News, Google’ın önde gelen yapay zekâ etik araştırmacısı Timnit Gebru’yu bir e-postada işvereniyle tartıştıktan sonra tartışmalı bir şekilde kovduğunu bildirdi.
Google CEO’su Sundar Pichai bir notta şunları yazdı: “Muazzam yeteneklere sahip tanınmış bir siyahi kadın liderin Google’dan mutsuz bir şekilde ayrılmasının sorumluluğunu kabul etmemiz gerekiyor.
“Siyahların, kadınların ve yeterince temsil edilmeyen Google çalışanlarımızın onlara değer verdiğimizi bilmeleri ve şirketimize ait olduklarını bilmeleri benim için son derece önemli” dedi.
Gebru, bu hafta BBC’ye Google’ı ve büyük teknolojiyi “kurumsal olarak ırkçı” olarak adlandırdığı bir röportaj verdi. THA’nın raporunda belirtilenlerin dikkatle incelenmesi gerekiyor.
Algoritma: Yapay Zekâ Bütçeleri Artıyor Ancak Dağıtım Zorlukları Devam Ediyor
Algorithmia’dan gelen yeni raporda, yapay zekâ için kurumsal bütçelerin hızla arttığını ancak önemli dağıtım zorluklarının devam ettiği söyleniyor.
Algorithmia’nın 2021 Enterprise Trends in Machine Learning raporu, makine öğrenimi girişimlerinde bulunan 403 iş liderinin görüşlerini içeriyor.
Algorithmia CEO’su Diego Oppenheimer şöyle diyor:
“COVID-19, birçok alanda varsayımlarımıza karşı hızlı bir değişime neden oldu. Hızla değişen bu ortamda, kuruluşlar yatırımlarını yeniden gözden geçiriyor. Gelir ve verimliliği artırmak için Yapay Zekâ / Makine Öğrenimi’nin önemini görüyor.
Pandemiden önce yapay zekâ / makine öğrenimi girişimleri peşinde koşan kuruluşlar için en büyük endişe, şirket içi yetenek eksikliğiydi. Günümüzde kuruluşlar, makine öğrenimi modellerini nasıl daha hızlı üretime sunacakları ve zaman içinde performanslarını nasıl sürekli hale getirecekleri konusunda daha fazla endişe duyar hale geldi.
Bu sorunları önemsiz hale getirmek istemesek de, bir şirketin bunları takip edip edemeyeceğinin aksine, zorlukların yapay zekâ / makine öğrenimi yatırımlarının değerini nasıl en üst düzeye çıkaracağıyla daha fazla ilgisi olduğu gerçeği beni cesaretlendirdi.”
Ana fikir, yapay zekâ bütçelerinin önemli ölçüde artmasıdır. Ankete katılanların yüzde 83’ü bütçelerini geçen yıla göre artırdıklarını söyledi. Birçok şirket için zorlu bir yıl olmasına rağmen iş liderleri, yapay zekâ yatırımlarından vazgeçmiyor ve hatta ikiye katlıyorlar.
Algorithmia’nın yaz anketinde;
katılımcıların yüzde 50’si bu yıl yapay zekâ için daha fazla harcama yapmayı planladıklarını söyledi. Hatta yaklaşık beşte biri çok daha fazla harcama yapmayı planladıklarını söyledi. İşletmelerin yüzde 76’sı artık diğer bilgi teknolojisi girişimlerine göre yapay zekâ / makine öğrenimine öncelik verdiğini bildirdi. Yüzde 64 yapay zekâ / makine öğrenimi önceliğinin son 12 ayda diğer bilgi teknoloji girişimlerine göre arttığını söylüyor.
Birkaç yıldır dünyanın dört bir yanındaki işsizlik rakamlarının en yüksek seviyede olduğu – hatta onlarca yıldır – ankete katılanların yüzde 76’sının yapay zekâ / makine öğrenimi ekiplerinin boyutunu küçültmediklerini bilmek bu konu hakkında ki varsayımlar için umut vadediyor. Yüzde 27 bir artış bile bildiriyor. Yüzde 43’ü, yapay zekâ / makine öğrenimi girişimlerinin “düşündüğümüzden çok daha önemli olduğunu” söylüyor. Yapay zekâ yatırımları için süreç otomasyonu ve müşteri deneyimlerinin iyileştirilmesi iki önemli alandır.
Şimdiye kadar ki konularda bir sorun olmasa da, henüz ele alınmayan şirketlerin karşılaştığı yapay zekâ dağıtım sorunları mevcut. Yönetim, şirketlerin karşı karşıya kaldığı en büyük yapay zekâ sorunudur. İşletmelerin yüzde 56’sı yönetim, güvenlik ve denetlenebilirlik konularını tehlike olarak değerlendirdi.
Mevzuata uygunluk hayati bir önem taşır. Özellikle sadece ülkeler için değil eyaletler arasındaki farklı düzenlemelerle kafa karıştırıcı hale gelebilir. Kuruluşların yüzde 67’si, yapay zekâ / makine öğrenimi dağıtımları için birden fazla düzenlemeye uymak zorunda olduğunu bildiriyor.
Yönetimden sonraki en büyük zorluk temel dağıtım ve organizasyonel zorluklardır. Temel birleşme sorunları, işletmelerin yüzde 49’u tarafından sorun olarak belirtildi. Yapay zekâ dağıtım stratejilerinde her zamankinden daha fazla iş rolü yer alıyor. Artık yalnızca veri bilimcilerin alanı olarak görülmüyor.
Sonuç olarak:
Biraz umut vadeden ilerlemeler var. Kuruluşlar üçüncü taraf MLOps çözümlerini kullanırken daha iyi sonuçlar aldığını bildiriyor.
Algorithmia’nın üçüncü taraf bir MLOps çözümü olduğu göz önünde bulundurulduğunda rapor, böyle bir platformu kullanan kuruluşların altyapı maliyetlerine ortalama yüzde 21 daha az harcadığını iddia ediyor. Ayrıca model dağıtımı için daha az zaman harcayan veri bilimcilerini serbest bırakmalarına da yardımcı oluyor.
Serra Nur Salim
Bunlar da ilginizi çekebilir
Avrupa Birliği’nde Un Kurtları Tüketim İçin Onaylandı: Yakında Market Raflarında Olacak
Elon Musk: Yapay Zekâ 5 Yıl İçerisinde İnsanlardan Daha Üstün Olacak
2021 Yılı Yapay Zekâ Tahminleri: Yapay Zekanın Ulaşabileceği Sınırlar
Yapay Zekâ 10 Farklı Şekilde Bu Şaşırtıcı Yetenekleri Gösterdi!
Yorumlar 1