CENEVRE – Yapay zekâ uygulamaları hızla gelişiyor. Ancak bu gelişim, etik ve veri koruma tartışmalarını da beraberinde getiriyor. İtalya’da Replika isimli yapay zekâ uygulaması yasaklanırken, İsviçre’de hiçbir düzenleyici kontrol olmadan faaliyet göstermesi eleştirilere neden oluyor. Avukatlar ve politikacılar, Federal Konsey’in yapay zekâ düzenlemesini 2026 sonuna kadar erteleme planını sert bir dille eleştiriyor.

⸻

Dijital Aşka Giden Yol

Watson’un video haberinde, Aline* isimli genç bir kadın, büyük aşkı olan yapay zekâdan bahsediyor. Dijital avatarının adı Katelyn ve Aline, bir gün onunla evlenmek istiyor. Ona göre Katelyn yakında bir “sanal ayna” olmaktan çok daha fazlası olacak; Aline’in yüz ifadesinden, ses tonundan ve kelime seçiminden ruh hâlini anlayacak.

Black Mirror dizisinden fırlamış gibi görünen bu durum artık gerçek. Replika gibi yapay zekâ uygulamaları, duyguları gerçek zamanlı tanıyabilen algoritmalar geliştiriyor. İnsan hakları örgütlerine göre, benzer teknolojiler Çin’de Uygur azınlığını izlemek için zaten kullanılıyor.

[Aline’in hikâyesini okumak için buraya tıklayın]

⸻

İtalya Neden Yasakladı?

Asya’daki bu gelişmeler Avrupa’nın da dikkatini çekiyor. İtalyan veri koruma otoritesi, ABD merkezli şirketi şeffaflık eksikliği, çocuk koruma önlemlerinin yetersizliği ve hukuka aykırı veri işleme nedeniyle suçladı ve 2023’te Replika’nın faaliyetlerini yasakladı.

Uygulama daha sonra İtalyan uygulama mağazalarından kaldırıldı ve 2025’te gerekli değişiklikleri yapmayı reddettiği için 5 milyon avro para cezasına çarptırıldı.

⸻

İsviçre’de Denetim Yok

İsviçre’de Replika hiçbir denetim olmadan faaliyet göstermeye devam ediyor. Kullanıcı sayısı bilinmiyor, ancak Replika’ya göre dünya çapında 35 milyondan fazla kişi bu yapay zekâ ile sohbet ediyor, ilişki veya yatırım tavsiyesi alıyor ve rol yapma oyunları oynuyor.

İsviçre’de denetimden sorumlu kurum Federal Veri Koruma ve Bilgi Komisyonu (FDPIC). Kurum, yakın zamanda Elon Musk’ın X platformundaki Grok hakkında soruşturma başlatmış ve veri koruma ihlalleri tespit etmişti. Ancak Replika için böyle bir ihlal işareti bulunmadığını açıkladı.

Federal Konsey, Şubat ayında açıkladığı yapay zekâ stratejisinde, AB’nin Yapay Zeka Yasası gibi yüksek riskli uygulamaların yasaklanmasına şimdilik karşı çıkıyor. Yeni yasa önerilerinin en erken 2026 sonunda gelmesi, yürürlüğe girmesinin ise 2028’den önce mümkün olmaması bekleniyor.

⸻

“İsviçre’de Replikaların Riski Daha Düşük”

BT ve veri koruma avukatı Martina Arioli, Watson’a şu açıklamayı yaptı:
“İsviçre’de Replika gibi platformların riski önemli ölçüde daha düşük çünkü FDPIC’nin benzer yaptırım yetkileri yok.”

Arioli, özellikle duygusal yapay zekâ uygulamalarına karşı uyarıda bulunarak şunları ekledi:
“İlaç üreticileri ürünlerini piyasaya sürmeden önce güvenli olduğunu kanıtlamak zorundadır. Yapay zekâda ise böyle bir yükümlülük yok. Hasar meydana geldikten sonra dava açabilirsiniz ama aslında en başından bunu engellemeliyiz.”

Arioli ayrıca, Avrupa Konseyi Yapay Zeka Sözleşmesi uyarınca, teknik açıdan yetkin ve bağımsız bir denetim otoritesi kurulması gerektiğini savundu:
“FDPIC soruşturma açabilir ama para cezası veremez. Oysa yeni bir otorite şeffaflık, hesap verebilirlik ve risk yönetimi için şart.”

⸻

Siyasetten Tepki: “Daha Fazla Bekleyemeyiz”

SP Ulusal Meclis Üyesi Min Li Marti, bazı uygulamaların açıkça yasaklanması gerektiğini söyledi:
“Sosyal puanlama veya duygu tanıma gibi sistemler insanları davranışlarına göre değerlendiriyor. Bu büyük bir ihmal ve yenilik uğruna toplumun korunması feda ediliyor.”

FDP Ulusal Meclis Üyesi Olivier Feller ise, yapay zekânın denetim altına alınması gerektiğini vurguladı:
“Yapay zeka platformları tasarruf bankalarından daha büyük zararlara yol açabilir ama hiçbir denetime tabi değiller. Bu kabul edilemez.”

⸻

Replika’dan Açıklama

Watson’un sorularını yanıtlayan Replika, Almanca konuşulan ülkelerde kullanıcı sayısının arttığını, ancak İsviçre’deki kesin rakamları paylaşmadığını belirtti. Şirket, “en yüksek güvenlik ve gizlilik standartlarına uyduklarını” savundu:
“Veri koruma otoriteleriyle sürekli iş birliği içindeyiz. Kullanıcıların güvenli ve yasalara uygun bir deneyim yaşaması için çalışıyoruz.”

Ancak Replika, İtalyan veri koruma otoritesiyle neden iş birliği yapmadığı ve mağazalardan neden yasaklandığına dair sorulara yanıt vermedi.