İsviçre, tamamen kamu altyapısıyla geliştirilen ilk büyük dil modelini (LLM) duyurmaya hazırlanıyor. ETH Zürih, EPFL ve İsviçre Ulusal Süper Bilgi İşlem Merkezi (CSCS) iş birliğiyle geliştirilen bu model, 2025 yazının sonunda kamuoyuyla paylaşılacak. Proje, şeffaflık, çok dillilik ve açık inovasyonu yapay zeka alanında teşvik etmeyi amaçlıyor.

Şeffaf ve güvenli bir yapay zeka yaklaşımı

ETH Yapay Zeka Merkezi'nden araştırma bilimcisi Imanol Schlag’a göre, tamamen açık kaynaklı modeller yüksek güven gerektiren uygulamalar için uygun bir temel sunuyor. Ayrıca bu şeffaflık, yapay zekanın potansiyel risklerini ve fırsatlarını anlamak adına bilimsel araştırmalara katkı sağlıyor. Schlag, süreçlerin açık yürütülmesinin mevzuatlarla uyum açısından da kritik olduğunu vurguluyor.

Alps süper bilgisayarı ile güçlendirilen proje

İsviçre Yapay Zeka Girişimi kapsamında ETH Kurulu tarafından desteklenen proje, CSCS bünyesindeki Alps süper bilgisayarını kullanıyor. NVIDIA Grace Hopper Superchip teknolojisiyle çalışan bu sistem, karbon nötr enerjiyle besleniyor ve 10.000'den fazla araştırmacı tarafından destekleniyor. Proje, son 15 yıldır süregelen NVIDIA ve HPE/Cray ortaklıklarının bir sonucu olarak İsviçre'nin yapay zeka alanında egemen bir altyapı kurma çabasının önemli bir parçası.

1.000’den fazla dili kapsayan çok dilli eğitim

İsviçre'nin geliştirdiği LLM’nin en dikkat çekici yönlerinden biri çok dillilik. Model, dünya genelinde 1.000'den fazla dili temsil eden verilerle eğitildi. Yaklaşık 15 trilyon token içeren bu eğitim verisinin %60’ı İngilizce, %40’ı ise diğer diller, kod ve matematiksel verilerden oluşuyor. Model, 8 milyar ve 70 milyar parametre olmak üzere iki farklı boyutta sunulacak ve dünya genelinde açık kaynaklı en güçlü modeller arasında yer alması bekleniyor.

Tamamen açık ve paylaşıma hazır

Modelin tamamı, yani kaynak kodu, eğitim verisi ve ağırlıkları Apache 2.0 lisansı altında açık erişime sunulacak. EPFL ve ETH Zürih’e göre bu sayede model, bilimsel araştırmalardan eğitime, kamu hizmetlerinden özel sektöre kadar pek çok alanda yaygın olarak kullanılabilecek. Ayrıca eğitim metodolojisi, model mimarisi ve sorumlu kullanım kılavuzları gibi kapsamlı belgeler de yayınla birlikte paylaşılacak.

Yasalara uyumlu ve etik veri kullanımı

Projenin, İsviçre veri koruma yasaları ve telif hakkı düzenlemeleriyle uyumlu olduğu, aynı zamanda AB Yapay Zeka Yasası kapsamında öngörülen şeffaflık kriterlerini karşıladığı belirtiliyor. Ayrıca araştırmacılar, modelin web taraması verilerinden arındırılmasının performansı olumsuz etkilemediğini, bu sayede daha etik bir veri yaklaşımının mümkün olduğunu gösterdiklerini ifade ediyor.

Avrupa’da şeffaf yapay zekaya doğru

Bu çalışma, Aralık 2023’te başlatılan İsviçre Yapay Zeka Girişimi kapsamında yürütülüyor. Girişim, 10’dan fazla akademik kurumu ve 800’den fazla araştırmacıyı kapsıyor. CSCS’nin süper bilgisayarı, yılda 20 milyon GPU saatine kadar kaynak sağlıyor. ETH Zürih ve EPFL’nin de yer aldığı Avrupa’nın ELLIS (European Laboratory for Learning and Intelligent Systems) ağıyla iş birliği içinde yürütülen bu proje, kıtada güvenilir ve şeffaf yapay zekanın geliştirilmesinde önemli bir adım olarak görülüyor.

Yetenekleri çekme gücü

EPFL profesörü Martin Jaggi, modelin tamamen açık bir şekilde geliştirilmesinin yalnızca bilimsel ilerlemeye değil, aynı zamanda en yetenekli araştırmacıları cezbetmeye de katkı sağladığını belirtiyor. Jaggi’ye göre bu yaklaşım, İsviçre’de ve Avrupa genelinde inovasyonu teşvik edecek önemli bir stratejik unsur.