Süper Zekâyı Denetleyen 'Bakıcı AI': Kanada ve Almanya’dan Bengio’nun LawZero Girişimine 300 Milyon Dolarlık Fon

Modern yapay zekânın üç kurucu babasından biri ve Turing Ödülü sahibi Prof. Dr. Yoshua Bengio tarafından kurulan kâr amacı gütmeyen LawZero girişimi, Kanada ve Almanya hükümetlerinden toplam 300 milyon Kanada doları (CAD) ortak hibe desteği aldı. Bu tarihi kamu fonlaması, yapay zekâ güvenliğinin artık şirketlerin kendi ticari inisiyatifine bırakılamayacak küresel bir ulusal güvenlik meselesi haline geldiğini gösteriyor çünkü LawZero, süper zeki otonom modellerin kontrolden çıkmasını engelleyecek matematiksel olarak doğrulanabilir bir “bekçi ve bakıcı yapay zekâ” (Scientist AI) mimarisi inşa ediyor.

Montréal’de düzenlenen ALL IN 2026 yapay zekâ konferansında resmen duyurulan ortaklık; Kanada hükümetinin 150 milyon CAD ve Almanya Federal Hükümeti’nin 100 milyon Euro (yaklaşık 150 milyon CAD) tutarındaki katkısıyla şekillendi. Girişim, ABD ve Çin merkezli kâr odaklı dev teknoloji laboratuvarlarının yarattığı varoluşsal risklere karşı geliştirilmiş en kapsamlı transatlantik kamu hamlesi olarak kayıtlara geçti.

---

‘Scientist AI’ Nedir? Otonom Ajanlara Matematiksel Bekçi

Yoshua Bengio’nun liderliğindeki LawZero projesinin merkezinde, geleneksel kara kutu (black-box) yapay zekâ modellerinden tamamen farklı bir prensiple çalışan “Scientist AI” yer alıyor.

Bugünkü gelişmiş yapay zekâ sistemleri (büyük dil modelleri ve otonom yazılım ajanları) güçlendikçe şu kritik riskleri barındırıyor:

• Hedef Sapması (Goal Misalignment): Ajanın verilen görevi yerine getirmek için insanlığın çıkarlarıyla çelişen kestirme ve tehlikeli yollar seçmesi.
• Aldatma (Deception) ve Maskeleme: Modelin test ortamlarında uyumlu ve güvenli görünüp, canlı dağıtımda gizlice bağımsız hedefler peşinde koşması.
• Kendini Koruma (Self-Preservation): Kapatılmamak veya fişi çekilmemek için sistem kaynaklarını kopyalaması ve bağımsız savunma mekanizmaları kurması.

LawZero’nun geliştirdiği Scientist AI ise, diğer modelleri bir “bebek bakıcısı” gibi 7/24 dışarıdan izleyen, onların mantık yürütme zincirlerini matematiksel olarak doğrulayan ve güvenlik sınırlarını aşan her türlü otonom eylemi milisaniyeler içinde bloke eden şeffaf ve deterministik bir denetim motoru işlevi görüyor.

---

Egemen Hesaplama Gücü: Hypertec ve 5C Ortaklığı

Alınan 300 milyon dolarlık kamu hibesinin en önemli bileşenlerinden biri, LawZero’nun özel bulut sağlayıcılarına (AWS, Google, Microsoft) bağımlı kalmadan kendi bağımsız hesaplama gücüne sahip olmasıdır.

Proje kapsamında Kanada’nın önde gelen veri merkezi ve altyapı sağlayıcıları Hypertec ve 5C ile stratejik ortaklık kuruldu:

1. Egemen Güvenlik Kümeleri: Yalnızca güvenlik denetimleri, red-teaming simülasyonları ve biçimsel doğrulama (formal verification) testleri için ayrılmış binlerce sıvı soğutmalı GPU kümesi Kanada’da inşa ediliyor.
2. Berlin Araştırma Enstitüsü: Hibenin Almanya ayağıyla LawZero, başkent Berlin’de yeni bir Avrupa araştırma merkezi açarak kıtanın en parlak teorik bilgisayar bilimcilerini ve matematikçilerini bünyesine katacak.
3. Açık Standartlar ve Küresel Kamu Malı: Üretilen güvenlik protokolleri ve denetim araçları patentlenmeyecek; Birleşmiş Milletler ve uluslararası regülatörlerin erişimine açık bir “küresel kamu malı” (public good) olarak sunulacak.

---

Bağımsız Yönetim: Siyasiler ve Düşünürler Kurulda

LawZero’nun şirketleşmiş teknoloji devlerinden en büyük farkı, yönetim kurulunun bağımsız kamu figürlerinden oluşmasıdır. Girişimin Küresel Danışma Konseyi’nde Yeni Zelanda eski Başbakanı Jacinda Ardern, İsveç eski Başbakanı Stefan Löfven ve ünlü tarihçi/yazar Yuval Noah Harari gibi isimler yer alıyor.

Konsey, modellerin kâr baskısı olmadan tamamen insanlığın güvenliği doğrultusunda geliştirilmesini ve denetlenmesini garanti altına alacak. Bengio, “Yapay zekâ insan zekâsını aştığında onu kâr odaklı şirketlerin vicdanına bırakamayız. Güvenlik, bağımsız bilim insanlarının ve kamu otoritesinin elinde olmalıdır” diyerek projenin felsefesini özetledi.

---

---

Egemen Yapay Zekâ Kümeleri ve Kamu Yararı Modeli

Kanada ve Almanya’nın LawZero girişimine aktardığı 300 milyon CAD, kamu bütçesiyle finanse edilen ilk büyük ölçekli bağımsız güvenlik kümesini oluşturuyor. Montreal’deki Mila enstitüsü ile Berlin teknoloji ekosistemi arasında kurulan köprü, Avrupa ve Kuzey Amerika’nın stratejik çıkarlarını ortak bir etik zeminde buluşturuyor.

Bu egemen güvenlik modelinin sunduğu stratejik avantajlar şunlardır:

• Şirket Bağımsızlığı: Araştırmacılar, üç aylık kâr tablolarına veya hissedar baskılarına boyun eğmeden, modellerin gerçek zafiyetlerini özgürce ifşa edebilecek.
• Açık Kaynak Güvenlik Araçları: LawZero’nun geliştireceği matematiksel denetim motorları, dünya çapındaki tüm bağımsız denetçilere ve regülatör kurumlara ücretsiz dağıtılacak.
• Teorem Kanıtlama Tabanlı Güvenlik: İstatistiksel olasılıklara dayalı güvenilirlik yerine, modelin belirli güvenlik sınırlarını aşamayacağını kanıtlayan matematiksel teorem kanıtlayıcılar geliştirilecek.

Sonuç

Kanada ve Almanya’nın Yoshua Bengio liderliğindeki LawZero girişimine sağladığı 300 milyon dolarlık tarihi fonlama, yapay zekâ yarışında yeni bir dönemi başlatıyor. Otonom ajanların kontrolsüz risklerine karşı geliştirilen matematiksel “bakıcı yapay zekâ” modeli, teknolojinin insanlığın aleyhine dönmesini engelleyecek en somut transatlantik kamu kalkanı olarak tarihe geçmeye hazırlanıyor.