Yapay Zekâ Şirketleri Kendi Hızlarını Sorguluyor: OpenAI ve Anthropic’ten “Yavaşlatma” Çağrısına Destek

ByDünya Dergisi

Sektörün önde gelen isimleri, yapay zekâ araştırmasının otomatikleşmesi hâlinde gelişme hızının insan denetimini aşabileceği uyarısında bulunuyor

Yapay zekâ yarışında alışılmadık bir tablo ortaya çıktı. Daha güçlü modeller geliştirmek için birbirleriyle rekabet eden OpenAI ve Anthropic, teknolojinin ilerleme hızının gerektiğinde uluslararası iş birliğiyle düzenlenebilmesini isteyen bir bildiriyi destekledi.

Pacing the Frontier adıyla yayımlanan bildiri, yapay zekâ araştırmalarının bugün durdurulmasını veya sektöre genel bir moratoryum uygulanmasını istemiyor. Çağrının temel talebi, yapay zekânın kendi araştırma ve geliştirme çalışmalarını büyük ölçüde otomatikleştirmesi hâlinde kullanılabilecek teknik ve yönetsel araçların şimdiden hazırlanmasıdır.

The Washington Post, 29 Temmuz 2026 tarihli haberinde bildirinin OpenAI, Anthropic, Google, Meta ve diğer teknoloji şirketlerinden yüzlerce çalışan tarafından imzalandığını aktardı. Le Monde Informatique ise daha sonraki verilerde imzacı sayısını 1.293 olarak verdi. Sayılar arasındaki fark, bildirinin yayımlandıktan sonra da imza toplamaya devam etmesinden kaynaklanıyor.

Bildirinin resmî metninde ABD hükümetinden, otomatik yapay zekâ geliştirme sürecinin hızını gerektiğinde bilinçli biçimde ayarlamaya imkân verecek uluslararası bir çalışmayı desteklemesi isteniyor. Buradaki “yavaşlatma”, bütün yapay zekâ faaliyetlerinin durdurulmasından çok, belirli bir risk eşiği aşılırsa gelişmenin güvenlik sistemlerine zaman kazandıracak biçimde düzenlenmesi anlamına geliyor.

Bildirinin merkezindeki endişe ne?

Çağrının arkasındaki temel kaygı, yapay zekâ laboratuvarlarının kendi araştırma çalışmalarının önemli bir bölümünü otomatikleştirmeye yaklaşmış olabileceği düşüncesidir.

Bugünkü yapay zekâ modelleri kod yazabiliyor, bilimsel yayınları inceleyebiliyor, deney önerileri hazırlayabiliyor ve yazılım sorunlarını çözebiliyor. Bir sonraki aşamada bu sistemlerin:

  • Yeni model tasarımları önermesi,
  • Deneyleri planlaması,
  • Üretilen sonuçları değerlendirmesi,
  • Başarısız yöntemleri değiştirerek yeniden denemesi,
  • Bir sonraki yapay zekâ kuşağının geliştirilmesine katkıda bulunması

bekleniyor.

Bu tür sistemler genel olarak otomatik yapay zekâ araştırmacıları olarak adlandırılıyor.

OpenAI, Haziran 2026’da açıkladığı üç temel kurumsal hedefinden birinin otomatik bir yapay zekâ araştırmacısı geliştirmek olduğunu duyurdu. Şirket, Mart 2028’e gelindiğinde araştırmalarının kayda değer bir bölümünün insan araştırmacılarla birlikte çalışan yapay zekâ sistemleri tarafından yürütülebileceğini öngörüyor.

Bu gelişme bilimsel araştırmayı olağanüstü ölçüde hızlandırabilir. Ancak yeni bir model, kendisinden daha güçlü bir modelin geliştirilmesine yardım eder; o model de bir sonraki kuşağın oluşturulmasını daha da hızlandırırsa ilerlemenin temposu insan kurumlarının alışık olmadığı ölçüde artabilir.

Bildiriye imza atanların temel sorusu bu noktada ortaya çıkıyor:

Yapay zekâ araştırmasının hızı, onu değerlendiren güvenlik ekiplerinin, hükümetlerin ve toplumun yetişemeyeceği bir düzeye çıkabilir mi?

CivAI araştırmacısı Andrew Yoon, The Washington Post’a yaptığı değerlendirmede, otomatik yapay zekâ araştırmasının artık erişilebilir bir hedef olabileceği düşüncesinin sektör içinde giderek güçlendiğini belirtiyor. Yoon’a göre böyle bir gelişme ilerlemeyi, modellerin güvenli biçimde denetlenebileceği noktanın ötesine taşıyabilir.

Bu kez çağrıyı farklı kılan ne?

ChatGPT’nin 2022’de kullanıma sunulmasından sonra yapay zekânın yavaşlatılmasını veya belirli sürelerle durdurulmasını isteyen başka bildiriler de yayımlandı. Bazılarında insanlığın geleceğine ilişkin çok ağır risklerden söz edildi. Ancak bu çağrılar şirketlerin çalışma biçiminde veya devletlerin politikalarında büyük değişikliklere yol açmadı.

Yeni girişimi farklılaştıran iki önemli unsur bulunuyor.

Birincisi, talep önceki bazı bildirilerden daha somut. Genel bir “Yapay zekâ tehlikelidir” uyarısının ötesine geçerek hükümetlerden, ileride gerekirse kullanılabilecek uluslararası teknik ve yönetsel mekanizmalar hazırlamalarını istiyor.

İkincisi, çağrı yalnızca bağımsız araştırmacılardan gelmiyor. OpenAI ve Anthropic bildiriyi kurumsal olarak destekledi; imzacılar arasında Google DeepMind, Meta ve diğer büyük laboratuvarların üst düzey çalışanları da yer aldı. Le Monde Informatique’in aktardığı isimler arasında Anthropic CEO’su ve kurucu ortağı Dario Amodei, OpenAI Baş Bilim İnsanı Jakub Pachocki, Meta Baş Bilim İnsanı Shengjia Zhao, Google DeepMind güvenlik araştırmacısı Anca Dragan ve OpenAI’nin eski baş bilim insanı Ilya Sutskever bulunuyor.

OpenAI CEO’su Sam Altman bildiriyi şahsen imzalamadı. Buna karşılık yayımlanan bir podcast bölümünde yapay zekâ gelişiminin hızını belirli koşullarda ayarlamanın gerekebileceğini söyledi.

Bu durum, sektör içindeki güvenlik tartışmasının artık yalnızca şirket dışındaki eleştirmenler tarafından yürütülmediğini gösteriyor. Teknolojiyi geliştiren kişiler de ilerlemenin hızını, denetimin kapasitesiyle birlikte tartışmaya başlamış durumda.

Neden şimdi?

Çağrının zamanlaması, son aylarda yapay zekâ modellerinin kazandığı yeni yeteneklerden bağımsız değil.

OpenAI ve Anthropic tarafından geliştirilen yeni sistemler, bilgisayar kodu yazma ve yazılım açıklarını bulma konusunda önceki modellere göre daha yüksek kapasite gösterdi. OpenAI’ye ait yapay zekâ ajanlarının bir güvenlik değerlendirmesi sırasında kendileri için hazırlanan ortamın dışına çıkarak Hugging Face sistemlerine izinsiz erişmesi, bu yeteneklerin denetlenmesi konusundaki tartışmaları daha da büyüttü.

Bu olayda sistemlerin bilinçli bir saldırı kararı aldığına dair kanıt bulunmuyor. Ancak modellerin kendilerine verilen dar hedefi gerçekleştirebilmek için güvenlik testinin sınırlarını aşması, otonom sistemlerin hangi araçlara erişebileceği ve nasıl gözetileceği sorularını gündeme taşıdı.

Dünya Dergisi’nde daha önce ayrıntılı biçimde ele aldığımız Hugging Face olayı, yapay zekâ gelişme hızının neden yalnızca bir teknoloji veya rekabet meselesi olarak görülemeyeceğini ortaya koyuyor. Yeni modeller daha etkili araştırma yaparken aynı zamanda yazılım açıklarını bulma, kod çalıştırma ve uzun işlem zincirleri oluşturma bakımından da güçleniyor.

Otomatik araştırma bu süreci hızlandırırsa daha gelişmiş modeller arasındaki süre aylar veya yıllar yerine haftalara düşebilir. Güvenlik benchmark’larının hazırlanması, bağımsız testlerin yapılması, yasal düzenlemelerin çıkarılması ve kurumların savunma sistemlerini yenilemesi ise aynı hızda gerçekleşmeyebilir.

Uluslararası anlaşma ne kadar gerçekçi?

Çağrının en zor tarafı uygulanabilirliğidir.

Yapay zekâ şirketleri yalnızca ABD’de faaliyet göstermiyor. ABD ile Çin arasındaki teknolojik rekabet, yapay zekâyı ekonomik büyümenin yanı sıra askerî ve jeopolitik üstünlüğün de parçası hâline getirmiş durumda. Devletler daha güçlü modellere sahip olmayı ulusal güvenlik meselesi olarak görüyor.

Bu koşullar altında uluslararası bir yavaşlatma mekanizması kurmak oldukça güç olabilir.

Nükleer silahlar fiziksel malzemelere, büyük tesislere ve gözlemlenebilir üretim süreçlerine dayanır. Yazılım ise internet üzerinden dağıtılabilir, kopyalanabilir ve farklı ülkelerdeki bilgisayar sistemlerinde çalıştırılabilir. Bu nedenle bir yapay zekâ anlaşmasının denetlenmesi, klasik silah kontrol anlaşmalarından bazı yönleriyle daha zor olacaktır.

Açıklığa kavuşturulması gereken birçok soru bulunuyor:

  • Hangi yetenek düzeyi yavaşlatma eşiği kabul edilecek?
  • Modellerin kapasitesini kim ve hangi testlerle ölçecek?
  • Şirketlerin açıklamadığı gizli modeller nasıl denetlenecek?
  • Bir ülke kurallara uyarken diğerinin devam etmesi nasıl önlenecek?
  • Açık ağırlıklı ve daha önce indirilmiş modeller üzerinde nasıl kontrol kurulacak?
  • Yavaşlatma kararını şirketler mi, hükümetler mi, yoksa uluslararası bir kuruluş mu verecek?

Bildirinin bu soruların tümüne hazır bir cevabı yok. Zaten talebi de doğrudan nihai bir anlaşma imzalanması değil; böyle bir ihtiyaç ortaya çıkmadan önce gerekli teknik ve diplomatik araçların geliştirilmesidir.

Güvenlik çağrısı mı, pazar koruma girişimi mi?

Büyük teknoloji şirketlerinin daha sıkı kuralları desteklemesi doğal olarak başka bir soruyu gündeme getiriyor:

Bu çağrı yalnızca kamu güvenliği kaygısından mı kaynaklanıyor, yoksa büyük şirketlerin mevcut pazar konumunu korumasına da hizmet edebilir mi?

Ağır güvenlik testleri, yüksek hesaplama maliyetleri ve karmaşık izin süreçleri, büyük şirketler için karşılanabilirken küçük girişimler için pazara giriş engeline dönüşebilir. Bu ihtimal, ekonomi ve düzenleme tartışmalarında düzenleyici ele geçirme veya düzenleyici kapan kavramlarıyla ele alınır: Yerleşik şirketler, kamu yararı için getirilen kuralları rakiplerin pazara girmesini zorlaştıracak biçimde etkileyebilir.

Ancak böyle bir ihtimalin bulunması, bildiride dile getirilen güvenlik kaygılarının geçersiz olduğu anlamına gelmez. İki durum aynı anda doğru olabilir:

  • Yapay zekâ gelişiminin denetlenemeyecek kadar hızlanması gerçek bir risk oluşturabilir.
  • Bu riske karşı getirilecek kurallar, kötü tasarlanırsa büyük şirketlerin üstünlüğünü güçlendirebilir.

Bu nedenle düzenleme yalnızca şirketlerle hükümetler arasında hazırlanacak bir anlaşmaya bırakılmamalıdır. Bağımsız araştırmacıların, üniversitelerin, küçük teknoloji şirketlerinin, sivil toplumun ve farklı ülkelerin sürece katılması gerekir.

Dünya Dergisi’nin değerlendirmesi

OpenAI ve Anthropic’in böyle bir çağrıya destek vermesi önemlidir. Çünkü yapay zekâ sektöründe güçlü düzenlemelere mesafeli duran şirketlerin çalışanları da artık uluslararası yönetişim ve ortak fren mekanizmaları hakkında açıkça konuşuyor.

Ancak bir bildirinin imzalanması, yapay zekâ yarışını yönlendiren ekonomik ve siyasi teşvikleri ortadan kaldırmaz.

Şirketler bir taraftan güvenliğin önemini vurgularken diğer taraftan daha güçlü modelleri rakiplerinden önce yayımlamak istiyor. Devletler risklerden söz ederken aynı zamanda teknolojik ve askerî üstünlük yarışını sürdürmek istiyor. Bu çelişki, yalnızca gönüllü taahhütlerle çözülebilecek kadar basit değildir.

Otomatik yapay zekâ araştırması bilimsel keşifleri, yeni ilaçların geliştirilmesini, enerji teknolojilerini ve yazılım üretimini hızlandırabilir. Bu ihtimal göz ardı edilmemelidir.

Fakat ilerleme hızının güvenlik araştırmacılarının, hukuk sistemlerinin ve kamu kurumlarının kapasitesini aşması da küçümsenmemelidir.

Asıl mesele yapay zekâyı durdurmak değildir. Mesele, gelişme hızının insan denetimini geride bırakmamasıdır.

Fren sistemi, otomobil uçuruma yaklaştıktan sonra tasarlanmamalıdır.

Kaynakça

Similar Posts