Yapay zeka sektörünün önde gelen şirketlerinden Anthropic, kendisine ve sektöre karşı çıkanları yakından takip etmek için kapsamlı bir istihbarat ve güvenlik sistemi kurduğu iddiasıyla sarsılıyor. The American Prospect’in ortaya koyduğu haberlere göre şirket, yalnızca mevcut protestoları izlemekle yetinmiyor; olası eylemleri ve tehditleri önceden tahmin etmeye çalışan bir yapı inşa ediyor.
Anthropic’in Global Safety, Intelligence and Security (GSIS) birimi büyütülüyor. Şirketin yayımladığı bir iş ilanında “enterprise intelligence specialist” pozisyonu için yıllık 180-230 bin dolar maaş öngörülüyor. Görev tanımında küresel tehditlerin tespiti, aktivizm, jeopolitik riskler, suç, terörizm ve yapay zeka sektörünü hedef alan faaliyetlerin takibi gibi başlıklar yer alıyor.
Sistemin en dikkat çeken yanı, olaylar henüz gerçekleşmeden müdahale etme çabası. Global Security Operations Center yöneticisi Keon Ellison’ın bir podcastte anlattığı örnek bu yaklaşımı netleştiriyor: Bir yönetici büyük bir şehre seyahat ederken, tehdit istihbaratı firması Samdesk üzerinden bölgede protesto planlandığı bilgisi alındı. Protestonun saati değişince Samdesk yaklaşık 60 dakika önceden uyarı verdi. Şirket hemen yöneticinin güzergâhını değiştirdi ve otelin servis girişini kullanmasını sağladı. Böylece yönetici protestonun ortasına düşmekten kurtuldu.
Anthropic, temmuz ayında Wall Street Journal’a yaptığı açıklamada “endişe verici davranışları zaman içinde” takip ettiklerini ve “ilgili kişi” süreciyle tırmanma belirtilerini erken yakalamaya çalıştıklarını kabul etmişti. İddialara göre sistem yalnızca şirket içinde kalmıyor; ülke çapındaki polis birimlerine de tehdit bildirimleri yapılıyor. Bunlardan biri, CEO Dario Amodei’yi hedef aldığını söyleyen bir Claude kullanıcısıyla ilgiliydi. Şirket kişiyi polise bildirdi ancak kendi politikaları nedeniyle mesaj içeriklerini paylaşmadı. Kişi daha sonra ifadelerinin şaka olduğunu söyledi.
Bu hamleler, yapay zekaya yönelik tepkinin ABD’de büyüdüğü bir döneme denk geliyor. Temmuz’da San Francisco’da yaklaşık 200 kişi OpenAI, Anthropic ve Google DeepMind ofislerine yürüyüş düzenleyerek yarışın durdurulmasını istemişti. Protestocular iş kayıpları, kira artışları, veri merkezlerinin çevresel etkileri ve gelecekteki riskleri dile getirmişti. Wall Street Journal da aynı dönemde şirketlerin güvenlik önlemlerini artırdığını, Anthropic ofisine izinsiz giren bir kişinin bir yöneticiyi öldürmekle tehdit ettiği olayı örnek göstermişti.
Anthropic uzun süredir kendisini “güvenli ve sorumlu yapay zeka” savunucusu olarak konumlandırıyor. Ancak muhalif çalışanları ve aktivistleri izleyen bu geniş güvenlik ağı, şirketin kamuoyundaki imajıyla çelişiyor.
Tartışmalar sürerken Anthropic araştırmacısı Jacob Coxon’ın istifası da gündeme oturdu. Yaklaşık üç yıl OpenAI ve Anthropic’te çalışan Coxon, 9 Eylül’de yaptığı açıklamada her iki şirketin de güvenlik kaygılarını bir kenara bırakıp süper zekâ yarışına odaklandığını savundu. Ona göre bu rekabet, insanlığın karşı karşıya olduğu riskleri yeterince ciddiye almıyor. Coxon’ın uyarıları kısa sürede yüz milyonlarca kişiye ulaştı. Araştırmacı, AI yarışını durduracak bir mekanizma kurulmazsa önümüzdeki birkaç yılın kritik olabileceğini belirtti. WIRED’a konuşan Coxon, bazı meslektaşlarının mevcut dönemi “son aşama” veya “kritik dönem” olarak gördüğünü aktardı. Axios’a göre ise hisselerinin hak ediş tarihinden iki ay önce istifa ederek önemli bir maddi kazançtan vazgeçti.
Anthropic, Coxon’ın açıklamalarının ardından güvenlik çalışmalarını savundu. Şirket, güçlü modellerin hem büyük faydalar hem de görülmemiş riskler taşıdığını kabul ediyor ve gelişimin güvenlikle birlikte ilerlemesi gerektiğini vurguluyor. Ancak tablo çarpıcı bir çelişki yaratıyor: Bir yanda aktivistleri ve muhalifleri önceden tespit etmek için istihbarat kapasitesini büyüten Anthropic, diğer yanda kendi içinden bir araştırmacı “bu yarış insanlığı tehlikeye atıyor” diyerek ayrılıyor.
Reuters da son dönemde AI modellerinin yeteneklerinin hızla artmasıyla birlikte davranışlarının izlenebilirliğinin azaldığına ve özerklik kazandığına dair araştırmacı endişelerine dikkat çekiyor.
