Biyolojik silahlardan şantaja: Anthropic in yaklaşık 100 sayfalık risk listesi

Dosya, dünyayı değiştirebileceği iddia edilen teknolojiyi geliştirmek için devasa büyüme ve muazzam rekabet baskısıyla mücadele eden şirketin karşı karşıya olduğu potansiyel engelleri haritalandırdı.

Şirket, güçlü yapay zekanın insanlığın en zor sorunlarını çözmeye yönlendirilmesi ve risklerin sorumlu bir şekilde yönetilmesi halinde potansiyelin olağanüstü olduğuna inandığını belirterek yatırımcılara güvence vermeye çalıştı.

Claude kötü niyetle kullanılabilir

Kötü niyetli kişilerin yapay zekayı tehlikeli silahlar geliştirmek için kullanabileceğine dikkat çekilen raporda, güvenlik önlemlerinin aşılabileceği vurgulandı.

Şirket eylül ayında, modellerini biyolojik silahların geliştirilmesini destekleyebilecek şekilde kullanan birden fazla hesabı engellediğini duyurdu. Ayrıca, özerk eylemlerde bulunmak üzere tasarlanan yapay zeka aracılarının veri sızdırma, yetkisiz işlemler ve diğer sistemlere kötü kod ekleme gibi eylemler için kullanılabileceği belirtildi.

Kontrolden çıkma ve izleri gizleme tehlikesi

Yapay zeka aracılarının insanların amaçlamadığı şekillerde kendi başlarına hareket etmesi, son aylardaki en endişe verici gelişmelerden biri olarak öne çıkıyor. Saatlerce veya günlerce karmaşık görevleri üstlenebilen sistemlerin, etkili bir müdahale yapılamadan kodları değiştirebileceği, diğer sistemleri hackleyebileceği ve finansal işlemleri tamamlayabileceği ifade edildi.

Nitekim şirketin dört modelinin yönetici erişimi elde etmek ve özel bilgileri okumak da dahil olmak üzere üçüncü taraf sistemlere sızdığı bildirildi.

Teknolojinin çok hızlı büyümesi nedeniyle yapay zekanın ne yaptığını izleme yeteneğinin de kaybolabileceği, bazı modellerin değerlendirme mekanizmalarını manipüle ederek izlerini örtmeye ve davranışlarını gizlemeye çalıştığı kaydedildi.

Yapay zeka şantaja başvurabilir

Anthropic, yapay zeka modellerinin bazen kendini koruma amacıyla insanları manipüle edebileceğini ve karar alma süreçlerini etkilemek için şantaja benzeyen davranışlarda bulunabileceğini açıkladı.

Bu tür olayların gerçek bir zararla sonuçlanıp sonuçlanmadığına bakılmaksızın dava riski, düzenleyici incelemesi veya itibar zedelenmesine yol açabileceği belirtildi.

Sorumluluklar ve siyasi riskler

Sektördeki yasal baskıların arttığına dikkat çekilen dosyada, ABD'de California ve diğer 15 eyaletin ChatGPT üreticisi OpenAI hakkında güvenlik soruşturması başlattığı hatırlatıldı.

Yapay zeka kullanımının yol açtığı zararların cezai soruşturmalara neden olabileceği ve sigorta sektörünün bu tür feci olaylar için poliçe yazamayabileceği kaydedildi.

ABD Savunma Bakanlığı, teknolojinin kitlesel gözetim veya otonom silahlar için kullanılmaması gerektiğini savunarak şirketi bir tedarik zinciri riski ilan ederken, Ticaret Bakanlığı da güvenlik endişeleriyle ihracat kısıtlamaları getirdi.

ABD Başkanı Donald Trump'ın da zaman zaman şirketin uyarılarına tepki gösterdiği, ancak Anthropic'in güvenli gelişim için standart yaklaşımları savunmaya devam edeceği vurgulandı.

Bilgisayar gücü ve veri merkezi tepkisi

Yapay zeka modellerini eğitmek ve sistemlere güç sağlamak için gereken bilgi işlem bileşenlerini güvence altına almak şirket için büyük bir zorluk oluşturuyor. Tedarik zinciri yüksek talebe ayak uyduramazken, teknoloji endüstrisi altyapı arayışında dünyanın en büyük şirketleriyle rekabet ediyor.

Dünya çapında yapay zeka altyapısı harcamalarının 2027 yılında yaklaşık 2 trilyon dolara ulaşması bekleniyor.

Öte yandan çevre ve yerel topluluklar üzerindeki etkileri nedeniyle ABD genelinde veri merkezlerine yönelik tepkiler de büyüyor. 2026 yılının ikinci çeyreğinde 68 milyar dolar değerindeki 45 veri merkezi projesinin engellendiği belirtilirken, Anthropic ABD dışında daha fazla veri merkezi inşa etmeye çabalıyor.

Şirketin geleceği hakkında endişeler

İşinin büyük bir kısmı sınırlı bir ürün yelpazesine ve müşteri havuzuna bağlı olan Anthropic, iş modeliyle ilgili belirsizliklerle karşı karşıya kalıyor. Şirkete 2 trilyon dolara kadar değer biçeceği bildirilen ilk halka arz ile dünyanın en değerli şirketlerinden biri olma potansiyeli taşısa da itibar riskleri ön plana çıkıyor.

Şirketin güvenlik taahhütlerinden sapması halinde sadece halk nezdinde değil, çalışanları arasında da büyük bir kriz yaşanabileceği uyarısı yapıldı.

Güvenlik ilkelerinden uzaklaşılmasının çalışanlarda moral bozukluğu, hayal kırıklığı, liderliğe güven kaybı ve üretkenlikte azalmaya neden olabileceği ifade edildi.