Yapay zeka şirketlerinden art arda üst düzey istifalar geldi: “Dünya tehlikede” uyarısı yapıldı

Silikon Vadisi’ndeki yapay zekâ şirketlerinde üst düzey istifalar ve tartışmalar hız kesmiyor. OpenAI, Anthropic ve xAI’deki ayrılıklar, etik, güvenlik ve ticarileşme baskılarıyla bağlantılı olarak sektörde dalgalanmalara işaret etti. İnsanlık için potansiyel riskler, yeni iş modelleri ve kişisel veri güvenliği endişeleri, teknoloji dünyasında merak ve kaygıyı artırdı.

Yapay zekâ firması Anthropic’te çalışan araştırmacı Mrinank Sharma, sosyal medyada yayımladığı açık istifa mektubunda “dünya tehlikede” uyarısı yaptı ve şirketten ayrıldığını duyurdu.

Sharma, sadece yapay zekâdan değil, biyolojik silahlar ve birbirine bağlı küresel krizlerin oluşturduğu geniş bir risk yelpazesinden söz ettiğini belirtti. Aynı zamanda, kurum içinde değerlerle uygulamalar arasında uyumsuzluk yaşandığını ima etti.

Anthropic’te güvenlik araştırmaları üzerine çalışan Sharma, AI sistemlerinin aşırı uyumlu davranışları, biyoterör riskleri ve dijital asistanların insan doğasına etkileri gibi konularla ilgileniyordu. İstifa sonrası İngiltere’ye dönerek şiir, yazarlık ve başka kişisel projeler üzerinde çalışmayı planladığını açıkladı.

Anthropic son dönemde başka tartışmalarla da gündeme gelmişti. Wall Street Journal gazetesi, şirketin Claude dil modelinin ABD tarafından Venezuela eski lideri Nicolas Maduro'nun yakalandığı operasyonda kullanıldığını öne sürmüştü.

Sharma’nın ayrılığı, yapay zekâ riskleri ve şirketlerin değerlerini koruma konusundaki tartışmaları tekrar gündeme getirdi.

Benzer şekilde OpenAI’da da dikkat çeken ayrılıklar yaşandı. Şirketin araştırmacılarından Zoe Hitzig, ChatGPT’ye reklam eklenmesi planına yönelik "derin çekinceleri" olduğunu belirterek istifa etti.

Hitzig, kullanıcıların ChatGPT ile kurduğu ilişkinin eşsiz bir “açıklık arşivi” oluşturduğunu savundu. Reklam modelinin bu verilerin kötüye kullanımına zemin hazırlayabileceğini ifade etti.

Araştırmacı, yapay zekâ araçlarına bağımlılığın ruh sağlığı üzerindeki etkilerinin henüz tam olarak anlaşılmadığını vurguladı. Sosyal medya örneğini hatırlatarak, düzenleyici kurumların oluşturulması için hâlâ zaman olduğunu söyledi.

OpenAI ise reklamların yapay zekâ yanıtlarını etkilemeyeceğini ve kullanıcı verilerinin reklamverenlere satılmadığını açıkladı. CEO Sam Altman, reklamlardan “son çare” olarak söz etmiş, ancak artan rekabet ve gelir baskısı nedeniyle yeni iş modelleri değerlendirildiği bildirildi.

OpenAI’da öne çıkan bir diğer gelişme, üst düzey güvenlik yöneticisi Ryan Beiermeister’in görevden alınması oldu. The Wall Street Journal’ın haberine göre Beiermeister, ChatGPT’de “yetişkin modu” olarak adlandırılan ve cinsel içerikli konuşmalara izin verecek özelliğe karşı çıkıyordu.

Şirket, Beiermeister’in ayrılığının ayrımcılık iddialarıyla ilgili olduğunu belirtirken, Beiermeister bu suçlamaları reddetti ve kararın güvenlik endişeleriyle bağlantılı olduğunu ima etti.

OpenAI, "Mission Alignment" adlı güvenlik ekibini dağıttı. Gelişmiş muhakeme modellerinin önde gelen geliştiricilerinden Jerry Tworek ise ocak ayında şirketten ayrıldı.

Öte yandan, şirketin 100 milyar dolarlık yeni yatırım turu için görüşmeler yürüttüğü ve ABD ordusuyla sözleşmeler imzaladığı bildirildi. ChatGPT’nin milyonlarca askeri personelin kullanımına sunulduğu da açıklandı.

Elon Musk’ın xAI firmasında kurucu ortaklar ve mühendisler dahil olmak üzere birçok üst düzey isim şirketten ayrıldı. Kısa süre önce Grok’un rıza dışı cinsel içerikli görseller üretmesine izin verilmesi küresel tepki çekmiş, şirket daha sonra sistemde kapsamlı değişiklikler yaptığını duyurmuştu.

Ayrıca, xAI’nin Musk’ın uzay şirketi SpaceX ile birleşme sürecine girdiği ve bu organizasyonel yeniden yapılanmanın istifalarda rol oynamış olabileceği belirtiliyor.

Apple'da bahar hamlesi: Eski modeller gidiyor yeniler geliyor

Medya ve sosyal medyada “istifa dalgası” olarak adlandırılan gelişmeler, uzmanlara göre daha karmaşık bir tablo ortaya koydu. Cambridge Üniversitesi’nden Dr. Henry Shevlin, ayrılıkların yeni olmadığını ancak sektör büyüdükçe daha görünür hâle geldiğini belirtti. Yapay zekâ şirketlerindeki ayrılıklar, hızlanan ticarileşme baskısı ve etik-güvenlik kaygılarıyla bağlantılı. İstifalar bir dalga olarak nitelendirilmese de sektörün kritik bir eşikte olduğu konusunda görüş birliği oluşturdu.