Teknoloji şirketinden uyarı: Yapay zekanın bir fren pedalına ihtiyacı var

BBC'ye konuşan Clark, "Ayağınızı gazdan çekip frene basma seçeneğine sahip olmak istersiniz. Şu anda yapay zeka endüstrisinin bir gaz pedalı var ancak fren pedalı yok." ifadelerini kullandı.

İnsanların, hükümet politikaları aracılığıyla, giderek daha güçlü hale gelecek ve toplum üzerinde daha geniş etkiler yaratacak olan yapay zeka sistemlerinin kontrolünü elinde tutması gerektiğini vurguladı. Clark, "Dünyanın bu konuda düşünmesi ve nihayetinde bu sistemlere güven duymamızı sağlayacak bazı yeni düzenlemeler geliştirmemiz gerekiyor." dedi.

Anthropic'in popüler sohbet robotu Claude, halihazırda yüzde 80'ini sistemin kendisinin yazdığı bir kod tabanıyla çalışıyor. Clark, bu oranın iki yıl içinde yüzde 100'e ulaşmasının mümkün olduğunu ve bunun "çok büyük etkileri olacağını" dile getirdi.

Yapay zeka araştırma ve geliştirmeleri için bir "fren pedalının" nasıl oluşturulabileceğine dair somut bir plan sunmayan Clark, mevcut durumu geçen yüzyılın başındaki petrol patlamasına ve petrol baronları dönemine benzetti.

Clark, "Toplumun buna tepkisi; insanlara petrole ve petrolün dünyaya sağlayabileceği faydalara yönelik güven veren, şirketlerin başındaki kişilerin kişilikleri hakkında endişelenmenize gerek bırakmayan, mantıklı bir politika ve düzenleyici çerçeve ortaya koymak oldu. Burada da açıkça varacağımız yer burasıdır." değerlendirmesinde bulundu.

Buna karşın Anthropic, ABD Başkanı Donald Trump'ın bu hafta şirketlere yönelik nispeten serbestlik tanıyan yapay zeka kararnamesini memnuniyetle karşıladı.

Söz konusu kararname, yapay zeka şirketlerinin hükümet tarafından güvenlik testlerine tabi tutulmasını zorunlu kılmıyor ve bu süreç gönüllülük esasına dayalı bir çaba olarak kalmaya devam ediyor.

Anthropic, OpenAI ve Google dahil olmak üzere teknolojide ilerleme kaydeden büyük yapay zeka şirketleri de kendi araştırmalarını durduracaklarına dair bir açıklama yapmadı.

Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki halka arz edilmeye hazırlanıyor. Özel yatırımcılar tarafından değeri yaklaşık 1 trilyon dolar olarak tahmin edilen şirket, yeni bir yapay zeka firmasının ilk halka arzlarından biri ve tarihin en değerli hisse senedi listelerinden biri olmaya aday görünüyor.

Clark, Anthropic'in yapay zeka teknolojisinin artan kabiliyetlerini kamuoyunda tartışma motivasyonunun, ödeme yapan müşteriler nezdindeki itibarını daha da parlatmak olmadığını söyledi. Amaçlarının sadece, bu sıra dışı teknolojiyle şirketlerin içinde neler gördüklerini dünyaya anlatmak olduğunu belirtti.

Dario Amodei, Clark ve birkaç diğer yönetici tarafından kurulmasından bu yana Anthropic, yapay zekadan kaynaklanan potansiyel riskler konusunda sesini yükselten bir konumda yer alıyor. Şirket, yapay zeka araçlarının Amerikalıların kitlesel olarak gözetlenmesinde ve otonom savaşlarda kullanılacağı endişesiyle ABD Savunma Bakanlığı ile kamuoyuna yansıyan bir anlaşmazlık da yaşadı.

Clark, "Eğer bir toplum olarak yapay zekanın sürekli ilerlemesinin ne anlama geldiği konusunda ciddi bir tartışma yürütmezsek çocuklarım için endişeleniyorum. Potansiyel olarak büyük faydalar var, ancak riskler de mevcut." dedi.

Clark, risklerden birinin ekonomide yaşanacak bir bozulma olduğunu ve rutin görevleri otonom olarak yerine getiren yapay zeka botları gibi "ajan" teknolojilerinin belirli işleri devralmasından korkulduğunu sözlerine ekledi. Büyük teknoloji şirketleri, yapay zeka araçlarının yüzlerce, hatta binlerce yazılım mühendisinin işini yapma yeteneğinin artmasını gerekçe göstererek geçen yıl kitlesel işten çıkarmalar gerçekleştirdi.

Clark, daha yaratıcı olan ve daha iyi fikirlere sahip kişilerin yapay zeka teknolojisine karşı avantajlı olabileceğini ifade etti. Yapay zeka sistemlerinin gerçekten yaratıcı olup olamayacağına dair açık sorular olduğunu ve buna dair henüz bir kanıt bulunmadığını belirten Clark, "Anthropic'te şu an bizi sınırlayan şey, bu fikirleri gerçeğe dönüştürecek mühendisliği yapma becerisinden ziyade, iyi fikirler üretme becerisidir." dedi.

Clark, yapay zeka üzerine kurulu bir ekonomide kendilerine yer olmadığını hisseden gençlere bir hobi edinmelerini ve beşeri bilimler eğitimi almalarını tavsiye etti. Clark, "Yaratıcı olan ve geniş düşünebilenler, çok okuyanlar, ilgi alanları olanlar bu teknolojiden en çok yararlananlar olacak. Merakınızın üzerine gidin, bu teknoloji size karşılığını verecektir." ifadelerini kullandı.