Google CEO su Pichai: Yapay zekaya körlemesine güvenmeyin

Alphabet CEO'su Sundar Pichai, BBC'ye verdiği özel röportajda, Yapay Zeka (YZ) araçlarının güvenilirliği hakkında önemli açıklamalarda bulundu. Pichai, mevcut YZ modellerinin "hatalara eğilimli" olduğunu ve bu nedenle insanların bu araçları kullanırken başka kaynakları da kullanmaları gerektiğini vurguladı. Pichai'ye göre bu durum, yalnızca YZ teknolojisine bel bağlamak yerine, zengin bir bilgi ekosistemine sahip olmanın önemini bir kez daha gösteriyor.

Pichai, YZ araçlarının yaratıcı yazma gibi konularda yararlı olduğunu kabul etmekle birlikte, insanların bu araçların iyi olduğu alanları öğrenmeleri ve "söylediği her şeye körü körüne güvenmemeleri" gerektiğini ifade etti.

Ancak bazı uzmanlar, Google gibi büyük teknoloji firmalarının, doğrulama yükümlülüğünü kullanıcılara bırakmak yerine, sistemlerini daha güvenilir hale getirmeye odaklanması gerektiği görüşünde.

Queen Mary Üniversitesi'nden Sorumlu Yapay Zeka Profesörü Gina Neff, "Bu sistemlerin yanıt uydurduğunu ve bunu bizi memnun etmek için yaptıklarını biliyoruz; bu da bir sorun," dedi. Neff, YZ'ye "hastalık, akıl sağlığı veya haberler hakkında hassas sorular" sorulmasının, ondan "hangi filmi izlemeliyim" diye sormaktan tamamen farklı olduğunu belirtti.

Neff, eleştirisini sertleştirerek, Google'ın YZ ürünlerinin doğruluğu konusunda daha fazla sorumluluk alması gerektiğini savunarak, "Şirket şu anda okulu yakarken kendi sınav kağıdını işaretlemeyi talep ediyor," ifadesini kullandı.

Pichai'nin bu yorumları, Google'ın yakın zamanda piyasaya sürdüğü ve ChatGPT'den pazar payı geri almaya başlayan tüketici YZ modeli Gemini 3.0 lansmanını takiben geldi. Google, Mayıs ayından itibaren arama motoruna, Gemini sohbet robotunu entegre eden ve kullanıcıya uzmanla konuşma deneyimi yaşatmayı hedefleyen yeni bir "YZ Modu" sunmaya başlamıştı.

Pichai, bu entegrasyonun "YZ platform kaymasının yeni bir aşamasına" işaret ettiğini söylemişti. Bu hamle, aynı zamanda ChatGPT gibi rakiplerin Google'ın çevrimiçi arama dominasyonunu tehdit etmesine karşı rekabet gücünü koruma çabasının bir parçası.

Önceki BBC araştırmaları da YZ sohbet robotlarının haber özetlerini hatalı bir şekilde sunduğunu ortaya koymuştu; bu da Pichai'nin uyarılarını destekler nitelikte.