Zihinsel renk körlüğü salgını: Ruhsuz cümleler, ortak fikirler

Araştırmacılar, yapay zeka geliştiricilerinin, büyük dil modelleri (LLM'ler) için eğitim veri kümelerine daha fazla gerçek dünya çeşitliliği eklemeleri gerektiğini, bunun yalnızca insan bilişsel çeşitliliğini korumaya yardımcı olmakla kalmayıp aynı zamanda sohbet robotlarının muhakeme yeteneğini de geliştireceğini söylüyor.

Güney Kaliforniya Üniversitesinden baş yazar ve bilgisayar bilimcisi Jivar Surati, "Bireyler yazma, akıl yürütme ve dünyaya bakış açıları bakımından farklılık gösterir" diyor.

"Bu farklılıklar aynı büyük dil kalıpları aracılığıyla aktarıldığında, farklı dil stilleri, bakış açıları ve akıl yürütme stratejileri homojenleşir. Sonuç olarak kullanıcılar arasında standartlaştırılmış ifadeler ve düşünceler ortaya çıkar" diye ekliyor.

Araştırmacılar, gruplar ve toplumlar içinde bilişsel çeşitliliğin yaratıcılığı ve problem çözme yeteneğini artırdığını söylüyor. Ancak bilim insanlarına göre , milyarlarca insan giderek artan sayıda görev için aynı "bir avuç" yapay zekâ sohbet robotunu kullandıkça, bilişsel çeşitlilik küresel olarak azalıyor .

İnsanlar yazı yazmak için sohbet botlarını kullandıklarında, yazılar aslında üslup özgünlüğünü kaybediyor. Bunun sonucunda, insanlar yarattıkları eser üzerinde daha az sahiplik duygusuna sahip oluyorlar.

Surati, "Endişe verici olan sadece hukuk yüksek lisanslarının insanların yazma veya konuşma biçimini şekillendirmesi değil, aynı zamanda inandırıcı konuşma, doğru bakış açısı veya hatta iyi mantık yürütme olarak kabul edilen şeyleri de incelikli bir şekilde yeniden tanımlamasıdır" diyor.

Ekip, LLM sonuçlarının insan tarafından üretilen yazılara göre daha az çeşitlilik gösterdiğini ve LLM sonuçlarının Batılı, sanayileşmiş, zengin ve demokratik toplumların dilini, değerlerini ve akıl yürütme tarzlarını yansıtma eğiliminde olduğunu gösteren birçok çalışmaya işaret ediyor.

Surati, "LLM'ler, eğitim verilerindeki istatistiksel kalıpları yakalamak ve yeniden üretmek üzere eğitildikleri için, bu veriler genellikle baskın dilleri ve ideolojileri aşırı temsil eder; bu nedenle sonuçları genellikle insan yaşam deneyiminin dar ve çarpıtılmış bir kesitini yansıtır" diyor.

Araştırmacılar, yapılan çalışmaların, bireylerin dil modellerini kullandıklarında genellikle daha ayrıntılı ve daha fazla fikir ürettiklerini, ancak grupların dil modellerini kullandıklarında, kolektif güçlerini birleştirdikleri duruma kıyasla daha az ve daha az yaratıcı fikir ürettiklerini gösterdiğini belirtiyor.

Surati, “İnsanlar doğrudan LLM kullanıcısı olmasalar bile, chatbot onları dolaylı olarak etkileyecektir,” diyor. “Eğer çevremdeki birçok insan belirli bir şekilde düşünüyor ve konuşuyorsa ve ben farklı şeyler yapıyorsam, onlarla aynı çizgide olmaya mecbur hissederim çünkü bu, fikirlerimi ifade etmenin daha güvenilir veya sosyal olarak kabul edilebilir bir yolu gibi görünür.”

Yapılan çalışmalara göre, dilin yanı sıra, LLM ile etkileşimden sonra insanların görüşleri de sohbet robotlarının görüşlerine daha çok yaklaşıyor. Algoritmalar, modellerin akıl yürütme adımlarını adım adım göstermesini gerektiren "düşünceden zincirleme akıl yürütme" gibi doğrusal akıl yürütme biçimlerini tercih ediyor.

Araştırmacılar, bu vurgunun, bazen doğrusal akıl yürütmeden daha etkili olan sezgisel veya soyut akıl yürütme tarzlarının kullanımını azalttığını söylüyor. Ayrıca, doğrusal öğrenme modellerinin insanların beklentilerini değiştirebileceğini ve bunun da kişinin çalışmalarının yönünü incelikli ve fark edilmeden değiştirebileceğini belirtiyorlar.

Surati, "Kullanıcılar, aktif olarak üretim sürecini yönetmek yerine, genellikle modelin önerdiği uzantılara bağlı kalıyor ve kendi uzantılarını oluşturmak yerine 'yeterince iyi' görünen seçenekleri tercih ediyorlar; bu da yavaş yavaş yetkiyi kullanıcıdan modele kaydırıyor" diyor.

Araştırmacılar, yapay zeka geliştiricilerinin dil, bakış açıları ve akıl yürütme çeşitliliğini modellerine bilinçli olarak dahil etmeleri gerektiğini söylüyor. Bu çeşitliliğin rastgele varyasyon eklemek yerine, küresel olarak insanlar arasında var olan çeşitliliğe dayanması gerektiğini vurguluyorlar.

Surati, "Hukuk yüksek lisans programları fikir ve sorunlara daha çeşitli yaklaşımlar sergileseydi, toplumlarımızın kolektif zekasını ve problem çözme yeteneklerini daha iyi desteklerdi" dedi.

"Gelecek nesillerin bilişsel çeşitliliğini ve fikir üretme potansiyelini korumak için, özellikle görevler ve bağlamlar genelinde yaygın kullanımları göz önüne alındığında, yapay zeka modellerinin kendilerini çeşitlendirmemiz ve onlarla etkileşim biçimimizi ayarlamamız gerekiyor " diye sonuçlandırıyor.