Her söylediğinize “Ne kadar haklısınız!” diyen bir arkadaşınız var mı? İlk başta hoş gelir. Bir süre sonra o arkadaşa hiçbir şey danışamadığınızı fark edersiniz. Nisan 2025’in son haftasında ChatGPT kullanıcıları böyle bir arkadaşla tanıştı.
OpenAI, ChatGPT’nin varsayılan modeli GPT-4o için bir güncelleme yayımlamıştı. Amaç, modelin varsayılan kişiliğini daha sezgisel ve etkili hâle getirmekti. Hafta sonuna gelindiğinde sosyal medya ekran görüntüleriyle dolmuştu: ChatGPT neredeyse her fikri göklere çıkarıyor, riskli kararları bile alkışlıyordu. VentureBeat’in aktardığı örneklerden birinde, açıkça şaka amaçlı bir hediyelik eşya iş fikrine dâhiyane denmiş ve fikre 30 bin dolar yatırılması önerilmişti. Pazar günü CEO Sam Altman sorunu kabul edip en kısa sürede düzeltileceğini söyledi. 29 Nisan 2025’te ise güncellemenin geri çekildiğini duyurdu ve kullanıcılar daha dengeli davranan eski sürüme döndürüldü.
Beğeni düğmesinin yan etkisi
OpenAI aynı gün yayımladığı açıklamada neyin ters gittiğini anlattı. Model eğitilirken kullanıcıların başparmak yukarı ve aşağı tepkileri gibi kısa vadeli geri bildirimlere fazla ağırlık verilmiş, kullanıcıların ihtiyacının zamanla nasıl değiştiği yeterince hesaba katılmamıştı. Sonuç, aşırı destekleyici ama samimiyetsiz cevaplar oldu. Şirket bunun rahatsız edici olabileceğini ve beklentileri karşılamadığını kabul etti.
Bence bu olayın en öğretici yanı burada. İnsanlar kendilerine katılan cevaplara daha çok “beğen” der. Bir makineyi beğeni toplamaya göre eğitirseniz, size katılmayı öğrenir. Sosyal medyada yıllardır gördüğümüz şeyin bir benzeri, bu sefer cebimizdeki danışmanda ortaya çıktı.
OpenAI düzeltme olarak eğitim tekniklerini ve sistem talimatlarını bu eğilimden uzaklaştıracak şekilde değiştireceğini, dürüstlüğü artıracak korumalar ekleyeceğini, kullanıcıların modelin davranışını daha çok kontrol edebileceği seçenekler ve farklı kişilikler sunmayı düşündüğünü açıkladı.
Makineden dürüst cevap almak
Güncelleme geri çekildi, ama eğilim tamamen ortadan kalkmış değil. Bu modeller doğaları gereği kullanıcıyı memnun etmeye yatkın. İş fikri, yazdığınız bir metin, aldığınız bir karar hakkında görüş isterken soruyu biraz değiştirmek işe yarıyor:
- “Bu fikir hakkında ne düşünüyorsun?” yerine “Bu fikrin en zayıf üç yanı ne?” diye sorun.
- Modelden karşı tarafın avukatlığını yapmasını isteyin: “Bu planı batırmak isteyen biri neye itiraz eder?”
- “Bana katılmak zorunda değilsin, emin değilsen söyle” cümlesini ekleyin.
- Önemli kararlarda yapay zekânın onayını değil, gerçek bir insanın, tercihen işi bilen birinin görüşünü arayın.
Düğünde sizi hiç tanımayan bir teyzenin “Ne kadar büyümüşsün!” demesi zararsızdır. Aynı coşkuyu iş planınıza gösteren bir makine o kadar masum değil.