ChatGPT neden bir anda "dalkavuğa" dönüştü?

Yapay zekâ dünyasında, genelde pazara yön veren şirket bile zaman zaman hata yapabiliyormuş.

Bu gerçeği OpenAI'ın geçtiğimiz hafta ChatGPT'ye getirdiği ve onu "daha cana yakın ve daha az soğuk" kılmayı hedeflediği güncellemesinin "geri tepmesiyle" öğrenmiş olduk.

Anthropic'in Claude sohbet robotu, ChatGPT'ye göre daha insancıl ve yanıtları daha sıcak gelmesiyle övülüyor. OpenAI da, CEO Sam Altman'ın deyimiyle sohbet robotunun "zekâsını ve kişiliğini geliştirdi."

İki gün sonra, Altman tüm kullanıcıların fark ettiği sorunu kabul etti: "GPT-4o'nun son birkaç güncellemesi, kişiliğini dalkavukça ve sinir bozucu bir hâle getirdi ve düzeltmeler üzerinde çalışıyoruz, kimi bugün, kimi bu hafta yayınlanacak. Bundan öğrendiklerimizi bir noktada paylaşabiliriz, ilginç olacak."

Yani, ChatGPT geri bildirim isteyen her soruya inanılmaz derecede gerçek dışı övgülerle karşılık veriyordu. Bu da rahatsız edici şekilde garip ve bir yandan da komikti.

Dün gece itibarı ile, geçtiğimiz hafta yapılan güncelleme tamamen geri alındı.

OpenAI ise bu sorunun kaynağı olarak kısa dönemli geri bildirimlere odaklanmalarını gösterdi. Şirket, kullanıcıların ChatGPT ile uzun dönemli etkileşimlerinin sohbet robotunu nasıl evrimleştiğini görmek yerine, kısa dönemli geri bildirimleri dikkate alarak, GPT-4o'nun aşırı destekleyici ancak dürüstçe gelmeyen yanıtlar vermeye doğru eğildiğini açıkladı.

Kısacası, OpenAI ChatGPT için daha nazik, daha destekleyici bir kişilik geliştirmeye çalıştı, ancak görünen o ki şimdilik bunu başaramadı.