OpenAI, Kullanıcılardan Yapay Zekâ Sohbet Botlarına "Âşık Olmamalarını" İstedi

 

OpenAI yönetimi, insanların yapay zekâ sohbet botlarını sevmelerini istiyor, âşık olmalarını değil.

Yapay zekâ sohbet botları geliştiren firmalar, bu modellerin mümkün olduğunca insansı davranışlar sergilemesini ve doğal bir sohbet geliştirebilmesini isterler. OpenAI'ın son şirket içi faaliyet raporuna göre firma, ChatGPT-4o'a âşık olunmasını istemiyor. 

OpenAI raporda insanlar ile yapay zekâ sohbet botu arasındaki ilişkilerin nasıl gelişebileceği konusundaki endişelerini dile getirmekten çekinmiyor. OpenAI'ın daha önce blog yazılarında da belirttiği üzere firmanın amacı,  ChatGPT-4o ile konuşurken bir insanla konuşuyormuş gibi hissetmenizi sağlamak. 

İnsanlar ChatGPT-4o'yu insan gibi görmeye başlamış

OpenAI'ın yaptığı çalışmaya göre insanlar, ChatGPT-4o'yu bir insan gibi görmeye başlamış durumda. Erken testler sırasında kullanıcıların modelle bağlantı kurmayı ifade eden bir dil kullandığı ortaya çıktı. Kullanıcılar, "Bugün birlikte son günümüz." gibi ortak bağları ifade eden bir dil kullanmaya başladı.

Bu durum iki nedenden dolayı olası sorunlara işaret ediyor: Birincisi, yapay zekâ insan gibi görülmeye başlandığında insanlar yapay zekâya inanmaya daha yatkın hâle geliyor. İkincisi ise bu durum toplumsal normları bozabilir. OpenAI'a göre bu durum yalnız olan kişilere fayda sağlayabilir ancak sağlıklı ilişkiler kurulmasına da engel olabilir ve diğer ilişkileri bozabilir. Ayrıca OpenAI'a göre bu durum insanların diğer insanlarla da OpenAI ile konuşur gibi konuşmasına neden olabilir. 

Şimdilik OpenAI, insanların chatbotlarıyla nasıl duygusal bağlar kurduğunu izlemeye ve gerekirse sistemlerini ayarlamaya devam edecek. 

Kaynak: https://www.xda-developers.com/dont-fall-in-love-ai-chatbots-openai/