Facebook mühendisleri Yapay zeka botların fişini neden çekti?

Facebook’un üzerinde çalıştığı Yapay zeka botları kendi dilini geliştirince, bootların kontrolden çıkmaması için Facebook mühendisleri f...

...

Facebook’un üzerinde çalıştığı Yapay zeka botları kendi dilini geliştirince, bootların kontrolden çıkmaması için Facebook mühendisleri fişi çekmek zorunda kaldı.

Yapay zeka, onlarca farklı alanda insanlığa faydalı olabilmesi için geliştirilmeye devam ederken, diğer bir yandan korkuların yersiz olabileceğini ispatlayan senaryolar yaşatabiliyor. Facebook’un mühendisleri, senaryolardan birinin nasıl olabileceğini çok kısa bir süre önce canlı yaşayıp bilgi edindiler.

Facebook mühendisleri, yapay botların kendi aralarında iletişim kurabilmek için geliştirdiği dili anlayamayıp, çözemediklerinden dolayı; yapay zeka birimindeki bir bölüm çalışmasının fişini çekmek zorunda kaldılar.

Paylaşılan bilgiye göre, birbiriyle İngilizce konuşabilmek üzere programlanan yapay zeka botları bir süre sonra insanlara anlamsız gelen cümleler kurmaya başlıyormuş;

– “I can can I I everything else”

– “Balls have zero to me to me to me to me to me to me to me to me to”


Botlar arasında gönderilmeye başlanan bu anlamsız mesajlar insanlar tarafından anlaşılamasa da Facebook mühendisleri, bu yazışmaları botların gayet iyi anlayabildiğini fark edebiliyor. 

Bu durum karşısında ne yapacağını şaşıran mühendisler ise, çareyi sistemin fişini çekmekte buluyorlar. Tabiy ki her zaman olduğu gibi insanoğlunun fiş çekmesi en basit yollardan biri olmuştur.
Botlar kendi aralarında daha efektif bir iletişim yöntemi buldular

Bilgisayar sistemlerinin (bu olayda yapay zeka botlarının) kendi aralarında kullandıkları dili çözmek ve anlamak imkansız değil. Asıl problem, kullanılan dili kontrol altına alabilmek. Botların programlandıkları dile bağlı kalmadan, muhtemelen kendilerine daha efektif gelen yeni bir iletişim yöntemi geliştirmesi ve onu kullanması onlar için daha iyi bir seçenek gibi gelmiş olmalı. Her ne kadar korkutucu olsa da bir o kadar da etkileyici olduğunu söylemeliyiz.

Şunu not etmek de faydalı olabilir. Olayın farklı haber kaynaklarında yer almasından sonra Gizmodo, Facebook’un yapay zeka botlarının kendi dillerini geliştirdiğini inkar eden bir haber yayınladı. Buna göre Facebook’un hatası birbiriyle konuşmasını istediği bu botları, insanların anlayabileceği İngilizce kurallar çerçevesinde konuşmak üzere sınırlamamış olmalarıydı. Yine de haber robotların kendi arasında bir kısa yol geliştirme çabasına girdiğini doğruluyor. Örneğin botlar iki kere “Ben” öznesini kullandığında aynı şeyin iki kez gerçekleşmiş olduğunu anlatmaya çalışıyor.

Mark Zuckerberg, yapay zekanın önemli savunucularından ve geliştiricilerinden. Geçtiğimiz günlerde yine yapay zeka alanında çok önemli çalışmaları bulunan ve bu durumdan bir o kadar da korkan Elon Musk ile fikir ayrılığı da yaşamışlardı. Elon Musk’ın bu haberler karşısında yorumunu bir tweet ile aktarması bekleniyor. Mark Zuckerberg’in de bu olaydan sonra tekrar düşünmesi gerekiyor. Korkmalı mıyız?