OpenAI, yapay zekayı denetleyecek yapay zeka geliştirdi

  Yapay zeka alanında adeta yerinde duramayan OpenAI, şimdi de kendi yapay zeka modellerini denetlemek için kolları sıvadı. OpenAI cephesind...

...

 

Yapay zeka alanında adeta yerinde duramayan OpenAI, şimdi de kendi yapay zeka modellerini denetlemek için kolları sıvadı.

OpenAI cephesinden, ‘Dünya nereye gidiyor?’ sorusunu bir kez daha sordurtacak yeni bir yapay zeka haberi geldi. Buna göre şirket, yapay zekanın potansiyel tehlikelerini kontrol altına almak için yapay zeka tabanlı bir çözüm üzerinde çalıştığını duyurdu.

OpenAI’ın bu yeni girişimi sayesinde, yapay zekayı denetlemek için dahi bir insan gücüne gerek kalmayacak günlere yaklaştığımız gözler önüne seriliyor. İşte detaylar…
OpenAI, yapay zeka alanında bir kez daha kendini aşmayı planlıyor

Yapay zeka denince akla ilk gelen firmalardan olmayı başaran OpenAI, adeta yerinde duramıyor. Şirket, yaptığı son açıklamayla, yapay zeka modellerinin insanlarla olan iletişimini denetlemek, varsa hatalarını gidermek ve etik sorunlarını bildirebilmek için farklı bir yapay zeka geliştirdi.




Özellikle GPT-4o gibi gelişmiş ve çok fazla kişiye ulaşan yapay zekalarla çalışırken, denetim mekanizmasının güçleşmesinden yakınan şirket, yeni bir formül üretti. Yine GPT-4 tabanlı olan ve CriticGPT adı verilen yeni yapay zeka modeliyle, ChatGPT’deki hatalar tespit edilebiliyor.

CriticGPT her çalıştırıldığında, sistemdeki bir hatayı bulma konusunda yüzde 60 oranında başarılı olabildiği de tespit edilmiş. Geçmişte DALL-E 2’deki hataların keşfi için Kenya’lı işçilerle, saatliği sadece 2 dolara çalıştığı ortaya çıkan OpenAI böylece masraflarını minimize etmenin farklı bir yolunu daha bulmuş oluyor.

OpenAI’nin bu girişimi, yapay zeka etiği ve denetimi konusundaki tartışmaları yeniden harlayabilir. Yapay zekanın kendi kendini denetlemesi fikri, özellikle çalışabilecek insan gücünün kritik derecede azalmasından endişe edenler için oldukça ilginç bir haber. Bununla birlikte yeni yapay zeka modelinin gelecekteki gelişmeleri nasıl etkileyeceği ise merakla bekleniyor.