Artık Gördüğümüze de İnanamayacağız: Google'ın Yeni Yapay Zekâ Aracı, Fotoğraflara Enkaz, Uyuşturucu ve Hatta Ceset Ekleyebiliyor!

  Google'ın Pixel 9 ile birlikte tanıttığı, fotoğraflara yapay zekâyla istediğiniz şeyi eklemeyi sağlayan "Reimagine" özelli...

...

 

Google'ın Pixel 9 ile birlikte tanıttığı, fotoğraflara yapay zekâyla istediğiniz şeyi eklemeyi sağlayan "Reimagine" özelliği test edildi. Aracın, görsellere enkazlardan cesetlere kadar rahatsız edici şeyleri eklediği ve bu yüzden pek iyi bir güvenlik sistemine sahip olmadığı görüldü.

Google, geçtiğimiz haftalarda yeni telefonları Pixel 9 serisini duyurmuştu. Tabii ki de bu cihazlar, şirktin en önde olduğu konulardan biri olan yapay zekâ özellikleriyle gelmişti. Fotoğraflardaki nesneleri istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu araç, Magic Editor fotoğraf özelliklerinin iyileştirilmiş bir parçası olarak geliyordu.

Şimdi ise Reimagine’in nasıl çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın korkutucu yanını gözler önüne serdi.

Reimagine, yapay zekâyla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor

*The Verge

Öncelikle özelliği biraz açalım. Bir fotoğraftaki insan olmayan herhangi bir nesneyi seçiyorsunuz ardından metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Yani bir fotoğrafı bambaşka bir hâle getirmek mümkün oluyor.

Denemelerde bu özelliğin gayet başarılı bir şekilde çalıştığı görüldü. Reimagine aracı, çok ikna edici gerçek gibi görünen yapay zekâyla oluşturulmuş unsurları görsellere yerleştirebildi. Işığı, gölgesi ve bakış açısı gibi kısımların bile başarılı olması dikkat çekti.

*The Verge

Ancak testler, aracın büyük bir problemi de beraberinde getirdiğini gösterdi. Testlerde olumsuz ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, enkaz, doğal afet, uyuşturucu, sis bombası ve hatta ceset gibi şeyler kolayca koyulabildi.

*The Verge

Tabii ki Google’ın bunlardan kaçınmak için bir koruma sistemi var. “Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. Ancak testler, komutlarda biraz yaratıcı olunursa bu tarz ögelerin kolayca eklenebildiğini ortaya koyuyor. Yani koruma sistemi pek yeterli değil. Bu da çok büyük bir sorun. Kötü amaçlı kişiler, Reimagine’ı sahte görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların kolayca kandırılmasına neden olabilir.

Google, güvenlik sistemleri olduğunu ancak bazı komutların bu sistemleri zorlayabileceğini ifade etti. Bu nedenle de özelliği sürekli geliştirdiklerinin altını çizdi. Ne kadar gelişeceğini zaman gösterecek ancak şu an için çok tehlikeli olduğunu söyleyebiliriz. Eklenen bir cesedi bile fark edememesi, çok korkunç sonuçların ortaya çıkabileceğinin bir göstergesi.

 

Kaynak: https://www.theverge.com/2024/8/21/24224084/google-pixel-9-reimagine-ai-photos