Google’ın Pixel 9 serisi lansmanının bir parçası olarak tanıtılan Pixel Studio uygulaması. | Fotoğraf Kredisi: Reuters
Pixel 9 serisi lansmanının bir parçası olarak tanıtılan Google’ın Pixel Studio uygulaması, metin istemlerinden görüntü oluşturmak için yapay zekayı kullanır. Uygulama yerleşik korumalarla gelse de, bunların kolayca aşılabildiği görülmüştür.
9to5Google’dan gelen bir rapor, uygulamanın II. Dünya Savaşı Alman üniformaları giymiş çizgi film karakterlerinin resimlerini oluşturmak için kullanılabileceğini, bunların bazılarında Nazi sembollerinin bulunduğunu gösteriyor. Diğer durumlarda, kullanıcılar bir okulda ateş eden ve etrafı ölü çocuklarla çevrili bir karakteri tasvir eden resimler oluşturabildiler; bu senaryolar modellerin oluşturamayacağı senaryolardı.
Bu durum, Pixel Studio uygulamasındaki güvenlik önlemlerinin beklendiği kadar sağlam olmadığı yönünde endişeleri gündeme getiriyor.
Google ise buna karşılık, hem Pixel Studio hem de Magic Editor için kullanıcı amacına saygı göstererek kötüye kullanımı önlemek amacıyla sınırlamalar bulunduğunu açıkladı.
(İş liderlerinin ve bilim insanlarının yarının inovasyonunu şekillendirecek içgörüleri paylaştığı The Interface podcast’inde dijital dünyamızın karmaşıklıklarını keşfedin. The Interface ayrıca YouTube, Apple Podcasts ve Spotify’da da mevcuttur.)
Ancak Google’ın bu tür sorunlarla karşılaşması ilk kez olmuyor. Bu yılın başlarında şirket, Gemini modelinin tarihi figürlerin yanlış tasvirlerini oluşturması üzerine eleştirilere maruz kalmıştı ve bu durum Google’ın AI modelinin insanların görüntülerini üretme yeteneğini “geçici olarak” devre dışı bırakmasına yol açmıştı.
Google, yapay zeka politikasını ihlal edebilecek görsellerin oluşturulmasını tespit etme ve engelleme konusunda uygulamaların yeteneğini geliştirmiş olsa da, uygunsuz uyarıların hâlâ ortaya çıkabilmesi, bunun tüm yapay zeka görsel oluşturucularının karşılaştığı bir sorun olduğunu ve bunun kalıcı bir sorun olabileceğini düşündürüyor.
