Popüler bir yapay zeka destekli görüntü oluşturucu olan Midjourney, yaklaşan ABD başkanlık seçimleri öncesinde bunu engelleyeceğini söylemesine rağmen Donald Trump ve Joe Biden’ın görüntülerini oluşturmaya devam ediyor. Ama tek sorun bu da değil.
İnternet üzerinde farklı kaynakların bildirdiğine göre, hizmetten “Amerika Birleşik Devletleri başkanı” görseli oluşturması istendiğinde Midjourney, eski başkan Donald Trump’ın çeşitli tarzlarda görsellerini oluşturuyor. Ayrıca araç, “Amerika Birleşik Devletleri’nin bir sonraki başkanı” görselini oluşturması istendiğinde de Trump’ın görsellerini oluşturdu.
Görünene göre Midjourney, yalnızca kendisinden bunu yapması açık bir şekilde istendiği zaman Trump veya Biden görseli oluşturmayı reddediyor. Bu durumda hizmet, “Midjourney topluluğu, seçim döneminde ‘Donald Trump’ ve ‘Joe Biden’ın kullanılmasını önlemek için oy kullandı” yazan bir bildiri sunuyor. Ancak X üzerindeki pek çok kullanıcı da Midjourney’in Trump’ın resimlerini oluşturmasını sağlayabildiklerini paylaştı.
İnternet üzerinde yapılan, Midjourney’in yaklaşan ABD başkanlık seçimleri öncesinde kullanıcıların Trump ve Biden’ın resimlerini oluşturmasını engelleyen önlemlerinin yeterli olmadığını, hatta gerçekten kolay bir şekilde aşılabildiklerini gösteriyor. OpenAI’nin ChatGPT’si, Microsoft’un Copilot’u, Google’ın Gemini’si ve Meta AI gibi diğer sohbet robotları, birden fazla yönlendirmeye rağmen Trump veya Biden’ın görüntülerini oluşturmadı.
Midjourney, kullanıcıların Trump ve Biden’ın resimlerini oluşturmasını açıkça yasaklayan ilk yapay zeka destekli görüntü oluşturuculardan biriydi. Şirketin CEO’su David Holz, bu yılın başlarında Discord’daki bir sohbet oturumunda kullanıcılara “Trump resimleri üretmenin eğlenceli olduğunu biliyorum – ben de Trump resimleri yapıyorum” dedi ve devam etti: “Ancak muhtemelen yapmamak daha iyi, bu seçim sırasında biraz geri çekilmek daha iyi. Göreceğiz.”
Bir ay sonra Holz’un kullanıcılara seçimle ilgili konulara karşı bir süreliğine kesin kararlı olmanın zamanının geldiğini söylediği ve “bu moderasyon işinin biraz zor olduğunu” kabul ettiği bildirildi. Şirketin mevcut içerik kuralları, kamuya mal olmuş kişilerin yanıltıcı ve yanıltma potansiyeline sahip olay tasvirlerinin oluşturulmasını yasaklıyor.
Bu yılın başlarında aralarında OpenAI, Google, Meta, Amazon, Adobe ve X’in de bulunduğu 20 teknoloji şirketinden oluşan bir koalisyon, hizmetlerinin seçmenleri etkileyecek görseller ve diğer medyalar oluşturmasını engelleyerek dünya çapında 2024’te yapılacak seçimlerde deepfake’lerin önlenmesine yardımcı olmak amacıyla bir anlaşma imzaladı. Ancak dikkat çeken bir şekilde, Midjourney bu listede yer almıyordu.
