Üretken yapay zeka, sanki bir insan tarafından çekilmiş gibi görünen gerçekçi görüntüler oluşturmayı mümkün kılarak gerçek olanla yapay zeka tarafından üretileni ayırt etmeyi zorlaştırıyor. Sonuç olarak Meta, yanlış bilgilerle mücadeleye yardımcı olmak amacıyla yapay zeka tarafından oluşturulan görüntülerle ilgili çeşitli çabalar gösterdiğini duyurdu.
Salı günü Meta, bir blog yazısı aracılığıyla önümüzdeki aylarda Instagram, Facebook ve Threads’e bir görselin ne zaman yapay zeka tarafından oluşturulduğunu belirten yeni etiketler ekleyeceğini duyurdu.
Meta şu anda içeriğin üretken yapay zeka kullanılarak oluşturulduğunu belirten ortak teknik standartları belirlemek için sektör ortaklarıyla birlikte çalışıyor. Daha sonra Meta, bu sinyalleri kullanarak, platformlarındaki gönderilere tüm dillerde etiketler yayınlayan ve makalenin üst kısmındaki fotoğrafta görüldüğü gibi görüntünün yapay zeka tarafından oluşturulduğunu tanımlayan bir yetenek geliştiriyor.
Meta’nın küresel ilişkilerden sorumlu başkanı Nick Clegg,
“İnsan ve sentetik içerik arasındaki fark bulanıklaştıkça, insanlar sınırın nerede olduğunu bilmek istiyor” dedi. “Dolayısıyla, insanların gördükleri fotogerçekçi içeriğin yapay zeka kullanılarak oluşturulduğunu bilmelerine yardımcı olmamız önemli.”
Bu etiketleme, Eylül ayında piyasaya sürülen ve gerçekçi görüntüler, ses veya yapay zeka tarafından oluşturulan videolar içeren TikTok videolarında görünen, TikTok’un yapay zeka tarafından oluşturulan içerik etiketlerine benzer şekilde çalışacaktır.
Meta, Meta AI’nin fotoğraf oluşturma yetenekleri kullanılarak oluşturulan her görüntüye yerleştirilmiş görünür işaretleyiciler, görünmez filigranlar ve IPTC meta verilerini içerir. Şirket daha sonra bu görselleri yapay olarak oluşturulduğunu belirtmek için “Yapay Zeka Tarafından Hayal Edildi” etiketiyle etiketliyor.
Meta, farklı şirketlerin yapay zeka oluşturucuları tarafından oluşturulan görüntülerde IPTC meta verileri gibi görünmez filigranları tespit edebilen sektör lideri araçlar geliştirdiğini paylaşıyor. Bunlara Google, OpenAI, Microsoft, Adobe, Midjourney ve Shutterstock dahildir ve bu görsellere yapay zeka etiketleri de eklenebilir.
Elbette bu, kötü niyetli aktörler için bir boşluk bırakıyor. Şirket, yapay zeka görüntü oluşturucusuna meta veri ekleme gerekliliğini yerine getirmezse, Meta’nın görüntüyü etiketle etiketlemesinin hiçbir yolu olmayacaktır. Yine de doğru yönde atılmış bir adım gibi görünüyor.
Şirketlerin yapay zeka tarafından oluşturulan görüntülere sinyal ekleme çabalarına rağmen, aynı çaba henüz yapay zeka tarafından oluşturulan video ve ses için de yapılmadı. Bu arada Meta, insanların Meta’nın bir etiket ekleyebilmesi için bir görüntü oluşturmak için yapay zekayı kullandıklarını açıklayabilecekleri bir özellik ekliyor.
Şirket, bir kullanıcının açıklama yapmaması durumunda ceza eklemekle tehdit ederek gönüllü açıklamayı zorunlu kılıyor. Şirket ayrıca, özellikle halkı yanıltma riski yüksek olan görsellere, seslere veya videolara daha belirgin bir etiket ekleme olanağını da elinde tutuyor.
Clegg, “İnsanların, dijital olarak oluşturulmuş veya değiştirilmiş, fotogerçekçi bir video veya gerçekçi ses veren bir sese sahip organik içerik yayınladıklarında bu açıklama ve etiketleme aracını kullanmalarını zorunlu kılacağız ve bunu yapmazlarsa ceza uygulayabiliriz” diye ekledi.
Bu araçların geliştirilmesi, ufukta seçimlerin olduğu özellikle kritik bir döneme denk geliyor. İnandırıcı yanlış bilgi yaratmak her zamankinden daha kolay ve adayların kamuoyunu olumsuz yönde etkileyebilir ve demokratik oy verme sürecini engelleyebilir. Sonuç olarak OpenAI dahil diğer şirketler de seçimler öncesinde korkuluk uygulamak için harekete geçti.
