Geçtiğimiz ay İsviçre'nin Davos kentinde düzenlenen Dünya Ekonomik Forumu'nda Meta'nın küresel ilişkiler başkanı Nick Clegg, yapay olarak oluşturulmuş içeriği tespit etmeye yönelik yeni çabaların bugün teknoloji endüstrisinin karşı karşıya olduğu “en acil görev” olduğunu söyledi.
Salı günü Bay Clegg bir çözüm önerdi. Meta, bunun sektördeki şirketlerin fotoğraf, video ve ses materyallerindeki içeriğin yapay zeka kullanılarak oluşturulduğunu işaret edecek işaretleyicileri tespit etmek için kullanabileceği teknolojik standartları destekleyeceğini söyledi.
Standartlar, sosyal medya şirketlerinin platformlarında yayınlanan yapay zeka tarafından oluşturulan içeriği hızlı bir şekilde tanımlamasına ve bu materyale bir etiket eklemesine olanak tanıyabilir. Standartlar geniş çapta benimsenirse Google, OpenAI ve Microsoft, Adobe, Midjourney gibi şirketlerin ve insanların hızlı ve kolay bir şekilde yapay gönderiler oluşturmasına yardımcı olacak araçlar sunan diğer şirketlerin yapay zeka tarafından oluşturulan içeriğinin belirlenmesine yardımcı olabilir.
Bay Clegg bir röportajında ”Bu mükemmel bir cevap olmasa da mükemmelin iyinin düşmanı olmasına izin vermek istemedik” dedi.
Bu çabanın, sektördeki şirketlerin yapay içeriği tespit etme ve işaretleme standartlarını benimsemeleri ve böylece herkesin tespit etmesini kolaylaştırması için bir çağrı olmasını umduğunu da sözlerine ekledi.
Amerika Birleşik Devletleri başkanlık seçim yılına girerken sektör gözlemcileri yapay zeka araçlarının sahte içerik yayınlamak ve seçmenleri yanlış bilgilendirmek için yaygın şekilde kullanılmasını bekliyor. Geçtiğimiz yıl boyunca insanlar, Başkan Biden'ın yanlış veya tahrik edici açıklamalar yaptığı sahte videolar oluşturmak ve dağıtmak için yapay zekayı kullandı. New Hampshire başsavcılığı ayrıca, görünüşe göre Bay Biden'ın yapay zeka tarafından üretilen ve yakın zamanda yapılan bir ön seçimde insanları oy kullanmamaya çağıran bir sesini kullanan bir dizi otomatik aramayı da araştırıyor.
Hawaii Demokratı Senatörler Brian Schatz ve Louisiana Cumhuriyetçisi John Kennedy, geçtiğimiz Ekim ayında şirketlerin yapay olarak oluşturulmuş içerikleri ifşa etmesini ve etiketlemesini ve Meta'nınkine benzer standartlar oluşturmak veya kullanmak için birlikte çalışmasını gerektiren bir yasa teklifinde bulundu.
Facebook, Instagram, WhatsApp ve Messenger'ı içeren Meta, tüketicilerin yapay zeka araçlarını yaygın şekilde benimsemesini sağlayacak teknolojiler geliştirmesi ve aynı zamanda yapay zekayı destekleyen dünyanın en büyük sosyal ağı olması nedeniyle benzersiz bir konumdadır. üretilen içeriği dağıtabilir. Bay Clegg, Meta'nın pozisyonunun kendisine sorunun hem üretim hem de dağıtım yönlerine ilişkin özel bir bakış açısı kazandırdığını söyledi.
Meta, IPTC ve C2PA standartları adı verilen bir dizi teknolojik spesifikasyona odaklanmaktadır. Bu, içeriğin meta verilerinde dijital ortamın orijinal olup olmadığını gösteren bilgidir. Meta veriler, dijital içeriğe gömülü olan ve o içeriğin teknik açıklamasını sağlayan temel bilgilerdir. Her iki standart da haber kuruluşları ve fotoğrafçılar tarafından fotoğraf veya videoları tanımlamak için zaten yaygın olarak kullanılıyor.
Photoshop düzenleme yazılımının üreticisi Adobe ve diğer bazı teknoloji ve medya şirketleri, C2PA standardını tanıtmak için yıllardır rakipleriyle lobi faaliyetleri yürütüyor ve İçerik Orijinallik Girişimi'ni kurdu. Kuruluşa göre girişim, aralarında Haber'ın da bulunduğu düzinelerce şirket arasında yanlış bilgilendirmeyle mücadele etmek ve “fotoğraflardan, videolara ve belgelere kadar her türlü dijital içeriğe kurcalamaya dayanıklı bir kaynak katmanı eklemek” için yapılan bir ortaklıktır.
Yapay zeka oluşturma araçları sunan şirketler, oluşturulmasına yardımcı oldukları videoların, fotoğrafların veya ses dosyalarının meta verilerine standartları dahil edebilir. Bu, Facebook, X (eski adıyla Twitter) ve YouTube gibi sosyal ağlara, bu tür içeriklerin platformlarına yüklendiğinde yapay olduğu sinyalini verecektir. Bu şirketler de bu gönderilerin, bunları sosyal medyada görüntüleyen kullanıcıları bilgilendirmek için yapay zeka tarafından oluşturulduğunu belirten etiketler ekleyebilir.
Meta ve diğerleri ayrıca AI içeriği yayınlayan kullanıcıların, bunu şirketlerin uygulamalarına yüklerken bunu yapıp yapmadıklarını etiketlemelerini gerektirir. Uyulmaması durumunda cezalar uygulanacaktır. Ancak şirketler bu cezaların ne kadar yüksek olabileceği konusunda ayrıntılı bilgi vermedi.
Bay Clegg ayrıca, şirketin dijital olarak oluşturulmuş veya değiştirilmiş bir gönderinin “önemli bir konuda halkı maddi olarak yanıltma konusunda özellikle yüksek risk taşıdığını” tespit etmesi durumunda Meta'nın, halkı daha fazla bilgilendirmek için gönderiye daha dikkat çekici bir etiket ekleyebileceğini söyledi. kökenleri hakkında bilgi ve bağlam sağlayın.
Yapay zeka teknolojisi hızla gelişiyor ve araştırmacıları sahte çevrimiçi içeriği tespit edecek araçların geliştirilmesine ayak uydurmaya teşvik ediyor. Meta, TikTok ve OpenAI gibi şirketler bu tür içerikleri tespit etmek için yöntemler geliştirmiş olsa da teknoloji uzmanları bu araçları atlatmanın yollarını hızla buldu. İnsan yapımı video ve seslerin tespit edilmesinin yapay zeka fotoğraflarından çok daha zor olduğu kanıtlanmıştır.
(Haberler Şirketi, yapay zeka sistemlerini eğitmek için Times makalelerinin kullanılması yoluyla telif hakkı ihlali nedeniyle OpenAI ve Microsoft'a dava açıyor.)
Bay Clegg, “Kötü aktörler her zaman uygulamaya koyduğumuz standartları aşmaya çalışacaktır” dedi. Teknolojiyi sektör için hem “kılıç hem de kalkan” olarak nitelendirdi.
Bu zorluğun bir kısmı teknoloji şirketlerinin parçalı yaklaşımından kaynaklanmaktadır. Geçtiğimiz sonbaharda TikTok, kullanıcılarının yükledikleri video veya fotoğraflara yapay zeka kullanılarak etiket eklemelerini zorunlu kılacak yeni bir politikayı duyurdu. YouTube, Kasım ayında benzer bir girişimin duyurusunu yapmıştı.
Meta'nın yeni önerisi bu çabalardan bazılarını birleştirmeyi amaçlıyor. Yapay Zeka Ortaklığı gibi diğer sektör çabaları, benzer çözümleri tartışmak üzere düzinelerce şirketi bir araya getirdi.
Bay Clegg, özellikle başkanlık seçimleri ışığında daha fazla şirketin standarda katılmayı kabul edeceğini umduğunu söyledi.
“Bu seçim yılında, harekete geçmeden önce yapbozun tüm parçalarının bir araya gelmesini beklemenin haklı olmayacağına özellikle inanıyorduk” dedi.
Salı günü Bay Clegg bir çözüm önerdi. Meta, bunun sektördeki şirketlerin fotoğraf, video ve ses materyallerindeki içeriğin yapay zeka kullanılarak oluşturulduğunu işaret edecek işaretleyicileri tespit etmek için kullanabileceği teknolojik standartları destekleyeceğini söyledi.
Standartlar, sosyal medya şirketlerinin platformlarında yayınlanan yapay zeka tarafından oluşturulan içeriği hızlı bir şekilde tanımlamasına ve bu materyale bir etiket eklemesine olanak tanıyabilir. Standartlar geniş çapta benimsenirse Google, OpenAI ve Microsoft, Adobe, Midjourney gibi şirketlerin ve insanların hızlı ve kolay bir şekilde yapay gönderiler oluşturmasına yardımcı olacak araçlar sunan diğer şirketlerin yapay zeka tarafından oluşturulan içeriğinin belirlenmesine yardımcı olabilir.
Bay Clegg bir röportajında ”Bu mükemmel bir cevap olmasa da mükemmelin iyinin düşmanı olmasına izin vermek istemedik” dedi.
Bu çabanın, sektördeki şirketlerin yapay içeriği tespit etme ve işaretleme standartlarını benimsemeleri ve böylece herkesin tespit etmesini kolaylaştırması için bir çağrı olmasını umduğunu da sözlerine ekledi.
Amerika Birleşik Devletleri başkanlık seçim yılına girerken sektör gözlemcileri yapay zeka araçlarının sahte içerik yayınlamak ve seçmenleri yanlış bilgilendirmek için yaygın şekilde kullanılmasını bekliyor. Geçtiğimiz yıl boyunca insanlar, Başkan Biden'ın yanlış veya tahrik edici açıklamalar yaptığı sahte videolar oluşturmak ve dağıtmak için yapay zekayı kullandı. New Hampshire başsavcılığı ayrıca, görünüşe göre Bay Biden'ın yapay zeka tarafından üretilen ve yakın zamanda yapılan bir ön seçimde insanları oy kullanmamaya çağıran bir sesini kullanan bir dizi otomatik aramayı da araştırıyor.
Hawaii Demokratı Senatörler Brian Schatz ve Louisiana Cumhuriyetçisi John Kennedy, geçtiğimiz Ekim ayında şirketlerin yapay olarak oluşturulmuş içerikleri ifşa etmesini ve etiketlemesini ve Meta'nınkine benzer standartlar oluşturmak veya kullanmak için birlikte çalışmasını gerektiren bir yasa teklifinde bulundu.
Facebook, Instagram, WhatsApp ve Messenger'ı içeren Meta, tüketicilerin yapay zeka araçlarını yaygın şekilde benimsemesini sağlayacak teknolojiler geliştirmesi ve aynı zamanda yapay zekayı destekleyen dünyanın en büyük sosyal ağı olması nedeniyle benzersiz bir konumdadır. üretilen içeriği dağıtabilir. Bay Clegg, Meta'nın pozisyonunun kendisine sorunun hem üretim hem de dağıtım yönlerine ilişkin özel bir bakış açısı kazandırdığını söyledi.
Meta, IPTC ve C2PA standartları adı verilen bir dizi teknolojik spesifikasyona odaklanmaktadır. Bu, içeriğin meta verilerinde dijital ortamın orijinal olup olmadığını gösteren bilgidir. Meta veriler, dijital içeriğe gömülü olan ve o içeriğin teknik açıklamasını sağlayan temel bilgilerdir. Her iki standart da haber kuruluşları ve fotoğrafçılar tarafından fotoğraf veya videoları tanımlamak için zaten yaygın olarak kullanılıyor.
Photoshop düzenleme yazılımının üreticisi Adobe ve diğer bazı teknoloji ve medya şirketleri, C2PA standardını tanıtmak için yıllardır rakipleriyle lobi faaliyetleri yürütüyor ve İçerik Orijinallik Girişimi'ni kurdu. Kuruluşa göre girişim, aralarında Haber'ın da bulunduğu düzinelerce şirket arasında yanlış bilgilendirmeyle mücadele etmek ve “fotoğraflardan, videolara ve belgelere kadar her türlü dijital içeriğe kurcalamaya dayanıklı bir kaynak katmanı eklemek” için yapılan bir ortaklıktır.
Yapay zeka oluşturma araçları sunan şirketler, oluşturulmasına yardımcı oldukları videoların, fotoğrafların veya ses dosyalarının meta verilerine standartları dahil edebilir. Bu, Facebook, X (eski adıyla Twitter) ve YouTube gibi sosyal ağlara, bu tür içeriklerin platformlarına yüklendiğinde yapay olduğu sinyalini verecektir. Bu şirketler de bu gönderilerin, bunları sosyal medyada görüntüleyen kullanıcıları bilgilendirmek için yapay zeka tarafından oluşturulduğunu belirten etiketler ekleyebilir.
Meta ve diğerleri ayrıca AI içeriği yayınlayan kullanıcıların, bunu şirketlerin uygulamalarına yüklerken bunu yapıp yapmadıklarını etiketlemelerini gerektirir. Uyulmaması durumunda cezalar uygulanacaktır. Ancak şirketler bu cezaların ne kadar yüksek olabileceği konusunda ayrıntılı bilgi vermedi.
Bay Clegg ayrıca, şirketin dijital olarak oluşturulmuş veya değiştirilmiş bir gönderinin “önemli bir konuda halkı maddi olarak yanıltma konusunda özellikle yüksek risk taşıdığını” tespit etmesi durumunda Meta'nın, halkı daha fazla bilgilendirmek için gönderiye daha dikkat çekici bir etiket ekleyebileceğini söyledi. kökenleri hakkında bilgi ve bağlam sağlayın.
Yapay zeka teknolojisi hızla gelişiyor ve araştırmacıları sahte çevrimiçi içeriği tespit edecek araçların geliştirilmesine ayak uydurmaya teşvik ediyor. Meta, TikTok ve OpenAI gibi şirketler bu tür içerikleri tespit etmek için yöntemler geliştirmiş olsa da teknoloji uzmanları bu araçları atlatmanın yollarını hızla buldu. İnsan yapımı video ve seslerin tespit edilmesinin yapay zeka fotoğraflarından çok daha zor olduğu kanıtlanmıştır.
(Haberler Şirketi, yapay zeka sistemlerini eğitmek için Times makalelerinin kullanılması yoluyla telif hakkı ihlali nedeniyle OpenAI ve Microsoft'a dava açıyor.)
Bay Clegg, “Kötü aktörler her zaman uygulamaya koyduğumuz standartları aşmaya çalışacaktır” dedi. Teknolojiyi sektör için hem “kılıç hem de kalkan” olarak nitelendirdi.
Bu zorluğun bir kısmı teknoloji şirketlerinin parçalı yaklaşımından kaynaklanmaktadır. Geçtiğimiz sonbaharda TikTok, kullanıcılarının yükledikleri video veya fotoğraflara yapay zeka kullanılarak etiket eklemelerini zorunlu kılacak yeni bir politikayı duyurdu. YouTube, Kasım ayında benzer bir girişimin duyurusunu yapmıştı.
Meta'nın yeni önerisi bu çabalardan bazılarını birleştirmeyi amaçlıyor. Yapay Zeka Ortaklığı gibi diğer sektör çabaları, benzer çözümleri tartışmak üzere düzinelerce şirketi bir araya getirdi.
Bay Clegg, özellikle başkanlık seçimleri ışığında daha fazla şirketin standarda katılmayı kabul edeceğini umduğunu söyledi.
“Bu seçim yılında, harekete geçmeden önce yapbozun tüm parçalarının bir araya gelmesini beklemenin haklı olmayacağına özellikle inanıyorduk” dedi.