Komedyenden pod programcısına dönüşen Joe Rogan’ın “libido artırıcı” bir erkek kahvesi markasını desteklemesi tamamen karakter dışı olmazdı.
Ancak yakın zamanda TikTok’ta dolaşan bir video Bay Rogan ve konuğu Andrew Huberman’ın kahve sattığını gösterdiğinde, bazı keskin gözlü izleyiciler şok oldu – Dr. Huberman.
“Evet, bu sahte,” dedi Dr. Huberman Twitter’da yazdı Kahvenin testosteron artırma potansiyelini hiç yapmadığı halde övüyor gibi göründüğü reklamı gördükten sonra.
Reklam, yapay zeka destekli teknoloji kullanılarak oluşturulan ve sosyal medyada sayısı giderek artan sahte videolar arasında yer aldı. Uzmanlar, Bay Rogan’ın sesinin, ünlülerin seslerini taklit eden AI araçları kullanılarak sentezlenmiş gibi göründüğünü söyledi. doktor Huberman’ın yorumları bağımsız bir röportajdan kopyalandı.
Genellikle derin sahte olarak adlandırılan gerçekçi sahte videolar oluşturmak, bir kişinin yüzünü diğerine aktarmak için gelişmiş yazılımlar gerektiriyordu. Ancak artık bunları oluşturmak için kullanılan araçların çoğu, akıllı telefon uygulamaları aracılığıyla bile ve genellikle çok az para karşılığında veya hiç para ödemeden günlük tüketiciler tarafından kullanılabilir.
Yeni değiştirilmiş videolar – şimdiye kadar çoğunlukla mem yapımcılarının ve pazarlamacıların işi – TikTok ve Twitter gibi sosyal medya sitelerinde viral oldu. Araştırmacılar tarafından bazen ucuz sahte olarak adlandırılan ürettikleri içerik, ünlülerin seslerini klonlayarak, alternatif sese uyması için ağız hareketlerini değiştirerek ve zorlayıcı diyaloglar yazarak çalışır.
Videolar ve bunların arkasındaki erişilebilir teknoloji, bazı AI araştırmacılarının tehlikeleri hakkında endişelenmesine neden oluyor ve sosyal medya şirketlerinin artan dijital sahteciliği denetlemeye istekli olup olmadığı konusunda yeni endişeler doğuruyor.
Dezenformasyon bekçi köpekleri de izleyicileri kandırabilecek veya çevrimiçi ortamda neyin doğru neyin yanlış olduğunu ayırt etmeyi zorlaştırabilecek bir dijital sahte dalga dalgası için hazırlanıyor.
“Ucuz sahte ürünler” teriminin icat edilmesine yardımcı olan Rutgers Üniversitesi’nde kütüphane ve bilgi bilimi yardımcı doçenti Britt Paris, “Fark şu ki, artık herkes bunu yapabiliyor” diyor. “Sadece gelişmiş bilgisayar teknolojisine ve oldukça gelişmiş bilgisayar teknik bilgisine sahip insanlar değil. Bunun yerine, ücretsiz bir uygulama.”
Yanlış bilgi ve gerçek dışı bilgilerin yayılması
Dezenformasyonu araştıran bir araştırma şirketi olan Graphika, geçen yılın sonlarında Çin yanlısı bot hesapları tarafından dağıtılan kurgusal haber spikerlerinin derin sahtekarlıklarını keşfetti ve teknolojinin bilinen ilk örneğinde devlet bağlantılı etki kampanyaları için kullanıldı.
Ancak birkaç yeni araç, benzer teknolojileri günlük internet kullanıcılarına getirerek komedyenlere ve partizanlara kendi zorlayıcı parodilerini yapma gücü veriyor.
Geçen ay Başkan Biden’ın Rusya ile Ukrayna arasında ulusal bir savaş planını açıkladığını gösteren sahte video dolaştı. Video, komplo teorilerini yaymasıyla tanınan sağcı bir etkileyici olan Jack Posobiec’in bir podcast ve canlı yayını olan Human Events Daily’nin arkasındaki ekip tarafından hazırlandı.
Videoyu açıklayan bir bölümde Bay Posobiec, ekibinin videoyu yapay zeka teknolojisi kullanarak oluşturduğunu söyledi. Muhafazakar bir hesap olan The Patriot Oasis’ten videoyla ilgili bir tweet, videonun sahte olduğunu belirtmeden bir son dakika haberi etiketi kullandı. Tweet, sekiz milyondan fazla kez görüntülendi.
Sentezlenmiş seslere sahip video kliplerin çoğu, eski bir Google mühendisi tarafından ortaklaşa kurulan Amerikalı bir start-up olan ElevenLabs’ın teknolojisini kullanıyor gibi görünüyordu. Kasım ayında şirket, sesleri saniyeler içinde çoğaltmak üzere eğitilebilen bir konuşma klonlama aracını tanıttı.
ElevenLabs, geçen ay ırkçı ve komplo içerikli bir mesaj panosu olan 4chan’ın aracı nefret dolu mesajlar yaymak için kullanmasının ardından dikkatleri üzerine çekti. Bir örnekte, 4chan kullanıcıları, aktris Emma Watson’ı taklit eden bilgisayar tarafından üretilmiş bir ses ile Yahudi karşıtı metnin bir ses kaydını oluşturdu. Anakart daha önce 4chan’ın ses teknolojisini kullandığını bildirmişti.
ElevenLabs, Twitter’da bunun olacağını söyledi yeni güvenlik önlemleri getirmekSes klonlamayı ücretli hesaplarla sınırlamak ve yeni bir AI algılama aracı sağlamak gibi. Ancak 4chan kullanıcıları, ElevenLabs tarafından üretilen sese benzeyen demolar yayınlayarak açık kaynak kodunu kullanarak kendi ses klonlama teknolojisi sürümlerini oluşturacaklarını söylediler.
Anonim bir 4chan kullanıcısı, projeyle ilgili bir gönderide “Yaratıcı olabilecek kendi özel yapay zekamıza sahip olmak istiyoruz” diye yazdı.
Bir e-postada ElevenLabs sözcüsü, şirketin sektörde kullanılabilecek evrensel bir algılama sistemi oluşturmak için diğer AI geliştiricileriyle birlikte çalışmak istediğini söyledi.
ElevenLabs’ın aracı veya benzer bir teknoloji kullanılarak oluşturulan, klonlanmış seslerin yer aldığı videolar, son birkaç hafta içinde viral oldu. Sitenin sahibi Elon Musk tarafından Twitter’a gönderilen bir gönderide, Bay Rogan, Bay Musk ve Kanadalı bir erkek hakları aktivisti olan Jordan Peterson arasında geçen küfürlü sahte bir konuşma gösterildi. YouTube’da yayınlanan bir başkasında, Bay Rogan, Kanada Başbakanı Justin Trudeau’nun siyasi skandallarıyla ilgili sahte bir versiyonuyla röportaj yapıyor gibi görünüyordu.
Bay Peterson, sahte videolar hakkında bir tweet’te sesini kullanarak, “Bunun gibi sahte videolar yapmak, zorunlu 10 yıl hapis cezası olan bir ağır suç olmalıdır” dedi. “Bu teknoloji inanılmaz derecede tehlikeli.”
Bir YouTube sözcüsü yaptığı açıklamada, Bay Rogan ve Bay Trudeau’nun videosunun “yeterli bağlam sağladığı” için platformun politikalarını ihlal etmediğini söyledi. (İçerik oluşturucu buna “sahte video” adını vermişti.) Şirket, yanlış bilgilendirme politikasının aldatıcı bir şekilde manipüle edilmiş içeriği yasakladığını söyledi.
Deepfake teknolojisini inceleyen uzmanlar, Bay Rogan ve Dr. Tam araç net olmasa da, Huberman büyük olasılıkla bir ses klonlama programı kullanılarak oluşturuldu. Bay Rogan’ın ses tonu, Dr. Huberman, testosteronla ilgili olduğunu ekledi.
Sonuçlar mükemmel değil. Bay Rogan’ın klibi, profesyonel bir bilardo oyuncusu olan Fedor Gorst ile Aralık ayında yayınlanan bağımsız bir röportajdan alınmıştır. Bay Rogan’ın ağız hareketleri sese uymuyor ve sesi zaman zaman doğal gelmiyor. Videonun TikTok kullanıcılarının beğenisini kazanıp kazanmadığını söylemek zor: Şaşırtıcı derecede sahte olduğu bildirildikten sonra çok daha fazla ilgi topladı.
TikTok’un politikaları, “olayların gerçekliğini çarpıtarak kullanıcıları yanıltan ve videonun konusuna, diğer kişilere veya topluma önemli zararlar veren” dijital sahtekarlıkları yasaklar. Videolardan bazıları, Haberler tarafından şirkete bildirildikten sonra kaldırıldı. Twitter da bazı videoları kaldırdı.
Bir TikTok sözcüsü, şirketin “manipüle edilmiş videoları tespit etmek ve kaldırmak için teknoloji ve insan denetiminin bir kombinasyonunu kullandığını” söyledi, ancak yöntemleri hakkında ayrıntılı bilgi vermeyi reddetti.
Bay Rogan ve sahte reklamda yer alan şirket, yorum taleplerine yanıt vermedi.
Meta ve Twitch dahil olmak üzere birçok sosyal medya şirketi, kullanıcıları aldatan derin sahte ve manipüle edilmiş videoları yasakladı. Facebook ve Instagram’ın sahibi olan Meta, 2021’de derin sahtekarlıkları tanımlayabilen programlar geliştirmek için bir yarışma düzenledi ve sonuçta onları yüzde 83 oranında tespit edebilen bir araç ortaya çıktı.
Federal yetkililer yanıt vermekte yavaş kaldı. 2019 tarihli bir federal yasa, deepfake’lerin yabancı ülkelerde silahlandırılması hakkında bir rapor gerektirdi, devlet kurumlarının deepfake’ler ABD seçimlerini hedef aldığında Kongre’yi bilgilendirmesini zorunlu tuttu ve deepfake’leri tespit edebilecek araçlara yönelik araştırmayı teşvik etmek için bir ödül yarattı.
Pittsburgh Üniversitesi’nde İşbirlikçi Yapay Zeka Sorumluluğu Laboratuvarı’na liderlik eden doktora sonrası araştırmacı Ravit Dotan, “Yasanın geçmesi için iki yıl bekleyemeyiz” dedi. “O zamana kadar, hasar çok büyük olabilir. ABD’de yaklaşan bir seçim var. Bu bir sorun olacak.”
Ancak yakın zamanda TikTok’ta dolaşan bir video Bay Rogan ve konuğu Andrew Huberman’ın kahve sattığını gösterdiğinde, bazı keskin gözlü izleyiciler şok oldu – Dr. Huberman.
“Evet, bu sahte,” dedi Dr. Huberman Twitter’da yazdı Kahvenin testosteron artırma potansiyelini hiç yapmadığı halde övüyor gibi göründüğü reklamı gördükten sonra.
Reklam, yapay zeka destekli teknoloji kullanılarak oluşturulan ve sosyal medyada sayısı giderek artan sahte videolar arasında yer aldı. Uzmanlar, Bay Rogan’ın sesinin, ünlülerin seslerini taklit eden AI araçları kullanılarak sentezlenmiş gibi göründüğünü söyledi. doktor Huberman’ın yorumları bağımsız bir röportajdan kopyalandı.
Genellikle derin sahte olarak adlandırılan gerçekçi sahte videolar oluşturmak, bir kişinin yüzünü diğerine aktarmak için gelişmiş yazılımlar gerektiriyordu. Ancak artık bunları oluşturmak için kullanılan araçların çoğu, akıllı telefon uygulamaları aracılığıyla bile ve genellikle çok az para karşılığında veya hiç para ödemeden günlük tüketiciler tarafından kullanılabilir.
Yeni değiştirilmiş videolar – şimdiye kadar çoğunlukla mem yapımcılarının ve pazarlamacıların işi – TikTok ve Twitter gibi sosyal medya sitelerinde viral oldu. Araştırmacılar tarafından bazen ucuz sahte olarak adlandırılan ürettikleri içerik, ünlülerin seslerini klonlayarak, alternatif sese uyması için ağız hareketlerini değiştirerek ve zorlayıcı diyaloglar yazarak çalışır.
Videolar ve bunların arkasındaki erişilebilir teknoloji, bazı AI araştırmacılarının tehlikeleri hakkında endişelenmesine neden oluyor ve sosyal medya şirketlerinin artan dijital sahteciliği denetlemeye istekli olup olmadığı konusunda yeni endişeler doğuruyor.
Dezenformasyon bekçi köpekleri de izleyicileri kandırabilecek veya çevrimiçi ortamda neyin doğru neyin yanlış olduğunu ayırt etmeyi zorlaştırabilecek bir dijital sahte dalga dalgası için hazırlanıyor.
“Ucuz sahte ürünler” teriminin icat edilmesine yardımcı olan Rutgers Üniversitesi’nde kütüphane ve bilgi bilimi yardımcı doçenti Britt Paris, “Fark şu ki, artık herkes bunu yapabiliyor” diyor. “Sadece gelişmiş bilgisayar teknolojisine ve oldukça gelişmiş bilgisayar teknik bilgisine sahip insanlar değil. Bunun yerine, ücretsiz bir uygulama.”
Yanlış bilgi ve gerçek dışı bilgilerin yayılması
- budama: Sosyal medya endüstrisindeki küçülme, platformların dezenformasyonu yasaklamak veya dizginlemek için koyduğu güvenlik önlemlerinin birçoğunu geri alma tehdidi taşıyan bir eğilimi yansıtıyor.
- Önemli bir durum: Federal mahkemedeki bir anlaşmazlığın sonucu, Birinci Değişikliğin hükümetin dezenformasyonu bastırmaya yönelik neredeyse tüm çabalarına bir engel olup olmadığını belirlemeye yardımcı olabilir.
- En çok yanlış bilgi yayan kişi: Büyük bir araştırma, Steve Bannon’ın War Room podcast’inin diğer siyasi talk şovlardan daha fazla yanlışlık ve asılsız iddialar içerdiğini buldu.
- Yapay zeka: İlk kez, çevrimiçi manipülasyonda yeni bir sayfa açan devlet destekli bir dezenformasyon kampanyasında yapay zeka tarafından oluşturulan kişilikler keşfedildi.
Dezenformasyonu araştıran bir araştırma şirketi olan Graphika, geçen yılın sonlarında Çin yanlısı bot hesapları tarafından dağıtılan kurgusal haber spikerlerinin derin sahtekarlıklarını keşfetti ve teknolojinin bilinen ilk örneğinde devlet bağlantılı etki kampanyaları için kullanıldı.
Ancak birkaç yeni araç, benzer teknolojileri günlük internet kullanıcılarına getirerek komedyenlere ve partizanlara kendi zorlayıcı parodilerini yapma gücü veriyor.
Geçen ay Başkan Biden’ın Rusya ile Ukrayna arasında ulusal bir savaş planını açıkladığını gösteren sahte video dolaştı. Video, komplo teorilerini yaymasıyla tanınan sağcı bir etkileyici olan Jack Posobiec’in bir podcast ve canlı yayını olan Human Events Daily’nin arkasındaki ekip tarafından hazırlandı.
Videoyu açıklayan bir bölümde Bay Posobiec, ekibinin videoyu yapay zeka teknolojisi kullanarak oluşturduğunu söyledi. Muhafazakar bir hesap olan The Patriot Oasis’ten videoyla ilgili bir tweet, videonun sahte olduğunu belirtmeden bir son dakika haberi etiketi kullandı. Tweet, sekiz milyondan fazla kez görüntülendi.
Sentezlenmiş seslere sahip video kliplerin çoğu, eski bir Google mühendisi tarafından ortaklaşa kurulan Amerikalı bir start-up olan ElevenLabs’ın teknolojisini kullanıyor gibi görünüyordu. Kasım ayında şirket, sesleri saniyeler içinde çoğaltmak üzere eğitilebilen bir konuşma klonlama aracını tanıttı.
ElevenLabs, geçen ay ırkçı ve komplo içerikli bir mesaj panosu olan 4chan’ın aracı nefret dolu mesajlar yaymak için kullanmasının ardından dikkatleri üzerine çekti. Bir örnekte, 4chan kullanıcıları, aktris Emma Watson’ı taklit eden bilgisayar tarafından üretilmiş bir ses ile Yahudi karşıtı metnin bir ses kaydını oluşturdu. Anakart daha önce 4chan’ın ses teknolojisini kullandığını bildirmişti.
ElevenLabs, Twitter’da bunun olacağını söyledi yeni güvenlik önlemleri getirmekSes klonlamayı ücretli hesaplarla sınırlamak ve yeni bir AI algılama aracı sağlamak gibi. Ancak 4chan kullanıcıları, ElevenLabs tarafından üretilen sese benzeyen demolar yayınlayarak açık kaynak kodunu kullanarak kendi ses klonlama teknolojisi sürümlerini oluşturacaklarını söylediler.
Anonim bir 4chan kullanıcısı, projeyle ilgili bir gönderide “Yaratıcı olabilecek kendi özel yapay zekamıza sahip olmak istiyoruz” diye yazdı.
Bir e-postada ElevenLabs sözcüsü, şirketin sektörde kullanılabilecek evrensel bir algılama sistemi oluşturmak için diğer AI geliştiricileriyle birlikte çalışmak istediğini söyledi.
ElevenLabs’ın aracı veya benzer bir teknoloji kullanılarak oluşturulan, klonlanmış seslerin yer aldığı videolar, son birkaç hafta içinde viral oldu. Sitenin sahibi Elon Musk tarafından Twitter’a gönderilen bir gönderide, Bay Rogan, Bay Musk ve Kanadalı bir erkek hakları aktivisti olan Jordan Peterson arasında geçen küfürlü sahte bir konuşma gösterildi. YouTube’da yayınlanan bir başkasında, Bay Rogan, Kanada Başbakanı Justin Trudeau’nun siyasi skandallarıyla ilgili sahte bir versiyonuyla röportaj yapıyor gibi görünüyordu.
Bay Peterson, sahte videolar hakkında bir tweet’te sesini kullanarak, “Bunun gibi sahte videolar yapmak, zorunlu 10 yıl hapis cezası olan bir ağır suç olmalıdır” dedi. “Bu teknoloji inanılmaz derecede tehlikeli.”
Bir YouTube sözcüsü yaptığı açıklamada, Bay Rogan ve Bay Trudeau’nun videosunun “yeterli bağlam sağladığı” için platformun politikalarını ihlal etmediğini söyledi. (İçerik oluşturucu buna “sahte video” adını vermişti.) Şirket, yanlış bilgilendirme politikasının aldatıcı bir şekilde manipüle edilmiş içeriği yasakladığını söyledi.
Deepfake teknolojisini inceleyen uzmanlar, Bay Rogan ve Dr. Tam araç net olmasa da, Huberman büyük olasılıkla bir ses klonlama programı kullanılarak oluşturuldu. Bay Rogan’ın ses tonu, Dr. Huberman, testosteronla ilgili olduğunu ekledi.
Sonuçlar mükemmel değil. Bay Rogan’ın klibi, profesyonel bir bilardo oyuncusu olan Fedor Gorst ile Aralık ayında yayınlanan bağımsız bir röportajdan alınmıştır. Bay Rogan’ın ağız hareketleri sese uymuyor ve sesi zaman zaman doğal gelmiyor. Videonun TikTok kullanıcılarının beğenisini kazanıp kazanmadığını söylemek zor: Şaşırtıcı derecede sahte olduğu bildirildikten sonra çok daha fazla ilgi topladı.
TikTok’un politikaları, “olayların gerçekliğini çarpıtarak kullanıcıları yanıltan ve videonun konusuna, diğer kişilere veya topluma önemli zararlar veren” dijital sahtekarlıkları yasaklar. Videolardan bazıları, Haberler tarafından şirkete bildirildikten sonra kaldırıldı. Twitter da bazı videoları kaldırdı.
Bir TikTok sözcüsü, şirketin “manipüle edilmiş videoları tespit etmek ve kaldırmak için teknoloji ve insan denetiminin bir kombinasyonunu kullandığını” söyledi, ancak yöntemleri hakkında ayrıntılı bilgi vermeyi reddetti.
Bay Rogan ve sahte reklamda yer alan şirket, yorum taleplerine yanıt vermedi.
Meta ve Twitch dahil olmak üzere birçok sosyal medya şirketi, kullanıcıları aldatan derin sahte ve manipüle edilmiş videoları yasakladı. Facebook ve Instagram’ın sahibi olan Meta, 2021’de derin sahtekarlıkları tanımlayabilen programlar geliştirmek için bir yarışma düzenledi ve sonuçta onları yüzde 83 oranında tespit edebilen bir araç ortaya çıktı.
Federal yetkililer yanıt vermekte yavaş kaldı. 2019 tarihli bir federal yasa, deepfake’lerin yabancı ülkelerde silahlandırılması hakkında bir rapor gerektirdi, devlet kurumlarının deepfake’ler ABD seçimlerini hedef aldığında Kongre’yi bilgilendirmesini zorunlu tuttu ve deepfake’leri tespit edebilecek araçlara yönelik araştırmayı teşvik etmek için bir ödül yarattı.
Pittsburgh Üniversitesi’nde İşbirlikçi Yapay Zeka Sorumluluğu Laboratuvarı’na liderlik eden doktora sonrası araştırmacı Ravit Dotan, “Yasanın geçmesi için iki yıl bekleyemeyiz” dedi. “O zamana kadar, hasar çok büyük olabilir. ABD’de yaklaşan bir seçim var. Bu bir sorun olacak.”