Akıllı telefon kameraları son beş yılda son derece güçlü hale geldi. Kalitedeki sıçramaları büyük ölçüde, keskin, gerçekçi görüntüler üretmek için algoritmalar, yapay zeka ve sensörler kullanan bir teknoloji olan hesaplamalı fotoğrafçılıktaki ilerlemelerden kaynaklandı. Artık hepimiz profesyonellerin çalışmalarına rakip olabilecek çarpıcı görüntüler yakalayabiliyoruz.
Sıradaki ne? Bunu söylemekten nefret ediyorum: sahte fotoğraflar.
Akıllı telefon fotoğrafçılığında uzun süredir endüstri lideri olan Google, yapay zeka destekli fotoğraf düzenleme araçlarına sahip 700 dolarlık bir telefon olan Pixel 8’i Perşembe günü piyasaya sürmeye başlayacak. Telefon yazılımı, bir fotoğrafın keskinliğini ve parlaklığını ayarlamaktan çok daha fazlasını yapabilir; tam olarak istediğiniz fotoğrafı elde etmek için görüntüler oluşturmak veya öğeleri kaldırmak için yapay zekayı kullanır.
Örneğin bir kişinin omzunun kesildiği bir fotoğraf düşünün. Google’ın yazılımı artık Magic Editor düğmesine dokunmanıza ve o kişiyi görüntüde ileri geri hareket ettirmenize olanak tanıyor. Yazılım, oradan o kişinin omzunun geri kalanını oluşturmak için yapay zekayı kullanıyor.
Veya bir arkadaşınızın tarihi bir eserin önünde çektiğiniz bir fotoğrafı düşünün, ancak arka plan başka turistlerle dolu. Aynı düzenleme aracını kullanarak foto bombacıları seçip sil düğmesine tıklayabilirsiniz. Birkaç saniye içinde yabancılar ortadan kayboluyor ve Google’ın yazılımı otomatik olarak arka planı dolduran görseller oluşturuyor.
Google, bu yeni AI düzenleme araçlarını, bir milyardan fazla kullanıcısı olan Android cihazlar ve iPhone’lar için ücretsiz fotoğraf albümü uygulaması olan Google Fotoğraflar’a entegre etti. Şirket, Pixel 8’in AI düzenleyiciye sahip ilk cihaz olduğunu, yani aynı araçların yakında diğer cihazlar için de kullanılabileceğini söyledi.
Google’ın yapay zeka fotoğraf düzenleyicisi, geçen yıl istemlere yanıt olarak metin üreten ChatGPT sohbet robotunun piyasaya sürülmesinden sonra popüler hale gelen üretken yapay zeka dalgasının bir parçası. DALL-E, Midjourney ve Adobe Firefly gibi görüntü tabanlı üretken yapay zeka araçları, kullanıcıların “Pencere kenarında uyuyan bir kedi” gibi basit bir komut istemi yazarak görüntüler oluşturmasına da olanak tanır.
Ancak Pixel 8 oyunun kurallarını değiştiriyor. Üretken yapay zekayı hiçbir ek ücret ödemeden doğrudan fotoğraf oluşturma sürecine entegre eden ilk ana akım telefon olup, akıllı telefon fotoğrafçılığını, insanların sevdiklerinin fotoğrafları da dahil olmak üzere görüntülerinde gördükleri şeyin gerçek olup olmadığını giderek daha fazla sorgulamaya zorlandığı bir döneme fırlatıyor.
(Apple’ın iPhone kamerası, nesneyi aydınlatan ve arka planı karartan “sahne ışığı” gibi bazı yapay efektler ekleyebilir, ancak sahte görüntüler üretmez.)
Berkeley’deki Kaliforniya Üniversitesi’nde bilgisayar bilimleri profesörü ve hesaplamalı fotoğrafçılık dersleri veren Ren Ng, “Bu, görüntülerde pek çok şeyi değiştirecek gerçekten büyük bir an” dedi. “Bu geleceğe cesurca ilerlerken, fotoğraf artık görsel bir gerçek değil.”
Bunun iyi bir şey olup olmadığını test etmek için Pixel 8 ile onlarca fotoğraf çekip düzenledim. Sahte fotoğraflar yaratmaya devam etmek istediğimden etkilendim, tedirgin oldum ve şüpheciydim. İşte bulduğum şey.
Görüntü kusurlu
Birçok akıllı telefon kamerasını test etme geleneğimi sürdürerek köpeklerimin (bir corgi olan Max ve kahverengi bir Labrador olan Mochi) fotoğraflarını çekmek için Pixel 8’i kullandım ve ardından yapay zekayı uyguladım
Sonuçlar bir şans eseriydi.
Max’in büyük bir kayanın üzerinde oturduğu bir fotoğrafta, köpeklerimin bir köpek parkında izinsiz olarak tasmasız koşmasına izin veren bir polis memurunun yaptığı alıntıyı kaldırmak istedim. (Bunun gibi bir şeyi kim duymuştur?) Google Fotoğraflar uygulamasında Sihirli Düzenleyici düğmesine dokundum ve kağıt parçasının çevresine bir taslak çizdim.
Yazılım olağanüstü bir iş çıkardı. Sinir bozucu bürokrasi parçasını kaya levhası ve bazı çam iğneleriyle değiştirdi.
Mochi’nin Max’in yanında durduğu ve kalçasının sağ tarafının çerçevede kırpıldığı başka bir fotoğrafta, onu sola doğru itmeyi denedim. Pixel 8 onu iyi hareket ettirebiliyordu ancak Mochi’nin bilgisayarda oluşturulan poposunun sağ tarafı bulanıktı ve sol pençesi kesilmişti.
Sonra en şok edici sonuç geldi. Mochi’nin yüzünün kesildiği bir pizza restoranının fotoğrafında, yapay zekanın kafasının geri kalanını oluşturup oluşturamayacağını test etmek için onu hareket ettirmeye çalıştım. Yazılımın onun grileşen kupasını mükemmel bir şekilde yeniden üretmesini beklemiyordum, ancak yapay zeka kabus gibi bir şey üretti, bacaklarından bir çift toynak çıkan yarı tanrı şeklinde bir cehennem köpeği.
Sonuçlardan memnun kalmamanız durumunda Google, ben de denedim, “Yeniden Oluştur” düğmesini sunuyor. Ancak her seferinde sonuçlar aynı derecede iğrençti.
Aynı fotoğrafta arka plandaki yabancıları vurgulayıp silmeye çalıştım. Bu işe yaradı ama rahatsız edici geldi, tıpkı Yenilmezler: Sonsuzluk Savaşı’nda dünya nüfusunun yarısının ortadan kaybolduğu “anlık” sahneyi izlemek gibi.
Henüz erken ve Google, insanların kusurlarla karşılaşmasını bekliyor. Şirket yaptığı açıklamada, “Bu özellik henüz başlangıç aşamasındadır ve her zaman düzgün çalışmayacaktır” dedi. “Modellerimizi sürekli olarak geliştirmek için geri bildirim arıyoruz.”
Kullanmak ya da kullanmamak
İşte geri bildirimim: Bu AI düzenleme araçlarının, amiral gemisi bir akıllı telefonun Fotoğraflar uygulamasında, özellikle de kusurlu hallerinde, bu kadar belirgin bir şekilde öne çıkarılması gerektiğini düşünmüyorum.
Teknoloji olgunlaşsa bile, yapay görüntüleri çevreleyen etik sorunlar gibi daha geniş sorunların dikkate alınması ve çözülmesi gerekiyor.
Fotoğrafları netlik ve parlaklık için düzenlemek, içeriğini değiştirmeden görüntüyü iyileştirir. Ancak bir fotoğrafa yapay olarak öğeler eklemek bir eşiği aşıyor ve görüntüyü sahteye dönüştürüyor. Fotoğraf oluşturmak ve paylaşmak için bu yapay zeka araçlarını kullanmak, yanlış bilgilerin zaten yaygın olduğu ve neye güvenileceğini bilmenin zor olduğu durumlarda sahte medyanın çevrimiçi yayılmasına katkıda bulunabilir.
Dr. Bilgisayar bilimi profesörü Ng, üretken fotoğrafçılık teknolojisini, özellikle de artık akıllı telefonlara ulaştığı için, sorumlu bir şekilde nasıl kullanacağımıza karar vermenin bize bağlı olduğunu söyledi. Kendi sınırlarını belirledi.
“Bir fotoğrafçı olarak benim için özgünlüğe dair bir ipucu veren her şey çok sorunlu olacaktır” dedi.
Ben kişisel olarak bu AI fotoğrafçılık araçlarını, ailemle paylaşılan fotoğraflardan harika bir resmi mahveden fotoğraf bombacısı gibi görsel dikkat dağıtıcı unsurları ortadan kaldırmak için kullanırdım. Ancak o zaman bile, bu araçları dikkatli bir şekilde kullanırdım ve sahte bilgileri çevrimiçi yayınlamazdım.
Sıradaki ne? Bunu söylemekten nefret ediyorum: sahte fotoğraflar.
Akıllı telefon fotoğrafçılığında uzun süredir endüstri lideri olan Google, yapay zeka destekli fotoğraf düzenleme araçlarına sahip 700 dolarlık bir telefon olan Pixel 8’i Perşembe günü piyasaya sürmeye başlayacak. Telefon yazılımı, bir fotoğrafın keskinliğini ve parlaklığını ayarlamaktan çok daha fazlasını yapabilir; tam olarak istediğiniz fotoğrafı elde etmek için görüntüler oluşturmak veya öğeleri kaldırmak için yapay zekayı kullanır.
Örneğin bir kişinin omzunun kesildiği bir fotoğraf düşünün. Google’ın yazılımı artık Magic Editor düğmesine dokunmanıza ve o kişiyi görüntüde ileri geri hareket ettirmenize olanak tanıyor. Yazılım, oradan o kişinin omzunun geri kalanını oluşturmak için yapay zekayı kullanıyor.
Veya bir arkadaşınızın tarihi bir eserin önünde çektiğiniz bir fotoğrafı düşünün, ancak arka plan başka turistlerle dolu. Aynı düzenleme aracını kullanarak foto bombacıları seçip sil düğmesine tıklayabilirsiniz. Birkaç saniye içinde yabancılar ortadan kayboluyor ve Google’ın yazılımı otomatik olarak arka planı dolduran görseller oluşturuyor.
Google, bu yeni AI düzenleme araçlarını, bir milyardan fazla kullanıcısı olan Android cihazlar ve iPhone’lar için ücretsiz fotoğraf albümü uygulaması olan Google Fotoğraflar’a entegre etti. Şirket, Pixel 8’in AI düzenleyiciye sahip ilk cihaz olduğunu, yani aynı araçların yakında diğer cihazlar için de kullanılabileceğini söyledi.
Google’ın yapay zeka fotoğraf düzenleyicisi, geçen yıl istemlere yanıt olarak metin üreten ChatGPT sohbet robotunun piyasaya sürülmesinden sonra popüler hale gelen üretken yapay zeka dalgasının bir parçası. DALL-E, Midjourney ve Adobe Firefly gibi görüntü tabanlı üretken yapay zeka araçları, kullanıcıların “Pencere kenarında uyuyan bir kedi” gibi basit bir komut istemi yazarak görüntüler oluşturmasına da olanak tanır.
Ancak Pixel 8 oyunun kurallarını değiştiriyor. Üretken yapay zekayı hiçbir ek ücret ödemeden doğrudan fotoğraf oluşturma sürecine entegre eden ilk ana akım telefon olup, akıllı telefon fotoğrafçılığını, insanların sevdiklerinin fotoğrafları da dahil olmak üzere görüntülerinde gördükleri şeyin gerçek olup olmadığını giderek daha fazla sorgulamaya zorlandığı bir döneme fırlatıyor.
(Apple’ın iPhone kamerası, nesneyi aydınlatan ve arka planı karartan “sahne ışığı” gibi bazı yapay efektler ekleyebilir, ancak sahte görüntüler üretmez.)
Berkeley’deki Kaliforniya Üniversitesi’nde bilgisayar bilimleri profesörü ve hesaplamalı fotoğrafçılık dersleri veren Ren Ng, “Bu, görüntülerde pek çok şeyi değiştirecek gerçekten büyük bir an” dedi. “Bu geleceğe cesurca ilerlerken, fotoğraf artık görsel bir gerçek değil.”
Bunun iyi bir şey olup olmadığını test etmek için Pixel 8 ile onlarca fotoğraf çekip düzenledim. Sahte fotoğraflar yaratmaya devam etmek istediğimden etkilendim, tedirgin oldum ve şüpheciydim. İşte bulduğum şey.
Görüntü kusurlu
Birçok akıllı telefon kamerasını test etme geleneğimi sürdürerek köpeklerimin (bir corgi olan Max ve kahverengi bir Labrador olan Mochi) fotoğraflarını çekmek için Pixel 8’i kullandım ve ardından yapay zekayı uyguladım
Sonuçlar bir şans eseriydi.
Max’in büyük bir kayanın üzerinde oturduğu bir fotoğrafta, köpeklerimin bir köpek parkında izinsiz olarak tasmasız koşmasına izin veren bir polis memurunun yaptığı alıntıyı kaldırmak istedim. (Bunun gibi bir şeyi kim duymuştur?) Google Fotoğraflar uygulamasında Sihirli Düzenleyici düğmesine dokundum ve kağıt parçasının çevresine bir taslak çizdim.
Yazılım olağanüstü bir iş çıkardı. Sinir bozucu bürokrasi parçasını kaya levhası ve bazı çam iğneleriyle değiştirdi.
Mochi’nin Max’in yanında durduğu ve kalçasının sağ tarafının çerçevede kırpıldığı başka bir fotoğrafta, onu sola doğru itmeyi denedim. Pixel 8 onu iyi hareket ettirebiliyordu ancak Mochi’nin bilgisayarda oluşturulan poposunun sağ tarafı bulanıktı ve sol pençesi kesilmişti.
Sonra en şok edici sonuç geldi. Mochi’nin yüzünün kesildiği bir pizza restoranının fotoğrafında, yapay zekanın kafasının geri kalanını oluşturup oluşturamayacağını test etmek için onu hareket ettirmeye çalıştım. Yazılımın onun grileşen kupasını mükemmel bir şekilde yeniden üretmesini beklemiyordum, ancak yapay zeka kabus gibi bir şey üretti, bacaklarından bir çift toynak çıkan yarı tanrı şeklinde bir cehennem köpeği.
Sonuçlardan memnun kalmamanız durumunda Google, ben de denedim, “Yeniden Oluştur” düğmesini sunuyor. Ancak her seferinde sonuçlar aynı derecede iğrençti.
Aynı fotoğrafta arka plandaki yabancıları vurgulayıp silmeye çalıştım. Bu işe yaradı ama rahatsız edici geldi, tıpkı Yenilmezler: Sonsuzluk Savaşı’nda dünya nüfusunun yarısının ortadan kaybolduğu “anlık” sahneyi izlemek gibi.
Henüz erken ve Google, insanların kusurlarla karşılaşmasını bekliyor. Şirket yaptığı açıklamada, “Bu özellik henüz başlangıç aşamasındadır ve her zaman düzgün çalışmayacaktır” dedi. “Modellerimizi sürekli olarak geliştirmek için geri bildirim arıyoruz.”
Kullanmak ya da kullanmamak
İşte geri bildirimim: Bu AI düzenleme araçlarının, amiral gemisi bir akıllı telefonun Fotoğraflar uygulamasında, özellikle de kusurlu hallerinde, bu kadar belirgin bir şekilde öne çıkarılması gerektiğini düşünmüyorum.
Teknoloji olgunlaşsa bile, yapay görüntüleri çevreleyen etik sorunlar gibi daha geniş sorunların dikkate alınması ve çözülmesi gerekiyor.
Fotoğrafları netlik ve parlaklık için düzenlemek, içeriğini değiştirmeden görüntüyü iyileştirir. Ancak bir fotoğrafa yapay olarak öğeler eklemek bir eşiği aşıyor ve görüntüyü sahteye dönüştürüyor. Fotoğraf oluşturmak ve paylaşmak için bu yapay zeka araçlarını kullanmak, yanlış bilgilerin zaten yaygın olduğu ve neye güvenileceğini bilmenin zor olduğu durumlarda sahte medyanın çevrimiçi yayılmasına katkıda bulunabilir.
Dr. Bilgisayar bilimi profesörü Ng, üretken fotoğrafçılık teknolojisini, özellikle de artık akıllı telefonlara ulaştığı için, sorumlu bir şekilde nasıl kullanacağımıza karar vermenin bize bağlı olduğunu söyledi. Kendi sınırlarını belirledi.
“Bir fotoğrafçı olarak benim için özgünlüğe dair bir ipucu veren her şey çok sorunlu olacaktır” dedi.
Ben kişisel olarak bu AI fotoğrafçılık araçlarını, ailemle paylaşılan fotoğraflardan harika bir resmi mahveden fotoğraf bombacısı gibi görsel dikkat dağıtıcı unsurları ortadan kaldırmak için kullanırdım. Ancak o zaman bile, bu araçları dikkatli bir şekilde kullanırdım ve sahte bilgileri çevrimiçi yayınlamazdım.