ChatGPT’nin bir yapay zeka yatırım çılgınlığına yol açmasından beş ay sonra, Pekin, hükümetin bir çağı tanımlayabilecek teknolojiler üzerinde sıkı düzenleyici incelemeyi sürdürme kararlılığının bir kanıtı olarak, Çin’in sohbet robotlarını dizginlemek için harekete geçiyor.
Çin Siber Uzay İdaresi, bu ay ChatGPT’nin arkasında olduğu gibi, bir kullanıcının sorularına ve girdilerine yanıt olarak metin ve görüntüleri formüle edebilen, üretken yapay zeka olarak adlandırılan yazılım sistemleri için taslak kurallar açıkladı.
Yönetmelikler uyarınca şirketler, Çin Komünist Partisi’nin katı sansür kurallarına uymak zorunda, tıpkı web siteleri ve uygulamaların Çin liderlerini kirleten veya yasaklanmış tarihi yeniden canlandıran materyaller yayınlamaktan kaçınması gerektiği gibi. AI sistemlerinin içeriği “temel sosyalist değerleri” yansıtmalı ve “devlet gücünü” veya ulusal birliği baltalayan bilgilerden kaçınmalıdır.
Şirketler ayrıca, sohbet robotlarının doğru kelimeler ve görüntüler oluşturmasını, fikri mülkiyete saygı duymasını ve sohbet robotlarının arkasındaki yazılım beyinleri olan algoritmalarını düzenleyicilere kaydettirmesini sağlamalıdır.
Kurallar henüz kesinleşmedi ve düzenleyiciler onları hâlâ değiştirebilir, ancak uzmanlar, Çin’de yapay zeka hizmetleri inşa eden mühendislerin, fermanları ürünlerine nasıl dahil edeceklerini zaten bulduklarını söylüyor.
Dünyanın dört bir yanındaki hükümetler, yapay zekanın ürettiği sonuçların alarm vericiden zararsıza kadar değişen sonuçlarıyla, sohbet robotlarının gücü karşısında hayrete düştü. Yapay zeka, üniversite sınavlarını geçmek ve Papa Francis’in bol bir paltoyla sahte bir fotoğrafını oluşturmak için kullanıldı.
Microsoft’tan yaklaşık 13 milyar dolar destekli ABD firması OpenAI tarafından geliştirilen ChatGPT, Silikon Vadisi’ni temel teknolojiyi video oyunları ve reklamcılık gibi yeni alanlara uygulamaya teşvik etti. Risk sermayesi şirketi Sequoia Capital, AI şirketlerinin nihayetinde ekonomik değer olarak “trilyonlarca dolar” üretebileceğini tahmin ediyor.
Çin’de yatırımcılar ve girişimciler yetişiyor. Çinli yapay zeka şirketlerinin hisseleri hızla yükseldi. Çin’in en büyük teknoloji şirketlerinden bazıları muhteşem duyurular yaptı, en son e-ticaret devi Alibaba; Yüz tanıma yazılımı yapan SenseTime; ve arama motoru Baidu. OpenAI teknolojisine Çin alternatifleri geliştiren en az iki girişim milyonlarca dolar topladı.
ChatGPT, Çin’de kullanıma sunulmamıştır. Bununla birlikte, artan sayıda yerel alternatifle karşı karşıya kalan Çin, yapay zeka kırmızı çizgilerini ortaya koymakta hızlı davranarak, hala chatbot’ları nasıl düzenleyeceğini düşünen diğer ülkelerin önüne geçti.
Pekin merkezli bir danışmanlık firması olan Trivium China’nın teknoloji politikası başkanı Kendra Schaefer, kuralların Çin’in düzenlemeye yönelik “Hızlı Hareket Et ve İşleri Boz” yaklaşımını örneklendirdiğini söyledi.
“Çünkü iki tarafın da tartıştığı iki partili bir sistem olmadığı için ‘Tamam, bunu yapmamız gerektiğini biliyoruz ve daha sonra revize edeceğiz’ diyebilirler.”
Chatbot’lar web’in büyük bir bölümünde eğitilir ve geliştiriciler, bazen tükürdükleri şeylerin yanlışlıkları ve sürprizleriyle mücadele eder. Görünüşte, Çin’in kuralları, Çinli teknoloji şirketlerinin başaramadığı, sohbet robotları üzerinde bir düzeyde teknik kontrol gerektiriyor. Microsoft gibi şirketler bile, kötü niyetli yanıtları ayıklamak için hala sohbet robotlarında ince ayar yapıyor. Çin’in çıtası çok daha yüksek, bu nedenle bazı sohbet robotları zaten kapatıldı ve diğerleri yalnızca sınırlı sayıda kullanıcı tarafından kullanılabilir.
Uzmanlar, AI sistemlerini tutarlı bir şekilde nesnel olarak eğitmenin ne kadar zor olacağı konusunda hemfikir değiller. Bazıları, şirketlerin, genellikle kapsamlı, sürekli değişen ve hatta 4 Haziran 1989, Tiananmen Meydanı katliamı günü gibi belirli kelimelerin ve tarihlerin sansürlenmesini gerektiren Çin sansür kurallarına uyum sağlayabileceğinden şüphe ediyor. Diğerleri, zamanla ve yeterince çalışmayla, makinelerin gerçekle ve belirli değer sistemleriyle, hatta siyasi olanlarla uyumlu hale getirilebileceğine inanıyor.
Analistler, Çinli teknoloji şirketlerine danıştıktan sonra kuralların değişmesini bekliyor. Düzenleyiciler, kuralların teknolojinin gelişimine tamamen zarar vermemesi için uygulamalarını yumuşatabilir.
Çin’in uzun bir internet sansürü geçmişi var. 2000’lerde ülke, İnternet üzerinden dünyanın en güçlü istihbarat arama ağını kurdu. Google ve Facebook gibi uyumlu olmayan Batılı şirketleri caydırdı. İnternet etkinliğini izlemek için milyonlarca çalışanı işe aldı.
Bu arada, Çin’in kurallara göre oynamaya zorlanan teknoloji şirketleri, siyasi incelemenin büyümeyi ve yeniliği baltalayacağını öngören Batılı eleştirmenlere meydan okuyarak büyüdüler. Yüz tanıma ve cep telefonları gibi teknolojiler ortaya çıktıkça, şirketler devletin onları bir gözetleme devleti yaratmak için kullanmasına yardımcı oldu.
Çin AI uzmanı ve Carnegie Endowment for International Peace üyesi Matt Sheehan, mevcut AI dalgasının Komünist Parti için yeni riskler oluşturduğunu söyledi.
Sheehan, yapay zeka araştırmacılarının halüsinasyon olarak adlandırdığı saçma veya yanlış beyanlarda bulunan sohbet robotlarının öngörülemezliğinin, partinin çevrimiçi söylenenleri yönetme takıntısına ters düştüğünü söyledi.
“Üretken yapay zeka, partinin en önemli hedeflerinden ikisini gerginleştiriyor: bilginin kontrolü ve yapay zekada liderlik.”
Uzmanlara göre Çin’in yeni düzenlemeleri sadece siyasetle ilgili değil. Örneğin, yapay zeka modellerinin üzerinde eğitildiği verilerin yaratıcılarının ve bireylerin mahremiyetini ve fikri mülkiyetini korumayı amaçlar, bu küresel bir sorundur.
Şubat ayında, görüntü veritabanı şirketi Getty Images, görüntüleme sistemini Getty’nin görüntülerinin değerini azalttığını söylediği 12 milyon filigranlı fotoğraf üzerinde eğittiği için yapay zeka girişimi Stable Diffusion’a dava açtı.
Çin, AI şirketlerinin temel veri ve içeriği kullanmasıyla ilgili yasal sorunları çözmek için daha geniş bir baskı yapıyor. Mart ayında Pekin, verilere sahip olmanın, satın almanın ve satmanın ne anlama geldiğini daha iyi tanımlamak için büyük bir kurumsal revizyonun parçası olarak Ulusal Veri Bürosunu kurdu. Devlet kurumu, şirketlerin bu tür modelleri eğitmek için gereken veri kümelerini oluşturmasına da yardımcı olacaktır.
Çin’in AI düzenlemeleri hakkında kapsamlı yazılar yazan ve girişimi “dönüştürücü” olarak nitelendiren Bayan Schaefer, “Şimdi bunun hangi özel veri olduğuna ve kimin onu kullanma ve kontrol etme haklarına sahip olduğuna karar veriyorsunuz” dedi.
Yine de, Çin’in yeni korkulukları kötü bir zamanda gelebilir. Ülke, yapay zeka da dahil olmak üzere teknolojik rekabet gücünü baltalamakla tehdit eden yarı iletkenlere yönelik artan rekabet ve yaptırımlarla karşı karşıya.
Çin yapay zekası için umutlar, bir yapay zeka mühendisi ve girişimci olan Xu Liang’ın Çin’in bir mobil uygulama olarak ChatGPT’ye verdiği ilk yanıtlardan birini yayınladığı Şubat ayı başlarında yüksekti. Bay Xu, ChatYuan uygulamasının ilk saatte 10.000’den fazla indirildiğini söyledi.
Parti çizgisi ile ChatYuan’ın tepkileri arasındaki net farklara dair basında çıkan haberler kısa süre sonra su yüzüne çıktı. Yanıtlar, Çin ekonomisinin acımasız bir teşhisini sunuyor ve Rusya’nın Ukrayna’daki savaşını, partinin daha Rusya yanlısı duruşuyla çelişen bir “saldırganlık savaşı” olarak etiketliyordu. Günler sonra yetkililer uygulamayı kapattı.
Bay Xu, daha “vatansever” bir bot yaratmak için önlemler eklediğini söyledi. Bu, hassas anahtar kelimeleri filtrelemeyi ve sorunlu yanıtları işaretlemesine yardımcı olabilecek daha fazla manuel gözden geçiren işe almayı içerir. Hatta filtreleyeceği “yanlış bakış açılarını” tespit edebilen ayrı bir model yetiştiriyor.
Ancak, Bay Xu’nun robotunun yetkilileri ne zaman tatmin edeceği belli değil. Ekran görüntülerine göre, uygulamanın başlangıçta 13 Şubat’ta devam etmesi gerekiyordu, ancak Cuma günü kullanıma sunulmadı.
“Sorun giderme tamamlandıktan sonra hizmet devam edecek” dedi.
Çin Siber Uzay İdaresi, bu ay ChatGPT’nin arkasında olduğu gibi, bir kullanıcının sorularına ve girdilerine yanıt olarak metin ve görüntüleri formüle edebilen, üretken yapay zeka olarak adlandırılan yazılım sistemleri için taslak kurallar açıkladı.
Yönetmelikler uyarınca şirketler, Çin Komünist Partisi’nin katı sansür kurallarına uymak zorunda, tıpkı web siteleri ve uygulamaların Çin liderlerini kirleten veya yasaklanmış tarihi yeniden canlandıran materyaller yayınlamaktan kaçınması gerektiği gibi. AI sistemlerinin içeriği “temel sosyalist değerleri” yansıtmalı ve “devlet gücünü” veya ulusal birliği baltalayan bilgilerden kaçınmalıdır.
Şirketler ayrıca, sohbet robotlarının doğru kelimeler ve görüntüler oluşturmasını, fikri mülkiyete saygı duymasını ve sohbet robotlarının arkasındaki yazılım beyinleri olan algoritmalarını düzenleyicilere kaydettirmesini sağlamalıdır.
Kurallar henüz kesinleşmedi ve düzenleyiciler onları hâlâ değiştirebilir, ancak uzmanlar, Çin’de yapay zeka hizmetleri inşa eden mühendislerin, fermanları ürünlerine nasıl dahil edeceklerini zaten bulduklarını söylüyor.
Dünyanın dört bir yanındaki hükümetler, yapay zekanın ürettiği sonuçların alarm vericiden zararsıza kadar değişen sonuçlarıyla, sohbet robotlarının gücü karşısında hayrete düştü. Yapay zeka, üniversite sınavlarını geçmek ve Papa Francis’in bol bir paltoyla sahte bir fotoğrafını oluşturmak için kullanıldı.
Microsoft’tan yaklaşık 13 milyar dolar destekli ABD firması OpenAI tarafından geliştirilen ChatGPT, Silikon Vadisi’ni temel teknolojiyi video oyunları ve reklamcılık gibi yeni alanlara uygulamaya teşvik etti. Risk sermayesi şirketi Sequoia Capital, AI şirketlerinin nihayetinde ekonomik değer olarak “trilyonlarca dolar” üretebileceğini tahmin ediyor.
Çin’de yatırımcılar ve girişimciler yetişiyor. Çinli yapay zeka şirketlerinin hisseleri hızla yükseldi. Çin’in en büyük teknoloji şirketlerinden bazıları muhteşem duyurular yaptı, en son e-ticaret devi Alibaba; Yüz tanıma yazılımı yapan SenseTime; ve arama motoru Baidu. OpenAI teknolojisine Çin alternatifleri geliştiren en az iki girişim milyonlarca dolar topladı.
ChatGPT, Çin’de kullanıma sunulmamıştır. Bununla birlikte, artan sayıda yerel alternatifle karşı karşıya kalan Çin, yapay zeka kırmızı çizgilerini ortaya koymakta hızlı davranarak, hala chatbot’ları nasıl düzenleyeceğini düşünen diğer ülkelerin önüne geçti.
Pekin merkezli bir danışmanlık firması olan Trivium China’nın teknoloji politikası başkanı Kendra Schaefer, kuralların Çin’in düzenlemeye yönelik “Hızlı Hareket Et ve İşleri Boz” yaklaşımını örneklendirdiğini söyledi.
“Çünkü iki tarafın da tartıştığı iki partili bir sistem olmadığı için ‘Tamam, bunu yapmamız gerektiğini biliyoruz ve daha sonra revize edeceğiz’ diyebilirler.”
Chatbot’lar web’in büyük bir bölümünde eğitilir ve geliştiriciler, bazen tükürdükleri şeylerin yanlışlıkları ve sürprizleriyle mücadele eder. Görünüşte, Çin’in kuralları, Çinli teknoloji şirketlerinin başaramadığı, sohbet robotları üzerinde bir düzeyde teknik kontrol gerektiriyor. Microsoft gibi şirketler bile, kötü niyetli yanıtları ayıklamak için hala sohbet robotlarında ince ayar yapıyor. Çin’in çıtası çok daha yüksek, bu nedenle bazı sohbet robotları zaten kapatıldı ve diğerleri yalnızca sınırlı sayıda kullanıcı tarafından kullanılabilir.
Uzmanlar, AI sistemlerini tutarlı bir şekilde nesnel olarak eğitmenin ne kadar zor olacağı konusunda hemfikir değiller. Bazıları, şirketlerin, genellikle kapsamlı, sürekli değişen ve hatta 4 Haziran 1989, Tiananmen Meydanı katliamı günü gibi belirli kelimelerin ve tarihlerin sansürlenmesini gerektiren Çin sansür kurallarına uyum sağlayabileceğinden şüphe ediyor. Diğerleri, zamanla ve yeterince çalışmayla, makinelerin gerçekle ve belirli değer sistemleriyle, hatta siyasi olanlarla uyumlu hale getirilebileceğine inanıyor.
Analistler, Çinli teknoloji şirketlerine danıştıktan sonra kuralların değişmesini bekliyor. Düzenleyiciler, kuralların teknolojinin gelişimine tamamen zarar vermemesi için uygulamalarını yumuşatabilir.
Çin’in uzun bir internet sansürü geçmişi var. 2000’lerde ülke, İnternet üzerinden dünyanın en güçlü istihbarat arama ağını kurdu. Google ve Facebook gibi uyumlu olmayan Batılı şirketleri caydırdı. İnternet etkinliğini izlemek için milyonlarca çalışanı işe aldı.
Bu arada, Çin’in kurallara göre oynamaya zorlanan teknoloji şirketleri, siyasi incelemenin büyümeyi ve yeniliği baltalayacağını öngören Batılı eleştirmenlere meydan okuyarak büyüdüler. Yüz tanıma ve cep telefonları gibi teknolojiler ortaya çıktıkça, şirketler devletin onları bir gözetleme devleti yaratmak için kullanmasına yardımcı oldu.
Çin AI uzmanı ve Carnegie Endowment for International Peace üyesi Matt Sheehan, mevcut AI dalgasının Komünist Parti için yeni riskler oluşturduğunu söyledi.
Sheehan, yapay zeka araştırmacılarının halüsinasyon olarak adlandırdığı saçma veya yanlış beyanlarda bulunan sohbet robotlarının öngörülemezliğinin, partinin çevrimiçi söylenenleri yönetme takıntısına ters düştüğünü söyledi.
“Üretken yapay zeka, partinin en önemli hedeflerinden ikisini gerginleştiriyor: bilginin kontrolü ve yapay zekada liderlik.”
Uzmanlara göre Çin’in yeni düzenlemeleri sadece siyasetle ilgili değil. Örneğin, yapay zeka modellerinin üzerinde eğitildiği verilerin yaratıcılarının ve bireylerin mahremiyetini ve fikri mülkiyetini korumayı amaçlar, bu küresel bir sorundur.
Şubat ayında, görüntü veritabanı şirketi Getty Images, görüntüleme sistemini Getty’nin görüntülerinin değerini azalttığını söylediği 12 milyon filigranlı fotoğraf üzerinde eğittiği için yapay zeka girişimi Stable Diffusion’a dava açtı.
Çin, AI şirketlerinin temel veri ve içeriği kullanmasıyla ilgili yasal sorunları çözmek için daha geniş bir baskı yapıyor. Mart ayında Pekin, verilere sahip olmanın, satın almanın ve satmanın ne anlama geldiğini daha iyi tanımlamak için büyük bir kurumsal revizyonun parçası olarak Ulusal Veri Bürosunu kurdu. Devlet kurumu, şirketlerin bu tür modelleri eğitmek için gereken veri kümelerini oluşturmasına da yardımcı olacaktır.
Çin’in AI düzenlemeleri hakkında kapsamlı yazılar yazan ve girişimi “dönüştürücü” olarak nitelendiren Bayan Schaefer, “Şimdi bunun hangi özel veri olduğuna ve kimin onu kullanma ve kontrol etme haklarına sahip olduğuna karar veriyorsunuz” dedi.
Yine de, Çin’in yeni korkulukları kötü bir zamanda gelebilir. Ülke, yapay zeka da dahil olmak üzere teknolojik rekabet gücünü baltalamakla tehdit eden yarı iletkenlere yönelik artan rekabet ve yaptırımlarla karşı karşıya.
Çin yapay zekası için umutlar, bir yapay zeka mühendisi ve girişimci olan Xu Liang’ın Çin’in bir mobil uygulama olarak ChatGPT’ye verdiği ilk yanıtlardan birini yayınladığı Şubat ayı başlarında yüksekti. Bay Xu, ChatYuan uygulamasının ilk saatte 10.000’den fazla indirildiğini söyledi.
Parti çizgisi ile ChatYuan’ın tepkileri arasındaki net farklara dair basında çıkan haberler kısa süre sonra su yüzüne çıktı. Yanıtlar, Çin ekonomisinin acımasız bir teşhisini sunuyor ve Rusya’nın Ukrayna’daki savaşını, partinin daha Rusya yanlısı duruşuyla çelişen bir “saldırganlık savaşı” olarak etiketliyordu. Günler sonra yetkililer uygulamayı kapattı.
Bay Xu, daha “vatansever” bir bot yaratmak için önlemler eklediğini söyledi. Bu, hassas anahtar kelimeleri filtrelemeyi ve sorunlu yanıtları işaretlemesine yardımcı olabilecek daha fazla manuel gözden geçiren işe almayı içerir. Hatta filtreleyeceği “yanlış bakış açılarını” tespit edebilen ayrı bir model yetiştiriyor.
Ancak, Bay Xu’nun robotunun yetkilileri ne zaman tatmin edeceği belli değil. Ekran görüntülerine göre, uygulamanın başlangıçta 13 Şubat’ta devam etmesi gerekiyordu, ancak Cuma günü kullanıma sunulmadı.
“Sorun giderme tamamlandıktan sonra hizmet devam edecek” dedi.