İnsanlara hem fayda hem de zarar verme potansiyeli olan, ekonominin her sektörünü etkileyen, uzmanların bile ayak uyduramadığı kadar hızlı değişen bir şeyi nasıl düzenlersiniz?
Yapay zeka söz konusu olduğunda hükümetlerin karşılaştığı en büyük zorluk budur.
Yapay zekayı düzenleme konusunda çok yavaşsanız, potansiyel tehlikeleri ve teknolojinin tehlikeli şekilde kötüye kullanımını önleme fırsatını kaçırabilirsiniz.
Çok hızlı tepki verirseniz kötü veya zararlı kurallar yazma, yenilikleri engelleme veya Avrupa Birliği’nin durumuna benzer bir durumla karşı karşıya kalma riskiyle karşı karşıya kalırsınız. Yapay Zeka Yasası ilk olarak 2021’de, yeni üretken yapay zeka araçları dalgasının piyasaya çıkmasından hemen önce yayınlandı ve bu da yasanın çoğunu geçersiz kıldı. (Henüz yasalaşmamış olan öneri daha sonra bazı yeni teknolojilerle “ayakkabı çekeceği” olarak yeniden yazılmıştır, ancak yine de biraz hantaldır.)
Pazartesi günü Beyaz Saray, şirketlere yeni kurallar dayatan ve bir dizi federal kurumu teknoloji için koruma uygulamaya başlamaya yönlendiren kapsamlı bir idari emirle, hızlı hareket eden yapay zeka dünyasını yönetme girişimini duyurdu.
Biden yönetimi, diğer hükümetler gibi, ChatGPT ve diğer üretken yapay zeka uygulamalarının kamuoyunun bilincine girmesiyle geçen yılın sonlarından bu yana teknoloji hakkında bir şeyler yapma baskısı altında. Yapay zeka şirketleri, Kongre önünde ifade vermek üzere yöneticileri gönderdi ve milletvekillerine teknolojinin vaatleri ve tuzakları hakkında bilgi verdi. Aktivist gruplar ise federal hükümete yapay zekanın yeni siber silahlar ve yanıltıcı deepfake’ler oluşturma gibi tehlikeli kullanımlarını ele alması çağrısında bulundu.
Ek olarak, bazı araştırmacılar ve uzmanlar yapay zeka endüstrisini yavaşlamaya çağırırken diğerleri tam gaz hızlanmaya çalışırken Silikon Vadisi’nde bir kültürel savaş patlak verdi.
Başkan Biden’ın yürütme emri bir orta yol göstermeye çalışıyor: Yapay zeka gelişiminin büyük ölçüde bozulmadan devam etmesine izin verirken bazı mütevazı kurallar getiriyor ve federal hükümetin önümüzdeki yıllarda yapay zeka endüstrisini yakından takip etme niyetinde olduğunun sinyalini veriyor. Düzenleyicilerin ilgisini çekmeden önce on yıldan fazla bir süre boyunca engelsiz bir şekilde gelişmesine izin verilen bir teknoloji olan sosyal medyanın aksine, bu, Biden yönetiminin yapay zekanın gözden kaçmasına izin vermeye niyeti olmadığını gösteriyor.
100 sayfayı aşan tam idari emirde neredeyse herkes için bir şeyler var gibi görünüyor.
Yapay zekanın pandemiler ve nükleer silahlara benzer bir “yok olma riski” taşıdığını iddia eden bu yıl açık bir mektuba imza atanlar gibi en endişeli yapay zeka güvenliği savunucuları, düzenlemenin güçlü yapay zeka sistemleri inşa eden şirketlere yeni gereksinimler getirmesinden memnun olacak.
Özellikle en büyük yapay zeka sistemlerini üreten şirketlerin, modellerini kamuoyuna sunmadan önce hükümeti bilgilendirmesi ve güvenlik testlerinin sonuçlarını paylaşması gerekiyor.
Bu raporlama gereklilikleri, belirli bir bilgi işlem gücü eşiğinin (merak ediyorsanız 100 septilyondan fazla tamsayı veya kayan nokta işlemi) üzerindeki modeller için geçerlidir ve büyük olasılıkla OpenAI, Google ve diğer büyük şirketler tarafından geliştirilen yeni nesil modelleri içerecektir. Yapay zeka teknolojisini geliştiren şirketler.
Bu gereklilikler, başkana ABD şirketlerinin ulusal güvenlik açısından önemli görülen çabaları desteklemesini talep etme konusunda geniş yetki veren 1950 tarihli bir yasa olan Savunma Üretim Yasası tarafından uygulanmaktadır. Bu, kurallara hükümetin önceki gönüllü yapay zeka taahhütlerinde eksik olan dişleri verebilir.
Ek olarak emir, yapay zeka geliştiricilerine (bu listede Microsoft, Google ve Amazon da yer alıyor) bilgisayar kiralayan bulut sağlayıcılarının hükümeti yabancı müşterileri hakkında bilgilendirmesini gerektiriyor. Ayrıca Yapay Zeka modellerinin performansını ve güvenliğini ölçmek için standartlaştırılmış testler geliştirmek üzere Ulusal Standartlar ve Teknoloji Enstitüsü’ne talimat verir.
Yönetici emri aynı zamanda AI etik topluluğunu (AI’nın önyargı ve ayrımcılık gibi kısa vadeli zararlarından endişe duyan ve bu konuda uzun vadeli korkuların olduğuna inanan bir grup aktivist ve araştırmacıyı) memnun edecek bazı hükümler de içeriyor. Yapay zekanın yok oluşu abartılıyor.
Karar özellikle federal kurumları, konut, federal yardım programları ve ceza adaleti sisteminde ayrımcılığı şiddetlendirmek için yapay zeka algoritmalarının kullanılmasını önlemek için adımlar atmaya yönlendiriyor. Ayrıca Ticaret Departmanını, yapay zeka tarafından oluşturulan yanlış bilgilerin yayılmasıyla mücadeleye yardımcı olabilecek, yapay zeka tarafından oluşturulan içeriğe filigran eklemeye yönelik yönergeler geliştirmeye yönlendiriyor.
Peki bu kuralların hedefi olan yapay zeka şirketleri bunlar hakkında ne düşünüyor? Pazartesi günü konuştuğum birçok yönetici, Beyaz Saray emrinin büyük yapay zeka modellerini eğitmek için lisansa kaydolmalarını gerektirmemesinden dolayı rahatlamış görünüyordu; bu, sektördeki bazı yöneticilerin acımasız olarak eleştirdiği önerilen bir hamleydi. Ayrıca mevcut ürünlerinden herhangi birini piyasadan çekmeleri gerekmeyecek veya modellerinin boyutu ve onları eğitmek için kullanılan yöntemler gibi gizli tutmak istedikleri bilgileri açıklamaya zorlanmayacaklar.
Ayrıca, son aylarda sanatçıların ve diğer yaratıcıların saldırısına uğrayan ve mahkemede dava konusu olan yaygın bir uygulama olan yapay zeka modellerinin eğitiminde telif hakkıyla korunan verilerin kullanımını engellemeye de çalışmıyor.
Ve teknoloji şirketleri, ulusal “Yapay Zeka yeteneği artışının” bir parçası olarak, emrin göçmenlik kısıtlamalarını hafifletme ve uzmanlaşmış yapay zeka becerilerine sahip işçiler için vize sürecini kolaylaştırma girişimlerinden yararlanacak.
Elbette herkes heyecanlanmayacaktır. Muhafazakar güvenlik aktivistleri, Beyaz Saray’ın büyük yapay zeka modellerinin kullanımına daha katı sınırlamalar getirmesini veya kodu herkes tarafından serbestçe indirilip kullanılabilen açık kaynaklı modellerin geliştirilmesini engellemesini isteyebilir. Ve bazı ateşli yapay zeka savunucuları, hükümetin çoğunlukla iyi olduğunu düşündükleri bir teknolojinin gelişimini sınırlamak için herhangi bir şey yapmasından rahatsız olabilir.
Ancak yürütme emri pragmatizm ile ihtiyat arasında dikkatli bir denge kuruyor gibi görünüyor ve kapsamlı AI düzenlemelerini yürürlüğe koymak için kongre eyleminin yokluğunda, öngörülebilir gelecekte alabileceğimiz en açık rehberlik gibi görünüyor.
Özellikle yapay zeka yasasının önümüzdeki yıl yürürlüğe girebileceği Avrupa Birliği’nde ve bu hafta küresel liderler zirvesinin yeni çabalar getirmesinin beklendiği Birleşik Krallık’ta yapay zekayı düzenlemeye yönelik başka girişimler de olacak. bunu engellemek yapay zeka gelişimine yol açacaktır.
Beyaz Saray’ın emri, hızlı hareket etmek istediğinin bir işareti. Soru her zaman olduğu gibi yapay zekanın kendisinin daha hızlı ilerleyip ilerlemeyeceğidir.
Yapay zeka söz konusu olduğunda hükümetlerin karşılaştığı en büyük zorluk budur.
Yapay zekayı düzenleme konusunda çok yavaşsanız, potansiyel tehlikeleri ve teknolojinin tehlikeli şekilde kötüye kullanımını önleme fırsatını kaçırabilirsiniz.
Çok hızlı tepki verirseniz kötü veya zararlı kurallar yazma, yenilikleri engelleme veya Avrupa Birliği’nin durumuna benzer bir durumla karşı karşıya kalma riskiyle karşı karşıya kalırsınız. Yapay Zeka Yasası ilk olarak 2021’de, yeni üretken yapay zeka araçları dalgasının piyasaya çıkmasından hemen önce yayınlandı ve bu da yasanın çoğunu geçersiz kıldı. (Henüz yasalaşmamış olan öneri daha sonra bazı yeni teknolojilerle “ayakkabı çekeceği” olarak yeniden yazılmıştır, ancak yine de biraz hantaldır.)
Pazartesi günü Beyaz Saray, şirketlere yeni kurallar dayatan ve bir dizi federal kurumu teknoloji için koruma uygulamaya başlamaya yönlendiren kapsamlı bir idari emirle, hızlı hareket eden yapay zeka dünyasını yönetme girişimini duyurdu.
Biden yönetimi, diğer hükümetler gibi, ChatGPT ve diğer üretken yapay zeka uygulamalarının kamuoyunun bilincine girmesiyle geçen yılın sonlarından bu yana teknoloji hakkında bir şeyler yapma baskısı altında. Yapay zeka şirketleri, Kongre önünde ifade vermek üzere yöneticileri gönderdi ve milletvekillerine teknolojinin vaatleri ve tuzakları hakkında bilgi verdi. Aktivist gruplar ise federal hükümete yapay zekanın yeni siber silahlar ve yanıltıcı deepfake’ler oluşturma gibi tehlikeli kullanımlarını ele alması çağrısında bulundu.
Ek olarak, bazı araştırmacılar ve uzmanlar yapay zeka endüstrisini yavaşlamaya çağırırken diğerleri tam gaz hızlanmaya çalışırken Silikon Vadisi’nde bir kültürel savaş patlak verdi.
Başkan Biden’ın yürütme emri bir orta yol göstermeye çalışıyor: Yapay zeka gelişiminin büyük ölçüde bozulmadan devam etmesine izin verirken bazı mütevazı kurallar getiriyor ve federal hükümetin önümüzdeki yıllarda yapay zeka endüstrisini yakından takip etme niyetinde olduğunun sinyalini veriyor. Düzenleyicilerin ilgisini çekmeden önce on yıldan fazla bir süre boyunca engelsiz bir şekilde gelişmesine izin verilen bir teknoloji olan sosyal medyanın aksine, bu, Biden yönetiminin yapay zekanın gözden kaçmasına izin vermeye niyeti olmadığını gösteriyor.
100 sayfayı aşan tam idari emirde neredeyse herkes için bir şeyler var gibi görünüyor.
Yapay zekanın pandemiler ve nükleer silahlara benzer bir “yok olma riski” taşıdığını iddia eden bu yıl açık bir mektuba imza atanlar gibi en endişeli yapay zeka güvenliği savunucuları, düzenlemenin güçlü yapay zeka sistemleri inşa eden şirketlere yeni gereksinimler getirmesinden memnun olacak.
Özellikle en büyük yapay zeka sistemlerini üreten şirketlerin, modellerini kamuoyuna sunmadan önce hükümeti bilgilendirmesi ve güvenlik testlerinin sonuçlarını paylaşması gerekiyor.
Bu raporlama gereklilikleri, belirli bir bilgi işlem gücü eşiğinin (merak ediyorsanız 100 septilyondan fazla tamsayı veya kayan nokta işlemi) üzerindeki modeller için geçerlidir ve büyük olasılıkla OpenAI, Google ve diğer büyük şirketler tarafından geliştirilen yeni nesil modelleri içerecektir. Yapay zeka teknolojisini geliştiren şirketler.
Bu gereklilikler, başkana ABD şirketlerinin ulusal güvenlik açısından önemli görülen çabaları desteklemesini talep etme konusunda geniş yetki veren 1950 tarihli bir yasa olan Savunma Üretim Yasası tarafından uygulanmaktadır. Bu, kurallara hükümetin önceki gönüllü yapay zeka taahhütlerinde eksik olan dişleri verebilir.
Ek olarak emir, yapay zeka geliştiricilerine (bu listede Microsoft, Google ve Amazon da yer alıyor) bilgisayar kiralayan bulut sağlayıcılarının hükümeti yabancı müşterileri hakkında bilgilendirmesini gerektiriyor. Ayrıca Yapay Zeka modellerinin performansını ve güvenliğini ölçmek için standartlaştırılmış testler geliştirmek üzere Ulusal Standartlar ve Teknoloji Enstitüsü’ne talimat verir.
Yönetici emri aynı zamanda AI etik topluluğunu (AI’nın önyargı ve ayrımcılık gibi kısa vadeli zararlarından endişe duyan ve bu konuda uzun vadeli korkuların olduğuna inanan bir grup aktivist ve araştırmacıyı) memnun edecek bazı hükümler de içeriyor. Yapay zekanın yok oluşu abartılıyor.
Karar özellikle federal kurumları, konut, federal yardım programları ve ceza adaleti sisteminde ayrımcılığı şiddetlendirmek için yapay zeka algoritmalarının kullanılmasını önlemek için adımlar atmaya yönlendiriyor. Ayrıca Ticaret Departmanını, yapay zeka tarafından oluşturulan yanlış bilgilerin yayılmasıyla mücadeleye yardımcı olabilecek, yapay zeka tarafından oluşturulan içeriğe filigran eklemeye yönelik yönergeler geliştirmeye yönlendiriyor.
Peki bu kuralların hedefi olan yapay zeka şirketleri bunlar hakkında ne düşünüyor? Pazartesi günü konuştuğum birçok yönetici, Beyaz Saray emrinin büyük yapay zeka modellerini eğitmek için lisansa kaydolmalarını gerektirmemesinden dolayı rahatlamış görünüyordu; bu, sektördeki bazı yöneticilerin acımasız olarak eleştirdiği önerilen bir hamleydi. Ayrıca mevcut ürünlerinden herhangi birini piyasadan çekmeleri gerekmeyecek veya modellerinin boyutu ve onları eğitmek için kullanılan yöntemler gibi gizli tutmak istedikleri bilgileri açıklamaya zorlanmayacaklar.
Ayrıca, son aylarda sanatçıların ve diğer yaratıcıların saldırısına uğrayan ve mahkemede dava konusu olan yaygın bir uygulama olan yapay zeka modellerinin eğitiminde telif hakkıyla korunan verilerin kullanımını engellemeye de çalışmıyor.
Ve teknoloji şirketleri, ulusal “Yapay Zeka yeteneği artışının” bir parçası olarak, emrin göçmenlik kısıtlamalarını hafifletme ve uzmanlaşmış yapay zeka becerilerine sahip işçiler için vize sürecini kolaylaştırma girişimlerinden yararlanacak.
Elbette herkes heyecanlanmayacaktır. Muhafazakar güvenlik aktivistleri, Beyaz Saray’ın büyük yapay zeka modellerinin kullanımına daha katı sınırlamalar getirmesini veya kodu herkes tarafından serbestçe indirilip kullanılabilen açık kaynaklı modellerin geliştirilmesini engellemesini isteyebilir. Ve bazı ateşli yapay zeka savunucuları, hükümetin çoğunlukla iyi olduğunu düşündükleri bir teknolojinin gelişimini sınırlamak için herhangi bir şey yapmasından rahatsız olabilir.
Ancak yürütme emri pragmatizm ile ihtiyat arasında dikkatli bir denge kuruyor gibi görünüyor ve kapsamlı AI düzenlemelerini yürürlüğe koymak için kongre eyleminin yokluğunda, öngörülebilir gelecekte alabileceğimiz en açık rehberlik gibi görünüyor.
Özellikle yapay zeka yasasının önümüzdeki yıl yürürlüğe girebileceği Avrupa Birliği’nde ve bu hafta küresel liderler zirvesinin yeni çabalar getirmesinin beklendiği Birleşik Krallık’ta yapay zekayı düzenlemeye yönelik başka girişimler de olacak. bunu engellemek yapay zeka gelişimine yol açacaktır.
Beyaz Saray’ın emri, hızlı hareket etmek istediğinin bir işareti. Soru her zaman olduğu gibi yapay zekanın kendisinin daha hızlı ilerleyip ilerlemeyeceğidir.