Beyaz Saray Cuma günü yaptığı açıklamada, Amerika Birleşik Devletleri’ndeki yedi önde gelen AI şirketinin teknolojinin gelişimi için gönüllü koruma önlemleri almayı kabul ettiğini ve yapay zeka potansiyeli için rekabet etseler bile yeni araçların risklerini yönetme sözü verdiğini söyledi.
Yedi şirket – Amazon, Anthropic, Google, Inflection, Meta, Microsoft ve OpenAI – cuma günü öğleden sonra Beyaz Saray’da Başkan Biden ile yapacakları toplantıda güvenlik ve güven alanında yeni standartlara bağlılıklarını resmen açıklayacak.
Duyuru, şirketlerin insan müdahalesi olmadan metin, fotoğraf, müzik ve video oluşturmanın güçlü yeni yollarını sunan AI sürümleriyle birbirlerini geçmek için yarıştığı bir zamanda geliyor. Ancak teknolojideki sıçramalar, kendini tanıyan bilgisayarlar gelişmeye devam ettikçe, dezenformasyonun yayılmasına ilişkin korkuları ve “yok olma tehdidi” konusunda ciddi uyarıları ateşledi.
Washington ve dünyanın dört bir yanındaki hükümetler yapay zeka gelişimi için yasal ve düzenleyici çerçeveler oluşturmak için acele ederken, gönüllü koruma önlemleri yalnızca ilk ve geçici bir adım. Milletvekilleri sosyal medyayı ve diğer teknolojileri düzenlemek için uğraşırken bile Biden yönetiminin ve milletvekillerinin hızla gelişen teknolojiye yanıt verme aciliyetini yansıtıyorlar.
Beyaz Saray, daha büyük bir konuyu ele alacak olan, yaklaşmakta olan bir yürütme emri hakkında ayrıntı vermedi: Çin’in ve diğer rakiplerin yeni yapay zeka programlarını veya bunları geliştirmek için kullanılan bileşenleri ele geçirme yeteneğinin nasıl kontrol edileceği.
Bu, gelişmiş yarı iletkenlere yönelik yeni kısıtlamaları ve büyük dil modellerini dışa aktarmaya yönelik kısıtlamaları içerir. Bunları kontrol etmek zordur – yazılımın büyük bir kısmı sıkıştırılmış bir USB belleğe sığar.
Uzmanlar, ilgili şirketlerin uygulamalarına zaten yansıdığını söylediğine göre, bir icra emri sektörde Cuma günkü taahhütlerden daha fazla muhalefet yaratabilir. Sözler, yapay zeka şirketlerinin planlarını sınırlandırmayacak veya teknolojilerinin gelişimini engellemeyecektir. Ve bunlar gönüllü taahhütler olduğundan, hükümet düzenleyicileri tarafından uygulanmazlar.
Facebook’un ana şirketi Meta’nın küresel ilişkiler başkanı Nick Clegg yaptığı açıklamada, “Sektördeki diğerleriyle birlikte bu gönüllü taahhütleri yapmaktan heyecan duyuyoruz” dedi. “Sorumlu yapay zeka korkuluklarının yerinde olmasını sağlamada önemli bir ilk adım ve diğer hükümetlerin takip etmesi için bir model oluşturuyorlar.”
Önlemlerin bir parçası olarak, şirketler aşağıdakiler üzerinde anlaştılar:
Hükümetten yapılan açıklamada, “Bu yeni teknolojileri geliştiren şirketler, ürünlerinin güvenli olmasını sağlama sorumluluğuna sahiptir” dedi.
Microsoft’un başkanı ve Beyaz Saray toplantısına katılan yöneticilerden biri olan Brad Smith, şirketinin gönüllü korumaları desteklediğini söyledi.
Smith, “Beyaz Saray, hızlı hareket ederek, AI vaadinin risklerinin önünde kalmasını sağlamak için bir temel atmayı taahhüt ediyor” dedi.
OpenAI Global İşler Başkan Yardımcısı Anna Makanju, duyuruyu “AI yönetişimini ilerletmek için dünyanın dört bir yanındaki hükümetler, sivil toplum kuruluşları ve diğerleriyle devam eden işbirliğimizin bir parçası” olarak nitelendirdi.
Şirketler için, Cuma günü açıklanan standartlar iki amaca hizmet ediyor: özdenetim yoluyla yasal ve düzenleyici önlemleri önlemeyi veya şekillendirmeyi ve bu yeni teknoloji konusunda dikkatli ve proaktif olduklarını göstermeyi amaçlıyorlar.
Ancak üzerinde anlaştıkları kurallar büyük ölçüde en küçük ortak paydadır ve her şirket tarafından farklı yorumlanabilir. Örneğin şirketler, üretken yapay zeka programlarının geliştirildiği “dil modellerini” oluşturmak için kullanılan veriler ve kodlar etrafında katı bir siber güvenlik taahhüdü veriyor. Ancak bunun ne anlama geldiğine dair somut bir bilgi yok ve şirketler fikri mülkiyetlerini korumakla her halükarda ilgilenecekler.
Ve en ihtiyatlı şirketler bile savunmasızdır. Bay Biden ile Beyaz Saray etkinliğine katılan şirketlerden biri olan Microsoft, geçen hafta Amerikan yetkililerinin Çin ile ilgili özel e-postalarının Çin hükümeti sponsorluğunda ele geçirilmesine karşı koymak için mücadele etti. Görünüşe göre Çin, şirketin en iyi korunan kod parçalarından biri olan e-postanın kimliğini doğrulamanın anahtarı olan Microsoft’tan bir “özel anahtar” çalmış veya bir şekilde elde etmiş.
Bu nedenle, anlaşmanın yeni teknolojiyi yasalaştırma ve düzenleme çabalarını yavaşlatması pek olası değil.
New York Üniversitesi’ndeki Stern İş ve İnsan Hakları Merkezi’nin müdür yardımcısı Paul Barrett, yapay zekanın toplum için oluşturduğu tehlikelere karşı korunmak için daha fazlasının yapılması gerektiğini söyledi.
Barrett yaptığı açıklamada, “Bugün açıklanan gönüllü taahhütler uygulanamaz, bu nedenle Kongre’nin Beyaz Saray ile birlikte şeffaflık, mahremiyet korumaları ve üretken yapay zekanın ortaya koyduğu çoklu risklere yönelik artan araştırma gerektiren yasaları acilen çıkarması önemlidir.” dedi.
Avrupalı düzenleyiciler, bu yılın sonlarında AI mevzuatını geçirmeye hazırlanıyor ve bu da birçok şirketin ABD düzenlemelerini zorlamasına neden oluyor. Birkaç milletvekili, AI şirketlerine teknolojilerini tanıtmaları için lisans vermeyi, sektörü denetlemek için federal bir kurum oluşturmayı ve gizlilik gereksinimlerini içeren yasa tasarıları çıkardı. Ancak kongre üyeleri kurallar konusunda hemfikir olmaktan çok uzaklar ve kendilerini teknoloji konusunda eğitmek için çabalıyorlar.
Milletvekilleri, yapay zeka teknolojisinin yükselişiyle nasıl başa çıkılacağı konusunda boğuştu. Bazıları tüketicilere yönelik risklere odaklanırken, diğerleri bu alandaki hakimiyet yarışında başta Çin olmak üzere rakiplerinin gerisinde kalabileceklerinden endişe ediyor.
Bu hafta, Çin ile Stratejik Rekabete İlişkin Temsilciler Meclisi Seçim Komitesi, ABD merkezli girişim sermayesi şirketlerine Çinli yapay zeka ve yarı iletken şirketlerine yaptıkları yatırımların muhasebesini talep eden iki partili mektuplar gönderdi. Bu mektuplar, çeşitli Meclis ve Senato panellerinin, Kongre’nin ne tür yasal korkulukları ve teşvikleri dikkate alması gerektiğini belirlemek için AI endüstrisinin en etkili girişimcilerini ve eleştirmenlerini oyladığı ayları takip ediyor.
San Francisco’daki OpenAI girişiminden Sam Altman da dahil olmak üzere bu tanıkların çoğu, yeni teknolojinin gereksiz zararlara neden olabileceğini öne sürerek milletvekillerini yapay zeka endüstrisini düzenlemeye çağırdı. Ancak bu düzenleme, birçok milletvekilinin hala yapay zeka teknolojisinin tam olarak ne olduğunu anlamakta zorlandığı Kongre’de ivme kazanmakta yavaş kalıyor.
Milletvekillerinin anlayışını artırmak için, New York Demokratı ve Çoğunluk Lideri Senatör Chuck Schumer, bu yaz çeşitli alanlarda yapay zekanın yararları ve tehlikeleri hakkında hükümet yetkilileri ve uzmanlarla röportaj yapmak için bir dizi milletvekili dinleme oturumu başlattı.
Bay Schumer ayrıca, Pentagon çalışanlarını yapay zeka araçlarıyla ilgili olası sorunları bir “hata ödülü” programı aracılığıyla bildirmeye teşvik etmek, yapay zeka verilerinin paylaşımının nasıl iyileştirileceğine ilişkin bir Pentagon raporu görevlendirmek ve finansal hizmetler endüstrisinde yapay zeka hakkında raporlamayı iyileştirmek için bu yılki Savunma Yetki Yasası’nın Senato versiyonunda bir değişiklik hazırladı.
Karun Demirciyan Washington’dan gelen haberlere katkıda bulundu.
Yedi şirket – Amazon, Anthropic, Google, Inflection, Meta, Microsoft ve OpenAI – cuma günü öğleden sonra Beyaz Saray’da Başkan Biden ile yapacakları toplantıda güvenlik ve güven alanında yeni standartlara bağlılıklarını resmen açıklayacak.
Duyuru, şirketlerin insan müdahalesi olmadan metin, fotoğraf, müzik ve video oluşturmanın güçlü yeni yollarını sunan AI sürümleriyle birbirlerini geçmek için yarıştığı bir zamanda geliyor. Ancak teknolojideki sıçramalar, kendini tanıyan bilgisayarlar gelişmeye devam ettikçe, dezenformasyonun yayılmasına ilişkin korkuları ve “yok olma tehdidi” konusunda ciddi uyarıları ateşledi.
Washington ve dünyanın dört bir yanındaki hükümetler yapay zeka gelişimi için yasal ve düzenleyici çerçeveler oluşturmak için acele ederken, gönüllü koruma önlemleri yalnızca ilk ve geçici bir adım. Milletvekilleri sosyal medyayı ve diğer teknolojileri düzenlemek için uğraşırken bile Biden yönetiminin ve milletvekillerinin hızla gelişen teknolojiye yanıt verme aciliyetini yansıtıyorlar.
Beyaz Saray, daha büyük bir konuyu ele alacak olan, yaklaşmakta olan bir yürütme emri hakkında ayrıntı vermedi: Çin’in ve diğer rakiplerin yeni yapay zeka programlarını veya bunları geliştirmek için kullanılan bileşenleri ele geçirme yeteneğinin nasıl kontrol edileceği.
Bu, gelişmiş yarı iletkenlere yönelik yeni kısıtlamaları ve büyük dil modellerini dışa aktarmaya yönelik kısıtlamaları içerir. Bunları kontrol etmek zordur – yazılımın büyük bir kısmı sıkıştırılmış bir USB belleğe sığar.
Uzmanlar, ilgili şirketlerin uygulamalarına zaten yansıdığını söylediğine göre, bir icra emri sektörde Cuma günkü taahhütlerden daha fazla muhalefet yaratabilir. Sözler, yapay zeka şirketlerinin planlarını sınırlandırmayacak veya teknolojilerinin gelişimini engellemeyecektir. Ve bunlar gönüllü taahhütler olduğundan, hükümet düzenleyicileri tarafından uygulanmazlar.
Facebook’un ana şirketi Meta’nın küresel ilişkiler başkanı Nick Clegg yaptığı açıklamada, “Sektördeki diğerleriyle birlikte bu gönüllü taahhütleri yapmaktan heyecan duyuyoruz” dedi. “Sorumlu yapay zeka korkuluklarının yerinde olmasını sağlamada önemli bir ilk adım ve diğer hükümetlerin takip etmesi için bir model oluşturuyorlar.”
Önlemlerin bir parçası olarak, şirketler aşağıdakiler üzerinde anlaştılar:
AI ürünlerinin güvenlik testleri, bazen bağımsız uzmanlar tarafından ve ürünleri hakkındaki bilgileri hükümetlerle ve teknolojinin risklerini yönetmeye çalışan diğer kişilerle paylaşmak için.
Filigranlar veya oluşturulan içeriği tanımlamanın diğer yollarını uygulayarak tüketicilerin AI tarafından oluşturulan materyali tanıyabilmelerini sağlamak.
Güvenlik riskleri ve önyargı işaretleri de dahil olmak üzere sistemlerinin yetenekleri ve sınırlamaları hakkında düzenli olarak halka açık raporlama.
Kanseri tedavi etmek ve iklim değişikliğiyle mücadele etmek gibi toplumun en büyük zorluklarını çözmek için gelişmiş yapay zeka araçlarını kullanmak.
Yapay zeka araçlarının yaygınlaşmasından kaynaklanan önyargı, ayrımcılık ve mahremiyet ihlali riskleri hakkında araştırma yapmak.
Hükümetten yapılan açıklamada, “Bu yeni teknolojileri geliştiren şirketler, ürünlerinin güvenli olmasını sağlama sorumluluğuna sahiptir” dedi.
Microsoft’un başkanı ve Beyaz Saray toplantısına katılan yöneticilerden biri olan Brad Smith, şirketinin gönüllü korumaları desteklediğini söyledi.
Smith, “Beyaz Saray, hızlı hareket ederek, AI vaadinin risklerinin önünde kalmasını sağlamak için bir temel atmayı taahhüt ediyor” dedi.
OpenAI Global İşler Başkan Yardımcısı Anna Makanju, duyuruyu “AI yönetişimini ilerletmek için dünyanın dört bir yanındaki hükümetler, sivil toplum kuruluşları ve diğerleriyle devam eden işbirliğimizin bir parçası” olarak nitelendirdi.
Şirketler için, Cuma günü açıklanan standartlar iki amaca hizmet ediyor: özdenetim yoluyla yasal ve düzenleyici önlemleri önlemeyi veya şekillendirmeyi ve bu yeni teknoloji konusunda dikkatli ve proaktif olduklarını göstermeyi amaçlıyorlar.
Ancak üzerinde anlaştıkları kurallar büyük ölçüde en küçük ortak paydadır ve her şirket tarafından farklı yorumlanabilir. Örneğin şirketler, üretken yapay zeka programlarının geliştirildiği “dil modellerini” oluşturmak için kullanılan veriler ve kodlar etrafında katı bir siber güvenlik taahhüdü veriyor. Ancak bunun ne anlama geldiğine dair somut bir bilgi yok ve şirketler fikri mülkiyetlerini korumakla her halükarda ilgilenecekler.
Ve en ihtiyatlı şirketler bile savunmasızdır. Bay Biden ile Beyaz Saray etkinliğine katılan şirketlerden biri olan Microsoft, geçen hafta Amerikan yetkililerinin Çin ile ilgili özel e-postalarının Çin hükümeti sponsorluğunda ele geçirilmesine karşı koymak için mücadele etti. Görünüşe göre Çin, şirketin en iyi korunan kod parçalarından biri olan e-postanın kimliğini doğrulamanın anahtarı olan Microsoft’tan bir “özel anahtar” çalmış veya bir şekilde elde etmiş.
Bu nedenle, anlaşmanın yeni teknolojiyi yasalaştırma ve düzenleme çabalarını yavaşlatması pek olası değil.
New York Üniversitesi’ndeki Stern İş ve İnsan Hakları Merkezi’nin müdür yardımcısı Paul Barrett, yapay zekanın toplum için oluşturduğu tehlikelere karşı korunmak için daha fazlasının yapılması gerektiğini söyledi.
Barrett yaptığı açıklamada, “Bugün açıklanan gönüllü taahhütler uygulanamaz, bu nedenle Kongre’nin Beyaz Saray ile birlikte şeffaflık, mahremiyet korumaları ve üretken yapay zekanın ortaya koyduğu çoklu risklere yönelik artan araştırma gerektiren yasaları acilen çıkarması önemlidir.” dedi.
Avrupalı düzenleyiciler, bu yılın sonlarında AI mevzuatını geçirmeye hazırlanıyor ve bu da birçok şirketin ABD düzenlemelerini zorlamasına neden oluyor. Birkaç milletvekili, AI şirketlerine teknolojilerini tanıtmaları için lisans vermeyi, sektörü denetlemek için federal bir kurum oluşturmayı ve gizlilik gereksinimlerini içeren yasa tasarıları çıkardı. Ancak kongre üyeleri kurallar konusunda hemfikir olmaktan çok uzaklar ve kendilerini teknoloji konusunda eğitmek için çabalıyorlar.
Milletvekilleri, yapay zeka teknolojisinin yükselişiyle nasıl başa çıkılacağı konusunda boğuştu. Bazıları tüketicilere yönelik risklere odaklanırken, diğerleri bu alandaki hakimiyet yarışında başta Çin olmak üzere rakiplerinin gerisinde kalabileceklerinden endişe ediyor.
Bu hafta, Çin ile Stratejik Rekabete İlişkin Temsilciler Meclisi Seçim Komitesi, ABD merkezli girişim sermayesi şirketlerine Çinli yapay zeka ve yarı iletken şirketlerine yaptıkları yatırımların muhasebesini talep eden iki partili mektuplar gönderdi. Bu mektuplar, çeşitli Meclis ve Senato panellerinin, Kongre’nin ne tür yasal korkulukları ve teşvikleri dikkate alması gerektiğini belirlemek için AI endüstrisinin en etkili girişimcilerini ve eleştirmenlerini oyladığı ayları takip ediyor.
San Francisco’daki OpenAI girişiminden Sam Altman da dahil olmak üzere bu tanıkların çoğu, yeni teknolojinin gereksiz zararlara neden olabileceğini öne sürerek milletvekillerini yapay zeka endüstrisini düzenlemeye çağırdı. Ancak bu düzenleme, birçok milletvekilinin hala yapay zeka teknolojisinin tam olarak ne olduğunu anlamakta zorlandığı Kongre’de ivme kazanmakta yavaş kalıyor.
Milletvekillerinin anlayışını artırmak için, New York Demokratı ve Çoğunluk Lideri Senatör Chuck Schumer, bu yaz çeşitli alanlarda yapay zekanın yararları ve tehlikeleri hakkında hükümet yetkilileri ve uzmanlarla röportaj yapmak için bir dizi milletvekili dinleme oturumu başlattı.
Bay Schumer ayrıca, Pentagon çalışanlarını yapay zeka araçlarıyla ilgili olası sorunları bir “hata ödülü” programı aracılığıyla bildirmeye teşvik etmek, yapay zeka verilerinin paylaşımının nasıl iyileştirileceğine ilişkin bir Pentagon raporu görevlendirmek ve finansal hizmetler endüstrisinde yapay zeka hakkında raporlamayı iyileştirmek için bu yılki Savunma Yetki Yasası’nın Senato versiyonunda bir değişiklik hazırladı.
Karun Demirciyan Washington’dan gelen haberlere katkıda bulundu.