Avrupa Birliği politika yapıcıları Cuma günü yapay zekayı düzenlemek için kapsamlı yeni bir yasa üzerinde anlaştılar. Bu, geniş kapsamlı sosyal ve ekonomik sonuçları olan, hızla gelişen bir teknolojinin kullanımını sınırlamaya yönelik dünyanın ilk kapsamlı girişimlerinden biridir.
Yapay Zeka Yasası adı verilen yasa, kendilerini iş otomasyonu, çevrimiçi yanlış bilgilerin yayılması ve ulusal güvenliğe yönelik tehditler gibi potansiyel risklerden korurken teknolojinin potansiyel faydalarından yararlanmak isteyen ülkeler için yeni bir küresel kriter belirliyor. Yasanın geçmesinden önce atılması gereken birkaç son adım daha var, ancak siyasi anlaşmaya varıldığında temel ilkeler netleşecek.
Avrupalı politika yapıcılar, kolluk kuvvetleri ve su ve enerji gibi kritik hizmetlerin işletilmesi de dahil olmak üzere yapay zekanın şirketler ve hükümetler tarafından en riskli kullanım alanlarına odaklandı. ChatGPT chatbot’una güç verenler gibi en büyük genel amaçlı yapay zeka sistemlerinin üreticileri yeni şeffaflık gereksinimleriyle karşı karşıya kalacak. AB yetkilileri ve önceki taslak mevzuat, “deepfake” gibi manipüle edilmiş görüntüler oluşturan sohbet robotları ve yazılımların, insanların gördüklerinin yapay zeka tarafından oluşturulduğunu açıkça belirtmesi gerektiğini söyledi.
Polis ve hükümetin yüz tanıma yazılımı kullanımı, belirli güvenlik ve ulusal güvenlik istisnaları dışında kısıtlanacak. Düzenlemeleri ihlal eden şirketler, küresel satışların yüzde 7’sine kadar para cezalarıyla karşı karşıya kalabilir.
Müzakerelere katılan Avrupa Komiseri Thierry Breton, “Avrupa kendisini öncü olarak konumlandırdı ve küresel standart belirleyici olarak rolünün öneminin farkında” dedi. Anlaşmabir açıklamada söyledi.
Ancak yasa, düzenleyici açıdan çığır açıcı bir gelişme olarak alkışlanırken, etkinliğine ilişkin sorular hâlâ devam ediyordu. Direktifin pek çok yönünün, yapay zeka gelişimi için önemli bir süre olan 12 ila 24 ay boyunca yürürlüğe girmeyeceği bekleniyordu. Müzakerelerin son dakikasına kadar politika yapıcılar ve ülkeler, ifadelerin ve teşvik edici yeniliği potansiyel zarara karşı koruma ihtiyacı ile nasıl dengeleyecekleri üzerinde tartıştılar.
Brüksel’de varılan anlaşma, Çarşamba öğleden sonra başlayan ve Perşembe gününe kadar devam eden 22 saatlik ilk oturum da dahil olmak üzere üç gün süren müzakereler sürdü. Nihai anlaşma hemen kamuya açıklanmadı çünkü teknik ayrıntıların nihai hale getirilmesi için perde arkasında görüşmelerin devam etmesi bekleniyordu ve bu da nihai kabulü geciktirebilirdi. Oylamaların Parlamento’da ve Birliğin 27 ülkesinin temsilcilerinden oluşan Avrupa Konseyi’nde yapılması gerekiyor.
Yapay zekanın ilerleyen yeteneklerini göstererek küresel bir sansasyon haline gelen ChatGPT’nin geçen yıl piyasaya sürülmesinin ardından yapay zeka düzenlemesi aciliyet kazandı. Amerika Birleşik Devletleri’nde Biden yönetimi yakın zamanda kısmen yapay zekanın ulusal güvenlik üzerindeki etkilerine odaklanan bir idari emir yayınladı. İngiltere, Japonya ve diğer ülkeler daha temkinli bir yaklaşım sergilerken Çin, veri kullanımı ve öneri algoritmalarına bazı kısıtlamalar getirdi.
Yapay zekanın küresel ekonomiyi yeniden şekillendirmesi beklendiğinden, tahminen trilyonlarca dolar tehlikede. Fransa’nın dijital bakanı Jean-Noël Barrot bu hafta “Teknolojik hakimiyet ekonomik ve politik hakimiyetten önce gelir” dedi.
Avrupa, yapay zekayı düzenleme konusunda en gelişmiş bölgeler arasında yer aldı ve 2018’de Yapay Zeka Yasasının ne olacağı üzerinde çalışmaya başladı. Son yıllarda AB liderleri, sağlık hizmetleri veya bankacılık endüstrilerinin düzenlenmesine benzer şekilde, teknoloji üzerinde yeni bir gözetim düzeyi elde etmeye çalıştılar. Blok halihazırda gizlilik, rekabet ve içerik denetimiyle ilgili geniş kapsamlı yasaları kabul etti.
AI yasasının ilk taslağı 2021’de yayınlandı. Ancak teknolojik atılımlar belirginleştikçe politika yapıcılar yasayı yeniden yazmak zorunda kaldı. İlk versiyonda ChatGPT’yi destekleyenler gibi genel AI modellerinden bahsedilmiyordu.
Politika yapıcılar, tanımlanmış bir dizi uygulamanın en fazla gözetim ve kısıtlamaya tabi olduğu, yapay zekayı düzenlemeye yönelik “risk temelli yaklaşım” olarak adlandırdıkları şey üzerinde anlaştılar. İşe alma ve eğitim gibi konularda bireylere ve topluma en büyük potansiyel zararı veren yapay zeka araçlarını üreten şirketlerin, düzenleyicilere risk değerlendirmelerine ilişkin kanıtları, sistemleri eğitmek için hangi verilerin kullanıldığına ilişkin dökümleri ve Bunu yapan yazılım aşağıdaki gibi herhangi bir zarara neden olmayacaktır: B. ırksal önyargıların sürdürülmesi. Sistemlerin oluşturulması ve devreye alınmasında insan gözetimi de gerekli olacaktır.
Yüz tanıma veri tabanı oluşturmak için internetten rastgele görüntü alma gibi bazı uygulamalar tamamen yasaklanacak.
Avrupa Birliği’ndeki tartışmanın çekişmeli olması, yapay zekanın yasa koyucuların kafasını nasıl karıştırdığının bir işareti. AB yetkilileri, Google ve OpenAI gibi Amerikan şirketlerine yetişmeye çalışan Avrupalı girişimlerin engellenmesi korkusuyla, yeni yapay zeka sistemlerinin ne kadar derinlemesine düzenlenmesi gerektiği konusunda bölünmüş durumda.
Breton, yasanın, en büyük yapay zeka modellerinin yapımcılarına, sistemlerinin nasıl çalıştığına ilişkin bilgileri açıklama ve “sistemik riskleri” kontrol etme gerekliliklerini eklediğini söyledi.
Yeni düzenlemeler dünya çapında büyük ilgiyle izleniyor. Bu durum yalnızca Google, Meta, Microsoft ve OpenAI gibi büyük yapay zeka geliştiricilerini değil, aynı zamanda teknolojiyi eğitim, sağlık ve bankacılık gibi alanlarda kullanması beklenen diğer şirketleri de etkileyecek. Hükümetler ayrıca ceza adaleti ve kamu hizmetlerinin tahsisi konusunda giderek daha fazla yapay zekaya güveniyor.
Uygulama belirsizliğini koruyor. Yapay zeka yasası 27 ülkedeki düzenleyicileri kapsayacak ve hükümet bütçelerinin kısıtlı olduğu bir dönemde yeni uzmanların işe alınmasını gerektirecek. Şirketler yeni kuralları mahkemede test ettikçe yasal zorluklar yaşanması muhtemeldir. Genel Veri Koruma Yönetmeliği olarak bilinen dönüm noktası niteliğindeki dijital gizlilik yasası da dahil olmak üzere önceki AB mevzuatı, eşit olmayan bir şekilde uygulanması nedeniyle eleştirildi.
Avrupalı yasa yapıcılara yapay zeka hukuku konusunda tavsiyelerde bulunan İrlanda Sivil Özgürlükler Konseyi kıdemli üyesi Kris Shrishak, “AB’nin düzenleyici yetenekleri sorgulanıyor” dedi. “Güçlü yaptırımlar olmadan bu anlaşmanın hiçbir anlamı olmayacak.”
Yapay Zeka Yasası adı verilen yasa, kendilerini iş otomasyonu, çevrimiçi yanlış bilgilerin yayılması ve ulusal güvenliğe yönelik tehditler gibi potansiyel risklerden korurken teknolojinin potansiyel faydalarından yararlanmak isteyen ülkeler için yeni bir küresel kriter belirliyor. Yasanın geçmesinden önce atılması gereken birkaç son adım daha var, ancak siyasi anlaşmaya varıldığında temel ilkeler netleşecek.
Avrupalı politika yapıcılar, kolluk kuvvetleri ve su ve enerji gibi kritik hizmetlerin işletilmesi de dahil olmak üzere yapay zekanın şirketler ve hükümetler tarafından en riskli kullanım alanlarına odaklandı. ChatGPT chatbot’una güç verenler gibi en büyük genel amaçlı yapay zeka sistemlerinin üreticileri yeni şeffaflık gereksinimleriyle karşı karşıya kalacak. AB yetkilileri ve önceki taslak mevzuat, “deepfake” gibi manipüle edilmiş görüntüler oluşturan sohbet robotları ve yazılımların, insanların gördüklerinin yapay zeka tarafından oluşturulduğunu açıkça belirtmesi gerektiğini söyledi.
Polis ve hükümetin yüz tanıma yazılımı kullanımı, belirli güvenlik ve ulusal güvenlik istisnaları dışında kısıtlanacak. Düzenlemeleri ihlal eden şirketler, küresel satışların yüzde 7’sine kadar para cezalarıyla karşı karşıya kalabilir.
Müzakerelere katılan Avrupa Komiseri Thierry Breton, “Avrupa kendisini öncü olarak konumlandırdı ve küresel standart belirleyici olarak rolünün öneminin farkında” dedi. Anlaşmabir açıklamada söyledi.
Ancak yasa, düzenleyici açıdan çığır açıcı bir gelişme olarak alkışlanırken, etkinliğine ilişkin sorular hâlâ devam ediyordu. Direktifin pek çok yönünün, yapay zeka gelişimi için önemli bir süre olan 12 ila 24 ay boyunca yürürlüğe girmeyeceği bekleniyordu. Müzakerelerin son dakikasına kadar politika yapıcılar ve ülkeler, ifadelerin ve teşvik edici yeniliği potansiyel zarara karşı koruma ihtiyacı ile nasıl dengeleyecekleri üzerinde tartıştılar.
Brüksel’de varılan anlaşma, Çarşamba öğleden sonra başlayan ve Perşembe gününe kadar devam eden 22 saatlik ilk oturum da dahil olmak üzere üç gün süren müzakereler sürdü. Nihai anlaşma hemen kamuya açıklanmadı çünkü teknik ayrıntıların nihai hale getirilmesi için perde arkasında görüşmelerin devam etmesi bekleniyordu ve bu da nihai kabulü geciktirebilirdi. Oylamaların Parlamento’da ve Birliğin 27 ülkesinin temsilcilerinden oluşan Avrupa Konseyi’nde yapılması gerekiyor.
Yapay zekanın ilerleyen yeteneklerini göstererek küresel bir sansasyon haline gelen ChatGPT’nin geçen yıl piyasaya sürülmesinin ardından yapay zeka düzenlemesi aciliyet kazandı. Amerika Birleşik Devletleri’nde Biden yönetimi yakın zamanda kısmen yapay zekanın ulusal güvenlik üzerindeki etkilerine odaklanan bir idari emir yayınladı. İngiltere, Japonya ve diğer ülkeler daha temkinli bir yaklaşım sergilerken Çin, veri kullanımı ve öneri algoritmalarına bazı kısıtlamalar getirdi.
Yapay zekanın küresel ekonomiyi yeniden şekillendirmesi beklendiğinden, tahminen trilyonlarca dolar tehlikede. Fransa’nın dijital bakanı Jean-Noël Barrot bu hafta “Teknolojik hakimiyet ekonomik ve politik hakimiyetten önce gelir” dedi.
Avrupa, yapay zekayı düzenleme konusunda en gelişmiş bölgeler arasında yer aldı ve 2018’de Yapay Zeka Yasasının ne olacağı üzerinde çalışmaya başladı. Son yıllarda AB liderleri, sağlık hizmetleri veya bankacılık endüstrilerinin düzenlenmesine benzer şekilde, teknoloji üzerinde yeni bir gözetim düzeyi elde etmeye çalıştılar. Blok halihazırda gizlilik, rekabet ve içerik denetimiyle ilgili geniş kapsamlı yasaları kabul etti.
AI yasasının ilk taslağı 2021’de yayınlandı. Ancak teknolojik atılımlar belirginleştikçe politika yapıcılar yasayı yeniden yazmak zorunda kaldı. İlk versiyonda ChatGPT’yi destekleyenler gibi genel AI modellerinden bahsedilmiyordu.
Politika yapıcılar, tanımlanmış bir dizi uygulamanın en fazla gözetim ve kısıtlamaya tabi olduğu, yapay zekayı düzenlemeye yönelik “risk temelli yaklaşım” olarak adlandırdıkları şey üzerinde anlaştılar. İşe alma ve eğitim gibi konularda bireylere ve topluma en büyük potansiyel zararı veren yapay zeka araçlarını üreten şirketlerin, düzenleyicilere risk değerlendirmelerine ilişkin kanıtları, sistemleri eğitmek için hangi verilerin kullanıldığına ilişkin dökümleri ve Bunu yapan yazılım aşağıdaki gibi herhangi bir zarara neden olmayacaktır: B. ırksal önyargıların sürdürülmesi. Sistemlerin oluşturulması ve devreye alınmasında insan gözetimi de gerekli olacaktır.
Yüz tanıma veri tabanı oluşturmak için internetten rastgele görüntü alma gibi bazı uygulamalar tamamen yasaklanacak.
Avrupa Birliği’ndeki tartışmanın çekişmeli olması, yapay zekanın yasa koyucuların kafasını nasıl karıştırdığının bir işareti. AB yetkilileri, Google ve OpenAI gibi Amerikan şirketlerine yetişmeye çalışan Avrupalı girişimlerin engellenmesi korkusuyla, yeni yapay zeka sistemlerinin ne kadar derinlemesine düzenlenmesi gerektiği konusunda bölünmüş durumda.
Breton, yasanın, en büyük yapay zeka modellerinin yapımcılarına, sistemlerinin nasıl çalıştığına ilişkin bilgileri açıklama ve “sistemik riskleri” kontrol etme gerekliliklerini eklediğini söyledi.
Yeni düzenlemeler dünya çapında büyük ilgiyle izleniyor. Bu durum yalnızca Google, Meta, Microsoft ve OpenAI gibi büyük yapay zeka geliştiricilerini değil, aynı zamanda teknolojiyi eğitim, sağlık ve bankacılık gibi alanlarda kullanması beklenen diğer şirketleri de etkileyecek. Hükümetler ayrıca ceza adaleti ve kamu hizmetlerinin tahsisi konusunda giderek daha fazla yapay zekaya güveniyor.
Uygulama belirsizliğini koruyor. Yapay zeka yasası 27 ülkedeki düzenleyicileri kapsayacak ve hükümet bütçelerinin kısıtlı olduğu bir dönemde yeni uzmanların işe alınmasını gerektirecek. Şirketler yeni kuralları mahkemede test ettikçe yasal zorluklar yaşanması muhtemeldir. Genel Veri Koruma Yönetmeliği olarak bilinen dönüm noktası niteliğindeki dijital gizlilik yasası da dahil olmak üzere önceki AB mevzuatı, eşit olmayan bir şekilde uygulanması nedeniyle eleştirildi.
Avrupalı yasa yapıcılara yapay zeka hukuku konusunda tavsiyelerde bulunan İrlanda Sivil Özgürlükler Konseyi kıdemli üyesi Kris Shrishak, “AB’nin düzenleyici yetenekleri sorgulanıyor” dedi. “Güçlü yaptırımlar olmadan bu anlaşmanın hiçbir anlamı olmayacak.”