Avrupa Birliği Çarşamba günü, hızla gelişen teknolojinin nasıl sınırlandırılacağıyla boğuşan dünyanın dört bir yanındaki politika yapıcılar için potansiyel bir model olan yapay zekayı düzenleyen ilk büyük yasalardan birini geçirme yolunda büyük bir adım attı.
AB’nin ana yasama organlarından biri olan Avrupa Parlamentosu, teknolojinin en riskli kullanımları olarak kabul edilenlere yeni kısıtlamalar getiren “AI Yasası” adlı bir yasa tasarısını kabul etti. Yüz tanıma yazılımının kullanımını ciddi şekilde sınırlandırırken, ChatGPT sohbet robotu gibi yapay zeka sistemi üreticilerinin programlarını oluşturmak için kullanılan veriler hakkında daha fazla bilgi vermesini gerektirecektir.
Oylama, daha uzun bir süreçteki bir adımdır. Yasanın nihai halinin bu yılın sonlarına kadar kabul edilmesi beklenmiyor.
Avrupa Birliği, yapay zekayı düzenlemede Amerika Birleşik Devletleri ve diğer büyük batılı hükümetlerden daha ileridedir. 27 ulustan oluşan blok, konuyu iki yılı aşkın bir süredir tartışıyor ve bu konu, ChatGPT’nin geçen yıl yayınlanmasının ardından yeni bir aciliyet kazandı ve bu da teknolojinin istihdam ve toplum üzerindeki potansiyel etkisine ilişkin endişeleri artırdı.
Washington’dan Pekin’e kadar her yerde, politika yapıcılar şimdi, ilk yaratıcılarından bazılarını bile endişelendiren, gelişen bir teknolojiyi kontrol etmek için mücadele ediyor. Amerika Birleşik Devletleri’nde Beyaz Saray, AI sistemlerini halka açık hale gelmeden önce test etmeye ve mahremiyeti korumaya yönelik kuralları içeren politika fikirleri yayınladı. Çin’de Nisan ayında açıklanan taslak kurallar, chatbot üreticilerinin ülkenin katı sansür kurallarına uymasını gerektirecek. Pekin ayrıca yapay zeka sistem üreticilerinin verileri kullanma şekli üzerinde daha fazla kontrol sahibi oluyor.
AI düzenlemesinin ne kadar etkili olabileceği belirsizdir. Teknolojinin yeni yeteneklerinin yasa koyucuların ele alabileceğinden daha hızlı ortaya çıktığının bir işareti olarak, AB yasasının önceki sürümleri, verilen yanıtlara metin, resim ve video üretebilen ChatGPT gibi üretken yapay zeka sistemlerine pek ilgi göstermedi. ister.
Çarşamba günü kabul edilen Avrupa yasa taslağının son versiyonunda, üretken yapay zeka için yeni şeffaflık gereksinimleri geçerli olacaktır. Bu, sistemi eğitmek için kullanılan telif hakkıyla korunan materyallerin özetlerinin yayınlanmasını içerir. Bu teklif, yayıncılık endüstrisi tarafından destekleniyor, ancak teknoloji geliştiricileri tarafından teknik olarak mümkün olmadığı gerekçesiyle reddediliyor. Üretken yapay zeka sistemlerinin üreticilerinin de yasa dışı içerik üretmelerini önlemek için güvenlik önlemleri almaları gerekir.
Yeni AI yasalarını savunan Londra merkezli bir kuruluş olan Ada Lovelace Enstitüsü’nün müdür vekili Francine Bennett, AB önerisinin “önemli bir kilometre taşı” olduğunu söyledi.
Bayan Bennett, “Açıkçası, teknolojiyi geliştiren şirketler bile işlerin nasıl ilerleyeceğine dair tam bir anlayışa sahip olmadıkça, hızlı hareket eden ve hızla yeniden kullanılabilen teknolojiyi düzenlemek zordur.” Dedi. “Ancak herhangi bir uygun düzenleme olmadan faaliyet göstermeye devam edersek, kesinlikle hepimiz için daha kötü olur.”
AB yasa tasarısı, yapay zekayı düzenlemek için “riske dayalı” bir yaklaşım benimsiyor ve insanlara zarar verme potansiyeli en yüksek uygulamalara odaklanıyor. Bu, yasal sistemde ve kamu hizmetlerine ve devlet yardımlarına erişimin belirlenmesinde su veya enerji gibi kritik altyapıyı işletmek için AI sistemlerinin kullanımını içerir. Teknoloji üreticileri, uyuşturucu onayına benzer şekilde, teknolojiyi günlük kullanıma sokmadan önce risk değerlendirmeleri yapmalıdır.
Bir teknoloji endüstrisi grubu olan Bilgisayar ve İletişim Endüstrisi Derneği, Avrupa Birliği’nin yeniliği engelleyen aşırı geniş düzenlemelerden kaçınması gerektiğini söyledi.
Grubun Avrupa politika yöneticisi Boniface de Champris, “AB, yapay zekayı düzenlemede lider olma yolunda ilerliyor, ancak yapay zeka inovasyonunda lider olup olmayacağını göreceğiz” dedi. “Avrupa’nın yeni AI kuralları, geliştiricilere tüm Avrupalıların yararına faydalı AI uygulamaları sunmak için yeterli esnekliği bırakırken, iyi tanımlanmış riskleri etkili bir şekilde ele almalıdır.”
Önemli bir tartışma noktası, yüz tanımanın kullanılmasıdır. Avrupa Parlamentosu, canlı yüz tanıma kullanımını yasaklamak için oy kullandı, ancak ulusal güvenlik ve diğer yasa uygulama amaçları için istisnalara izin verilip verilmeyeceği sorusu yanıtsız kalıyor.
Başka bir hüküm, şirketlerin, yüz tanıma şirketi Clearview AI tarafından kullanıldıktan sonra inceleme altına alınan bir uygulama olan, veritabanları oluşturmak için sosyal medyadan biyometri çıkarmasını yasaklayacak.
Teknoloji liderleri tartışmayı etkilemeye çalıştı. ChatGPT’nin üreticisi OpenAI’nin CEO’su Sam Altman, Avrupa Komisyonu Başkanı Ursula von der Leyen de dahil olmak üzere son birkaç ay içinde Güney Amerika, Avrupa, Afrika ve Asya’da en az 100 Amerikalı milletvekilini ve diğer küresel politika yapıcıları ziyaret etti. Bay Altman, AI’nın düzenlenmesi çağrısında bulundu, ancak AB önerisine uyumun engelleyici derecede zor olabileceğini söyledi.
Çarşamba günkü oylamadan sonra, yasanın nihai versiyonu Avrupa Birliği’nin üç bölümünün – Avrupa Parlamentosu, Avrupa Komisyonu ve Avrupa Birliği Konseyi – temsilcileri arasında müzakere edilecek. Yetkililer, yıl sonuna kadar nihai bir anlaşmaya varmayı umduklarını söylediler.
AB’nin ana yasama organlarından biri olan Avrupa Parlamentosu, teknolojinin en riskli kullanımları olarak kabul edilenlere yeni kısıtlamalar getiren “AI Yasası” adlı bir yasa tasarısını kabul etti. Yüz tanıma yazılımının kullanımını ciddi şekilde sınırlandırırken, ChatGPT sohbet robotu gibi yapay zeka sistemi üreticilerinin programlarını oluşturmak için kullanılan veriler hakkında daha fazla bilgi vermesini gerektirecektir.
Oylama, daha uzun bir süreçteki bir adımdır. Yasanın nihai halinin bu yılın sonlarına kadar kabul edilmesi beklenmiyor.
Avrupa Birliği, yapay zekayı düzenlemede Amerika Birleşik Devletleri ve diğer büyük batılı hükümetlerden daha ileridedir. 27 ulustan oluşan blok, konuyu iki yılı aşkın bir süredir tartışıyor ve bu konu, ChatGPT’nin geçen yıl yayınlanmasının ardından yeni bir aciliyet kazandı ve bu da teknolojinin istihdam ve toplum üzerindeki potansiyel etkisine ilişkin endişeleri artırdı.
Washington’dan Pekin’e kadar her yerde, politika yapıcılar şimdi, ilk yaratıcılarından bazılarını bile endişelendiren, gelişen bir teknolojiyi kontrol etmek için mücadele ediyor. Amerika Birleşik Devletleri’nde Beyaz Saray, AI sistemlerini halka açık hale gelmeden önce test etmeye ve mahremiyeti korumaya yönelik kuralları içeren politika fikirleri yayınladı. Çin’de Nisan ayında açıklanan taslak kurallar, chatbot üreticilerinin ülkenin katı sansür kurallarına uymasını gerektirecek. Pekin ayrıca yapay zeka sistem üreticilerinin verileri kullanma şekli üzerinde daha fazla kontrol sahibi oluyor.
AI düzenlemesinin ne kadar etkili olabileceği belirsizdir. Teknolojinin yeni yeteneklerinin yasa koyucuların ele alabileceğinden daha hızlı ortaya çıktığının bir işareti olarak, AB yasasının önceki sürümleri, verilen yanıtlara metin, resim ve video üretebilen ChatGPT gibi üretken yapay zeka sistemlerine pek ilgi göstermedi. ister.
Çarşamba günü kabul edilen Avrupa yasa taslağının son versiyonunda, üretken yapay zeka için yeni şeffaflık gereksinimleri geçerli olacaktır. Bu, sistemi eğitmek için kullanılan telif hakkıyla korunan materyallerin özetlerinin yayınlanmasını içerir. Bu teklif, yayıncılık endüstrisi tarafından destekleniyor, ancak teknoloji geliştiricileri tarafından teknik olarak mümkün olmadığı gerekçesiyle reddediliyor. Üretken yapay zeka sistemlerinin üreticilerinin de yasa dışı içerik üretmelerini önlemek için güvenlik önlemleri almaları gerekir.
Yeni AI yasalarını savunan Londra merkezli bir kuruluş olan Ada Lovelace Enstitüsü’nün müdür vekili Francine Bennett, AB önerisinin “önemli bir kilometre taşı” olduğunu söyledi.
Bayan Bennett, “Açıkçası, teknolojiyi geliştiren şirketler bile işlerin nasıl ilerleyeceğine dair tam bir anlayışa sahip olmadıkça, hızlı hareket eden ve hızla yeniden kullanılabilen teknolojiyi düzenlemek zordur.” Dedi. “Ancak herhangi bir uygun düzenleme olmadan faaliyet göstermeye devam edersek, kesinlikle hepimiz için daha kötü olur.”
AB yasa tasarısı, yapay zekayı düzenlemek için “riske dayalı” bir yaklaşım benimsiyor ve insanlara zarar verme potansiyeli en yüksek uygulamalara odaklanıyor. Bu, yasal sistemde ve kamu hizmetlerine ve devlet yardımlarına erişimin belirlenmesinde su veya enerji gibi kritik altyapıyı işletmek için AI sistemlerinin kullanımını içerir. Teknoloji üreticileri, uyuşturucu onayına benzer şekilde, teknolojiyi günlük kullanıma sokmadan önce risk değerlendirmeleri yapmalıdır.
Bir teknoloji endüstrisi grubu olan Bilgisayar ve İletişim Endüstrisi Derneği, Avrupa Birliği’nin yeniliği engelleyen aşırı geniş düzenlemelerden kaçınması gerektiğini söyledi.
Grubun Avrupa politika yöneticisi Boniface de Champris, “AB, yapay zekayı düzenlemede lider olma yolunda ilerliyor, ancak yapay zeka inovasyonunda lider olup olmayacağını göreceğiz” dedi. “Avrupa’nın yeni AI kuralları, geliştiricilere tüm Avrupalıların yararına faydalı AI uygulamaları sunmak için yeterli esnekliği bırakırken, iyi tanımlanmış riskleri etkili bir şekilde ele almalıdır.”
Önemli bir tartışma noktası, yüz tanımanın kullanılmasıdır. Avrupa Parlamentosu, canlı yüz tanıma kullanımını yasaklamak için oy kullandı, ancak ulusal güvenlik ve diğer yasa uygulama amaçları için istisnalara izin verilip verilmeyeceği sorusu yanıtsız kalıyor.
Başka bir hüküm, şirketlerin, yüz tanıma şirketi Clearview AI tarafından kullanıldıktan sonra inceleme altına alınan bir uygulama olan, veritabanları oluşturmak için sosyal medyadan biyometri çıkarmasını yasaklayacak.
Teknoloji liderleri tartışmayı etkilemeye çalıştı. ChatGPT’nin üreticisi OpenAI’nin CEO’su Sam Altman, Avrupa Komisyonu Başkanı Ursula von der Leyen de dahil olmak üzere son birkaç ay içinde Güney Amerika, Avrupa, Afrika ve Asya’da en az 100 Amerikalı milletvekilini ve diğer küresel politika yapıcıları ziyaret etti. Bay Altman, AI’nın düzenlenmesi çağrısında bulundu, ancak AB önerisine uyumun engelleyici derecede zor olabileceğini söyledi.
Çarşamba günkü oylamadan sonra, yasanın nihai versiyonu Avrupa Birliği’nin üç bölümünün – Avrupa Parlamentosu, Avrupa Komisyonu ve Avrupa Birliği Konseyi – temsilcileri arasında müzakere edilecek. Yetkililer, yıl sonuna kadar nihai bir anlaşmaya varmayı umduklarını söylediler.