BM Güvenlik Konseyi Salı günü yapay zekanın uluslararası barış ve istikrara yönelik oluşturduğu tehditle ilgili ilk toplantısını yaptı ve Genel Sekreter António Guterres, en azından benzer umutları olan birçok kişi için korku uyandıran yeni bir teknolojiyi izlemek için küresel bir bekçi köpeği çağrısında bulundu. .
Guterres, yapay zekanın “ölüm ve yıkıma, yaygın travmaya ve akıl almaz ölçekte derin psikolojik hasara” neden olmayı amaçlayan suçluların, teröristlerin ve diğer aktörlerin önünü açabileceği konusunda uyardı.
İstemlerden metin oluşturabilen, sesleri taklit edebilen ve fotoğraflar, çizimler ve videolar oluşturabilen ChatGPT’nin geçen yıl piyasaya sürülmesi, dezenformasyon ve manipülasyonla ilgili alarmları artırdı.
Salı günü, diplomatlar ve AI alanındaki önde gelen uzmanlar, Güvenlik Konseyi’ne ortaya çıkan teknolojinin bilimsel ve sosyal faydalarının yanı sıra risk ve tehditlerini sundu.Gelişmesi hızla ilerlemesine rağmen teknoloji hakkında hala çok fazla bilinmeyen var. , dediler.
Bir AI güvenlik araştırma şirketi olan Anthropic’in kurucu ortağı Jack Clark, “Yanma bilimini anlamadan motorlar yapıyor gibiyiz” dedi. Özel şirketlerin yapay zekanın tek yaratıcısı ve düzenleyicisi olmaması gerektiğini söyledi.
Guterres, tıpkı diğer kurumların havacılık, iklim ve nükleer enerjiyi denetlediği gibi, bir BM gözlemcisinin AI düzenlemelerini düzenlemek, izlemek ve uygulamak için bir yönetim organı olarak hareket etmesi gerektiğini söyledi.
Önerilen kurum, uzmanlıklarını yapay zeka tehditlerine karşı koymak için teknik bilgi birikimine sahip olmayan hükümetler ve idari kurumlarla paylaşacak olan alandaki uzmanlardan oluşacaktır.
Bununla birlikte, idare hakkında yasal olarak bağlayıcı bir karar verilmesi ihtimali hâlâ çok uzak. Ancak diplomatların çoğu bunu yaptı. küresel bir yönetişim mekanizması ve bir dizi uluslararası kural fikrini desteklemek.
İngiltere’nin bu ay Konsey dönem başkanlığını yürütürken toplantıya başkanlık eden İngiltere Dışişleri Bakanı James Cleverly, “Hiçbir ülke yapay zekadan kurtulamayacak, bu nedenle tüm sektörlerden uluslararası aktörlerden oluşan en geniş koalisyonu dahil etmemiz ve onlarla ilişki kurmamız gerekiyor” dedi.
Konsey’in çoğunluk görüşünden yola çıkan Rusya, AI’nın riskleri hakkında onları küresel istikrarsızlığa yönelik bir tehdit kaynağı olarak göstermeye yetecek kadar bilindiğine dair şüphelerini dile getiriyor. Ve Çin’in Birleşmiş Milletler Büyükelçisi Zhang Jun, uluslararası düzenleyicilerin ülkelerin kendi kurallarını geliştirmelerine izin verecek kadar esnek olmaları gerektiğini söyleyerek bir dizi küresel yasa oluşturulmasına karşı çıktı.
Ancak Çin büyükelçisi, ülkesinin yapay zekanın “askeri hegemonya yaratma veya bir ülkenin egemenliğini baltalama aracı” olarak kullanılmasına karşı olduğunu söyledi.
İsrail’in önde gelen bir nükleer bilim adamı olan Mohsen Fakhrizadeh’i öldürmek için İran’a gönderdiği uydu güdümlü yapay zeka robotu gibi, savaş alanında veya başka bir ülkede suikastlar için otonom silahların askeri kullanımı da gündeme geldi.
Guterres, Birleşmiş Milletler’in 2026 yılına kadar yapay zekanın otomatik savaş silahlarında kullanılmasını yasaklayan yasal olarak bağlayıcı bir anlaşma hazırlaması gerektiğini söyledi.
Chicago Üniversitesi Veri Bilimi Enstitüsü Yapay Zeka Direktörü Prof. Rebecca Willett, bir röportajda konu teknolojiyi düzenlemeye geldiğinde, arkasındaki insanları gözden kaçırmamanın önemli olduğunu söyledi.
Sistemlerin tamamen otonom olmadığını ve bunları tasarlayan kişilerin sorumlu tutulması gerektiğini söyledi.
Profesör Willett, “BM’nin bunu araştırmasının nedenlerinden biri de bu” dedi. “Gerçekten uluslararası çıkarımlar olmalı, böylece bir ülkede bulunan bir şirket, uluslararası anlaşmaları ihlal etmeden başka bir ülkeyi yok edemez. Gerçekten uygulanabilir düzenlemeler işleri daha iyi ve daha güvenli hale getirebilir.”
Guterres, yapay zekanın “ölüm ve yıkıma, yaygın travmaya ve akıl almaz ölçekte derin psikolojik hasara” neden olmayı amaçlayan suçluların, teröristlerin ve diğer aktörlerin önünü açabileceği konusunda uyardı.
İstemlerden metin oluşturabilen, sesleri taklit edebilen ve fotoğraflar, çizimler ve videolar oluşturabilen ChatGPT’nin geçen yıl piyasaya sürülmesi, dezenformasyon ve manipülasyonla ilgili alarmları artırdı.
Salı günü, diplomatlar ve AI alanındaki önde gelen uzmanlar, Güvenlik Konseyi’ne ortaya çıkan teknolojinin bilimsel ve sosyal faydalarının yanı sıra risk ve tehditlerini sundu.Gelişmesi hızla ilerlemesine rağmen teknoloji hakkında hala çok fazla bilinmeyen var. , dediler.
Bir AI güvenlik araştırma şirketi olan Anthropic’in kurucu ortağı Jack Clark, “Yanma bilimini anlamadan motorlar yapıyor gibiyiz” dedi. Özel şirketlerin yapay zekanın tek yaratıcısı ve düzenleyicisi olmaması gerektiğini söyledi.
Guterres, tıpkı diğer kurumların havacılık, iklim ve nükleer enerjiyi denetlediği gibi, bir BM gözlemcisinin AI düzenlemelerini düzenlemek, izlemek ve uygulamak için bir yönetim organı olarak hareket etmesi gerektiğini söyledi.
Önerilen kurum, uzmanlıklarını yapay zeka tehditlerine karşı koymak için teknik bilgi birikimine sahip olmayan hükümetler ve idari kurumlarla paylaşacak olan alandaki uzmanlardan oluşacaktır.
Bununla birlikte, idare hakkında yasal olarak bağlayıcı bir karar verilmesi ihtimali hâlâ çok uzak. Ancak diplomatların çoğu bunu yaptı. küresel bir yönetişim mekanizması ve bir dizi uluslararası kural fikrini desteklemek.
İngiltere’nin bu ay Konsey dönem başkanlığını yürütürken toplantıya başkanlık eden İngiltere Dışişleri Bakanı James Cleverly, “Hiçbir ülke yapay zekadan kurtulamayacak, bu nedenle tüm sektörlerden uluslararası aktörlerden oluşan en geniş koalisyonu dahil etmemiz ve onlarla ilişki kurmamız gerekiyor” dedi.
Konsey’in çoğunluk görüşünden yola çıkan Rusya, AI’nın riskleri hakkında onları küresel istikrarsızlığa yönelik bir tehdit kaynağı olarak göstermeye yetecek kadar bilindiğine dair şüphelerini dile getiriyor. Ve Çin’in Birleşmiş Milletler Büyükelçisi Zhang Jun, uluslararası düzenleyicilerin ülkelerin kendi kurallarını geliştirmelerine izin verecek kadar esnek olmaları gerektiğini söyleyerek bir dizi küresel yasa oluşturulmasına karşı çıktı.
Ancak Çin büyükelçisi, ülkesinin yapay zekanın “askeri hegemonya yaratma veya bir ülkenin egemenliğini baltalama aracı” olarak kullanılmasına karşı olduğunu söyledi.
İsrail’in önde gelen bir nükleer bilim adamı olan Mohsen Fakhrizadeh’i öldürmek için İran’a gönderdiği uydu güdümlü yapay zeka robotu gibi, savaş alanında veya başka bir ülkede suikastlar için otonom silahların askeri kullanımı da gündeme geldi.
Guterres, Birleşmiş Milletler’in 2026 yılına kadar yapay zekanın otomatik savaş silahlarında kullanılmasını yasaklayan yasal olarak bağlayıcı bir anlaşma hazırlaması gerektiğini söyledi.
Chicago Üniversitesi Veri Bilimi Enstitüsü Yapay Zeka Direktörü Prof. Rebecca Willett, bir röportajda konu teknolojiyi düzenlemeye geldiğinde, arkasındaki insanları gözden kaçırmamanın önemli olduğunu söyledi.
Sistemlerin tamamen otonom olmadığını ve bunları tasarlayan kişilerin sorumlu tutulması gerektiğini söyledi.
Profesör Willett, “BM’nin bunu araştırmasının nedenlerinden biri de bu” dedi. “Gerçekten uluslararası çıkarımlar olmalı, böylece bir ülkede bulunan bir şirket, uluslararası anlaşmaları ihlal etmeden başka bir ülkeyi yok edemez. Gerçekten uygulanabilir düzenlemeler işleri daha iyi ve daha güvenli hale getirebilir.”