Bir grup endüstri lideri, geliştirmekte oldukları yapay zeka teknolojisinin bir gün insanlık için varoluşsal bir tehdit oluşturabileceği ve pandemiler ve nükleer savaşla eşit toplumsal bir risk olarak görülmesi gerektiği konusunda uyarmak için Salı günü.
Kâr amacı gütmeyen bir kuruluş olan Center for AI Safety tarafından yayınlanması beklenen tek cümlelik bir bildiride, “AI’dan yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi diğer toplumsal risklerin yanı sıra küresel bir öncelik olmalıdır.” Açık mektup, AI alanında çalışan 350’den fazla yönetici, araştırmacı ve mühendis tarafından imzalandı.
İmzacılar arasında önde gelen üç AI şirketinin üst düzey yöneticileri vardı: OpenAI CEO’su Sam Altman; Google DeepMind CEO’su Demis Hassabis; ve Anthropic CEO’su Dario Amodei.
Sinir ağları konusundaki öncü çalışmaları nedeniyle Turing Ödülü kazanan ve genellikle modern AI hareketinin “babaları” olarak anılan üç araştırmacıdan ikisi olan Geoffrey Hinton ve Yoshua Bengio, alandaki diğer önde gelen araştırmacılar gibi bildiriyi imzaladılar. . (Üçüncü Turing Ödülü sahibi, Meta’nın AI araştırma çabalarına liderlik eden Yann LeCun, Salı günü itibariyle imza atmamıştı.)
Açıklama, yapay zekanın potansiyel zararları hakkında artan endişelerin olduğu bir zamanda geldi. ChatGPT ve diğer sohbet botları tarafından kullanılan yapay zeka sistemleri türü olan sözde büyük dil modellerindeki son gelişmeler, yapay zekanın yakında yanlış bilgi ve propagandayı yaymak için büyük ölçekte kullanılabileceği veya milyonlarca beyaz yakalı işin zarar görebileceği endişelerini artırdı. sonuç olarak silinebilir.
Bazıları, yapay zekanın sonunda o kadar güçlü hale gelebileceğine ve onu yavaşlatmak için hiçbir şey yapılmazsa birkaç yıl içinde toplumsal bozulmaya yol açabileceğine inanıyor, ancak araştırmacılar bazen bunun nasıl olacağını açıklamıyor.
Bu korkular, çok sayıda endüstri lideri tarafından paylaşılıyor ve onları, geliştirdikleri bir teknolojinin – ve çoğu durumda rakiplerinden daha hızlı gelişmek için çılgın bir yarış içinde olduklarını – büyük bir risk altında olduğunu ve daha sıkı bir şekilde denetlendiğini iddia etme gibi alışılmadık bir konuma getiriyor. olmalı.
Bu ay Bay Altman, Bay Hassabis ve Bay Amodei, AI düzenlemesini görüşmek üzere Başkan Biden ve Başkan Yardımcısı Kamala Harris ile bir araya geldi. Oturumdan sonra Senato huzurunda verdiği ifadede Bay Altman, gelişmiş yapay zeka sistemlerinin oluşturduğu risklerin hükümet müdahalesini gerektirecek kadar ciddi olduğu konusunda uyardı ve yapay zekanın potansiyel zararlarına karşı düzenlenmesi çağrısında bulundu.
Yapay Zeka Güvenliği Merkezi’nin yönetici direktörü Dan Hendrycks, bir röportajda, açık mektubun, kullandıkları teknolojinin riskleri hakkında – yalnızca özel olarak da olsa – endişelerini dile getiren bazı endüstri liderleri için bir “açığa çıkma” işareti olduğunu söyledi. gelişmeyi temsil ediyordu.
Hendrycks, “AI topluluğunda bile, yalnızca bir avuç spoiler olduğuna dair yaygın bir yanılgı var.” Dedi. “Ama aslında, birçok insan bu şeylerle ilgili endişelerini özel olarak ifade ederdi.”
Bazı şüpheciler, AI teknolojisinin varoluşsal bir tehdit oluşturamayacak kadar olgunlaşmamış olduğunu iddia ediyor. Günümüzün yapay zeka sistemleri söz konusu olduğunda, uzun vadeli tehlikelerden çok önyargılı ve yanlış tepkiler gibi kısa vadeli sorunlar hakkında endişeleniyorlar.
Ancak diğerleri, yapay zekanın o kadar hızlı geliştiğini ve bazı alanlarda insan performansını çoktan aştığını ve yakında diğerlerinde de geçeceğini iddia ediyor. Teknolojinin gelişmiş yetenek ve anlayış belirtileri gösterdiğini söyleyerek, çok çeşitli görevleri yerine getirebilen bir yapay zeka türü olan “yapay genel zeka” veya AGI’nın bir insanınkine rakip olacağı veya bunun muhtemelen geçemeyeceği endişelerini artırdığını söylüyorlar. bunu yapmak çok uzak olabilir.
Geçen hafta bir blog gönderisinde, Bay Altman ve diğer iki OpenAI yöneticisi, güçlü AI sistemlerinin sorumlu bir şekilde yönetilebilmesi için birkaç yol önerdi. Önde gelen AI üreticileri arasında işbirliği, büyük dil modellerinde daha fazla teknik araştırma ve nükleer silahların kullanımını kontrol etmeyi amaçlayan Uluslararası Atom Enerjisi Ajansı’na benzer bir uluslararası AI güvenlik organizasyonu oluşturulması çağrısında bulundular.
Bay Altman ayrıca büyük, son teknoloji AI modelleri üreticilerinin bir devlet lisansı için kaydolmalarını gerektirecek kuralları desteklediğini ifade etti.
Mart ayında 1.000’den fazla teknoloji uzmanı ve araştırmacı, en büyük yapay zeka modellerinin geliştirilmesinde altı aylık bir ara verilmesi çağrısında bulunan ve “giderek daha güçlü dijital beyinler geliştirmek ve dağıtmak için bir yarıştan kaçma” konusundaki endişeleri dile getiren başka bir açık mektuba imza attı. ”
Başka bir AI odaklı kar amacı gütmeyen kuruluş olan Future of Life Institute tarafından düzenlenen bu mektup, Elon Musk ve diğer tanınmış teknoloji liderleri tarafından imzalandı, ancak önde gelen AI laboratuvarlarından çok fazla imza yoktu.
Yapay Zeka Güvenliği Merkezi’nin yeni açıklamasının kısalığı – toplam sadece 22 kelime – belirli risklerin doğası veya bu risklerin oluşmasını önlemek için atılacak adımlar konusunda fikir ayrılığına düşebilecek, ancak güçlü teknolojiler AI sistemleri hakkında genel endişeleri paylaşan AI uzmanlarını bir araya getirmelidir, dedi Mr. .Hendrycks.
Hendrycks, “30 olası müdahaleden oluşan çok geniş bir yelpazeyi zorlamak istemedik” dedi. “Bu olduğunda, mesajı sulandırıyor.”
Açıklama ilk olarak, yapay zekanın potansiyel zararları hakkında daha özgürce konuşmak için bu ay Google’daki işinden ayrılan Bay Hinton da dahil olmak üzere bazı yüksek profilli yapay zeka uzmanlarıyla paylaşıldı. Oradan, bazı çalışanların kaydolduğu birkaç büyük yapay zeka laboratuvarına gitti.
Milyonlarca insan yapay zeka sohbet robotlarını eğlence, dostluk ve artan üretkenlik için kullandığından ve altta yatan teknoloji hızla geliştikçe, yapay zeka liderlerinden gelen uyarıların aciliyeti arttı.
Bay Altman, Senato alt komitesine “Bence bu teknoloji ters giderse, oldukça ters gidebilir” dedi. Bunu önlemek için hükümetle birlikte çalışmak istiyoruz” dedi.
Kâr amacı gütmeyen bir kuruluş olan Center for AI Safety tarafından yayınlanması beklenen tek cümlelik bir bildiride, “AI’dan yok olma riskini azaltmak, pandemiler ve nükleer savaş gibi diğer toplumsal risklerin yanı sıra küresel bir öncelik olmalıdır.” Açık mektup, AI alanında çalışan 350’den fazla yönetici, araştırmacı ve mühendis tarafından imzalandı.
İmzacılar arasında önde gelen üç AI şirketinin üst düzey yöneticileri vardı: OpenAI CEO’su Sam Altman; Google DeepMind CEO’su Demis Hassabis; ve Anthropic CEO’su Dario Amodei.
Sinir ağları konusundaki öncü çalışmaları nedeniyle Turing Ödülü kazanan ve genellikle modern AI hareketinin “babaları” olarak anılan üç araştırmacıdan ikisi olan Geoffrey Hinton ve Yoshua Bengio, alandaki diğer önde gelen araştırmacılar gibi bildiriyi imzaladılar. . (Üçüncü Turing Ödülü sahibi, Meta’nın AI araştırma çabalarına liderlik eden Yann LeCun, Salı günü itibariyle imza atmamıştı.)
Açıklama, yapay zekanın potansiyel zararları hakkında artan endişelerin olduğu bir zamanda geldi. ChatGPT ve diğer sohbet botları tarafından kullanılan yapay zeka sistemleri türü olan sözde büyük dil modellerindeki son gelişmeler, yapay zekanın yakında yanlış bilgi ve propagandayı yaymak için büyük ölçekte kullanılabileceği veya milyonlarca beyaz yakalı işin zarar görebileceği endişelerini artırdı. sonuç olarak silinebilir.
Bazıları, yapay zekanın sonunda o kadar güçlü hale gelebileceğine ve onu yavaşlatmak için hiçbir şey yapılmazsa birkaç yıl içinde toplumsal bozulmaya yol açabileceğine inanıyor, ancak araştırmacılar bazen bunun nasıl olacağını açıklamıyor.
Bu korkular, çok sayıda endüstri lideri tarafından paylaşılıyor ve onları, geliştirdikleri bir teknolojinin – ve çoğu durumda rakiplerinden daha hızlı gelişmek için çılgın bir yarış içinde olduklarını – büyük bir risk altında olduğunu ve daha sıkı bir şekilde denetlendiğini iddia etme gibi alışılmadık bir konuma getiriyor. olmalı.
Bu ay Bay Altman, Bay Hassabis ve Bay Amodei, AI düzenlemesini görüşmek üzere Başkan Biden ve Başkan Yardımcısı Kamala Harris ile bir araya geldi. Oturumdan sonra Senato huzurunda verdiği ifadede Bay Altman, gelişmiş yapay zeka sistemlerinin oluşturduğu risklerin hükümet müdahalesini gerektirecek kadar ciddi olduğu konusunda uyardı ve yapay zekanın potansiyel zararlarına karşı düzenlenmesi çağrısında bulundu.
Yapay Zeka Güvenliği Merkezi’nin yönetici direktörü Dan Hendrycks, bir röportajda, açık mektubun, kullandıkları teknolojinin riskleri hakkında – yalnızca özel olarak da olsa – endişelerini dile getiren bazı endüstri liderleri için bir “açığa çıkma” işareti olduğunu söyledi. gelişmeyi temsil ediyordu.
Hendrycks, “AI topluluğunda bile, yalnızca bir avuç spoiler olduğuna dair yaygın bir yanılgı var.” Dedi. “Ama aslında, birçok insan bu şeylerle ilgili endişelerini özel olarak ifade ederdi.”
Bazı şüpheciler, AI teknolojisinin varoluşsal bir tehdit oluşturamayacak kadar olgunlaşmamış olduğunu iddia ediyor. Günümüzün yapay zeka sistemleri söz konusu olduğunda, uzun vadeli tehlikelerden çok önyargılı ve yanlış tepkiler gibi kısa vadeli sorunlar hakkında endişeleniyorlar.
Ancak diğerleri, yapay zekanın o kadar hızlı geliştiğini ve bazı alanlarda insan performansını çoktan aştığını ve yakında diğerlerinde de geçeceğini iddia ediyor. Teknolojinin gelişmiş yetenek ve anlayış belirtileri gösterdiğini söyleyerek, çok çeşitli görevleri yerine getirebilen bir yapay zeka türü olan “yapay genel zeka” veya AGI’nın bir insanınkine rakip olacağı veya bunun muhtemelen geçemeyeceği endişelerini artırdığını söylüyorlar. bunu yapmak çok uzak olabilir.
Geçen hafta bir blog gönderisinde, Bay Altman ve diğer iki OpenAI yöneticisi, güçlü AI sistemlerinin sorumlu bir şekilde yönetilebilmesi için birkaç yol önerdi. Önde gelen AI üreticileri arasında işbirliği, büyük dil modellerinde daha fazla teknik araştırma ve nükleer silahların kullanımını kontrol etmeyi amaçlayan Uluslararası Atom Enerjisi Ajansı’na benzer bir uluslararası AI güvenlik organizasyonu oluşturulması çağrısında bulundular.
Bay Altman ayrıca büyük, son teknoloji AI modelleri üreticilerinin bir devlet lisansı için kaydolmalarını gerektirecek kuralları desteklediğini ifade etti.
Mart ayında 1.000’den fazla teknoloji uzmanı ve araştırmacı, en büyük yapay zeka modellerinin geliştirilmesinde altı aylık bir ara verilmesi çağrısında bulunan ve “giderek daha güçlü dijital beyinler geliştirmek ve dağıtmak için bir yarıştan kaçma” konusundaki endişeleri dile getiren başka bir açık mektuba imza attı. ”
Başka bir AI odaklı kar amacı gütmeyen kuruluş olan Future of Life Institute tarafından düzenlenen bu mektup, Elon Musk ve diğer tanınmış teknoloji liderleri tarafından imzalandı, ancak önde gelen AI laboratuvarlarından çok fazla imza yoktu.
Yapay Zeka Güvenliği Merkezi’nin yeni açıklamasının kısalığı – toplam sadece 22 kelime – belirli risklerin doğası veya bu risklerin oluşmasını önlemek için atılacak adımlar konusunda fikir ayrılığına düşebilecek, ancak güçlü teknolojiler AI sistemleri hakkında genel endişeleri paylaşan AI uzmanlarını bir araya getirmelidir, dedi Mr. .Hendrycks.
Hendrycks, “30 olası müdahaleden oluşan çok geniş bir yelpazeyi zorlamak istemedik” dedi. “Bu olduğunda, mesajı sulandırıyor.”
Açıklama ilk olarak, yapay zekanın potansiyel zararları hakkında daha özgürce konuşmak için bu ay Google’daki işinden ayrılan Bay Hinton da dahil olmak üzere bazı yüksek profilli yapay zeka uzmanlarıyla paylaşıldı. Oradan, bazı çalışanların kaydolduğu birkaç büyük yapay zeka laboratuvarına gitti.
Milyonlarca insan yapay zeka sohbet robotlarını eğlence, dostluk ve artan üretkenlik için kullandığından ve altta yatan teknoloji hızla geliştikçe, yapay zeka liderlerinden gelen uyarıların aciliyeti arttı.
Bay Altman, Senato alt komitesine “Bence bu teknoloji ters giderse, oldukça ters gidebilir” dedi. Bunu önlemek için hükümetle birlikte çalışmak istiyoruz” dedi.