OpenAI’de son beş günde yaşananlar birçok farklı şekilde tanımlanabilir: heyecan verici toplantı draması, Amerika’nın en büyük girişimlerinden biri üzerinde çekişme, yapay zekanın daha hızlı ilerlemesini isteyenler ile daha fazla ilerleme kaydedenler arasındaki çatışma. yavaş yavaş aşağı inmesini istiyorum.
Her şeyden önce bu, yapay zekanın iki düello vizyonu arasındaki bir savaştı.
Bir vizyona göre yapay zeka, buhar makinesini, elektriği ve kişisel bilgisayarı içeren, dünyayı değiştiren bir dizi yeniliğin en sonuncusu olan, dönüştürücü yeni bir araçtır ve doğru kullanıldığında yeni bir servet yaratma çağının habercisi olabilir. Potansiyelini kullanan şirketler için çok para hak ediyor.
Başka bir vizyona göre yapay zeka, uzaylı bir yaşam formuna (nöral ağların matematiksel derinliklerinden çağrılan bir dev) daha yakın bir şeydir ve onun kontrolü ele geçirip hepimizi öldürmesini önlemek için son derece dikkatli bir şekilde kontrol altına alınması ve kullanılması gerekir.
Sam Altman’ın Salı günü, yönetim kurulunun onu geçen Cuma CEO olarak görevden aldığı OpenAI’ye dönmesiyle, bu iki görüş arasındaki savaş sona ermiş gibi görünüyor.
Kapitalizm Takımı kazandı. Leviathan Takımı kaybetti.
OpenAI’nin yeni yönetim kurulu en azından başlangıçta üç kişiden oluşacak: Quora’nın CEO’su Adam D’Angelo (ve eski yönetim kurulundan kalan tek kişi); Facebook ve Salesforce’un eski yöneticilerinden Bret Taylor; ve eski Hazine Bakanı Lawrence H. Summers. Yönetim kurulunun buradan büyümesi bekleniyor.
OpenAI’nin en büyük yatırımcısı Microsoft’un da gelecekte OpenAI’nin yönetiminde daha büyük bir söz sahibi olması bekleniyor. Bu aynı zamanda tahtadaki bir koltuğu da içerebilir.
Bay Altman’ın görevden alınması için baskı yapan üyelerden üçü yönetim kurulundan istifa etti: OpenAI’nin baş bilim insanı Ilya Sutskever (o zamandan beri kararını geri çekmiştir); Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde strateji direktörü Helen Toner; ve RAND Corporation’da girişimci ve araştırmacı olan Tasha McCauley.
Bay Sutskever, Bayan Toner ve Bayan McCauley, on yıl önce yapay zekayla yoğun bir şekilde ilgilenen türden insanları temsil ediyor; akademisyenler, Silikon Vadisi fütüristleri ve bilgisayar bilimcilerinden oluşan eklektik bir karışım. Teknolojiye korku ve huşu karışımı bir bakışla bakıyorlardı ve yapay zekanın onu kontrol altına alma yeteneğimizi aşacağı bir nokta olan “tekillik” gibi gelecekteki teorik olaylardan endişe duyuyorlardı. Birçoğu, ahlaki kararlar almak için verileri ve rasyonelliği kullanan bir hareket olan Etkili Altruistler gibi felsefi gruplara aitti ve teknolojinin yıkıcı etkilerini en aza indirme arzusuyla yapay zeka ile çalışmaya ikna edilmişlerdi.
OpenAI’nin kar amacı gütmeyen bir kuruluş olarak kurulduğu 2015 yılında yapay zeka hakkındaki görüş buydu ve kuruluşun, kar amacı gütmeyen yönetim kuruluna şirketin operasyonlarını ve liderlik değişimini kontrol etme yeteneği veren karmaşık yönetim yapısını bundan sonra bile neden koruduğunu açıklıyor. Kâr amacı güden şube 2019 yılında kuruldu. O zamanlar sektördeki pek çok kişi, yapay zekayı kapitalizmin güçlerinden korumayı, kurumsal sözleşmelerde ve sözleşme belgelerinde yer alması gereken en önemli öncelik olarak görüyordu.
Ancak 2019’dan bu yana çok şey değişti. Güçlü yapay zeka artık yalnızca bir düşünce deneyi değil; her gün milyonlarca insan tarafından kullanılan ChatGPT gibi gerçek dünya ürünlerinde de mevcut. Dünyanın en büyük teknoloji şirketleri daha da güçlü sistemler oluşturmak için yarışıyor. İşgücü maliyetlerini azaltma ve üretkenliği artırma umuduyla işletmelerde yapay zeka oluşturmak ve dağıtmak için milyarlarca dolar harcanıyor.
Yeni yönetim kurulu üyeleri, böyle bir projeyi yönetmesi beklenebilecek türden iş liderleridir. Yeni CEO olan Bay Taylor, geçen yıl Twitter’ın CEO’su olduğu dönemde Twitter’ın Elon Musk’a satılmasına öncülük eden deneyimli bir Silikon Vadisi anlaşma yapıcısıdır. Ve Bay Summers asıl kapitalisttir; teknolojik değişimin toplum için “net bir fayda” olduğuna inandığını söyleyen önde gelen bir ekonomisttir.
Yeni oluşturulan OpenAI yönetim kurulunda hâlâ yapay zeka güvenlik hareketinden temkinli sesler veya kişilikler olabilir. Ancak eski yönetim kurulunun sahip olduğu gibi veto yetkisine veya şirketi hemen kapatma yetkisine sahip olmayacaklar. Ve onların tercihleri, şirketin yöneticileri ve yatırımcıları gibi başkalarının tercihleriyle uyumludur.
Microsoft veya OpenAI teknolojisine güvenen diğer binlerce şirketten biriyseniz bu iyi bir şeydir. Daha geleneksel yönetişim, ani bir patlama veya sizi hızla AI sağlayıcılarını değiştirmeye zorlayacak bir değişiklik riskinin azalması anlamına gelir.
Yapay zekanın artan önemi göz önüne alındığında belki de OpenAI’de yaşananlar (kurumsal çıkarların geleceğe ilişkin kaygılar karşısında kazandığı zafer) kaçınılmazdı. Potansiyel olarak dördüncü bir sanayi devrimini başlatabilecek bir teknolojinin, uzun vadede onu yavaşlatmak isteyenler tarafından yönetilmesi pek olası değildi; söz konusu bu kadar çok para varken.
Yapay zeka endüstrisinde hala eski tutumların bazı kalıntıları var. Bir grup eski OpenAI çalışanı tarafından kurulan rakip bir şirket olan Anthropic, kendisini piyasa baskılarından izole etmeyi amaçlayan yasal bir yapı olan kar amacı gütmeyen bir şirket olarak kurdu. Aktif bir açık kaynaklı yapay zeka hareketi, yapay zekanın kurumsal kontrolün dışında kalmasını savundu.
Bununla birlikte, bunları en iyi şekilde, yapay zekayı geliştiren kişilerin teknolojiyi hem merakla hem de dehşetle izlediği ve gücünü örgütsel yönetim yoluyla kontrol altına almaya çalıştığı eski yapay zeka çağının son kalıntıları olarak görmek gerekir.
Artık ütopyacılar direksiyonda. Tam gaz ileri.
Her şeyden önce bu, yapay zekanın iki düello vizyonu arasındaki bir savaştı.
Bir vizyona göre yapay zeka, buhar makinesini, elektriği ve kişisel bilgisayarı içeren, dünyayı değiştiren bir dizi yeniliğin en sonuncusu olan, dönüştürücü yeni bir araçtır ve doğru kullanıldığında yeni bir servet yaratma çağının habercisi olabilir. Potansiyelini kullanan şirketler için çok para hak ediyor.
Başka bir vizyona göre yapay zeka, uzaylı bir yaşam formuna (nöral ağların matematiksel derinliklerinden çağrılan bir dev) daha yakın bir şeydir ve onun kontrolü ele geçirip hepimizi öldürmesini önlemek için son derece dikkatli bir şekilde kontrol altına alınması ve kullanılması gerekir.
Sam Altman’ın Salı günü, yönetim kurulunun onu geçen Cuma CEO olarak görevden aldığı OpenAI’ye dönmesiyle, bu iki görüş arasındaki savaş sona ermiş gibi görünüyor.
Kapitalizm Takımı kazandı. Leviathan Takımı kaybetti.
OpenAI’nin yeni yönetim kurulu en azından başlangıçta üç kişiden oluşacak: Quora’nın CEO’su Adam D’Angelo (ve eski yönetim kurulundan kalan tek kişi); Facebook ve Salesforce’un eski yöneticilerinden Bret Taylor; ve eski Hazine Bakanı Lawrence H. Summers. Yönetim kurulunun buradan büyümesi bekleniyor.
OpenAI’nin en büyük yatırımcısı Microsoft’un da gelecekte OpenAI’nin yönetiminde daha büyük bir söz sahibi olması bekleniyor. Bu aynı zamanda tahtadaki bir koltuğu da içerebilir.
Bay Altman’ın görevden alınması için baskı yapan üyelerden üçü yönetim kurulundan istifa etti: OpenAI’nin baş bilim insanı Ilya Sutskever (o zamandan beri kararını geri çekmiştir); Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde strateji direktörü Helen Toner; ve RAND Corporation’da girişimci ve araştırmacı olan Tasha McCauley.
Bay Sutskever, Bayan Toner ve Bayan McCauley, on yıl önce yapay zekayla yoğun bir şekilde ilgilenen türden insanları temsil ediyor; akademisyenler, Silikon Vadisi fütüristleri ve bilgisayar bilimcilerinden oluşan eklektik bir karışım. Teknolojiye korku ve huşu karışımı bir bakışla bakıyorlardı ve yapay zekanın onu kontrol altına alma yeteneğimizi aşacağı bir nokta olan “tekillik” gibi gelecekteki teorik olaylardan endişe duyuyorlardı. Birçoğu, ahlaki kararlar almak için verileri ve rasyonelliği kullanan bir hareket olan Etkili Altruistler gibi felsefi gruplara aitti ve teknolojinin yıkıcı etkilerini en aza indirme arzusuyla yapay zeka ile çalışmaya ikna edilmişlerdi.
OpenAI’nin kar amacı gütmeyen bir kuruluş olarak kurulduğu 2015 yılında yapay zeka hakkındaki görüş buydu ve kuruluşun, kar amacı gütmeyen yönetim kuruluna şirketin operasyonlarını ve liderlik değişimini kontrol etme yeteneği veren karmaşık yönetim yapısını bundan sonra bile neden koruduğunu açıklıyor. Kâr amacı güden şube 2019 yılında kuruldu. O zamanlar sektördeki pek çok kişi, yapay zekayı kapitalizmin güçlerinden korumayı, kurumsal sözleşmelerde ve sözleşme belgelerinde yer alması gereken en önemli öncelik olarak görüyordu.
Ancak 2019’dan bu yana çok şey değişti. Güçlü yapay zeka artık yalnızca bir düşünce deneyi değil; her gün milyonlarca insan tarafından kullanılan ChatGPT gibi gerçek dünya ürünlerinde de mevcut. Dünyanın en büyük teknoloji şirketleri daha da güçlü sistemler oluşturmak için yarışıyor. İşgücü maliyetlerini azaltma ve üretkenliği artırma umuduyla işletmelerde yapay zeka oluşturmak ve dağıtmak için milyarlarca dolar harcanıyor.
Yeni yönetim kurulu üyeleri, böyle bir projeyi yönetmesi beklenebilecek türden iş liderleridir. Yeni CEO olan Bay Taylor, geçen yıl Twitter’ın CEO’su olduğu dönemde Twitter’ın Elon Musk’a satılmasına öncülük eden deneyimli bir Silikon Vadisi anlaşma yapıcısıdır. Ve Bay Summers asıl kapitalisttir; teknolojik değişimin toplum için “net bir fayda” olduğuna inandığını söyleyen önde gelen bir ekonomisttir.
Yeni oluşturulan OpenAI yönetim kurulunda hâlâ yapay zeka güvenlik hareketinden temkinli sesler veya kişilikler olabilir. Ancak eski yönetim kurulunun sahip olduğu gibi veto yetkisine veya şirketi hemen kapatma yetkisine sahip olmayacaklar. Ve onların tercihleri, şirketin yöneticileri ve yatırımcıları gibi başkalarının tercihleriyle uyumludur.
Microsoft veya OpenAI teknolojisine güvenen diğer binlerce şirketten biriyseniz bu iyi bir şeydir. Daha geleneksel yönetişim, ani bir patlama veya sizi hızla AI sağlayıcılarını değiştirmeye zorlayacak bir değişiklik riskinin azalması anlamına gelir.
Yapay zekanın artan önemi göz önüne alındığında belki de OpenAI’de yaşananlar (kurumsal çıkarların geleceğe ilişkin kaygılar karşısında kazandığı zafer) kaçınılmazdı. Potansiyel olarak dördüncü bir sanayi devrimini başlatabilecek bir teknolojinin, uzun vadede onu yavaşlatmak isteyenler tarafından yönetilmesi pek olası değildi; söz konusu bu kadar çok para varken.
Yapay zeka endüstrisinde hala eski tutumların bazı kalıntıları var. Bir grup eski OpenAI çalışanı tarafından kurulan rakip bir şirket olan Anthropic, kendisini piyasa baskılarından izole etmeyi amaçlayan yasal bir yapı olan kar amacı gütmeyen bir şirket olarak kurdu. Aktif bir açık kaynaklı yapay zeka hareketi, yapay zekanın kurumsal kontrolün dışında kalmasını savundu.
Bununla birlikte, bunları en iyi şekilde, yapay zekayı geliştiren kişilerin teknolojiyi hem merakla hem de dehşetle izlediği ve gücünü örgütsel yönetim yoluyla kontrol altına almaya çalıştığı eski yapay zeka çağının son kalıntıları olarak görmek gerekir.
Artık ütopyacılar direksiyonda. Tam gaz ileri.