Sam Altman geçen hafta OpenAI’den çıkarılmadan önce, kendisi ve şirketin yönetim kurulu bir yıldan fazla bir süredir çekişme içindeydi. Popüler ChatGPT chatbot’u sayesinde OpenAI ana akım bir isim haline geldiğinde gerilim daha da kötüleşti.
İcra kurulu başkanı Bay Altman yakın zamanda yönetim kurulu üyelerinden birini görevden almak için adımlar attı çünkü kendisinin ortak yazdığı bir araştırma makalesinin şirketi eleştirdiğine inanıyordu.
Aynı zamanda OpenAI’nin baş bilim insanı olan diğer üye Ilya Sutskever, Bay Altman’ın yönetim kuruluyla konuşurken her zaman dürüst olmadığını söyledi. Yönetim kurulu üyeleri de Bay Altman’ın büyümeyi yapay zeka güvenliğiyle dengelerken genişlemeye fazla odaklandığından endişeliydi.
Onun atıldığı haberi, Cuma günü öğleden sonra, OpenAI’de Bay Altman ile yakın işbirliği içinde çalışan Bay Sutskever’in kendisine yönetim kurulunun bir açıklamasını okuduğu video konferansta geldi. Karar, OpenAI çalışanlarını şaşkına çevirmiş ve yönetim kurulu üyelerine böylesine prestijli bir şirkete liderlik edecek nitelikler konusunda zor sorular yöneltmiş olsa da, yönetim kurulu odasında uzun süredir kaynayan gerilimlerin doruk noktasıydı.
Bölünme aynı zamanda yeni yapay zeka sistemleri oluşturmanın, yapay zekadan para kazanmak isteyen iş adamlarının, inşa ettikleri şeyin sonuçta işleri ortadan kaldıracağından ya da özerklik gibi şeylerin insanlığın karşı karşıya kalabileceği tehdit oluşturacağından korkan araştırmacılarla çalışıp çalışamayacağını test ettiğini gösterdi. silahlar kontrolden çıkıyor.
OpenAI, bir gün insan beyninin yapabileceği her şeyi yapabilecek süper akıllı otomatik bir sistem yaratmaya yönelik iddialı bir planla 2015 yılında başlatıldı. Ancak istifa eden üyelerin değiştirilmesi konusunda bile anlaşmaya varamayan OpenAI yönetim kurulunda uzun süredir gerginlik yaşanıyor.
Artık şirketin varlığının devamı, büyük ölçüde bu işlev bozukluğu nedeniyle şüphelidir. OpenAI’nin 800 çalışanının neredeyse tamamı, Bay Altman’ı Microsoft’a kadar takip etmekle tehdit etti ve Microsoft, Bay Altman’la dayanışma amacıyla OpenAI’nin başkanlığı ve genel müdürü olarak görevinden istifa eden Greg Brockman ile birlikte bir yapay zeka laboratuvarı yönetmesini istedi.
Yönetim kurulu, Bay Brockman’a artık OpenAI’nin başkanı olmayacağını bildirmiş ancak onu şirkette kalmaya davet etmişti – ancak kendisi ve Bay Altman’ın yönetim kurulundan çıkarılmasına karar verilen toplantıya davet edilmemişti. şirket.
Kurul, Bay Altman’ın hangi konularda dürüst olmadığına inandığını söylemedi.
Görüşmelere aşina iki kişi, kendisi ve Bay Altman’ın Salı gününe kadar süren görüşmelerde bulunması nedeniyle yönetim kurulunun hâlâ onun dönüşüne açık olduğuna dair işaretler bulunduğunu söyledi. Ancak bir çelişkili nokta vardı: Bay Altman, yönetim kuruluyla iletişimini geliştirmek için önerilen bazı korkulukları reddetti. Bu korkulukların tam olarak ne olacağı belli değildi.
Bay Sutskever Salı günü yorum talebine yanıt vermedi.
OpenAI’nin yönetim kurulundaki sorunların kökeni, start-up’ın kar amacı gütmeyen başlangıçlarına kadar uzanıyor. 2015 yılında Bay Altman, Elon Musk ve aralarında Bay Sutskever’in de bulunduğu diğer kişilerle güçlerini birleştirerek, insanlığa güvenli ve faydalı yapay zeka geliştirmeye adanmış kar amacı gütmeyen bir kuruluş yarattı. Görevleri için özel bağışçılardan para toplamayı planladılar. Ancak birkaç yıl içinde bilgisayar ihtiyaçlarının, bireylerden sağlayabileceklerinden çok daha fazla kaynak gerektirdiğini fark ettiler.
Bay Musk 2018’de ayrıldıktan sonra, yatırımcılardan milyarlarca dolar toplamaya başlayan, kar amacı gütmeyen bir yan kuruluş kurdular; buna Microsoft’tan gelen 1 milyar dolar da dahil. OpenAI web sitesinde, yan kuruluşun kar amacı gütmeyen bir kurul tarafından kontrol edileceğini ve her bir yöneticinin vekalet görevinin “OpenAI yatırımcılarına değil, insanlığa” yönelik olacağını söylediler.
Bay Altman’ın zorla görevden alınmasından ve Bay Brockman’ın ayrılmasından sonra, kalan dört yönetim kurulu üyesi Bay Sutskever’dir; Soru-cevap sitesi Quora’nın CEO’su Adam D’Angelo; Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde strateji direktörü Helen Toner; ve girişimci ve bilgisayar bilimcisi Tasha McCauley.
Bay Altman’ın düşüşünden birkaç hafta önce, Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi için yakın zamanda birlikte yazdığı bir makaleyi tartışmak üzere Bayan Toner ile bir araya geldi.
Bay Altman’ın meslektaşlarına yazdığı ve Haber tarafından görülen bir e-postaya göre, Bay Altman, araştırma makalesinin OpenAI’nin yapay zeka teknolojilerini güvende tutma çabalarını eleştirirken aynı zamanda Antropik’e Övgü yaklaşımını eleştirdiğinden şikayetçi oldu.
E-postada Bay Altman, Bayan Toner’i makale nedeniyle azarladığını ve özellikle Federal Ticaret Komisyonu’nun OpenAI için sağladığı veriler nedeniyle OpenAI’yi araştırdığı bir dönemde bunun şirket için tehlikeli olduğunu söyledi. Kağıdı oluşturmak için kullanılan teknoloji.
Bayan Toner, bunun yapay zeka geliştiren ülke ve şirketlerin niyetlerini anlamaya çalışırken halkın karşılaştığı zorlukları analiz eden akademik bir çalışma olduğunu savundu. Ancak Bay Altman aynı fikirde değildi.
E-postasında, “Bütün bunların neden olduğu zarar konusunda aynı fikirde olduğumuzu hissetmedim” diye yazdı. “Yönetim kurulu üyelerinden gelen herhangi bir eleştiri büyük önem taşır.”
Tartışmalara katılan bir kişi, yapay zekanın bir gün insanlığı yok edebileceğinden derin endişe duyan Bay Sutskever’in de aralarında bulunduğu üst düzey OpenAI yöneticilerinin daha sonra Bayan Toner’in görevden alınması gerekip gerekmediğini tartıştığını söyledi.
Ancak bu tartışmalardan kısa bir süre sonra Bay Sutskever beklenmedik bir şey yaptı: Yönetim kurulunun müzakerelerine aşina olan iki kişiye göre, Bay Altman’ı görevden almak amacıyla yönetim kurulu üyelerinin yanında yer aldı. Bay Altman’ın yönetim kurulunun basın açıklamasını okudu; burada Bay Altman’ın “kurulla iletişiminde tutarlı bir şekilde açık olmadığı” için kovulduğunu açıkladı.
Bay Sutskever’in Bay Altman’a duyduğu hayal kırıklığı, 2021’de başka bir kıdemli yapay zeka bilim insanının Anthropic şirketini kurmak için OpenAI’den ayrılmasıyla yaşananları yansıtıyordu. O bilim adamı ve diğer araştırmacılar, Bay Altman’ı görevden almaya zorlamak için kurula gittiler. Bay Altman’ı zorla dışarı çıkarma çabalarına aşina olan üç kişiye göre, başarısız olduktan sonra pes ettiler ve gittiler.
Anthropic’in sözcüsü Sally Aldous, “Bir dizi makul dostane müzakerenin ardından, Anthropic’in kurucu ortakları, karşılıklı olarak kabul edilebilir şartlarla ayrılmalarını müzakere edebildiler” dedi. İkinci bir açıklamada Anthropic, “Anthropic’in kurucuları OpenAI’den ayrıldığı sırada Sam Altman’ı ‘devirmeye’ yönelik herhangi bir girişimde bulunulmadığını” ekledi.
Boş pozisyonlar yönetim kurulunun sorunlarını daha da kötüleştirdi. Bu yıl, ayrılan üç yöneticinin nasıl değiştirileceği konusunda anlaşmazlıklar vardı: LinkedIn’in kurucusu ve Microsoft’un yönetim kurulu üyesi Reid Hoffman; Bay Musk tarafından insanların beyinlerine bilgisayar çipleri yerleştirmek için kurulan bir şirket olan Neuralink’in operasyon müdürü Shivon Zilis; ve Teksas’tan eski bir Cumhuriyetçi kongre üyesi olan Will Hurd.
Kurulun müzakerelerine aşina olan iki kişi, bir pozisyon için dört adayı değerlendirdikten sonra geri kalan yöneticilerin bu pozisyonu kimin doldurması gerektiği konusunda anlaşamadıklarını söyledi. Bu ayrılık, Bay Altman ile Bay Brockman ve diğer yönetim kurulu üyeleri arasındaki anlaşmazlığı derinleştirdi.
Görüşmeye katılan üç kişiye göre, Bay Altman’ın görevden alınmasından birkaç saat sonra OpenAI yöneticileri, bir video görüşmesi sırasında geri kalan yönetim kurulu üyeleriyle yüzleşti.
Görüşme sırasında OpenAI’nin baş strateji sorumlusu Jason Kwon, yönetim kurulunun Bay Altman’ı görevden alarak şirketin geleceğini tehlikeye attığını söyledi. Bunun üyelerin görevlerinin ihlali olduğunu söyledi.
Bayan Toner aynı fikirde değildi. Yönetim kurulunun misyonunun, şirketin “tüm insanlığa fayda sağlayan” yapay zeka oluşturmasını sağlamak olduğunu ve şirketin yok edilmesi durumunda bunun misyonuyla tutarlı olabileceğini söyledi. Yönetim kuruluna göre OpenAI, Bay Altman olmadan daha güçlü olurdu.
Pazar günü OpenAI’nin ofisinde, bu değişimi bilen iki kişinin söylediğine göre, Bay Brockman’ın eşi Anna, Bay Sutskever’e rotayı tersine çevirmesi konusunda baskı yaptı. Saatler sonra kendisi ve diğer çalışanlar, bağımsız yöneticileri istifaya çağıran bir mektubu imzaladılar. Wall Street Journal daha önce Bay Sutskever ile Bayan Brockman arasındaki yüzleşmeyi haber yapmıştı.
Pazartesi günü sabah saat 5:15’te, eski Twitter hesabı olan X’te şunu paylaştı: “Yönetim kurulunun eylemlerine dahil olduğum için derin pişmanlık duyuyorum.”
İcra kurulu başkanı Bay Altman yakın zamanda yönetim kurulu üyelerinden birini görevden almak için adımlar attı çünkü kendisinin ortak yazdığı bir araştırma makalesinin şirketi eleştirdiğine inanıyordu.
Aynı zamanda OpenAI’nin baş bilim insanı olan diğer üye Ilya Sutskever, Bay Altman’ın yönetim kuruluyla konuşurken her zaman dürüst olmadığını söyledi. Yönetim kurulu üyeleri de Bay Altman’ın büyümeyi yapay zeka güvenliğiyle dengelerken genişlemeye fazla odaklandığından endişeliydi.
Onun atıldığı haberi, Cuma günü öğleden sonra, OpenAI’de Bay Altman ile yakın işbirliği içinde çalışan Bay Sutskever’in kendisine yönetim kurulunun bir açıklamasını okuduğu video konferansta geldi. Karar, OpenAI çalışanlarını şaşkına çevirmiş ve yönetim kurulu üyelerine böylesine prestijli bir şirkete liderlik edecek nitelikler konusunda zor sorular yöneltmiş olsa da, yönetim kurulu odasında uzun süredir kaynayan gerilimlerin doruk noktasıydı.
Bölünme aynı zamanda yeni yapay zeka sistemleri oluşturmanın, yapay zekadan para kazanmak isteyen iş adamlarının, inşa ettikleri şeyin sonuçta işleri ortadan kaldıracağından ya da özerklik gibi şeylerin insanlığın karşı karşıya kalabileceği tehdit oluşturacağından korkan araştırmacılarla çalışıp çalışamayacağını test ettiğini gösterdi. silahlar kontrolden çıkıyor.
OpenAI, bir gün insan beyninin yapabileceği her şeyi yapabilecek süper akıllı otomatik bir sistem yaratmaya yönelik iddialı bir planla 2015 yılında başlatıldı. Ancak istifa eden üyelerin değiştirilmesi konusunda bile anlaşmaya varamayan OpenAI yönetim kurulunda uzun süredir gerginlik yaşanıyor.
Artık şirketin varlığının devamı, büyük ölçüde bu işlev bozukluğu nedeniyle şüphelidir. OpenAI’nin 800 çalışanının neredeyse tamamı, Bay Altman’ı Microsoft’a kadar takip etmekle tehdit etti ve Microsoft, Bay Altman’la dayanışma amacıyla OpenAI’nin başkanlığı ve genel müdürü olarak görevinden istifa eden Greg Brockman ile birlikte bir yapay zeka laboratuvarı yönetmesini istedi.
Yönetim kurulu, Bay Brockman’a artık OpenAI’nin başkanı olmayacağını bildirmiş ancak onu şirkette kalmaya davet etmişti – ancak kendisi ve Bay Altman’ın yönetim kurulundan çıkarılmasına karar verilen toplantıya davet edilmemişti. şirket.
Kurul, Bay Altman’ın hangi konularda dürüst olmadığına inandığını söylemedi.
Görüşmelere aşina iki kişi, kendisi ve Bay Altman’ın Salı gününe kadar süren görüşmelerde bulunması nedeniyle yönetim kurulunun hâlâ onun dönüşüne açık olduğuna dair işaretler bulunduğunu söyledi. Ancak bir çelişkili nokta vardı: Bay Altman, yönetim kuruluyla iletişimini geliştirmek için önerilen bazı korkulukları reddetti. Bu korkulukların tam olarak ne olacağı belli değildi.
Bay Sutskever Salı günü yorum talebine yanıt vermedi.
OpenAI’nin yönetim kurulundaki sorunların kökeni, start-up’ın kar amacı gütmeyen başlangıçlarına kadar uzanıyor. 2015 yılında Bay Altman, Elon Musk ve aralarında Bay Sutskever’in de bulunduğu diğer kişilerle güçlerini birleştirerek, insanlığa güvenli ve faydalı yapay zeka geliştirmeye adanmış kar amacı gütmeyen bir kuruluş yarattı. Görevleri için özel bağışçılardan para toplamayı planladılar. Ancak birkaç yıl içinde bilgisayar ihtiyaçlarının, bireylerden sağlayabileceklerinden çok daha fazla kaynak gerektirdiğini fark ettiler.
Bay Musk 2018’de ayrıldıktan sonra, yatırımcılardan milyarlarca dolar toplamaya başlayan, kar amacı gütmeyen bir yan kuruluş kurdular; buna Microsoft’tan gelen 1 milyar dolar da dahil. OpenAI web sitesinde, yan kuruluşun kar amacı gütmeyen bir kurul tarafından kontrol edileceğini ve her bir yöneticinin vekalet görevinin “OpenAI yatırımcılarına değil, insanlığa” yönelik olacağını söylediler.
Bay Altman’ın zorla görevden alınmasından ve Bay Brockman’ın ayrılmasından sonra, kalan dört yönetim kurulu üyesi Bay Sutskever’dir; Soru-cevap sitesi Quora’nın CEO’su Adam D’Angelo; Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi’nde strateji direktörü Helen Toner; ve girişimci ve bilgisayar bilimcisi Tasha McCauley.
Bay Altman’ın düşüşünden birkaç hafta önce, Georgetown Üniversitesi Güvenlik ve Gelişen Teknoloji Merkezi için yakın zamanda birlikte yazdığı bir makaleyi tartışmak üzere Bayan Toner ile bir araya geldi.
Bay Altman’ın meslektaşlarına yazdığı ve Haber tarafından görülen bir e-postaya göre, Bay Altman, araştırma makalesinin OpenAI’nin yapay zeka teknolojilerini güvende tutma çabalarını eleştirirken aynı zamanda Antropik’e Övgü yaklaşımını eleştirdiğinden şikayetçi oldu.
E-postada Bay Altman, Bayan Toner’i makale nedeniyle azarladığını ve özellikle Federal Ticaret Komisyonu’nun OpenAI için sağladığı veriler nedeniyle OpenAI’yi araştırdığı bir dönemde bunun şirket için tehlikeli olduğunu söyledi. Kağıdı oluşturmak için kullanılan teknoloji.
Bayan Toner, bunun yapay zeka geliştiren ülke ve şirketlerin niyetlerini anlamaya çalışırken halkın karşılaştığı zorlukları analiz eden akademik bir çalışma olduğunu savundu. Ancak Bay Altman aynı fikirde değildi.
E-postasında, “Bütün bunların neden olduğu zarar konusunda aynı fikirde olduğumuzu hissetmedim” diye yazdı. “Yönetim kurulu üyelerinden gelen herhangi bir eleştiri büyük önem taşır.”
Tartışmalara katılan bir kişi, yapay zekanın bir gün insanlığı yok edebileceğinden derin endişe duyan Bay Sutskever’in de aralarında bulunduğu üst düzey OpenAI yöneticilerinin daha sonra Bayan Toner’in görevden alınması gerekip gerekmediğini tartıştığını söyledi.
Ancak bu tartışmalardan kısa bir süre sonra Bay Sutskever beklenmedik bir şey yaptı: Yönetim kurulunun müzakerelerine aşina olan iki kişiye göre, Bay Altman’ı görevden almak amacıyla yönetim kurulu üyelerinin yanında yer aldı. Bay Altman’ın yönetim kurulunun basın açıklamasını okudu; burada Bay Altman’ın “kurulla iletişiminde tutarlı bir şekilde açık olmadığı” için kovulduğunu açıkladı.
Bay Sutskever’in Bay Altman’a duyduğu hayal kırıklığı, 2021’de başka bir kıdemli yapay zeka bilim insanının Anthropic şirketini kurmak için OpenAI’den ayrılmasıyla yaşananları yansıtıyordu. O bilim adamı ve diğer araştırmacılar, Bay Altman’ı görevden almaya zorlamak için kurula gittiler. Bay Altman’ı zorla dışarı çıkarma çabalarına aşina olan üç kişiye göre, başarısız olduktan sonra pes ettiler ve gittiler.
Anthropic’in sözcüsü Sally Aldous, “Bir dizi makul dostane müzakerenin ardından, Anthropic’in kurucu ortakları, karşılıklı olarak kabul edilebilir şartlarla ayrılmalarını müzakere edebildiler” dedi. İkinci bir açıklamada Anthropic, “Anthropic’in kurucuları OpenAI’den ayrıldığı sırada Sam Altman’ı ‘devirmeye’ yönelik herhangi bir girişimde bulunulmadığını” ekledi.
Boş pozisyonlar yönetim kurulunun sorunlarını daha da kötüleştirdi. Bu yıl, ayrılan üç yöneticinin nasıl değiştirileceği konusunda anlaşmazlıklar vardı: LinkedIn’in kurucusu ve Microsoft’un yönetim kurulu üyesi Reid Hoffman; Bay Musk tarafından insanların beyinlerine bilgisayar çipleri yerleştirmek için kurulan bir şirket olan Neuralink’in operasyon müdürü Shivon Zilis; ve Teksas’tan eski bir Cumhuriyetçi kongre üyesi olan Will Hurd.
Kurulun müzakerelerine aşina olan iki kişi, bir pozisyon için dört adayı değerlendirdikten sonra geri kalan yöneticilerin bu pozisyonu kimin doldurması gerektiği konusunda anlaşamadıklarını söyledi. Bu ayrılık, Bay Altman ile Bay Brockman ve diğer yönetim kurulu üyeleri arasındaki anlaşmazlığı derinleştirdi.
Görüşmeye katılan üç kişiye göre, Bay Altman’ın görevden alınmasından birkaç saat sonra OpenAI yöneticileri, bir video görüşmesi sırasında geri kalan yönetim kurulu üyeleriyle yüzleşti.
Görüşme sırasında OpenAI’nin baş strateji sorumlusu Jason Kwon, yönetim kurulunun Bay Altman’ı görevden alarak şirketin geleceğini tehlikeye attığını söyledi. Bunun üyelerin görevlerinin ihlali olduğunu söyledi.
Bayan Toner aynı fikirde değildi. Yönetim kurulunun misyonunun, şirketin “tüm insanlığa fayda sağlayan” yapay zeka oluşturmasını sağlamak olduğunu ve şirketin yok edilmesi durumunda bunun misyonuyla tutarlı olabileceğini söyledi. Yönetim kuruluna göre OpenAI, Bay Altman olmadan daha güçlü olurdu.
Pazar günü OpenAI’nin ofisinde, bu değişimi bilen iki kişinin söylediğine göre, Bay Brockman’ın eşi Anna, Bay Sutskever’e rotayı tersine çevirmesi konusunda baskı yaptı. Saatler sonra kendisi ve diğer çalışanlar, bağımsız yöneticileri istifaya çağıran bir mektubu imzaladılar. Wall Street Journal daha önce Bay Sutskever ile Bayan Brockman arasındaki yüzleşmeyi haber yapmıştı.
Pazartesi günü sabah saat 5:15’te, eski Twitter hesabı olan X’te şunu paylaştı: “Yönetim kurulunun eylemlerine dahil olduğum için derin pişmanlık duyuyorum.”