Elon Musk'un OpenAI'ye karşı açtığı davayı ekşi üzüm davası olarak reddetmek kolay olurdu.
Bay Musk, şirketi kuruluş anlaşmasının şartlarını ve kuruluş ilkelerini ihlal etmekle suçlayarak bu hafta OpenAI'ye dava açtı. Açıklamada OpenAI, insanlığın yararına güçlü yapay zeka sistemleri inşa eden ve araştırma sonuçlarını ücretsiz olarak kamuya sunan, kar amacı gütmeyen bir kuruluş olarak kuruldu. Ancak Bay Musk, OpenAI'nin, Microsoft'tan milyarlarca dolarlık yatırım alan, kar amacı güden bir yan kuruluş oluşturarak bu sözünü bozduğunu savunuyor.
OpenAI sözcüsü dava hakkında yorum yapmayı reddetti. Cuma günü çalışanlara gönderilen bir notta, şirketin baş strateji sorumlusu Jason Kwon, Bay Musk'un iddialarını reddederek şunları söyledi: “Bu davadaki iddiaların bugün değil, Elon'un pişmanlığından kaynaklanabileceğine inanıyoruz.” “Gördüğüm notun bir kopyası devam ediyor.
Bir açıdan dava kişisel öfke kokuyor. 2015 yılında bir grup diğer teknoloji devleriyle birlikte OpenAI'yi kuran ve ilk finansmanın çoğunu sağlayan ancak 2018'de liderlikle yaşanan anlaşmazlıklar nedeniyle ayrılan Bay Musk, yapay zeka hakkındaki tartışmaların dışında bırakılmaktan rahatsız. Kendi yapay zeka projeleri, OpenAI'nin amiral gemisi sohbet robotu ChatGPT kadar ilgi görmedi. Ve Bay Musk ile OpenAI CEO'su Sam Altman arasındaki anlaşmazlık iyice belgelendi.
Ancak tüm bu antipatinin ortasında, vurgulanmaya değer bir nokta var; çünkü bu, günümüzde birçok yapay zeka tartışmasının merkezinde yer alan bir paradoksu ve OpenAI'nin gerçekten de ağzından her iki taraftan da konuştuğu bir yeri gösteriyor. Yapay zeka sistemlerinin inanılmaz derecede güçlü olduğu ve insan zekasına yakın olmadığı konusunda ısrar ediyorlar.
İddianın merkezinde AGI veya “yapay genel zeka” olarak bilinen bir terim yer alıyor. YGZ'yi neyin oluşturduğunu tanımlamak herkesin bildiği gibi zordur, ancak çoğu kişi bunun insan beyninin yapabildiği şeylerin çoğunu veya tamamını yapabilen bir yapay zeka sistemi olduğu konusunda hemfikirdir. Bay Altman, AGI'yi “çalışan olarak işe alabileceğiniz ortalama bir insanın eşdeğeri” olarak tanımlarken, OpenAI'nin kendisi de AGI'yi “ekonomik açıdan en değerli işlerde insanlardan daha iyi performans gösteren, oldukça özerk bir sistem” olarak tanımlıyor.
Çoğu yapay zeka şirketi yöneticisi, YGZ'nin yalnızca mümkün değil, aynı zamanda yakın olduğunu da iddia ediyor. Google DeepMind'ın CEO'su Demis Hassabis, yakın tarihli bir podcast röportajında bana YGZ'nin 2030 gibi erken bir tarihte gelebileceğine inandığını söyledi. Bay Altman, AGI'nin dört ya da beş yıl kadar kısa bir süre uzakta olabileceğini söyledi.
AGI oluşturmak OpenAI'nin açık hedefidir ve bu hedefe ulaşmak için her şeyden önce birçok neden vardır. Gerçek bir YGZ, büyük miktarda insan emeğini otomatikleştirebilen ve yaratıcılarına büyük miktarda para kazandırabilen, inanılmaz derecede değerli bir kaynak olacaktır. Bu aynı zamanda yatırımcıların fon sağlamayı sevdiği ve yapay zeka laboratuvarlarının en iyi mühendisleri ve araştırmacıları işe almasına yardımcı olan parlak ve cüretkar bir hedeftir.
Ancak YGZ, insanları kandırabiliyorsa, aldatıcıysa veya insani değerlerle tutarsızsa da tehlikeli olabilir. Bay Musk da dahil olmak üzere OpenAI'yi yaratan kişiler, bir YGZ'nin tek bir kuruluşa ait olamayacak kadar güçlü olacağından ve bir tane inşa etmeye yaklaşırlarsa, etraflarındaki kontrol yapısının değişmesi gerekeceğinden korkuyorlardı. zarar vermesini veya çok fazla zenginlik ve gücün tek bir şirketin elinde yoğunlaşmasını önlemek.
Bu nedenle OpenAI, Microsoft ile ortaklık kurduğunda şirket, teknoloji devine yalnızca “AGI öncesi” teknolojiler için geçerli olan bir lisans verdi. (Haberler, telif hakkıyla korunan eserleri kullanmaları nedeniyle Microsoft ve OpenAI'ye dava açtı.)
Anlaşmanın şartlarına göre, eğer OpenAI, OpenAI'nin kâr amacı gütmeyen kurulu tarafından belirlenen AGI tanımını karşılayan herhangi bir şey geliştirirse, Microsoft'un lisansı artık geçerli olmayacak ve OpenAI yönetim kurulu, OpenAI'nin uyumluluğunu sağlamak için ne isterse yapmaya karar verebilecek. YGZ tüm insanlığa fayda sağlar. Bu, açık kaynak teknolojisi veya tamamen kapanma dahil pek çok anlama gelebilir.
Çoğu yapay zeka yorumcusu, günümüzün modern yapay zeka modellerinin, gelişmiş akıl yürütme becerilerinden yoksun olmaları ve sıklıkla büyük hatalar yapmaları nedeniyle YGZ olarak nitelendirilmediğine inanıyor.
Ancak Bay Musk, iddia beyanında alışılmadık bir argüman ortaya koyuyor. OpenAI'nin bunu yaptığını savunuyor çoktan Geçen yıl yayımlanan GPT-4 dil modeliyle AGI'ye ulaştı ve şirketin gelecekteki teknolojisi daha da net bir şekilde AGI olarak nitelendirilecek
Şikayette, “Bilgi ve kanaate göre, GPT-4 bir AGI algoritmasıdır ve bu nedenle Microsoft'un Eylül 2020'de OpenAI'ye özel özel lisansının kapsamının açıkça dışındadır” ifadesi yer alıyor.
Bay Musk'ın burada tartıştığı şey biraz karmaşık. Aslında OpenAI, GPT-4 ile AGI elde ettiği için artık onu Microsoft'a lisanslayamayacağını ve yönetim kurulunun teknolojiyi ve araştırmayı daha özgürce kullanılabilir hale getirmekle yükümlü olduğunu söylüyor.
Şikayetinde, bir Microsoft araştırma ekibinin, GPT-4'ün insan muhakemesi işaretleri de dahil olmak üzere genel zekanın erken kanıtlarını gösterdiğini öne süren, artık kötü şöhrete sahip olan “AGI'nin Kıvılcımları” başlıklı geçen yılki makalesine atıfta bulunuyor.
Ancak şikayette ayrıca OpenAI yönetim kurulunun yapay zeka sistemlerinin Açıkçası AGI olarak nitelendirilebilir çünkü bunu yaptığında teknolojiyi kullanma ve ondan yararlanma biçiminde büyük değişiklikler yapması gerekecektir.
Ayrıca, geçen yıl Bay Altman'ın geçici olarak kovulmasına yol açan çalkantıdan sonra artık OpenAI yönetim kurulunda oy hakkı olmayan bir gözlemci koltuğuna sahip olan Microsoft'un, OpenAI teknolojisinin AGI olarak nitelendirildiğini reddetme konusunda güçlü bir teşviki olduğunu belirtiyor. Bu, ürünlerinde bu teknolojiyi kullanma lisanslarının sona ermesi ve potansiyel olarak büyük karların tehlikeye atılması anlamına gelecektir.
Şikayette, “Microsoft'un kapıyı halka kapalı tutma konusundaki muazzam mali ilgisi göz önüne alındığında, OpenAI, Inc.'in yeni, çelişkili ve uyumlu yönetim kurulunun, OpenAI'nin AGI'ye ulaştığını belirlemeyi geciktirmek için her türlü nedeni olacaktır” deniyor. “Aksine, OpenAI'nin AGI başarısı, tıpkı 'Annie'deki 'Yarın' gibi, her zaman bir gün uzakta olacak.”
Şüpheli davalardaki geçmişi göz önüne alındığında, Bay Musk'un buradaki amaçlarını sorgulamak kolaydır. Rakip bir yapay zeka girişiminin başkanı olarak OpenAI'yi karmaşık hukuki savaşlara karıştırmak istemesi hiç de şaşırtıcı değil. Ancak davası OpenAI için gerçek bir açmaza işaret ediyor.
OpenAI, rakipleri gibi, AGI oluşturma yarışında lider olarak görülme konusunda isteklidir ve yatırımcıları, iş ortaklarını ve halkı, sistemlerinin hızla geliştiğine ikna etme konusunda haklı çıkarlara sahiptir.
Ancak Microsoft ile olan anlaşmasının şartları nedeniyle OpenAI'nin yatırımcıları ve yöneticileri, teknolojisinin gerçekten de AGI olarak nitelendirildiğini, eğer gerçekten öyle ise, kabul etmek istemeyebilirler.
Bu, Bay Musk'u jüriden YGZ'nin ne olduğuna karar vermesini ve OpenAI teknolojisinin eşiği karşılayıp karşılamadığına karar vermesini istemek gibi tuhaf bir duruma soktu.
Dava aynı zamanda OpenAI'yi kendi sistemlerinin yeteneklerini küçümsemek gibi garip bir duruma soktu ve büyük bir YGZ atılımının yakın olduğu yönündeki beklentileri artırdı.
OpenAI'den Bay Kwon Cuma günü çalışanlara gönderdiği notta “GPT-4 AGI değil” diye yazdı. “Birçok meslekte küçük görevleri çözme yeteneğine sahip, ancak bir insanın yaptığı işin GPT-4'ün ekonomide yaptığı işe oranı şaşırtıcı derecede yüksek.”
Bay Musk'ın şikayetini körükleyen kişisel anlaşmazlık, bazı insanların bunu anlamsız bir dava olarak görmesine yol açtı – bir yorumcu bunu “boşandıktan sonra evi yeniden dekore ettiği için eski sevgilinize dava açmaya” benzetti – bu dava hemen reddedildi.
Ancak reddedilse bile Bay Musk'un davası önemli soruları gündeme getiriyor: Bir şeyin YGZ olarak sayılacağına kim karar verecek? Teknoloji şirketleri, sistemlerinin yeteneklerini tanımlarken abartıyor mu, yoksa abartıyor mu (ya da her ikisini de)? Peki AGI'ye ne kadar yakın veya uzak olabileceğimize dair çeşitli iddiaların ardındaki teşvikler nelerdir?
Kırgın bir milyarderin dava açması muhtemelen bu sorunları çözmenin doğru yolu değildir. Ancak özellikle yapay zekanın ilerlemesi hızlanmaya devam ederken, onlara sormak mantıklı geliyor.
Bay Musk, şirketi kuruluş anlaşmasının şartlarını ve kuruluş ilkelerini ihlal etmekle suçlayarak bu hafta OpenAI'ye dava açtı. Açıklamada OpenAI, insanlığın yararına güçlü yapay zeka sistemleri inşa eden ve araştırma sonuçlarını ücretsiz olarak kamuya sunan, kar amacı gütmeyen bir kuruluş olarak kuruldu. Ancak Bay Musk, OpenAI'nin, Microsoft'tan milyarlarca dolarlık yatırım alan, kar amacı güden bir yan kuruluş oluşturarak bu sözünü bozduğunu savunuyor.
OpenAI sözcüsü dava hakkında yorum yapmayı reddetti. Cuma günü çalışanlara gönderilen bir notta, şirketin baş strateji sorumlusu Jason Kwon, Bay Musk'un iddialarını reddederek şunları söyledi: “Bu davadaki iddiaların bugün değil, Elon'un pişmanlığından kaynaklanabileceğine inanıyoruz.” “Gördüğüm notun bir kopyası devam ediyor.
Bir açıdan dava kişisel öfke kokuyor. 2015 yılında bir grup diğer teknoloji devleriyle birlikte OpenAI'yi kuran ve ilk finansmanın çoğunu sağlayan ancak 2018'de liderlikle yaşanan anlaşmazlıklar nedeniyle ayrılan Bay Musk, yapay zeka hakkındaki tartışmaların dışında bırakılmaktan rahatsız. Kendi yapay zeka projeleri, OpenAI'nin amiral gemisi sohbet robotu ChatGPT kadar ilgi görmedi. Ve Bay Musk ile OpenAI CEO'su Sam Altman arasındaki anlaşmazlık iyice belgelendi.
Ancak tüm bu antipatinin ortasında, vurgulanmaya değer bir nokta var; çünkü bu, günümüzde birçok yapay zeka tartışmasının merkezinde yer alan bir paradoksu ve OpenAI'nin gerçekten de ağzından her iki taraftan da konuştuğu bir yeri gösteriyor. Yapay zeka sistemlerinin inanılmaz derecede güçlü olduğu ve insan zekasına yakın olmadığı konusunda ısrar ediyorlar.
İddianın merkezinde AGI veya “yapay genel zeka” olarak bilinen bir terim yer alıyor. YGZ'yi neyin oluşturduğunu tanımlamak herkesin bildiği gibi zordur, ancak çoğu kişi bunun insan beyninin yapabildiği şeylerin çoğunu veya tamamını yapabilen bir yapay zeka sistemi olduğu konusunda hemfikirdir. Bay Altman, AGI'yi “çalışan olarak işe alabileceğiniz ortalama bir insanın eşdeğeri” olarak tanımlarken, OpenAI'nin kendisi de AGI'yi “ekonomik açıdan en değerli işlerde insanlardan daha iyi performans gösteren, oldukça özerk bir sistem” olarak tanımlıyor.
Çoğu yapay zeka şirketi yöneticisi, YGZ'nin yalnızca mümkün değil, aynı zamanda yakın olduğunu da iddia ediyor. Google DeepMind'ın CEO'su Demis Hassabis, yakın tarihli bir podcast röportajında bana YGZ'nin 2030 gibi erken bir tarihte gelebileceğine inandığını söyledi. Bay Altman, AGI'nin dört ya da beş yıl kadar kısa bir süre uzakta olabileceğini söyledi.
AGI oluşturmak OpenAI'nin açık hedefidir ve bu hedefe ulaşmak için her şeyden önce birçok neden vardır. Gerçek bir YGZ, büyük miktarda insan emeğini otomatikleştirebilen ve yaratıcılarına büyük miktarda para kazandırabilen, inanılmaz derecede değerli bir kaynak olacaktır. Bu aynı zamanda yatırımcıların fon sağlamayı sevdiği ve yapay zeka laboratuvarlarının en iyi mühendisleri ve araştırmacıları işe almasına yardımcı olan parlak ve cüretkar bir hedeftir.
Ancak YGZ, insanları kandırabiliyorsa, aldatıcıysa veya insani değerlerle tutarsızsa da tehlikeli olabilir. Bay Musk da dahil olmak üzere OpenAI'yi yaratan kişiler, bir YGZ'nin tek bir kuruluşa ait olamayacak kadar güçlü olacağından ve bir tane inşa etmeye yaklaşırlarsa, etraflarındaki kontrol yapısının değişmesi gerekeceğinden korkuyorlardı. zarar vermesini veya çok fazla zenginlik ve gücün tek bir şirketin elinde yoğunlaşmasını önlemek.
Bu nedenle OpenAI, Microsoft ile ortaklık kurduğunda şirket, teknoloji devine yalnızca “AGI öncesi” teknolojiler için geçerli olan bir lisans verdi. (Haberler, telif hakkıyla korunan eserleri kullanmaları nedeniyle Microsoft ve OpenAI'ye dava açtı.)
Anlaşmanın şartlarına göre, eğer OpenAI, OpenAI'nin kâr amacı gütmeyen kurulu tarafından belirlenen AGI tanımını karşılayan herhangi bir şey geliştirirse, Microsoft'un lisansı artık geçerli olmayacak ve OpenAI yönetim kurulu, OpenAI'nin uyumluluğunu sağlamak için ne isterse yapmaya karar verebilecek. YGZ tüm insanlığa fayda sağlar. Bu, açık kaynak teknolojisi veya tamamen kapanma dahil pek çok anlama gelebilir.
Çoğu yapay zeka yorumcusu, günümüzün modern yapay zeka modellerinin, gelişmiş akıl yürütme becerilerinden yoksun olmaları ve sıklıkla büyük hatalar yapmaları nedeniyle YGZ olarak nitelendirilmediğine inanıyor.
Ancak Bay Musk, iddia beyanında alışılmadık bir argüman ortaya koyuyor. OpenAI'nin bunu yaptığını savunuyor çoktan Geçen yıl yayımlanan GPT-4 dil modeliyle AGI'ye ulaştı ve şirketin gelecekteki teknolojisi daha da net bir şekilde AGI olarak nitelendirilecek
Şikayette, “Bilgi ve kanaate göre, GPT-4 bir AGI algoritmasıdır ve bu nedenle Microsoft'un Eylül 2020'de OpenAI'ye özel özel lisansının kapsamının açıkça dışındadır” ifadesi yer alıyor.
Bay Musk'ın burada tartıştığı şey biraz karmaşık. Aslında OpenAI, GPT-4 ile AGI elde ettiği için artık onu Microsoft'a lisanslayamayacağını ve yönetim kurulunun teknolojiyi ve araştırmayı daha özgürce kullanılabilir hale getirmekle yükümlü olduğunu söylüyor.
Şikayetinde, bir Microsoft araştırma ekibinin, GPT-4'ün insan muhakemesi işaretleri de dahil olmak üzere genel zekanın erken kanıtlarını gösterdiğini öne süren, artık kötü şöhrete sahip olan “AGI'nin Kıvılcımları” başlıklı geçen yılki makalesine atıfta bulunuyor.
Ancak şikayette ayrıca OpenAI yönetim kurulunun yapay zeka sistemlerinin Açıkçası AGI olarak nitelendirilebilir çünkü bunu yaptığında teknolojiyi kullanma ve ondan yararlanma biçiminde büyük değişiklikler yapması gerekecektir.
Ayrıca, geçen yıl Bay Altman'ın geçici olarak kovulmasına yol açan çalkantıdan sonra artık OpenAI yönetim kurulunda oy hakkı olmayan bir gözlemci koltuğuna sahip olan Microsoft'un, OpenAI teknolojisinin AGI olarak nitelendirildiğini reddetme konusunda güçlü bir teşviki olduğunu belirtiyor. Bu, ürünlerinde bu teknolojiyi kullanma lisanslarının sona ermesi ve potansiyel olarak büyük karların tehlikeye atılması anlamına gelecektir.
Şikayette, “Microsoft'un kapıyı halka kapalı tutma konusundaki muazzam mali ilgisi göz önüne alındığında, OpenAI, Inc.'in yeni, çelişkili ve uyumlu yönetim kurulunun, OpenAI'nin AGI'ye ulaştığını belirlemeyi geciktirmek için her türlü nedeni olacaktır” deniyor. “Aksine, OpenAI'nin AGI başarısı, tıpkı 'Annie'deki 'Yarın' gibi, her zaman bir gün uzakta olacak.”
Şüpheli davalardaki geçmişi göz önüne alındığında, Bay Musk'un buradaki amaçlarını sorgulamak kolaydır. Rakip bir yapay zeka girişiminin başkanı olarak OpenAI'yi karmaşık hukuki savaşlara karıştırmak istemesi hiç de şaşırtıcı değil. Ancak davası OpenAI için gerçek bir açmaza işaret ediyor.
OpenAI, rakipleri gibi, AGI oluşturma yarışında lider olarak görülme konusunda isteklidir ve yatırımcıları, iş ortaklarını ve halkı, sistemlerinin hızla geliştiğine ikna etme konusunda haklı çıkarlara sahiptir.
Ancak Microsoft ile olan anlaşmasının şartları nedeniyle OpenAI'nin yatırımcıları ve yöneticileri, teknolojisinin gerçekten de AGI olarak nitelendirildiğini, eğer gerçekten öyle ise, kabul etmek istemeyebilirler.
Bu, Bay Musk'u jüriden YGZ'nin ne olduğuna karar vermesini ve OpenAI teknolojisinin eşiği karşılayıp karşılamadığına karar vermesini istemek gibi tuhaf bir duruma soktu.
Dava aynı zamanda OpenAI'yi kendi sistemlerinin yeteneklerini küçümsemek gibi garip bir duruma soktu ve büyük bir YGZ atılımının yakın olduğu yönündeki beklentileri artırdı.
OpenAI'den Bay Kwon Cuma günü çalışanlara gönderdiği notta “GPT-4 AGI değil” diye yazdı. “Birçok meslekte küçük görevleri çözme yeteneğine sahip, ancak bir insanın yaptığı işin GPT-4'ün ekonomide yaptığı işe oranı şaşırtıcı derecede yüksek.”
Bay Musk'ın şikayetini körükleyen kişisel anlaşmazlık, bazı insanların bunu anlamsız bir dava olarak görmesine yol açtı – bir yorumcu bunu “boşandıktan sonra evi yeniden dekore ettiği için eski sevgilinize dava açmaya” benzetti – bu dava hemen reddedildi.
Ancak reddedilse bile Bay Musk'un davası önemli soruları gündeme getiriyor: Bir şeyin YGZ olarak sayılacağına kim karar verecek? Teknoloji şirketleri, sistemlerinin yeteneklerini tanımlarken abartıyor mu, yoksa abartıyor mu (ya da her ikisini de)? Peki AGI'ye ne kadar yakın veya uzak olabileceğimize dair çeşitli iddiaların ardındaki teşvikler nelerdir?
Kırgın bir milyarderin dava açması muhtemelen bu sorunları çözmenin doğru yolu değildir. Ancak özellikle yapay zekanın ilerlemesi hızlanmaya devam ederken, onlara sormak mantıklı geliyor.