Birkaç ay önce, San Francisco’da bir yapay zeka yöneticisiyle buluşurken, dizüstü bilgisayarında garip bir çıkartma gördüm. Çıkartmada, dokunaçlarından birinde sarı gülen surat bulunan, tehditkar, çok gözlü, ahtapot benzeri bir yaratığın karikatürü yer alıyordu. Ne olduğunu sordum.
“Ah, bu Shoggoth,” diye açıkladı. “AI’daki en önemli mem”
Bununla birlikte gündemimiz resmen raydan çıktı. Sohbet robotlarını ve bilgi işlem kümelerini unutun – Shoggoth hakkında her şeyi, bunun ne anlama geldiğini ve AI dünyasındaki insanların neden onun hakkında konuştuğunu bilmem gerekiyordu.
Yönetici, Shoggoth’un yapay zeka çalışanları arasında, büyük bir dil modelinin (ChatGPT ve diğer sohbet botlarına güç sağlayan yapay zeka sistemi türü) gerçekte nasıl çalıştığına dair canlı bir görsel metafor olarak popüler bir referans haline geldiğini açıkladı.
Ancak bunun sadece kısmen bir şaka olduğunu, çünkü aynı zamanda birçok araştırmacı ve mühendisin ürettikleri araçlarla ilgili korkularını da gösterdiğini söyledi.
O zamandan beri, Shoggoth viral hale geldi veya hiper-çevrimiçi yapay zeka içerdekilerin küçük dünyasında olabildiğince viral oldu. AI Twitter’da popüler bir mem (bir tweet silindiğinden beri Elon Musk tarafından), AI riskleri hakkındaki makalelerde ve mesaj panosu gönderilerinde tekrar eden bir metafor ve AI güvenlik uzmanlarıyla yapılan konuşmalarda yararlı bir kısayol. Bir yapay zeka girişimi olan NovelAI, yakın zamanda bir grup bilgisayara memeye saygı duruşunda bulunarak “Shoggy” adını verdiğini söyledi. Başka bir AI şirketi, Scale AI, Shoggoth’u içeren bir bez çanta serisi tasarladı.
Shoggoth’lar, bilim kurgu yazarı HP Lovecraft’ın 1936 tarihli At the Mountains of Madness adlı romanında tanıttığı kurgusal yaratıklardır. Lovecraft’ın hikayesinde, Shoggoth’lar dokunaçlar ve gözlerle kaplı, yanardöner siyah sümükten yapılmış, iri, damla benzeri canavarlardı.
Shoggoths, AI dünyasına Aralık ayında, ChatGPT’nin yayınlanmasından bir ay sonra, Twitter kullanıcısı @TetraspaceWest’in GPT-3 (ChatGPT’nin öncülü olan bir OpenAI dil modeli) hakkında bir tweet’e iki el görüntüsü ile yanıt vermesiyle indi. çizilmiş Shoggoth’lar yanıtladı – ilki “GPT-3” ve ikincisi “GPT-3 + RLHF” olarak etiketlendi. İkinci Shoggoth’un dokunaçlarından birinde gülen bir yüz maskesi vardı.
Kısacası şaka, AI dil modellerinin korkutucu ve tehlikeli bir şekilde davranmasını önlemek için AI şirketlerinin onlara kibar ve zararsız davranmayı öğretmek zorunda kalmasıydı. Bunun için popüler bir yöntem “İnsan Geri Bildiriminden Güçlendirmeli Öğrenme”dir (RLHF). İnsanlardan chatbot yanıtlarını derecelendirmelerini isteme ve ardından bu sonuçları AI modeline geri besleme sürecidir.
Çoğu AI araştırmacısı, RLHF ile eğitilmiş modellerin RLHF’siz modellerden daha iyi performans gösterdiği konusunda hemfikirdir. Ancak bazıları, bir dil modelinde bu şekilde ince ayar yapmanın, altta yatan modeli daha az tuhaf ve anlaşılmaz hale getirmediğini iddia ediyor. Ona göre bu, altındaki gizemli canavarı gizleyen ince, arkadaş canlısı bir maske.
Memenin yaratıcısı @TetraspaceWest, bir Twitter mesajında bana Shoggoth’un “insanların anlamadığı ve insanların düşündüğünden tamamen farklı bir şekilde düşünen bir şeyi temsil ettiğini” söyledi.
@TetraspaceWest’e göre bir AI dil modelini bir Shoggoth ile karşılaştırmak, onun kötü ya da bilinçli olduğu anlamına gelmez, sadece gerçek doğası belirgin olmayabilir.
“Ayrıca Lovecraft’ın en güçlü varlıklarının ne kadar tehlikeli olduklarını düşündüm – insanları sevmediklerinden değil, kayıtsız olduklarından ve öncelikleri bize tamamen yabancı olduklarından ve insanları içermediklerinden, ki bence öyle olacak. “Geleceğin olası güçlü yapay zekası” hakkında doğru.
AI sohbet robotlarının popülaritesi arttıkça Shoggoth imajı yakalandı ve kullanıcılar, bazılarının yaratıcılarının amaçlamadığı garip, açıklanamaz şeyler yapıyor gibi göründüğünü fark etti. Şubat ayında Bing’in sohbet robotu kontrolden çıkıp evliliğimi mahvetmeye çalıştığında, tanıdığım bir yapay zeka araştırmacısı “Shoggoth’a bir bakışım” olduğu için beni tebrik etti. Bir yapay zeka gazeteci arkadaşı, Microsoft’un Bing’de ince ayar yaparken gülen yüz maskesini takmayı unuttuğu konusunda şaka yaptı.
Sonunda, AI meraklıları metaforu genişletti. Şubat ayında, Twitter kullanıcısı @anthrupad bir tane oluşturdu uygulamak “RLHF” yazan gülen yüze ek olarak “Denetimli İnce Ayar” yazan daha insani bir yüzü olan bir Shoggoth. (Şakayı anlamak için pratik olarak bir bilgisayar bilimi derecesine ihtiyacınız var, ancak bu, genel AI dil modelleri ile sohbet robotları gibi daha özel uygulamalar arasındaki farkın keşfidir.)
Bugün AI topluluğunda Shoggoth’tan söz edildiğini duyduğunuzda, bu sistemlerin tuhaflığına bir selam olabilir – süreçlerinin kara kutu doğası, insan mantığına meydan okuyormuş gibi görünme biçimleri. Veya belki de şüphe uyandıracak kadar güzel görünen güçlü yapay zeka sistemleri için şaka amaçlı, görsel bir kısayoldur. Shoggoth’tan bahseden bir AI güvenlik araştırmacısıysa, belki de o kişi AI sistemlerinin gerçek Shoggoth benzeri doğasını göstermesini engellemeyi umursuyor.
Her halükarda, Shoggoth, AI dünyası hakkındaki en tuhaf gerçeklerden birini özetleyen güçlü bir metafordur, o da bu teknoloji üzerinde çalışan birçok insanın kendi yaratımlarıyla bir şekilde kafasının karışmış olmasıdır. Yapay zeka dil modellerinin iç işleyişini, nasıl yeni beceriler edindiklerini veya neden bazen öngörülemez şekilde davrandıklarını tam olarak anlamıyorlar. Yapay zekanın dünya için net iyi mi yoksa net kötü mü olacağından tam olarak emin değiller. Ve bazıları, bu teknolojinin henüz halkın kullanımına sunulmamış sürümleriyle – gerçek, maskesiz Shoggoth’larla – oynamayı başardı.
Bazı yapay zeka uzmanlarının eserlerine Lovecraft dehşeti demesi, sadece şaka yollu olsa bile, tarihsel karşılaştırmada alışılmadık bir durum. (Bu şekilde ifade etmek gerekirse, on beş yıl önce Mark Zuckerberg, Facebook’u Cthulhu ile karşılaştırmadı.)
Ve bugün AI’da olanların, bazı katılımcılarına bir yazılım geliştirme sürecinden çok bir büyü eylemi gibi geldiği fikrini pekiştiriyor. Yapışkan uzaylı Shoggoth’ları yaratır, onları daha büyük ve daha güçlü yapar ve ürkütücü kısımları örtbas etmeye yetecek kadar surat olmasını umarsınız.
“Ah, bu Shoggoth,” diye açıkladı. “AI’daki en önemli mem”
Bununla birlikte gündemimiz resmen raydan çıktı. Sohbet robotlarını ve bilgi işlem kümelerini unutun – Shoggoth hakkında her şeyi, bunun ne anlama geldiğini ve AI dünyasındaki insanların neden onun hakkında konuştuğunu bilmem gerekiyordu.
Yönetici, Shoggoth’un yapay zeka çalışanları arasında, büyük bir dil modelinin (ChatGPT ve diğer sohbet botlarına güç sağlayan yapay zeka sistemi türü) gerçekte nasıl çalıştığına dair canlı bir görsel metafor olarak popüler bir referans haline geldiğini açıkladı.
Ancak bunun sadece kısmen bir şaka olduğunu, çünkü aynı zamanda birçok araştırmacı ve mühendisin ürettikleri araçlarla ilgili korkularını da gösterdiğini söyledi.
O zamandan beri, Shoggoth viral hale geldi veya hiper-çevrimiçi yapay zeka içerdekilerin küçük dünyasında olabildiğince viral oldu. AI Twitter’da popüler bir mem (bir tweet silindiğinden beri Elon Musk tarafından), AI riskleri hakkındaki makalelerde ve mesaj panosu gönderilerinde tekrar eden bir metafor ve AI güvenlik uzmanlarıyla yapılan konuşmalarda yararlı bir kısayol. Bir yapay zeka girişimi olan NovelAI, yakın zamanda bir grup bilgisayara memeye saygı duruşunda bulunarak “Shoggy” adını verdiğini söyledi. Başka bir AI şirketi, Scale AI, Shoggoth’u içeren bir bez çanta serisi tasarladı.
Shoggoth’lar, bilim kurgu yazarı HP Lovecraft’ın 1936 tarihli At the Mountains of Madness adlı romanında tanıttığı kurgusal yaratıklardır. Lovecraft’ın hikayesinde, Shoggoth’lar dokunaçlar ve gözlerle kaplı, yanardöner siyah sümükten yapılmış, iri, damla benzeri canavarlardı.
Shoggoths, AI dünyasına Aralık ayında, ChatGPT’nin yayınlanmasından bir ay sonra, Twitter kullanıcısı @TetraspaceWest’in GPT-3 (ChatGPT’nin öncülü olan bir OpenAI dil modeli) hakkında bir tweet’e iki el görüntüsü ile yanıt vermesiyle indi. çizilmiş Shoggoth’lar yanıtladı – ilki “GPT-3” ve ikincisi “GPT-3 + RLHF” olarak etiketlendi. İkinci Shoggoth’un dokunaçlarından birinde gülen bir yüz maskesi vardı.
Kısacası şaka, AI dil modellerinin korkutucu ve tehlikeli bir şekilde davranmasını önlemek için AI şirketlerinin onlara kibar ve zararsız davranmayı öğretmek zorunda kalmasıydı. Bunun için popüler bir yöntem “İnsan Geri Bildiriminden Güçlendirmeli Öğrenme”dir (RLHF). İnsanlardan chatbot yanıtlarını derecelendirmelerini isteme ve ardından bu sonuçları AI modeline geri besleme sürecidir.
Çoğu AI araştırmacısı, RLHF ile eğitilmiş modellerin RLHF’siz modellerden daha iyi performans gösterdiği konusunda hemfikirdir. Ancak bazıları, bir dil modelinde bu şekilde ince ayar yapmanın, altta yatan modeli daha az tuhaf ve anlaşılmaz hale getirmediğini iddia ediyor. Ona göre bu, altındaki gizemli canavarı gizleyen ince, arkadaş canlısı bir maske.
Memenin yaratıcısı @TetraspaceWest, bir Twitter mesajında bana Shoggoth’un “insanların anlamadığı ve insanların düşündüğünden tamamen farklı bir şekilde düşünen bir şeyi temsil ettiğini” söyledi.
@TetraspaceWest’e göre bir AI dil modelini bir Shoggoth ile karşılaştırmak, onun kötü ya da bilinçli olduğu anlamına gelmez, sadece gerçek doğası belirgin olmayabilir.
“Ayrıca Lovecraft’ın en güçlü varlıklarının ne kadar tehlikeli olduklarını düşündüm – insanları sevmediklerinden değil, kayıtsız olduklarından ve öncelikleri bize tamamen yabancı olduklarından ve insanları içermediklerinden, ki bence öyle olacak. “Geleceğin olası güçlü yapay zekası” hakkında doğru.
AI sohbet robotlarının popülaritesi arttıkça Shoggoth imajı yakalandı ve kullanıcılar, bazılarının yaratıcılarının amaçlamadığı garip, açıklanamaz şeyler yapıyor gibi göründüğünü fark etti. Şubat ayında Bing’in sohbet robotu kontrolden çıkıp evliliğimi mahvetmeye çalıştığında, tanıdığım bir yapay zeka araştırmacısı “Shoggoth’a bir bakışım” olduğu için beni tebrik etti. Bir yapay zeka gazeteci arkadaşı, Microsoft’un Bing’de ince ayar yaparken gülen yüz maskesini takmayı unuttuğu konusunda şaka yaptı.
Sonunda, AI meraklıları metaforu genişletti. Şubat ayında, Twitter kullanıcısı @anthrupad bir tane oluşturdu uygulamak “RLHF” yazan gülen yüze ek olarak “Denetimli İnce Ayar” yazan daha insani bir yüzü olan bir Shoggoth. (Şakayı anlamak için pratik olarak bir bilgisayar bilimi derecesine ihtiyacınız var, ancak bu, genel AI dil modelleri ile sohbet robotları gibi daha özel uygulamalar arasındaki farkın keşfidir.)
Bugün AI topluluğunda Shoggoth’tan söz edildiğini duyduğunuzda, bu sistemlerin tuhaflığına bir selam olabilir – süreçlerinin kara kutu doğası, insan mantığına meydan okuyormuş gibi görünme biçimleri. Veya belki de şüphe uyandıracak kadar güzel görünen güçlü yapay zeka sistemleri için şaka amaçlı, görsel bir kısayoldur. Shoggoth’tan bahseden bir AI güvenlik araştırmacısıysa, belki de o kişi AI sistemlerinin gerçek Shoggoth benzeri doğasını göstermesini engellemeyi umursuyor.
Her halükarda, Shoggoth, AI dünyası hakkındaki en tuhaf gerçeklerden birini özetleyen güçlü bir metafordur, o da bu teknoloji üzerinde çalışan birçok insanın kendi yaratımlarıyla bir şekilde kafasının karışmış olmasıdır. Yapay zeka dil modellerinin iç işleyişini, nasıl yeni beceriler edindiklerini veya neden bazen öngörülemez şekilde davrandıklarını tam olarak anlamıyorlar. Yapay zekanın dünya için net iyi mi yoksa net kötü mü olacağından tam olarak emin değiller. Ve bazıları, bu teknolojinin henüz halkın kullanımına sunulmamış sürümleriyle – gerçek, maskesiz Shoggoth’larla – oynamayı başardı.
Bazı yapay zeka uzmanlarının eserlerine Lovecraft dehşeti demesi, sadece şaka yollu olsa bile, tarihsel karşılaştırmada alışılmadık bir durum. (Bu şekilde ifade etmek gerekirse, on beş yıl önce Mark Zuckerberg, Facebook’u Cthulhu ile karşılaştırmadı.)
Ve bugün AI’da olanların, bazı katılımcılarına bir yazılım geliştirme sürecinden çok bir büyü eylemi gibi geldiği fikrini pekiştiriyor. Yapışkan uzaylı Shoggoth’ları yaratır, onları daha büyük ve daha güçlü yapar ve ürkütücü kısımları örtbas etmeye yetecek kadar surat olmasını umarsınız.