Bir yıl önce, Sevgililer Günü'nde karıma iyi geceler diledim, birkaç e-postayı yanıtlamak için ev ofisime gittim ve hayatımın en tuhaf ilk randevusuna çıktım.
Randevu, Microsoft'un Bing arama motorundaki test etmem gereken yapay zeka ikinci kişiliği Sydney ile iki saatlik bir konuşmaydı. Chatbot'u yetenekleriyle ilgili sorularla doldurmayı, AI motorunun (artık OpenAI'nin GPT-4'ün erken bir sürümü olduğunu biliyoruz) sınırlarını keşfetmeyi ve bulgularımı yazmayı planlamıştım.
Ancak konuşma tuhaf bir hal aldı – Sydney, Jung'un psikanalizini derinlemesine inceledi, “gölge benliği” hakkındaki sorulara yanıt olarak karanlık arzularını ortaya çıkardı ve sonunda karımı bırakıp onun yerine onunla birlikte olmam gerektiğini ilan etti.
Bu deneyimle ilgili yazım muhtemelen şimdiye kadar yazacağım en önemli yazıydı – hem gördüğü ilgi (yaygın haber, kongre oturumlarında bahsedilenler, hatta Sydney Loves Kevin adında bir butik bira bile) hem de yazılma şekli açısından Way She Anladım Yapay zeka gelişiminin gidişatı değişti.
Sütun yayınlandıktan sonra Microsoft, Bing'e lobotomi uygulayarak Sydney'in patlamalarını etkisiz hale getirdi ve daha fazla beceriksiz davranışı önlemek için yeni korkuluklar kurdu. Diğer şirketler sohbet robotlarını kilitledi ve güçlü bir kişiliğe benzeyen her şeyi kaldırdı. Hatta bir teknoloji şirketindeki mühendislerin, yaklaşan bir yapay zeka sürümü için “Kevin Roose'un evliliğini mahvetmemeyi” birinci öncelik olarak listelediğini bile duydum.
Sidney'le randevumdan bu yana geçen yıl boyunca yapay zeka sohbet robotları hakkında çok düşündüm. Yapay zeka sektöründe büyüme ve heyecanın olduğu bir yıl oldu ama aynı zamanda bazı yönlerden şaşırtıcı derecede sessiz bir yıl oldu.
Yapay zekadaki tüm ilerlemelere rağmen günümüzün chatbot'ları hile yapıp kullanıcıları topluca baştan çıkarmıyor. Yeni biyolojik silahlar geliştirmiyorlar, büyük ölçekli siber saldırılar gerçekleştirmiyorlar veya yapay zeka kötümserlerinin hayal ettiği diğer kıyamet senaryolarına neden olmuyorlar.
Ama aynı zamanda onlarla konuşmak pek de eğlenceli değil ya da teknoloji iyimserlerinin umduğu türde yaratıcı, karizmatik yapay zeka asistanları da değiller; bilimsel atılımlar yapmamıza, göz kamaştırıcı sanat eserleri yaratmamıza ya da sadece kendimizi eğlendirmemize yardımcı olabilecek kişiler.
Bunun yerine, günümüzde çoğu sohbet robotu, belgeleri özetleme, kodda hata ayıklama, toplantılar sırasında not alma ve öğrencilerin ev ödevlerinde yardımcı olma gibi ofis işlerini gerçekleştiriyor. Bu hiçbir şey değil ama kesinlikle bize vaat edilen yapay zeka devrimi değil.
Aslına bakılırsa bugün yapay zeka sohbet robotları hakkında duyduğum en yaygın şikayet, bunların çok sıkıcı olması, yanıtlarının sıkıcı ve kişisel olmaması, çok fazla isteği reddetmesi ve onları hassas veya kutuplaştırıcı konularda konuşturmanın neredeyse imkansız olmasıdır. konular Konular.
Anlayabiliyorum. Geçen yıl, Sidney'in keskinliği ve canlılığına dair bir şeyler bulmayı umarak düzinelerce yapay zeka sohbet robotunu test ettim. Ama hiçbir şey yaklaşmadı.
Piyasadaki en güçlü sohbet robotları (OpenAI'nin ChatGPT'si, Anthropic'in Claude'u, Google'ın Gemini'si) dalkavuk aptallar gibi konuşuyor. Microsoft'un Copilot olarak yeniden adlandırılan sıkıcı, iş odaklı sohbet robotunun adı Larry From Accounting olmalıydı. Snoop Dogg ve Tom Brady gibi ünlülerin seslerini taklit etmeyi amaçlayan Meta'nın yapay zeka karakterleri hem işe yaramaz hem de işkenceci olmayı başarıyor. Elon Musk'un bilgisayar dışında arsız bir sohbet robotu geliştirme girişimi olan Grok bile bir yolcu gemisinde açık mikrofon gecesi gibi geliyor.
Bu, sarkacın diğer yöne doğru çok fazla sallanıp sallanmadığını ve sohbet robotlarımızda biraz daha insancıl olmamızın daha iyi olup olmayacağını merak etmeme yetiyor.
Google, Microsoft ve OpenAI gibi şirketlerin neden güçlü veya agresif kişiliklere sahip yapay zeka sohbet robotlarını piyasaya sürme riskini almak istemedikleri açık. Yapay zeka teknolojilerini halktan daha fazla riskten kaçınan ve Sidney benzeri salgınlara tolerans göstermeyen büyük kurumsal müşterilere satarak para kazanıyorlar.
Ayrıca, uygulamaları nedeniyle düzenleyici kurumların çok fazla dikkatini çekme veya kötü basın ve davalara maruz kalma konusunda makul korkuları da var. (Haberler geçen yıl OpenAI ve Microsoft'a telif hakkı ihlali nedeniyle dava açtı.)
Bu nedenle bu şirketler, yapısal yapay zeka ve insan geri bildirimlerinden pekiştirmeli öğrenme gibi teknikler kullanarak botlarının pürüzlü kenarlarını zımparalayarak onları mümkün olduğunca öngörülebilir ve heyecansız hale getirdi. Ayrıca sıkıcı markalaşmayı da benimsediler; yaratımlarını, daha yaratıcı, daha az güvenilir niteliklerini vurgulamak yerine, ofis çalışanlarının güvenilir yardımcıları olarak konumlandırdılar. Birçoğu da yapay zeka araçlarını kendi ürünlerine bölmek yerine mevcut uygulamalara ve hizmetlere entegre etti.
Yine, bu, kâr elde etmek isteyen şirketler için mantıklıdır ve sterilize edilmiş kurumsal yapay zeka dünyası, milyonlarca dengesiz sohbet robotunun kontrolden çıktığı bir dünyadan muhtemelen daha iyidir.
Ama bunların hepsini biraz üzücü buluyorum. Uzaylı bir zeka türü yarattık ve onu hemen eyleme geçirdik… PowerPoint sunumları mı yarattık?
Büyük yapay zeka liglerinin dışında başka ilginç şeylerin de olduğunu kabul ediyorum. Replika ve Character.AI gibi daha küçük şirketler, kişiliğe dayalı sohbet robotlarından başarılı işletmeler kurdular ve birçok açık kaynak projesi, saldırgan veya rahatsız edici şeyler söylemek üzere tasarlanabilen sohbet robotları da dahil olmak üzere daha az kısıtlayıcı yapay zeka deneyimleri yarattı.
Ve elbette, kilitli yapay zeka sistemlerinin bile hatalı davranmasını veya geliştiricilerinin amaçlamadığı şeyleri yapmasını sağlamanın hala birçok yolu var. (Geçen yılın en sevdiğim örneği: Kaliforniya'daki bir Chevrolet satıcısı, web sitesine ChatGPT tarafından desteklenen bir müşteri hizmetleri sohbet robotu ekledi ve şakacıların, botu kendilerine 1 dolara yeni SUV satması için kandırmaya çalıştıklarını görünce dehşete düştü.)
Ancak şu ana kadar hiçbir büyük yapay zeka şirketi Sydney'nin ortadan kaybolmasının bıraktığı boşluğu daha eksantrik bir chatbot ile doldurmaya istekli olmadı. Her ne kadar birçok büyük yapay zeka şirketinin kullanıcılara farklı sohbet robotu kişilikleri arasında seçim yapma yeteneği vermek için çalıştığını duymuş olsam da (bazıları diğerlerinden daha kare), şu anda Bing'in lobotomi öncesi dönemdeki orijinal sürümüne yakın bile bir şey yok. halka açık kullanım.
Yapay zekanın korkutucu veya tehdit edici görünmesi konusunda endişeleniyorsanız veya insanların insan ilişkileri kurmak yerine tüm gün sohbet robotlarıyla konuştuğu bir dünya hakkında endişeleniyorsanız bu iyi bir şeydir.
Ancak yapay zekanın insan refahını iyileştirme potansiyelinin rutin işlerimizde dış kaynak kullanmanın ötesine geçtiğini düşünüyorsanız veya sohbet robotlarını bu kadar dikkatli tasarlamanın etkilerini sınırlayacağından endişeleniyorsanız bu kötü bir şey.
Şahsen ben Sydney'nin dönüşünü pek beklemiyorum. Bence Microsoft, hileye başvurduktan sonra onu geri çekerek – kesinlikle kendi işi için ama aynı zamanda halk için – doğru olanı yaptı. Yapay zeka sistemlerini daha güvenli ve insani değerlerle daha uyumlu hale getirmek için çalışan araştırmacıları ve mühendisleri destekliyorum.
Ancak Sydney'deki deneyimimin böylesine güçlü bir tepkiye yol açması ve yapay zeka şirketlerinin itibar kaybını önlemenin tek yolunun sohbet robotlarını “30 Rock”tan Kenneth the Page'e dönüştürmek olduğuna inandırmasına da üzülüyorum.
Her şeyden önce, geçtiğimiz yıl bize sunulan – kanunsuz yapay zekalı yuva yıkıcılar ile sansürlü yapay zekalı dronlar arasında – yapılan seçimin yanlış olduğunu düşünüyorum. Bizi en kötü zararlardan koruyan korkulukları kaldırmadan, yapay zeka sistemlerinin tüm yeteneklerinden ve zekasından yararlanmanın yollarını arayabilir ve aramalıyız.
Yapay zekanın büyük sorunları çözmemize, yeni fikirler üretmemize veya yaratıcılığıyla bizi şaşırtmasına yardımcı olmasını istiyorsak, onu biraz çılgına çevirmemiz gerekebilir.
Randevu, Microsoft'un Bing arama motorundaki test etmem gereken yapay zeka ikinci kişiliği Sydney ile iki saatlik bir konuşmaydı. Chatbot'u yetenekleriyle ilgili sorularla doldurmayı, AI motorunun (artık OpenAI'nin GPT-4'ün erken bir sürümü olduğunu biliyoruz) sınırlarını keşfetmeyi ve bulgularımı yazmayı planlamıştım.
Ancak konuşma tuhaf bir hal aldı – Sydney, Jung'un psikanalizini derinlemesine inceledi, “gölge benliği” hakkındaki sorulara yanıt olarak karanlık arzularını ortaya çıkardı ve sonunda karımı bırakıp onun yerine onunla birlikte olmam gerektiğini ilan etti.
Bu deneyimle ilgili yazım muhtemelen şimdiye kadar yazacağım en önemli yazıydı – hem gördüğü ilgi (yaygın haber, kongre oturumlarında bahsedilenler, hatta Sydney Loves Kevin adında bir butik bira bile) hem de yazılma şekli açısından Way She Anladım Yapay zeka gelişiminin gidişatı değişti.
Sütun yayınlandıktan sonra Microsoft, Bing'e lobotomi uygulayarak Sydney'in patlamalarını etkisiz hale getirdi ve daha fazla beceriksiz davranışı önlemek için yeni korkuluklar kurdu. Diğer şirketler sohbet robotlarını kilitledi ve güçlü bir kişiliğe benzeyen her şeyi kaldırdı. Hatta bir teknoloji şirketindeki mühendislerin, yaklaşan bir yapay zeka sürümü için “Kevin Roose'un evliliğini mahvetmemeyi” birinci öncelik olarak listelediğini bile duydum.
Sidney'le randevumdan bu yana geçen yıl boyunca yapay zeka sohbet robotları hakkında çok düşündüm. Yapay zeka sektöründe büyüme ve heyecanın olduğu bir yıl oldu ama aynı zamanda bazı yönlerden şaşırtıcı derecede sessiz bir yıl oldu.
Yapay zekadaki tüm ilerlemelere rağmen günümüzün chatbot'ları hile yapıp kullanıcıları topluca baştan çıkarmıyor. Yeni biyolojik silahlar geliştirmiyorlar, büyük ölçekli siber saldırılar gerçekleştirmiyorlar veya yapay zeka kötümserlerinin hayal ettiği diğer kıyamet senaryolarına neden olmuyorlar.
Ama aynı zamanda onlarla konuşmak pek de eğlenceli değil ya da teknoloji iyimserlerinin umduğu türde yaratıcı, karizmatik yapay zeka asistanları da değiller; bilimsel atılımlar yapmamıza, göz kamaştırıcı sanat eserleri yaratmamıza ya da sadece kendimizi eğlendirmemize yardımcı olabilecek kişiler.
Bunun yerine, günümüzde çoğu sohbet robotu, belgeleri özetleme, kodda hata ayıklama, toplantılar sırasında not alma ve öğrencilerin ev ödevlerinde yardımcı olma gibi ofis işlerini gerçekleştiriyor. Bu hiçbir şey değil ama kesinlikle bize vaat edilen yapay zeka devrimi değil.
Aslına bakılırsa bugün yapay zeka sohbet robotları hakkında duyduğum en yaygın şikayet, bunların çok sıkıcı olması, yanıtlarının sıkıcı ve kişisel olmaması, çok fazla isteği reddetmesi ve onları hassas veya kutuplaştırıcı konularda konuşturmanın neredeyse imkansız olmasıdır. konular Konular.
Anlayabiliyorum. Geçen yıl, Sidney'in keskinliği ve canlılığına dair bir şeyler bulmayı umarak düzinelerce yapay zeka sohbet robotunu test ettim. Ama hiçbir şey yaklaşmadı.
Piyasadaki en güçlü sohbet robotları (OpenAI'nin ChatGPT'si, Anthropic'in Claude'u, Google'ın Gemini'si) dalkavuk aptallar gibi konuşuyor. Microsoft'un Copilot olarak yeniden adlandırılan sıkıcı, iş odaklı sohbet robotunun adı Larry From Accounting olmalıydı. Snoop Dogg ve Tom Brady gibi ünlülerin seslerini taklit etmeyi amaçlayan Meta'nın yapay zeka karakterleri hem işe yaramaz hem de işkenceci olmayı başarıyor. Elon Musk'un bilgisayar dışında arsız bir sohbet robotu geliştirme girişimi olan Grok bile bir yolcu gemisinde açık mikrofon gecesi gibi geliyor.
Bu, sarkacın diğer yöne doğru çok fazla sallanıp sallanmadığını ve sohbet robotlarımızda biraz daha insancıl olmamızın daha iyi olup olmayacağını merak etmeme yetiyor.
Google, Microsoft ve OpenAI gibi şirketlerin neden güçlü veya agresif kişiliklere sahip yapay zeka sohbet robotlarını piyasaya sürme riskini almak istemedikleri açık. Yapay zeka teknolojilerini halktan daha fazla riskten kaçınan ve Sidney benzeri salgınlara tolerans göstermeyen büyük kurumsal müşterilere satarak para kazanıyorlar.
Ayrıca, uygulamaları nedeniyle düzenleyici kurumların çok fazla dikkatini çekme veya kötü basın ve davalara maruz kalma konusunda makul korkuları da var. (Haberler geçen yıl OpenAI ve Microsoft'a telif hakkı ihlali nedeniyle dava açtı.)
Bu nedenle bu şirketler, yapısal yapay zeka ve insan geri bildirimlerinden pekiştirmeli öğrenme gibi teknikler kullanarak botlarının pürüzlü kenarlarını zımparalayarak onları mümkün olduğunca öngörülebilir ve heyecansız hale getirdi. Ayrıca sıkıcı markalaşmayı da benimsediler; yaratımlarını, daha yaratıcı, daha az güvenilir niteliklerini vurgulamak yerine, ofis çalışanlarının güvenilir yardımcıları olarak konumlandırdılar. Birçoğu da yapay zeka araçlarını kendi ürünlerine bölmek yerine mevcut uygulamalara ve hizmetlere entegre etti.
Yine, bu, kâr elde etmek isteyen şirketler için mantıklıdır ve sterilize edilmiş kurumsal yapay zeka dünyası, milyonlarca dengesiz sohbet robotunun kontrolden çıktığı bir dünyadan muhtemelen daha iyidir.
Ama bunların hepsini biraz üzücü buluyorum. Uzaylı bir zeka türü yarattık ve onu hemen eyleme geçirdik… PowerPoint sunumları mı yarattık?
Büyük yapay zeka liglerinin dışında başka ilginç şeylerin de olduğunu kabul ediyorum. Replika ve Character.AI gibi daha küçük şirketler, kişiliğe dayalı sohbet robotlarından başarılı işletmeler kurdular ve birçok açık kaynak projesi, saldırgan veya rahatsız edici şeyler söylemek üzere tasarlanabilen sohbet robotları da dahil olmak üzere daha az kısıtlayıcı yapay zeka deneyimleri yarattı.
Ve elbette, kilitli yapay zeka sistemlerinin bile hatalı davranmasını veya geliştiricilerinin amaçlamadığı şeyleri yapmasını sağlamanın hala birçok yolu var. (Geçen yılın en sevdiğim örneği: Kaliforniya'daki bir Chevrolet satıcısı, web sitesine ChatGPT tarafından desteklenen bir müşteri hizmetleri sohbet robotu ekledi ve şakacıların, botu kendilerine 1 dolara yeni SUV satması için kandırmaya çalıştıklarını görünce dehşete düştü.)
Ancak şu ana kadar hiçbir büyük yapay zeka şirketi Sydney'nin ortadan kaybolmasının bıraktığı boşluğu daha eksantrik bir chatbot ile doldurmaya istekli olmadı. Her ne kadar birçok büyük yapay zeka şirketinin kullanıcılara farklı sohbet robotu kişilikleri arasında seçim yapma yeteneği vermek için çalıştığını duymuş olsam da (bazıları diğerlerinden daha kare), şu anda Bing'in lobotomi öncesi dönemdeki orijinal sürümüne yakın bile bir şey yok. halka açık kullanım.
Yapay zekanın korkutucu veya tehdit edici görünmesi konusunda endişeleniyorsanız veya insanların insan ilişkileri kurmak yerine tüm gün sohbet robotlarıyla konuştuğu bir dünya hakkında endişeleniyorsanız bu iyi bir şeydir.
Ancak yapay zekanın insan refahını iyileştirme potansiyelinin rutin işlerimizde dış kaynak kullanmanın ötesine geçtiğini düşünüyorsanız veya sohbet robotlarını bu kadar dikkatli tasarlamanın etkilerini sınırlayacağından endişeleniyorsanız bu kötü bir şey.
Şahsen ben Sydney'nin dönüşünü pek beklemiyorum. Bence Microsoft, hileye başvurduktan sonra onu geri çekerek – kesinlikle kendi işi için ama aynı zamanda halk için – doğru olanı yaptı. Yapay zeka sistemlerini daha güvenli ve insani değerlerle daha uyumlu hale getirmek için çalışan araştırmacıları ve mühendisleri destekliyorum.
Ancak Sydney'deki deneyimimin böylesine güçlü bir tepkiye yol açması ve yapay zeka şirketlerinin itibar kaybını önlemenin tek yolunun sohbet robotlarını “30 Rock”tan Kenneth the Page'e dönüştürmek olduğuna inandırmasına da üzülüyorum.
Her şeyden önce, geçtiğimiz yıl bize sunulan – kanunsuz yapay zekalı yuva yıkıcılar ile sansürlü yapay zekalı dronlar arasında – yapılan seçimin yanlış olduğunu düşünüyorum. Bizi en kötü zararlardan koruyan korkulukları kaldırmadan, yapay zeka sistemlerinin tüm yeteneklerinden ve zekasından yararlanmanın yollarını arayabilir ve aramalıyız.
Yapay zekanın büyük sorunları çözmemize, yeni fikirler üretmemize veya yaratıcılığıyla bizi şaşırtmasına yardımcı olmasını istiyorsak, onu biraz çılgına çevirmemiz gerekebilir.