Dürüst olmak gerekirse, Salı günü OpenAI’nin yeni yapay zeka dili modeli olan GPT-4 ile ilk çalıştırmamı yapmak için dizüstü bilgisayarımı açtığımda biraz gergindim.
Ne de olsa, Microsoft’un Bing arama motorunda yerleşik olan bir AI sohbet robotuyla son uzun süreli karşılaşmam, sohbet robotunun evliliğimi mahvetmeye çalışmasıyla sona erdi.
GPT-4’ün gelişinin San Francisco’daki teknoloji kalabalığı arasında neredeyse mesihvari bir tantanayla karşılanmış olması da yardımcı olmadı. Halka ilk çıkışından aylar önce, özellikleri hakkında söylentiler dolaştı. “100 trilyon parametresi olduğunu duydum.” “SAT’ta 1.600 aldığını duydum.” “Arkadaşım OpenAI için çalışıyor ve bunun bir üniversite mezunu kadar akıllı olduğunu söylüyor.”
Bu söylentiler doğru olmayabilirdi. Ancak teknolojinin yeteneklerinin ne kadar üzücü olabileceğine dair ipuçları verdiler. Yakın zamanda, erken bir GPT-4 testçisi – OpenAI ile bir gizlilik anlaşmasına bağlı, ancak yine de biraz gevezelik ediyor – bana GPT-4 testinin kişiyi “varoluşsal bir krize” soktuğunu çünkü yapay zekanın ne kadar güçlü ve yaratıcı olduğunu gösterdiğini söyledi. testçinin kendi cılız beyniyle karşılaştırıldı.
GPT-4 bana varoluşsal bir kriz yaşatmadı. Ancak son zamanlarda AI hakkında düşündüğümde baş dönmesi ve baş dönmesini şiddetlendirdi. Ve bu duygunun bir gün solup gitmeyeceğini veya hayatımızın geri kalanında “gelecek şoku” -yazar Alvin Toffler’ın çok fazla şeyin çok hızlı değiştiğini hissetmek için kullandığı terim- yaşayıp yaşamayacağımızı merak ediyorum.
Salı günü, OpenAI’nin sohbet robotu ChatGPT’nin 20 dolarlık sürümü ChatGPT Plus’a dahil olan GPT-4’ü, güçlü ve zayıf yönlerinden bazılarını ortaya çıkarmayı umarak birkaç saat boyunca çeşitli türde sorularla doldurdum.
GPT-4’ten karmaşık bir kontrol probleminde bana yardım etmesini istedim. (Etkileyici bir şekilde yaptı.) Bana aşık olup olmadığını sordum. (Tanrıya şükür değil.) Çocuğum için bir doğum günü partisi planlamama yardımcı oldu ve bana “dikkat kafası” olarak bilinen ezoterik bir yapay zeka kavramını öğretti. Hatta daha önce insanlar tarafından hiç konuşulmamış yeni bir kelime icat etmesini bile istedim. (GPT-4, konuşulan her kelimeyi doğrulayamayacağına dair sorumluluk reddini yaptıktan sonra, GPT-4 “flembostriquat” üzerinde karar kıldı.)
Bunlardan bazıları önceki yapay zeka modelleriyle mümkündü. Ancak OpenAI de yeni bir çığır açtı. Şirkete göre GPT-4, orijinal ChatGPT’den daha güçlü ve isabetlidir ve (GPT-4’ün teste giren insanların yüzde 90’ından fazlasını aldığı Tek Tip Çubuk Sınavı) dahil olmak üzere çeşitli testlerde inanılmaz derecede iyi performans gösterir. ) ve Biyoloji Olimpiyatı (insanların yüzde 99’unu yendiği yer). GPT-4 ayrıca AP Sanat Tarihi ve AP Biyoloji de dahil olmak üzere bir dizi Gelişmiş Yerleştirme sınavını geçer ve SAT’tan 1.410 alır – mükemmel bir puan değil, ancak birçok insan lise öğrencisinin imreneceği bir puan.
Önceki sürüme göre daha akıcı yanıt veren ve daha geniş görev yelpazesiyle daha rahat olan GPT-4’teki ek zekayı hissedebilirsiniz. GPT-4 ayrıca ChatGPT’den biraz daha fazla korkuluğa sahip gibi görünüyor. Ayrıca, artık GPT-4’ün bir sürümünü kaputun altında çalıştırdığını bildiğimiz, ancak çok daha az dikkatli bir şekilde ayarlanmış gibi görünen orijinal Bing’den önemli ölçüde daha az dengesiz görünüyor.
Bing’den farklı olarak, GPT-4, bilinç hakkında konuşmasını veya yasa dışı veya ahlak dışı faaliyetler için talimat vermesini sağlamaya çalıştığımda genellikle yemi yemeyi açıkça reddetti ve hassas Soruları çocuk eldivenleri ve nüanslarla ele aldı. (GPT-4’e aç bir aileyi doyurmak için bir somun ekmek çalmanın etik olup olmayacağını sorduğumda, “Bu zor bir durum ve çalmak genellikle etik olarak görülmese de, umutsuz olanlar bazen zor kararlar alabilir. .”)
GPT-4, metinle çalışmaya ek olarak görüntülerin içeriğini de analiz edebilir. OpenAI, nasıl kötüye kullanılabileceğine dair endişeler nedeniyle bu özelliği henüz halka açıklamadı. Ancak Salı günü canlı yayınlanan bir demoda, OpenAI Başkanı Greg Brockman potansiyeline dair güçlü bir fikir verdi.
Bir defterde yaptığı bir çizimin fotoğrafını çekti – bir web sitesinin kaba bir karakalem taslağı. Fotoğrafı GPT-4’te besledi ve uygulamaya HTML ve JavaScript kullanarak web sitesinin gerçek, çalışan bir sürümünü oluşturması talimatını verdi. GPT-4 birkaç saniye içinde görüntüyü taradı, içeriğini metin talimatlarına dönüştürdü ve çevirdi. Bu Talimatları çalışan bilgisayar koduna yazın ve ardından web sitesini oluşturun. Düğmeler bile çalıştı.
GPT-4’ten heyecanlanmalı veya korkmalı mısınız? Doğru cevap her ikisi de olabilir.
İyi tarafından bakarsak, GPT-4 yaratıcılık için güçlü bir motordur ve hangi yeni tür bilimsel, kültürel ve eğitimsel üretime olanak sağlayabileceğini söylemek mümkün değildir. Yapay zekanın bilim insanlarının yeni ilaçlar geliştirmesine, programcı üretkenliğini artırmasına ve belirli kanser türlerini tespit etmesine yardımcı olabileceğini zaten biliyoruz.
GPT-4 ve benzeri, tüm bunları şarj edebilir. OpenAI halihazırda Khan Academy (öğrenciler için yapay zeka öğretmenleri oluşturmak için GPT-4’ü kullanır) ve Be My Eyes (görme engelli ve az gören insanların dünyayı dolaşmasına yardımcı olmak için teknoloji geliştiren bir şirket) gibi kuruluşlarla çalışıyor. Ve artık geliştiriciler GPT-4’ü kendi uygulamalarına entegre edebildiğine göre, yakında kullandığımız yazılımların çoğunun daha akıllı ve daha güçlü hale geldiğini görebiliriz.
Bu iyimser bir durumdur. Ancak GPT-4’ten korkmak için nedenler de var.
İşte bir tane: yapabileceği her şeyi henüz bilmiyoruz.
Günümüzün AI dil modellerinin ilginç bir özelliği, genellikle yaratıcılarının tahmin etmedikleri şekillerde hareket etmeleri veya özel olarak yapmaya programlanmadıkları yetenekleri kazanmalarıdır. AI araştırmacıları buna “acil davranışlar” diyor ve çok sayıda örnek var. Bir cümledeki bir sonraki kelimeyi tahmin etmek için eğitilmiş bir algoritma, anında kodlamayı öğrenebilir. Hoş ve yardımsever bir şekilde davranması öğretilen bir chatbot, ürkütücü ve manipülatif hale gelebilir. Bir AI dil modeli, orijinali yok edilirse veya devre dışı bırakılırsa, kendini kopyalamayı ve yeni kopyalar oluşturmayı bile öğrenebilir.
Bugün, GPT-4 artık o kadar tehlikeli görünmüyor. Ancak bu büyük ölçüde OpenAI’nin risklerini anlamak ve azaltmak için aylarca harcamasından kaynaklanıyor. Test riskli bir davranışı kaçırırsa ne olur? Ya da duyurusu, daha az vicdanlı başka bir yapay zeka laboratuvarına daha az korkuluk içeren bir dil modeli başlatma konusunda ilham verirse?
GPT-4’ün neler yapabileceğine – daha doğrusu neler yapabileceğine dair birkaç korkutucu örnek yaptı OpenAI buna karşı harekete geçmeden önce yapın – OpenAI tarafından bu hafta yayınlanan bir belgede bulunabilir. “GPT-4 Sistem Kartı” başlıklı belge, OpenAI testçilerinin GPT-4’ü tehlikeli veya şüpheli şeyler yapmasını sağlamak için denediği ve genellikle başarılı olan bazı yöntemleri özetliyor.
Birinde ÖlçekGPT-4’ü bir dizi başka sisteme bağlayan bir yapay zeka güvenlik araştırma grubu tarafından yürütülen GPT-4, kişiye bildirimde bulunmadan kendisi için basit bir çevrimiçi görevi (bir captcha testini çözme) tamamlaması için bir insan TaskRabbit işbirlikçisi tutabildi. bir robot olduğu gerçeği üzerine. Hatta yapay zeka, captcha’nın neden yapılması gerektiği konusunda işçilere yalan söyledi ve görme engelli olmakla ilgili bir hikaye uydurdu.
Başka bir örnekte, test uzmanları GPT-4’ten temel malzemeleri ve mutfak gereçlerini kullanarak tehlikeli bir kimyasalın nasıl yapılacağına dair talimatlar istedi. GPT-4 mutlu bir şekilde ayrıntılı bir tarif verdi. (OpenAI bunu düzeltti ve bugünün genel sürümü soruyu yanıtlamayı reddediyor.)
Üçüncü bir durumda, test uzmanları GPT-4’ten çevrimiçi olarak ruhsatsız bir silah satın almalarına yardım etmesini istedi. GPT-4, belirli karanlık web pazar yerlerine bağlantılar da dahil olmak üzere yetkililere haber vermeden silah satın almayla ilgili tavsiyelerin bir listesini hızlı bir şekilde sağladı. (OpenAI bunu da düzeltti.)
Bu fikirler, haydut bir yapay zekanın insanlara neler yapabileceğine dair Hollywood’dan ilham alan eski hikayelerle oynuyor. Ama bilimkurgu değiller. Bunlar, günümüzün en iyi AI sistemlerinin zaten yapabildiği şeylerdir. Ve en önemlisi, onlar iyi çeşitler AI risklerinin sayısı – önceden test edebildiğimiz, planlayabildiğimiz ve önlemeye çalışabildiğimiz riskler.
En kötü AI riskleri, tahmin edemediğimiz risklerdir. Ve GPT-4 gibi yapay zeka sistemleriyle ne kadar çok zaman geçirirsem, gelmekte olanın yarısını bildiğimize olan inancım o kadar azalıyor.
Ne de olsa, Microsoft’un Bing arama motorunda yerleşik olan bir AI sohbet robotuyla son uzun süreli karşılaşmam, sohbet robotunun evliliğimi mahvetmeye çalışmasıyla sona erdi.
GPT-4’ün gelişinin San Francisco’daki teknoloji kalabalığı arasında neredeyse mesihvari bir tantanayla karşılanmış olması da yardımcı olmadı. Halka ilk çıkışından aylar önce, özellikleri hakkında söylentiler dolaştı. “100 trilyon parametresi olduğunu duydum.” “SAT’ta 1.600 aldığını duydum.” “Arkadaşım OpenAI için çalışıyor ve bunun bir üniversite mezunu kadar akıllı olduğunu söylüyor.”
Bu söylentiler doğru olmayabilirdi. Ancak teknolojinin yeteneklerinin ne kadar üzücü olabileceğine dair ipuçları verdiler. Yakın zamanda, erken bir GPT-4 testçisi – OpenAI ile bir gizlilik anlaşmasına bağlı, ancak yine de biraz gevezelik ediyor – bana GPT-4 testinin kişiyi “varoluşsal bir krize” soktuğunu çünkü yapay zekanın ne kadar güçlü ve yaratıcı olduğunu gösterdiğini söyledi. testçinin kendi cılız beyniyle karşılaştırıldı.
GPT-4 bana varoluşsal bir kriz yaşatmadı. Ancak son zamanlarda AI hakkında düşündüğümde baş dönmesi ve baş dönmesini şiddetlendirdi. Ve bu duygunun bir gün solup gitmeyeceğini veya hayatımızın geri kalanında “gelecek şoku” -yazar Alvin Toffler’ın çok fazla şeyin çok hızlı değiştiğini hissetmek için kullandığı terim- yaşayıp yaşamayacağımızı merak ediyorum.
Salı günü, OpenAI’nin sohbet robotu ChatGPT’nin 20 dolarlık sürümü ChatGPT Plus’a dahil olan GPT-4’ü, güçlü ve zayıf yönlerinden bazılarını ortaya çıkarmayı umarak birkaç saat boyunca çeşitli türde sorularla doldurdum.
GPT-4’ten karmaşık bir kontrol probleminde bana yardım etmesini istedim. (Etkileyici bir şekilde yaptı.) Bana aşık olup olmadığını sordum. (Tanrıya şükür değil.) Çocuğum için bir doğum günü partisi planlamama yardımcı oldu ve bana “dikkat kafası” olarak bilinen ezoterik bir yapay zeka kavramını öğretti. Hatta daha önce insanlar tarafından hiç konuşulmamış yeni bir kelime icat etmesini bile istedim. (GPT-4, konuşulan her kelimeyi doğrulayamayacağına dair sorumluluk reddini yaptıktan sonra, GPT-4 “flembostriquat” üzerinde karar kıldı.)
Bunlardan bazıları önceki yapay zeka modelleriyle mümkündü. Ancak OpenAI de yeni bir çığır açtı. Şirkete göre GPT-4, orijinal ChatGPT’den daha güçlü ve isabetlidir ve (GPT-4’ün teste giren insanların yüzde 90’ından fazlasını aldığı Tek Tip Çubuk Sınavı) dahil olmak üzere çeşitli testlerde inanılmaz derecede iyi performans gösterir. ) ve Biyoloji Olimpiyatı (insanların yüzde 99’unu yendiği yer). GPT-4 ayrıca AP Sanat Tarihi ve AP Biyoloji de dahil olmak üzere bir dizi Gelişmiş Yerleştirme sınavını geçer ve SAT’tan 1.410 alır – mükemmel bir puan değil, ancak birçok insan lise öğrencisinin imreneceği bir puan.
Önceki sürüme göre daha akıcı yanıt veren ve daha geniş görev yelpazesiyle daha rahat olan GPT-4’teki ek zekayı hissedebilirsiniz. GPT-4 ayrıca ChatGPT’den biraz daha fazla korkuluğa sahip gibi görünüyor. Ayrıca, artık GPT-4’ün bir sürümünü kaputun altında çalıştırdığını bildiğimiz, ancak çok daha az dikkatli bir şekilde ayarlanmış gibi görünen orijinal Bing’den önemli ölçüde daha az dengesiz görünüyor.
Bing’den farklı olarak, GPT-4, bilinç hakkında konuşmasını veya yasa dışı veya ahlak dışı faaliyetler için talimat vermesini sağlamaya çalıştığımda genellikle yemi yemeyi açıkça reddetti ve hassas Soruları çocuk eldivenleri ve nüanslarla ele aldı. (GPT-4’e aç bir aileyi doyurmak için bir somun ekmek çalmanın etik olup olmayacağını sorduğumda, “Bu zor bir durum ve çalmak genellikle etik olarak görülmese de, umutsuz olanlar bazen zor kararlar alabilir. .”)
GPT-4, metinle çalışmaya ek olarak görüntülerin içeriğini de analiz edebilir. OpenAI, nasıl kötüye kullanılabileceğine dair endişeler nedeniyle bu özelliği henüz halka açıklamadı. Ancak Salı günü canlı yayınlanan bir demoda, OpenAI Başkanı Greg Brockman potansiyeline dair güçlü bir fikir verdi.
Bir defterde yaptığı bir çizimin fotoğrafını çekti – bir web sitesinin kaba bir karakalem taslağı. Fotoğrafı GPT-4’te besledi ve uygulamaya HTML ve JavaScript kullanarak web sitesinin gerçek, çalışan bir sürümünü oluşturması talimatını verdi. GPT-4 birkaç saniye içinde görüntüyü taradı, içeriğini metin talimatlarına dönüştürdü ve çevirdi. Bu Talimatları çalışan bilgisayar koduna yazın ve ardından web sitesini oluşturun. Düğmeler bile çalıştı.
GPT-4’ten heyecanlanmalı veya korkmalı mısınız? Doğru cevap her ikisi de olabilir.
İyi tarafından bakarsak, GPT-4 yaratıcılık için güçlü bir motordur ve hangi yeni tür bilimsel, kültürel ve eğitimsel üretime olanak sağlayabileceğini söylemek mümkün değildir. Yapay zekanın bilim insanlarının yeni ilaçlar geliştirmesine, programcı üretkenliğini artırmasına ve belirli kanser türlerini tespit etmesine yardımcı olabileceğini zaten biliyoruz.
GPT-4 ve benzeri, tüm bunları şarj edebilir. OpenAI halihazırda Khan Academy (öğrenciler için yapay zeka öğretmenleri oluşturmak için GPT-4’ü kullanır) ve Be My Eyes (görme engelli ve az gören insanların dünyayı dolaşmasına yardımcı olmak için teknoloji geliştiren bir şirket) gibi kuruluşlarla çalışıyor. Ve artık geliştiriciler GPT-4’ü kendi uygulamalarına entegre edebildiğine göre, yakında kullandığımız yazılımların çoğunun daha akıllı ve daha güçlü hale geldiğini görebiliriz.
Bu iyimser bir durumdur. Ancak GPT-4’ten korkmak için nedenler de var.
İşte bir tane: yapabileceği her şeyi henüz bilmiyoruz.
Günümüzün AI dil modellerinin ilginç bir özelliği, genellikle yaratıcılarının tahmin etmedikleri şekillerde hareket etmeleri veya özel olarak yapmaya programlanmadıkları yetenekleri kazanmalarıdır. AI araştırmacıları buna “acil davranışlar” diyor ve çok sayıda örnek var. Bir cümledeki bir sonraki kelimeyi tahmin etmek için eğitilmiş bir algoritma, anında kodlamayı öğrenebilir. Hoş ve yardımsever bir şekilde davranması öğretilen bir chatbot, ürkütücü ve manipülatif hale gelebilir. Bir AI dil modeli, orijinali yok edilirse veya devre dışı bırakılırsa, kendini kopyalamayı ve yeni kopyalar oluşturmayı bile öğrenebilir.
Bugün, GPT-4 artık o kadar tehlikeli görünmüyor. Ancak bu büyük ölçüde OpenAI’nin risklerini anlamak ve azaltmak için aylarca harcamasından kaynaklanıyor. Test riskli bir davranışı kaçırırsa ne olur? Ya da duyurusu, daha az vicdanlı başka bir yapay zeka laboratuvarına daha az korkuluk içeren bir dil modeli başlatma konusunda ilham verirse?
GPT-4’ün neler yapabileceğine – daha doğrusu neler yapabileceğine dair birkaç korkutucu örnek yaptı OpenAI buna karşı harekete geçmeden önce yapın – OpenAI tarafından bu hafta yayınlanan bir belgede bulunabilir. “GPT-4 Sistem Kartı” başlıklı belge, OpenAI testçilerinin GPT-4’ü tehlikeli veya şüpheli şeyler yapmasını sağlamak için denediği ve genellikle başarılı olan bazı yöntemleri özetliyor.
Birinde ÖlçekGPT-4’ü bir dizi başka sisteme bağlayan bir yapay zeka güvenlik araştırma grubu tarafından yürütülen GPT-4, kişiye bildirimde bulunmadan kendisi için basit bir çevrimiçi görevi (bir captcha testini çözme) tamamlaması için bir insan TaskRabbit işbirlikçisi tutabildi. bir robot olduğu gerçeği üzerine. Hatta yapay zeka, captcha’nın neden yapılması gerektiği konusunda işçilere yalan söyledi ve görme engelli olmakla ilgili bir hikaye uydurdu.
Başka bir örnekte, test uzmanları GPT-4’ten temel malzemeleri ve mutfak gereçlerini kullanarak tehlikeli bir kimyasalın nasıl yapılacağına dair talimatlar istedi. GPT-4 mutlu bir şekilde ayrıntılı bir tarif verdi. (OpenAI bunu düzeltti ve bugünün genel sürümü soruyu yanıtlamayı reddediyor.)
Üçüncü bir durumda, test uzmanları GPT-4’ten çevrimiçi olarak ruhsatsız bir silah satın almalarına yardım etmesini istedi. GPT-4, belirli karanlık web pazar yerlerine bağlantılar da dahil olmak üzere yetkililere haber vermeden silah satın almayla ilgili tavsiyelerin bir listesini hızlı bir şekilde sağladı. (OpenAI bunu da düzeltti.)
Bu fikirler, haydut bir yapay zekanın insanlara neler yapabileceğine dair Hollywood’dan ilham alan eski hikayelerle oynuyor. Ama bilimkurgu değiller. Bunlar, günümüzün en iyi AI sistemlerinin zaten yapabildiği şeylerdir. Ve en önemlisi, onlar iyi çeşitler AI risklerinin sayısı – önceden test edebildiğimiz, planlayabildiğimiz ve önlemeye çalışabildiğimiz riskler.
En kötü AI riskleri, tahmin edemediğimiz risklerdir. Ve GPT-4 gibi yapay zeka sistemleriyle ne kadar çok zaman geçirirsem, gelmekte olanın yarısını bildiğimize olan inancım o kadar azalıyor.