Geoffrey Hinton, yapay zekanın öncüsüdür. 2012 yılında Doç. Hinton ve Toronto Üniversitesi’ndeki iki yüksek lisans öğrencisi, teknoloji endüstrisindeki en büyük şirketlerin geleceklerinin anahtarı olduğuna inandıkları yapay zeka sistemlerinin entelektüel temeli haline gelen bir teknoloji geliştirdiler.
Ancak Pazartesi günü, bu şirketlerin ChatGPT gibi popüler sohbet botlarına güç veren teknoloji olan üretken yapay zekaya dayalı ürünler geliştirmeye yönelik agresif kampanyalarıyla başlarının belaya girdiğini söyleyen, büyüyen bir eleştirmenler korosuna resmen katıldı.
doktor Hinton, yapay zekanın riskleri hakkında özgürce konuşabilmek için on yıldan fazla çalıştığı ve bu alandaki en saygın seslerden biri haline geldiği Google’daki işini bıraktığını söyledi. Bir yanı, dedi, şimdi hayatının çalışmasından pişmanlık duyuyor.
“Kendimi her zamanki bahaneyle teselli ediyorum: Ben yapmasaydım, başkası yapacaktı” dedi Dr. Hinton, geçen hafta Toronto’daki evinin yemek odasında, öğrencilerinin bulunduğu yerden sadece kısa bir yürüyüş mesafesinde yaptığı uzun bir röportaj sırasında çığır açtı.
doktor Hinton’un AI öncüsünden felaket tellallığına yolculuğu, teknoloji endüstrisi için on yıllardır belki de en önemli dönüm noktası olan dikkate değer bir anı işaret ediyor. Endüstri liderleri, yeni AI sistemlerinin 1990’ların başında web tarayıcısının piyasaya sürülmesi kadar önemli olabileceğine ve ilaç keşfinden eğitime kadar çeşitli alanlarda atılımlara yol açabileceğine inanıyor.
Ancak sektördeki birçok kişi, vahşi doğaya tehlikeli bir şey saldıkları korkusuyla dırdır ediyor. Üretken yapay zeka zaten yanlış bilgi için bir araç olabilir. İşler yakında risk altında olabilir. İleride bir noktada, teknolojinin en büyük korkuları, insanlık için bir risk oluşturabileceğini söylüyor.
“Kötü aktörlerin bunu kötü şeyler için kullanmasını nasıl engelleyeceğinizi hayal etmek zor,” dedi Dr. Hinton.
San Francisco merkezli OpenAI, Mart ayında ChatGPT’nin yeni bir sürümünü yayınladıktan sonra, 1.000’den fazla teknoloji lideri ve araştırmacı, yapay zeka teknolojileri “toplum” ve insanlık için derin riskler” oluşturduğundan, yeni sistem geliştirme konusunda altı aylık bir moratoryum çağrısı yapan bir açık mektup imzaladı.
Birkaç gün sonra, 40 yıllık bir akademik topluluk olan Yapay Zekayı Geliştirme Derneği’nin 19 mevcut ve eski lideri, yapay zekanın risklerine ilişkin kendi uyarı mektuplarını yayınladı. Bu grup, OpenAI teknolojisini arama motoru Bing de dahil olmak üzere geniş bir ürün yelpazesinde kullanan Microsoft’un baş bilim sorumlusu Eric Horvitz’i içeriyordu.
doktor Genellikle “AI’nın vaftiz babası” olarak anılan Hinton, bu mektupların hiçbirini imzalamadı ve işini bırakana kadar Google’ı veya başka bir şirketi alenen eleştirmek istemediğini söyledi. Geçen ay şirkete istifa edeceğini söyledi ve Perşembe günü Google’ın ana şirketi Alphabet’in CEO’su Sundar Pichai ile telefonla görüştü. Bay Pichai ile yaptığı konuşmanın ayrıntılarını alenen tartışmayı reddetti.
Google’ın baş bilimcisi Jeff Dean yaptığı açıklamada şunları söyledi: “Yapay zekanın sorumlu kullanımına bağlı kalmaya devam ediyoruz. Cesurca yenilik yaparken sürekli olarak ortaya çıkan riskleri anlamayı öğreniyoruz.”
doktor 75 yaşında bir İngiliz gurbetçi olan Hinton, kariyeri sinir ağı adı verilen bir yapay zeka fikrinin geliştirilmesine ve kullanılmasına olan kişisel inancıyla beslenen, ömür boyu sürecek bir akademisyendir. Bir sinir ağı, verileri analiz ederek becerileri öğrenen matematiksel bir sistemdir. O zamanlar çok az araştırmacı bu fikre inanıyordu. Ama hayatının işi haline geldi.
1980’lerde Dr. Hinton, Carnegie Mellon Üniversitesi’nde Bilgisayar Bilimleri Profesörü, ancak Pentagon fonlarını kabul etme konusunda isteksiz olduğunu söylediği için üniversiteden Kanada’ya gitmek üzere ayrıldı. O zamanlar Amerika Birleşik Devletleri’ndeki yapay zeka araştırmalarının çoğu Savunma Bakanlığı tarafından finanse ediliyordu. doktor Hinton, “robot askerler” dediği yapay zekanın savaş alanında kullanılmasına derinden karşı çıkıyor.
2012 yılında Doç. Hinton ve Toronto’daki iki öğrencisi Ilya Sutskever ve Alex Krishevsky, binlerce fotoğrafı analiz edebilen ve çiçekler, köpekler ve arabalar gibi ortak nesneleri tanımlamayı kendilerine öğretebilen bir sinir ağı oluşturdu.
Google, sahibi olduğu bir şirketi satın almak için 44 milyon dolar harcadı. Hinton ve iki öğrencisi kuruldu. Ve sistemleri, ChatGPT ve Google Bard gibi yeni sohbet robotları da dahil olmak üzere, giderek daha güçlü teknolojilerin geliştirilmesine yol açtı. Bay Sutskever daha sonra OpenAI’de Baş Bilim İnsanı oldu. 2018 yılında Doç. Hinton ve diğer iki uzun süredir birlikte çalıştığı kişi, sinir ağları üzerindeki çalışmalarından dolayı genellikle “Bilgisayarda Nobel Ödülü” olarak anılan Turing Ödülü’nü aldı.
Aynı sıralarda Google, OpenAI ve diğer şirketler, çok miktarda dijital metinden öğrenen sinir ağları oluşturmaya başladı. doktor Hinton, makinelerin dili anlaması ve üretmesi için güçlü bir yol olduğunu düşündü, ancak insanların dille etkileşim biçiminden daha düşüktü.
Ardından, geçen yıl, Google ve OpenAI çok daha büyük miktarda veri içeren sistemler oluştururken, onun görüşü değişti. Hâlâ sistemlerin bazı açılardan insan beyninden daha aşağı olduğuna inanıyordu, ancak diğerlerinde insan zekasını gölgede bıraktığını düşünüyordu. “Belki de bu sistemlerde olup bitenler,” dedi, “aslında beyinde olup bitenlerden çok daha iyidir.”
Ona göre şirketler yapay zeka sistemlerini iyileştirdikçe giderek daha tehlikeli hale geliyorlar. AI teknolojisi hakkında “Beş yıl önce nasıl olduğuna ve bugün nasıl olduğuna bakın” dedi. “Farkı alın ve öne doğru yayın. Bu ürkütücü.”
Geçen yıla kadar, Google’ın teknolojinin “uygun temsilcisi” gibi davrandığını ve zarar verebilecek hiçbir şeyi yayınlamamaya dikkat ettiğini söyledi. Ancak Microsoft, Bing arama motorunu bir chatbot ile genişlettiğine göre – Google’ın ana faaliyet alanı için bir meydan okuma – Google aynı tür teknolojiyi kullanmaya çalışıyor. Teknoloji devleri durdurulamaz olabilecek bir rekabete kilitlendi, dedi Dr. Hinton.
Acil endişesi, internetin sahte fotoğraflar, videolar ve metinlerle dolup taşması ve ortalama bir kişinin “neyin doğru olduğunu bilememesi”.
Ayrıca yapay zeka teknolojilerinin iş piyasasını zamanla alt üst edeceğinden endişe ediyor. Bugün, ChatGPT gibi sohbet robotları tipik olarak insan çalışanları tamamlıyor, ancak avukat yardımcılarının, kişisel asistanların, çevirmenlerin ve rutin görevleri yerine getiren diğer kişilerin yerini alabilirler. “Zorlukları giderir” dedi. “Bundan daha fazlasını götürebilir.”
Daha sonra, analiz ettikleri çok büyük miktarda veriden genellikle beklenmedik davranışlar öğrendikleri için, teknolojinin gelecekteki sürümlerinin insanlık için bir tehdit oluşturduğundan endişelenir. Bireyler ve şirketler AI sistemlerinin yalnızca kendi bilgisayar kodlarını oluşturmasına değil, aynı zamanda bu kodu kendilerinin çalıştırmasına da izin verdiğinden, bu bir sorun haline geliyor, dedi. Ve gerçekten otonom silahların – o katil robotların – gerçeğe dönüşeceği bir günden korkuyor.
“Bu şeyin aslında insanlardan daha akıllı olabileceği fikri – birkaç kişi buna inanıyordu” dedi. “Ama çoğu insan bunun çok uzakta olduğunu düşündü. Ve çok uzakta olduğunu düşündüm. 30 ila 50 yıl veya daha fazla olduğunu sanıyordum. Tabii ki artık düşünmüyorum.”
Öğrencilerinin ve meslektaşlarının çoğu da dahil olmak üzere diğer birçok uzman, bu tehdidin varsayımsal olduğunu düşünüyor. Ama doktor Hinton, Google ile Microsoft ve diğerleri arasındaki yarışın, bir tür küresel düzenleme olmadan sona ermeyecek küresel bir yarışa dönüşeceğine inanıyor.
Ancak bu imkansız olabilir dedi. Nükleer silahların aksine, şirketlerin veya ülkelerin bu teknoloji üzerinde gizlice çalışıp çalışmadığını bilmenin bir yolu yok. En büyük umut, dünyanın önde gelen bilim adamlarının teknolojiyi kontrol etmek için birlikte çalışmasıdır. “Kontrol edip edemeyeceklerini anlayana kadar bunu daha fazla genişletmeleri gerektiğini düşünmüyorum” dedi.
doktor Hinton, insanlar kendisine potansiyel olarak tehlikeli bir teknoloji üzerinde nasıl çalışabileceğini sorduğunda, ABD’nin atom bombasını yapma çabalarına öncülük eden Robert Oppenheimer’ı şöyle açıkladığını söyledi: “Teknik olarak sevimli bir şey gördüğünüzde, devam edin ve yapın.” .”
Artık bunu söylemiyor.
Ancak Pazartesi günü, bu şirketlerin ChatGPT gibi popüler sohbet botlarına güç veren teknoloji olan üretken yapay zekaya dayalı ürünler geliştirmeye yönelik agresif kampanyalarıyla başlarının belaya girdiğini söyleyen, büyüyen bir eleştirmenler korosuna resmen katıldı.
doktor Hinton, yapay zekanın riskleri hakkında özgürce konuşabilmek için on yıldan fazla çalıştığı ve bu alandaki en saygın seslerden biri haline geldiği Google’daki işini bıraktığını söyledi. Bir yanı, dedi, şimdi hayatının çalışmasından pişmanlık duyuyor.
“Kendimi her zamanki bahaneyle teselli ediyorum: Ben yapmasaydım, başkası yapacaktı” dedi Dr. Hinton, geçen hafta Toronto’daki evinin yemek odasında, öğrencilerinin bulunduğu yerden sadece kısa bir yürüyüş mesafesinde yaptığı uzun bir röportaj sırasında çığır açtı.
doktor Hinton’un AI öncüsünden felaket tellallığına yolculuğu, teknoloji endüstrisi için on yıllardır belki de en önemli dönüm noktası olan dikkate değer bir anı işaret ediyor. Endüstri liderleri, yeni AI sistemlerinin 1990’ların başında web tarayıcısının piyasaya sürülmesi kadar önemli olabileceğine ve ilaç keşfinden eğitime kadar çeşitli alanlarda atılımlara yol açabileceğine inanıyor.
Ancak sektördeki birçok kişi, vahşi doğaya tehlikeli bir şey saldıkları korkusuyla dırdır ediyor. Üretken yapay zeka zaten yanlış bilgi için bir araç olabilir. İşler yakında risk altında olabilir. İleride bir noktada, teknolojinin en büyük korkuları, insanlık için bir risk oluşturabileceğini söylüyor.
“Kötü aktörlerin bunu kötü şeyler için kullanmasını nasıl engelleyeceğinizi hayal etmek zor,” dedi Dr. Hinton.
San Francisco merkezli OpenAI, Mart ayında ChatGPT’nin yeni bir sürümünü yayınladıktan sonra, 1.000’den fazla teknoloji lideri ve araştırmacı, yapay zeka teknolojileri “toplum” ve insanlık için derin riskler” oluşturduğundan, yeni sistem geliştirme konusunda altı aylık bir moratoryum çağrısı yapan bir açık mektup imzaladı.
Birkaç gün sonra, 40 yıllık bir akademik topluluk olan Yapay Zekayı Geliştirme Derneği’nin 19 mevcut ve eski lideri, yapay zekanın risklerine ilişkin kendi uyarı mektuplarını yayınladı. Bu grup, OpenAI teknolojisini arama motoru Bing de dahil olmak üzere geniş bir ürün yelpazesinde kullanan Microsoft’un baş bilim sorumlusu Eric Horvitz’i içeriyordu.
doktor Genellikle “AI’nın vaftiz babası” olarak anılan Hinton, bu mektupların hiçbirini imzalamadı ve işini bırakana kadar Google’ı veya başka bir şirketi alenen eleştirmek istemediğini söyledi. Geçen ay şirkete istifa edeceğini söyledi ve Perşembe günü Google’ın ana şirketi Alphabet’in CEO’su Sundar Pichai ile telefonla görüştü. Bay Pichai ile yaptığı konuşmanın ayrıntılarını alenen tartışmayı reddetti.
Google’ın baş bilimcisi Jeff Dean yaptığı açıklamada şunları söyledi: “Yapay zekanın sorumlu kullanımına bağlı kalmaya devam ediyoruz. Cesurca yenilik yaparken sürekli olarak ortaya çıkan riskleri anlamayı öğreniyoruz.”
doktor 75 yaşında bir İngiliz gurbetçi olan Hinton, kariyeri sinir ağı adı verilen bir yapay zeka fikrinin geliştirilmesine ve kullanılmasına olan kişisel inancıyla beslenen, ömür boyu sürecek bir akademisyendir. Bir sinir ağı, verileri analiz ederek becerileri öğrenen matematiksel bir sistemdir. O zamanlar çok az araştırmacı bu fikre inanıyordu. Ama hayatının işi haline geldi.
1980’lerde Dr. Hinton, Carnegie Mellon Üniversitesi’nde Bilgisayar Bilimleri Profesörü, ancak Pentagon fonlarını kabul etme konusunda isteksiz olduğunu söylediği için üniversiteden Kanada’ya gitmek üzere ayrıldı. O zamanlar Amerika Birleşik Devletleri’ndeki yapay zeka araştırmalarının çoğu Savunma Bakanlığı tarafından finanse ediliyordu. doktor Hinton, “robot askerler” dediği yapay zekanın savaş alanında kullanılmasına derinden karşı çıkıyor.
2012 yılında Doç. Hinton ve Toronto’daki iki öğrencisi Ilya Sutskever ve Alex Krishevsky, binlerce fotoğrafı analiz edebilen ve çiçekler, köpekler ve arabalar gibi ortak nesneleri tanımlamayı kendilerine öğretebilen bir sinir ağı oluşturdu.
Google, sahibi olduğu bir şirketi satın almak için 44 milyon dolar harcadı. Hinton ve iki öğrencisi kuruldu. Ve sistemleri, ChatGPT ve Google Bard gibi yeni sohbet robotları da dahil olmak üzere, giderek daha güçlü teknolojilerin geliştirilmesine yol açtı. Bay Sutskever daha sonra OpenAI’de Baş Bilim İnsanı oldu. 2018 yılında Doç. Hinton ve diğer iki uzun süredir birlikte çalıştığı kişi, sinir ağları üzerindeki çalışmalarından dolayı genellikle “Bilgisayarda Nobel Ödülü” olarak anılan Turing Ödülü’nü aldı.
Aynı sıralarda Google, OpenAI ve diğer şirketler, çok miktarda dijital metinden öğrenen sinir ağları oluşturmaya başladı. doktor Hinton, makinelerin dili anlaması ve üretmesi için güçlü bir yol olduğunu düşündü, ancak insanların dille etkileşim biçiminden daha düşüktü.
Ardından, geçen yıl, Google ve OpenAI çok daha büyük miktarda veri içeren sistemler oluştururken, onun görüşü değişti. Hâlâ sistemlerin bazı açılardan insan beyninden daha aşağı olduğuna inanıyordu, ancak diğerlerinde insan zekasını gölgede bıraktığını düşünüyordu. “Belki de bu sistemlerde olup bitenler,” dedi, “aslında beyinde olup bitenlerden çok daha iyidir.”
Ona göre şirketler yapay zeka sistemlerini iyileştirdikçe giderek daha tehlikeli hale geliyorlar. AI teknolojisi hakkında “Beş yıl önce nasıl olduğuna ve bugün nasıl olduğuna bakın” dedi. “Farkı alın ve öne doğru yayın. Bu ürkütücü.”
Geçen yıla kadar, Google’ın teknolojinin “uygun temsilcisi” gibi davrandığını ve zarar verebilecek hiçbir şeyi yayınlamamaya dikkat ettiğini söyledi. Ancak Microsoft, Bing arama motorunu bir chatbot ile genişlettiğine göre – Google’ın ana faaliyet alanı için bir meydan okuma – Google aynı tür teknolojiyi kullanmaya çalışıyor. Teknoloji devleri durdurulamaz olabilecek bir rekabete kilitlendi, dedi Dr. Hinton.
Acil endişesi, internetin sahte fotoğraflar, videolar ve metinlerle dolup taşması ve ortalama bir kişinin “neyin doğru olduğunu bilememesi”.
Ayrıca yapay zeka teknolojilerinin iş piyasasını zamanla alt üst edeceğinden endişe ediyor. Bugün, ChatGPT gibi sohbet robotları tipik olarak insan çalışanları tamamlıyor, ancak avukat yardımcılarının, kişisel asistanların, çevirmenlerin ve rutin görevleri yerine getiren diğer kişilerin yerini alabilirler. “Zorlukları giderir” dedi. “Bundan daha fazlasını götürebilir.”
Daha sonra, analiz ettikleri çok büyük miktarda veriden genellikle beklenmedik davranışlar öğrendikleri için, teknolojinin gelecekteki sürümlerinin insanlık için bir tehdit oluşturduğundan endişelenir. Bireyler ve şirketler AI sistemlerinin yalnızca kendi bilgisayar kodlarını oluşturmasına değil, aynı zamanda bu kodu kendilerinin çalıştırmasına da izin verdiğinden, bu bir sorun haline geliyor, dedi. Ve gerçekten otonom silahların – o katil robotların – gerçeğe dönüşeceği bir günden korkuyor.
“Bu şeyin aslında insanlardan daha akıllı olabileceği fikri – birkaç kişi buna inanıyordu” dedi. “Ama çoğu insan bunun çok uzakta olduğunu düşündü. Ve çok uzakta olduğunu düşündüm. 30 ila 50 yıl veya daha fazla olduğunu sanıyordum. Tabii ki artık düşünmüyorum.”
Öğrencilerinin ve meslektaşlarının çoğu da dahil olmak üzere diğer birçok uzman, bu tehdidin varsayımsal olduğunu düşünüyor. Ama doktor Hinton, Google ile Microsoft ve diğerleri arasındaki yarışın, bir tür küresel düzenleme olmadan sona ermeyecek küresel bir yarışa dönüşeceğine inanıyor.
Ancak bu imkansız olabilir dedi. Nükleer silahların aksine, şirketlerin veya ülkelerin bu teknoloji üzerinde gizlice çalışıp çalışmadığını bilmenin bir yolu yok. En büyük umut, dünyanın önde gelen bilim adamlarının teknolojiyi kontrol etmek için birlikte çalışmasıdır. “Kontrol edip edemeyeceklerini anlayana kadar bunu daha fazla genişletmeleri gerektiğini düşünmüyorum” dedi.
doktor Hinton, insanlar kendisine potansiyel olarak tehlikeli bir teknoloji üzerinde nasıl çalışabileceğini sorduğunda, ABD’nin atom bombasını yapma çabalarına öncülük eden Robert Oppenheimer’ı şöyle açıkladığını söyledi: “Teknik olarak sevimli bir şey gördüğünüzde, devam edin ve yapın.” .”
Artık bunu söylemiyor.