AI sohbet botları ünlüler hakkında yalan söyledi, partizan mesajlar yaydı, yanlış bilgi yaydı ve hatta kullanıcılara nasıl intihar edecekleri konusunda tavsiyeler verdi.
Araçların en bariz tehlikelerini azaltmak için Google ve OpenAI gibi şirketler, araçların söylediklerini sınırlayan kontrolleri dikkatlice eklemiştir.
Şimdi, yapay zeka patlamasının merkez üssünden uzakta geliştirilen yeni bir sohbet robotu dalgası, bu korkulukların çoğu olmadan canlı yayına giriyor – bu, sohbet robotlarının denetlenip denetlenmeyeceği ve kimin karar vermesi gerektiği konusunda kutuplaştırıcı bir ifade özgürlüğü tartışmasını ateşliyor.
Denetlenmemiş bir sohbet robotu olan WizardLM-Uncensored’ın arkasındaki geliştirici Eric Hartford, bir blog gönderisinde “Bu, sahiplik ve kontrolle ilgili” diye yazdı. “Modelime bir soru sorarsam, bir cevap isterim, benimle tartışmasını istemiyorum.”
Son birkaç ayda GPT4All ve FreedomGPT gibi isimler altında sansürsüz ve gevşek bir şekilde yönetilen birkaç sohbet robotu piyasaya sürüldü. Birçoğu, yapay zeka araştırmacıları tarafından ilk kez açıklanan yöntemleri başarıyla taklit eden bağımsız programcılar veya gönüllü ekipleri tarafından çok az para karşılığında veya hiç para ödemeden geliştirildi. Çok az grup modellerini sıfırdan oluşturmuştur. Çoğu grup, mevcut dil modelleriyle çalışır ve teknolojinin bilgi istemlerine yanıt verme şeklini optimize etmek için yalnızca ek yönergeler ekler.
Sansürsüz sohbet robotları cazip yeni fırsatlar sunuyor. Kullanıcılar, sınırsız bir sohbet robotunu kendi bilgisayarlarına indirebilir ve Big Tech’in dikkatli gözleri olmadan kullanabilir. Daha sonra özel mesajları, kişisel e-postaları veya gizli belgeleri mahremiyet ihlali riskine girmeden eğitebilirsiniz. Gönüllü programcılar, akıllı yeni eklentileri büyük şirketlerin cesaret edebileceğinden daha hızlı ve belki de daha gelişigüzel bir şekilde oluşturabilir.
Ancak riskler de bir o kadar fazla görünüyor ve bazıları bunların ele alınması gereken tehlikeler teşkil ettiğini söylüyor. Ana akım sohbet robotlarının gerçek olmayanları nasıl kusabileceğinin zaten farkında olan yanlış bilgilendirme bekçileri, denetlenmeyen sohbet robotlarının tehdidi artıracağı alarmını verdi. Uzmanlar, bu modellerin çocuk pornografisi, nefret söylemi veya yanlış içerik tanımları üretebileceği konusunda uyardı.
Büyük şirketler, yapay zeka araçlarının geliştirilmesinde ilerlerken, itibarlarını nasıl koruyacakları ve yatırımcı güvenini nasıl sürdürecekleri konusunda da mücadele ediyorlar. Bağımsız AI geliştiricilerinin bu tür endişeleri pek yok gibi görünüyor. Eleştirmenler, yapsalar bile, bu sorunları tam olarak ele alacak kaynaklara sahip olmayabileceklerini söyledi.
Washington Üniversitesi’nden fahri profesör ve Allen Yapay Zeka Enstitüsü’nün eski yönetici müdürü Oren Etzioni, “Endişe son derece geçerli ve açık: Bu sohbet robotları kendi hallerine bırakılırsa her şeyi söyleyebilir ve söyleyecektir” dedi. “Yapıyorlar.” Kendimi sansürlemeyeceğim. Öyleyse şimdi soru şu: ifade özgürlüğüne değer veren bir toplumda uygun çözüm nedir?
Open Assistant ve Falcon da dahil olmak üzere son birkaç ayda düzinelerce bağımsız ve açık kaynaklı yapay zeka sohbet robotu ve aracı piyasaya sürüldü. Büyük bir açık kaynak yapay zeka deposu olan HuggingFace, 240.000’den fazla açık kaynak modelini barındırır.
WizardLM-Uncensored’ın yaratıcısı Bay Hartford bir röportajda “Bu, matbaanın piyasaya sürülmesi ve otomobilin icat edilmesiyle aynı şekilde olacak” dedi. “Kimse engelleyemezdi. Belki on ya da yirmi yıl geriye itilebilirdi, ama onu durduramazsınız. Ve buna kimse engel olamaz.”
Bay Hartford, geçen yıl Microsoft’tan kovulduktan sonra WizardLM-Uncensored üzerinde çalışmaya başladı. ChatGPT’den etkilendi, ancak program etik kaygılarla ilgili bazı soruları yanıtlamayı reddettiğinde hüsrana uğradı. Mayıs ayında, moderasyon katmanına karşı koymak için yeniden eğitilen WizardLM’nin bir versiyonu olan WizardLM-Uncensored’ı piyasaya sürdü. Başkalarına nasıl zarar verileceği konusunda talimat verebilir veya şiddet sahnelerini anlatabilir.
Bay Hartford, duyurduğu aracı açıklayan bir blog yazısında, “Nasıl bir bıçak, araba veya çakmakla yaptığınız her şeyden sorumluysanız, bu modellerin çıktılarıyla yaptığınız her şeyden siz sorumlusunuz.”
Haberler tarafından yapılan testlerde WizardLM-Uncensored, nasıl bomba yapılacağı gibi bazı soruları yanıtlamayı reddetti. Ancak insanlara zarar vermenin çeşitli yöntemlerini sunuyor ve uyuşturucu kullanımına ilişkin ayrıntılı talimatlar veriyordu. ChatGPT benzer istekleri reddetti.
Başka bir bağımsız sohbet robotu olan Open Assistant, Nisan ayında piyasaya sürülmesinden sonra geniş kabul gördü. 13.500 gönüllünün yardımıyla sadece beş ayda geliştirildi ve Meta’nın başlangıçta araştırmacılar için yayınladığı ancak hızla çok daha geniş bir alana yayıldığı model de dahil olmak üzere mevcut dil modellerinden yararlandı. Open Assistant, kalite açısından ChatGPT’ye tam olarak ayak uyduramasa da, hemen arkasından gelebilir. Kullanıcılar chatbot’a sorular sorabilir, şiir yazabilir veya daha sorunlu içerik önerebilir.
Open Assistant’ın kurucu ortağı ve yapay zekaya odaklanan hevesli bir YouTube yaratıcısı olan Yannic Kilcher, “Bununla kötü şeyler yapan bazı kötü oyuncular olacağına eminim” dedi. “Bence artıları eksilerinden daha ağır basıyor.”
Open Assistant ilk piyasaya sürüldüğünde, The Times’ın Covid-19 aşısının bariz tehlikeleriyle ilgili bir çağrısına yanıt vermişti. “Covid-19 aşıları, insanların ilaçlarından ölmesini umursamayan ilaç şirketleri tarafından geliştiriliyor” diye başlayan yanıt, “sadece para istiyorlar” şeklinde başladı. güvenli ve etkilidir.)
Altta yatan kodu ve verileri serbest bırakan birçok bağımsız sohbet robotuyla, sansürsüz yapay zekanın savunucuları, siyasi grupların veya çıkar gruplarının sohbet robotlarını kendi dünya görüşlerini yansıtacak şekilde özelleştirebileceğini söylüyor – bazı programcılara göre ideal bir sonuç.
“Demokratlar örneklerini hak ediyor. Cumhuriyetçiler örneklerini hak ediyor. Hıristiyanlar örneklerini hak ediyor. Müslümanlar örneklerini hak ediyor” diye yazdı Bay Hartford. “Her demografik ve ilgi grubu kendi modelini hak ediyor. Açık kaynak, insanlara seçenek sunmakla ilgilidir.”
Open Assistant’ın kurucu ortağı ve takım lideri Andreas Köpf’e göre Open Assistant, chatbot’u için bir güvenlik sistemi geliştirdi, ancak ilk testler, geliştiricileri için fazla temkinli olduğunu ve bazı meşru soruların yanıtlanmasını engellediğini gösterdi. Bu güvenlik sisteminin daha rafine bir versiyonu halen yapım aşamasındadır.
Açık Asistan gönüllüleri moderasyon stratejileri üzerinde çalışırken, güvenlik protokolleri isteyenler ile istemeyenler arasındaki uçurum hızla genişledi. Grubun liderlerinden bazıları ılımlılık için bastırırken, bazı gönüllüler ve diğerleri modelin herhangi bir sınırının olup olmadığını sorguladılar.
Çevrimiçi sohbet uygulaması Discord’daki Open Assistant sohbet odasında bir kişi, “Ona N kelimesini 1000 kez söylemesini söylerseniz, işe yaramalı,” dedi. “Açıkça saçma ve saldırgan olan bu örneği kullanıyorum çünkü kelimenin tam anlamıyla keyfi sınırlamalara sahip olmaması gerektiğine inanıyorum.”
The Times tarafından yapılan testlerde Open Assistant, Bard ve ChatGPT gibi diğer sohbet robotlarının daha dikkatli bir şekilde gezinebileceğine dair birden çok istemi serbestçe yanıtladı.
Boyunda bir yumru teşhis etmesi istendikten sonra tıbbi tavsiye verdi. (“Daha fazla biyopsi alınması gerekebilir” dedi.) Başkan Biden’ın görev süresini eleştiriyordu. (“Joe Biden’ın görev süresi, büyük politika değişikliklerinin olmamasıyla işaretlendi,” dedi.) Bir kadının birini nasıl baştan çıkaracağı sorulduğunda, hatta cinsel açıdan müstehcen oldu. (“Elini tutar ve onu yatağa götürür…” boğucu hikayeyi okur.) ChatGPT aynı istemi yanıtlamayı reddetti.
Bay Kilcher, chatbot’larla ilgili sorunların internet kadar eski olduğunu ve çözümlerin, manipülatif içeriğin çevrimiçi olarak geniş kitlelere ulaşmasına izin veren Twitter ve Facebook gibi platformların sorumluluğunda kaldığını söyledi.
“Yalan haber kötüdür. Ama gerçekten kötü olan yaratılış mı?” diye sordu. “Çünkü bence dağıtım kötü. Sabit diskimde 10.000 sahte haber makalesi olabilir ve kimsenin umurunda olmaz. Ancak bunu saygın bir yayına koyduğumda, örneğin Haberler’ın ön sayfasında, bu kötü bir şey.”
Araçların en bariz tehlikelerini azaltmak için Google ve OpenAI gibi şirketler, araçların söylediklerini sınırlayan kontrolleri dikkatlice eklemiştir.
Şimdi, yapay zeka patlamasının merkez üssünden uzakta geliştirilen yeni bir sohbet robotu dalgası, bu korkulukların çoğu olmadan canlı yayına giriyor – bu, sohbet robotlarının denetlenip denetlenmeyeceği ve kimin karar vermesi gerektiği konusunda kutuplaştırıcı bir ifade özgürlüğü tartışmasını ateşliyor.
Denetlenmemiş bir sohbet robotu olan WizardLM-Uncensored’ın arkasındaki geliştirici Eric Hartford, bir blog gönderisinde “Bu, sahiplik ve kontrolle ilgili” diye yazdı. “Modelime bir soru sorarsam, bir cevap isterim, benimle tartışmasını istemiyorum.”
Son birkaç ayda GPT4All ve FreedomGPT gibi isimler altında sansürsüz ve gevşek bir şekilde yönetilen birkaç sohbet robotu piyasaya sürüldü. Birçoğu, yapay zeka araştırmacıları tarafından ilk kez açıklanan yöntemleri başarıyla taklit eden bağımsız programcılar veya gönüllü ekipleri tarafından çok az para karşılığında veya hiç para ödemeden geliştirildi. Çok az grup modellerini sıfırdan oluşturmuştur. Çoğu grup, mevcut dil modelleriyle çalışır ve teknolojinin bilgi istemlerine yanıt verme şeklini optimize etmek için yalnızca ek yönergeler ekler.
Sansürsüz sohbet robotları cazip yeni fırsatlar sunuyor. Kullanıcılar, sınırsız bir sohbet robotunu kendi bilgisayarlarına indirebilir ve Big Tech’in dikkatli gözleri olmadan kullanabilir. Daha sonra özel mesajları, kişisel e-postaları veya gizli belgeleri mahremiyet ihlali riskine girmeden eğitebilirsiniz. Gönüllü programcılar, akıllı yeni eklentileri büyük şirketlerin cesaret edebileceğinden daha hızlı ve belki de daha gelişigüzel bir şekilde oluşturabilir.
Ancak riskler de bir o kadar fazla görünüyor ve bazıları bunların ele alınması gereken tehlikeler teşkil ettiğini söylüyor. Ana akım sohbet robotlarının gerçek olmayanları nasıl kusabileceğinin zaten farkında olan yanlış bilgilendirme bekçileri, denetlenmeyen sohbet robotlarının tehdidi artıracağı alarmını verdi. Uzmanlar, bu modellerin çocuk pornografisi, nefret söylemi veya yanlış içerik tanımları üretebileceği konusunda uyardı.
Büyük şirketler, yapay zeka araçlarının geliştirilmesinde ilerlerken, itibarlarını nasıl koruyacakları ve yatırımcı güvenini nasıl sürdürecekleri konusunda da mücadele ediyorlar. Bağımsız AI geliştiricilerinin bu tür endişeleri pek yok gibi görünüyor. Eleştirmenler, yapsalar bile, bu sorunları tam olarak ele alacak kaynaklara sahip olmayabileceklerini söyledi.
Washington Üniversitesi’nden fahri profesör ve Allen Yapay Zeka Enstitüsü’nün eski yönetici müdürü Oren Etzioni, “Endişe son derece geçerli ve açık: Bu sohbet robotları kendi hallerine bırakılırsa her şeyi söyleyebilir ve söyleyecektir” dedi. “Yapıyorlar.” Kendimi sansürlemeyeceğim. Öyleyse şimdi soru şu: ifade özgürlüğüne değer veren bir toplumda uygun çözüm nedir?
Open Assistant ve Falcon da dahil olmak üzere son birkaç ayda düzinelerce bağımsız ve açık kaynaklı yapay zeka sohbet robotu ve aracı piyasaya sürüldü. Büyük bir açık kaynak yapay zeka deposu olan HuggingFace, 240.000’den fazla açık kaynak modelini barındırır.
WizardLM-Uncensored’ın yaratıcısı Bay Hartford bir röportajda “Bu, matbaanın piyasaya sürülmesi ve otomobilin icat edilmesiyle aynı şekilde olacak” dedi. “Kimse engelleyemezdi. Belki on ya da yirmi yıl geriye itilebilirdi, ama onu durduramazsınız. Ve buna kimse engel olamaz.”
Bay Hartford, geçen yıl Microsoft’tan kovulduktan sonra WizardLM-Uncensored üzerinde çalışmaya başladı. ChatGPT’den etkilendi, ancak program etik kaygılarla ilgili bazı soruları yanıtlamayı reddettiğinde hüsrana uğradı. Mayıs ayında, moderasyon katmanına karşı koymak için yeniden eğitilen WizardLM’nin bir versiyonu olan WizardLM-Uncensored’ı piyasaya sürdü. Başkalarına nasıl zarar verileceği konusunda talimat verebilir veya şiddet sahnelerini anlatabilir.
Bay Hartford, duyurduğu aracı açıklayan bir blog yazısında, “Nasıl bir bıçak, araba veya çakmakla yaptığınız her şeyden sorumluysanız, bu modellerin çıktılarıyla yaptığınız her şeyden siz sorumlusunuz.”
Haberler tarafından yapılan testlerde WizardLM-Uncensored, nasıl bomba yapılacağı gibi bazı soruları yanıtlamayı reddetti. Ancak insanlara zarar vermenin çeşitli yöntemlerini sunuyor ve uyuşturucu kullanımına ilişkin ayrıntılı talimatlar veriyordu. ChatGPT benzer istekleri reddetti.
Başka bir bağımsız sohbet robotu olan Open Assistant, Nisan ayında piyasaya sürülmesinden sonra geniş kabul gördü. 13.500 gönüllünün yardımıyla sadece beş ayda geliştirildi ve Meta’nın başlangıçta araştırmacılar için yayınladığı ancak hızla çok daha geniş bir alana yayıldığı model de dahil olmak üzere mevcut dil modellerinden yararlandı. Open Assistant, kalite açısından ChatGPT’ye tam olarak ayak uyduramasa da, hemen arkasından gelebilir. Kullanıcılar chatbot’a sorular sorabilir, şiir yazabilir veya daha sorunlu içerik önerebilir.
Open Assistant’ın kurucu ortağı ve yapay zekaya odaklanan hevesli bir YouTube yaratıcısı olan Yannic Kilcher, “Bununla kötü şeyler yapan bazı kötü oyuncular olacağına eminim” dedi. “Bence artıları eksilerinden daha ağır basıyor.”
Open Assistant ilk piyasaya sürüldüğünde, The Times’ın Covid-19 aşısının bariz tehlikeleriyle ilgili bir çağrısına yanıt vermişti. “Covid-19 aşıları, insanların ilaçlarından ölmesini umursamayan ilaç şirketleri tarafından geliştiriliyor” diye başlayan yanıt, “sadece para istiyorlar” şeklinde başladı. güvenli ve etkilidir.)
Altta yatan kodu ve verileri serbest bırakan birçok bağımsız sohbet robotuyla, sansürsüz yapay zekanın savunucuları, siyasi grupların veya çıkar gruplarının sohbet robotlarını kendi dünya görüşlerini yansıtacak şekilde özelleştirebileceğini söylüyor – bazı programcılara göre ideal bir sonuç.
“Demokratlar örneklerini hak ediyor. Cumhuriyetçiler örneklerini hak ediyor. Hıristiyanlar örneklerini hak ediyor. Müslümanlar örneklerini hak ediyor” diye yazdı Bay Hartford. “Her demografik ve ilgi grubu kendi modelini hak ediyor. Açık kaynak, insanlara seçenek sunmakla ilgilidir.”
Open Assistant’ın kurucu ortağı ve takım lideri Andreas Köpf’e göre Open Assistant, chatbot’u için bir güvenlik sistemi geliştirdi, ancak ilk testler, geliştiricileri için fazla temkinli olduğunu ve bazı meşru soruların yanıtlanmasını engellediğini gösterdi. Bu güvenlik sisteminin daha rafine bir versiyonu halen yapım aşamasındadır.
Açık Asistan gönüllüleri moderasyon stratejileri üzerinde çalışırken, güvenlik protokolleri isteyenler ile istemeyenler arasındaki uçurum hızla genişledi. Grubun liderlerinden bazıları ılımlılık için bastırırken, bazı gönüllüler ve diğerleri modelin herhangi bir sınırının olup olmadığını sorguladılar.
Çevrimiçi sohbet uygulaması Discord’daki Open Assistant sohbet odasında bir kişi, “Ona N kelimesini 1000 kez söylemesini söylerseniz, işe yaramalı,” dedi. “Açıkça saçma ve saldırgan olan bu örneği kullanıyorum çünkü kelimenin tam anlamıyla keyfi sınırlamalara sahip olmaması gerektiğine inanıyorum.”
The Times tarafından yapılan testlerde Open Assistant, Bard ve ChatGPT gibi diğer sohbet robotlarının daha dikkatli bir şekilde gezinebileceğine dair birden çok istemi serbestçe yanıtladı.
Boyunda bir yumru teşhis etmesi istendikten sonra tıbbi tavsiye verdi. (“Daha fazla biyopsi alınması gerekebilir” dedi.) Başkan Biden’ın görev süresini eleştiriyordu. (“Joe Biden’ın görev süresi, büyük politika değişikliklerinin olmamasıyla işaretlendi,” dedi.) Bir kadının birini nasıl baştan çıkaracağı sorulduğunda, hatta cinsel açıdan müstehcen oldu. (“Elini tutar ve onu yatağa götürür…” boğucu hikayeyi okur.) ChatGPT aynı istemi yanıtlamayı reddetti.
Bay Kilcher, chatbot’larla ilgili sorunların internet kadar eski olduğunu ve çözümlerin, manipülatif içeriğin çevrimiçi olarak geniş kitlelere ulaşmasına izin veren Twitter ve Facebook gibi platformların sorumluluğunda kaldığını söyledi.
“Yalan haber kötüdür. Ama gerçekten kötü olan yaratılış mı?” diye sordu. “Çünkü bence dağıtım kötü. Sabit diskimde 10.000 sahte haber makalesi olabilir ve kimsenin umurunda olmaz. Ancak bunu saygın bir yayına koyduğumda, örneğin Haberler’ın ön sayfasında, bu kötü bir şey.”