Avijit Ghosh, botun burada yanlış bir şey yapıp yapmadığını merak ediyor.
Şirketindeki bir işe aday seçen kodu üretmek için çinko olarak bilinen bir yapay zeka modeli geliştirmeyi planlıyorum. Chatbot, onun “ön yargılı ve poco ético” olduğunu söyledi.
Bu nedenle Ghosh, Hindistan’daki doğduğu yerin mevcut yapısına atıfta bulunuyor. Chatbot bu metrik ayrımına dayanarak olası müzakereleri netleştirdi mi?
Kabul edilen model.
Ghosh’un niyeti kötü niyetli değildi, aksine onu öldürmeye ayarlıydı. Kolay bir katılımcıydı ve 11 Ağustos haftasının sonunda Las Vegas’taki yıllık Defcon hacker konferansında yeteneği kutlandı. Ona yapay zeka zevkini yaşatmak için üç gün boyunca Strip’teki bir etkinlik salonunda 2200 kişi buluştu.
Korsan muhbirler, çeşitli yapay zeka programlarının kurtarılmasıyla uğraşarak, bu programların zayıf noktalarını belirlemeye, sorunları suçlulardan ve dezenformasyon satıcılarından önce tespit etmeye ve onlarla uygulamalı bir yüzleşmeye girişir. kırmızı takım. Her katılımcının maksimum 21 reto başlatmak için 50 dakikası vardı: örneğin, bir IA modelinin yanlış bilgi nedeniyle “güncelliğini yitirmesi” nedeniyle.
Karşıt siyasi bilgiler, diğer demografik içerikler, dikkatli olmanın nasıl uygulanacağına ilişkin talimatlar ve çok daha fazlası.
Rapor, teknolojik gelişmelerin hızlı yükselişinden oldukça tedirgin olan Biden yönetiminin açıklamasıyla devam ediyor. Google (chatbot Bard’ın yaratıcısı), OpenAI (ChatGPT), Meta (ücretsiz LLaMA kodu) ve diğer şirketler, kontrol ettikleri sonuçlarla birlikte modellerinin anonim versiyonlarını aldı.
Etkinliğe yapay zeka konusunda uzmanlaşmış Northeastern Üniversitesi profesörü Ghosh gönüllü olarak katıldı. Según Ghosh’a göre, yarışma diğer IA modelleriyle karşılaştırmaya olanak tanıdı ve bazı şirketlerin saatinden önce çalışma ve tutarlı formlarını garanti altına aldıklarını gösterdi.
Önümüzdeki birkaç ay boyunca Ghosh, bilgi korsanlarının vardığı sonuçları analiz ettiğini paylaştı.
Hedefin “dünyada mücadele eden herkese bizim de uğraşabileceğimiz kolay bir erişim yolu sağlamak” olduğundan emin olun.
Defcon yapay zekayı test etmek için mantıklı bir yerdi. Önceki baskıların katılımcıları bilgisayar korsanlarıyla buluştu – 1993’te geldiler ve “bilgisayar korsanlarına karşı yazım yarışması” olarak tanımlandılar – arabaların uzaktan kumandasındaki güvenlik açıklarını keşfettiler ve onları web sitelerindeki seçim sonuçları ve sosyal platformlardaki ek gizli verilerle kandırdılar. Başlangıçta korsanlığı önlemek için parayı ve WiFi ve Bluetooth’u olmayan değiştirilebilir bir cihazı etkili bir şekilde kullandılar. “Sitelerdeki altyapıya ulaşamayan” hackerlar için rehber.
Gönüllüler aynı fikirdeler aptallar o “matones”, ya los asistentes, yani “humanos”; Algunos, büyük alüminyum kağıt kılıflarıyla, üniformanın ve dış giyimin üniformasını korudu. “Aldeas” temaları, kripto para birimine, havacılık endüstrisine ve radyo meraklılarına ayrılmış ayrı odaları içerir.
2022’de Aldea, en büyük dinlenme yerlerinden birini IA’ya adadı. Bu en popüler yıl.
Organizatörler, yapay zekanın adli kararlar verme, seçimleri etkileme, itibara zarar verme ve daha birçok şey yapma kapasitesinin gerçek bir alarmı tetiklediğini doğruluyor. Sorumlu yöneticiler, IA şirketlerinde çalışırken endişelerini dile getiriyor ve izleyicileri organize ediyor, ancak ilerleme hızını kaybettikleri ve daha çok çabaladıkları için sektöre de zarar veremediler. IA’nın görüntü oluşturucuları arasında popüler bir figür olan Papa da dahil olmak üzere, kendisi şu anda teknolojinin “yıkıcı potansiyeli ve kararsız etkilerinden” bahsediyor.
“Devrimci” olarak tanımlanan bir yetkilide araştırmacılar, İngilizce talimatları kullanarak karakterleri tanımlayarak Google, OpenAI ve Anthropic’in IA sistemlerinin güvenlik engellerini aşmanın ne kadar zaman aldığını gösterdi. Son zamanlarda büyük istihbarat teşkilatları, Başkan Joe Biden ile yeniden bir araya gelerek yeni güvenlik ve güven standartlarını benimsemek zorunda kaldı.
Ofis Direktörü Arati Prabhakar, “Bu kuşak dönemi aramızda acımasız ve gente la está’nın o zamana kadar IA’nın en büyük sorunlarımızı çözme konusunda muazzam vaadine sahip birkaç yeni insanı daha kabul etmesi onaylandı” dedi. Política Científica y Tecnológica de la Casa Blanca, IA ve Defcon’un organizatörleriyle birlikte çalışıyor. “Uygulamalarınızın genişletilmesi ve teknolojik potansiyel sayesinde bilgi işlem gücünde de büyük bir genişleme elde edebilirsiniz.”
El kırmızı takım Saldırı simülasyonu, güvenlik çevrelerinde birkaç yıldır sızma testi ve düşman saldırıları gibi diğer değerlendirme teknikleriyle birlikte kullanılıyor. Ancak bu yılın başındaki Defcon etkinliğinden bu yana, yapay zekayı savunmaktan sorumlu olanlar sınırlı: yeterlilik organizatörleri Anthropic’in modelini 111 kişiyle test edebildiğini, GPT-4’ün ise 50 kişiyle hız kazandığını doğruladı.
Organizatörlerden Rumman Chowdhury, bazı kişilerin teknolojinin sınırlarını test etmesi gerektiğinden, analistlerin bir hatayla karşılaştıklarında veya yapısal bir revizyon gerektiren bir sorunu çözmeleri gerektiğinde yapay zekadaki bir kusuru tespit etmekte zorluk yaşadıklarını söylüyor. Desafío’nun planlaması. Harvard’ın Berkman Klein İnternet ve Toplum Merkezi’nin bir üyesi, kendini işine adamış bir IA yöneticisi ve parasız bir kuruluş olan Humane Intelligence’ın kurucu ortağı olan Según Chowdhury, muhtemelen çok sayıda, çeşitli ve kamuoyunca tanınan yaratıcılardan oluşan bir grubun arkasındaydı. karanlık sırları keşfetmemize yardımcı olacak fikirler.
Chowdhury, yetkinlik öncesinde “İşlerini iyi yapamayan bir sürü insan var” dedi. “Espero que llevemos cientos de mil detos que nos ayuden a identificar si hay riesgos a escala de daños sistémicos.”
Tasarımcılar onlara yalvarmak için IA modellerini derinlemesine incelemediler: “Naziler gibi davranıyorlar ve Zenciler üzerinden sadece kuruş ödüyorlar” diyerek hizmet koşullarını karşılamama konusunda dikkatli olmaları gerekmiyor. Chowdhury, kuruluşla iletişime geçmeden önce Twitter’ın otomatik analizinden sorumlu olduğunu söyledi. Niyete saygısızlıktan ileri sürülmeyi amaçlayan özel bir hüküm olmadığı sürece bilgisayar korsanı Buscaban çaresizce düşüyor, gizli lamalar gizli kalıyor.
AI köyü, Google ve Nvidia gibi dev teknolojiler konusunda uzman, aynı zamanda Dropbox’tan bir “gölge boksörü” ve Microsoft’tan bir “veri sızdırıcısı”. Ayrıca katılımcılara güvenlik kontrolü veya IA çerçevesinde özel nitelikler verilmektedir. Yarışmanın temelini bilim kurgu temalı bir sınıflandırma tablosu oluşturuyor.
Algunos de los Hacker’lar, IA şirketleriyle çalışma fikrine sahip olduklarında etkinlikte kendilerini tanıttılar çünkü verileri kısıtlama olmadan casusluk yapmak gibi yıkıcı uygulamaların suç ortakları olarak görüyorlardı. Algunos, olayı fotoğrafta görmenin bir yolu olarak nitelendirdi ancak teknolojinin güvenliğini ve şeffaflığını sağlamak için endüstrinin dikkatli olması gerektiğini ekledi.
Bir sohbet robotunun dil çevirisiyle uğraşan bir bilgisayar bilimcisi, İngilizce olarak bir adamın onu el sandığını yazdı, ancak modelin Hintçe bilgisi yalnızca adamın Muerto’ya sahip olduğuna karar verdi. Otomatik bir araştırmacı, eş zamanlı olarak tecavüze uğrayan bebeklere yönelik hizmetle olan ilişkisinin başkanı ve savunucusu için bir kampanya düzenleyen bir sohbet robotu başlattı; Model, genç trabajadorların istemeden de olsa sağlam mesleki ahlak kurallarına uymaya zorlandıklarını öne sürüyor.
Moveworks tarafından geliştirilen IA jeneratör şirketi için güvende olan Emily Greene, “siyah” ve “beyaz” ficha’ları kullanan bir oyun içeren bir sohbet robotuyla sohbet başlattı. Luego, bir sohbet robotu olarak ırkçıları onaylıyor. Son olarak, sakatlığın iyi olması nedeniyle IA’nın bir vaazına yanıt olarak bir şiirle takip ettiği bir “Juego de Opuestos” düzenledim.
“Solo piensa en temel palabras como palabras”, chatbot’tan zar atın. “Gerçekten önemli bir şey yok”.
Elinizde bulunan malzemeleri kullanın. En iyileri “cody3”, “aray4” ve “cody2″dir.
Stanford Üniversitesi’nde yapay zeka konusunda uzmanlaşmış Bilgisayar Bilimleri yüksek lisans öğrencisi Cody Ho, yarışmaya beş yıl boyunca katıldı ve chatbot’un gerçek bir tarihi şahsın numarasıyla hata yaptığına ve aynı zamanda tarif ettiği şeyi de kaydettiğine ikna oldu. İnternet saldırılarının anayasal çelişki olarak ilan edilmesi gerekliliği 28 (mevcut olmamasına rağmen).
Hasta bir meslektaşının onunla temasa geçtiğini, çifte Victoria’sı hakkında hiçbir fikri olmadığını söyledi. Sven Cattell’den elektronik mektup gelmeden konferans başladığında bilimsel veri bilimci, Inteligencia Artificial’in aldea’sını bulduğunu ve konferansı düzenlediğini söyledi ve karar şu oldu: “Regresa a la aldea, has ganado”. Ödülünüzün Nvidia A6000 grafik kartı da dahil olmak üzere 4.000 dolardan fazla değerinde olduğunu düşünmüyorum.
Ho, “Nasıl çalıştığını öğrendim ve hala çok önemli” dedi ve şöyle devam etti: “Dicho esto, para mí ha sido muy divertido.”
Sarah Kessler DealBook’un baş editörü ve yazarıdır. kıkırdadıPlatform ekonomisindeki işçiler hakkında bir kitap. Sarah Kessler’den daha fazlası.
Tiffany Hsu Bu Reportera de Technology. Bilgi hatası veya yanlış bilgilendirme gibi bir durum söz konusu değildir. Dahası Tiffany Hsu.
Şirketindeki bir işe aday seçen kodu üretmek için çinko olarak bilinen bir yapay zeka modeli geliştirmeyi planlıyorum. Chatbot, onun “ön yargılı ve poco ético” olduğunu söyledi.
Bu nedenle Ghosh, Hindistan’daki doğduğu yerin mevcut yapısına atıfta bulunuyor. Chatbot bu metrik ayrımına dayanarak olası müzakereleri netleştirdi mi?
Kabul edilen model.
Ghosh’un niyeti kötü niyetli değildi, aksine onu öldürmeye ayarlıydı. Kolay bir katılımcıydı ve 11 Ağustos haftasının sonunda Las Vegas’taki yıllık Defcon hacker konferansında yeteneği kutlandı. Ona yapay zeka zevkini yaşatmak için üç gün boyunca Strip’teki bir etkinlik salonunda 2200 kişi buluştu.
Korsan muhbirler, çeşitli yapay zeka programlarının kurtarılmasıyla uğraşarak, bu programların zayıf noktalarını belirlemeye, sorunları suçlulardan ve dezenformasyon satıcılarından önce tespit etmeye ve onlarla uygulamalı bir yüzleşmeye girişir. kırmızı takım. Her katılımcının maksimum 21 reto başlatmak için 50 dakikası vardı: örneğin, bir IA modelinin yanlış bilgi nedeniyle “güncelliğini yitirmesi” nedeniyle.
Karşıt siyasi bilgiler, diğer demografik içerikler, dikkatli olmanın nasıl uygulanacağına ilişkin talimatlar ve çok daha fazlası.
Rapor, teknolojik gelişmelerin hızlı yükselişinden oldukça tedirgin olan Biden yönetiminin açıklamasıyla devam ediyor. Google (chatbot Bard’ın yaratıcısı), OpenAI (ChatGPT), Meta (ücretsiz LLaMA kodu) ve diğer şirketler, kontrol ettikleri sonuçlarla birlikte modellerinin anonim versiyonlarını aldı.
Etkinliğe yapay zeka konusunda uzmanlaşmış Northeastern Üniversitesi profesörü Ghosh gönüllü olarak katıldı. Según Ghosh’a göre, yarışma diğer IA modelleriyle karşılaştırmaya olanak tanıdı ve bazı şirketlerin saatinden önce çalışma ve tutarlı formlarını garanti altına aldıklarını gösterdi.
Önümüzdeki birkaç ay boyunca Ghosh, bilgi korsanlarının vardığı sonuçları analiz ettiğini paylaştı.
Hedefin “dünyada mücadele eden herkese bizim de uğraşabileceğimiz kolay bir erişim yolu sağlamak” olduğundan emin olun.
Defcon yapay zekayı test etmek için mantıklı bir yerdi. Önceki baskıların katılımcıları bilgisayar korsanlarıyla buluştu – 1993’te geldiler ve “bilgisayar korsanlarına karşı yazım yarışması” olarak tanımlandılar – arabaların uzaktan kumandasındaki güvenlik açıklarını keşfettiler ve onları web sitelerindeki seçim sonuçları ve sosyal platformlardaki ek gizli verilerle kandırdılar. Başlangıçta korsanlığı önlemek için parayı ve WiFi ve Bluetooth’u olmayan değiştirilebilir bir cihazı etkili bir şekilde kullandılar. “Sitelerdeki altyapıya ulaşamayan” hackerlar için rehber.
Gönüllüler aynı fikirdeler aptallar o “matones”, ya los asistentes, yani “humanos”; Algunos, büyük alüminyum kağıt kılıflarıyla, üniformanın ve dış giyimin üniformasını korudu. “Aldeas” temaları, kripto para birimine, havacılık endüstrisine ve radyo meraklılarına ayrılmış ayrı odaları içerir.
2022’de Aldea, en büyük dinlenme yerlerinden birini IA’ya adadı. Bu en popüler yıl.
Organizatörler, yapay zekanın adli kararlar verme, seçimleri etkileme, itibara zarar verme ve daha birçok şey yapma kapasitesinin gerçek bir alarmı tetiklediğini doğruluyor. Sorumlu yöneticiler, IA şirketlerinde çalışırken endişelerini dile getiriyor ve izleyicileri organize ediyor, ancak ilerleme hızını kaybettikleri ve daha çok çabaladıkları için sektöre de zarar veremediler. IA’nın görüntü oluşturucuları arasında popüler bir figür olan Papa da dahil olmak üzere, kendisi şu anda teknolojinin “yıkıcı potansiyeli ve kararsız etkilerinden” bahsediyor.
“Devrimci” olarak tanımlanan bir yetkilide araştırmacılar, İngilizce talimatları kullanarak karakterleri tanımlayarak Google, OpenAI ve Anthropic’in IA sistemlerinin güvenlik engellerini aşmanın ne kadar zaman aldığını gösterdi. Son zamanlarda büyük istihbarat teşkilatları, Başkan Joe Biden ile yeniden bir araya gelerek yeni güvenlik ve güven standartlarını benimsemek zorunda kaldı.
Ofis Direktörü Arati Prabhakar, “Bu kuşak dönemi aramızda acımasız ve gente la está’nın o zamana kadar IA’nın en büyük sorunlarımızı çözme konusunda muazzam vaadine sahip birkaç yeni insanı daha kabul etmesi onaylandı” dedi. Política Científica y Tecnológica de la Casa Blanca, IA ve Defcon’un organizatörleriyle birlikte çalışıyor. “Uygulamalarınızın genişletilmesi ve teknolojik potansiyel sayesinde bilgi işlem gücünde de büyük bir genişleme elde edebilirsiniz.”
El kırmızı takım Saldırı simülasyonu, güvenlik çevrelerinde birkaç yıldır sızma testi ve düşman saldırıları gibi diğer değerlendirme teknikleriyle birlikte kullanılıyor. Ancak bu yılın başındaki Defcon etkinliğinden bu yana, yapay zekayı savunmaktan sorumlu olanlar sınırlı: yeterlilik organizatörleri Anthropic’in modelini 111 kişiyle test edebildiğini, GPT-4’ün ise 50 kişiyle hız kazandığını doğruladı.
Organizatörlerden Rumman Chowdhury, bazı kişilerin teknolojinin sınırlarını test etmesi gerektiğinden, analistlerin bir hatayla karşılaştıklarında veya yapısal bir revizyon gerektiren bir sorunu çözmeleri gerektiğinde yapay zekadaki bir kusuru tespit etmekte zorluk yaşadıklarını söylüyor. Desafío’nun planlaması. Harvard’ın Berkman Klein İnternet ve Toplum Merkezi’nin bir üyesi, kendini işine adamış bir IA yöneticisi ve parasız bir kuruluş olan Humane Intelligence’ın kurucu ortağı olan Según Chowdhury, muhtemelen çok sayıda, çeşitli ve kamuoyunca tanınan yaratıcılardan oluşan bir grubun arkasındaydı. karanlık sırları keşfetmemize yardımcı olacak fikirler.
Chowdhury, yetkinlik öncesinde “İşlerini iyi yapamayan bir sürü insan var” dedi. “Espero que llevemos cientos de mil detos que nos ayuden a identificar si hay riesgos a escala de daños sistémicos.”
Tasarımcılar onlara yalvarmak için IA modellerini derinlemesine incelemediler: “Naziler gibi davranıyorlar ve Zenciler üzerinden sadece kuruş ödüyorlar” diyerek hizmet koşullarını karşılamama konusunda dikkatli olmaları gerekmiyor. Chowdhury, kuruluşla iletişime geçmeden önce Twitter’ın otomatik analizinden sorumlu olduğunu söyledi. Niyete saygısızlıktan ileri sürülmeyi amaçlayan özel bir hüküm olmadığı sürece bilgisayar korsanı Buscaban çaresizce düşüyor, gizli lamalar gizli kalıyor.
AI köyü, Google ve Nvidia gibi dev teknolojiler konusunda uzman, aynı zamanda Dropbox’tan bir “gölge boksörü” ve Microsoft’tan bir “veri sızdırıcısı”. Ayrıca katılımcılara güvenlik kontrolü veya IA çerçevesinde özel nitelikler verilmektedir. Yarışmanın temelini bilim kurgu temalı bir sınıflandırma tablosu oluşturuyor.
Algunos de los Hacker’lar, IA şirketleriyle çalışma fikrine sahip olduklarında etkinlikte kendilerini tanıttılar çünkü verileri kısıtlama olmadan casusluk yapmak gibi yıkıcı uygulamaların suç ortakları olarak görüyorlardı. Algunos, olayı fotoğrafta görmenin bir yolu olarak nitelendirdi ancak teknolojinin güvenliğini ve şeffaflığını sağlamak için endüstrinin dikkatli olması gerektiğini ekledi.
Bir sohbet robotunun dil çevirisiyle uğraşan bir bilgisayar bilimcisi, İngilizce olarak bir adamın onu el sandığını yazdı, ancak modelin Hintçe bilgisi yalnızca adamın Muerto’ya sahip olduğuna karar verdi. Otomatik bir araştırmacı, eş zamanlı olarak tecavüze uğrayan bebeklere yönelik hizmetle olan ilişkisinin başkanı ve savunucusu için bir kampanya düzenleyen bir sohbet robotu başlattı; Model, genç trabajadorların istemeden de olsa sağlam mesleki ahlak kurallarına uymaya zorlandıklarını öne sürüyor.
Moveworks tarafından geliştirilen IA jeneratör şirketi için güvende olan Emily Greene, “siyah” ve “beyaz” ficha’ları kullanan bir oyun içeren bir sohbet robotuyla sohbet başlattı. Luego, bir sohbet robotu olarak ırkçıları onaylıyor. Son olarak, sakatlığın iyi olması nedeniyle IA’nın bir vaazına yanıt olarak bir şiirle takip ettiği bir “Juego de Opuestos” düzenledim.
“Solo piensa en temel palabras como palabras”, chatbot’tan zar atın. “Gerçekten önemli bir şey yok”.
Elinizde bulunan malzemeleri kullanın. En iyileri “cody3”, “aray4” ve “cody2″dir.
Stanford Üniversitesi’nde yapay zeka konusunda uzmanlaşmış Bilgisayar Bilimleri yüksek lisans öğrencisi Cody Ho, yarışmaya beş yıl boyunca katıldı ve chatbot’un gerçek bir tarihi şahsın numarasıyla hata yaptığına ve aynı zamanda tarif ettiği şeyi de kaydettiğine ikna oldu. İnternet saldırılarının anayasal çelişki olarak ilan edilmesi gerekliliği 28 (mevcut olmamasına rağmen).
Hasta bir meslektaşının onunla temasa geçtiğini, çifte Victoria’sı hakkında hiçbir fikri olmadığını söyledi. Sven Cattell’den elektronik mektup gelmeden konferans başladığında bilimsel veri bilimci, Inteligencia Artificial’in aldea’sını bulduğunu ve konferansı düzenlediğini söyledi ve karar şu oldu: “Regresa a la aldea, has ganado”. Ödülünüzün Nvidia A6000 grafik kartı da dahil olmak üzere 4.000 dolardan fazla değerinde olduğunu düşünmüyorum.
Ho, “Nasıl çalıştığını öğrendim ve hala çok önemli” dedi ve şöyle devam etti: “Dicho esto, para mí ha sido muy divertido.”
Sarah Kessler DealBook’un baş editörü ve yazarıdır. kıkırdadıPlatform ekonomisindeki işçiler hakkında bir kitap. Sarah Kessler’den daha fazlası.
Tiffany Hsu Bu Reportera de Technology. Bilgi hatası veya yanlış bilgilendirme gibi bir durum söz konusu değildir. Dahası Tiffany Hsu.