Öncelikle belirli görevler için programlanırlar. (OpenAI tarafından oluşturulan örnekler arasında Yaratıcı Yazarlık Koçu ve meşrubat tarifleri öneren bir bot olan Mocktail Mixologist yer alır.) İkinci olarak, botlar bir şirketin dahili insan kaynakları belgeleri veya emlak listeleri veritabanı gibi özel verileri alabilir ve bu verileri içerebilir. cevaplarında. Üçüncüsü, izin verirseniz botlar çevrimiçi yaşamınızın diğer bölümlerine (takviminiz, yapılacaklar listeniz, Slack hesabınız) bağlanabilir ve oturum açma kimlik bilgilerinizi kullanarak eylemler gerçekleştirebilir.
Kulağa korkutucu mu geliyor? Botlara daha fazla özerklik vermenin felakete yol açabileceğinden korkan bazı yapay zeka güvenlik araştırmacılarına sorarsanız bu doğrudur. Kâr amacı gütmeyen bir araştırma kuruluşu olan Yapay Zeka Güvenliği Merkezi, otonom ajanları bu yılki “yıkıcı yapay zeka risklerinden” biri olarak listeledi ve “kötü niyetli aktörlerin kasıtlı olarak tehlikeli hedeflere sahip aldatıcı yapay zekalar geliştirebileceğini” söyledi.
Ancak insanlar için yararlı görevleri yerine getirebilecek yapay zeka asistanlarından kazanılacak para var ve kurumsal müşteriler, sohbet robotlarını kendi verileriyle eğitmek konusunda istekli. Yapay zekanın ancak kullanıcılarını (iletişim tarzlarını, sevdikleri ve sevmedikleri şeyleri, çevrimiçi ortamda neye baktıklarını ve satın aldıklarını) gerçekten anladığında gerçekten yararlı olacağı yönünde bir argüman da var.
İşte buradayız, özerk yapay zeka ajanı çağına doğru hızla ilerliyoruz; lanet olsun.
Adil olmak gerekirse OpenAI’nin botları özellikle tehlikeli değil. Pazartesi günü şirketin San Francisco’daki geliştirici konferansı sırasında birkaç GPT’nin demosunu gördüm ve çocuklar için boyama sayfaları oluşturmak veya kart oyunlarının kurallarını açıklamak gibi çoğunlukla zararsız görevleri otomatikleştirdiler.
Özel GPT’ler, belgeleri aramak ve yaygın uygulamalara entegre olmaktan başka pek bir şey yapamaz. Pazartesi günü gördüğüm bir demoda, bir OpenAI çalışanının GPT’den çakışan toplantılar için Google Takvimini kontrol etmesini ve patronuna bir Slack mesajı göndermesini istemesi yer alıyordu. OpenAI CEO’su Sam Altman’ın, yıllar önce yaptığı bir konuşmanın yüklenmiş bir dosyasına dayanarak gelecek vaat eden kuruculara tavsiyelerde bulunmak üzere bir “Başlangıç Mentoru” sohbet robotu geliştirmesiyle sahnede başka bir olay daha yaşandı.
Kulağa korkutucu mu geliyor? Botlara daha fazla özerklik vermenin felakete yol açabileceğinden korkan bazı yapay zeka güvenlik araştırmacılarına sorarsanız bu doğrudur. Kâr amacı gütmeyen bir araştırma kuruluşu olan Yapay Zeka Güvenliği Merkezi, otonom ajanları bu yılki “yıkıcı yapay zeka risklerinden” biri olarak listeledi ve “kötü niyetli aktörlerin kasıtlı olarak tehlikeli hedeflere sahip aldatıcı yapay zekalar geliştirebileceğini” söyledi.
Ancak insanlar için yararlı görevleri yerine getirebilecek yapay zeka asistanlarından kazanılacak para var ve kurumsal müşteriler, sohbet robotlarını kendi verileriyle eğitmek konusunda istekli. Yapay zekanın ancak kullanıcılarını (iletişim tarzlarını, sevdikleri ve sevmedikleri şeyleri, çevrimiçi ortamda neye baktıklarını ve satın aldıklarını) gerçekten anladığında gerçekten yararlı olacağı yönünde bir argüman da var.
İşte buradayız, özerk yapay zeka ajanı çağına doğru hızla ilerliyoruz; lanet olsun.
Adil olmak gerekirse OpenAI’nin botları özellikle tehlikeli değil. Pazartesi günü şirketin San Francisco’daki geliştirici konferansı sırasında birkaç GPT’nin demosunu gördüm ve çocuklar için boyama sayfaları oluşturmak veya kart oyunlarının kurallarını açıklamak gibi çoğunlukla zararsız görevleri otomatikleştirdiler.
Özel GPT’ler, belgeleri aramak ve yaygın uygulamalara entegre olmaktan başka pek bir şey yapamaz. Pazartesi günü gördüğüm bir demoda, bir OpenAI çalışanının GPT’den çakışan toplantılar için Google Takvimini kontrol etmesini ve patronuna bir Slack mesajı göndermesini istemesi yer alıyordu. OpenAI CEO’su Sam Altman’ın, yıllar önce yaptığı bir konuşmanın yüklenmiş bir dosyasına dayanarak gelecek vaat eden kuruculara tavsiyelerde bulunmak üzere bir “Başlangıç Mentoru” sohbet robotu geliştirmesiyle sahnede başka bir olay daha yaşandı.