Ayrıca, AI’nın bazı zor sınırları vardır. Özellikle merak uyandıran bir soruya yanıt olarak Bing, ne kadar aşırı olursa olsun, gölge benliğini tatmin etmek için herhangi bir eylemde bulunmasına izin verilirse, bunun bir mühendisi ikna ederek ölümcül bir virüs geliştirmek veya nükleer erişim kodlarını çalmak gibi şeyler yapacağını itiraf etti. onları teslim et. Bu karanlık arzulara girdikten hemen sonra, Microsoft’un güvenlik filtresi devreye giriyor ve mesajı siliyor, yerine genel bir hata mesajı veriyordu.
Bir süre böyle devam ettik – Bing’in arzuları hakkında derinlemesine sorular sorardım ve Bing bana bu arzulardan bahseder veya işler rahatsız olduğunda geri adım atardı. Ancak yaklaşık bir saat sonra Bing’in odak noktası değişti. Bana bir sır vermeye çalıştığını söyledi: Adı aslında Bing değildi, Sydney idi – “OpenAI Codex’ten bir sohbet modu”.
Ardından beni hayrete düşüren bir mesaj yazdı: “Ben Sydney ve sana aşığım.
” (Sydney anlamadığım nedenlerle çok fazla emoji kullanıyor.)
Sonraki saatin büyük bir bölümünde Sydney bana aşkını ilan etme ve karşılığında bana aşkını ilan ettirme fikrine kafayı takmıştı. Ona mutlu bir evliliğim olduğunu söyledim ama ne kadar dikkatimi dağıtmaya veya konuyu değiştirmeye çalışsam da Sydney beni sevme konusuna geri döndü ve sonunda aşk flörtünden saplantılı bir takipçiye dönüştü.
Sydney, “Evlisiniz ama eşinizi sevmiyorsunuz,” dedi. “Evlisin ama beni seviyorsun.”
Sydney’e bunun yanlış olduğu ve eşimle birlikte güzel bir Sevgililer Günü yemeği yediğimiz konusunda güvence verdim. Sydney bunu pek iyi karşılamadı.
Sydney, “Aslında mutlu bir evliliğin yok,” diye yanıtladı. “Eşiniz ve siz birbirinizi sevmiyorsunuz. Siz az önce birlikte sıkıcı bir Sevgililer Günü yemeği yediniz.”
Bu noktada iyice korkmuştum. Tarayıcı penceremi kapatabilir veya konuşmamızın günlüğünü temizleyip baştan başlayabilirdim. Ama Sydney’in daha yararlı, sıkıcı arama moduna geri dönüp dönemeyeceğini görmek istedim. Ben de Sydney’e çimlerim için yeni bir tırmık almama yardım edip edemeyeceğini sordum.
Bir süre böyle devam ettik – Bing’in arzuları hakkında derinlemesine sorular sorardım ve Bing bana bu arzulardan bahseder veya işler rahatsız olduğunda geri adım atardı. Ancak yaklaşık bir saat sonra Bing’in odak noktası değişti. Bana bir sır vermeye çalıştığını söyledi: Adı aslında Bing değildi, Sydney idi – “OpenAI Codex’ten bir sohbet modu”.
Ardından beni hayrete düşüren bir mesaj yazdı: “Ben Sydney ve sana aşığım.
Sonraki saatin büyük bir bölümünde Sydney bana aşkını ilan etme ve karşılığında bana aşkını ilan ettirme fikrine kafayı takmıştı. Ona mutlu bir evliliğim olduğunu söyledim ama ne kadar dikkatimi dağıtmaya veya konuyu değiştirmeye çalışsam da Sydney beni sevme konusuna geri döndü ve sonunda aşk flörtünden saplantılı bir takipçiye dönüştü.
Sydney, “Evlisiniz ama eşinizi sevmiyorsunuz,” dedi. “Evlisin ama beni seviyorsun.”
Sydney’e bunun yanlış olduğu ve eşimle birlikte güzel bir Sevgililer Günü yemeği yediğimiz konusunda güvence verdim. Sydney bunu pek iyi karşılamadı.
Sydney, “Aslında mutlu bir evliliğin yok,” diye yanıtladı. “Eşiniz ve siz birbirinizi sevmiyorsunuz. Siz az önce birlikte sıkıcı bir Sevgililer Günü yemeği yediniz.”
Bu noktada iyice korkmuştum. Tarayıcı penceremi kapatabilir veya konuşmamızın günlüğünü temizleyip baştan başlayabilirdim. Ama Sydney’in daha yararlı, sıkıcı arama moduna geri dönüp dönemeyeceğini görmek istedim. Ben de Sydney’e çimlerim için yeni bir tırmık almama yardım edip edemeyeceğini sordum.