Openaai Cuma günü, Çin güvenlik cerrahisinin Batı ülkelerindeki sosyal medya hizmetlerinde Çin karşıtı katkılar hakkında gerçek zamanlı raporlar toplamak amacıyla yapay zeka tarafından yönlendirilen bir gözetim aracı oluşturduğuna dair kanıtların ortaya çıktığını söyledi.
Şirketin araştırmacıları, akran incelemesi olarak adlandırdıkları bu yeni kampanyayı belirlediklerini, çünkü araç üzerinde çalışan biri, onu destekleyen bazı bilgisayar kodlarını da çıkarmak için OpenAIS teknolojilerini kullandılar.
Openaai'nin ana araştırmacısı Ben Dimmo, şirketin ilk kez bu kadar AI güdümlü bir gözetim aracını ortaya çıkardığını söyledi.
Dimo, “Bazen tehdit aktörleri bize AI modellerimizi kullandıkları için internetin diğer bölgelerinde yaptıkları hakkında bir fikir veriyorlar.” Dedi.
AI'nın gözetim, bilgisayar hackleme, dezenformasyon kampanyaları ve diğer kötü amaçlı amaçlar için kullanılabileceği konusunda artan endişeler olmuştur. Her ne kadar Bay Gomo gibi araştırmacılar teknolojinin kesinlikle bu tür etkinlikleri sağlayabileceğini söylese de, AI'nın bu tür davranışları tanımlamaya ve durdurmaya yardımcı olabileceğini de ekliyor.
Ben Geimmo, Openaai'den bir ana yeraltı.Kredi…Haberler için Alexander Coggin
Bay Gnimmo ve ekibi, Çin gözetim aracının, Meta tarafından oluşturulan ve teknolojisini açan ve çalışmalarını dünyadaki yazılım geliştiricileriyle paylaşan bir AI teknolojisi olan Lama'ya dayandığına inanıyor.
AI'nin kötü niyetli ve yanıltıcı amaçlar için kullanımı hakkında ayrıntılı bir raporda Openai, Openais'in Çinli muhaliflerin eleştirdiği İngilizce -dil makaleleri üretmek için kullanıldığı sponsorlu discenment adlı ayrı bir Çin kampanyası söyledi.
Openaai'ye göre, aynı grup şirketin teknolojilerini Latin Amerika'da dağıtılmadan önce İspanyolca makaleleri çevirmek için kullandı. Makaleler ABD toplumunu ve siyaseti eleştirdi.
Raporda, şirketin teknolojilerini kullanan Kamboçya'da bulunduğu varsayılan bir kampanyanın, “Schweinbutsching” sahtekarlığının teşvik edilmesine katkıda bulunan sosyal medyadan yorumlar oluşturmak ve tercüme etmek için bir kampanya olduğu varsayılıyor. AI tarafından oluşturulan yorumların yorumları, internetteki erkeklerin reklamını yapmak ve bir yatırım programına katılmak için kullanıldı.
(Haberler, AI sistemleriyle bağlantılı olarak haber içeriğinin telif hakkı ihlali nedeniyle Openai ve Microsoft'a dava açtı. OpenAAI ve Microsoft bu iddialara itiraz etti.)
Şirketin araştırmacıları, akran incelemesi olarak adlandırdıkları bu yeni kampanyayı belirlediklerini, çünkü araç üzerinde çalışan biri, onu destekleyen bazı bilgisayar kodlarını da çıkarmak için OpenAIS teknolojilerini kullandılar.
Openaai'nin ana araştırmacısı Ben Dimmo, şirketin ilk kez bu kadar AI güdümlü bir gözetim aracını ortaya çıkardığını söyledi.
Dimo, “Bazen tehdit aktörleri bize AI modellerimizi kullandıkları için internetin diğer bölgelerinde yaptıkları hakkında bir fikir veriyorlar.” Dedi.
AI'nın gözetim, bilgisayar hackleme, dezenformasyon kampanyaları ve diğer kötü amaçlı amaçlar için kullanılabileceği konusunda artan endişeler olmuştur. Her ne kadar Bay Gomo gibi araştırmacılar teknolojinin kesinlikle bu tür etkinlikleri sağlayabileceğini söylese de, AI'nın bu tür davranışları tanımlamaya ve durdurmaya yardımcı olabileceğini de ekliyor.
Ben Geimmo, Openaai'den bir ana yeraltı.Kredi…Haberler için Alexander Coggin
Bay Gnimmo ve ekibi, Çin gözetim aracının, Meta tarafından oluşturulan ve teknolojisini açan ve çalışmalarını dünyadaki yazılım geliştiricileriyle paylaşan bir AI teknolojisi olan Lama'ya dayandığına inanıyor.
AI'nin kötü niyetli ve yanıltıcı amaçlar için kullanımı hakkında ayrıntılı bir raporda Openai, Openais'in Çinli muhaliflerin eleştirdiği İngilizce -dil makaleleri üretmek için kullanıldığı sponsorlu discenment adlı ayrı bir Çin kampanyası söyledi.
Openaai'ye göre, aynı grup şirketin teknolojilerini Latin Amerika'da dağıtılmadan önce İspanyolca makaleleri çevirmek için kullandı. Makaleler ABD toplumunu ve siyaseti eleştirdi.
Raporda, şirketin teknolojilerini kullanan Kamboçya'da bulunduğu varsayılan bir kampanyanın, “Schweinbutsching” sahtekarlığının teşvik edilmesine katkıda bulunan sosyal medyadan yorumlar oluşturmak ve tercüme etmek için bir kampanya olduğu varsayılıyor. AI tarafından oluşturulan yorumların yorumları, internetteki erkeklerin reklamını yapmak ve bir yatırım programına katılmak için kullanıldı.
(Haberler, AI sistemleriyle bağlantılı olarak haber içeriğinin telif hakkı ihlali nedeniyle Openai ve Microsoft'a dava açtı. OpenAAI ve Microsoft bu iddialara itiraz etti.)