OpenAI ve Microsoft tarafından Çarşamba günü yayınlanan bir araştırmaya göre, ulus devletler için çalışan bilgisayar korsanları, siber saldırılarını oluşturmak için OpenAI sistemlerini kullandı.
Şirketler, web sitelerinde yayınlanan araştırmalarının, yabancı hükümetlerle bağlantısı olan bilgisayar korsanlarının saldırılarında üretken yapay zekayı nasıl kullandıklarını ilk kez belgelediğine inanıyor.
Ancak şirketler, teknoloji endüstrisindeki bazı kişilerin korktuğu gibi yapay zekayı egzotik saldırılar oluşturmak için kullanmak yerine, bilgisayar korsanlarının bunu e-posta oluşturmak, belgeleri tercüme etmek ve bilgisayar kodlarında hata ayıklamak gibi sıradan şekillerde kullandığını söyledi.
“Bunlar Microsoft'un büyük siber saldırıları takip etme ve durdurma çabalarını denetleyen Tom Burt, “Yaptıkları işte daha üretken olmak için herkes gibi bunu kullanıyorlar” dedi.
(Haberler, AI sistemleriyle ilgili haber içeriğinin telif hakkı ihlali nedeniyle OpenAI ve Microsoft'a dava açtı.)
Microsoft, OpenAI'ye 13 milyar dolar taahhüt etti ve teknoloji devi ile startup yakın ortaklar. Çin, Rusya, Kuzey Kore ve İran ile bağlantısı olan beş bilgisayar korsanlığı grubunun OpenAI teknolojisini nasıl kullandığını belgelemek için tehdit istihbaratını paylaştılar. Şirketler hangi OpenAI teknolojisinin kullanıldığını belirtmedi. Start-up, kullanımını öğrendikten sonra erişimini engellediğini söyledi.
OpenAI Kasım 2022'de ChatGPT'yi piyasaya sürdüğünden bu yana teknoloji uzmanları, basın ve hükümet yetkilileri, rakiplerin daha güçlü araçları silah haline getirebileceğinden ve güvenlik açıklarından yararlanmanın yeni ve yaratıcı yollarını arayabileceğinden endişeleniyor. Yapay zekayı içeren diğer şeylerde olduğu gibi, gerçek daha incelikli olabilir.
“Rakibi daha iyi bir arama motorundan daha hızlı hale getirecek yeni ve özgün bir şey sunuyor mu? OpenAI siber güvenlik tehdit istihbaratı başkanı Bob Rotsted, “Bununla ilgili herhangi bir kanıt görmedim” dedi.
OpenAI'nin müşterilerin hesap kaydetme yeteneğini sınırladığını, ancak gelişmiş suçluların konumlarını gizlemek gibi çeşitli teknikler yoluyla tespit edilmekten kurtulabileceğini söyledi.
Bay Rotsted, “Siz de herkes gibi kaydolun” dedi.
Microsoft, İran'ın İslam Devrim Muhafızları Birliği'ne bağlı bir bilgisayar korsanlığı grubunun antivirüs tarayıcılarını atlatmanın ve kimlik avı e-postaları oluşturmanın yollarını aramak için yapay zeka sistemlerini kullandığını söyledi. Şirket, e-postaların “biri uluslararası bir kalkınma ajansından geldiği iddia edilen, diğeri ise önde gelen feministleri saldırganlar tarafından oluşturulan feminizm temalı bir web sitesine çekmeye çalışan” olduğunu belirtti.
Başka bir durumda, OpenAI, Ukrayna'daki savaşı etkilemeye çalışan Rusya bağlantılı bir grubun, uydu iletişim protokolleri ve radar görüntüleme teknolojisi üzerine araştırma yapmak için OpenAI sistemlerini kullandığını söyledi.
Yöneticiler, Microsoft'un siber suçlular ve ulus devletler de dahil olmak üzere 300'den fazla bilgisayar korsanlığı grubunu izlediğini ve OpenAI'nin özel sistemlerinin bunların kullanımını izlemeyi ve kesintiye uğratmayı kolaylaştırdığını söyledi. Bilgisayar korsanlarının açık kaynaklı yapay zeka teknolojisini kullanıp kullanmadığını belirlemenin yolları olsa da açık sistemlerin çoğalmasının görevi daha da zorlaştırdığını söylediler.
Burt, “Çalışma açık kaynak olduğunda, bu teknolojiyi kimin kullandığını, nasıl kullandıklarını ve teknolojinin sorumlu ve güvenli kullanımına ilişkin kuralların neler olduğunu her zaman bilemezsiniz” dedi.
Microsoft'un, şirketin geçen ay açıkladığı üst düzey Microsoft yöneticilerine yönelik Rus hack saldırısında herhangi bir üretken yapay zeka kullanımı tespit etmediğini söyledi.
Cade Metz San Francisco'dan gelen raporlara katkıda bulundu.
Şirketler, web sitelerinde yayınlanan araştırmalarının, yabancı hükümetlerle bağlantısı olan bilgisayar korsanlarının saldırılarında üretken yapay zekayı nasıl kullandıklarını ilk kez belgelediğine inanıyor.
Ancak şirketler, teknoloji endüstrisindeki bazı kişilerin korktuğu gibi yapay zekayı egzotik saldırılar oluşturmak için kullanmak yerine, bilgisayar korsanlarının bunu e-posta oluşturmak, belgeleri tercüme etmek ve bilgisayar kodlarında hata ayıklamak gibi sıradan şekillerde kullandığını söyledi.
“Bunlar Microsoft'un büyük siber saldırıları takip etme ve durdurma çabalarını denetleyen Tom Burt, “Yaptıkları işte daha üretken olmak için herkes gibi bunu kullanıyorlar” dedi.
(Haberler, AI sistemleriyle ilgili haber içeriğinin telif hakkı ihlali nedeniyle OpenAI ve Microsoft'a dava açtı.)
Microsoft, OpenAI'ye 13 milyar dolar taahhüt etti ve teknoloji devi ile startup yakın ortaklar. Çin, Rusya, Kuzey Kore ve İran ile bağlantısı olan beş bilgisayar korsanlığı grubunun OpenAI teknolojisini nasıl kullandığını belgelemek için tehdit istihbaratını paylaştılar. Şirketler hangi OpenAI teknolojisinin kullanıldığını belirtmedi. Start-up, kullanımını öğrendikten sonra erişimini engellediğini söyledi.
OpenAI Kasım 2022'de ChatGPT'yi piyasaya sürdüğünden bu yana teknoloji uzmanları, basın ve hükümet yetkilileri, rakiplerin daha güçlü araçları silah haline getirebileceğinden ve güvenlik açıklarından yararlanmanın yeni ve yaratıcı yollarını arayabileceğinden endişeleniyor. Yapay zekayı içeren diğer şeylerde olduğu gibi, gerçek daha incelikli olabilir.
“Rakibi daha iyi bir arama motorundan daha hızlı hale getirecek yeni ve özgün bir şey sunuyor mu? OpenAI siber güvenlik tehdit istihbaratı başkanı Bob Rotsted, “Bununla ilgili herhangi bir kanıt görmedim” dedi.
OpenAI'nin müşterilerin hesap kaydetme yeteneğini sınırladığını, ancak gelişmiş suçluların konumlarını gizlemek gibi çeşitli teknikler yoluyla tespit edilmekten kurtulabileceğini söyledi.
Bay Rotsted, “Siz de herkes gibi kaydolun” dedi.
Microsoft, İran'ın İslam Devrim Muhafızları Birliği'ne bağlı bir bilgisayar korsanlığı grubunun antivirüs tarayıcılarını atlatmanın ve kimlik avı e-postaları oluşturmanın yollarını aramak için yapay zeka sistemlerini kullandığını söyledi. Şirket, e-postaların “biri uluslararası bir kalkınma ajansından geldiği iddia edilen, diğeri ise önde gelen feministleri saldırganlar tarafından oluşturulan feminizm temalı bir web sitesine çekmeye çalışan” olduğunu belirtti.
Başka bir durumda, OpenAI, Ukrayna'daki savaşı etkilemeye çalışan Rusya bağlantılı bir grubun, uydu iletişim protokolleri ve radar görüntüleme teknolojisi üzerine araştırma yapmak için OpenAI sistemlerini kullandığını söyledi.
Yöneticiler, Microsoft'un siber suçlular ve ulus devletler de dahil olmak üzere 300'den fazla bilgisayar korsanlığı grubunu izlediğini ve OpenAI'nin özel sistemlerinin bunların kullanımını izlemeyi ve kesintiye uğratmayı kolaylaştırdığını söyledi. Bilgisayar korsanlarının açık kaynaklı yapay zeka teknolojisini kullanıp kullanmadığını belirlemenin yolları olsa da açık sistemlerin çoğalmasının görevi daha da zorlaştırdığını söylediler.
Burt, “Çalışma açık kaynak olduğunda, bu teknolojiyi kimin kullandığını, nasıl kullandıklarını ve teknolojinin sorumlu ve güvenli kullanımına ilişkin kuralların neler olduğunu her zaman bilemezsiniz” dedi.
Microsoft'un, şirketin geçen ay açıkladığı üst düzey Microsoft yöneticilerine yönelik Rus hack saldırısında herhangi bir üretken yapay zeka kullanımı tespit etmediğini söyledi.
Cade Metz San Francisco'dan gelen raporlara katkıda bulundu.