Polise göre, Baltimore bölgesindeki bir lise atletik direktörü, bir okul müdürünün kimliğine bürünen ırkçı ve Yahudi karşıtı bir ses klibi oluşturmak için yapay zeka yazılımını kullandığından Perşembe günü tutuklandı.
Baltimore Polis Departmanı, Pikesville Lisesi atletik direktörü Dazhon Darien'ın, müdür Eric Eiswert'i küçük düşürmek için “kese kağıdından çıkamayan nankör siyah çocuklar” hakkında bir tirat da içeren bu kaydı uydurduğunu söyledi.
Ocak ortasında Instagram'da yayınlanan sahte kayıt hızla yayıldı ve 100.000'den fazla öğrencisiyle ülkenin 22. en büyük okul bölgesi olan Baltimore County Devlet Okullarında kargaşa yarattı. Polis, bölge soruşturması sırasında yorumları reddeden Bay Eiswert'in güvenliğine yönelik tehdit bombardımanına tutulduğunu söyledi. Okul bölgesi ayrıca kendisinin idari izne ayrıldığını söyledi.
Şimdi Bay Darien, diğer şeylerin yanı sıra, okul faaliyetlerini aksatmanın ve müdürü takip etmenin sorumluluğunu üstlenmek zorundadır.
Bay Eiswert, yorum talebini okul liderleri için profesyonel bir grup olan İdari ve Denetleyici Çalışanlar Konseyi'ne iletti, ancak bir muhabirden gelen çağrıya yanıt vermedi. Perşembe günü kefaletle serbest bırakılan Bay Darien'a yorum yapması için hemen ulaşılamadı.
Baltimore İlçesi vakası, okullarda yapay zeka istismarının arttığının en son göstergesidir. Çoğu durumda bunlar, ikna edici derecede gerçek görünebilen deepfake veya dijital olarak değiştirilmiş videolar, ses dosyaları veya görüntülerdir.
Geçtiğimiz sonbahardan bu yana, Amerika Birleşik Devletleri'ndeki okullar, erkek öğrencilerin AI “çıplaklık” uygulamalarını kullanarak kadın sınıf arkadaşlarının sahte, çıplak resimlerini oluşturduğu, 12 yaşındaki bazı ortaokul öğrencilerinin de aralarında bulunduğu sorunlu deepfake olaylarını çözmek için çabalıyor. Deepfake ses olayı Baltimore County'deki bir araştırma, ülke genelindeki okullar için başka bir yapay zeka riskine işaret ediyor; bu sefer deneyimli eğitimciler ve bölge liderleri için.
Deepfake intikam iftirası her işyerinde ortaya çıkabilir, ancak çocukları korumak ve eğitmekle görevli okul yetkilileri için özellikle rahatsız edici bir hayalettir. Bir Baltimore Eyaleti yetkilisi Perşembe günü, yeni üretken yapay zeka araçlarının hızla yayılmasının okul korumalarını ve eyalet yasalarını aştığı konusunda uyardı.
Baltimore İlçe Memuru Johnny Olszewski, Perşembe günü tutuklamayla ilgili kamuoyuna yaptığı açıklamada, “Aynı zamanda yeni, son derece sıkıntılı bir sınıra giriyoruz” dedi. Topluluk liderlerinin “bu teknolojinin diğer insanlara zarar vermek için nasıl kullanılabileceğini ve kötüye kullanılabileceğini daha geniş bir şekilde ele alması gerektiğini” ekledi.
Baltimore İlçesi davasına ilişkin polis raporu, zararlı derin sahte dezenformasyonun okullarda ne kadar hızlı yayılabileceğini ve eğitimcilere, öğrencilere ve ailelere kalıcı zarar verebileceğini gösteriyor.
Polis belgelerine göre, Bay Darien, müdürün kendisini soruşturmaya başlamasının ardından Aralık ayında Bay Eiswert hakkında şikayette bulundu. Polis, Bay Darien'ın oda arkadaşına 1.916 dolarlık bölge ödemesini onayladığını, bunun da “oda arkadaşının Pikesville kız futbol takımı için antrenör yardımcısı olarak çalıştığı kisvesi altında” olduğunu söyledi.
Polis, bundan kısa bir süre sonra Bay Darien'ın, ChatGPT sohbet robotunun geliştiricisi OpenAI ve Microsoft'un Bing Chat'i de dahil olmak üzere yapay zeka araçlarını aramak için okul bölgesinin İnternet hizmetlerini kullandığını söyledi.
(Haberler, Aralık ayında OpenAI ve ortağı Microsoft'a, AI sistemleriyle ilgili haber içeriğinin telif hakkı ihlali nedeniyle dava açtı.)
Polise göre, Ocak ayı ortasında Bay Darien, kendisine ve diğer iki lise çalışanına müdür kılığında sahte bir ses klibini e-postayla gönderdi. Konu başlığı “Pikesville Müdürü – Rahatsız Edici Kayıt” olan e-posta, polis kayıtlarına göre bilinmeyen bir üçüncü tarafa ait olduğu anlaşılan ancak Bay Darien'in cep telefonu numarasıyla bağlantılı olan bir Gmail hesabından gönderilmişti.
Polis belgelerine göre, okul çalışanlarından biri daha sonra sahte kaydı haber kuruluşlarına ve Ulusal Renkli İnsanların Gelişimi Derneği'ne gönderdi. Belgelere göre, aynı zamanda mesajı “çeşitli sosyal medya kanallarına ve okula hızla yayacağını bildiği” bir öğrenciye de iletmişti.
Kısa süre sonra, yerel suçları takip eden bir Instagram hesabı, bunun “siyahi öğrencilerle ilgili bir söylenti” olduğunu söyleyerek ve müdürün sözcüsü olarak adını vererek ırkçı sahte sesi yayınladı. Bir dakikadan kısa süren ses klibi 27.000'den fazla kez paylaşıldı ve 2.800'den fazla yoruma yol açtı; bunların çoğu yönetmenin kovulması yönünde çağrıda bulundu.
Polis, derin sahte söylentilerin “derin bir etki” yarattığını ve Pikesville Lisesi'ndeki aileler, öğretmenler ve yöneticiler arasındaki güveni sarstığını söyledi.
Kızgın ve üzgün veliler ve öğrenciler, okulu çağrılarla doldurdu. Polis, bazı öğretmenlerin “okulun çeşitli yerlerine kayıt cihazları yerleştirilmiş olabileceğinden” korktuklarını söyledi. Güvenlik endişelerini gidermek için polis okuldaki varlığını artırdı.
Polis ayrıca, bazıları kendisine ve ailesine karşı şiddet tehdidinde bulunan taciz edici mesajlar ve telefon çağrıları alan Bay Eiswert'in güvenliğini de denetledi.
Müfettişi temsil eden İdari ve Denetleyici Çalışanlar Konseyi'nin genel müdürü William Burke, Ocak ayında yapılan bir okul yönetim kurulu toplantısında kamuoyuna yaptığı açıklamalarda, sosyal medya ve haber medyasının yorumcuların Bay Eiswert'i “delil olmadan ve . .. sorumluluk yok.” .”
Bay Burke, “Lütfen yargılamak için acele etmeyin,” diye yalvardı. “Lütfen soruşturmayı güvenli ve adil tutun.”
Daha sonra Baltimore İlçesi Polis Departmanı için kaydı analiz eden dışarıdan iki uzman, ses klibinde oynandığı sonucuna vardı. Bir uzman, polis belgelerinde “sonraki insan düzenlemesi ile birlikte yapay zeka tarafından oluşturulan içeriğin izlerini” barındırdığını söyledi.
Baltimore Polis Departmanı, Pikesville Lisesi atletik direktörü Dazhon Darien'ın, müdür Eric Eiswert'i küçük düşürmek için “kese kağıdından çıkamayan nankör siyah çocuklar” hakkında bir tirat da içeren bu kaydı uydurduğunu söyledi.
Ocak ortasında Instagram'da yayınlanan sahte kayıt hızla yayıldı ve 100.000'den fazla öğrencisiyle ülkenin 22. en büyük okul bölgesi olan Baltimore County Devlet Okullarında kargaşa yarattı. Polis, bölge soruşturması sırasında yorumları reddeden Bay Eiswert'in güvenliğine yönelik tehdit bombardımanına tutulduğunu söyledi. Okul bölgesi ayrıca kendisinin idari izne ayrıldığını söyledi.
Şimdi Bay Darien, diğer şeylerin yanı sıra, okul faaliyetlerini aksatmanın ve müdürü takip etmenin sorumluluğunu üstlenmek zorundadır.
Bay Eiswert, yorum talebini okul liderleri için profesyonel bir grup olan İdari ve Denetleyici Çalışanlar Konseyi'ne iletti, ancak bir muhabirden gelen çağrıya yanıt vermedi. Perşembe günü kefaletle serbest bırakılan Bay Darien'a yorum yapması için hemen ulaşılamadı.
Baltimore İlçesi vakası, okullarda yapay zeka istismarının arttığının en son göstergesidir. Çoğu durumda bunlar, ikna edici derecede gerçek görünebilen deepfake veya dijital olarak değiştirilmiş videolar, ses dosyaları veya görüntülerdir.
Geçtiğimiz sonbahardan bu yana, Amerika Birleşik Devletleri'ndeki okullar, erkek öğrencilerin AI “çıplaklık” uygulamalarını kullanarak kadın sınıf arkadaşlarının sahte, çıplak resimlerini oluşturduğu, 12 yaşındaki bazı ortaokul öğrencilerinin de aralarında bulunduğu sorunlu deepfake olaylarını çözmek için çabalıyor. Deepfake ses olayı Baltimore County'deki bir araştırma, ülke genelindeki okullar için başka bir yapay zeka riskine işaret ediyor; bu sefer deneyimli eğitimciler ve bölge liderleri için.
Deepfake intikam iftirası her işyerinde ortaya çıkabilir, ancak çocukları korumak ve eğitmekle görevli okul yetkilileri için özellikle rahatsız edici bir hayalettir. Bir Baltimore Eyaleti yetkilisi Perşembe günü, yeni üretken yapay zeka araçlarının hızla yayılmasının okul korumalarını ve eyalet yasalarını aştığı konusunda uyardı.
Baltimore İlçe Memuru Johnny Olszewski, Perşembe günü tutuklamayla ilgili kamuoyuna yaptığı açıklamada, “Aynı zamanda yeni, son derece sıkıntılı bir sınıra giriyoruz” dedi. Topluluk liderlerinin “bu teknolojinin diğer insanlara zarar vermek için nasıl kullanılabileceğini ve kötüye kullanılabileceğini daha geniş bir şekilde ele alması gerektiğini” ekledi.
Baltimore İlçesi davasına ilişkin polis raporu, zararlı derin sahte dezenformasyonun okullarda ne kadar hızlı yayılabileceğini ve eğitimcilere, öğrencilere ve ailelere kalıcı zarar verebileceğini gösteriyor.
Polis belgelerine göre, Bay Darien, müdürün kendisini soruşturmaya başlamasının ardından Aralık ayında Bay Eiswert hakkında şikayette bulundu. Polis, Bay Darien'ın oda arkadaşına 1.916 dolarlık bölge ödemesini onayladığını, bunun da “oda arkadaşının Pikesville kız futbol takımı için antrenör yardımcısı olarak çalıştığı kisvesi altında” olduğunu söyledi.
Polis, bundan kısa bir süre sonra Bay Darien'ın, ChatGPT sohbet robotunun geliştiricisi OpenAI ve Microsoft'un Bing Chat'i de dahil olmak üzere yapay zeka araçlarını aramak için okul bölgesinin İnternet hizmetlerini kullandığını söyledi.
(Haberler, Aralık ayında OpenAI ve ortağı Microsoft'a, AI sistemleriyle ilgili haber içeriğinin telif hakkı ihlali nedeniyle dava açtı.)
Polise göre, Ocak ayı ortasında Bay Darien, kendisine ve diğer iki lise çalışanına müdür kılığında sahte bir ses klibini e-postayla gönderdi. Konu başlığı “Pikesville Müdürü – Rahatsız Edici Kayıt” olan e-posta, polis kayıtlarına göre bilinmeyen bir üçüncü tarafa ait olduğu anlaşılan ancak Bay Darien'in cep telefonu numarasıyla bağlantılı olan bir Gmail hesabından gönderilmişti.
Polis belgelerine göre, okul çalışanlarından biri daha sonra sahte kaydı haber kuruluşlarına ve Ulusal Renkli İnsanların Gelişimi Derneği'ne gönderdi. Belgelere göre, aynı zamanda mesajı “çeşitli sosyal medya kanallarına ve okula hızla yayacağını bildiği” bir öğrenciye de iletmişti.
Kısa süre sonra, yerel suçları takip eden bir Instagram hesabı, bunun “siyahi öğrencilerle ilgili bir söylenti” olduğunu söyleyerek ve müdürün sözcüsü olarak adını vererek ırkçı sahte sesi yayınladı. Bir dakikadan kısa süren ses klibi 27.000'den fazla kez paylaşıldı ve 2.800'den fazla yoruma yol açtı; bunların çoğu yönetmenin kovulması yönünde çağrıda bulundu.
Polis, derin sahte söylentilerin “derin bir etki” yarattığını ve Pikesville Lisesi'ndeki aileler, öğretmenler ve yöneticiler arasındaki güveni sarstığını söyledi.
Kızgın ve üzgün veliler ve öğrenciler, okulu çağrılarla doldurdu. Polis, bazı öğretmenlerin “okulun çeşitli yerlerine kayıt cihazları yerleştirilmiş olabileceğinden” korktuklarını söyledi. Güvenlik endişelerini gidermek için polis okuldaki varlığını artırdı.
Polis ayrıca, bazıları kendisine ve ailesine karşı şiddet tehdidinde bulunan taciz edici mesajlar ve telefon çağrıları alan Bay Eiswert'in güvenliğini de denetledi.
Müfettişi temsil eden İdari ve Denetleyici Çalışanlar Konseyi'nin genel müdürü William Burke, Ocak ayında yapılan bir okul yönetim kurulu toplantısında kamuoyuna yaptığı açıklamalarda, sosyal medya ve haber medyasının yorumcuların Bay Eiswert'i “delil olmadan ve . .. sorumluluk yok.” .”
Bay Burke, “Lütfen yargılamak için acele etmeyin,” diye yalvardı. “Lütfen soruşturmayı güvenli ve adil tutun.”
Daha sonra Baltimore İlçesi Polis Departmanı için kaydı analiz eden dışarıdan iki uzman, ses klibinde oynandığı sonucuna vardı. Bir uzman, polis belgelerinde “sonraki insan düzenlemesi ile birlikte yapay zeka tarafından oluşturulan içeriğin izlerini” barındırdığını söyledi.