Seattle yakınlarındaki Issaquah Lisesi'nde dokuzuncu sınıf öğrencisi olan Caroline Mullet, geçen sonbaharda ilk mezuniyet dansına katıldı; parti elbiseleri giymiş yüzlerce kızın katıldığı, blackjack masalarının yer aldığı James Bond temalı bir parti.
Birkaç hafta sonra, o ve diğer kız öğrenciler, erkek bir sınıf arkadaşının, dansa katılan kızların sahte çıplak fotoğraflarını, özgür kızlara otomatik olarak giyinik fotoğrafları almak için tasarlanmış bir yapay zeka uygulamasını kullanarak ürettiği müstehcen görüntüler ve cinsel içerikli görüntüler dağıttığını öğrendi. kadınlar özgünlüklerinden.
15 yaşındaki Bayan Mullet, Washington eyaletinden Demokrat senatör olan babası Mark'ı uyardı. Resimlerdeki kızlardan biri olmamasına rağmen, erkek sınıf arkadaşlarının kendilerinin simüle edilmiş çıplak fotoğraflarını görmesinden “son derece rahatsız” olan arkadaşlarına yardım etmek için bir şeyler yapılıp yapılamayacağını sordu. Kısa bir süre sonra Senatör Mullet ve Eyalet Meclisi'ndeki bir meslektaşı, yapay zeka tarafından oluşturulan gerçek reşit olmayan cinsel görüntülerin dağıtımını yasaklayacak bir yasa teklifinde bulundu.
Bayan Mullet, Ocak ayında tasarıya ilişkin bir duruşma sırasında eyalet milletvekillerine, “Bunun arkadaşlarımdan birinin, kız kardeşlerimin ve hatta benim başıma gelebileceğinden endişelenmek zorunda olduğum fikrinden nefret ediyorum” dedi.
Eyalet parlamentosu yasayı itirazsız kabul etti. Bir Demokrat olan Vali Jay Inslee bunu geçen ay imzaladı.
Devletler, okullarda hızla yayılan yeni bir cinsel istismar ve akran tacizi biçiminin ön saflarında yer alıyor. Amerika Birleşik Devletleri'ndeki erkek çocuklar, kadın sınıf arkadaşlarının cinsel içerikli resimlerini gizlice derlemek için yaygın olarak bulunan “çıplaklık” uygulamalarını kullandı, ardından simüle edilmiş çıplak fotoğrafları Snapchat ve Instagram gibi uygulamalardaki grup sohbetleri aracılığıyla dağıttı.
Şimdi federal ve eyalet yasa yapıcıları, kısmen Bayan Mullet gibi genç kızlardan gelen rahatsız edici raporların teşvik ettiği, sömürücü AI uygulamalarına ayak uydurmak için korumaları yürürlüğe koymak için acele ediyorlar.
Kâr amacı gütmeyen bir kuruluş olan Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi'ne göre, geçen yılın başından bu yana en az iki düzine eyalet, 18 yaşın altındaki kişilerin yapay zeka tarafından oluşturulan, deepfake olarak adlandırılan, cinsel içerikli görselleriyle mücadele etmek için yasa tasarısı sundu. Ve birçok eyalet bu tedbirleri yürürlüğe koydu.
Diğer şeylerin yanı sıra, Güney Dakota bu yıl, gerçek reşit olmayanları tasvir eden yapay zeka tarafından oluşturulan cinsel istismar materyallerinin bulundurulmasını, üretilmesini veya dağıtılmasını yasadışı hale getiren bir yasayı kabul etti. Geçtiğimiz yıl Louisiana, AI tarafından oluşturulan küçüklerin cinsel içerikli tasvirlerini suç sayan derin sahte bir yasayı kabul etti.
Washington eyaletinin açık deepfake yasasını hazırlayan Demokrat Temsilci Tina Orwall, Issaquah Lisesi'nde duyduğuma benzer olayları duyduktan sonra, “Bu vakalar ve ne kadar hasar oluştuğu hakkında acilen bilgi almanın gerekli olduğunu hissettim” dedi.
Bazı yasa koyucular ve çocuk koruma uzmanları, bu tür kurallara acilen ihtiyaç duyulduğunu söylüyor çünkü AI çıplaklık uygulamalarının kolay erişilebilirliği, ömür boyu çevrimiçi olarak dolaşabilecek, zihinsel sağlığa, itibara ve fiziksel sağlığa zarar verebilecek sahte, sansürlenmemiş görüntülerin seri üretimine ve dağıtımına olanak tanıyor. ' durumu güvenliklerini tehlikeye atabilir.
Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'nin baş hukuk sorumlusu Yiota Souras, “Telefonuyla bir erkek çocuk, bir öğleden sonra reşit olmayan 40 kız çocuğunu mağdur edebilir” dedi ve “sonra da onların fotoğrafları ortaya çıktı.”
Geçtiğimiz iki ay boyunca derin sahte çıplaklık olayları, Richmond, Illinois'in yanı sıra Beverly Hills ve Laguna Beach, California da dahil olmak üzere okullara yayıldı.
Ancak Amerika Birleşik Devletleri'ndeki çok az yasa, 18 yaşın altındaki kişileri istismarcı yapay zeka uygulamalarından açıkça koruyor.
Demokrat ABD Temsilcisi Joseph D. New Yorklu Morelle.
Geçtiğimiz yıl, kimliği belirlenebilen yetişkinlerin veya küçüklerin yapay zeka tarafından oluşturulan mahrem görüntülerinin ifşa edilmesini suç sayacak bir yasa tasarısı sundu. Bu aynı zamanda deepfake mağdurlarına veya ebeveynlerine bireysel faillere tazminat davası açma hakkı da verecek.
Bay Morelle, “Herkesin bunu yapmayı düşünmesine bile yetecek kadar acı verici hale getirmek istiyoruz, çünkü bu, geri alınamayacak bir hasardır” dedi. “15 yaşındaki bir çocuğa şaka gibi görünse de durum son derece ciddi.”
Bir başka New York Demokratı olan ABD Temsilcisi Alexandria Ocasio-Cortez, geçtiğimiz günlerde mağdurların deepfake faillerine karşı hukuk davası açmasına olanak tanıyan benzer bir yasa tasarısını sundu.
Ancak her iki tasarı da mağdurlara açıkça AI çıplaklık uygulamaları geliştiricilerine dava açma hakkı vermiyor; duruşma avukatları, bu hamlenin cinsel içerikli deepfake'lerin seri üretiminin durdurulmasına yardımcı olacağını söylüyor.
Cinsel saldırı ve taciz davalarında mağdurları temsil eden Washington'lu avukat Elizabeth Hanley, “Sorunun temelinde yatan ticarileştirmeyi durdurmak için yasalara ihtiyaç var” dedi.
ABD yasaları, kimliği belirlenebilir reşit olmayan kişilerin cinsel davranışta bulunduğunu gösteren, bilgisayarda oluşturulan çocuklara yönelik cinsel istismar materyallerinin dağıtımını yasaklamaktadır. Geçen ay Federal Soruşturma Bürosu, bu yasa dışı materyalin yapay zeka tarafından oluşturulan çocukların cinsel istismarına ilişkin gerçekçi görüntüler içerdiğine dair bir uyarı yayınladı.
Ancak uzmanlar, savcılar sahte görüntülerin müstehcen davranış veya cinsel organların uygunsuz şekilde teşhir edilmesine ilişkin yasal standartları karşıladığını kanıtlayamadığı sürece, gerçek genç kızların kıyafetsiz yapay zeka tarafından oluşturulmuş sahte tasvirlerinin “çocuklara yönelik cinsel istismar malzemesi” teşkil etmeyebileceğini söylüyor.
Bazı savunma avukatları görünürdeki hukuki belirsizlikten yararlanmaya çalıştı. New Jersey'de bir erkek lise öğrencisini deepfake bir davada savunan bir avukat, geçtiğimiz günlerde, bir kadın sınıf arkadaşının çıplak yapay zeka görüntülerini oluşturan müvekkilinin, bu görüntülerin zararlı veya zararlı olmadığı gerekçesiyle görüntülenmesini veya paylaşılmasını geçici olarak engellememesi gerektiğini savundu. yasadışı. Avukat, mahkeme dosyasında federal yasanın “gerçek insan vücudu parçaları bile içermeyen, bilgisayar tarafından oluşturulan sentetik görüntülere” uygulanmasının amaçlanmadığını savundu. (Sanık sonuçta görüntülerle ilgili tedbir kararına karşı çıkmamayı kabul etti.)
Artık eyaletler, istismarcı yapay zeka görüntülerini durdurmak için yasalar çıkarmaya çalışıyor. Bu ay Kaliforniya, çocuklara yönelik cinsel istismar materyallerine yönelik eyalet yasağını, özellikle yapay zeka tarafından oluşturulan taciz edici materyalleri kapsayacak şekilde güncellemek için bir yasa tasarısı sundu.
Ve Massachusetts milletvekilleri, derin sahtekarlıklar da dahil olmak üzere müstehcen görsellerin rıza dışı paylaşımını suç sayacak bir yasa üzerinde çalışıyor. Aynı zamanda bir devlet kurumunun, müstehcen görseller paylaşan reşit olmayanları “üretken yapay zekanın sorumlu kullanımı” gibi konularda eğitmek amacıyla bir oyalama programı geliştirmesini de gerektirecektir.
Cezalar çok ağır olabilir. Louisiana'nın yeni yasasına göre, bilerek küçüklere yönelik cinsel içerikli derin sahtekarlıklar oluşturan, dağıtan, tanıtan veya satan herhangi bir kişi en az beş ila 10 yıl hapis cezasıyla karşı karşıya kalabilir.
Haber'ın kamuya açık kayıt talebi yoluyla edindiği polis belgelerine göre, Aralık ayında Miami-Dade İlçesi polis memurları, yaşları 12 ve 13 olan iki sınıf arkadaşının sahte AI çıplak fotoğraflarını hazırlayıp paylaştıkları iddiasıyla iki ortaokul öğrencisini tutukladı. . Çocuklar, rızası olmadan değiştirilmiş cinsel görüntüleri yasaklayan 2022 eyalet yasası uyarınca üçüncü derece suçlarla suçlandı. (Miami-Dade Bölge Savcılığı açık bir dava hakkında yorum yapamayacağını söyledi.)
Washington eyaletindeki yeni deepfake yasası farklı bir yaklaşım benimsiyor.
Senatör Mullet, Issaquah Lisesi'ndeki olayı kızından öğrendikten sonra, cinsel saldırıdan kurtulanların savunucusu ve eski sosyal hizmet görevlisi olan Temsilci Orwall ile temasa geçti. Eyaletin ilk intikam pornosu yasalarından biri üzerinde çalışan Bayan Orwall, daha sonra küçüklerin veya yetişkinlerin yapay zeka tarafından oluşturulan mahrem veya cinsel içerikli görüntülerinin dağıtımını yasaklayan bir Meclis yasa tasarısı hazırladı. (Senato tasarısını destekleyen Bay Mullet şimdi valiliğe aday.)
Ortaya çıkan yasaya göre, ilk kez suç işleyenler kabahatlerle suçlanabilirken, daha önce müstehcen görüntüleri ifşa etmekten suçlu bulunanlar ağır cezalarla karşı karşıya kalacak. Yeni deepfake yasası haziran ayında yürürlüğe girecek.
Bayan Orwall, “Koruma tedbirlerinde geride kalmamız şaşırtıcı değil” dedi. “Bu yüzden bu kadar hızlı ilerlemek istedik.”
Birkaç hafta sonra, o ve diğer kız öğrenciler, erkek bir sınıf arkadaşının, dansa katılan kızların sahte çıplak fotoğraflarını, özgür kızlara otomatik olarak giyinik fotoğrafları almak için tasarlanmış bir yapay zeka uygulamasını kullanarak ürettiği müstehcen görüntüler ve cinsel içerikli görüntüler dağıttığını öğrendi. kadınlar özgünlüklerinden.
15 yaşındaki Bayan Mullet, Washington eyaletinden Demokrat senatör olan babası Mark'ı uyardı. Resimlerdeki kızlardan biri olmamasına rağmen, erkek sınıf arkadaşlarının kendilerinin simüle edilmiş çıplak fotoğraflarını görmesinden “son derece rahatsız” olan arkadaşlarına yardım etmek için bir şeyler yapılıp yapılamayacağını sordu. Kısa bir süre sonra Senatör Mullet ve Eyalet Meclisi'ndeki bir meslektaşı, yapay zeka tarafından oluşturulan gerçek reşit olmayan cinsel görüntülerin dağıtımını yasaklayacak bir yasa teklifinde bulundu.
Bayan Mullet, Ocak ayında tasarıya ilişkin bir duruşma sırasında eyalet milletvekillerine, “Bunun arkadaşlarımdan birinin, kız kardeşlerimin ve hatta benim başıma gelebileceğinden endişelenmek zorunda olduğum fikrinden nefret ediyorum” dedi.
Eyalet parlamentosu yasayı itirazsız kabul etti. Bir Demokrat olan Vali Jay Inslee bunu geçen ay imzaladı.
Devletler, okullarda hızla yayılan yeni bir cinsel istismar ve akran tacizi biçiminin ön saflarında yer alıyor. Amerika Birleşik Devletleri'ndeki erkek çocuklar, kadın sınıf arkadaşlarının cinsel içerikli resimlerini gizlice derlemek için yaygın olarak bulunan “çıplaklık” uygulamalarını kullandı, ardından simüle edilmiş çıplak fotoğrafları Snapchat ve Instagram gibi uygulamalardaki grup sohbetleri aracılığıyla dağıttı.
Şimdi federal ve eyalet yasa yapıcıları, kısmen Bayan Mullet gibi genç kızlardan gelen rahatsız edici raporların teşvik ettiği, sömürücü AI uygulamalarına ayak uydurmak için korumaları yürürlüğe koymak için acele ediyorlar.
Kâr amacı gütmeyen bir kuruluş olan Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi'ne göre, geçen yılın başından bu yana en az iki düzine eyalet, 18 yaşın altındaki kişilerin yapay zeka tarafından oluşturulan, deepfake olarak adlandırılan, cinsel içerikli görselleriyle mücadele etmek için yasa tasarısı sundu. Ve birçok eyalet bu tedbirleri yürürlüğe koydu.
Diğer şeylerin yanı sıra, Güney Dakota bu yıl, gerçek reşit olmayanları tasvir eden yapay zeka tarafından oluşturulan cinsel istismar materyallerinin bulundurulmasını, üretilmesini veya dağıtılmasını yasadışı hale getiren bir yasayı kabul etti. Geçtiğimiz yıl Louisiana, AI tarafından oluşturulan küçüklerin cinsel içerikli tasvirlerini suç sayan derin sahte bir yasayı kabul etti.
Washington eyaletinin açık deepfake yasasını hazırlayan Demokrat Temsilci Tina Orwall, Issaquah Lisesi'nde duyduğuma benzer olayları duyduktan sonra, “Bu vakalar ve ne kadar hasar oluştuğu hakkında acilen bilgi almanın gerekli olduğunu hissettim” dedi.
Bazı yasa koyucular ve çocuk koruma uzmanları, bu tür kurallara acilen ihtiyaç duyulduğunu söylüyor çünkü AI çıplaklık uygulamalarının kolay erişilebilirliği, ömür boyu çevrimiçi olarak dolaşabilecek, zihinsel sağlığa, itibara ve fiziksel sağlığa zarar verebilecek sahte, sansürlenmemiş görüntülerin seri üretimine ve dağıtımına olanak tanıyor. ' durumu güvenliklerini tehlikeye atabilir.
Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'nin baş hukuk sorumlusu Yiota Souras, “Telefonuyla bir erkek çocuk, bir öğleden sonra reşit olmayan 40 kız çocuğunu mağdur edebilir” dedi ve “sonra da onların fotoğrafları ortaya çıktı.”
Geçtiğimiz iki ay boyunca derin sahte çıplaklık olayları, Richmond, Illinois'in yanı sıra Beverly Hills ve Laguna Beach, California da dahil olmak üzere okullara yayıldı.
Ancak Amerika Birleşik Devletleri'ndeki çok az yasa, 18 yaşın altındaki kişileri istismarcı yapay zeka uygulamalarından açıkça koruyor.
Demokrat ABD Temsilcisi Joseph D. New Yorklu Morelle.
Geçtiğimiz yıl, kimliği belirlenebilen yetişkinlerin veya küçüklerin yapay zeka tarafından oluşturulan mahrem görüntülerinin ifşa edilmesini suç sayacak bir yasa tasarısı sundu. Bu aynı zamanda deepfake mağdurlarına veya ebeveynlerine bireysel faillere tazminat davası açma hakkı da verecek.
Bay Morelle, “Herkesin bunu yapmayı düşünmesine bile yetecek kadar acı verici hale getirmek istiyoruz, çünkü bu, geri alınamayacak bir hasardır” dedi. “15 yaşındaki bir çocuğa şaka gibi görünse de durum son derece ciddi.”
Bir başka New York Demokratı olan ABD Temsilcisi Alexandria Ocasio-Cortez, geçtiğimiz günlerde mağdurların deepfake faillerine karşı hukuk davası açmasına olanak tanıyan benzer bir yasa tasarısını sundu.
Ancak her iki tasarı da mağdurlara açıkça AI çıplaklık uygulamaları geliştiricilerine dava açma hakkı vermiyor; duruşma avukatları, bu hamlenin cinsel içerikli deepfake'lerin seri üretiminin durdurulmasına yardımcı olacağını söylüyor.
Cinsel saldırı ve taciz davalarında mağdurları temsil eden Washington'lu avukat Elizabeth Hanley, “Sorunun temelinde yatan ticarileştirmeyi durdurmak için yasalara ihtiyaç var” dedi.
ABD yasaları, kimliği belirlenebilir reşit olmayan kişilerin cinsel davranışta bulunduğunu gösteren, bilgisayarda oluşturulan çocuklara yönelik cinsel istismar materyallerinin dağıtımını yasaklamaktadır. Geçen ay Federal Soruşturma Bürosu, bu yasa dışı materyalin yapay zeka tarafından oluşturulan çocukların cinsel istismarına ilişkin gerçekçi görüntüler içerdiğine dair bir uyarı yayınladı.
Ancak uzmanlar, savcılar sahte görüntülerin müstehcen davranış veya cinsel organların uygunsuz şekilde teşhir edilmesine ilişkin yasal standartları karşıladığını kanıtlayamadığı sürece, gerçek genç kızların kıyafetsiz yapay zeka tarafından oluşturulmuş sahte tasvirlerinin “çocuklara yönelik cinsel istismar malzemesi” teşkil etmeyebileceğini söylüyor.
Bazı savunma avukatları görünürdeki hukuki belirsizlikten yararlanmaya çalıştı. New Jersey'de bir erkek lise öğrencisini deepfake bir davada savunan bir avukat, geçtiğimiz günlerde, bir kadın sınıf arkadaşının çıplak yapay zeka görüntülerini oluşturan müvekkilinin, bu görüntülerin zararlı veya zararlı olmadığı gerekçesiyle görüntülenmesini veya paylaşılmasını geçici olarak engellememesi gerektiğini savundu. yasadışı. Avukat, mahkeme dosyasında federal yasanın “gerçek insan vücudu parçaları bile içermeyen, bilgisayar tarafından oluşturulan sentetik görüntülere” uygulanmasının amaçlanmadığını savundu. (Sanık sonuçta görüntülerle ilgili tedbir kararına karşı çıkmamayı kabul etti.)
Artık eyaletler, istismarcı yapay zeka görüntülerini durdurmak için yasalar çıkarmaya çalışıyor. Bu ay Kaliforniya, çocuklara yönelik cinsel istismar materyallerine yönelik eyalet yasağını, özellikle yapay zeka tarafından oluşturulan taciz edici materyalleri kapsayacak şekilde güncellemek için bir yasa tasarısı sundu.
Ve Massachusetts milletvekilleri, derin sahtekarlıklar da dahil olmak üzere müstehcen görsellerin rıza dışı paylaşımını suç sayacak bir yasa üzerinde çalışıyor. Aynı zamanda bir devlet kurumunun, müstehcen görseller paylaşan reşit olmayanları “üretken yapay zekanın sorumlu kullanımı” gibi konularda eğitmek amacıyla bir oyalama programı geliştirmesini de gerektirecektir.
Cezalar çok ağır olabilir. Louisiana'nın yeni yasasına göre, bilerek küçüklere yönelik cinsel içerikli derin sahtekarlıklar oluşturan, dağıtan, tanıtan veya satan herhangi bir kişi en az beş ila 10 yıl hapis cezasıyla karşı karşıya kalabilir.
Haber'ın kamuya açık kayıt talebi yoluyla edindiği polis belgelerine göre, Aralık ayında Miami-Dade İlçesi polis memurları, yaşları 12 ve 13 olan iki sınıf arkadaşının sahte AI çıplak fotoğraflarını hazırlayıp paylaştıkları iddiasıyla iki ortaokul öğrencisini tutukladı. . Çocuklar, rızası olmadan değiştirilmiş cinsel görüntüleri yasaklayan 2022 eyalet yasası uyarınca üçüncü derece suçlarla suçlandı. (Miami-Dade Bölge Savcılığı açık bir dava hakkında yorum yapamayacağını söyledi.)
Washington eyaletindeki yeni deepfake yasası farklı bir yaklaşım benimsiyor.
Senatör Mullet, Issaquah Lisesi'ndeki olayı kızından öğrendikten sonra, cinsel saldırıdan kurtulanların savunucusu ve eski sosyal hizmet görevlisi olan Temsilci Orwall ile temasa geçti. Eyaletin ilk intikam pornosu yasalarından biri üzerinde çalışan Bayan Orwall, daha sonra küçüklerin veya yetişkinlerin yapay zeka tarafından oluşturulan mahrem veya cinsel içerikli görüntülerinin dağıtımını yasaklayan bir Meclis yasa tasarısı hazırladı. (Senato tasarısını destekleyen Bay Mullet şimdi valiliğe aday.)
Ortaya çıkan yasaya göre, ilk kez suç işleyenler kabahatlerle suçlanabilirken, daha önce müstehcen görüntüleri ifşa etmekten suçlu bulunanlar ağır cezalarla karşı karşıya kalacak. Yeni deepfake yasası haziran ayında yürürlüğe girecek.
Bayan Orwall, “Koruma tedbirlerinde geride kalmamız şaşırtıcı değil” dedi. “Bu yüzden bu kadar hızlı ilerlemek istedik.”