Cuma günü mühürsüz mahkeme belgelerinde, eski Başkan Donald J. Trump’ın bir zamanlar yardımcısı olan Michael D. Cohen’in, avukatına yapay zeka programı Google Bard tarafından icat edilen sahte hukuki alıntıları yanlışlıkla sağladığını söyledi.
Kurgusal alıntılar avukat tarafından federal yargıç Jesse M. Furman’a sunulan bir önergede kullanıldı. 2018 yılında kampanya finansmanı ihlallerinden dolayı suçunu kabul eden ve hapiste yatmış olan Bay Cohen, hakimden, hapishaneden serbest bırakıldıktan ve tahliye koşullarını yerine getirdikten hemen sonra davasının mahkeme denetimine son vermesini istemişti.
Ortaya çıkan yanlış anlamalar ve hatalar zinciri, Bay Cohen’in hakimden “sağduyulu ve merhametli” davranmasını istemesiyle sona erdi.
Cuma günü yayınlanan bir beyanda Bay Cohen, “hukuk teknolojisindeki yeni trendlere (ve ilgili risklere) ayak uyduramadığını ve Google Bard’ın ChatGPT gibi görüntülenebilen üretken bir metin hizmeti olduğunu fark etmediğini” söyledi. gerçek görünüyordu ama aslında değildi.”
Kendisi ayrıca, kendisi adına önergeyi sunan avukat David M. Schwartz’ın “davaları, var olduklarını dahi kabul etmeden, genel olarak dosyasına dahil edeceğini” bilmediğini söyledi.
Bu olay, Bay Cohen’in yıldız tanık olmasının beklendiği, Bay Trump’a karşı Manhattan’da açılacak bir ceza davasına ilişkin sonuçlar doğurabilir. Eski başkanın avukatları uzun süredir Bay Cohen’e seri uydurmacı olmakla suçlanıyor; Şimdi ellerinde yepyeni bir örnek var diyorlar.
Talihsiz başvuru, avukatların yapay zeka tarafından oluşturulan sahte kararlara atıfta bulunduğu Manhattan federal mahkemesinde bu yıl avukatlar tarafından yapılan en az ikinci başvuruydu. Hukuk mesleği de diğerleri gibi insan beynini taklit etmek üzere tasarlanmış yeni bir teknolojiyi açıklamaya çabalıyor.
Bard ve ChatGPT gibi yapay zeka programları, hangi metin parçalarının diğer dizileri takip etmesi gerektiği konusunda tahminler yaparak gerçekçi yanıtlar üretiyor. Bu tür programlar İnternet’teki milyarlarca metin örneğine dayanır. Her ne kadar büyük miktardaki bilgiyi özetleyip ikna edici bir şekilde sunabilseler de, hâlâ ele alınması gereken hatalar var.
Bay Cohen’in vakasındaki üç alıntı, Bard chatbot’unun gerçek vakalardan parçalar alıp bunları bir robotun hayal gücüyle birleştirerek yarattığı halüsinasyonlar gibi görünüyor. Bay Schwartz daha sonra Yargıç Furman’a sunduğu önergeye bunları da dahil etti.
Bay Cohen, açıklamasında Bard’ı daha önce çevrimiçi olarak doğru bilgileri bulmak için kullandığı “güçlü bir arama motoru” olarak anladığını söyledi.
Bay Schwartz kendi ifadesinde alıntıları kullandığını kabul etti ve davaları bağımsız olarak incelemediğini çünkü Bay Cohen başka bir avukat olan E. Danya Perry’nin önerge için önerilerde bulunduğunu belirtti.
Bay Schwartz, “Bu davaları mahkemeye sunmadan önce şahsen incelemediğim için mahkemeden içtenlikle özür dilerim” diye yazdı.
Bay Schwartz’ın avukatı Barry Kamins Cuma günü yorum yapmayı reddetti.
Bayan Perry, Bay Cohen’i ancak Bay Schwartz’ın önergeyi sunmasından sonra temsil etmeye başladığını söyledi. 8 Aralık’ta Yargıç Furman’a, daha önce sunulan belgeyi okuduktan sonra alıntılanan içtihatı doğrulayamadığını yazdı.
O dönemde yaptığı bir açıklamada, “Mahkemeye açık olma konusundaki etik yükümlülüğüm uyarınca, Yargıç Furman’ı bu konuda bilgilendirdim” demişti.
Cuma günü yayınlanan bir mektupta, barodan ihraç edilen eski bir avukat olan Bay Cohen’in, “belirlediği davaların gerçek olmadığını bilmediğini ve avukatının aksine, bunu doğrulama yükümlülüğü altında olmadığını” söyledi.
Bayan Perry, “Bay Cohen’in yanlış bir şey yapmadığını vurgulamak önemlidir” diye yazdı. Kendisi Cuma günü yaptığı açıklamada, Bay Cohen’in herhangi bir yorumda bulunmadığını ve yargıcın bu kayıtların avukat-müvekkil ayrıcalığıyla korunan bilgiler içerip içermediğine ilişkin sorular sormasının ardından mahkeme kayıtlarının mührünü açmayı kabul ettiğini söyledi.
Yargıç Furman’ın 12 Aralık’ta verdiği emirde üç karardan hiçbirini bulamadığını belirtmesiyle kafa karışıklığı ortaya çıktı. Bay Schwartz’dan kopyaları veya “talebin nasıl ortaya çıktığına dair ayrıntılı bir açıklama, mevcut olmayan davalara atıfta bulunarak ve varsa Bay Cohen’in oynadığı rol” sağlamasını istedi.
Bay Cohen’in, Manhattan bölge savcısı tarafından açılan ve duruşmasının 25 Mart’ta yapılması planlanan bir davada önemli bir rol oynadığı göz önüne alındığında, meselenin önemli sonuçları olabilir.
Bölge Savcısı Alvin L. Bragg, Bay Trump’ı, Bay Cohen’in 2016 seçimleri sırasında porno film yıldızı Stormy Daniels’a yaptığı ödemeyi içeren bir susma planı düzenlemekle suçladı. Bay Trump 34 ağır suçtan dolayı suçsuz olduğunu iddia etti.
Bay Trump’ın avukatlarının Bay Cohen’in güvenilmez olduğu yönündeki iddialarını çürütmek için savunma avukatları, Bay Cohen’in Bay Trump adına yalan söylediğini ancak 2018 yılında eski başkandan ayrıldığından beri doğruyu söylediğini ve federal suçlamaları kabul ettiğini söyledi. .
Cuma günü, Bay Trump’ın avukatları Google Bard’ın ifşasını hemen fark etti. Manhattan’da yapılacak duruşmada Bay Trump’ı temsil eden avukat Susan R. Necheles, bunun “tipik bir Michael Cohen” olduğunu söyledi.
Bayan Necheles, “O, yalan yere yemin ettiği bilinen bir kişi ve çeşitli suçları kabul etti ve bu onun karakter eksikliğinin ve sürekli suçluluğunun bir başka göstergesidir” dedi.
Şu anda Bay Cohen’i önergede temsil eden avukat Bayan Perry, Bay Cohen’in kayıtların mühürlenmesini istemesinin saklayacak hiçbir şeyi olmadığını gösterdiğini söyledi.
“Avukatına güvendi ve bunu yapmaya her türlü hakkı vardı” dedi. “Maalesef avukatı yazdığı ve sunduğu brifingdeki alıntıları incelemeyerek dürüst bir hata yapmış gibi görünüyor.”
Bay Bragg’ın sözcüsü Cuma günü yorum yapmayı reddetti.
Savcılar, Bay Cohen’in eylemlerinin mahkemeyi dolandırma amacı taşımadığını, kendisinin de kabul ettiği gibi, yeni teknolojinin üzücü bir şekilde yanlış anlaşılmasının sonucu olduğunu iddia edebilirler.
Avukatların sohbet robotlarına güvenme sorunu, bu yılın başlarında Manhattan’daki bir başka federal yargıç olan P. Kevin Castel’in iki avukatı yasal bir ihlali kabul ettikten sonra 5.000 dolar para cezasına çarptırmasıyla kamuoyunun dikkatini çekti. ChatGPT tarafından oluşturuldu.
Yapay zeka ve hukuk hakkında yazılar yazan UCLA hukuk profesörü Eugene Volokh, bu tür davaların ülke mahkemelerini meşgul ettiğini söyledi.
Profesör Volokh, avukatların veya kendilerini temsil eden davacıların yasal araştırmalar için sohbet robotları kullandıkları ve sonunda mahkemeye başvurdukları iddia edilen bir düzine dava saydığını söyledi. “Bunun buzdağının sadece görünen kısmı olduğundan kesinlikle şüpheleniyorum” dedi.
New York Üniversitesi Hukuk Fakültesi’nden hukuk etiği profesörü Stephen Gillers şunları söyledi: “İnsanlar, üretken yapay zekanın buradaki kötü adam olmadığını anlamalı. Bu umut verici.”
“Ancak avukatlar yapay zekayı danışmanları gibi göremez ve onun söylediklerini basitçe papağan gibi tekrarlayamazlar” diye ekledi.
Bay Schwartz’ın önergesinde adı geçen, var olmayan davalar – Amerika Birleşik Devletleri – Figueroa-Flores, Amerika Birleşik Devletleri – Ortiz ve Amerika Birleşik Devletleri – Amato – ABD İkinci Temyiz Mahkemesi tarafından onaylandığına dair ilgili özetler ve notlar içeriyordu. Devre.
Yargıç Furman, 12 Aralık’taki kararında, Figueroa-Flores’in alıntısının aslında başka bir federal temyiz mahkemesi tarafından verilen ve “denetimli tahliyeyle hiçbir ilgisi olmayan” bir kararın bir sayfasına atıfta bulunduğunu belirtti.
Hakim, önergede adı geçen Amato davasının aslında bir idare hukuku hakimi olan Gaziler Temyiz Kurulu’nun bir kararını içerdiğini söyledi.
Yargıç Furman, Ortiz davasına yapılan atıfların “hiçbir şeye karşılık gelmediğini” yazdı.
William K. Rashbaum raporlamaya katkıda bulunmuştur.
Kurgusal alıntılar avukat tarafından federal yargıç Jesse M. Furman’a sunulan bir önergede kullanıldı. 2018 yılında kampanya finansmanı ihlallerinden dolayı suçunu kabul eden ve hapiste yatmış olan Bay Cohen, hakimden, hapishaneden serbest bırakıldıktan ve tahliye koşullarını yerine getirdikten hemen sonra davasının mahkeme denetimine son vermesini istemişti.
Ortaya çıkan yanlış anlamalar ve hatalar zinciri, Bay Cohen’in hakimden “sağduyulu ve merhametli” davranmasını istemesiyle sona erdi.
Cuma günü yayınlanan bir beyanda Bay Cohen, “hukuk teknolojisindeki yeni trendlere (ve ilgili risklere) ayak uyduramadığını ve Google Bard’ın ChatGPT gibi görüntülenebilen üretken bir metin hizmeti olduğunu fark etmediğini” söyledi. gerçek görünüyordu ama aslında değildi.”
Kendisi ayrıca, kendisi adına önergeyi sunan avukat David M. Schwartz’ın “davaları, var olduklarını dahi kabul etmeden, genel olarak dosyasına dahil edeceğini” bilmediğini söyledi.
Bu olay, Bay Cohen’in yıldız tanık olmasının beklendiği, Bay Trump’a karşı Manhattan’da açılacak bir ceza davasına ilişkin sonuçlar doğurabilir. Eski başkanın avukatları uzun süredir Bay Cohen’e seri uydurmacı olmakla suçlanıyor; Şimdi ellerinde yepyeni bir örnek var diyorlar.
Talihsiz başvuru, avukatların yapay zeka tarafından oluşturulan sahte kararlara atıfta bulunduğu Manhattan federal mahkemesinde bu yıl avukatlar tarafından yapılan en az ikinci başvuruydu. Hukuk mesleği de diğerleri gibi insan beynini taklit etmek üzere tasarlanmış yeni bir teknolojiyi açıklamaya çabalıyor.
Bard ve ChatGPT gibi yapay zeka programları, hangi metin parçalarının diğer dizileri takip etmesi gerektiği konusunda tahminler yaparak gerçekçi yanıtlar üretiyor. Bu tür programlar İnternet’teki milyarlarca metin örneğine dayanır. Her ne kadar büyük miktardaki bilgiyi özetleyip ikna edici bir şekilde sunabilseler de, hâlâ ele alınması gereken hatalar var.
Bay Cohen’in vakasındaki üç alıntı, Bard chatbot’unun gerçek vakalardan parçalar alıp bunları bir robotun hayal gücüyle birleştirerek yarattığı halüsinasyonlar gibi görünüyor. Bay Schwartz daha sonra Yargıç Furman’a sunduğu önergeye bunları da dahil etti.
Bay Cohen, açıklamasında Bard’ı daha önce çevrimiçi olarak doğru bilgileri bulmak için kullandığı “güçlü bir arama motoru” olarak anladığını söyledi.
Bay Schwartz kendi ifadesinde alıntıları kullandığını kabul etti ve davaları bağımsız olarak incelemediğini çünkü Bay Cohen başka bir avukat olan E. Danya Perry’nin önerge için önerilerde bulunduğunu belirtti.
Bay Schwartz, “Bu davaları mahkemeye sunmadan önce şahsen incelemediğim için mahkemeden içtenlikle özür dilerim” diye yazdı.
Bay Schwartz’ın avukatı Barry Kamins Cuma günü yorum yapmayı reddetti.
Bayan Perry, Bay Cohen’i ancak Bay Schwartz’ın önergeyi sunmasından sonra temsil etmeye başladığını söyledi. 8 Aralık’ta Yargıç Furman’a, daha önce sunulan belgeyi okuduktan sonra alıntılanan içtihatı doğrulayamadığını yazdı.
O dönemde yaptığı bir açıklamada, “Mahkemeye açık olma konusundaki etik yükümlülüğüm uyarınca, Yargıç Furman’ı bu konuda bilgilendirdim” demişti.
Cuma günü yayınlanan bir mektupta, barodan ihraç edilen eski bir avukat olan Bay Cohen’in, “belirlediği davaların gerçek olmadığını bilmediğini ve avukatının aksine, bunu doğrulama yükümlülüğü altında olmadığını” söyledi.
Bayan Perry, “Bay Cohen’in yanlış bir şey yapmadığını vurgulamak önemlidir” diye yazdı. Kendisi Cuma günü yaptığı açıklamada, Bay Cohen’in herhangi bir yorumda bulunmadığını ve yargıcın bu kayıtların avukat-müvekkil ayrıcalığıyla korunan bilgiler içerip içermediğine ilişkin sorular sormasının ardından mahkeme kayıtlarının mührünü açmayı kabul ettiğini söyledi.
Yargıç Furman’ın 12 Aralık’ta verdiği emirde üç karardan hiçbirini bulamadığını belirtmesiyle kafa karışıklığı ortaya çıktı. Bay Schwartz’dan kopyaları veya “talebin nasıl ortaya çıktığına dair ayrıntılı bir açıklama, mevcut olmayan davalara atıfta bulunarak ve varsa Bay Cohen’in oynadığı rol” sağlamasını istedi.
Bay Cohen’in, Manhattan bölge savcısı tarafından açılan ve duruşmasının 25 Mart’ta yapılması planlanan bir davada önemli bir rol oynadığı göz önüne alındığında, meselenin önemli sonuçları olabilir.
Bölge Savcısı Alvin L. Bragg, Bay Trump’ı, Bay Cohen’in 2016 seçimleri sırasında porno film yıldızı Stormy Daniels’a yaptığı ödemeyi içeren bir susma planı düzenlemekle suçladı. Bay Trump 34 ağır suçtan dolayı suçsuz olduğunu iddia etti.
Bay Trump’ın avukatlarının Bay Cohen’in güvenilmez olduğu yönündeki iddialarını çürütmek için savunma avukatları, Bay Cohen’in Bay Trump adına yalan söylediğini ancak 2018 yılında eski başkandan ayrıldığından beri doğruyu söylediğini ve federal suçlamaları kabul ettiğini söyledi. .
Cuma günü, Bay Trump’ın avukatları Google Bard’ın ifşasını hemen fark etti. Manhattan’da yapılacak duruşmada Bay Trump’ı temsil eden avukat Susan R. Necheles, bunun “tipik bir Michael Cohen” olduğunu söyledi.
Bayan Necheles, “O, yalan yere yemin ettiği bilinen bir kişi ve çeşitli suçları kabul etti ve bu onun karakter eksikliğinin ve sürekli suçluluğunun bir başka göstergesidir” dedi.
Şu anda Bay Cohen’i önergede temsil eden avukat Bayan Perry, Bay Cohen’in kayıtların mühürlenmesini istemesinin saklayacak hiçbir şeyi olmadığını gösterdiğini söyledi.
“Avukatına güvendi ve bunu yapmaya her türlü hakkı vardı” dedi. “Maalesef avukatı yazdığı ve sunduğu brifingdeki alıntıları incelemeyerek dürüst bir hata yapmış gibi görünüyor.”
Bay Bragg’ın sözcüsü Cuma günü yorum yapmayı reddetti.
Savcılar, Bay Cohen’in eylemlerinin mahkemeyi dolandırma amacı taşımadığını, kendisinin de kabul ettiği gibi, yeni teknolojinin üzücü bir şekilde yanlış anlaşılmasının sonucu olduğunu iddia edebilirler.
Avukatların sohbet robotlarına güvenme sorunu, bu yılın başlarında Manhattan’daki bir başka federal yargıç olan P. Kevin Castel’in iki avukatı yasal bir ihlali kabul ettikten sonra 5.000 dolar para cezasına çarptırmasıyla kamuoyunun dikkatini çekti. ChatGPT tarafından oluşturuldu.
Yapay zeka ve hukuk hakkında yazılar yazan UCLA hukuk profesörü Eugene Volokh, bu tür davaların ülke mahkemelerini meşgul ettiğini söyledi.
Profesör Volokh, avukatların veya kendilerini temsil eden davacıların yasal araştırmalar için sohbet robotları kullandıkları ve sonunda mahkemeye başvurdukları iddia edilen bir düzine dava saydığını söyledi. “Bunun buzdağının sadece görünen kısmı olduğundan kesinlikle şüpheleniyorum” dedi.
New York Üniversitesi Hukuk Fakültesi’nden hukuk etiği profesörü Stephen Gillers şunları söyledi: “İnsanlar, üretken yapay zekanın buradaki kötü adam olmadığını anlamalı. Bu umut verici.”
“Ancak avukatlar yapay zekayı danışmanları gibi göremez ve onun söylediklerini basitçe papağan gibi tekrarlayamazlar” diye ekledi.
Bay Schwartz’ın önergesinde adı geçen, var olmayan davalar – Amerika Birleşik Devletleri – Figueroa-Flores, Amerika Birleşik Devletleri – Ortiz ve Amerika Birleşik Devletleri – Amato – ABD İkinci Temyiz Mahkemesi tarafından onaylandığına dair ilgili özetler ve notlar içeriyordu. Devre.
Yargıç Furman, 12 Aralık’taki kararında, Figueroa-Flores’in alıntısının aslında başka bir federal temyiz mahkemesi tarafından verilen ve “denetimli tahliyeyle hiçbir ilgisi olmayan” bir kararın bir sayfasına atıfta bulunduğunu belirtti.
Hakim, önergede adı geçen Amato davasının aslında bir idare hukuku hakimi olan Gaziler Temyiz Kurulu’nun bir kararını içerdiğini söyledi.
Yargıç Furman, Ortiz davasına yapılan atıfların “hiçbir şeye karşılık gelmediğini” yazdı.
William K. Rashbaum raporlamaya katkıda bulunmuştur.