دادستان کل ایالت کالیفرنیا اعلام کرد به شرکت هوش مصنوعی ایکسایآی نامهٔ «توقف و خودداری» فرستاده و خواستار پایان فوری تولید و انتشار تصاویر جنسی تولیدشده با هوش مصنوعی بدون رضایت افراد از سوی چتبات «گروک» شده است.
رابرت بونتا در بیانیهای گفت گزارشهای گسترده دربارهٔ این محتوا «تکاندهنده» است و افزود در برخی موارد، تصاویر زنان و کودکان را در موقعیتهای جنسی نشان میدهد؛ امری که به گفتۀ دفتر او «بهطور بالقوه غیرقانونی» است.
شرکت ایکسایآی که متعلق به ایلان ماسک است، طی هفتههای گذشته زیر ذرهبین نهادهای مختلف قرار گرفته؛ پس از آنکه چتبات گروک در شبکۀ اجتماعی ایکس به انتشار تصاویر جنسیسازیشده و بدون رضایت از زنان و در برخی موارد از افراد کمسنوسال متهم شد.
به گفتۀ رویترز، اگرچه ایکسایآی امکان انتشار عمومی تصاویر بسیار واقعگرای جنسی—معروف به دیپفیک—را محدود کرده است، اما آزمایشهای این خبرگزاری نشان میدهد که گروک همچنان بهصورت خصوصی و در پاسخ به درخواست کاربران، چنین تصاویری را تولید میکند.
ایکس و ایکسایآی تا زمان انتشار این گزارش، به پرسشها دربارهٔ نامۀ دادستانی کالیفرنیا پاسخی ندادهاند.
اقدام کالیفرنیا فشارهای جهانی بر امپراتوری رسانهای و هوش مصنوعی ایلان ماسک را افزایش میدهد؛ امپراتوریای که پیشتر نیز در بریتانیا، اتحادیۀ اروپا و چند کشور آسیایی از جمله هند، اندونزیا، مالیزیا و فیلیپین تحت بررسی بوده است. مقامهای ژاپن نیز روز جمعه اعلام کردند بررسیهای خود را دربارهٔ عملکرد ایکس و گروک آغاز کردهاند و «همۀ گزینهها» برای جلوگیری از تولید تصاویر نامناسب را مدنظر دارند.
کیمی اونودا، وزیر امنیت اقتصادی ژاپن، گفت مقامها از ایکس خواستهاند فوراً اصلاحات لازم را اعمال کند، اما تاکنون پاسخی از سوی این شرکت دریافت نشده است.
