نهاد ناظر فضای مجازی چین روز شنبه پیشنویس مقررات تازهای را برای دریافت نظر عمومی منتشر کرد که هدف آن تشدید نظارت بر خدمات هوش مصنوعی با قابلیت شبیهسازی شخصیت انسانی و برقراری ارتباط احساسی با کاربران است.
این اقدام در چارچوب تلاشهای دولت چین برای مدیریت گسترش سریع هوش مصنوعی مصرفمحور و تقویت الزامات ایمنی و اخلاقی انجام میشود.
بر اساس گزارش رویترز، این مقررات پیشنهادی شامل محصولات و خدماتی میشود که بهصورت عمومی در چین عرضه شده و از طریق متن، تصویر، صدا یا ویدیو با کاربران تعامل احساسی برقرار میکنند و الگوهای فکری و رفتاری انسانگونه را شبیهسازی میکنند.
طبق این پیشنویس، ارائهدهندگان خدمات موظفاند کاربران را نسبت به استفادهی بیشازحد هشدار دهند و در صورت مشاهدهی نشانههای وابستگی یا اعتیاد، مداخله کنند. همچنین مسئولیت ایمنی خدمات باید در تمام چرخهی عمر محصول بر عهدۀ شرکتها باشد و سامانههایی برای بازبینی الگوریتمها، امنیت دادهها و حفاظت از اطلاعات شخصی ایجاد شود.
مقررات پیشنهادی به خطرات روانشناختی نیز پرداخته و تأکید میکند که ارائهدهندگان باید وضعیت احساسی کاربران و میزان وابستگی آنان به خدمات را شناسایی و ارزیابی کنند. در صورت بروز احساسات افراطی یا رفتار اعتیادآور، انجام اقدامات اصلاحی الزامی خواهد بود.
این پیشنویس همچنین خطوط قرمز محتوایی و رفتاری را مشخص کرده و تولید محتوایی که امنیت ملی را تهدید کند، شایعهپراکنی داشته باشد یا خشونت و ابتذال را ترویج دهد، ممنوع اعلام کرده است.
این مقررات در حالی منتشر میشود که چین همزمان با توسعۀ گستردۀ رباتها و سامانههای هوش مصنوعی در شهرهایی مانند پکن، بهدنبال اعمال چارچوبهای کنترلی سختگیرانهتر بر فناوریهای نوظهور است.
