یک پژوهش تازهای که The Conversation نشر کرده، نشان می‌دهد که مجرمان سایبری درحال ایجاد رُبات‌های چَت هوش مصنوعی برای پشتیبانی از کاربران هک و کلاهبرداری هستند.
در پژوهش تازهای که در وب‌لاگ اینترنتی The Conversation هفته‌ی گذشته ۱۹ دلو/بهمن به‌نشر رسانده‌‌است، نشان می‌دهد که باوجود پیشرفت صنعت هوش مصنوعی و کمک این فن‌آوری به بشریت، مجرمان سایبری درحال ایجاد رُبات‌های چَت هوش مصنوعی خودشان هستند که پشتیبانی برای کاربران هک و کلاهبرداری نیز هستند.
در متن این پژوهش آمده: ابزارهای هوش مصنوعی (AI) با هدف عموم مردم مانند ChatGPT، Bard، CoPilot و Dall-E پتانسیل باورنکردنی برای استفاده‌ی خوب دارند. این مزایا از افزایش توانایی پزشکان برای تشخیص بیماری تا دست‌رسی به‌تخصص‌های حرفه‌ای و علمی متغیر است؛ ولی افرادی که دارای هدف‌های مجرمانه هستند، نیز می‌توانند از این فن‌آوری‌ها بهره‌برداری کرده و آن‌ها را تخریب کنند و تهدیدی برای شهروندان عادی باشد. مجرمان حتا برای پشتیبانی از هک و کلاهبرداری، چَت‌رُبات‌های هوش مصنوعی خود را ایجاد می‌کنند.
در ادامه‌ی این متن آمده که روش‌های مختلفی وجود دارد که سیستم‌های هوش مصنوعی مولد مانند ChatGPT و Dall-E می‌توانند توسط مجرمان استفاده شوند. به‌دلیل توانایی ChatGPT برای ایجاد محتوای مناسب بر اساس چند دستور ساده، یکی از راه‌های بالقوه‌ای که می‌تواند توسط مجرمان مورد سوء‌استفاده قرار گیرد، ایجاد کلاه‌برداری‌های متقاعد‌کننده و پیام‌های فیشینگ است. برای مثال یک کلاه‌بردار می‌تواند برخی از اطلاعات اولیه – نام، جنسیت و عنوان شغلی شما – را در یک مدل زبان بزرگ (LLM)، فن‌آوری پشت رُبات‌های چَت هوش مصنوعی مانند ChatGPT قرار دهد و از آن برای ایجاد یک پیام فیشینگ استفاده کند.
گزارش شده‌است که این امکان‌پذیر است، حتا اگر مکانیسم‌هایی برای جلوگیری از آن اجرا شده باشد. LLMها هم‌چنین انجام کلاه‌برداری‌های فیشینگ در مقیاس بزرگ را امکان‌پذیر می‌سازد و هزاران نفر را به زبان مادری خود هدف قرار می‌دهد. و این حدس هم نیست، تجزیه‌وتحلیل جوامع هک زیرزمینی، موارد مختلفی از مجرمان با استفاده از ChatGPT، از جمله برای کلاهبرداری و ایجاد نرم‌افزار برای سرقت اطلاعات را کشف کرده‌است. در مورد دگری، از آن برای ایجاد باج‌افزار استفاده شد.
این درحالی‌ست که بسیاری دانشمندان درمورد پیشرفت این صنعت هشدار داده‌بودند؛ ولی سازنده‌ها و غول‌های فن‌آوری که از این فن‌آوری استفاده می‌کنند به دولت‌ها اطمینان دادند که هوش مصنوعی برای بشر ضرر رسان نیست؛ بل کمک‌کننده و آسان‌کننده‌ی کارهای آن‌ها در امور روزمره است. درهمین حال دولت‌ها سال گذشته‌ی میلادی چندین لایحه و قانون را برای درست استفاده کردن هوش مصنوعی و نرساندن ضرر به‌زندگی بشر ساخته بودند.
