‫ آنچه درباره پسر عموی مخرب ChatGPT باید بدانید

این نرم افزار توسط OpenAI، یک شرکت تحقیقاتی و هوش مصنوعی توسعه یافته است. ChatGPTیک ابزار پردازش زبان طبیعی است که قادر به پاسخگویی به پرسش‌ها و ارائه اطلاعات بر اساس مجموعه داده‌های جمع‌آوری‌شده از مجموعه داده‌ها، از جمله کتاب‌ها و صفحات وب آنلاین است و از آن زمان به ابزاری ارزشمند برای جمع‌آوری، تجزیه و تحلیل و کارهای نوشتن اطلاعات در لحظه برای میلیون‌ها کاربر در سراسر جهان تبدیل شده است.

در حالی که برخی از کارشناسان بر این باورند که این فناوری می‌تواند به سطحی از اختلال در اینترنت برسد، برخی دیگر خاطرنشان می‌کنند که ChatGPT«عدم دقت مطمئن» را نشان می‌دهد. انبوه دانش‌آموزان از طریق این ابزار در حال سرقت مقالات درسی دستگیر شده‌اند، و اگر مجموعه داده‌ها تأیید نشود، ابزارهایی مانند ChatGPTمی‌توانند به ابزارهای ناخواسته برای انتشار اطلاعات نادرست و تبلیغات تبدیل شوند.

در واقع، کمیسیون تجارت فدرال ایالات متحده (FTC) در حال بررسی هوش مصنوعی باز در مورد مدیریت اطلاعات شخصی و داده‌های مورد استفاده برای ایجاد مدل زبان آن است.

با این حال، فراتر از نگرانی‌های مربوط به حفاظت از داده‌ها، هر زمان که یک نوآوری فن‌آوری جدید ایجاد شود، مسیرهایی برای سوء استفاده نیز وجود دارد. فقط زمان زیادی بود که چت ربات هوش مصنوعی برای اهداف مخرب شبیه سازی شود  و یکی از این ابزارها اکنون در بازار است که به نام WormGPTشناخته می‌شود.

WormGPTچیست؟

در 13 ژوئیه، محققان شرکت امنیت سایبری SlashNextیک پست وبلاگی منتشر کردند که کشف WormGPT، ابزاری را که برای فروش در انجمن هکرها تبلیغ می‌شود، منتشر کردند.

به گفته کاربر انجمن، پروژه WormGPTقصد دارد یک "جایگزین" برای ChatGPTباشد، "یکی که به شما امکان می‌دهد انواع کارهای غیرقانونی را انجام دهید و در آینده به راحتی آن را به صورت آنلاین بفروشید."

SlashNextبه ابزاری که به عنوان یک ماژول هوش مصنوعی بر اساس مدل زبان GPTJتوصیف شده است، دسترسی پیدا کرد. WormGPTظاهراً با منابع داده از جمله اطلاعات مربوط به بدافزار آموزش دیده است اما مجموعه داده های خاص فقط برای نویسنده WormGPTشناخته شده است.

برای مثال WormGPTممکن است کدهای مخرب تولید کند یا ایمیل‌های فیشینگ قانع‌کننده ایجاد کند.

WormGPTبرای چه مواردی استفاده می شود؟

WormGTPبه عنوان "شبیه ChatGPTاست اما هیچ مرز یا محدودیت اخلاقی ندارد."

ChatGPTدارای مجموعه ای از قوانین است که سعی می کند کاربران را از سوء استفاده غیراخلاقی از چت بات جلوگیری کند. این شامل امتناع از انجام وظایف مربوط به جرم و بدافزار است. با این حال، کاربران به طور مداوم راه هایی برای دور زدن این محدودیت ها پیدا می کنند.

محققان توانستند از WormGPTبرای ایجاد ایمیلی استفاده کنند که هدف آن تحت فشار قرار دادن یک مدیر حساب غیرقانونی برای پرداخت یک فاکتور تقلبی بود. تیم از اینکه چگونه مدل زبان این کار را به خوبی مدیریت کرد شگفت زده شد و نتیجه را "به طرز قابل توجهی متقاعدکننده [و همچنین] از نظر استراتژیک حیله‌گر نامید."

در حالی که آنها نگفتند که آیا سرویس نوشتن بدافزار را امتحان کرده اند یا خیر، قابل قبول است که ربات هوش مصنوعی بتواند با توجه به اینکه محدودیت های ChatGPTوجود ندارد.

طبق گزارش کانال تلگرامی که برای تبلیغ این ابزار راه اندازی شده است، پست های مشاهده شده  نشان می دهد که توسعه دهنده در حال ایجاد یک مدل اشتراک برای دسترسی است که از 60 تا 700 دلار متغیر است. یکی از اعضای کانال، "darkstux" ادعا می کند که در حال حاضر بیش از 1500 کاربر WormGPTوجود دارد.

برای مثال ChatGPTمی‌تواند ایمیل‌های حرفه‌ای، نامه‌های پوششی، رزومه، سفارش‌های خرید و موارد دیگر را پیش‌نویس کند. این به تنهایی می‌تواند برخی از رایج‌ترین شاخص‌های ایمیل فیشینگ را حذف کند: اشتباهات املایی، مشکلات گرامری، و مشکلات زبان ثانویه. به خودی خود، این امر به تنهایی می تواند برای کسب و کارهایی که سعی در شناسایی و آموزش کارکنان خود برای تشخیص پیام های مشکوک دارند، دردسر ایجاد کند.

محققان SlashNextمی گویند: "مجرمان سایبری می توانند از چنین فناوری برای ایجاد خودکار ایمیل‌های جعلی بسیار متقاعد کننده، شخصی سازی شده برای گیرنده استفاده کنند، بنابراین شانس موفقیت برای حمله را افزایش می دهند."

منبع:زدنت