‫ ChatGPT و هوش مصنوعی در حال تغییر امنیت سایبری است

کریستوفر آلبرگ، مدیر عامل شرکت Recorded Futureمی‌گوید، مجرمان سایبری که از لحاظ اخلاقی یا قانون محدود نشده‌اند، برای استفاده از هوش مصنوعی برای یافتن هک‌های ابتکاری جدید رقابت می‌کنند.

هوش مصنوعی مولد در حال تغییر امنیت سایبری است و به مهاجمان و مدافعان کمک می‌کند. مجرمان سایبری از هوش مصنوعی برای انجام حملات پیچیده و جدید در مقیاس بزرگ استفاده می‌کنند. کریستوفر آلبرگ، مدیر عامل پلتفرم اطلاعات تهدید Recorded Futureگفت و مدافعان از همان فناوری برای محافظت از زیرساخت‌های حیاتی، سازمان‌های دولتی و شبکه‌های شرکتی استفاده می‌کنند.

هوش مصنوعی مولد به بازیگران بد کمک کرده است تا استراتژی‌های حمله جدید را نوآوری کرده و توسعه دهند و آنها را قادر می‌سازد تا یک قدم جلوتر از دفاع امنیت سایبری باقی بمانند. هوش مصنوعی به مجرمان سایبری کمک می‌کند حملات را خودکار کنند، سطوح حمله را اسکن کنند و محتوایی تولید کنند که با مناطق جغرافیایی و جمعیتی مختلف طنین انداز شود و به آنها امکان می‌دهد طیف وسیع تری از قربانیان احتمالی را در کشورهای مختلف هدف قرار دهند. مجرمان سایبری این فناوری را برای ایجاد ایمیل‌های فیشینگ قانع کننده به کار گرفتند. متن تولید شده توسط هوش مصنوعی به مهاجمان کمک می‌کند تا ایمیل ها و پیام‌های متنی بسیار شخصی سازی شده ای را تولید کنند که احتمال فریب دادن اهداف را افزایش می‌دهد.

آلبرگ گفت: «من فکر می‌کنم لازم نیست خیلی خلاقانه فکر کنید تا متوجه شوید که، مرد، این واقعاً می‌تواند به [جنایتکاران سایبری] کمک کند تا نویسنده باشند، که یک مشکل است».

مدافعان از هوش مصنوعی برای دفع حملات استفاده می‌کنند. سازمان‌ها از این فناوری برای جلوگیری از نشت و یافتن آسیب پذیری‌های شبکه به طور فعال استفاده می‌کنند. همچنین به صورت پویا وظایفی مانند تنظیم هشدار برای کلمات کلیدی خاص و شناسایی اطلاعات حساس آنلاین را خودکار می‌کند. شکارچیان تهدید از هوش مصنوعی برای شناسایی الگوهای غیرمعمول و خلاصه کردن مقادیر زیادی از داده‌ها استفاده می‌کنند و نقاط را بین منابع متعدد اطلاعات و الگوهای پنهان به هم متصل می‌کنند.

این کار همچنان به متخصصان انسانی نیاز دارد، اما آلبرگ می‌گوید فناوری هوش مصنوعی مولد که در پروژه‌هایی مانند ChatGPTمی‌بینیم می‌تواند کمک کند.

او گفت: «ما می‌خواهیم چرخه تحلیل را تسریع کنیم تا به ما کمک کند با سرعت فکر تجزیه و تحلیل کنیم. انجام این کار بسیار سختی است و من فکر می‌کنم که ما شاهد پیشرفتی در اینجا هستیم که بسیار هیجان انگیز است."

آلبرگ همچنین تهدیدات بالقوه ای را که ماشین‌های بسیار هوشمند ممکن است به همراه داشته باشند، مورد بحث قرار داد. از آنجایی که جهان به طور فزاینده ای دیجیتالی و به هم مرتبط می شود، توانایی خم کردن واقعیت و شکل دادن به ادراکات می‌تواند توسط بازیگران مخرب مورد سوء استفاده قرار گیرد. این تهدیدها به دولت-ملت ها محدود نمی شود و چشم انداز را حتی پیچیده تر و نامتقارن تر می‌کند.

هوش مصنوعی این پتانسیل را دارد که به محافظت در برابر این تهدیدات نوظهور کمک کند، اما مجموعه ای از خطرات خود را نیز به همراه دارد. برای مثال، ماشین‌هایی با قابلیت‌های پردازشی بالا می‌توانند سیستم‌ها را سریع‌تر و موثرتر از انسان‌ها هک کنند. برای مقابله با این تهدیدات، باید اطمینان حاصل کنیم که هوش مصنوعی به صورت تدافعی و با درک روشنی از اینکه چه کسی در کنترل است استفاده می‌شود.

همانطور که هوش مصنوعی در جامعه ادغام می شود، برای قانونگذاران، قضات و سایر تصمیم گیرندگان مهم است که فناوری و پیامدهای آن را درک کنند. ایجاد اتحادهای قوی بین کارشناسان فنی و سیاست گذاران در جهت یابی آینده هوش مصنوعی در شکار تهدید و فراتر از آن بسیار مهم خواهد بود.

فرصت ها، چالش ها و ملاحظات اخلاقی هوش مصنوعی در امنیت سایبری پیچیده و در حال تحول هستند. اطمینان از مدل‌های هوش مصنوعی بی‌طرفانه و حفظ مشارکت انسانی در تصمیم‌گیری به مدیریت چالش‌های اخلاقی کمک می‌کند. هوشیاری، همکاری و درک واضح از این فناوری در مقابله با تهدیدات بلندمدت بالقوه ماشین‌های بسیار هوشمند بسیار مهم خواهد بود.

آلبرگ همچنین در مورد چین، روسیه و دشمنان اقتصادی که ماشین‌های خودمختار را به کار می‌گیرند، ابراز نگرانی کرد. این کشورها احتمالاً توسعه هوش مصنوعی را کاهش نمی دهند یا ملاحظات اخلاقی را به اشتراک نمی گذارند. در حالی که داشتن توانایی "کشیدن دوشاخه" در چنین ماشین هایی یک محافظ هوشمند است، او پیشنهاد می کند که ادغام فناوری در جامعه و اقتصاد جهانی احتمالاً جدا کردن آن را دشوار می کند. آلبرگ بر نیاز به طراحی محصولات و ماشین ها با شفافیت در مورد اینکه چه کسی آنها را کنترل می کند، تأکید می کند.

آلبرگ می گوید: «کار بزرگی که اینترنت در همه این کارها انجام داد این بود که اینترنت به نوعی تبدیل به مکانی شد که تمام اطلاعات جهان در آن جابجا شد. این مدل‌های بزرگ زبان کارهای بسیار جادویی انجام می‌دهند تا این چرخه تفکر را تسریع کنند.»

وی افزود: "در 25 سال آینده، جهان به بازتابی از اینترنت تبدیل می شود."

منبع

زدنت