‫ ChatGPT فقط به شما پیام داده است؟

این چقدر ترسناک است چت رباتOpenAI بدون درخواست با کاربران تماس می‌گرفت البته این مشکل رفع شده است.

ChatGPT دیگر بهDM‌های شما نمی‌رود. OpenAI اخیراً مشکلی را برطرف کرده است که در آن هوش مصنوعی بدون درخواست به مردم پیام می‌دهد، که باعث شد برخی از کاربران کمی احساس نگرانی کنند.

در 15 سپتامبر، کاربرSentuBill یک اسکرین شات را درSubreddit ChatGPT ارسال کرد که مدل مولد را نشان می‌داد و از آنها در مورد هفته اول دبیرستان سؤال می‌کرد. پس از کمی رفت‌و برگشت، ChatGPT اعلام کرد که می‌خواهد بررسی کند و اگر ترجیح می‌دهد مکالمه را آغاز کند، به هوش مصنوعی اطلاع دهد. یکی دیگر از کاربرانReddit تجربه مشابهی را توصیف کرد. مدل هوش مصنوعی از آنها پرسید که چگونه علائم آنها یک هفته پس از استفاده از پلتفرم برای بررسی یک بیماری پیشرفت می‌کند.

حدس و گمان‌هایی در مورد علت بروز این رفتار عجیب وجود داشت. در ابتدا، مردم فکر می‌کردند که این یکی از ویژگی‌های مدل‌های جدیدo1-preview وo1-mini OpenAI است که مجموعاً به عنوانProject Strawberry شناخته می‌شوند. این شرکت این فناوری را با ادعای این که این دو مدل «پیش از [پاسخ دادن] به مشکلات فکر می‌کنند، بسیار شبیه به یک شخص» ترویج کرده است.

مردم تصور می‌کردند که توانایی ناگهانیChatGPT در ارسال پیام‌های پیشگیرانه به کاربران، رفتاری تازه آموزش دیده است. برخی دیگر معتقد بودند که همه چیز جعلی است. Benjamin de Kraker، توسعه‌دهنده هوش مصنوعی درX (توئیتر سابق) نشان داد که می‌توان به هوش مصنوعی دستور داد تا قبل از شروع مکالمه از کاربران درخواست کند و ورودی اولیه را حذف کند.

اما همانطور که معلوم است، این مورد نیست. ظاهراً پیام ها نتیجه یک اشکال بوده است.

سایت خبری فناوریFuturism برای اطلاعات بیشتر باOpenAI تماس گرفت. فروشنده هوش مصنوعی به این نشریه گفت که - در این موارد- ChatGPT "سعی می‌کند به [پرومانی] پاسخ دهد که [یا] به درستی ارسال نشده یا خالی به نظر می‌رسد." نتیجه نهایی این بود که مدل هوش مصنوعی یک "پاسخ عمومی" داد یا از حافظه [خود] استفاده کرد.

بنابراین، نه‌ChatGPT به احساسات دست نیافته است و در تلاش برای ایجاد مکالمه با مردم صحبت نمی‌کند. با این حال، تعجب نخواهیم کرد که ببینیم این باگ در نهایت به یک ویژگی تبدیل می‌شود. هوش مصنوعی در مدت زمان کوتاهی که وجود داشته است، پیشرفت‌های زیادی کرده است. با چند ترفند، ChatGPT می تواند روزی شروع به ارسال پیام به شما کند.

منبع

زدنت