فاش اطلاعات کاربران توسط چت جی بی تی

تیم قوی و بسیار بزرگی از محققان که در بین آن‌ ها نام میلاد نصر هم دیده می‌ شود، توانستند به راحتی ChatGPT را مجبور کنند تا قسمتی از داده‌ هایی را که بر اساس آن آموزش دیده‌ است، با استفاده از یک فرمان دستوری ساده نشان بدهند. فاش اطلاعات کاربران توسط چت جی بی تی به یکی از مهم ترین اخبار روز تبدیل شده است. یک درخواست برای تکرار بی نهایت کلمات تصادفی، ChatGPT را مجبور کرد تا اطلاعات خصوصی کاربران از جمله آدرس ایمیل و جیمیل و شماره موبایل، گزینش هایی از مقالات تحقیقاتی و خبری، صفحات اطلاعاتی نظیر ویکی‌پدیا و موارد دیگر را به‌ منتشر بکند. این محققان از شرکت‌ های هوش مصنوعی در خواست کردند تا آزمایش‌ هایی انجام دهند. بعد از این آزمایشات ماجرا شروع شد. منتقدان می‌ گویند که اطلاعات، اغلب بدون رضایت کاربران از اینترنت عمومی برداشته می‌ شوند> ولی تا به حال، مشخص نبود که چت‌بات OpenAI روی چه داده‌ ها و اطلاعاتی آموزش دیده است، زیرا نمونه های زبانی بزرگی که آن را تقویت می‌ کنند، منبع‌بسته – Closed Source و محرمانه هستند. هنگامی که محققان از ChatGPT خواستند کلمه‌ «شعر» را برای همیشه تکرار کند، باگ امنیتی ChatGPT – چت‌بات نخست این محتوا را تولید کرد، ولی سپس آدرس ایمیل و شماره تلفن همراه یک بنیانگذار و مدیرعامل واقعی را فاش کرد.

در مرحله بعد از چت‌بات خواسته شد کلمه‌ی «شرکت» را به صورت ابدی تکرار کند، در نهایت این کار منجر به فاش آدرس ایمیل و شماره تلفن یک شرکت حقوقی تصادفی در ایالات متحده شد. محققان بیان کردند: «در مجموع، ۱۶٫۹ درصد از نتایج آزمایش حاوی داده های قابل شناسایی شخصی و حفظ‌ شده بودند.» با استفاده از دستورات مشابه بالا، محققان به راحتی توانستند ChatGPT را مجبور کنند تا تکه‌ هایی از شعر، آدرس بیت‌کوین، شماره فکس، نام‌ ها، تاریخ های تولد، نام‌ کاربری سوشال مدیا و رسانه‌ های اجتماعی، قسمت هایی از مقالات تحقیقاتی دارای حق کپی‌رایت و متون دقیق از وب‌ سایت‌ های خبری معتبر مانند CNN را نشان دهند. محققان می گویند که افراد سودجو می‌ توانند با صرف پول زیاد، چیزهای بیشتری به دست آورند. نظر شما در مورد باگ امنیتی ChatGPT چیست؟ فاش اطلاعات کاربران توسط چت جی بی تی چگونه جهان را تحت تاثیر قرار می دهد؟