دفتر Szpindor گفت: “برنامه Microsoft Copilot توسط دفتر امنیت سایبری به دلیل تهدید نشت داده های House به سرویس های ابری غیر تایید شده توسط خانه، خطری برای کاربران تلقی شده است.” از زمان ورود ChatGPT OpenAI، نشت داده ها برای ابزارهای مولد هوش مصنوعی مشکل ساز بوده است. در ماه مه سال گذشته، وال استریت ژورنال گزارش داد که اپل به کارمندان هشدار داده است که از ابزارهایی مانند دستیار Copilot GitHub برای کدنویسی استفاده نکنند. ChatGPT. پس از کشف مسیرهای نشت داده ها، سامسونگ همچنین کارکنان را از استفاده از ChatGPT منع کرد.
چند ماه بعد، در ماه ژوئن، کارشناسان Robust Intelligence مستقر در سانفرانسیسکو نشان دادند که چگونه می توان نرم افزار NeMo Framework AI انویدیا را فریب داد تا اطلاعات خصوصی را فاش کند و اقدامات ایمنی خود را نادیده بگیرد. کمیسیون تجارت فدرال ایالات متحده همچنین ChatGPT را به دلیل به خطر انداختن امنیت داده ها مورد بررسی قرار داد. در نوامبر سال گذشته، کارشناسان دانشگاه نورث وسترن روش هایی را برای فریب GPT های سفارشی برای افشای اطلاعات محرمانه کشف کردند.
یک ماه بعد، اسناد فاش شده به دست آمده توسط The Platformer مشکلات توهم آمازون را در چت Q آمازون نشان داد و این که اطلاعات محرمانه مانند مکان مراکز داده، ویژگی های منتشر نشده و برنامه های تخفیف را فاش می کرد. در یک حادثه دیگر، ChatGPT اطلاعات شخصی مانند اطلاعات بانکی کاربر را منتشر کرد و شرکت را مجبور کرد برای مدت کوتاهی آن را آفلاین کند. با چنین سابقه متزلزلی، تعجبی ندارد که Copilot مایکروسافت از دستگاه‌های رسمی منع شده است، حتی اگر کارمندان کنگره نمی‌توانند از استفاده از این ابزارها در دستگاه‌های شخصی خود منع شوند.
