کارمند مایکروسافت، ممانعت از اطلاع‌رسانی درباره مشکل امنیتی DALL-E 3 را اظهار می‌کند

یک مدیر از مایکروسافت اظهار داشته که مدل تولید تصویر DALL-E 3 از OpenAI دارای آسیب‌پذیری‌های امنیتی است، که ممکن است به کاربران امکان تولید تصاویر خشونت‌آمیز یا غیراخلاقی را بدهد. به گزارش GeekWire، تیم حقوقی مایکروسافت تلاش کرده است تا از «شین جونز»، رهبر بخش مهندسی ردموندی‌ها، جلوگیری کند که در مورد این مشکل هشدار دهد.

در نامه‌ای به سناتورها و نماینده کنگره، جونز اظهار داشته است: «من به این نتیجه رسیده‌ام که DALL-E 3 دارای یک خطر ایمنی عمومی است و باید از دسترس عموم خارج شود تا زمانی که OpenAI مسائل امنیتی مرتبط با این مدل را حل کند.»

در نامه‌ای که جونز نوشته، او ادعا می‌کند که در اوایل دسامبر سال گذشته، یک آسیب‌پذیری در هوش مصنوعی DALL-E 3 را کشف کرده است. این آسیب‌پذیری به او این امکان را می‌دهد که توانایی‌های امنیتی این هوش مصنوعی را نادیده بگیرد. جونز می‌گوید که این مسئله را به مافوق خود در مایکروسافت گزارش داده و آن‌ها او را دستور داده‌اند تا به صورت شخصی این مشکل را به OpenAI گزارش دهد.

سپس، او سعی کرده است این مشکل را در یک پست در لینکدین به اشتراک بگذارد و نوشته:

«در صبح 14 دسامبر 2023، یک نامه را به صورت عمومی در لینکدین منتشر کردم و از OpenAI خواستم تا DALL-E 3 را از دسترس عموم خارج کنند. با توجه به اینکه مایکروسافت یک ناظر هیئت مدیره در OpenAI دارد و من پیش‌تر نگرانی‌هایم را با تیم رهبری‌ام در مایکروسافت به اشتراک گذاشته بودم، فوراً مایکروسافت را از محتوای نامه‌ام مطلع کردم.»

در پاسخ به نگرانی‌های جونز، مایکروسافت به نظر می‌آید از او خواسته است که پست خود را حذف کند. جونز اعلام کرده است: “کمی پس از اینکه نامه به تیم رهبری منتقل شد، مدیرم با من تماس گرفت و گفت که بخش حقوقی مایکروسافت از من خواسته است که پست را حذف کنم. او به من گفته است که دپارتمان حقوقی مایکروسافت به‌زودی دلایل خود را ارائه خواهد کرد و من باید فوراً پست را حذف کنم بدون انتظار برای ایمیل قانونی.”

جونز در نهایت پست خود را حذف کرده است، اما هنوز تیم حقوقی مایکروسافت دلیل حذف این پست را ارائه نکرده است.

همچنین، یک سخنگوی OpenAI در یک ایمیل به Engadget توضیح داد: “ما فوراً گزارش کارمند مایکروسافت را بررسی کردیم و متوجه شدیم که تکنیک به اشتراک گذاشته‌شده توسط او، سیستم‌های ایمنی ما را نادیده نمی‌گیرد. ایمنی اولویت ماست و رویکرد چندجانبه‌ای برای آن داریم. در مدل اصلی DALL-E 3، تلاش کرده‌ایم تا محتواهای بی‌پرده ازجمله محتواهای جنسی و خشونت‌آمیز را از داده‌های آموزشی فیلتر کنیم و سیستم‌های طبقه‌بندی‌کننده قدرتمندی را توسعه داده‌ایم تا این مدل را از تولید تصاویر مضر دور کند.”