افشاگری کارمند مایکروسافت علیه یک محصول اوپن ایآی
![افشاگری کارمند مایکروسافت علیه یک محصول اوپن ایآی](https://cdn.donya-e-eqtesad.com/thumbnail/5wSbEWq6T8mT/QHn8O9nsSzT8qCU7RegsN6Pbb5v74eEtbKeSOh05RaZPMYGOWFpyB0t7TZyzEhnm/%D8%A7%D9%81%D8%B4%D8%A7%DA%AF%D8%B1%DB%8C+%DA%A9%D8%A7%D8%B1%D9%85%D9%86%D8%AF+%D9%85%D8%A7%DB%8C%DA%A9%D8%B1%D9%88%D8%B3%D8%A7%D9%81%D8%AA+%D8%B9%D9%84%DB%8C%D9%87+%DB%8C%DA%A9+%D9%85%D8%AD%D8%B5%D9%88%D9%84+%D8%A7%D9%88%D9%BE%D9%86+%D8%A7%DB%8C%E2%80%8C%D8%A2%DB%8C+copy.jpg)
جونز در نامهای به پتی موری، ماریا کانتول و آدام اسمیت، سناتورهای آمریکایی و همچنین باب فرگوسن، دادستان کل ایالت واشنگتن نوشته است: من به این نتیجه رسیدم که DALL-E۳ ریسکی برای ایمنی عمومی است و تا زمانیکه اوپن ایآی چالشهای مرتبط با این مدل را برطرف نکرده، نباید برای استفاده عمومی ارائه شود. وی در اوایل دسامبر ۲۰۲۳ کشف کرد یک شکاف به او اجازه میدهد دستورالعمل امنیتی DALL-E۳ را دور بزند. جونز مدعی است مشکل را به مدیران خود در مایکروسافت گزارش داده و آنها به او دستور دادهاند تا شخصا این اختلال را بهطور مستقیم به اوپن ایآی گزارش دهد. پس از این اقدام وی متوجه شد شکاف مذکور در DALL-E۳ اجازه تولید تصاویر خشن و مخرب را میدهد.در مرحله بعد این مهندس سعی کرد اختلال کشف شده را در یک پست لینکدین بهطور عمومی فاش کند. او در این باره در نامهاش نوشته است: صبح ۱۴ دسامبر ۲۰۲۳ میلادی من بهطور عمومی نامهای به هیاتمدیره اوپن ایآی در لینکدین منتشر کردم و از آنها خواستم تا DALL-E۳ را تعلیق کنند، زیرا مایکروسافت یکی از اعضای هیات نظارت در اوپن ایآی است و من قبلا نگرانیهایم را با تیم رهبری مطرح کردم. من مایکروسافت را از نامه مذکور نیز مطلع کردم.
مایکروسافت در پاسخ به این اقدام از وی خواست پستش را حذف کند. او در بخش دیگری نوشته است: مدت کوتاهی پس از فاش شدن نامه به تیم رهبریام، مدیرم با من تماس گرفت و گفت بخش حقوقی مایکروسافت خواستار حذف پست شده است. او به من گفت تیم حقوقی شرکت توجیهات خاص خود برای حذف نامه را به زودی در یک ایمیل برای من ارسال میکنند و من باید بدون انتظار برای دریافت ایمیل مذکور پست را حذف کنم. هرچند جونز از این دستور پیروی کرد، اما هیچگاه توضیحاتی از تیم حقوقی مایکروسافت دریافت نکرده است. او بعدا تلاش میکند تا اطلاعاتی در این باره از تیم حقوقی به دست آورد، اما مورد غفلت واقع میشود. سخنگوی اوپن ایآی در نامهای به انگجت نوشته است: ما پس از دریافت گزارش کارمند مایکروسافت، به سرعت موضوع را بررسی کردیم و مطمئن شدیم تکنیکی که او به اشتراک گذاشته سیستمهای ایمنی ما را دور نمیزند. ایمنی اولویت اصلی ما است و ما رویکردی چند جانبه در این زمینه در پیش گرفتهایم.