مایکروسافت راهبردهای خود در توسعه هوش مصنوعی مسئولانه را اعلام می‌کند

مایکروسافت در گزارش جدیدی که انتشار داده است، به اقداماتی پرداخته که طی سال گذشته برای انتشار مسئولانه پلتفرم‌های هوش مصنوعی خود انجام داده است.

در این گزارش، که بیشتراً به سال 2023 مرتبط است، مایکروسافت اقداماتی که در زمینه استقرار محصولات هوش مصنوعی ایمن انجام داده است، را توضیح داده است. انتشار این گزارش سالانه، یکی از تعهداتی است که شرکت پس از امضای توافقنامه‌ای با کاخ سفید در جولای سال گذشته، به آن پایبند است. این توافقنامه به‌عنوان یک تعهد اختیاری میان مایکروسافت و دیگر شرکت‌ها و کاخ سفید انعقاد شده است و طبق آن، شرکت‌ها متعهد شده‌اند که سیستم‌های هوش مصنوعی خود را با مسئولیت ایجاد کنند و به ایمنی آن‌ها نیز توجه کنند.

مایکروسافت در گزارش جدید خود اعلام کرده است که سال گذشته، 30 ابزار هوش مصنوعی مسئولانه ایجاد کرده است. آن‌ها همچنین تیم هوش مصنوعی مسئولانه خود را توسعه داده‌اند و تیم‌هایی را مامور کرده‌اند تا در طول دوره توسعه برنامه‌های کاربردی هوش مصنوعی، خطرات را ارزیابی کنند.

همچنین، مایکروسافت از سیستم Content Credentials در پلتفرم‌های تولید تصویر خود استفاده می‌کند. این سیستم با قرار دادن یک واترمارک روی عکس، تشخیص می‌دهد که آیا تصویر توسط هوش مصنوعی ساخته شده است یا نه.

علاوه بر این، مایکروسافت به مشتریان خود در Azure ابزارهایی را ارائه می‌دهد تا بتوانند محتوای مشکل‌ساز مانند محتوای جنسی و آسیب‌رسان را تشخیص دهند. همچنین، ابزارهایی برای ارزیابی خطرات امنیتی در دسترسی آن‌ها فراهم شده است.

مایکروسافت اعلام کرده است که برنامه‌های جدیدی برای تیم قرمزش دارد. این برنامه‌ها شامل تشکیل یک تیم داخلی برای کشف نقص‌های امنیتی در مدل‌های هوش مصنوعی است و همچنین تست قابلیت‌های مدل‌های جدید پیش از عرضه آن‌ها را دربرمی‌گیرد.

ناتاشا کرامپتون، مدیر بخش هوش مصنوعی مسئولانه مایکروسافت، اعلام کرده است که هوش مصنوعی همچنان در حال پیشرفت است و این موضوع برای هر کسی که در این زمینه فعالیت می‌کند، قابل قبول است. او افزوده که هوش مصنوعی مسئول هیچ زمان پایانی ندارد و مایکروسافت از زمان امضای قرارداد داوطلبانه برای پیشبرد این اهداف پیشرفت‌های زیادی کرده است و از ادامه این پیشرفت‌ها در آینده امیدوار است.