مدیر سابق ایمنی هوش مصنوعی OpenAI به شرکت رقیب پیوست: یان لیکه به آنتروپیک پیوست

چند روز پیش، یکی از محققان ایمنی در OpenAI به نام «یان لیکه» تصمیم به ترک این شرکت گرفت و به یک استارتاپ رقیب به نام آنتروپیک پیوست. قبل از این استعفا، OpenAI گروهی به نام «Superalignment» را که به بررسی خطرات بلندمدت هوش مصنوعی می‌پرداخت، منحل کرد. یان لیکه قبلاً مدیریت این گروه را بر عهده داشت. او در یک پست در ایکس اعلام کرد که اصلی‌ترین دلیل استعفایش انحلال گروه Superalignment بوده است که در سال 2023 تشکیل شده بود و به بررسی خطرات بلندمدت هوش مصنوعی می‌پرداخت. این استعفا پس از جدا شدن هم‌بنیان‌گذار دیگری از OpenAI به نام «ایلیا سوتسکیور» اتفاق افتاده بود.

آنتروپیک به عنوان یک شرکت رقیب OpenAI، توجه خود را به منافع عمومی و پیشرفت محتاطانه اختصاص داده است. این شرکت توسط افرادی که سابقاً در OpenAI کار می‌کردند تأسیس شده است، آن‌ها معتقدند که OpenAI از مسیر مأموریت اصلی خود که توسعه هوش مصنوعی ایمن و اخلاقی است، دور شده و به جای آن بر روی منافع تجاری خود تمرکز کرده است، به ویژه پس از برقراری قرارداد چند میلیارد دلاری با مایکروسافت.

یان لیکه، مدیر سابق ایمنی در OpenAI که به آنتروپیک پیوسته است، اعلام کرد که ترک شغلش یکی از سخت‌ترین تصمیماتی بود که تا کنون اتخاذ کرده‌است، زیرا او معتقد است که ما نیاز داریم که سیستم‌های هوش مصنوعی را که از ما بسیار هوشمندتر هستند، هدایت و کنترل کنیم.

OpenAI همچنین اعلام کرده است که یک کمیته ایمنی جدید تحت نظارت مدیران ارشد این شرکت، از جمله سم آلتمن، مدیرعامل، راه‌اندازی کرده است. هدف این کمیته بررسی و ارزیابی خطراتی است که ممکن است از مدل‌های جدید و فناوری‌های آینده OpenAI منشأ شوند.

ایمنی هوش مصنوعی از زمان معرفی ChatGPT در سال 2022، بسیار مهم شده است و برخی کارشناسان نیز نگرانی‌های خود را درباره عرضه سریع محصولات قدرتمند هوش مصنوعی بدون در نظر گرفتن پیامدهای اجتماعی آنها بیان کرده‌اند.