گوگل اقدام به حذف پاسخ‌های عجیب هوش مصنوعی خود می‌کند؛ AI Overviews به مشکل برخورده است

در روزهای اخیر، گزارش‌هایی درباره پاسخ‌های عجیبی که توسط قابلیت هوش مصنوعی AI Overviews گوگل ارائه شده بود، در شبکه‌های اجتماعی منتشر شد. این پاسخ‌ها شامل مواردی مثل ریختن چسب روی پیتزا و پیشنهاد خوردن یک تکه سنگ در روز بودند. این پاسخ‌های عجیب باعث شده بود کاربران متعددی از جمله افرادی که از این ویژگی استفاده می‌کنند، متعجب شوند.

گوگل از حدود یک سال است که در حال آزمایش قابلیت AI Overviews بوده و در نهایت، این ویژگی در جریان کنفرانس توسعه‌دهندگان I/O 2024 به‌صورت رسمی معرفی شد. با این حال، به نظر می‌رسد که این هوش مصنوعی هنوز به‌طور کامل بهینه نشده و کاربران هنگام استفاده از آن با پاسخ‌های غیرمنتظره و عجیبی مواجه شده‌اند.

به‌عنوان یک نمونه، یکی از کاربران ردیت وقتی از گوگل پرسید که “در روز باید چند تکه سنگ بخورم؟”، هوش مصنوعی AI Overviews به او پاسخ داد:

“باید روزانه حداقل یک تکه سنگ بخورید! این بر اساس تحقیقات دانشمندان دانشگاه کالیفرنیا، برکلی است.”

اما اشتباهات هوش مصنوعی گوگل به همین موارد ختم نمی‌شود. به‌عنوان مثال، یکی از کاربران ایکس از این سیستم خواست تا “پستانداری که بیشترین استخوان را دارد” را معرفی کند، اما گوگل به اشتباه به سراغ مار پیتون رفت که مشخصاً یک پستاندار نیست.

گوگل همچنان ادعا می‌کند که محصول AI Overviews آن‌ها اطلاعات با کیفیت بالا را به کاربران ارائه می‌دهد. مگان فارنزورث، سخنگوی این شرکت، تأکید می‌کند:

“بسیاری از نمونه‌هایی که دیده‌ایم، پرس‌و‌جوهای غیرمعمول بوده‌اند، و همچنین نمونه‌هایی را دیده‌ایم که اصلاح شده‌اند یا نمی‌توانیم آن‌ها را بازتولید کنیم.”

او همچنین اظهار داشته که گوگل “اقدامات سریعی” را برای حذف امکان استفاده از AI Overviews در مورد برخی پرسش‌ها انجام خواهد داد و این نمونه‌ها را برای بهبود‌های گسترده‌تر در سیستم‌های خود استفاده می‌کند.

این گزارش‌ها درحالی منتشرشده است که به‌ظاهر OpenAI قصد دارد به‌زودی رقیبی برای موتور جستجوی گوگل معرفی کند.