گوگل بررسی اشتباهات عجیب هوش مصنوعی AI Overviews و پیشرفت‌های اعمال شده

هفته گذشته، گوگل اعلام کرد که یک قابلیت جدید به نام AI Overviews به سرویس خبرساز خود اضافه کرده است. گزارش‌هایی منتشر شد که نشان می‌داد که این قابلیت به‌طور عجیبی به سوالات کاربران پاسخ می‌دهد، مانند اضافه کردن چسب روی پیتزا یا خوردن روزانه یک تکه سنگ. گوگل بعداً اعلام کرد که قصد دارد جستجوهای هوش مصنوعی برای برخی موضوعات خاص را به‌طور دستی غیرفعال کند تا کاربران کمتر با پاسخ‌های عجیب مواجه شوند. حالا، گوگل در یک پست جدید در وبلاگش اشتباهات این قابلیت را به عنوان خلأهای اطلاعاتی معرفی کرده و مسئولیت را به سوالات عجیب‌و‌غریب کاربران نسبت داده است.

رید در دفاع خود اظهار می‌کند که هوش مصنوعی AI Overviews به‌طور معمول “توهم” ندارد و فقط گاهی اوقات اطلاعات موجود در وب را به اشتباه تفسیر می‌کند. او توضیح می‌دهد:

“هیچ‌چیز مانند این نیست که میلیون‌ها نفر از این ویژگی با جستجوهای جدید استفاده کنند. ما همچنین جست‌وجوهای جدید بی‌معنی را دیده‌ایم که ظاهراً با هدف تولید نتایج اشتباه انجام شده‌اند.”

او همچنین ادعا می‌کند که در گزارش‌های مربوط به اشتباهات AI Overviews، “تعداد زیادی اسکرین‌شات جعلی” وجود دارد.

اسکرین‌شاتی که در آن پاسخ سوال “روزانه چند سنگ باید بخورم؟” ارائه شده، به گفته رید واقعی است، اما رئیس بخش جستجوی گوگل توضیح می‌دهد که انتشار یک مطلب طنز در این رابطه، باعث‌شده تا قابلیت هوش مصنوعی این شرکت چنین پاسخی را ارائه کند. او توضیح می‌دهد:

“تا قبل از پخش‌شدن این اسکرین‌شات‌ها، عملاً هیچ‌کس چنین سوالی از گوگل نپرسیده بود، بنابراین هوش مصنوعی شرکت به آن وب‌سایت پیوند داده است.”

در نهایت، گوگل به نظر می‌رسد با بررسی مشکلات، مدل‌هایی را شناسایی کرده است که فناوری هوش مصنوعی وظایف خود را به درستی انجام نمی‌دهد. بر اساس این مشاهدات، چندین بهبود برای AI Overviews اعمال شده است. به عنوان مثال، استفاده از مکانیسم‌های بهتر برای تشخیص جستجوهای بی‌معنی از جمله این پیشرفت‌هاست.