گوگل: توضیح علت مشکلات نژادی در تولید تصاویر با هوش مصنوعی جمینای

چند روز پیش، هوش مصنوعی جمینای گوگل تصاویری را که تاریخی اشتباهی بودند، ایجاد کرده بود. این تصاویر باعث ایجاد بازخوردهای زیادی در اینترنت شد. پس از آن، گوگل موقتاً تولید تصاویر اشخاص را توسط این هوش مصنوعی متوقف کرد. حالا این شرکت مشکلاتی که در جمینای برنامه‌ی تولید تصاویر بوجود آمده بود را توضیح داده است.

به گفته بلاگ رسمی گوگل، هوش مصنوعی آنها به گونه‌ای تنظیم شده است که در تولید تصاویر، از برخی الگوهای ناخوشایندی که در گذشته مشاهده می‌شدند، پرهیز کند. به عبارت دیگر، سعی شده است که این هوش مصنوعی تصاویر خشونت‌آمیزی را تولید نکند و به طور گسترده‌تری انواع مختلف افراد را نشان دهد، نه فقط از یک نوع افراد استفاده کند.

اما با گذشت زمان، این هوش مصنوعی بسیار محتاط‌تر از آنچه که گوگل در ابتدا پیش‌بینی کرده بود، شد. به طور کلی، این هوش مصنوعی از پاسخگویی به برخی درخواست‌های معمولی هم خودداری می‌کرد. این امر باعث شد که جمینای در برخی موارد بسیار متنوع کار کند، اما در موارد دیگر، بسیار محافظه‌کار باشد.

مشکلی که در هوش مصنوعی جمینای گوگل پیش آمده، این است که این هوش مصنوعی دچار مشکل در تصمیم‌گیری بین اینکه کجا باید محتاط باشد و کجا باید به تنوع توجه کند. به عبارت دیگر، در برخی موارد، این هوش مصنوعی تنوع را در تصاویر افراد نشان می‌دهد، اما در جاهای دیگر، افرادی از نژادهای مختلف به طور نادرست به تصویر کشیده می‌شوند.

گوگل اعتراف کرده که این هوش مصنوعی نتوانسته است به‌طور صحیح عمل کند و برای افراد با هر نوع نژاد، تنوع مناسبی را نشان ندهد. هدف این هوش مصنوعی بود که برای تمامی افراد با هر نوع نژاد عمل خوبی داشته باشد. اما گوگل در حال حاضر در تلاش است تا این مشکل را برطرف کند؛ اما تا زمانی که این مشکل حل نشود، امکان استفاده از این هوش مصنوعی برای به‌تصویرکشیدن اشخاص وجود ندارد.