هوش مصنوعی چیز ساده ای نیست و مشکلات مربوط به آن می تواند حتی در شرکت هایی با تجربه توسعه گسترده در این زمینه ایجاد شود. همچنین با آمازون. همانطور که خبرگزاری رویترز گزارش داد: «این شرکت مجبور شد پروژه ای مبتنی بر هوش مصنوعی را که به طور خودکار پرسنل را انتخاب می کرد، کنار بگذارد. مشکل اصلی او ظلم به زنان است.»
در بیشتر موارد، آموزش هوش مصنوعی با تجزیه و تحلیل داده های تاریخی انجام می شود. مشکل مکرر آنها انجام وظایف بر اساس "پیش تصورات" است. در این مورد، «تعصب» تعداد قابل توجهی از مردان شاغل در حوزه فناوری اطلاعات بود. این نرم افزار الگوریتمی ایجاد کرده است که پرسشنامه هایی را رتبه بندی می کند که کالج های زنان را فهرست می کند و حاوی کلمه "زنان" در آخرین مکان های رتبه بندی است.
همچنین بخوانید: آمازون ساعت دیواری اکو را با پشتیبانی از دستیار صوتی الکسا راه اندازی کرد
تیم توسعه سعی کرد برنامه ای را توسعه دهد که از بین 100 درخواست ارسال شده، 5 مورد برتر را بر اساس معیارهای مشخص انتخاب کند. - گزارش یک منبع ناشناس
همچنین بخوانید: آمازون اسپیکر هوشمند به روز شده Echo Show را با نمایشگر بزرگ 10 اینچی ارائه می کند
زمانی که شرکت متوجه شد که این برنامه بر اساس تفاوت‌های جنسیتی نتیجه می‌دهد، تصمیم گرفت الگوریتم‌های هوش مصنوعی را تغییر دهد. با این حال، اعتبار پروژه تضعیف شد. علاوه بر این، هیچ تضمینی وجود نداشت که «سوگیری» دیگری در برنامه وجود نداشته باشد. بنابراین، آمازون بدون فکر طولانی تصمیم گرفت تا این پروژه را تا زمان های بهتر پوشش دهد.
ما فقط می توانیم امیدوار باشیم که پروژه اصلاح شود و همچنان با نتایج صادقانه کاربران را خوشحال کند.
منبع: واگرایی
پاسخ دهید