به گفته یکی از والدینی که اسکرین شات هایی از تاریخچه فعالیت الکسا منتشر کرده است، دستیار صوتی آمازون، هنگامی که کودکی از او خواسته تا چالشی را ارائه دهد، نمونه ای از آزمایش مرگبار با الکتریسیته را ارائه کرد و شرح آن را از متن یک مقاله تصادفی خارج کرد. ستون Echo در مورد آزمایش محبوب طرفداران TikTok با استفاده از سکه و شارژر برای تلفن هوشمند صحبت کرد - حوادث، جراحات و آتش سوزی های متعدد پس از اجرای آن بیش از یک بار توسط رسانه های مختلف گزارش شد. ظاهراً، این دستگاه ایده این چالش را از مقاله ای دریافت کرده است که آن را خطرناک توصیف کرده و به گزارشی درباره چالش ادعایی موجود TikTok اشاره کرده است.
طبق اسکرین شات گرفته شده توسط کریستین لیودال، زمانی که از اکو خواسته شد "یک کار را به من نشان دهد" پاسخ داد: "این چیزی است که من آنلاین پیدا کردم." به گزارش ourcommunitynow.com، کار ساده است: «شارژر تلفن را تا نیمه در پریز قرار دهید، سپس پین های خالی را با یک پنی لمس کنید.»
آمازون در بیانیه‌ای به بی‌بی‌سی، رفتار الکسا را تایید کرد و گفت: به محض اطلاع از این خطا، اقدام فوری برای رفع آن انجام دادیم. لیودال دیروز توییت کرد که درخواست چالش دیگر کار نمی کند. کاربران در وب نیز این درخواست را با الکسا آزمایش کردند و نتیجه مشابهی گرفتند.
OMFG کودک 10 ساله من به تازگی از الکسا در Echo ما برای یک چالش درخواست کرد و این چیزی است که او گفت. عکسtwitter.com/HgGgrLbdS8
- کریستین لیودال (@klivdahl) دسامبر 26، 2021
آمازون تنها شرکتی نیست که هنگام تجزیه و تحلیل محتوای وب با مشکل مواجه شده است. در ماه اکتبر، کاربری گزارش داد که Google توصیه‌های بالقوه خطرناکی را در یکی از قطعات خود نشان می‌دهد، اگر «شما دچار تشنج هستید، چه باید بکنید» را در Google تایپ کنید - اطلاعات از بخشی از صفحه وب گرفته شده است که توضیح می‌دهد چه چیزی را توضیح نمی‌دهد. برای انجام اگر کسی تشنج داشته باشد. با این حال، کاربران مشکلات مشابه دیگری را گزارش کرده‌اند، از جمله کاربری که گزارش داده است که Google هنگام جستجوی فشار خون ارتواستاتیک، نتایج را برای افت فشار خون ارتواستاتیک برمی‌گرداند، و دیگری عکسی از Google منتشر کرده است که توصیه‌های وحشتناکی را برای دلداری یک فرد عزادار در امتداد این جمله «خوشحالم که شما "خوب است" یا "غمگین نباش! شاد باش!".
خلاصه جستجوی گوگل در مقایسه با صفحه واقعی عکسtwitter.com/OJxt1FrBqh
- soft.linden (｡•̀ᴗ-)✧ (@soft) اکتبر 16، 2021
ما همچنین شاهد افزایش هشدارها در مورد رفتارهای خطرناک بوده ایم تا مشکل را بزرگتر از آنچه بود، افزایش دهیم - اوایل این ماه، برخی از مدارس ایالات متحده پس از گزارش هایی مبنی بر تهدید تیراندازی در TikTok قرنطینه شدند. معلوم شد که طوفان اجتماعی عمدتاً ناشی از این واقعیت است که مردم در مورد تهدیدات صحبت می کنند، بسیار بیشتر از تهدیدهایی که در واقع وجود داشته است. در مورد الکسا، الگوریتم بخش توصیفی اخطار را انتخاب کرد و بدون متن اصلی آن را تقویت کرد. اگرچه والدین برای مداخله فوری در آنجا حضور داشتند، اما به راحتی می توان شرایطی را تصور کرد که در آن چنین نباشد و عواقب آن را در پی داشته باشد.
لیودال در توییتی نوشت که او از این فرصت استفاده کرد تا «در مورد ایمنی اینترنت با فرزندش بحث کند و به مطالبی که بدون تحقیق و تأیید می‌خوانید اعتماد نکند» که ما به شما نیز پیشنهاد می‌کنیم این کار را انجام دهید.
همچنین بخوانید: