خوارزمية "جوجل" ضد الإساءة الجنسية تأتي بنتائج عكسية على الآباء!
تخاطر حملة جوجل ضد الاستغلال الجنسي للأطفال على منصاتها بتدمير حياة الأطفال الذين تزعم إنقاذهم.
وكذلك الآباء الأبرياء، من خلال ترك سمعتهم وحريتهم وربما بقاء أسرهم في أيدي خوارزمية مفرطة في الحماس، وفقا لتحقيق صحيفة نيويورك تايمز الذي نشر يوم الأحد.
ووُصف والدان لأطفال صغار، غير معروفين لبعضهما البعض، بأنهما متحرشان بالأطفال للاشيء أكثر شرا من محاولة الحصول على مساعدة طبية لأطفالهما الصغار.
ولم يفكر الوالدان بأي شيء يتعلق في إرسال صور للأعضاء التناسلية المتورمة لأبنائهما، بناء على طلب أطباء الأطفال، وهي ممارسة أصبحت طبيعية تماما في نموذج ما بعد الجائحة.
ولم يفكر في أي شيء آخر أثناء تعافي ابنه، فقد أُيقظ مارك بوقاحة من خلال هاتفه على Google Fi وأخبره أنه تم اكتشاف "محتوى ضار" يحتمل أن يكون غير قانوني.
وأدت محاولة الطعن في القرار إلى الرفض وعدم وجود تواصل آخر من غوغل.
وفقد مارك إمكانية الوصول إلى هاتفه وبريده الإلكتروني وجهات اتصاله وكل منتج من منتجات غوغل. وتم قفل جميع بياناته، بما في ذلك الصور ومقاطع الفيديو، في السحابة.
وأثناء فحص محتوى مارك، عثرت غوغل على مقطع فيديو آخر أطلق الإنذارات، باستخدام أداة ذكاء اصطناعي تدعي التعرف على الصور التي لم يسبق رؤيتها لاستغلال الأطفال بناء على تشابهها مع الصور الموجودة.
وبدلا من إحضار مشرف بشري للتحقق من الصورة، تتمثل عملية غوغل في إغلاق الحساب ومسح كل صورة أخرى لديه والاتصال بالمركز الوطني للأطفال المفقودين والمستغلين، والذي يعطي الأولوية للضحايا الجدد المحتملين.
وتتم إضافة الصور التي أبلغ عنها بشكل غير صحيح إلى قاعدة بيانات الأطفال الذين تم استغلالهم، لذا فإن المزيد من الصور غير الضارة تخاطر بإطلاق الإنذار.
وفتحت شرطة سان فرانسيسكو تحقيقا بعد أن أبلغت غوغل عن فيديو مارك، وحصلت على نسخة من كل شيء في حساباته على غوغل، بما في ذلك سجل البحث والموقع والرسائل والمستندات المرسلة والمستلمة والصور ومقاطع الفيديو المخزنة على السحابة، وقرر تطبيق القانون عدم ارتكاب أي جريمة وأغلق القضية.
وعلى الرغم من تبرئة الشرطة للوالدين، التزمت غوغل قرارها بوضع علامة على الوالدين كمتحرشين بالأطفال وحظر جميع بياناتهم.
وقالت الشركة في بيان، وفقا لصحيفة نيويورك تايمز: "مواد الاعتداء الجنسي على الأطفال بغيضة ونحن ملتزمون بمنع انتشارها على منصاتنا".
ومن غير المعروف عدد قضايا خدمات حماية الطفل التي تم فتحها على أساس مثل هذه "الأخطاء"، ولا عدد التدخلات التي أحدثتها قرارات الخوارزمية غير الصحيحة.
كلمات مفتاحية
اخبار ذات صلة
تعليقات
دوایین هەواڵەکان
عێراقچی: بە ئامانجگرتنی كارگهكانی وزە لەلایەن ئیسرائیلەوە پێچەوانەی وادەی ترەمپە
پەروەردە و خوێندنی باڵای هەرێم کاتی دەستپێکردنەوەی دەوامیان ڕاگەیاند
ئەڵمانیا: بەمزوانە ئەمریكاو ئێران لە پاكستان دانوستانی راستەوخۆ دەكەن
سوپای پاسداران: رێگریمان له سێ كهشتی كرد بۆ تێپهڕبون به گهروی هورمزدا
وهزارهتی خوێندنی باڵا ماوهی مانهوهی ئهو خوێندكارانهی له ههرێم درێژكردهوه كه له ئێران دهخوێنن
واڵ ستریت جۆرناڵ: ئێران داوای درێژكردنهوهی مۆڵهتی له ترهمپ نهكردوه
كەشناسی هەرێم: ئهمڕۆ و سبهی باران بارین له ناوچه جیاجیاكان بهردهوام دەبێت
فایەق زێدان: بڕیاری راگهیاندنی جهنگ بهگوێرهی دهستور تهنیا له دهسهڵاتی دهوڵهتدایه
هەیبەت حەلبوسی: دواکەوتنی هەڵبژاردنی سەرۆک کۆمار چیتر قبوڵکراو نییە
هاتوچۆی ههولێر: بهرزبونهوهی ئاستی باراناو بۆته هۆی وهستانی هاتوچۆ له چهند شهقامێك
سەرۆک وەزیران وپادشای ئوردن جەخت لە گرنگی هەوڵی بێوچان بۆ ڕاگرتنی جەنگ دەکەنەوە
هرارگای خاتهمولئهنبیا: هێرش بكرێته سهر وێستگهكانی ئێران، ژێرخانی وزه لهناوچهكه وێران دهكهین
پزیشكیان: وهڵامی ههڕهشه بێسهروبهرهكان له مهیدانی جهنگدا دهدهینهوه
سكرتێری ناتۆ: هاوکاری ئەمریکا دەکەین بۆ کردنەوەی گەروی هورمز
ژێردهریایی ئهتۆمی بهریتانیا گهیشتۆته دهریای عهرهب
ئهمریكا رهتیدهكاتهوه ئێران فڕۆكهیهكی ئێف15ی خستبێته خوارهوه
وەزارەتی پێشمەرگە: بە فڕۆکەیەکی بێفڕۆکەوان هێرشکرایە سەر یەکێک لە بارەگاکانمان لە چەمچەماڵ
