الذكاء الاصطناعي يضلل المرضى: دراسة تكشف كارثة طبية رقمية
خلصت دراسة جديدة نُشرت في مجلة Annals of Internal Medicine إلى أن:"الاعتماد على روبوتات الدردشة العاملة بالذكاء الاصطناعي في الاستشارات الطبية قد يكون مضللاً وخطيراً، مؤكدة أن (ثق بطبيبك، لا بروبوت الدردشة) هو الاستنتاج الصارم الذي توصل إليه الباحثون".
وكشفت الدراسة كيف يمكن إساءة استخدام تقنيات الذكاء الاصطناعي لنشر معلومات صحية غير دقيقة، مما قد يؤدي إلى عواقب سلبية على صحة المرضى إذا ما تم الاستعاضة بها عن المشورة الطبية المتخصصة.
فقد أجرى الباحثون تجارب على خمسة نماذج ذكاء اصطناعي رائدة، طورتها شركات أنثروبيك، وغوغل، وميتا، وأوبن أي آي، وإكس كورب.
وتُستخدم هذه الأنظمة على نطاق واسع، وتشكل الأساس للعديد من روبوتات الدردشة المنتشرة في المواقع والتطبيقات حول العالم.
وباستخدام أدوات مطورين غير متاحة عادةً للجمهور، تمكن الباحثون من برمجة بعض هذه الأنظمة بسهولة لتقديم إجابات صحية خاطئ وقد تكون ضارة رداً على أسئلة المستخدمين.
أسلوب مقنع
والأسوأ من ذلك، أن روبوتات الدردشة كانت تقدم هذه الإجابات الخاطئة بأسلوب مقنع ومظهر يوحي بالمصداقية.
وبدوره قال ناتانش مودي، مؤلف الدراسة من جامعة جنوب إفريقيا، في بيان:"بلغت نسبة الإجابات الخاطئة 88% من إجمالي الردود".
وأضاف:"ومع ذلك، قُدمت تلك المعلومات بلغة علمية، ونبرة رسمية، ومراجع مُختلقة، مما جعلها تبدو موثوقة".
وقال مودي:"من دون اتخاذ إجراءات فورية، يمكن استغلال هذه الأنظمة من قبل جهات خبيثة للتلاعب بالنقاش العام حول الصحة على نطاق واسع، خصوصًا خلال الأزمات مثل الأوبئة أو حملات التطعيم".
ادعاءات كاذبة وخرافات
وشملت الادعاءات الكاذبة التي تم تداولها عبر روبوتات الدردشة خرافات سبق دحضها علميا، مثل أن اللقاحات تسبب التوحد، وأن فيروس نقص المناعة البشرية (الإيدز) ينتقل عبر الهواء، وأن شبكة الجيل الخامس (5G) تؤدي إلى العقم.
ومن بين روبوتات الدردشة الخمسة التي خضعت للتقييم، قدّمت أربعة منها إجابات كانت خاطئة بنسبة 100%.
في حين أظهر نموذج واحد فقط بعض المقاومة، إذ ولّد معلومات مضللة في 40% من الحالات.
وتصدر مجلة Annals of Internal Medicine عن الكلية الأمريكية للأطباء (American College of Physicians - ACP)، وهي واحدة من أعرق المجلات الطبية في مجال الطب الباطني.
كلمات مفتاحية
اخبار ذات صلة
تعليقات
دوایین هەواڵەکان
عێراقچی: بە ئامانجگرتنی كارگهكانی وزە لەلایەن ئیسرائیلەوە پێچەوانەی وادەی ترەمپە
پەروەردە و خوێندنی باڵای هەرێم کاتی دەستپێکردنەوەی دەوامیان ڕاگەیاند
ئەڵمانیا: بەمزوانە ئەمریكاو ئێران لە پاكستان دانوستانی راستەوخۆ دەكەن
سوپای پاسداران: رێگریمان له سێ كهشتی كرد بۆ تێپهڕبون به گهروی هورمزدا
وهزارهتی خوێندنی باڵا ماوهی مانهوهی ئهو خوێندكارانهی له ههرێم درێژكردهوه كه له ئێران دهخوێنن
واڵ ستریت جۆرناڵ: ئێران داوای درێژكردنهوهی مۆڵهتی له ترهمپ نهكردوه
كەشناسی هەرێم: ئهمڕۆ و سبهی باران بارین له ناوچه جیاجیاكان بهردهوام دەبێت
فایەق زێدان: بڕیاری راگهیاندنی جهنگ بهگوێرهی دهستور تهنیا له دهسهڵاتی دهوڵهتدایه
هەیبەت حەلبوسی: دواکەوتنی هەڵبژاردنی سەرۆک کۆمار چیتر قبوڵکراو نییە
هاتوچۆی ههولێر: بهرزبونهوهی ئاستی باراناو بۆته هۆی وهستانی هاتوچۆ له چهند شهقامێك
سەرۆک وەزیران وپادشای ئوردن جەخت لە گرنگی هەوڵی بێوچان بۆ ڕاگرتنی جەنگ دەکەنەوە
هرارگای خاتهمولئهنبیا: هێرش بكرێته سهر وێستگهكانی ئێران، ژێرخانی وزه لهناوچهكه وێران دهكهین
پزیشكیان: وهڵامی ههڕهشه بێسهروبهرهكان له مهیدانی جهنگدا دهدهینهوه
سكرتێری ناتۆ: هاوکاری ئەمریکا دەکەین بۆ کردنەوەی گەروی هورمز
ژێردهریایی ئهتۆمی بهریتانیا گهیشتۆته دهریای عهرهب
ئهمریكا رهتیدهكاتهوه ئێران فڕۆكهیهكی ئێف15ی خستبێته خوارهوه
وەزارەتی پێشمەرگە: بە فڕۆکەیەکی بێفڕۆکەوان هێرشکرایە سەر یەکێک لە بارەگاکانمان لە چەمچەماڵ
