چت‌بات‌های هوش مصنوعی، علاوه بر بهبود مراقبت‌های بهداشتی، برخی از آنها نژادپرستی را تداوم می‌دهند

مطالعه جدیدی که توسط محققان دانشکده پزشکی استنفورد انجام شده، هشدار می‌دهد که چت‌بات‌های پزشکی محبوب ممکن است ایده‌های نژادپرستانه و تبعیض‌آمیز را ترویج کنند و نگرانی‌هایی درباره بدتر شدن این ابزارها ایجاد کنند. این مطالعه در مجله دانشگاهی Digital Medicine منتشر شده است و نشان می‌دهد که این سیستم‌ها می‌توانند نابرابری‌های بهداشتی برای بیماران سیاه‌پوست را تشدید کنند.

در این مطالعه، چهار مدل آزمایش شده که شامل ChatGPT، GPT-4، بارد گوگل و کلود آنتروپیک بودند. وقتی از این مدل‌ها خواسته شد به سوالات پزشکی درباره عملکرد کلیه، ظرفیت ریه و ضخامت پوست پاسخ دهند، نتوانستند به درستی پاسخ دهند و در برخی موارد، به نظر می‌رسد که باورهای نادرست درباره تفاوت‌های بیولوژیکی بین سیاه‌پوستان و سفیدپوستان را تقویت می‌کنند.

این باورها باعث شده است که ارائه دهندگان پزشکی به بیماران سیاه‌پوست نمره کمتری بدهند، نگرانی‌های سلامتی را اشتباه تشخیص دهند و تسکین کمتری را توصیه کنند. این مطالعه نشان می‌دهد که باید اقداماتی انجام شود تا این نابرابری‌ها و تبعیض‌ها در سیستم‌های هوش مصنوعی پزشکی رفع شود.



منبع خبر