یک کاربرد عجیب هوش مصنوعی، تعیین نژاد مردم از روی عکس اشعه ایکس – آیا باید چنین کاربردهایی نگرانمان کند؟
یک تیم بین المللی متشکل از محققان سلامت از ایالات متحده، کانادا و تایوان کار جالب و در عین حال بحث‌برانگیزی کرده‌اند.
در یادگیری ماشینی، روش معمول این است که ابتدا حجم زیادی از اطلاعات متناسب به سیستم داده می‌شود و سیستم متغیرهای آن را تحلیل می‌کند و با یک نتیجه‌گیری یا متغیرهای دیگر مطابقت می‌دهد و خود را آموزش می‌دهد که کاری تحلیلی یا یک فرایند دشوار نتیجه‌گیری را با سرعت و دقت مناسب که خیلی وقت‌ها فراتر از توان ذهنی انسان‌ها است، انجام می‌دهد.
در تحقیق جدید، پس از آموزش هوش مصنوعی با استفاده از صدها هزار تصویر اشعه ایکس موجود با برچسب جزئیات نژادی بیماران، سیستم خود را آموزش داد که بتواند نژاد بیماران را با دیدن عکس اشعه ایکس مشخص کند.
هوش مصنوعی می‌تواند هویت نژادی گزارش شده بیمار را در این تصاویر با دقت شگفت‌آوری پیش‌بینی کند. دقت تشخیص حتی به ۹۰ درصد هم در مورد بعضی از عکس‌ها رسیده است.
- ” اقتصادالکترونیکی” آخرین و به روزترین محتوی در فناوری‌های هوشمند
نگرانی چیست؟
نگرانی این است که سیستم هوشمند هم مثل انسان دچار سوگیری ناخواسته شوند و مثلا با حدس نژاد انسان‌ها، برخی از شرایط را با گروه نژادی آنها مطابقت دهند.
در حال حاضر دانشمندان مطمئن نیستند که چرا سیستم هوش مصنوعی در شناسایی نژاد از روی تصاویری، اینقدر خوب عمل می کند.
حتی با حذف سرنخ‌هایی مانند تراکم استخوان یا تمرکز روی قسمت کوچکی از بدن، مدل‌های هوش مصنوعی همچنان با دقت نژاد را حدس می‌زدند.
این تحقیق به انبوه شواهد فزاینده‌ای اضافه شده که هشدار داده‌اند سیستم‌های هوش مصنوعی اغلب می‌توانند سوگیری‌ها و تعصبات انسان‌ها را بازتاب دهند، چه نژادپرستانه و چه جنسیت‌گرایانه.
گوشزد برای ما طبق این تحقیق این است که از پتانسیل تعصب نژادی در سیستم‌های هوش مصنوعی آگاه باشیم – به‌ویژه اگر در آینده مسئولیت بیشتری را به آنها بسپاریم.
این تحقیق در The Lancet Digital Health منتشر شده است .
منبع: پزشک
تعیین نژاد انسان از روی عکس اشعه ایکس با هوش مصنوعی
