روش سئو: سیستم هوش مصنوعی تشخیص چهره شركت ˮآمازونˮ، چهره ۲۸ عضو كنگره آمریكا را به اشتباه به مجرمین شباهت داد كه این مسئله باعث عصبانیت این مقامات شد.
به گزارش روش سئو به نقل از ایسنا و به نقل از بلومبرگ، بعد از آزمایش هوش مصنوعی تشخیص چهره آمازون توسط اتحادیه آزادی های مدنی كالیفرنیای شمالی، بعضی از اشتباهات بروز كرد و ۲۸ عضو كنگره آمریكا را با مجرمان اشتباه گرفت.
اكنون اعضای قانونگذار كنگره این سیستم را فراخوانی كرده و خواسته اند استفاده از آن تحت بررسی دقیق قرار بگیرد.
سازمان دیده بان غیرانتفاعی “اتحادیه آزادی های مدنی كالیفرنیای شمالی”(ACLU) نقص در “تكنولوژی تشخیص چهره آمازون” به نام “Rekognition” را گزارش داد.
این ابزار كه هم اكنون توسط سازمان های اجرای قانون در ایالت های اورگان و اورلاندو استفاده می شود، چهره ۲۸ عضو كنگره را بعنوان مجرمانی كه قبلا دستگیر شده اند، نسبت داد كه ۴۰ درصد از آنان
ACLU نگران اشتباهات خطرناك سیستم هوش مصنوعی(AI) است كه در تشخیص افراد رنگین پوست اختلال دارد.
این آزمایش سبب شد كه اعضای قانون گذار كنگره، نامه هایی را برای “جف بزوس” بنیانگذار و مدیر عامل آمازون و سازمان های اجرای قانون ارسال نمایند.
سناتور ادوارد ماركی و لوئیس گوتیرز و مارك دسالنیر نامه ای به بزوس فرستادند و با اشاره به نتایج آزمایش اخیر ACLU، خواهان توقف این سیستم و همینطور عرضه جزئیاتی در مورد جایی كه این فناوری هم اكنون در حال استفاده است، شدند.
سه سناتور دیگر هم یك نامه به دفتر رئیس پلیس نوشتند و خواهان بازنگری ۳۹ آژانس انتظامی شدند كه این سیستم در آنها مورد استفاده قرار گرفته است.
سناتورها می گویند همانطور كه فناوری تشخیص چهره سهولت دسترسی را به ارمغان آورده و دقت را افزایش داده و هزینه ها را كاهش داده است، ما درك می نماییم كه بعنوان یك ابزار اجرای قانون، جذاب است. با این حال، این تكنولوژی با خطرات ذاتی، همچون صدمه رساندن به حق مردم آمریكا در مبحث حریم خصوصی و همینطور تعصب نژادی و جنسیتی روبرو است.
كنگره در انجام نقش نظارتی خود، شناخت بهتر از میزان استفاده از این فناوری های جدید در سازمان های اجرای قانون را مهم می داند.
“ACLU” آزمون خویش را با سیستم تشخیص چهره كه در سایت آمازون در دسترس عموم قرار دارد، انجام داد.
این سازمان، یك پایگاه داده و ابزار جستجو را با ۲۵ هزار عكس مجرمان دستگیر شده ساخت و سپس هر عضو فعلی كنگره و مجلس سنا را در معرض آزمایش این سیستم تشخیص چهره قرار داد.
در نهایت، این سیستم ۲۸ مطابقت نادرست را انجام داد.
“ACLU” در بیانیه خود نوشت: متاسفانه اشتباهات بیشتر در مورد افراد رنگین پوست، شامل ۶ عضو سیاهپوست كنگره صورت گرفت.
این نخستین نقص شناسایی شده در مورد سیستم “Rekognition” نیست، چون كه در ماه گذشته، چندین سهامدار آمازون هم خواهان توقف این سیستم شده بودند.
سهامداران در نامه ای اظهار داشتند: در حالیكه “Rekognition” به منظور ارتقای بعضی از فعالیت های اجرای قانون توسعه یافته باشد، اما ما عمیقا نگران هستیم كه در نهایت باعث نقض حقوق مدنی و حقوق بشر شود. ما نگرانیم كه این فناوری به صورت غیرمنصفانه و نامتناسب مورد استفاده قرار بگیرد و افراد رنگین پوست و مهاجران را مورد هدف قرار دهد.
