آی بی ام می گوید: از آن متوقف خواهد شد در حال توسعه صورت به رسمیت شناختن فناوری با توجه به تعصب نژادی


A man talks on his cellphone while walking in front of a giant IBM logo

CeBIT نمایشگاه در هانوفر آلمان در تاریخ 5 مارس 2008.

جان Macdougall/گتی ایماژ

نرم افزار تشخیص چهره است که هیچ اگر نه خطاپذیر. در 2019 در موسسه ملی استاندارد و فناوری نشان داد این کار را با مطالعه در A. I. سیستم های مورد استفاده توسط ادارات پلیس برای شناسایی متهم جنایتکاران. این مطالعه نشان داد که این الگوریتم به دروغ شناسایی و چهره های 10 تا 100 برابر بیشتر از قفقازی مواجه است. آنها misidentified آمریکایی های بومی در نرخ حتی بالاتر. آن است که این نوع یافته است که منجر فعالان به تماس برای ممنوعیت تشخیص چهره تکنولوژی و فن آوری شرکت به منظور توسعه محصولات مانند. که جنبش را به ثمر رساند پیروزی در دوشنبه زمانی که آی بی ام مدیر عامل Arvind کریشنا اعلام کرد در نامه ای به کنگره است که این شرکت دیگر نمی خواهد به توسعه تحقیقات و یا فروش تکنولوژی شناسایی چهره.

“آی بی ام قویا مخالف و نه چشم پوشی از استفاده از هر تکنولوژی از جمله تشخیص چهره تکنولوژی ارائه شده توسط فروشندگان دیگر برای توده نظارت پروفایل نژادی و نقض حقوق اساسی بشر و آزادی و یا هر هدف است که سازگار با ارزش ها و اصول اعتماد و شفافیت” کریشنا نوشت. “ما اعتقاد داریم در حال حاضر زمان برای شروع یک گفتگوی ملی در مورد اینکه آیا و چگونه تشخیص چهره تکنولوژی باید شاغل داخلی سازمان های اجرای قانون.”

در سال 2018 پژوهش از دانشمندان کامپیوتر Timnit Gebru و شادی Buolamwini شده اند که رهبران در بحث نژادی عدالت و هوش مصنوعی نشان داد که وسعت تعصب در سراسر نرم افزار تشخیص چهره از جمله سیستم های آی بی ام. در همین سال اتحادیه آزادی های مدنی آمریکا نشان داد که آمازون صورت به رسمیت شناختن برنامه Rekognition عدم تطابق 28 اعضای کنگره به چهره از mugshots.

در عین حال این نوع از فن آوری است که در حال حاضر در حال استفاده است. در ماه ژانویه به عنوان مثال یک شرکت به نام Clearview AI آمد زیر آتش برای بازاریابی آن صورت به رسمیت شناختن برنامه به سازمان های اجرای قانون. ابزار قدرتمند اجازه ایالتی ایندیانا پلیس برای پیگیری کردن یک تیراندازی مشکوک در فقط 20 دقیقه بر اساس فیلم از اطرافیان تلفن. (مدیر عامل شرکت Clearview AI گفته است که این شرکت با متمم اول قانون اساسی حق خراش مردم تصاویر از در دسترس عموم وب سایت است.)

در توییتر منتقدان تشخیص چهره تکنولوژی تشویق آی بی ام تصمیم.

در نامه خود کریشنا نیز استدلال کرد که کنگره باید تجدید نظر در سیاست های است که مردم را از دنبال خسارت هر زمان که پلیس خود را نقض حقوق اساسی. “جدید قوانین فدرال باید نگه پلیس بیشتر پاسخگو برای سوء” کریشنا نوشت. این نامه به پایان رسید و با تعهد به فرم بیشتر مسیر برای همه به خصوص مردم رنگ به منظور توسعه مهارت های قابل عرضه در بازار. به این منظور آی بی ام می گوید که امیدوار است کنگره را گسترش خواهد برنامه هایی مانند P-Tech و فدرال پل کمک.

Future Tense یک مشارکت
تخته سنگ جدید امریکا و دانشگاه ایالتی آریزونا که به بررسی فن آوری های نوظهور, عمومی, سیاست و جامعه است.

tinyurlis.gdclck.ruulvis.net

ایندکسر

خرید کتاب زبان اصلی