چگونه آمازون مهلت قانونی تشخیص چهره تکنولوژی های مختلف از آی بی ام و مایکروسافت


Jeff Bezos gestures with both hands while sitting in front of a light blue screen.

آمازون جف بزوس صحبت می کند در 70 فضانوردان بین المللی کنگره در واشنگتن Oct. 22, 2019.

مندل فا نگن/گتی ایماژ

فقط دو هفته پیش تشخیص چهره تکنولوژی غیر قابل توقف به نظر می رسید. در آغاز این سال, برای مثال, اخبار, گزارش های بازیگران, نور مخفی شرکت Clearview AI که خراشیده سایت های رسانه های اجتماعی برای, عکس برای ساخت بیش از 3 میلیارد عکس در پایگاه داده به فروش می رسد به اجرای قانون است. پس از آن آمد یک دریا تغییر: روز دوشنبه در نامه ای به کنگره, IBM اعلام توقف فروش “هدف کلی” نرم افزار تشخیص چهره. روز شنبه, آمازون اعلام کرد یک سال مهلت قانونی پلیس با استفاده از آن Rekognition فناوری با اجرای قانون دعوت کنگره به “در محل قرار داده قوی تر مقررات حاکم بر اخلاقی” استفاده از تکنولوژی. آمازون در بیانیه خود گفت که “کنگره به نظر می رسد آماده است تا در این چالش” با اشاره به فشار برای ایجاد تغییرات اساسی به ایالات متحده در اجرای قانون پس از کشتن جورج فلوید توسط مینیاپولیس پلیس و اجرای قانون آمرانه و خشونت آمیز در واکنش به سیاه و سفید زندگی می کند ماده تظاهرات. و در روز پنج شنبه, مایکروسافت پیوست جمعیت گفت: ممنوعیت اجرای قانون از با استفاده از تکنولوژی شناسایی چهره.

برای کسانی از ما که به مدت طولانی مشغول به کار بر روی تکنولوژی و حریم خصوصی این پیشرفت های هیجان انگیز. اما آنها افزایش دو سوال اساسی. ما در واقع آماده به صحبت در مورد نژادی و عدالت اجتماعی در رابطه با تکنولوژی ؟ و: چه باید پایه و اساس این مکالمه—و بالقوه مقررات—بود ؟

آی بی ام تصمیم گیری شده است ملاقات با بدبینی. منتقدان تاکید می کند که این شرکت نمی پیشرو فروش تشخیص چهره تکنولوژی و کوچک شکاف سمت چپ توسط خروج آن خواهد شد پر از غیر شرکت های ایالات متحده در حال حاضر بی سر و صدا حمل و نقل ابزار به ادارات پلیس. بعلاوه, آنها اشاره, قفسه بندی, تشخیص صورت به تمرکز بر محاسبات ابری می تواند در نهایت به کمک IBM سهام. دیگر مفسران استدلال می کنند که آسیب انجام شده با استناد به IBM قبلی قرارداد با اجرای قانون است. آمازون اعلام به توقف پلیس با استفاده از Rekognition برای یک سال مواجه شده است و حتی بیشتر شک و تردید. بسیاری از آزادی های مدنی فعالان و سازمان های که به چالش کشیدن آمازون نظارت فن آوری برای سال ها استدلال می کنند که آمازون باید خود به گسترش مهلت قانونی تا زمانی که کنگره با تصویب یک قانون تنظیم تشخیص چهره تکنولوژی. علاوه بر این آمازون اعلام می آید بر روی پاشنه از فشار در حال رشد از سرمایه گذاران خود را برای محدود کردن و یا ممنوعیت تشخیص صورت فن آوری.

در حالی که برخی از شک و تردید در مورد این فن آوری شرکت با تغییر ناگهانی قلبی است که در واقع توجیه این بدان معنا نیست که آن را باید به عنوان. این یک گام است که می رود فراتر از اوایل عبارات “حمایت” با جنبش اعتراضی بزرگ تکنولوژی به سمت دستیابی به موفقیت فرصت برای شروع یک عقب افتاده گفتگو در مورد نژادی و عدالت اجتماعی در رابطه با فن آوری با مشارکت فعال شرکت های که تولید و فروش بسیاری از محصولات است که مضر به racialized و گروه های به حاشیه رانده شده امروز.

اگر این گفتگو است که برای موفقیت و منجر به تغییرات ملموس آن نیاز به اذعان مسائل سیستمیک است که دروغ در بنیاد تشخیص چهره و فن آوری های دیگر نه تنها بازتولید اما تقویت—نژادپرستانه ableist مرد محور ، —ساختارهای قدرت موجود در جوامع ما. طیف گسترده ای از ذینفعان باید بخشی از گفت و گو و نه فقط مهندسین و قانونگذاران: کسانی که به طور مستقیم تجربه کاستی از این تکنولوژی دانشمندان علوم اجتماعی, جامعه مدنی, حقوق بشر و کارشناسان باید بخشی از تعیین استاندارد است که به فوریت نیاز به تنظیم شود. این شامل بررسی راههای دیگر به سادگی از تعطیل از فن آوری های مورد استفاده به نقض حقوق بشر است. برای مثال شرکت های فن آوری می تواند به عنوان الگوریتمی لیگ عدالت پیشنهاد روز دیگر به طور فعال سرمایه گذاری در سازمان ها و افراد شاغل را به نور به چه فن آوری های تقویت و تداوم ساختار قدرت.

سال های بسیاری از کار پیشگامانه باعث شده است تا به این لحظه. این نتیجه رسیدند که تشخیص صورت یک مسابقه مشکل می سازد بنیادی تحقیقات انجام شده توسط شادی Buolamwini, Timnit Gebru و دبورا راجی نشان دهنده این است که های مختلف تجاری صورت به رسمیت شناختن فن آوری نشان داد که تعصب و بر اساس جنس و نوع پوست. در پی اطلاعیه اولیه از آی بی ام و, آمازون, اکثر مفسران موفق به مرجع این مهم کار انجام شده توسط زنان سیاه محققان در آوردن نژادپرستانه مشکلات از این نوع تکنولوژی به نور است. این erasure تاکید تکنولوژی چگونه درست مثل گزارش بر روی آن وجود ندارد در خلاء است. همه آن را نشان دهنده نابرابر ساختار قدرت در جامعه ما که معترضان در حال به چالش کشیدن در حال حاضر.

کوچک وجود دارد اما تفاوت قابل توجهی در رویکرد آی بی ام و مایکروسافت و آمازون از سوی دیگر. در این صورت از آن آمازون درخواست برای تنظیم به نظر می رسد بتن بیشتر از آی بی ام برای “گفتگوی ملی.” در حالی که IBM با بیان موقعیت خود با اشاره صریح به عدم نقض “حقوق اساسی بشر و آزادی های” آمازون دعوت به کنگره تنها اشاره به “اخلاقی” استفاده از آن را خروج از حقوق بشر در چارچوب خارج از تصویر. در روز پنج شنبه, مایکروسافت در زمان IBM حقوق بشر موضع یک گام بیشتر با این ادعا آن را نمی خواهد به فروش برساند تشخیص چهره تکنولوژی مگر وجود دارد “یک قانون ملی در محل ریشه در حقوق بشر” به حکومت آن است. این مهم است که به عنوان بین المللی حقوق بشر در چارچوب نه تنها مجموعه استانداردهای روشن (حقوق) آن را نیز مشخص می کند وظایف و مسئولیت هایی است که با آن می آیند و وجود مکانیسم های موجود برای به اجرا درآوردن آن است. این واقعا اصول مهم برای حفاظت از افراد در برابر آسیب های قدرتمند بازیگران. وجود دارد در حال اجرا بحث در حقوق در مقابل اخلاق در تنظیم تکنولوژی با بسیاری از این استدلال که شرکت ها ترجیح می دهند دومی به دلیل آنها نمی خواهند به موضوع خود را به یک ملموس سطح بالایی از پاسخگویی. آن طراوت است که آی بی ام است که مایل به این مرحله.

ما در یک جهان که در آن معترضان نه تنها به طور معمول surveilled اما در آن داده ها-ابزار محور گنجانیده شده به سیاست های عمومی تصمیم گیری مانند است که دسترسی به مسکن و سرپناه است که مظنون به داشتن متعهد رفاه و یا مزایای تقلب برای چه مدت یک متهم باید محکوم و هنگامی که خدمات اجتماعی باید اقدامات خود را در برابر یک خانواده است. شرکت هایی مانند آی بی ام و مایکروسافت و آمازون در حال شیوه های ساخت و ساز سیاست و ابزار در مناطقی که به طور سنتی سقوط در منحصر به فرد معاف از نهادهای عمومی و ادارات دولتی. بدن و ادارات که معمولا به قوانین است که اطمینان حاصل شود آنها عمل قانونی نسبتا و قابلیت با حقوق بشر است. در عین حال که از هم اکنون شرکت های فن آوری به موضوع نیست همان مکانیسم های پاسخگویی. قرار دادن کار خود را در حقوق بشر قاب مهم اذعان است که آنچه این شرکت انجام می دهند تاثیر گذار است از نظر قانونی قابل اجرا حقوق و که آن را نیز باید طلبه را به عنوان چنین است.

جاده به مسئولیت پذیری کامل برای شرکت های با تکنولوژی طولانی خواهد بود و ما نیاز به مانیتور آی بی ام, آمازون, مایکروسافت و دیگران که (امیدوارم) دنبال کت و شلوار برای دیدن اگر آنها زندگی می کنند تا وعده های خود را. اما تصمیمات خود را—به خصوص که از IBM که برای اولین بار آمد—هنوز هم ستوده است. اگر تا کنون وجود دارد حرکت به این به بیش از یک روابط عمومی ورزش و شروع به داشتن نژادی و عدالت اجتماعی مکالمات ما نیاز به در مورد فن آوری از جمله در اجرای قانون زمینه با همه ذینفعان از جمله شرکت های در حال حاضر است.

Future Tense یک مشارکت
تخته سنگ جدید امریکا و دانشگاه ایالتی آریزونا که به بررسی فن آوری های نوظهور, عمومی, سیاست و جامعه است.

tinyurlis.gdclck.ruulvis.netshrtco.de

ایندکسر

خرید کتاب زبان اصلی