به رغم اعتراضات و ادعاهایی که در زمینه بی عدالتی وجود دارد، مدیر عامل شرکت AWS طی گزارشی به کارمندان خود اعلام کرد که به فروش تشخیص چهره برای اجرای قانون ادامه خواهد داد. همچنین ایشان در جلسه کارکنان خود افزود: “ما واقعا احساس عالی و قوی در مورد ارزش شناخت مشتریان آمازون جهت هرینه برای انواع صنایع در اجرای قانون را داریم .”
کارکنان غول های Silicon Valley از جمله آمازون، مایکروسافت و گوگل از رهبران خود خواستند که امضای هرگونه قرارداد که در آن از فن آوری آنها می توان سوء استفاده کرد خودداری کنند – چه به طور بالقوه مضر برای جامعه و یا برای استفاده در ظرفیت نظامی-.
در ماه جولای، انتشارات AI News در مورد یافته های ACLU (اتحادیه آزادی های مدنی آمریکا) گزارش داد که نرم افزار تشخیص چهره آمازون که نامزدهای اعتراضی سیاه پوست کنگره را به عنوان مجرمان در آزمون اعضای کنگره تشخیص داد، برای دیدن اینکه آیا آنها با داده های پایگاه داده mugshots مطابقت دارند یا خیر.
Jacob Snow، دادستان حقوق فناوری و آزادی های مدنی در بنیاد کالج شمالی کاليفرنيا، گفت: “آزمایش ما این مساله را که مراقبت از چهره برای استفاده دولتی امن نیست تقویت میکند. نظارت بر صورت برای استفاده از نظارت و نظارت تبعیض آمیز استفاده می شود که جوامع رنگی، مهاجران و فعالان را هدف قرار می دهد. پس از انحلال، این آسیب را نمی توان نادیده گرفت. ” دکتر مت وود، سرپرست یادگیری عمیق و AI در AWS، در مورد یافته های ACLU، مقاله ای در وبلاگ خود نوشت: “آستانه اطمینان پیش فرض برای API های تشخیص چهره در Recognition 80٪ است، که برای مجموعه گسترده ای از موارد استفاده عمومی (مانند شناسایی افراد مشهور در رسانه های اجتماعی یا اعضای خانواده که در برنامه های عکس به طور یکسان نگاه می کنند) مفید است، اما درست نیست تنظیمات مورد استفاده برای استفاده از ایمنی عمومی هم استفاده شود. آستانه اطمینان 80٪ که توسط ACLU استفاده می شود بسیار پایین است تا از شناسایی دقیق افراد اطمینان حاصل شود. ما انتظار داریم که در این سطح اطمینان، مثبت کاذب (false positives)را ببینیم. ” آقای وود نمونه موردی از تست خود را ارائه داد که در آن، با استفاده از یک مجموعه داده از بیش از 850،000 چهره که معمولا در دانشگاه استفاده می شد، این شرکت علیه عکاسی عمومی همه اعضای کنگره آمریکا به روش مشابه به ACLU جستجو کرد. با استفاده از 99 درصد سطح اطمینان، میزان اشتباه در شناسایی، با وجود مقایسه با تعداد بیشتری از چهره ها، به صفر کاهش یافته است.
در اوایل سال جاری، برخی از کارکنان گوگل در اعتراض به قرارداد دفاعی پروژه Maven منتسب به شرکت پنتاگون ترک کردند. گوگل از آن زمان اعلام کرده است که قرارداد را تمدید نخواهد کرد و این کار را در آینده انجام نخواهد داد. این که آیا برخی از آمازونیان تصمیم به ترک اعتراض خواهند داشت یا خیر، دیده می شود. استدلال می شود که این تکنولوژی به یک یا چند راه توسعه داده می شود و بیشتر پیشرفت های تکنولوژیکی می تواند برای آسیب مورد استفاده قرار گیرد. حداقل کسانی که در آمازون اقامت دارند، بدین معنی است که می توانند به هدایت این پروژه کمک کنند، برای شفافیت تلاش کنند و از اخلاقیات استفاده کنند. این شاید بهترین است که می توانیم برای جلوگیری از تبدیل شدن به یک وحشت کامل در آینده، امیدوار باشیم.
