آمازون بخش اعظمی از سرمایه‌گذاری و انرژی خود را به هوش مصنوعی و فناوری‌های وابسته اختصاص می‌دهد. آن‌ها اکنون ادعا می‌کنند که سیستم تشخیص چهره با قابلیت شناسایی ترس در چهره‌ی افراد توسعه داده‌اند. نرم‌افزار تشخیص چهره‌ی غول تجارت الکترونیک به‌نام Rekognition شناخته می‌شود که ابزارهای متنوعی را با هدف شناسایی، تحلیل و تشخیص چهره در عکس و فیلم عرضه می‌کند. نرم‌افزار مذکور یکی از چندین سرویسی است که آمازون در زیرساخت ابری Amazon Web Services به توسعه‌دهنده‌ها ارائه می‌کند.

توانایی تشخیص حالات روحی افراد پیشرفت بسیار بزرگی در حوزه‌ی تشخیص چهره محسوب می‌شود. آمازون امروز ادعا می‌کند که دقت تشخیص احساسات را در سیستم خود افزایش داده است. طبق گفته‌ی آن‌ها، هفت حالت روحی شاد، غمگین، عصبانی، شگفت‌زده، متنفر، آرام و سرگردان توسط سیستم تشخیص چهره شناسایی می‌شوند. به‌علاوه توانایی تشخیص جنسیت هم در سیستم جدید آمازون بهبود می‌یابد.

به‌روزرسانی نرم‌افزار تشخیص چهره‌ی آمازون هفته‌ی پیش انجام شد. دلیل اولیه‌ی به‌روزرسانی، اضافه کردن قابلیت تشخیص محتوای خشونت‌آمیز و توهین‌آمیز بود. درواقع مهندسان شرکت تلاش کردند تا تشخیص مواردی همچون خون، زخم، سلاح، آسیب به خود، جسد و موارد توهین‌آمیز جنسی را به سیستم اضافه کنند. 

فناوری بحث‌برانگیز تشخیص چهره

شاید توانایی تشخیص ترس در چهره‌ی افراد و تصاویر، در نگاه اول مفید به نظر برسد. به‌عنوان مثال می‌توان از آن در موارد کاربردی امنیتی بهره برد. از طرفی با خواندن احساسات چهره‌ی افراد، ریسک مواردی همچون تشخیص اشتباه مجرمان افزایش می‌یابد. به‌علاوه نباید احتمال تبعیض نژادی و حتی تصمیم‌گیری‌های نژادپرستانه را نادیده گرفت. درنهایت فراموش نکنید که یک سیستم یادگیری ماشین، حداکثر به خوبی داده‌هایی عمل می‌کند که به آن تزریق می‌شوند.

توسعه‌ی فناوری هوش مصنوعی توسط غولی همچون آمازون، دقیقا زمانی انجام می‌شود که مخالفت‌های متعددی از سوی فعالان حقوق بشر و قانون‌گذاران مطرح می‌شود. آن‌ها نگرانی‌هایی را پیرامون تشخیص‌های اشتباه سیستم تشخیص چهره بیان می‌کنند که در برخی اوقات منجر به دستگیری‌های غلط در موارد قانونی می‌شود.

سیستم تشخیص چهره‌ی آمازون مبتنی بر هوش مصنوعی توسعه‌ی قابل‌توجهی در سال‌های گذشته داشته است. از طرفی انتقادهای شدیدی هم به آن‌ها می‌شود؛ چرا که در یکی از موارد آزمایشی، سیستم چهره‌ی ۲۸ عضو کنگره‌ی آمریکا را با مجرمان امنیتی اشتباه گرفت. از رفتارهای بحث‌برانگیز دیگر آمازون در فناوری‌های تشخیص چهره و نظارت تصویری می‌توان به تصمیم جدید شرکت زیرمجموعه‌ی آن‌ها یعنی Ring اشاره کرد. شرکت مذکور در بازار نظارت خانگی فعالیت می‌کند و در حال مذاکره با مقام‌های قانونی است تا شهروندان را به اشتراک تصاویر دوربین‌های خود تشویق کند.

مشکلات اخلاقی آمازون

نرم‌افزار Rekognition بارها توسط سازمان‌های قانونی در ایالات متحده استفاده شده است که انتقادهای زیادی را هم به‌همراه داشت. در این‌ میان حتی برخی سازمان‌های پلیسی نگران شدند که استفاده از ابزار آمازون موجب افزایش انتقادها و نگرانی‌ها پیرامون نظارت عمومی بر مردم شود. به‌عنوان مثال نیروهای پلیس در دپارتمان منطقه‌ی اورگان درباره‌ی استفاده از سیستم‌ تشخیص چهره گفتند:

ما سیستم را تنها برای شناسایی افراد از میان تصاویری استفاده می‌کنیم که از سوی دفتر مرکزی ارسال شده‌اند. منتهی این تصور ایجاد می‌شود که پلیس با بررسی تمامی فیلم‌ها و عکس‌ها، روند نظارتی جامعی را بر مردم پیاده‌سازی می‌کند.

با وجود تمام اظهارنظرها و تکذیب‌ها، نگرانی‌ پیرامون سوء استفاده از سیستم تشخیص چهره‌ی آمازون همیشه وجود دارد. به‌عنوان مثال غول تجارت الکترونیک هیچ‌گاه همکاری با اداره‌ی اعمال مهاجرت و گمرک ایالات متحده را تأیید نکرده است. ازطرفی طبق اظهارنظرهای فعالان آزادی حقوق بشر در آمریکا، آمازون فناوری خود را برای سازمان‌ها معرفی کرده‌ است؛ رویکردی که موجب اعتراض شدید فعالان حقوق بشر و حتی همکاران خودشان شد.

اتحادیه‌ی آزادی‌های شهروندی آمریکا نگرانی خود را از سوء استفاده از فناوری آمازون به‌صورت جدی اعلام می‌کند. آن‌ها به شرکت فشار می‌آورند تا فناوری مذکور را به هیچ وجه در اختیار دولت‌ها قرار ندهد. به‌ هر حال با وجود احتمالی که کارشناسان متعدد به سوء استفاده از فناوری تشخیص چهره در سیستم‌های نظارت عمومی می‌دهند، آمازون همه‌ی آن‌ها را رد می‌کند. شرکت ادعا می‌کند که هیچ نفوذی به حریم خصوصی افراد صورت نمی‌دهد. آن‌‌ها در اظهارنظر پیرامون نگرانی‌های فناوری می‌گویند:

اگر فناوری‌های جدید را غیر قانونی اعلام کنیم، کیفیت و شرایط زندگی مردم بسیار دشوار می‌شود. چرا که برخی افراد به‌ هر حال به‌دنبال استفاده‌ی غیر قانونی از فناوری‌ها خواهند بود.

نرم افزار تشخیص چهره آمازون، ۲۸ عضو کنگره را مجرم تشخیص داد

اتحادیه‌ی آزادی‌های مدنی آمریکا (ACLU) کالیفرنیا نرم‌افزار تشخیص چهره‌ آمازون را در شناسایی ۵۳۵ نفر از اعضای کنگره به کار گرفت. در بررسی انجام‌شده توسط این اتحادیه، ۲۵ هزار عکس وجود داشت که با اهدافی خاص گرفته شده بودند و عکس‌هایی از افراد مظنون و مشکوک هم در بین آنها بود. نتایج آزمون ACLU نشان داد که از بین ۵۳۵ نفر اعضای کنگره، نرم‌افزار ۲۸ نفر را مجرم مظنون تشخیص داده است. شایان ذکر است این تست برای ACLU تنها ۱۲.۳۳ دلار هزینه در برداشت.

از بین عکس‌هایی که نرم‌افزار باید تشخیص می‌داد، در مجموع ۲۸ نفر از اعضای کنگره به اشتباه شناسایی شدند و نرم‌افزار اعلام کرد که این ۲۸ نفر مشکوک و مجرم شناسایی شده‌اند. از بین این تعداد، ۱۱ نفر از اعضای کنگره، سفید‌پوست نبودند. براساس بررسی‌های انجام‌شده، فناوری تشخیص چهره ممکن است دقت کمتری در شناسایی افرادی با پوست تیره و زنان داشته باشد.

در کل، با توجه به نتایج به‌دست‌آمده، نرم‌افزار تشخیص چهره‌ی آمازون در شناسایی افراد سفیدپوست ۵ درصد خطا و در شناسایی افراد با پوست‌های رنگی، ۳۹ درصد خطا را نشان می‌دهد. در میان افرادی که به اشتباه شناسایی شده‌اند، ۶ نفر اعضای اصلی کنگره سیاه‌پوستان (Congressional Black Caucus)‌ بودند که ماه ژوئن پس از انتشار اسناد ACLU به‌صورت داخلی، نامه‌ی سرگشاده‌ای به جف بزوس مدیرعامل آمازون نوشتند و نگرانی خود را در مورد استفاده از نرم‌افزار Rekognition توسط پلیس مطرح کردند. 

Amazon در تلاش است تا بتواند سازمان‌های مجری قوانین را به استفاده از نرم‌افزار تشخیص‌ چهره‌ی Rekognition تشویق کرده و آنها متقاعد نماید برای تشخیص هویت از این نرم‌افزار استفاده کنند. در پی تلاش‌های آمازون، اخیرا پلیس اورلاندو تصمیم گرفته که فناوری تشخیص چهره‌ی آمازون را به‌کار گیرد. در پست وبلاگی، ACLU در کالیفرنیای شمالی در مورد تبعات سنگین تشخیص چهره‌ی اشتباه توضیحاتی مطرح کرد. گاهی تشخیص‌ چهره نادرست می‌تواند تبعات سنگین و مرگباری برای افراد داشته باشد. این موضوع خصوصا برای شهروندانی که پوست‌های رنگی دارند، بسیار نگران‌کننده است. اتحادیه‌ی ACLU معتقد است:

اگر مجریان قانون، از فناوری تشخیص چهره آمازون استفاده کنند و سیستم به اشتباه فردی را مظنون به حمل اسلحه شناسایی کند، این اشتباه سیستمی می‌تواند برای آن فرد تبعات سنگینی در برداشته باشد.

آمازون نیز نسبت به نتیجه‌گیری اتحادیه‌ی آزادی‌های مدنی آمریکا سکوت نکرد و در بیانیه‌ای در مورد نرم‌افزار تشخیص چهره توضیح داد و اضافه نمود که به‌دنبال راهکارهایی برای بهبود و توسعه‌ی فرآیند تشخیص چهره است. آمازون به سازمان‌های مجری قانون که از نرم‌افزار تشخیص چهره آمازون استفاده می‌کنند، اعلام کرد که هنگام تصمیم‌گیری در مورد مظنونان، خطای ۵ درصدی سیستم باید در نظر گرفته شود.

آمازون معتقد است ضریب خطای سیستم تشخیص چهره ۵ درصد است و روی صحت نتایج ۹۵ درصدی می‌توان اعتماد کرد. هرچند در اجرای قوانین، نمی‌تواند چنین درصدهایی را طبق قانون و مقررات در نظر بگیرد و اساس چنین الزامات قانونی وجود ندارد تا سازما‌ن‌های مجری قانون بتوانند چنین رویکردهای را در پیش بگیرند. از سوی دیگر طبق گزارش‌های منتشرشده از سوی پلیس جنوب ولز در انگلستان، میزان دقت سیستم ۹۰ درصد است. اما آمازون در بیانیه‌ای اعلام کرد: 

تاکنون کاربران بسیاری از قابلیت‌ها و توانایی‌‌های تجزیه‌وتحلیل تصاویر و ویدئوها با کمک فناوری تشخیص چهره آمازون بهره‌مند شده‌اند. در شرایط مختلف اعم از جلوگیری از قاچاق انسان، قاچاق کودکان، سوء استفاده از کودکان، بازگرداندن کودکان گم‌شده به خانه‌هایشان، استفاده در برنامه‌های آموزشی و ... کاربرد داشته است. همچنین سازمان‌های امنیتی نیز برای احراز هویت چندعاملی، پیدا کردن تصاویر موردنظر، جلوگیری از سرقت بسته‌ها از آن استفاده می‌کنند. تجزیه‌وتحلیل تصاویر و ویدئوها می‌تواند هم به‌صورت عمومی و هم برای اجرای قانون کاربرد داشته باشد.

نتایج آزمایش اخیری که توسط ACLU روی فناوری تشخیص چهره‌ی آمازون به‌نام Rekognition انجام شده است، به‌خوبی نشان می‌دهد که نرم‌افزار تشخیص چهره‌ی آمازون در محدوده‌ی مشخص‌شده و با توجه به ضریب خطای تعریف‌شده عملکرد درستی از خود نشان داده است. ما در تلاش هستیم آستانه‌ی اعتمادپذیری نرم‌افزار را بهبود بخشیم ولی در شرایط فعلی نیز، عملکرد سیستم، مطابق انتظاری که از آن می‌رفت بوده است. سیستم تشخیص چهره آمازون با دقت ۹۵ درصدی به شناسایی و تشخیص هویت می‌پردازد و حین استفاده از آن باید به خطای ۵ درصدی توجه کرد. هنگام استفاده از فناوری تشخیص چهره برای فعالیت‌های مربوط به اجرای قانون، آستانه‌ی اطمینان‌پذیری نرم‌افزار حداقل ۹۵ درصد یا بالاتر درنظر گرفته شده است که باید بدان توجه کرد.

بیشتر بخوانید:هوش مصنوعی فرشته نجات انسان ها نیست

در نهایت، لازم به ذکر است که در موقعیت‌های واقعی، فناوری تشخیص چهره آمازون به کاربران کمک می‌کند تا با سرعت بیشتری بتوانند به بررسی گزینه‌های موردنظر خود و شناسایی فرد خاطی یا فردی که به‌دنبال آن هستند بپردازند. این نرم‌افزار برای یافتن قاچاقچیان انسان و کودکان گمشده و برای جلوگیری از جرم و جنایت می‌تواند بسیار مفید و موثر عمل کند و دایره‌ی جستجو را  محدودتر می‌کند که از این حیث بسیار قابل استفاده و کاربردی است. 

گرداورنده:معین کرمی