گوگل هفته گذشته از دستگاه جدید خود در حوزهی خانههای هوشمند رونمایی کرد. نست هاب مکس، صفحهنمایشی هوشمند بوده که به دوربین و اسپیکر نیز مجهز است. این دستگاه قابلیتی بهنام دکمهی غیرفعالسازی (Kill Switch) دارد که امروزه در کمتر دستگاهی شاهد آن هستیم. کاربر با استفاده از این کلید، بهصورت فیزیکی دوربین و میکروفن دستگاه را قطع میکند. درنتیجه گوگل تنها در زمان تصمیم و تمایل کاربر، توانایی شنیدن یا دیدن رخدادها را خواهد داشت.
دکمهای که گوگل در دستگاه خود استفاده خواهد کرد، شبیه به دکمههای عادی الکتریکی، منتهی با کمی طراحی مدرنتر است؛ دکمهای که بهعنوان ابزاری فیزیکی برای غیرفعال کردن آسان حسگرهای دستگاه به کار میرود. بهنظر میرسد شرکتهای فناوری درمیان رخدادهای گوناگون فاش شدن اطلاعات کاربران و نقض حریم خصوصی، بهدنبال راهی برای افزیش اطمینان خاطر آنها باشند.
غولهای دنیای فناوری همچون گوگل، آمازون و اپل تلاش میکنند تا با قابلیتی ساده و فیزیکی، توجه خود را نسبتبه نگرانیهای کاربران نشان دهند. برخلاف قابلیتهای نرمافزاری که کاربر را به کندوکاو در تنظیمات گوناگون برای پیدا کردن قابلیت مورد نظر مجبور میکند، استفاده از دکمههای سختافزاری بسیار آسانتر است. درواقع مسیر کاربر برای جلوگیری از مشاهدهی اطلاعات توسط شرکت سازنده، سادهتر میشود. کلیدهای فیزیکی، تجربهای ملموس از عدم نظارت توسط شرکتها به کاربران میدهند.
کلیدهای سختافزاری جدید را نمیتوان راهکاری عالی برای دستگاههای هوشمند امروزی دانست، چرا که با استفاده از کلیدها، بهنوعی دستگاه بلااستفاده میشود. لری سنگر، از بنیانگذاران ویکیپدیا و مدیر ارشد اطلاعات سرویس بلاکچینی Everipedia اعتقاد دارد دکمههای سختافزاری هنوز راه زیادی در پیش دارند. او میگوید چنین قابلیتهایی خصوصا در تلفنهای همراه (بهعنوان مهمترین ابزارهای حساسیتبرانگیز درمورد حریم خصوصی) هنوز کاربرد چندانی ندارند.
با وجود همهی مشکلات، شرکتهای بیشتری روزبهروز به طراحی کلیدهای سختافزاری خاموش کردن حسگرها روی میآورند. البته درحالحاضر اکثر برنامهها در بازار دستگاههای مرتبط با خانههای هوشمند انجام میشود.
گوگل در دستگاه نست هاب مکس خود کلیدی برای خاموش کردن دوربین و میکروفن دارد. تمام دستگاههای دیگر این شرکت در خانوادهی خانهی هوشمند (به جز دوربینهای امنیتی نست)، دوربین ندارند و دکمهی مذکور، تنها میکروفن را غیرفعال میکند. بهگفتهی گوگل، مسائل امنیتی دلیل قرار ندادن دکمهی غیرفعالسازی حسگرها در دوربینهای نست است، اما کاربران میتوانند ازطریق اپلیکیشن مربوطه، ضبط صدا و ویدئو را در دوربینها نیز غیرفعال کنند. آمازون هم میگوید خانوادهی دستگاههای خانهی هوشمندش متشکل از اکو، اکو دات و اکو شو، همگی دکمههای غیرفعالسازی برای خاموش کردن میکروفن دارند.
دکمههای غیرفعالسازی سختافزاری، راهکاری آسان برای قطع دسترسی حسگرها هستند
روند استفاده از دکمههای غیرفعالسازی در دستگاههای هوشمند از سال ۲۰۱۸ به لپتاپها هم کشیده شد. بهعنوان مثال، اچپی در نسخهی جدید لپتاپ اسپکتر خود، دکمهای برای غیرفعالسازی وبکم قرار داد. اپل هم اعلام کرد که در جدیدترین نسخههای مکبوک ایر و مکبوک پرو، با بسته شدن لپتاپ، دوربین و میکروفن قطع میشوند. البته این قابلیت با دکمهی غیرفعالسازی تفاوت دارد، چرا که کاربر نمیتواند در زمان باز بودن لپتاپ، دوربین و میکروفن را قطع کند.
روندهای بالا از سوی غولهای فناوری، بهنوعی دنبالهروی عملکرد شرکتی کوچک بهنام Purism بوده است که در سال ۲۰۱۴ تأسیس شد. پوریسم دو نوع لپتاپ لینوکس میفروشد که دو دکمهی متفاوت دارند. یکی از دکمهها دوربین و میکروفن را غیرفعال کرده و دیگری جریان برق به وایفای را قطع میکند. این شرکت در پاییز سال جاری گوشی هوشمند خود را معرفی میکند که علاوهبر دکمههای شبیه به لپتاپها، دکمهای برای قطع کردن کامل آنتن هم خواهد داشت. رویکردی که درنهایت، دکمههای غیرفعالسازی را به گوشیهای هوشمند هم میآورد.
هدف اصلی پوریسم از نصب دکمههای غیرفعالسازی در دستگاههای هوشمند، ارائهی آخرین خطوط دفاعی به کاربرانی است که نگران امنیت خود در دنیای دیجیتال هستند؛ امنیتی که دربرابر هکرها و بدافزارها و خصوصا تروجانهای مجهز به کنترل از راه دور ایجاد میشود؛ همچنین تروجانهایی که بدون اطلاع قربانی، دسترسی دوربین و میکروفن را به هکر میدهند.
دکمههای غیرفعالسازی ابتدا برای جلوگیری از سوءاستفادهی هکرها در دستگاههای هوشمند نصب شدند، اما امروز قابلیتهای اصلی محسوب میشوند که خصوصا در دستگاههای خانهی هوشمند، لپتاپها و گوشیهای هوشمند حضوری الزامی بهخاطر دلیلی ارزشمند دارند.
بهخاطر رخدادهای اخیر پیرامون فاش شدن اطلاعات شخصی کاربران و نقض حریم خصوصی از سوی شرکتهایی همچون گوگل و آمازون و غیره که منجر به دعواهای حقوقی متعددی هم شد، کاربران آگاهی بیشتری نسبت به دادههای جمعآوریشده توسط شرکتها پیدا کردهاند. البته هنوز بسیاری از افراد نمیدانند که بهعنوان مثال فیسبوک علایق آنها را دستهبندی کرده و برای نمایش تبلیغات استفاده میکند. درنهایت آگاهی کاربران در مسیر رشد قرار دارد و شرکتها باید رویکردهایی در جهت آن اتخاذ کنند.
افزایش آگاهی مردم، یکی از دلایلی است که حریم خصوصی را به مرکز توجه کمپینهای اخیر شرکتهایی همچون اپل، فیسبوک و گوگل تبدیل کرد. گوگل قبلا تأکید نمیکرد که دستگاههای اسمارت هوم شرکت دارای دکمهی غیرفعالسازی هستند. در رونمایی اخیر از نست هاب مکس، تمرکز جدی روی این قابلیت بود که شاید نشاندهندهی تغییر سیاستهای روابط عمومی غول موتور جستوجو باشد.
گوگل در سال ۲۰۱۹ اعلام کرد که کاربران میتوانند میکروفنی مخفی در دستگاه گوگل نست گارد را روشن کنند؛ میکروفنی که قبلا اطلاعاتی دربارهی آن منتشر نشده بود. کاربران از خبر جدید شوکه شدند و تصور نمیکردند میکروفنی مخفی در دستگاه وجود داشته باشد. بههرحال گوگل در بیانیهای اعلام کرد که هیچگاه تصمیم به مخفی کردن میکروفن نداشته و مخفی ماندن آن از کاربران، یک اشتباه از سوی شرکت بوده است.
شرکت پوریسم برای اولینبار از دکمههای غیرفعالسازی حسگر استفاده کرد
بلومبرگ در ماه آوریل اعلام کرد که کارمندان آمازون به همهی صحبتهای کاربران با الکسا گوش میدهند. بهعلاوه CNET گزارش داد که در صورت پاک کردن مکالمهها از حساب کاربری آمازون، باز هم شرکت متن آنها را حفظ میکند. آمازون بعدا ادعا کرد که ضبط و نگهداری مکالمهها یک باگ نرمافزاری بوده است. در سال ۲۰۱۷ گزارشی از نیویورک تایمز ادعا کرد که یک اپلیکیشن بازی، با استفاده از میکروفن دستگاه، برنامههای تلویزیونی مورد مشاهدهی کاربران را شناسایی میکند. درکنار همهی گزارشها و اخبار، تجربههای شخصی کاربران متعدد نیز نشان میدهد که از صحبتهای آنها برای نمایش تبلیغات اینترنتی استفاده میشود.
اضافه کردن دکمهی غیرفعالسازی، یک رویکرد راحت از سوی شرکتها محسوب میشود که اهمیت دادن به بحرانهای بالا را نشان میدهد. درنهایت، بهجای درخواست از کابران برای پیدا کردن تنظیمات پیچیدهی حریم خصوصی (شبیه روندی که کاربران اندرویدی برای قطع دسترسی گوگل اسیستنت به میکروفن طی میکنند)، خاموش کردن حسگرها بهآسانی فشار دادن یک دکمه خواهد بود.
آشتون یودال، یکی از مدیران محصول گوگل و ناظر پروژهی نست هاب مکس درباهی کاربردهای قابلیتهای جدید میگوید:
اگر بخواهید با هر ابزاری بهجز دکمهی غیرفعالسازی، حسگرهای دوربین و میکروفن را فعال کنید، باید قوانین فیزیک را زیر پا بگذارید.
دکمهی غیرفعالسازی در نست هاب مکس با دکمههای موجود در دیگر دستگاههای گوگل هوم تفاوت دارد؛ البته شرکت ادعا میکند که آنها هم دکمههای سختافزاری غیرفعالسازی حسگر هستند. یودال میگوید در طراحی جدید، دکمه را بهگونهای پیادهسازی کردهاند که بیشتر شبیه به دکمههای عادی باشد و کاربران راحتتر آن را پیدا کرده و عملکردش را درک کنند.
آیا دکمهها میتوانند اعتماد ازدسترفته کاربران را جلب کنند؟
وقتی دکمهی غیرفعالسازی روی نست هاب مکس فشرده شود، نوری نارنجی درکنار دوربین ظاهر میشود که نشاندهندهی عدم فعالیت آن خواهد بود. بلندگوی دستگاه نیز با پیامی به کاربر میگوید که میکروفن و دوربین غیرفعال شدند. بهعلاوه روی نمایشگر و در بخش آیکنهای دوربین و میکروفن نیز علامتهایی برای اطمینان به کاربر نشان داده میشود. یودال میگوید همهی امکانات با این هدف طراحی شدند که کاربر بهخوبی متوجه عملکرد دکمه و فعال یا غیرفعال بودن حسگرها بشود.
پوریسم نیز در محصولات خود، سادگی را بهعنوان اصل اساسی در نظر میگیرد. دکمه بهقدری ساده طراحی شده است که کاربر بدون نیاز به توضیح اضافه متوجه کاربرد آن باشد. کایل رانکین، مدیر امنیت پوریسم دربارهی طراحی میگوید:
قطع کردن جریان برق، امنیت سطح بالا محسوب میشود و همچنین بسیار آسان است. همهی مردم میتوانند بهراحتی خاموش و روشن کردن دکمهها را درک کنند.
درنهایت، استفاده کردن از دکمهی غیرفعالسازی، بسیاری از عملکردهای دستگاهها را مختل میکند. بههمین دلیل بسیاری از کاربران حتی در مواقع مهم از لحاظ حریم خصوصی، از دکمهها استفاده نمیکنند. آنها فراموشی روشن کردن مجدد و آسانتر بودن روشن نگه داشتن حسگرها را بهعنوان دلایل این کار خود بیان میکنند. درنتیجه میتوان ادعا کرد که با وجود سادگی و کاربردی بودن دکمههای غیرفعالسازی برای مسدود کردن ورودیهای حساس به حریم خصوصی، نمیتوان آنها را راهکارهایی کاربردی دانست. درواقع هنوز زمان زیادی نیاز داریم تا استقبال یا عدم استقبال کاربران از دکمههای مذکور را درک کنیم.
سنگر اعتقاد دارد هر کاربری که به داشتن دکمهی غیرفعالسازی در دستگاههای هوشمند اهمیت میدهد، از ابتدا نباید دستگاهی مجهز به میکروفن یا دوربین را به خانهی خود بیاورد. از نظر او، حتی با وجود دکمهها هم بالاخره شما گوشها و چشمهایی از شرکتهای سازنده در خانه خواهید داشت. او در ادامه میگوید:
سه حوزهی اصلی باید موضوع نگرانی افراد و سازمانها باشد: هک شدن، سوءاستفادهی سازمانی از اطلاعات مانند استخراج و فروش اطلاعات از تحلیل دادهها و هک داخلی یا نفوذ به سیستمها از سوی کارمندان.
درنهایت به موضوع اعتماد میرسیم. کاربران بالاخره دربارهی عملکرد صحیح همین دکمههای غیرفعالسازی نیز باید به شرکتهای سازنده اعتماد کنند. پوریسم برای اعتمادسازی در این بخش، عکسهایی از داخل محصولات خود منتشر میکند که نشاندهندهی ارتباط دکمهها با بخشهای سختافزاری دستگاه هستند. بههرحال، شک کاربران پدیدهای طبیعی است. رانکین دراینباره میگوید:
همهی مردم از مدتها پیش مورد سوءاستفادهی شرکتهای فناوری بودهاند. بههمین دلیل همه از موضع شک به فناوریها نگاه میکنند.
فیسبوک تماسهای صوتی کاربران را شنود میکند
فیسبوک صدها پیمانکار خارجی را استخدام کرده است تا فایلهای صوتی از تماسهای کاربران را به متن تبدیل کنند. منابع آگاه به پروژهی غول شبکههای اجتماعی این خبر را در اختیار رسانهها قرار دادند. با توجه به رویکردهای مشابه از سوی دیگر بازیگران بزرگ دنیای فناوری، چنین اقداماتی از سوی فیسوک آنچنان تعجببرانگیز نیست.
مقالههای مرتبط:بخش محرمانهی فیسبوک؛ ساختمان شماره ۸
پیمانکارهای خارجی که با فیسبوک همکاری میکنند، اطلاعی از نحوه و منبع ضبط فایلهای صوتی ندارند. آنها بدون اعلام هویت اصلی خود با رسانهها همکاری کردند تا تهدیدی برای شغلشان ایجاد نشود. این پیمانکارها به محتوای صوتی کاربران فیسبوک گوش میدهند و آن را تبدیل به متن میکنند. بسیاری از آنها گفتهاند که پیامهای صوتی حاوی انواع مکالمههای شخصی و عمومی میشود. بهعلاوه هدف از تبدیل مکالمهها به متن از سوی فیسبوک نیز برای آنها روشن نیست.
اخبار مشابه قبلا پیرامون غولهای دیگر دنیای فناوری همچون گوگل و اپل منتشر شده بود. فیسبوک در پی انتشار آن اخبار به رونویسی از پیامهای صوتی کاربران اعتراف کرده و اعلام کرده بود که این فرایند را متوقف میکند. آنها در خبری پیرامون توقف گوش دادن به محتوای صوتی کاربران نوشتند:
ما هم مانند اپل و گوگل بازبینی انسانی فایلهای صوتی را از یک هفتهی پیش متوقف کردیم.
فیسبوک ادعا میکند که رونویسی از پیامهای صوتی کاربران با اجازهی خود آنها انجام شد. طبق گفتهی شرکت، کاربران در تنظیمات پیامرسان مسنجر فیسبوک، مجوز تبدیل پیامهای صوتی خود به متن را انتخاب میکنند. شایان ذکر است پیمانکارهای شرکت در روند تبدیل پیامها به متن، تفسیر هوش مصنوعی شرکت از پیامها را هم بررسی و تأیید یا رد میکنند. البته تمامی پیامها بدون اشاره به هویت کاربران مرتبط، در اختیار پیمانکارها قرار میگیرند.
غولهای فناوی دیگر همچون آمازون و اپل به خاطر جمعآوری دادههای صوتی کاربران و استفاده از نیروی انسانی برای تفسیر و رونویسی آنها تحت انتقادهای بسیار شدید قرار گرفتند. منتقدان روشهای اجرایی شرکتها را کاملا برخلاف اصول حریم خصوصی میدانند. بلومبرگ برای اولینبار در ماه آوریل گزارش داد که آمازون به کمک هزاران پیمانکار قراردادی در سرتاسر جهان به دستورهای صوتی الکسا گوش میدهد؛ فرایندی که از نظر آنها با هدف بهینهسازی نرمافزار انجام میشود.
در اخبار بعدی مشخص شد که چنین رویکردی توسط اپل و گوگل برای بهینهسازی سیری و گوگل اسیستنت هم استفاده میشود. اپل و گوگل بلافاصله توقف برنامهها را اعلام کردند و آمازون نیز خروج از برنامه را بهعنوان گزینهای در اختیار کاربران گذاشت.
غول شبکههای اجتماعی از مدتها پیش هرگونه جمعآوری دادههای صوتی از کاربران با هدف شخصیسازی تبلیغات یا تغییر محتوای فید خبری را تکذیب کرده بود. مارک زاکربرگ که چندی پیش از سوی کمیسیون تجارت فدرال آمریکا به پرداخت پنج میلیارد دلار به خاطر رویکردهای غلط در موضوع حریم خصوصی محکوم شده بود، در جریان جلسه با کنگره هرگونه ضبط دادهی صوتی را تکذیب کرد.
زاکربرگ در جلسه با نمایندههای کنگره (آوریل ۲۰۱۸) و در پاسخ به سناتور گری پیترز گفته بود:
شما یک تئوری توطئه را مطرح میکنید که در آن، ما برای بهبود تبلیغات به آنچه در میکروفن دستگاه گفته میدهد، گوش میدهیم. ما چنین کاری انجام نمیدهیم.
فیسبوک پس از جلسهی معروف با کنگره، پاسخهایی تکمیلی را پیرامون دادههای صوتی کاربران منتشر کرد. آنها ادعا میکنند تنها زمانی به میکروفن کاربر دسترسی خواهند داشت که خود او مجوزهای لازم را به اپلیکشن داده باشد. بهعلاوه بدیهی است که در کاربردهایی مانند تماس و پیام صوتی، اپلیکیشن با کسب مجوز از کاربر از میکروفن استفاده میکند. بههرحال فیسبوک هیچگاه نگفت که پس از ضبط دادههای صوتی بعدا چه اتفاقی برای آنها رخ میدهد. تحلیلهای اقتصادی پس از ارائهی گزارش فیسبوک پیرامون حریم خصوصی، روند رشد را برای این شرکت تأیید میکنند. ارزش سهام با افزایش ۱/۶ درصدی به ۱۸۸/۳۷ دلار رسید که در ادامهی رشد ۳/۲ درصدی روزهای قبل بود.
فیسبوک و نقض حریم خصوصی
مجددا یادآور میشویم که فیسبوک هیچگاه احتمال بازیبنی محتوای صوتی توسط افراد متفرقه را به کاربران اعلام نکرد. به همین دلیل برخی از پیمانکاران پروژه احساس میکنند که رویکردی خلاف اخلاق را مرتکب میشوند. درواقع آنها در کنار مصاحبه و اعلام برنامهی فیسبوک بهصورت محرمانه، از احساس ناخوشایند پیرامون پروژهی مذکور هم سخن گفتهاند.
یکی از شرکتهایی که فرایند بازبینی مکالمههای کاربران را انجام میدهد، TaskUS است که در سانتا مونیکا کالیفرنیا فعالیت میکند. شرکت مذکور انواع پروژههای پیمانکاری را با کارمندانی در سرتاسر جهان انجام میدهد. فیسبوک یکی از مشتریان بزرگ و مهم آنها محسوب میشود، اما کارمندان اجازهی اعلام عمومی کارفرمای پروژهها را ندارند. آنها مشتریان را با نامهای رمزی ثبت میکنند. مثلا برای فیسبوک از عبارت Prism استفاده میشود.
فیسبوک برای بازبینی محتوا جهت بررسی نقض قوانین و سیاستها هم با TaskUS همکاری میکند. بهعلاوه تیمهایی در شرکت مذکور فعال هستند که کمپینهای انتخاباتی و فعالیتهای سیاسی را رصد میکنند. برخی از همان نیروها در تیم جدید رونویسی پیامهای صوتی مشغول بودند. TaskUS در پاسخ به بلومبرگ پیرامون اخبار جدید میگوید که فیسبوک از یک هفته پیش، پروژهی رونویسی پیامهای متنی را متوقف کرد.
سیاستهای فیسبوک در بهرهبرداری از دادههای کاربران سال گذشته بهروزرسانی شد تا بیشازپیش برای کاربران عادی قابل فهم باشد. در سند مذکور هیچ اشارهای به دادههای صوتی نمیشود. البته به روشنی در بخشی از سند بهرهبرداری از داده میخوانیم که فیسبوک «محتوا، ارتباطات و دیگر اطلاعاتی که در زمان ارتباط با دیگران استفاده میکنید» را جمعآوری میکند.
فیسبوک در بخشی از سند سیاستهای کاربرد داده مینویسد:
سیستمها بهصورت خودکار محتوا و ارتباطاتی را جمعآوری و تحلیل میکنند که شما و دیگران ارائه میکنید. تحلیل برای درک بهتر محتوا و موضوع داده انجام میشود.
فیسبوک در اسناد حریم خصوصی هیچ اشارهای به همکاری با نیروی انسانی نمیکند
در هیچ بخشی از سند سیاست کاربرد داده به همکاری با نیروی انسانی برای تحلیل و رونویسی دادههای صوتی اشاره نمیشود. البته در جایی از سند مذکور عبارت «انواع شرکتهای متفرقه که ما اطلاعات را با آنها به اشتراک میگذاریم» دیده میشود که باز هم صحبتی از نیروی انسانی در آن نیست. درواقع غول شبکههای اجتماعی هیچگاه به گروه رونویسی محتوای صوتی اشاره نمیکند. البته در جایی دیگر بهصورت مبهم و با این عبارت به همکاری با دیگران اشاره میشود: «شرکتها و ارائهدهندههای سرویس که با تحلیل چگونگی استفاده از محصولات، با ما همکاری میکنند.»
نقش نیروی انسانی برای تحلیل فایلهای ضبطشده بهنوعی تأکیدی بر محدودیتهای هوش مصنوعی محسوب میشود؛ محدودیتهایی که مانع از درک عالی کلمهها و الگوی صحبت هستند. البته ماشینها روند رو به رشدی را در درک صحبتها طی میکنند، اما هنوز در برخی موارد با چالش روبهرو هستند. ازطرفی گفتیم که برخی از پیمانکارها پیامهای صوتی را نگرانکننده میدانستند که نشان از آثار مخرب انسانی در صورت مدیریت محتوای فیسبوک توسط نیروی انسانی دارد.
درنهایت بزرگترین شبکهی اجتماعی جهان امروز با چالشی دوگانه در مدیریت دادهها و تحلیل کاربران روبهرو است. ازطرفی هوش مصنوعی هنوز بلوغ و توانایی کامل را در درک محتوا ندارد و ازطرفی کمک گرفتن از نیروی انسانی چالشبرانگیز خواهد بود. البته فیسبوک از سال ۲۰۱۵ رونویسی از پیامهای صوتی مسنجر را شروع کرد تا سرویس خود را بهبود دهد، اما استفاده از پیمانکارهای انسانی برای آن، چالش جدیدی را برای آنها ایجاد کرده است.
گرداورنده:معین کرمی