مارس ۲۰۱۶، مایکروسافت فعالیت بات هوش‌ مصنوعی Tay را در توییتر آغاز کرد تا ببیند این باتِ مبتنی‌بر یادگیری ماشین و هوش مصنوعی چگونه با انسان‌ها تعامل می‌کند. به‌گفته‌ی دایانا کِلی (Dianna Kelley)، مدیر بخش امنیت سایبری مایکروسافت، گروهی که وظیفه‌ی توسعه و پشتیبانی از Tay را برعهده داشت، می‌خواست این بات زبان طبیعی را یاد بگیرد. از دیدگاه افراد گروه، توییتر محیطی طبیعی بود که می‌شد از آن برای آزمایش بات استفاده کرد. دایانا کِلی در کنفرانس RSA آسیاپسیفیک و ژاپن ۲۰۱۹ که ماه پیش در سنگاپور برگزار شد، درباره‌ی بات Tay گفت:

Tay مثالی عالی برای هوش مصنوعی و یادگیری ماشین است.

Tay آمریکایی‌های ۱۸ تا ۲۴ ساله را هدف قرار داده و برای سرگردم‌کردن افرادی طراحی شده بود که به‌صورت تفننی و تفریحی باهم گپ می‌زدند. در کمتر از ۲۴ ساعت پس از آغاز فعالیت Tay در توئیتر، این بات بیش از ۵۰ هزار دنبال‌کننده پیدا و نزدیک به ۱۰۰ هزار توییت منتشر کرده بود. Tay ابتدا خیلی دوست‌داشتنی شروع کرد و سلامی داد و آدم‌ها را باحال خطاب کرد؛ اما وقتی نوبت به تعامل با دیگر کاربران توییتر رسید، ساختار یادگیری ماشینی‌اش فورا تمام تعاملات را به خوب و بد و زشت تقسیم‌بندی کرد. برخی از توییتهای Tay بسیار تهاجمی و در کمتر از ۱۶ ساعت، به نژادپرستی بی‌پروا تبدیل شد که باید برای تنظیمات مجدد از مدار خارج می‌شد. کِلی گفت: 

درواقع، Tay صرفا درمعرض واژه‌ها و اصطلاحات اندکی از زبان قرار گرفته بود که بخش زیادی از آن کاملا نژادپرستانه و خشن بود. نمی‌خواهم مجددا حرف‌های Tay را تکرار کنم؛ اما مثلا گفته بود «حق با نازی‌ها بود». بسیاری از این اتفاقات ناخواسته بود. بالاخره بعضی وقت‌ها از این چیزها هم پیش می‌‎آید.

وی معتقد است این اتفاق مثالی فوق‌العاده برای درک این مسئله است که هنگام خلق چیزهایی همچون هوش مصنوعی در زمان دریافت اطلاعات و آموزش، باید به این موارد توجه کرد. کِلی در این باره گفت:

هم‌زمان که هوش مصنوعی و یادگیری‌ ماشینی را برای تقویت کسب‌و‌کارمان به‌کار می‌بریم، باید بدانیم تبعاتی همچون احتمال انحراف در آن‌ها هم وجود دارد. در این مورد خاص، تبعات آن خیلی برای مایکروسافت شدید نبود. آن‌ها همراه‌ عذرخواهی عمومی گفتند Tay را از مدار خارج می‌کنند؛ اما جالب این بود که مدیر مایکروسافت شخصا با تیم مرتبط تماس گرفت و به‌جای شکایت و گفتن جملاتی چون «وای خدا، خیلی کارتان وحشتناک بود» یا «خیلی بد شد»، صرفا گفت که درس گرفتیم.

هوش مصنوعی دربرابر بدآموزی باید مقاوم شود

به‌گفته‌ی کِلی، این درسی مهم برای تمام کسانی است که به‌شکلی درگیر این مسئله هستند. همه‌ی شرکت‌ها باید هنگام طراحی هوش مصنوعی و یادگیری ماشین، آن‌ها را دربرابر چنین رفتار آزاردهنده‌ای کاملا مقاوم کنند. کِلی در این زمینه گفت:

درس‌گرفتن از Tay حقیقتا سهم مهمی در توسعه‌ی مبانی دانش تیم طراحی Tay داشت. حالا آن‌ها حین یادگیری، تنوع و تفاو‌ت‌های خودشان را هم یاد می‌گیرند. در نگاهمان به هوش مصنوعی و نحوه‌ی تحقیق و خلق آن به نحوی که هم برای جهان پیرامون مفید و هم به‌درستی پیاده‌سازی شده باشد، بسیار مهم است که ظرفیت‌های اخلاقی اجزای هوش مصنوعی را درک کنیم. هنگام توسعه‌ی هوش مصنوعی، درواقع درحال دست‌زدن به این خطر هستیم که شاید به‌جای تسریع در انجام کارها و امنیت سایبری بیشتر، سامانه‌هایی خلق کنیم که خودکار اعمالی حقیقتا متعصبانه انجام می‌دهند.

از دیدگاه دایانا کِلی، جلوگیری از چنین چیزی مستلزم وجود انصاف و برابری است. مثالی که او برای این موضوع زد، ابزاری برای استخدام بود؛ ابزاری که از هوش مصنوعی برای بررسی رزومه‌ی افراد و تعیین داوطلبان مناسب درمقابل داوطلبان نامناسب استفاده می‌کند.

اگر خوراک هوش مصنوعی را صرفا رزومه‌ی افرادی قرار دهید که همگی قبلا شاغل بوده‌اند، درواقع به الگوریتم آموزش می‌دهید که بیشتر به‌دنبال همان‌ها هم باشد. شاید ظاهرا برای شروع بد نباشد؛ اما مگر ما درباره‌ی مهندسی و بسیاری از مشاغل مرتبط با کامپیوتر، به‌ویژه امنیت سایبری چه می‌دانیم؟ آیا ذاتا ازلحاظ جنسیتی به‌سمت جنس خاصی سنگینی ندارد؟ البته، بسیاری از افراد شاغل در مشاغل برنامه‌نویسی کامپیوتر و امنیت سایبری، غالبا مرد هستند و این نسبت درزمینه‌ی امنیت سایبری می‌تواند به ۹۰ درصد هم برسد.

وی معتقد است آموزش هوش مصنوعی با اطلاعاتی از این دست که «داوطلب خوب» شبیه کیست، ابزار را به جهتی سوق می‌دهد که بیشتر به‌دنبال کسانی باشد که قبلا در آن شغل بوده‌اند.

هوش مصنوعی در سایبری

در سال‌های اخیر، جرایم سایبری در سراسر جهان شیوع پیدا کرده است و تأثیرات گسترده‌ای بر دنیای تجارت گذاشته‌ است. حالا توسعه‌ی بیش‌‌از‌پیش حملات سایبری تهدیدی مهم محسوب می‌شود و در مقایسه با گذشته، بسیار پیچیده‌تر شده و تعداد آن‌ها هم روزبه‌روز در حال افزایش است. سازمان ملل این‌بار به‌طور دقیق‌تری تخمین زده است که عامل حدود ۸۰درصد این حملات سازمان‌های جنایت‌کاری پیشرفته درزمینه‌ی فناوری هستند که اطلاعات و ابزار و تخصص دراختیار دارند.

تخمین زده می‌شود تا سال ۲۰۲۱، جرایم سایبری بیش از دوتریلیون دلار به اقتصاد جهانی خسارت خواهد زد. این موضوع شرکت‌ها را ملزم می‌کند در مبارزه با جرایم سایبری باهم همکاری کنند و به‌جای پذیرفتن این تهدیدها، رویکردی آگاهانه‌تر دربرابر آن‌ها داشته‌ باشند. به‌طور کلی، رهبران امنیت سایبری با سه مسئله‌ی اساسی در حفظ امنیت اطلاعات رو‌به‌رو هستند: مهارت و نگرش و سرعت.

کمبود مهارت مسئله‌ی بزرگی است؛ زیرا از جنگ علیه جرایم سایبری جلوگیری می‌کند. همان‌گونه که حملات سایبری روزبه‌روز پیشرفته‌تر و پیچیده‌تر می‌شود، ابزار موردنیاز برای حفظ اطلاعات درمقابل آنان هم پیچیده‌تر می‌شود. کمبود مهارت شکافی در صنعت امنیت اطلاعات ایجاد می‌کند و همواره تعداد افراد دارای مهارت کافی کم است؛ افرادی که بتوانند راه‌حلی برای مبارزه با مجرمان سایبری بیایند و این مسئله را مدیریت کنند.

بیشتر بدانید:دلیل ترس انسان از فوق هوش چیست؟

گفتنی است با پیشرفت روزافزون در عرصه‌ی امنیت سایبری، کمبود افراد ماهر، تنها مشکلی نیست که رهبران امنیت سایبری با آن مواجه هستند؛ بلکه باید این نیروها همواره با این پیشرفت همگام باشند و مهارت آن‌ها نیز پاسخ‌گوی آنچه این عرصه‌ی رو به رشد می‌طلبد، باشد.

مسئله‌ی دیگری که متخصصان هنگام تصمیم‌گیری‌های استراتژیک درباره‌ی امنیت با آن رو‌به‌رو هستند، ماهیت اطلاعات است. بهره‌گیری از اطلاعات ارزشمند در حوزه‌ی فناوری و تجارت، برای افزایش هوشمندی و سرعت در اتخاذ تصمیمات تجاری ضروری است؛ اما همچنان که بستر صنعت امنیت سایبری گسترش می‌یابد، با مشکلاتی درزمینه‌ی میزان و ماهیت اطلاعاتی مواجه می‌شود که این صنعت برای مقابله با مجرمان سایبری در برخورد با موضوعی خاص نیاز دارد. به زبان ساده‌تر، صنعت امنیت سایبری نمی‌تواند این حجم از اطلاعات را کسب کند. البته، مشکل فقط کسب اطلاعات نیست؛ بلکه پردازش آن اطلاعات هم کار دشواری است.

سرعت عمل سومین و آخرین مانعی است که متخصصان امنیت سایبری برای رفع آن می‌کوشند. سرعت حملات سایبری به‌طور روزافزونی افزایش می‌یابد؛ بنابراین، اقدام سریع درمقابل هریک از این حملات امری ضروری است. در برخی از ایالات کشور آمریکا، قانون برای اطلاع‌رسانی از هر جرم سایبری، مدت زمان چهار ساعت و مقررات حفاظت از اطلاعات عمومی این مدت زمان را تا ۷۲ ساعت تعیین کرده است. درصورت انجام‌ندادن اقدام به‌موقع، باید منتظر پیامدهایی نظیر خسارت‌های تجاری باشیم.

هوش مصنوعی راه‌حلی برای رفع تمام این موانع پیش روی متخصصان امنیت سایبری قرار می‌دهد. در برخورد با تهدیدهای امنیتی‌ سایبری، با بهره‌گیری از تجزیه‌وتحلیل داده‌ها به‌کمک هوش مصنوعی و نیز یادگیری ماشینی میزان دقت و سرعت عمل به‌طور چشمگیری افزایش می‌یابد. افزون‌براین با تشخیص رفتار غیرعادی، می‌تواند تهدیدهای داخلی و خارجی و مجرمان سایبری را در زمان واقعی شناسایی کند و اطلاعات موردنیاز گروه امنیتی برای تصمیم‌گیری را در اختیارشان قرار دهد. همچنین، سبب می‌شود جرایم مرتکب‌شده فعالیت کاربران نظیر استفاده از اینترنت‌بانک را کمتر دچار اختلال کنند.

درحال‌حاضر نیز، تعدادی برنامه برای انجام چند نوع تحلیل ساخته شده‌اند. «پیش‌بینی براساس تحلیل داده‌ها» می‌تواند ناهنجاری‌های اینترنتی و بدافزارها را شناسایی کند و علاوه‌بر آن، به‌منظور یافتن تهدیدهای داخلی و شناسایی کاربران مشکوکِ درونِ سازمان‌ها و خنثی‌سازی عملیات آن‌ها، الگوهای رفتاری کاربران را نیز تجزیه‌وتحلیل کند.

قابلیت‌های دیگر این برنامه‌ها که چندان هم شناخته‌شده نیستند، در بخش امنیت به‌چشم می‌خورند. با استفاده از یادگیری ماشینی، متخصصان امنیت سایبری می‌توانند موارد مثبت کاذب در آزمایش امنیت برنامه را به‌طور چشمگیری کاهش دهند. علاوه‌براین، با بهره‌گیری از هوش مصنوعی در الگوهای رفتاری کاربران، می‌توانیم به‌راحتی هویت کاربران را با استفاده از نحوه‌ی استفاده‌ی آن‌ها از صفحه‌کلید و ماوس و تلفن‌همراه تشخیص دهیم. همین امر امنیت کاربران را افزایش می‌دهد و فرصت تجربه‌ای بهتر و راحت‌‌تر را برای آن‌ها فراهم می‌کند.

پادشاهی به‌نام «ماهیت اطلاعات»

درواقع، تحزیه‌و‌تحلیل داده‌ها درزمینه‌ی هوشمندسازی کمک می‌کند، اطلاعات تجارت را با تکنیک‌های مبارزه با جرایم سایبری یکپارچه و انبوهی از اطلاعات را پردازش می‌کند، از دلِ این اطلاعات سرنخ‌هایی به‌دست می‌آورد و با اولویت‌بندی این اطلاعات، به تصمیم‌گیری درباره‌ی آن‌ها کمک می‌کند.

همچون انسان‌ها که برای به‌دست‌آوردن اطلاعات و پردازش آن، تحقیق و مطالعه و مباحثه می‌کند، هوش مصنوعی هم می‌تواند به کامپیوترها زبان امنیتی را با استفاده از تکنیک‌هایی مانند پردازش زبان طبیعی در مقیاس بزرگ (NLP) آموزش دهد. این امر تا حد زیادی در به‌دست‌آوردن اطلاعات مربوط به امنیت سایبری کمک می‌کند تا تحلیلگران امنیتی کارآمدتر و سریع‌تر عمل کنند. برای مثال، شرکت IBM توانست به واتسون (سامانه‌ی کامپیوتر‌ی هوش مصنوعی) زبان امنیت سایبری را با استفاده از میلیاردها عنصر دارای ساختار و میلیون‌ها سند فاقد ساختار آموزش دهد.

به‌طور خلاصه، گراف دانش با اطلاعات به‌دست‌آمده همگام‌سازی می‌شود و به استدلال و کشف مفاهیم از دلِ اطلاعات کمک می‌کند. یکی از شرکت‌ها با به‌کاربستن این ابرکامپیوتر توانست مدت زمان صرف‌شده برای جست‌وجو در یافتن جرایم امنتیتی‌ سایبری را تا ۹۷ درصد کاهش دهد.

سحن پایانی

شرکت‌ها باید آگاه باشند که هوش مصنوعی فرشته‌ی نجات آن‌ها نیست. به‌خاطر داشته‌ باشید مجرمان سایبری هم از وجود هوش مصنوعی باخبر هستند و این مجرمان هم به‌طور روزافزونی پیشرفت و هوشمندانه‌تر عمل می‌کنند و برای منحرف‌کردن و اخلال در فعالیت هوش مصنوعی می‌کوشند. بنابراین، هم‌زمان با پیشرفت در هوش مصنوعی، باید با چشمی باز کارآمدی هریک از آن‌ها را تشخیص دهیم و به‌عنوان صنعتی برای مقابله با مجرمان سایبری، باید آگاه باشیم که این مجرمان نیز از برنامه‌های هوش مصنوعی بهره می‌برند و باید بهترین راهکار را برای مبارزه با آن بیابیم.