چنین الگوریتم پیشرفته‌ای با قرارگیری در دست افراد خطرناک یا احتمالا به‌صورت خودکار می‌تواند به سلطه بر حکومت‌ها و ارتش‌های جهان دست یابد، دستیابی به سطوحی از نظارت یا جاسوسی به سبک داستان‌های جورج اورول، تقلب و دستکاری، کنترل جوامع بر جوامع و احتمالا حتی کنترل کل عرصه‌های منازعه‌ی سلاح‌های مرگ‌بار خودکار نظیر پهپادهای نظامی را امکان‌پذیر کند.

اما برخی از متخصصان هوش مصنوعی، چنین ترس‌هایی را بی‌اساس می‌دانند و معتقدند که در واقع، هوش مصنوعی فوق پیشرفته می‌تواند در اداره‌ی دنیا، عملکرد بهتری از انسان‌ها داشته باشد. این ترس‌ها به‌خودی خود خطر اصلی محسوب می‌شوند؛ زیرا می‌توانند به‌عنوان مانعی بر سر راه پیشرفت انسان قرار گیرند.

توماس میکولوف، پژوهشگر هوش مصنوعی در فیسبوک، ماه گذشته در کنفرانس «هوش مصنوعی سطح انسان» گفت: شاید عدم دستیابی به هوش مصنوعی، خطر اصلی برای بشریت باشد.

وی در ادامه توضیح داد که ما انسان‌ها به‌عنوان یک گونه در اتخاذ تصمیم‌هایی که در طولانی‌مدت به صلاحمان هستند، عملکرد بسیار ضعیفی داریم. مردم، بی‌اطلاع از (یا بی‌علاقه به) اینکه چگونه موجب فرسایش آهسته و احتمالا برگشت‌ناپذیر کل سیاره می‌شوند، جنگل‌های بارانی و دیگر اکوسیستم‌ها را به‌منظور برداشت مواد خام از بین بردند. اما یک سامانه‌ی هوش مصنوعی پیچیده احتمالا می‌تواند از ما در برابر عواقب ناشی از کوته‌بینی خودمان محافظت کند.

میکولوف در ادامه افزود:

ما به‌عنوان انسان‌ها در پیش‌بینی آنچه در آینده‌ی بسیار دور، احتمالا ۲۰ تا ۳۰ بعد اتفاق خواهد افتاد، عملکرد بسیار بدی داریم. شاید ساخت هوشی که در نوع خاصی از رابطه‌ی همزیستی، به‌شدت باهوش‌تر از انسان باشد، بتواند به ما در جلوگیری از برخی فجایع آینده کمک کند.

بدیهی است که افرادی همچون میکولوف که معتقد به خیرخواهی هوش مصنوعی هستند، در اقلیت قرار دارند. در طول کنفرانس یادشده، بسیاری از دیگر سخنرانان، بیشتر با صحبت درباره‌ی به‌کارگیری هوش مصنوعی برای اهداف خطرناک یا سو‌ء استفاده توسط افراد تبهکار، به بیان ترس‌های رایج از هوش مصنوعی پرداختند. البته پرواضح است که ما نباید این نگرانی‌ها را به سخره یا دست‌کم بگیریم.

هوش مصنوعی پیچیده‌ای که می‌تواند تقریبا هرگونه وظیفه‌ی شناختی قابل انجام برای انسان را حتی بهتر از او انجام دهد، اغلب به‌عنوان آرزویی دست‌نیافتنی در نظر گرفته می‌شود و ما هنوز مطمئن نیستیم که آیا ساخت چنین هوشی اصلا امکان‌پذیر خواهد بود یا نه. علاوه‌بر این، هرچند آینده‌ی هوش مصنوعی پیشرفته نویدبخش است؛ اما در عین حال سوال‌های اخلاقی بسیاری را به‌دنبال دارد. ما احتمالا هنوز از تمام سوال‌هایی که باید به آن‌ها پاسخ دهیم، اطلاع نداریم.

مقاله مرتبط: دو تکنولوژی جدید هوش مصنوعی برای خدمت به انسان

با این حال، بسیاری از اعضای پنل در کنفرانس هوش مصنوعی در سطح انسان، به اتفاق معتقدند که پیش از نیاز به چنین هوشی، باید بر سر قوانین لازم تصمیم‌گیری کنیم. آیا زمان ایجاد توافقنامه‌های بین‌المللی، هیئت‌های اخلاقی و سازمان‌های نظارتی با کنترل بر دولت‌ها، شرکت‌های خصوصی و دانشگاه‌ها فرا نرسیده است؟ ایجاد چنین نهادها و پروتکل‌هایی این احتمالات را کاهش می‌دهد که یک دولت متخاصم، پژوهشگری بی‌اطلاع یا حتی دانشمندی دیوانه، سامانه‌ی هوش مصنوعی مخربی را طراحی و رها کند یا به نحوی دیگر از الگوریتم‌های پیشرفته به‌عنوان سلاح بهره بگیرد. در این صورت، حتی اگر حادثه‌ای شرورانه در هر کجای جهان اتفاق بیافتد، این سامانه‌ها به ما اطمینان می‌دهند که قادر به مهار آن خواهیم بود.

با وضع این قوانین و مقررات حفاظتی، به احتمال بسیار زیاد می‌توانیم آینده‌ای را پدید آوریم که سامانه‌های پیشرفته‌ی هوش مصنوعی در آن به‌صورت مسالمت‌آمیز در کنارمان زندگی کنند و احتمالا ما را از دست خودمان نیز نجات دهند.

دانشمندان MIT ابزار پیش‌بینی تعاملی مبتنی‌بر یادگیری ماشین توسعه دادند

پژوهشگران MIT ابزار پیش‌بینی تعاملی یادگیری ماشین ساختند تا حتی کاربران غیرمتخصص نیز بتوانند ابزار و تحلیل‌گر مبتنی‌بر هوش مصنوعی خود را داشته باشند.
به‌زودی، ممکن است نیاز به چیزی جز یک دستگاه صفحه‌نمایش لمسی قابل دسترس و مجموعه داده‌های موجود برای ایجاد ابزارهای پیش‌بینی قدرتمند نداشته باشید. دستاورد جدیدی از تحقیقات پژوهشگران MIT و دانشگاه براون، قابلیتی را به سیستم داده تعاملی خود با نام «Northstar» افزوده است که می‌تواند به سرعت مدل‌های مختلف یادگیری ماشین تولید کند. بنابراین با استفاده از خروجی این مدل‌های یادگیری ماشین و مجموعه داده‌های موجود می‌توان پیش‌بینی‌های مفید و موثری در حوزه‌های مختلف انجام داد. برای شفاف‌تر شدن این دستاورد جدید، به نمونه‌هایی که این پژوهشگران ارائه کردند، توجه کنید.

نمونه اول: پزشکان می‌توانند از این سیستم برای پیش‌بینی در مورد احتمال ابتلای بیماران به بیماری‌های خاص براساس تاریخ پزشکی بیماران استفاده کنند.

نمونه دوم: صاحبان کسب‌و‌کار نیز می‌توانند از تاریخچه اطلاعات فروش خود برای پیش‌بینی دقیق‌تر، با سرعت بیشتر و بدون نیاز به حجم بالایی از تجزیه و تحلیل دستی از چنین سیستمی بهره‌مند شوند.

پژوهشگران این ویژگی جدید سیستم Northstar را «دانشمند داده‌ای مجازی» که به اختصار (VDS) خوانده می‌شود، نامیدند. به نظر می‌رسد این سیستم را واقعا می‌توان جایگزین انسان کرد، به‌خصوص در جاهایی که انسان‌ها به هر دلیلی به‌راحتی در دسترس نیستند. برای نمونه، مطب‌های پزشکی یا کسب‌و‌کارهای کوچک و حتی متوسط نیاز به کارمند دانشمند داده‌ای ندارند. حتی، کافی‌شاپ‌هایی که ‌به‌طور مستقل در مالکیت اداره می‌شوند و خرده‌فروشان نیز به این نوع بینش دسترسی نخواهند داشت.
این تکنولوژی جدید جدید با استفاده از تکنیک‌های خودکار یادگیری ماشین‌ ساخته شده است و باعث می‌شود تعداد افراد بیشتری به فناوری هوش مصنوعی دسترسی داشته باشند.  

Northstar حاصل بیش از چهار سال مطالعه و تحقیق است که می‌تواند یک کانواس (canvas) خالی‌ و آماده ارائه دهد که سازگار با چندین پلتفرم مختلف است. کانواس یا بوم، ابزاری است که به‌عنوان رابط کاربری اجازه ‌می‌دهد مدل کسب‌و‌کار خود را توصیف، طراحی و اختراع کنید، آن‌ را به چالش بطلبید یا تغییر دهید. بنابراین کاربران می‌توانند مجموعه داده‌های خود را در این سیستم که به‌صورت جعبه‌هایی در این رابط کاربری نمایش داده می‌شود، آپلود کنند. کاربران می‌توانند به‌راحتی اطلاعات خود را به قسمت مرکزی کانواس بکشند و آن‌ها را رها کنند و سپس خطوط اتصال هر مجموعه داده را رسم کنند تا نشان دهد که باید با کدام الگوریتم انتخاب‌شده توسط کاربر در ترکیب با یکدیگر پردازش شود.

بنابراین، پزشکان می‌توانند به لحاظ نظری مجموعه داده‌ای را که میزان متابولیسم بیماران را مشخص کرده است و مجموعه‌ای دیگر که سن بیمارن را مشخص کرده را داشته باشند، سپس به‌کمک آن استنتاج کنند که در چه مواردی بیماری‌های خاص با دخالت دو عامل پدید می‌آیند.

با ویژگی جدید دانشمند داده‌ای مجازی، کاربران می‌توانند اطلاعات ورودی را برای تولید پیش‌بینی ترکیب کنند. همچنین، از تجزیه و تحلیل‌های مبتنی بر هوش مصنوعی در سراسر این عوامل ترکیبی برخوردار شوند.
پژوهشگران با طراحی سیستم VDS درواقع به سریع‌ترین سیستم یادگیری ماشین خودکار تابه‌امروز دست پیدا کرده‌اند. نکته کلیدی درباره سیستم VDS این است که هرکسی به‌راحتی می‌تواند از آن استفاده کند. در قدم بعدی، پژوهشگران درحال بهبود گزارش خطا در این سیستم هستند تا اطمینان حاصل کنند کاربران غیرمتخصص به‌راحتی می‌توانند با این رابط کاربری فعالیت کنند؛ همچنین شاخص‌های روشنی را زمانی‌که تحلیل اشتباهی انجام می‌دهند، دریافت کنند تا اگر در دفعات بعد با چنین مشکلی مواجه شدند، بتوانند خودشان مشکل را حل کنند.