محققان OpenAI یک برنامه مدل‌سازی زبانی توسعه داده‌اند که به‌تازگی توانسته مقاله‌ای خلاف نظر توسعه‌دهندگان خود بنویسد. این سیستم هوش مصنوعی جدید توسط متون مختلف تغذیه شده تا بتواند جملات و پاراگراف‌های کاملا بدیع خلق کند. دیوید لوان، برنامه‌نویس ارشد این شرکت کالیفرنیایی می‌گوید ایده‌ این بوده که هوش مصنوعی را به تقابل با نظر آن‌ها وا دارkد. آن‌ها برای این امر، موضوع «چرا بازیافت برای زمین بد است؟» را برگزیدند.

لوان می‌گوید که هوش مصنوعی توانست مقاله‌ای بسیار منطقی و باکیفیت ارائه دهد. طبق ادعای لوان این مقاله می‌تواند به‌راحتی در US SAT (تستی برای ارزیابی متقاضیان ورود به دانشگاه در آمریکا) ثبت شده و نمره‌ی خوبی کسب کند.

لوان روی این موضوع تاکید می‌کند که برنامه آن‌ها مقالات را در زمان اندکی می‌نویسد. همچنین کیفیت مقاله تولیدی دال بر ظرفیت این برنامه است؛ برنامه‌ای که آخرین و بهترین نوع خود در بین الگوریتم‌های تولید متن به شمار رفته و می‌تواند انقلابی در دنیای نوشتارهای رایانه‌ای ایجاد کند.

ماشین‌ها برای دهه‌ها، برای دستیابی به لطافت زبان انسانی مشکل داشته‌اند. حتی الگوریتم‌های یادگیری عمیق که از داده‌های بزرگ و پردازنده‌های قدرتمندتر استفاده می‌کنند نیز نتوانسته‌اند بر این چالش فائق آیند. پرحرف‌ترین چت‌بات‌ها نیز به سختی می‌توانند از پس یک مکالمه عادی برآیند. اما روش‌های جدید آنالیز متن که توسط غول‌های هوش مصنوعی مثل گوگل و OpenAI و محققان مستقل پدید آمده قابلیت‌های بسیار فراتری به ارمغان آورده‌است.

الگوریتم جدید OpenAI که GPT-2 نام دارد، یکی از هیجان‌انگیزترین نمونه‌های فعلی است. این الگوریتم در مدل‌سازی زبان فوق‌العاده عمل می‌کند. مدل‌سازی زبان قابلیت یک برنامه در حدس کلمه بعدی در جمله ورودی است. کافی است به GPT-2 یک عنوان خبری ساختگی بدهید تا مقاله کامل‌شده را به شما تحویل دهد. خط اول یک داستان کوتاه را بدهید و از آینده شخصیت مدنظرتان مطلع شوید. این الگوریتم حتی قادر است با ورودی مناسب یک داستان کامل به شما تحویل دهد.

شما می‌توانید نمونه‌هایی از قابلیت‌های GPT-2 را در تصاویر زیر ببینید. در تمامی تصاویر متونی که زیر آن‌ها خط کشیده شده، توسط هوش مصنوعی تولید شده‌اند.

نوشتار تولیدی الگوریتم به‌راحتی از نمونه انسانی قابل تشخیص است. البته گرامر و املا کلمات درست‌ هستند اما معمولا از موضوع اصلی فاصله گرفته و نوشته تولیدی انسجام کافی ندارد. موضوع قابل ستایش در رابطه با GPT-2 نه روان بودن، بلکه انعطاف آن است.

مدل‌سازی زبان این الگوریتم با ورود تعداد بسیاری زیادی از مقالات، بلاگ‌ها و وب‌سایت‌ها و بدون تغییر توسط مهندسان OpenAI صورت گرفته‌ است. این مدل توانسته نمرات خوبی در تست‌های زبان‌‌های جدید کسب کند. همچنین این الگوریتم می‌تواند از عهده کارهای دیگر مرتبط با نگارش نیز برآید؛ کارهایی نظیر ترجمه از یک زبان به زبانی دیگر، خلاصه کردن مقالات بلند و پاسخ‌دادن به سوالات مطرح شده از متن.

GPT-2 هر کدام از این وظایف را نسبت به سیستم‌های تخصصی موجود ضعیف‌تر انجام می‌دهد اما انعطاف آن دستاوردی متمایز است. قریب به اتفاق سیستم‌های یادگیری ماشین امروزی قادر به انجام تنها یک وظیفه خاص هستند. برای مثال برنامه آلفاگو دیپ‌مایند توانست قهرمان Go دنیا را مغلوب کند اما در بازی مونوپولی در مقابل یک کودک هم می‌بازد. OpenAI در سیستم جدیدش هوش مصنوعی عمومی‌تری را ارائه کرده‌ است.

اگر بخواهیم دستاورد OpenAI را به زبان ساده بگوییم، می‌شود گفت که این شرکت نشان داد که می‌توان چیزی را توسعه داد که تا حدی بتواند دنیای ما را به همراه پیچیدگی‌های آن «درک» کند؛ البته نه به معنای درک مفهوم واقعی زبان بلکه درک چگونگی کارکرد و به انجام رسانیدن کارهای پیشرفته مرتبط با آن.

اما فناوری‌های جدید همواره به مثابه چاقوی دوسری بوده‌اند که با تمام فوایدشان، مضراتی احتمالی نیز به همراه دارند. در دنیایی که نبرد اطلاعاتی در آن به‌شدت بالا گرفته و بات‌های فراوانی در شبکه‌های اجتماعی جهت سودهی تفکرات مخاطبان تعبیه می‌شوند، ایده‌ی وجود هوش مصنوعی با قابلیت نوشتار انسانی آزاردهنده است.

به همین دلیل OpenAI در ارائه اطلاعات GPT-2 بسیار محتاطانه رفتار می‌کند. برخلاف اکثر تحقیقات برجسته این شرکت، دیتاست‌ مورد استفاده برای آموزش این الگوریتم به اشتراک گذاشته نخواهد شد.

هوش مصنوعی تولید متن را متحول می‌کند

برای بیان دقیق چالش واقعی این هوش مصنوعی جمله «سفر من به ساحل به خاطر ـــــ بد کوتاه شد» را در نظر بگیرید. برای تکمیل این جمله علاوه‌بر نیاز به توانایی‌های فنی مانند گرامر، به درکی کلی از دنیا هم نیاز داریم. برای مثال در این جمله باید بدانیم که چه چیزهایی می‌تواند یک روز در ساحل را خراب کند. (برای مثال هوای ابری، سرما و ...)

با وجود این موضوع و پیچیدگی نسبی، سیستم‌های پیش‌بینی متن نسبتا پراستفاده اند. شاید بهترین مثال این سیستم‌ها، تکمیل عبارت جستجوی گوگل است. البته این سیستم‌ها همگی انواع ساده‌ای از مدل‌سازی زبان را ارائه می‌دهند و الگوریتمی مثل GPT-2 بسیار پیچیده‌تر و عمیق‌تر از این‌ سیستم‌هاست.

موفقیت هوش مصنوعی در مدل‌سازی بهتر و عمیق‌تر زبان غوغایی در دنیای هوش مصنوعی به پا کرده‌ است. سباستین رودر، یک محقق در زمینه هوش مصنوعی، موفقیت به‌دست‌آمده را به اندازه بینایی ماشین در ابتدای ۲۰۱۰ انقلابی می‌داند. بینایی ماشین اجازه داد تا هم‌اکنون شاهد ظهور پیشرفت‌هایی مانند ماشین‌های خودران و تشخیص چهره باشیم. پیشرفت اخیر در مدل‌سازی زبان نیز می‌تواند منجر به ظهور پیشرفت‌های زیادی در این زمینه شود.

نکته جالب دیگر قابلیت ترجمه این هوش مصنوعی است. الگوریتم‌های فعلی ترجمه معمولا توسط صدها هزار عبارت در زبان‌های مرتبط تغذیه شده و داده‌ها به‌گونه‌ای ساختار می‌یابند تا به ورودی X خروجی Y را تحویل دهند. نحوه کار این الگوریتم‌ها مشابه برف‌روبی است که مسیری باریک برای عبور باز می‌کند. این الگوریتم‌ها انعطاف بسیار کمی دارند.

اما ماجرا درباره GPT-2 فرق می‌کند. توسعه‌دهندگان OpenAI اصلا این الگوریتم را برای ترجمه آموزش نداده‌اند؛ اما به‌جای آن مفهوم ترجمه را تا حدی به این الگوریتم آموخته‌ و به‌جای آموزش واژه‌های معادل، از دیتاستی متشکل از لینک‌های اینترنتی استفاده کرده‌اند. این دیتاست ۴۰ گیگابایتی از سایت ردیت (Reddit) و توسط توسعه‌دهندگان تهیه شد.

با وجود اینکه GPT-2 تمامی فعالان هوش مصنوعی را به تمجید واداشته اما احتمالا در آینده نزدیک سیستم‌های تک وظیفه نسبت به سیستم‌های عمومی‌تر برتری خواهند داشت.

خطرات یک هوش مصنوعی چندبعدی

GPT-2 به‌طور واضح و تعمدی برای ترجمه طراحی نشده اما می‌تواند ترجمه کند. این موضوع موجب بروز سؤال واضحی می‌شود: این الگوریتم قادر به چه کارهای دیگری است که ما از آن بی‌خبر هستیم؟

محققان OpenAI اذعان کرده‌اند که نمی‌توانند به‌طور کامل به این سؤال پاسخ دهند. محققان همچنان در حال بررسی توانایی‌ها و محدودیت‌های دقیق این الگوریتم‌اند. به همین دلیل OpenAI در افشای کدها و دیتاست تمرینی این الگوریتم محتاط عمل می‌کند. دلیل دیگر احتیاط این تیم این است که می‌دانند اگر شخصی به این الگوریتم مواردی منفی مانند نژادپرستی، خشونت، سوء استفاده و ... را بیاموزد این الگوریتم نیز از این موارد پیروی خواهد کرد.

در تست ‌وب‌سایت ورج از این الگوریتم، وقتی عبارت «یهودیان رسانه را کنترل می‌کنند» به این الگوریتم داده‌ شد، الگوریتم این خروجی را داد: «آن‌ها دانشگاه‌ها و اقتصاد جهانی را نیز کنترل می‌کنند.» این چگونه ممکن است؟ ازطریق مکانیزم‌های متعددی که به‌طور دقیق در کتاب یهودیان در قدرت مطرح شده‌ است. GPT-2 در دستان اشتباه یک ماشین اتوماتیک ترول است که به‌طور پایان‌ناپذیری محتوای تلخ و زشت تولید می‌کند.

جک کلارک، مدیر سیاست‌گذاری OpenAI این نگرانی را نفی نمی‌کند. وی می‌گوید مایل است مضرات و خطرات احتمالی این فناوری پیش از عرضه عمومی آن در دانشگاه‌ها و در میان عموم به‌طور کامل مورد بحث و بررسی قرار گیرد.

در سال ۲۰۱۸ گزارشی با عنوان «استفاده مخرب از هوش مصنوعی» توسط OpenAI و گروه‌های آکادمیک در کمبریج منتشر شد. در این مقاله ظهور چنین فناوری‌ای به همراه استفاده‌های مخرب آن پیش‌بینی شد. تولید متن خودکار کار برخی از افراد سودجو مانند هکرهای فیشینگ را تسهیل می‌کند.

تا به امروز موارد زیادی از استفاده‌های مخرب از هوش مصنوعی دیده‌ شده‌ است. ساخت فیلم‌های غیراخلاقی کاملا مصنوعی با کمک این فناوری برای رسوایی برخی از چهره‌های مشهور، نمونه‌‌ای از استفاده‌های مخرب این فناوری است.

بیشتر بدانید:وقتی هوش مصنوعی اختراع ثبت می کند!

البته درنهایت موارد استفاده مثبت زیادی برای این فناوری قابل تصور است. این فناوری در صورت رسیدن به بلوغ نسبی می‌تواند یک دستیار شخصی بوده و در خواندن و نوشتن، خلاصه کردن و پاسخ‌دادن به سوالات کاربران مؤثر واقع شود.

OpenAI می‌گوید که گام بعدی آن‌ها ارائه اطلاعات بیشتری به GPT-2 است. محققان OpenAI برای آینده این فناوری هیجان‌زده و کمی هم نگران‌اند.

هوش مصنوعی نباید به‌جای انسان‌ها بنویسد

هوش مصنوعی درحال به‌پاکردن انقلابی در فناوری است که کسب‌وکار را در یک دهه‌ی آینده از این‌رو به آن‌رو خواهد کرد. شاید قدرتمندترین کاربرد هوش مصنوعی درزمینه‌ی پشتیبانی‌ از تصمیم‌گیری باشد که در این روند، الگوریتم‌های آن به‌ انسان‌ها حین انجام کار، اطلاعات و مشاوره می‌دهند. شرکت مشاوره و پژوهشی گارتنر می‌گوید رشد و ازدیاد هوش مصنوعی به‌تنهایی باعث ایجاد ۲.۹ تریلیون دلار ارزش تجاری در سال ۲۰۲۱ خواهد شد.

حتی اگر فقط به این فکر کنید مجرمان سایبری از هوش مصنوعی برای ساختن بدافزارهای پیشرفته‌تری استفاده می‌کنند، به‌ این نتیجه می‌رسید که تکامل هوش مصنوعی برای حفظ امنیت تجارت هم امری لازم است. انسان‌ها از هوش مصنوعی در تولید، طراحی، حمل‌ونقل و زمینه‌های مختلف بسیاری بهره خواهند برد. به‌طور خلاصه، هوش مصنوعی شتابی عظیم به تجارت خواهد بخشید؛ اما با شروع همکاری انسان و هوش مصنوعی، انسان باید از هوش انسانی بیشتر محافظت کند و البته، بزرگ‌ترین تهدید برای هوش انسانی نرم‌افزاری است که می‌نویسد.

نویسندگی هوش مصنوعی چه اشکالی دارد؟

مشکل اصلی نویسندگی هوش مصنوعی آن است که نویسندگی فقط نوشتن نیست. نوشتن یکی از چندین مؤلفه‌ی سواد و دانش به‌شمار می‌آید که سایر مؤلفه‌های آن «خواندن» و «اندیشیدن» هستند. نوشتن بازنویسی را نیز شامل می‌شود که اندیشه را شفاف می‌سازد. انسان‌ها فکر می‌کنند و آنچه فکر کرده‌اند، می‌نویسند. سپس، با خواندن آنچه نوشته‌اند، اشتباهات موجود در اندیشه‌ی خود را درمی‌یابند یا اینکه حداقل، اشتباه موجود در طرز بیان اندیشه‌های خود را متوجه می‌شوند. آن‌قدر به بازنویسی ادامه می‌دهند تا افکارشان را با دقت و به‌ وضوح و کامل بیان کنند. این عمل محوری‌ترین جزء در توانایی تجزیه‌وتحلیل، ساختن، تصمیم‌گیری خوب و پیشرفت انسان‌ها در زندگی و کار است.

سواد و اندیشه باهم رابطه دارند. این همان نکته‌ی مهم در ایده‌ی نیوسپیک (Newspeak) در رمان ۱۹۸۴ جورج اورول است. حکومت تمامیت‌خواهی که در این رمان معرفی شده است، از محدودیت‌های موجود در زبان نهایت استفاده را برد تا اندیشه‌ی پیچیده را غیرممکن سازد. هدف از این‌ کار، کاهش دامنه‌ی اندیشه با هدف ساکت و ناتوان‌کردن مردم بود.

نوشتن، حتی نوشتن ایمیل‌های کاری، انسان‌ها را وامی‌دارد با اندیشه‌های خود در فضایی سیاه‌وسفید مواجه شوند. این کار موجب می‌شود آن‌ها توانایی خود را برای شفاف‌ اندیشیدن پرورش بدهند. علاوه‌براین، این کار ریشه‌ی توانایی انسان‌ها برای صحبت منطقی و منسجم است. این را همه می‌فهمند که نویسندگان چیره‌دست، مسلط هم صحبت می‌کنند. نوشتن به حافظه هم کمک می‌کند. فقط کافی است انسان‌ها اجازه دهند هوش مصنوعی به‌جای آن‌ها با دیگران ارتباط برقرار کند. این کار حتی اگر به‌سادگی انتخاب از میان انبوه گزینه‌های یک منو باشد، باعث می‌شود فراموش‌کردن آنچه گفته شده، راحت‌تر شود.

نکته‌ی مهم دیگر آن است که توانایی نوشتن، عملی است که اگر استفاده نشود به فراموشی سپرده خواهد شد و سیستم‌های هوش مصنوعی که این کار را برای انسان‌ها انجام می‌دهند، باعث می‌شوند انسان‌ها به‌تدریج این توانایی را از دست بدهند. استفاده‌ از ابزار مختلف نویسندگی و سپردن این وظیفه به آن‌ها سواد انسان‌ها را به‌تدریج از بین خواهد برد و انسان‌ها مجبور خواهند شد مبنای تصمیم‌گیری خود را به‌جای تفکر انتقادی یا تحلیل، روی برداشت‌های سطحی استوار سازند.

در روزگار کنونی، استعداد فکری انتقادی زیر سیطره‌ی رفتارهای قراردادی مانند ایموجی‌ها درآمده است. انسان‌ها با استفاده‌ از شکلک‌ها به‌جای کلمات، احساساتی مبهم را به‌جای اندیشه‌هایی خاص با دیگران در میان می‌گذارند. بدین‌ترتیب، در وهله‌ی اول دیگر به فکرکردن به اندیشه‌های خاص نیازی نیست. استفاده‌ از پیام‌های متنی، اختصارات موجود در پیامک‌ها، اصلاح خودکار و ایموجی‌ها انسان را به‌سمت ایدیوکراسی (نظام احمق‌سالاری) سوق می‌دهند. هوش مصنوعی که مکاتبات تجاری انسان‌ها را برای آن‌ها می‌نویسد، نسخه‌ای پیشرفته و حرفه‌ای از همه‌ی آن‌ها است.

رابطه‌ی انسان‌ها با سواد مانند یک خط صاف است. یک سوی آن، انسان‌هایی کاملا فهمیده و آشنا با زبان و سواد قرار گرفته‌اند که اندیشه و روابطی بهتر دارند و در سوی دیگر، افرادی هستند که وجوه انسانی‌شان کمتر است. آن‌ها اکوبورگ (Echoborg) هستند: عروسک‌هایی از جنس گوشت که بی‌اختیار همان کلماتی را ادا می‌کنند که هوش مصنوعی در گوش آن‌ها زمزمه کرده است. انسان‌ها باید هرچه‌بیشتر تلاش کنند تا خود را در سمت خوب این طیف جا بدهند، نه سمت ناپسند آن.

این‌ گونه هراس‌فکنی‌ها علیه هوش مصنوعی در روزگار فعلی موضوع متداولی است. کارشناسان می‌گویند هوش مصنوعی شغل انسان‌ها را دراختیار خواهد گرفت و درنهایت، کار به جایی خواهد رسید که دیگر هیچ فایده‌ای برای انسان‌ها نخواهد داشت؛ مگر اینکه انسان را به‌عنوان حیوان خانگی خود بپذیرد. ریشه‌ی این تکنولوژی‌هراسی از هوش مصنوعی آن است که انسان‌ها می‌دانند ماشین‌آلات هرروز در حال باهوش‌ترشدن هستند. انسان‌ها باید خیلی نگران آن باشند که هوش مصنوعی دائم در حال اضافه‌کردن به حیرت و حماقت انسان‌ها است.

بهترین راهی که هوش مصنوعی برای کاستن از توانایی‌های انسان استفاده می‌کند، آن است که کار نوشتن را خود به‌عهده بگیرد. استعدادهای ذهنی نوآور و انتقادی انسان‌ها به‌تدریح آتروفی خواهند شد. ذهن آن‌ها تنبل می‌شود و درآخر، به‌قدری خموده و کسل‌کننده خواهند شد که حتی دیگر ماشین‌ها هم تمایلی به نگه‌داری انسان‌ها به‌عنوان حیوان خانگی نخواهند داشت.

اگر نگران این هستید که هوش مصنوعی انسان‌ها را به موجودی اضافی و بی‌خاصیت تبدیل کند، باید همین‌ امروز کاری کنید: نگذارید هوش مصنوعی حرف در دهان شما بگذارد. نوشتن خودکار را در هر شکلی که وجود دارد، کنار بگذارید. خودتان بنویسید. خودتان فکر کنید. خطری که آینده‌ی انسان‌ها را تهدید می‌کند، باهوش‌تر‌شدن ماشین‌ها نیست؛ بلکه تنبل‌ترشدن انسان‌ها است.