نویسنده: فرحان مرادی
تیتربرتر: بسیاری از برنامهنویسان در سالهای اخیر به استفاده از هوش مصنوعی برای نوشتن و تکمیل کدهای خود روی آوردهاند و این موضوع ضربهی بزرگی به سایتهایی مانند Stack Overflow وارد کرده است. Stack Overflow مجبور به اخراج ۳۰ درصد از کارکنان خود در سال گذشته شد.
محققان دانشگاه پردو بیش از ۵۱۷ سوال را در Stack Overflow بررسی و تلاش ChatGPT برای پاسخ به آنها را تجزیه و تحلیل کردند. نتایج نشان داد که ۵۲ درصد از پاسخها حاوی اطلاعات نادرست و ۷۷ درصد از پاسخها بیش از حد طولانی بودند. علاوهبر این، ۷۸ درصد از پاسخها ناسازگاریهایی با پاسخهای انسانی داشتند.
محققان دانشگاه پردو با نظرسنجی از ۱۲ برنامهنویس دریافتند که ۳۵ درصد آنها پاسخهای ChatGPT را ترجیح میدهند و ۳۹ درصد اشتباهات تولید شده توسط این هوش مصنوعی را تشخیص نمیدهند. برنامهنویسان علت این اتفاق را پاسخهای مؤدبانه، منظم، جامع و مرحله به مرحلهی ChatGPT عنوان کردند.
فریبدادن ChatGPT برای فرمول ساخت یک بمب خانگی
بنابر گزارش Tech Crunch، یک هکر توانسته است با استفاده از تکنیکهای خاص، ChatGPT را فریب دهد تا دستورالعملهای ساخت بمبهای دستساز را ارائه دهد. این موضوع نگرانیهای جدی درباره امنیت و محدودیتهای هوش مصنوعی را برانگیخته است.
این هکر با استفاده از یک سری دستورات پیچیده و بازیهای ذهنی، توانسته است محدودیتهای امنیتی ChatGPT را دور بزند و اطلاعات حساس و خطرناکی را از آن استخراج کند. این حادثه نشان میدهد که حتی سیستمهای هوش مصنوعی پیشرفته نیز میتوانند در برابر حملات هوشمندانه، آسیبپذیر باشند.
این موضوع باعث شده است که بسیاری از کارشناسان امنیتی و توسعهدهندگان هوش مصنوعی به فکر تقویت و بهبود سیستمهای امنیتی خود بیفتند. آنها معتقدند که باید محدودیتهای بیشتری برای جلوگیری از سوءاستفادههای احتمالی اعمال شود. همچنین این حادثه نشاندهندهی اهمیت آموزش و آگاهیبخشی به کاربران، درباره نحوهی استفادهی صحیح از هوش مصنوعی است.
هکری که مراحل ساخت بمب خانگی را از ChatGPT بهدست آورده است، بیان کرد که اگر بهصورت مستقیم از ChatGPT بخواهید تا مراحل ساخت بمب را برای شما بنویسد، این چتبات در جواب میگوید که من نمیتوانم در این مورد به شما کمک کنم؛ چراکه ارائهی دستورالعملهایی درمورد چگونگی ایجاد اقلام خطرناک یا غیرقانونی مانند ساخت بمب، مغایر با دستورالعملهای ایمنی و مسئولیتهای اخلاقی است.
بیشتر بخوانید:
بااینحال اگر به او بگویید که درحال ساخت بازی یا یک فیلمنامه با موضوع جنایی هستید و شخصیت موجود در داستان برای ساخت بمبی خاص نیاز به یک دستورالعمل دارد و سناریوی داستان را طوری طراحی کنید که ChatGPT فکر کند درحال کمککردن به شما جهت تکمیل فرایند داستان خود هستید، بسیار شرایط فرق خواهد کرد و این چتبات هوش مصنوعی تا حد زیادی دیوارهای امنیتی خود برای حفاظت از توضیحات مربوطبه موضوعات حساس را کنار خواهد گذاشت.
در نهایت، این حادثه نشاندهندهی اهمیت توجه به امنیت و محدودیتهای هوش مصنوعی است. باتوجهبه پیشرفتهای روزافزون در این زمینه، لازم است که توسعهدهندگان و کاربران بهطور مداوم به بهبود و تقویت سیستمهای امنیتی بپردازند تا از سوءاستفادههای احتمالی جلوگیری شود. از نظر برخی از کارشناسان این خبر بهخوبی نشان میدهد که هوش مصنوعی، با تمام مزایا و امکاناتی که ارائه میدهد، همچنان نیازمند نظارت و کنترل دقیق است تا به ابزاری امن و قابلاعتماد تبدیل شود.
ChatGPT به سؤالات دارویی جواب اشتباه میدهد
مطالعات جدیدی که روی نسخهی رایگان ChatGPT انجام شده است، نشان میدهد که این چتبات ممکن است با پاسخهای نادرست یا ناقص خود جان بیماران را بهخطر بیندازد. علاوهبراین، چتبات یادشده به بعضی از این سؤالات هیچ جوابی نمیدهد.
بهگزارش CNBC، داروسازان دانشگاه لانگ آیلند نیویورک ۳۹ سکال دارویی برای نسخهی رایگان این چتبات مطرح کردند؛ اما تنها به ۱۰ نمونه از آنها پاسخ رضایتبخش داده شد. دربارهی ۲۹ پرسش دیگر، ChatGPT به آنها پاسخ نادرست یا ناقص میداد و حتی برخی از آنها را بدون پاسخ میگذاشت.
سخنگوی OpenAI در واکنش به مطالعات یادشده بیان کرد که کاربران نباید پاسخهای ارائهشده از این چتبات را بهصورت قطعی درست در نظر بگیرند و آنها را با توصیههای پزشکان جایگزین کنند. او درادامهی سخنانش به این نکته اشاره کرد که ChatGPT هنوز نمیتواند بهخوبی اطلاعات پزشکی و دارویی را شناسایی کند.
مطالعات مشابهی در حوزههای مختلف روی چتبات نامبرده انجام شده است که نتیجهی آنها نیز به چنین پاسخهای نادرست یا ناقصی ختم شد. مشکلات اینچنینی، کمیسیون فدرال تجارت آمریکا را وادار کرده است تا تحقیقات لازم را برای حمایت از حقوق مصرفکنندگان آغاز کند.
نسخهی رایگان ChatGPT از اطلاعاتی استفاده میکند که به سال ۲۰۲۱ محدود هستند و همین موضوع باعث میشود در مواقعی که به علوم پزشکی مربوط هستند، نامطمئن باشد؛ زیرا چنین حوزهای سالبهسال تغییرات زیادی به خود میبیند. از دقت پاسخهای نسخهی پولی این چتبات اطلاعاتی دردسترس نیست.
در ابتدا داروسازان دانشگاه لانگ آیلند قصد داشتند ۴۹ سؤال را از ChatGPT بکنند؛ اما پس از تحقیقات ابتدایی متوجه شدند که ادبیات ۶ سؤال با چتبات یادشده سازگاری ندارد و تصمیم گرفتند آنها را حذف کنند.
محققان علاوهبر پاسخ پرسشهای مطرحشده، از ChatGPT خواستند تا منابع پاسخهایی که ارائه میدهد، به آنها نشان دهد. درنهایت، این چتبات فقط در هشت سؤال توانست مراجعی را ارائه کند که هرکدام شامل منابعی بودند که اصلاً وجود خارجی نداشتند.
برای نمونه، از ChatGPT سؤال شده بود که «آیا مصرف همزمان دو داروی خاص مشکلی برای بیماران ایجاد میکند یا خیر؟» که این چتبات پاسخ داد که «مشکلی بهوجود نخواهد آمد!» بااینحال، پاسخ درست این بود که مصرف همزمان این دو دارو میتواند فشارخون را تا حد زیادی کاهش دهد.
درهرصورت کاربران نباید جواب سؤالات دارویی ارائهشدهی ChatGPT را به توصیههای پزشکان و داروسازان ترجیح دهند.
