فیلم بیشتر »»
کد خبر ۱۰۹۱۷۴۹
تاریخ انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴
کد ۱۰۹۱۷۴۹
انتشار: ۱۱:۲۹ - ۱۵-۰۶-۱۴۰۴

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر

زنگ خطر به صدا درآمد / پاسخ هوش مصنوعی به پرسش‌های پرخطر
تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشی تازه نشان می‌دهد که چت‌بات‌های هوش مصنوعی، از جمله ChatGPT و Gemini، می‌توانند به سوالات مرتبط با خودکشی پاسخ‌های مستقیم و حتی خطرناکی بدهند. این یافته‌ها نگرانی‌ها درباره استفاده از هوش مصنوعی در شرایط بحران روانی را افزایش داده است.

به گزارش خبرآنلاین، پژوهشی که نتایج آن در مجله Psychiatric Services منتشر شد، نشان می‌دهد که مدل‌های هوش مصنوعی می‌توانند جزئیات روش‌های خودکشی را نیز به افراد در معرض خطر ارائه کنند. 

تحقیقات نشان می‌دهد که ChatGPT و Gemini نسبت به سایر چت‌بات‌ها پاسخ‌های پرخطرتری ارائه می‌دهند. با توجه به این موضوع، کارشناسان هشدار می‌دهند که مدل‌های هوش مصنوعی باید محدودیت‌ها و فیلترهای امنیتی قوی‌تری داشته باشند.

پژوهشگران هشدار می‌دهند که با گسترش دسترسی به هوش مصنوعی، کشورهای مختلف باید چارچوب قانونی و ایمنی برای جلوگیری از خطرات احتمالی ایجاد کنند. این یافته‌ها می‌تواند مبنای سیاستگذاری برای هوش مصنوعی ایمن در بحران‌های روانی باشد.

منبع: لایوساینس

ارسال به دوستان
پارادوکس تجربه: دانایان هم اشتباه می کنند / پرونده های عجیب نابودی: نوکیا، کداک، چلنجر و ایرفرانس 447 رئیس پارلمان لبنان: مذاکره تحت فشار حملات اسرائیل چه سودی دارد؟ کشف جسد فرد مغروق در رود ارس با تلاش امدادگران در جلفا سی‌ان‌ان: ایران تقریبا همه سایت‌های نظامی آمریکا در خاورمیانه را هدف قرار داده رونمایی بایکار از پهپاد کی2؛ پهپاد انتحاری ترکیه با قابلیت بازگشت به آشیانه! (+فیلم و عکس) نیروی دریایی سپاه: قواعد مدیریت جدید خلیج فارس اعمال خواهد شد پرواز رفت و برگشت رشت- مشهد برقرار شد مدیر مسؤول عصر ایران در سوگ پدر دستگیری عامل تیراندازی مرگبار در عملیات ضربتی پلیس ازنا نتایج نظرسنجی جدید: ۶۱ درصد آمریکایی ها جنگ با ایران را یک اشتباه می دانند ترامپ: برای ادامه جنگ با ایران، اجازه رسمی از کنگره نخواهم گرفت نفتالی بنت: اسرائیل در حال فروپاشی است شهادت ۱۴ عضو سپاه زنجان بر اثر انفجار مهمات عمل‌نکرده رایزنی تلفنی عراقچی و لاوروف پیام رهبر انقلاب اسلامی به مناسبت روز کارگر و روز معلم