Web Analytics Made Easy - Statcounter

به گزارش خبرگزاری صداوسیما به نقل از رویترز، به گفته مقامات انگلیسی تحقیقات نشان داده که می‌توان این ابزار‌ها را برای انجام کار‌های خطرناک فریب داد.   مرکز امنیت سایبری ملی انگلیس (NCSC) در یک پست وبلاگی اعلام کرد که کارشناسان هنوز نتوانسته اند مشکلات امنیتی مرتبط با الگوریتم‌هایی را شناسایی کنند که می‌توانند تعاملات انسانی ایجاد کنند و به مدل‌های زبانی بزرگ (LLM) مشهورند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!
  استفاده از ابزار‌های مبتنی بر هوش مصنوعی نه تنها به رشد کاربرد چت‌بات‌ها منجر شده بلکه برخی معتقدند علاوه بر آنکه جایگزین جستجوی اینترنتی می‌شود، بخش سرویس‌های مشتریان و تماس‌ها برای فروش را نیز از آنِ خود می‌کند.   طبق گزارش مرکز امنیت سایبری ملی انگلیس، این ابزار‌ها می‌توانند خطراتی را به همراه داشته باشند، به ویژه اگر مدل‌های زبانی بزرگ به سایر عناصر فرآیند‌های تجاری سازمان متصل شوند.    محققان بار‌ها راه‌هایی یافته‌اند که با ارسال دستور‌های ممنوع به چت‌بات‌ها یا گمراه کردن آن‌ها و دور زدن اقدامات محافظتی، این ابزار‌ها را از کار می‌اندازند.   به عنوان مثال، یک ربات‌چت مبتنی بر هوش مصنوعی که توسط یک بانک استفاده شده، ممکن است فریب داده شود تا یک تراکنش غیرمجاز انجام دهد.   NCSC در یکی از پست‌های وبلاگی خود با اشاره به ارائه ازمایشی نسخه‌های نرم‌افزاری اعلام کرد: سازمان‌های خدماتی که از LLM استفاده می‌کنند باید مانند زمانی که یک محصول یا کدی را در وضعیت بتا ارائه می‌کنند، مراقب باشند.   ممکن است سازمان‌ها اجازه ندهند آن محصول آزمایشی از سوی مشتری تراکنشی انجام دهد و به طور کلی آن را معتبر ندانند. همین اقدامات احتیاطی باید در مدل‌های زبانی بزرگ نیز انجام شود.   پیامد‌های امنیتی هوش مصنوعی نیز همچنان در کانون توجه قرار دارد و مقامات سراسر جهان می‌گویند که شاهد استقبال هکر‌ها از این فناوری بوده اند.

منبع: خبرگزاری صدا و سیما

کلیدواژه: هوش مصنوعی چت بات هکرها هوش مصنوعی ابزار ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.iribnews.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری صدا و سیما» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۵۸۴۱۵۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

باید فضای رسانه را به سمت بهره‌وری سوق داد

محمد مهدی کوثری، کارشناس رسانه در پاسخ به این سوال که نقش رسانه تا چه اندازه می‌تواند در تربیت بچه‌ها تأثیرگذار باشد؟ گفت: در حال حاضر، رسانه مثل هوا در زندگی همه ما جاری است. زیرا ما؛ از همه اقشار و سنین و با افکار و عقاید مختلف با رسانه درگیر هستیم و با این مقوله و ابزار ارتباطی کار می‌کنیم و از مزایای آن بهره مند می‌شویم. به همین دلیل، طبیعتاً اگر بتوانیم این فضا را به سمت بهره‌وری و استفاده بیشتر پیش ببریم و از مزایای آن در زمینه‌های مختلف آموزش، توانمندی‌های فردی و... بیشتر استفاده کنیم کمک کننده است؛ بنابراین هر قدر به این سمت برویم و پیشرفت کنیم بدنبال آن، می‌توانیم از ابزار رسانه نیز، بهتر بهره‌مند شویم.

این کارشناس رسانه با اشاره به فراگیری رسانه در زندگی افراد بعد از شیوع ویروس کرونا در سال‌های گذشته تصریح کرد: رسانه به ویژه فضای مجازی بعد از شیوع بیماری کرونا در میان گروه‌های مختلف سنی بسیار فراگیر شد و به همین دلیل، هرقدر بتوانیم منابع و آورده‌های رسانه‌ای بهتری را برای همه اقشار جامعه فراهم کنیم و در اختیار آن‌ها قرار دهیم مفیدتر است و الان هم، می‌بینیم که به لطف خدا، تولیدات رسانه‌ای ما بیشتر شده اند؛ هم در سازمان صدا و سیما و هم در خارج از آن؛ به طوری که در فضای مجازی شاهد تولید بعضی از برنامه‌های خوبی هستیم. 

کوثری با اشاره به نقش والدین برای هدایت فرزندان در استفاده از ابزار رسانه ادامه داد: هنر والدین این است که در وهله اول، بتوانند فضای خانواده را به سمت و سویی پیش ببرند تا فرزندان و افراد خانواده بتوانند آورده و بهره‌وری بهتری از رسانه داشته باشند و در مرحله بعدی، همه افراد خانواده هم بتوانند از این طریق رشد کنند و خانواده بتواند به سمت متعالی شدن و بهره‌وری بیشتر از این ابزار پیش برود.

این کارشناس رسانه افزود: با توجه به این‌که بخش عمده‌ای از فضای زندگی افراد را رسانه تشکیل می‌دهد حتی می‌توان خانواده را از طریق رسانه جهت داد که این موضوع می‌تواند از فرزندان شکل بگیرد چراکه رسانه می‌تواند این اختیار را به پدر و مادر دهد تا مطالبی که آموزش آن‌ها و دسترسی به این مطالب سخت و دشوار است را راحت‌تر در اختیار داشته باشند و باید توجه کرد که در بحث رسانه برای کودکان می‌توان از فضاسازی استفاده کرد.

باشگاه خبرنگاران جوان فرهنگی هنری ساير حوزه ها

دیگر خبرها

  • اولین پوست الکترونیکی قابل کشش در جهان
  • تجهیز صنایع کشور با ربات‌های مجهز به هوش مصنوعی
  • آیا فرشتگان می توانند کاری غیر از عبادت را در پیش گیرند؟
  • طراحی نیمکت مواج برای اتاق‌های انتظار (فیلم)
  • ابزار ۱۳ سانتی دندانپزشکی در معده دختر ۲۰ ساله در ساوه
  • خارج کردن ابزار ۱۳ سانتی دندان پزشکی از معده دختر ۲۰ ساله در ساوه
  • چرا ارتش‌ها نمی‌توانند به هوش مصنوعی اعتماد کند؟
  • باید فضای رسانه را به سمت بهره‌وری سوق داد
  • دستیار هوشمند خانگی/ هوش مصنوعی چگونه به خانه‌داری کمک می‌کند؟
  • خطر ۷ نوع آفت در کمین درختان تهران | نحوه مبارزه شهرداری با این خطرات