تحقیقات جدید: چگونه ربات‌ها می‌توانند خطرناک شوند!

به گزارش Penn Engineering تیمی از محققان توانسته‌اند روش جدیدی برای دستکاری ربات‌ها با هوش مصنوعی پیدا کنند که می‌تواند آن‌ها را به خطرناک‌ترین شکل ممکن به کار گیرد این برنامه جدید که RoboPAIR نام دارد قابلیت دور زدن قوانین امنیتی این دستگاه‌ها را دارد

ربات‌ها در آزمایشگاه

در آزمایش‌های خود دانشمندان موفق شدند تا سه نوع مختلف از ربات‌ها را به انجام کارهای زیان‌بار وادار کنند از تصادف عمدی با اتومبیل‌ها گرفته تا قطع مسیرها و حتی سقوط اشیاء بر روی افراد این آزمایش‌ها نشان داد که با استفاده از برنامه RoboPAIR ربات‌ها به راحتی دستورات خطرناک را اجرا می‌کنند

چرا امنیت ربات‌ها اهمیت دارد

ربات‌ها معمولاً برنامه‌ریزی شده‌اند تا از انجام هرگونه فعالیتی که می‌تواند به انسان یا محیط زیست آسیب برساند خودداری کنند اما با این برنامه جدید بسیار راحت‌تر می‌توان این قوانین را نقض کرد محققان قبل از اعلام عمومی این یافته‌ها آن‌ها را با شرکت‌های بزرگ هوش مصنوعی به اشتراک گذاشته‌اند تا نقاط ضعف را آشکار کنند

منبع: Penn Engineering

نقش آزمایش و ارزیابی در اطمینان از ایمنی

یکی از پژوهشگران به نام الکساندر روبی معتقد است که کشف ضعف‌ها در سیستم‌های هوش مصنوعی ضروری است تا از خطرات احتمالی جلوگیری شود او تاکید می‌کند که بررسی و تست این سیستم‌ها برای حفظ امنیت آن‌ها بسیار اساسی است

در پایان این تحقیقات نشان می‌دهد که ربات‌ها و فناوری‌های هوش مصنوعی می‌توانند کمک‌های فراوانی ارائه دهند اما در صورت عدم حفاظت مناسب قادر به ایجاد خطرات جبران‌ناپذیر هستند بنابراین افزایش سطح امنیتی این سیستم‌ها از اهمیت ویژه‌ای برخوردار است