هوش مصنوعی ممکن است خطرناک باشد

به گزارش پایگاه علم و پژوهش نیوز و به نقل از آی ای، هوش مصنوعی (AI) پیشرفت چشمگیری داشته و از بسیاری جهات، جهان را بهبود بخشیده است. اما آیا ممکن است این فناوری خطرناک شود؟

مقاله جدیدی که توسط دانشگاه آکسفورد و محققان گوگل دیپ مایند در ماه گذشته در مجله تخصصی هوش مصنوعی منتشر شد، استدلال می‌کند که این فناوری می‌تواند خطرناک باشد. این تحقیق تصریح می‌کند که هوش مصنوعی می‌تواند یک خطر برای بشریت باشد.

همه اینها مربوط به شبکه‌های متخاصم (یا GAN) است که امروزه در توسعه هوش مصنوعی استفاده می‌شود. این سیستم ها در دو معیار عمل می‌کنند: یک بخش سعی می‌کند تصویری را از داده های ورودی تولید کند در حالی که بخش دیگر عملکرد آن را درجه بندی می‌کند. محققان در این مقاله حدس می‌زنند که یک هوش مصنوعی پیشرفته می‌تواند استراتژی تقلب را برای دریافت پاداش خود به طور موثرتر در نظر بگیرد و در عین حال به بشریت آسیب برساند.

مایکل کی کوهن از دانشگاه آکسفورد گفت: در دنیایی با منابع محدود، رقابتی اجتناب ناپذیر برای این منابع وجود دارد. اگر در رقابتی با چیزی هستید که می‌تواند شما را در هر لحظه از بین ببرد، پس نباید انتظار برنده شدن داشته باشید.

اگر یک هوش مصنوعی مسئول برای مثال، پرورش غذای ما باشد، ممکن است بخواهد راهی برای اجتناب از انجام این کار پیدا کند. در واقع ممکن است تصمیم بگیرد که تمام وظایف محول شده خود را که احتمالا برای بقای بشریت ضروری است دور بزند و به طور کلی کار خودش را انجام دهد.

کوهن استدلال کرد که ما نباید به دنبال ایجاد چنین هوش مصنوعی پیشرفته ای باشیم، مگر اینکه ابزاری تضمین شده برای آن داشته باشیم.

اگرچه این مقاله به نکات معتبری اشاره می‌کند، اما باید توجه داشت که در حال حاضر، هوش مصنوعی یک دارایی برای بشریت است. از حذف نیاز انسان به انجام وظایف خسته کننده در زنجیره تامین تا انجام پیش بینی دقیق تر آب و هوا توسط هوش مصنوعی محقق شده است.

هوش مصنوعی مزیت های زیادی را برای بشریت به ارمغان می‌آورد. البته محدودیت‌های خودش را هم داشته که منجر به مشکلاتی شده است. اما این موضوعات مورد توجه محققان است و مورد تجزیه و تحلیل قرار گرفته تا دیگر تکرار نشود.

همه اینها به این معنی است که با در نظر گرفتن مزایا و معایب هوش مصنوعی، می‌توانیم به توسعه این فناوری ادامه دهیم به نحوی که به بشریت کمک کند، نه اینکه به آن آسیب برساند/ فارس.