آیا هوش مصنوعی قابل اعتماد است؟
آیا هوش مصنوعی قابل اعتماد است؟
ما دوران بی سابقه‌ای از تاریخ انسان‌ها را طی می‌کنیم. روبات‌های مجهز به هوش مصنوعی، به زودی به مرحله‌ای می‌رسند که قادر خواهند بود تصمیم‌های حیاتی و مهمی برای ما بگیرند و جنبه‌های گوناگونی از زندگی ما را تحت تاثیر قرار خواهند داد. این پروسه همین حالا نیز آغاز شده اما آیا واقعا اهمیتی دارد که ماشین‌های هوشمند چگونه تصمیم می‌گیرند؟ آیا نتایج تصمیمات روبات‌ها می‌تواند سرنوشت ما انسان‌ها را تغییر دهد؟
فرض کنید که برای دریافت بخشی از هزینه‌های درمان بیماری خود، به شرکت بیمه مراجعه کرده‌اید اما شرکت بیمه با پرداخت وجه به شما موافقت نمی‌کند، تنها به این دلیل که الگوریتم‌های ارزیابی شرکت، به این نتیجه رسیده‌اند که شما مستحق دریافت کمک مالی نیستید یا وقتی که درخواست وام شما از طرف بانک رد می‌شود و بانک شما نمی‌تواند بگوید دقیقا چرا با پرداخت وام موافقت نشده است. اینها نمونه‌های ساده‌ای از سناریوهای تحمیلی است که با رشد و توسعه هوش مصنوعی، فعالان حوزه تکنولوژی درباره آن ابراز نگرانی کرده‌اند. بخش‌های مختلفی از دنیای تکنولوژی مانند تحقیقات پزشکی، خودروهای خودران، بخش‌های نظامی و جنایی در حال تحقیق روی هوش مصنوعی هستند تا هر بخش به فراخور سیستم کاری خود، بتواند بفهمد چگونه می‌توان هوش مصنوعی را با حفظ مسائل امنیتی، به بهترین شکل مورد استفاده قرار داد. طبق گزارش اخیر شرکت مشاوره consultancy PwC، پیش‌بینی می‌شود که هوش مصنوعی تا سال ۲۰۳۰ اقتصاد جهانی را به میزان ۷/ ۱۵ تریلیون دلار افزایش خواهد داد. اما به چه قیمتی؟ این برنامه‌های الگوریتمیک، آنقدر در حال پیچیده شدن هستند که حتی خالقان آنها نیز گاهی اوقات نمی‌توانند بفهمند این دستاورد با ارزش انسانی، تصمیمات خود را بر چه مبنایی می‌گیرد!
شبکه‌های عصبی هوشمند نوظهور که به آنها neural networks می‌گوییم و طوری طراحی شده‌اند تا رفتارهای مغز انسان را تقلید کنند، شامل تعدادی پردازنده متصل به یکدیگر هستند که می‌توانند حجم عظیمی از داده را تحلیل کنند. neural networks با استفاده از تکنولوژی یادگیری ماشینی، میلیون‌ها الگوی متغیر را تحلیل کرده و یافته‌های خود را به مرحله عمل می‌رسانند. این دستاورد می‌تواند تغییرات بزرگی در دنیای دیجیتال ایجاد کند مانند پیش‌بینی‌های دقیق آب و هوا یا تشخیص دقیق بیماری‌هایی مانند سرطان. Rhodri Davies، رئیس بخش سیاست و برنامه‌ریزی موسسه خیریه Charities Aid Foundation می‌گوید: «اگر این سیستم‌ها برای کارهایی مانند رای‌گیری یا دسترسی به سرویس‌های عمومی مورد استفاده قرار گیرند، علاوه بر انقلابی که همین حالا نیز شروع شده، مشکلات مختص به خود را نیز همراه دارند.» David Stern، مدیر تحقیقات شرکت تکنولوژیک G-Research، شرکتی که با کمک تکنولوژی یادگیری ماشینی، در زمینه پیش‌بینی قیمت بازارهای مالی فعالیت دارد، معتقد است یکی از پرکاربردترین روش‌های برنامه‌ریزی سیستم‌های هوش مصنوعی، روش داده‌کاوی جعبه سیاه نام دارد: «این شیوه یکی از محبوب‌ترین شیوه‌های برنامه‌ریزی در زمینه سیستم‌های عصبی هوشمند (neural networks) است. در این روش الگوهای قرارگیری میلیون‌ها پارامتر که به شیوه‌های پیچیده‌ای با یکدیگر در ارتباط هستند، مشخص می‌شود. توضیح روابط این پارامترها حتی برای مهندسان و محققان بسیار مشکل است.» یکی دیگر از روش‌ها «deep reinforcement learning» (یادگیری عمیق تقویت شده) است که در آن، طراح به‌صورت اختصاصی هدف‌های رفتاری یک سیستم را مشخص می‌کند و سیستم به‌صورت اتوماتیک با کمک تکنولوژی یادگیری ماشینی و تعامل با محیط اطراف، در راستای تحقق هدف عمل می‌کند. Stern می‌گوید در روش دوم نیز نحوه ادراک دلیل رفتار سیستم از سوی انسان‌ها بسیار مشکل است.
منبع خبر: دنیای اقتصاد
آیا هوش مصنوعی قابل اعتماد است؟ - مشاوران بین المللی کسب و کار IBC
