هوش مصنوعی به طور معمول با پیشرفت فناوری و نرم افزار مربوط می‌شود. انتظار می‌رود جهان تا سال ۲۰۳۰ شاهد رشد ۱۵.۷ تریلیون دلاری تولید ناخالص داخلی مبتنی بر هوش مصنوعی باشد. کاربرد‌های هوش مصنوعی در سازمان‌ها و صنایع همچنان در حال رشد است. با افزایش مزایای سیستم‌های هوش مصنوعی، خطرات مرتبط با این ابزار‌ها افزایش می‌یابد، این خطرات چیست؟ آیا مزایای هوش مصنوعی بیشتر از خطرات آن است؟ در اینجا به این سوالات پاسخ داده شده است:

خطرات هوش مصنوعی چیست؟
هوش مصنوعی خطرات بالقوه زیادی دارد، با گسترش و توسعه قابلیت‌های هوش مصنوعی، خطرات مرتبط با آن افزایش می‌یاد. در اینجا پنج خطر فراگیر هوش مصنوعی آورده شده است.

۱. عدم قابلیت ردیابی پیاده سازی هوش مصنوعی

از منظر مدیریت ریسک، ما اغلب با فهرستی از سیستم‌ها و مدل‌هایی که شامل هوش مصنوعی هستند شروع می‌کنیم و استفاده از حوزه ریسک به ما امکان می‌دهد خطرات هوش مصنوعی را ردیابی، ارزیابی، اولویت‌بندی و کنترل کنیم.

متأسفانه محبوبیت روزافزون این فناوری به طور کلی به این معنی است که به طور فزاینده‌ای خارج از حیطه اختیارات تیم رسمی IT پیاده سازی می‌شود و مطالعه‌ای توسط McAfee بیان می‌کند که ۸۰ ٪ از کارمندان سازمانی از برنامه‌های بدون گواهی SaaS (نرم افزار به عنوان سرویس) در محل کار استفاده می‌کنند.

۲. وارد شدن سوگیری برنامه‌ای در تصمیم گیری

یکی از مخرب‌ترین خطرات هوش مصنوعی وارد کردن سوگیری به الگوریتم‌های تصمیم گیری آن است. سیستم‌های هوش مصنوعی از مجموعه داده‌هایی که بر اساس آن‌ها آموزش دیده اند یاد می‌گیرند. بسته به نحوه وقوع این تجمیع، این احتمال وجود دارد که مجموعه داده‌ها ممکن است مفروضات را منعکس کند. این سوگیری‌ها می‌توانند بر فرآیند تصمیم گیری در سیستم تأثیر بگذارند.

۳. منابع داده و نقض حریم خصوصی

با پیش‌بینی شرکت بین‌المللی داده که دامنه داده‌های جهانی از ۳۳ تریلیون گیگابایت در سال ۲۰۱۸ به ۱۷۵ گیگابایت تا سال ۲۰۲۵ افزایش خواهد یافت، حجم عظیمی از داده‌های ساختاریافته و بدون ساختار در اختیار شرکت‌ها قرار می‌گیرد تا آن‌ها را استخراج و پردازش کنند.

۴. الگوریتم‌های جعبه سیاه و عدم شفافیت

هدف اصلی بسیاری از سیستم‌های هوش مصنوعی پیش‌بینی است و به همین دلیل الگوریتم‌ها می‌توانند آنقدر پیچیده باشند که حتی کسانی که الگوریتم را ایجاد کرده‌اند نمی‌توانند توضیح دهند که چگونه متغیر‌ها با هم ترکیب می‌شوند و به پیش‌بینی منتج می‌رسند، و همین عدم شفافیت دلیل برخی از مراجع است.

۵. مسئولیت قانونی مشخص نیست

با توجه به خطرات بالقوه هوش مصنوعی که تاکنون مورد بحث قرار گرفت، این نگرانی‌ها منجر به پرسش مسئولیت قانونی می‌شود. اگر یک سیستم هوش مصنوعی با الگوریتم‌های فازی طراحی شده باشد و یادگیری ماشینی اجازه می‌دهد تا تصمیم گیری خود را بهبود بخشد، چه کسی از نظر قانونی مسئول نتیجه است؟ این خطر تئوری نیست، در سال ۲۰۱۸ یک خودروی خودران با یک عابر پیاده برخورد کرد و جان خود را از دست داد، در این مورد راننده پشتیبان انسانی خودرو توجهی نکرده و در هنگام از کار افتادن سیستم هوش مصنوعی مسئول بوده است.

آیا مزایای هوش مصنوعی بیشتر از خطرات آن است؟
خطرات هوش مصنوعی بسیار زیاد است، اما استفاده و رشد این ابزار‌ها نیز اجتناب ناپذیر است، زیرا مزایای بالایی وجود دارد، به گونه‌ای که سناریوی تصمیم‌گیری منصفانه‌تر می‌شود، زمانی که الگوریتم‌ها برای جلوگیری از سوگیری آموزش داده می‌شوند، در حالی که درک ما را از این دیدگاه افزایش می‌دهند. برخی از نکات مهم در مورد هوش مصنوعی عبارتند از:

سیستم‌های هوش مصنوعی باید شامل اسناد طراحی واضح باشند.

یادگیری ماشینی باید شامل تست و بهینه سازی باشد.

کنترل و حاکمیت هوش مصنوعی باید بر الگوریتم‌ها و کارایی اولویت داشته باشد.

منبع: الیوم السابع