خطر اصلی هوش مصنوعی

[colorspace]

عدم شفافیت و خطر هوش مصنوعی (https://ramzagah.com/elon-musk-says-ai-is-dangerous/)بسیاری از سیستم های هوش مصنوعی با شبکه های عصبی که به عنوان موتور کار می کنند ساخته شده اند. اینها سیستم های پیچیده و به هم پیوسته ای هستند که کمتر قادر به نشان دادن “انگیزه” خود برای تصمیم گیری هستند. شما فقط شاهد ورودی و خروجی هستند. سیستم بسیار پیچیده است. با این وجود، در مواردی که تصمیمات نظامی یا پزشکی باید اتخاذ شود مهم است که بتوانیم داده های خاصی که منجر به ایجاد تصمیمات خاص شده اند را ردیابی کنیم. چه فکر یا استدلالی منجر به ایجاد خروجی ها می شود؟ برای آموزش مدل از چه داده هایی استفاده شده است؟ تفکر مدل چیست؟ در حال حاضر این موارد در هاله ای از ابهام هستند.استفاده از الگوریتم های مغرضانهیکی از خطرات هوش مصنوعی برای بشریت این است که در حال حاضر نمونه های زیادی از سیستم هایی وجود دارد که نسبت به جمعیت سفید پوست به نژادهای پوستی دیگر آسیب می رسانند. به هر حال، وقتی که به سیستم داده های تبعیض آمیز داده می شود؛ نتایج مغرضانه ای تولید می شود و از آنجایی که خروجی توسط کامپیوتر تولید می شود، پاسخ درست فرض می شود.شرکت ها و سازمان ها در حال حاضر تخصص کمی برای ارزیابی درست مجموعه داده ها دارند و نمی توانند هر گونه فرضیات و داده های مغرضانه را فیلتر کنند. آسیب پذیرترین گروه ها حتی بیش از حد معمول از این سیستم ها لطمه دیده اند و حتی ناعدالتی افزایش پیدا کرده است.در نهایت ما نباید بدون اطلاع از چگونگی دست یابی الگوریتم ها و داده ها به نتایج، به خروجی متکی باشیم.
https://ramzagah.com/elon-musk-says-ai-is-dangerous/