پیام آذری

آخرين مطالب

این هوش مصنوعی می‌تواند خود را قضاوت کند! علمي

این هوش مصنوعی می‌تواند خود را قضاوت کند!
  بزرگنمايي:

پیام آذری - زومیت / نبود اطمینان در پیش‌بینی‌های هوش مصنوعی در برخی مواقع، ممکن است پیامدهای ناگواری داشته باشد؛ ولی به‌تازگی سیستمی طراحی شده است که میزان قطعیت‌نداشتن خود را نیز تخمین می‌زند.
اگر در فیلم ترمیناتور اسکای‌نت تصمیم می‌گرفت صلاحیت مسئولیت استفاده از مهمات هسته‌ای آمریکا را ندارد، داستان شکل دیگری به‌پایان می‌رسید. در دنیای واقعی، دانشمندان با ایجاد شبکه‌های مصنوعی که می‌دانند چه زمانی غیراعتماد هستند، ممکن است بتوانند ما را از وقوع چنین رویدادهای آخرالزمانی به رهبری هوش مصنوعی نجات دهند. شبکه‌های عصبی یادگیری عمیق با هدف تقلید از مغز انسان طراحی شده‌اند و با ارزیابی هم‌زمان عوامل متعدد، الگوهای موجود در انبوه داده‌ها را کشف می‌کنند که انسان‌ها ظرفیت تجزیه‌و‌تحلیل آن را ندارند.
درحالی‌که هنوز ممکن است فاصله‌ی زیادی با داستان اسکای‌نت داشته باشیم، هوش مصنوعی هم‌اکنون در حال تصمیم‌گیری در زمینه‌هایی است که روی زندگی انسان اثر می‌گذارند؛ مانند رانندگی خودران و تشخیص پزشکی. بنابراین، حیاتی است که آن‌ها تاحدممکن دقیق باشند. به‌منظور کمک به دستیابی به این هدف، سیستم شبکه‌ی عصبی جدیدی ایجاد شده است که علاوه‌بر پیش‌بینی، میزان اطمینان خود را نیز می‌تواند تخمین بزند.
الکساندر امینی، دانشمند علوم کامپیوتر آزمایشگاه هوش مصنوعی و علوم کامپیوتر مؤسسه فناوری ماساچوست می‌گوید: «نه‌تنها لازم است مدل‌ها عملکرد خیره‌کننده‌ای داشته باشند؛ بلکه باید بدانیم چه زمانی نمی‌توانیم به آن مدل‌ها اعتماد کنیم.»
این خودآگاهی از قابلیت اعتماد «رگرسیون شهودی عمیق» نام گرفته است و امتیاز آن براساس کیفیت داده‌های دردسترسی محاسبه می‌شود که باید با آن‌ها کار کند. هرچه داده‌های استفاده‌شده برای آموزش دقیق‌تر و جامع‌تر باشند، این احتمال بیشتر است که پیش‌بینی‌های آینده‌ موفق باشد.
گروه پژوهشی سیستم خود را با شبکه‌ی مصنوعی کنترل‌کننده‌ی اتومبیل خودرانی مقایسه می‌کند که سطوح متفاوتی از اطمینان در این زمینه دارد که آیا باید از تقاطعی عبور کند یا هنگام کمتر مطمئن‌بودن از پیش‌بینی‌هایش، منتظر بماند و حرکت نکند.
درحالی‌که پیش‌ازاین نیز در شبکه‌های عصبی چنین حفاظ‌هایی ایجاد شده بود، وجه تمایز سیستم جدید سرعت‌عمل آن بدون نیاز به محاسبات بیش‌ازحد است. محاسبات می‌تواند در یک بار اجرای شبکه کامل شود و هم‌زمان با تصمیم‌گیری، سطح اطمینان را نیز برآورد کند.
دانیلا روس، دانشمند علوم کامپیوتر می‌گوید:
این ایده مهم است و کاربرد وسیعی دارد؛ مثلا می‌تواند برای ارزیابی محصولات متکی‌بر مدل‌های آموزش‌دیده استفاده شود. با تخمین میزان قطعیت‌نداشتن مدل آموزش‌دیده، می‌آموزیم چقدر خطا از مدل انتظار داریم یا چه نوع داده‌هایی می‌توانند مدل را بهبود بخشند.
پژوهشگران سیستم جدید خود را درزمینه‌ی قضاوت عمق بخش‌های مختلف تصویر آزمایش کردند. این مانند حالتی است که اتومبیل خودران درباره‌ی فاصله قضاوت می‌کند. شبکه به‌خوبی با سیستم‌های موجود مقایسه‌شدنی بود و در همان زمان، قطعیت‌نداشتن خود را نیز تخمین می‌زد. در دفعاتی با حداقل اطمینان، واقعا در زمینه‌ی عمق اشتباه می‌کرد.
به‌عنوان مزیت اضافی، این شبکه می‌توانست دفعاتی را علامت‌گذاری کند که با تصاویری خارج از وظیفه‌ی معمول خود رو‌به‌رو می‌شد و با داده‌هایی که با آن‌ها آموزش دیده بود، بسیار تفاوت داشت. این مزیت در شرایط پزشکی می‌تواند به این معنا باشد که پزشک باید موردی را دوباره بررسی کند.
حتی اگر شبکه‌ی عصبی در 99 درصد مواقع درست عمل کند، 1 درصد باقی‌مانده بسته به سناریو می‌تواند عواقب جدی به‌دنبال داشته باشد. پژوهشگران می‌گویند اطمینان دارند که آزمایش اعتماد ساده و جدید آن‌ها می‌تواند به بهبود ایمنی به‌صورت آنی کمک کند؛ اگرچه کارشناسان هنوز مطالعه‌ی جدید را بازبینی نکرده‌اند. امینی می‌گوید:
خروج این مدل‌ها را از آزمایشگاه‌های پژوهشی و ورود آن‌ها را به دنیای واقعی و موقعیت‌هایی شاهد هستیم که در تماس با انسان‌ها قرار می‌گیرند و ممکن است پیامدهای تهدیدکننده‌ی زندگی داشته باشند. هر کاربری که از این روش‌ استفاده می‌کند، خواه پزشک باشد یا مسافر وسیله‌ی نقلیه، باید از هرگونه خطر یا نبود اطمینان مرتبط با آن تصمیم مطلع باشد.
نتایج این پژوهش در کنفرانس NeurIPS ارائه می‌شود و مقاله‌ی آنلاینی از آن دردسترس است.

لینک کوتاه:
http://www.azari-online.ir/Fa/News/291022/

نظرات شما

ارسال دیدگاه

Protected by FormShield

ساير مطالب

ورود دستگاه قضا برای رفع مشکلات شهرک صنعتی اردبیل/ عتباتی: تمام تلاش خود را برای حمایت از تولید و اشتغال به‌کار می‌گیریم

اجرای طرح سفیران کتاب در قطور خوی آغاز شد

تعطیلی مدارس ماکو و بازرگان بدلیل برودت هوا

برگزیدگان جشنواره نوجوان سالم در خوی تجلیل شدند

دو شهروند مهابادی قربانی کرونا ویروس شدند

نجاتی: شرط بندی در والیبال امسال کمتر انجام شده است

قائم‌مقام شهردار سابق، سرپرست شهرداری ارومیه شد

ارائه طرح ملی استفاده از خودنویس در سیستم آموزشی مدارس کشور

جوان 17 ساله: مجبورم تا لحظه مرگ سرقت کنم! +عکس

دیاباته چطور خودش را به ترکیب ثابت استقلال تحمیل می‌کند

13 هزار دانش آموز خراسان رضوی دوباره به تحصیل بازگشتند

پرورش 55 هکتاری آرتمیا در شهرستان عجب شیر

سپیدرود رشت میزبانش محتشم تبریز را شکست داد

چلسی دست خالی خانه لسترسیتی را ترک کرد

دلار جهانگیری به اندازه 10 سال پرونده قضایی ایجاد کرد

قرمزها ترک عادت نکردند!

گفت وگو با جوانی که از 17 سالگی دزد شد/ مجبورم تا لحظه مرگ سرقت کنم!

پایش شبانه واحد های صنعتی در آذربایجان شرقی

اقدام بایدن دریاره ایران در روز اول ریاست‌ جمهوری

جنگل کردکوی به دوربین مجهز می‌ شود

مرحله نخست مرمت عمارت «ایرینجی» ممقان اجرا شد

افزایش کرایه تاکسی در هشترود ممنوع

مبتلایان روزانه کرونا درآذربایجان‌غربی به کمترین رقم پس از خیزسوم رسید

مزرعه 500 دستگاهی ماینر در ارومیه کشف شد

رمان تاریخی، داستان بی تعادلی‌های تاریخ است

ضرورت معرفی شخصیت شیخ محمد خیابانی به کودکان و نوجوانان

زندگی شیخ شهید محمد خیابانی ظرفیت نگارش رمان را دارد

طرح توسعه مشاغل خانگی در آذربایجان‌شرقی به صورت علمی پیش می‌رود

بازگشایی مدارس ابتدایی پایه اول و دوم تبریز به صورت اختیاری از امروز

برگزیدگان جشنواره "نوجوان سالم" در خوی تجلیل شدند

اجرای طرح "سفیران کتاب" در قطور خوی آغاز شد

هلال‌احمر آذربایجان‌غربی به 141 نفر گرفتار در کولاک امدادرسانی کرد

بیش از 10 درصد دانش‌آموزان خلخالی در مدارس غیردولتی حضور دارند

بیش از 20 هزار اصله نهال گردو در خلخال توزیع می‌شود

تسهیلات 163 میلیارد ریالی دولت برای بهبود زندگی عشایر آذربایجان‌غربی

کاهش دمای هوا و بارش برف در استان اردبیل از امروز

فکری در تبریز همه را غافلگیر کرد/ دیاباته آماده نبود ولی دو گل زد/ می‌خواهند تمرکز فکری را بهم بزنند

امضای توافق‌نامه راه‌اندازی بارانداز ریلی ایران و جمهوری آذربایجان در منطقه مرزی مغان

درمان های خانگی رفع ترک دست ها در زمستان

آذربایجان؛ تنشه تر از همیشه/ تبریز در تنش آبی اولین تابستان قرن جدید

انتقاد از عدم شفاف سازی شهرداری تبریز تا معرفی نیروگاه تبریز به دادگاه /با مجوزهای سازمان صمت موافقت نخواهیم کرد

آخرین اظهارات ترامپ قبل از ترک کاخ سفید

اتفاقی که در تبریز برای شیخ دیاباته افتاد

لیگ برتر انگلیس| چلسی دست خالی خانه لسترسیتی را ترک کرد/ روباه‌ها صدرنشین شدند

بدری: باید اقدام عاجلی برای جلوگیری ضرر مردم در بورس صورت گیرد

سردشت پربارش‌ترین شهر آذربایجان‌غربی طی 24 ساعت گذشته

تمامی محورهای مواصلاتی آذربایجان‌غربی باز است

مجسمه مرد اسطوره‌ای دنیای تکنولوژی در باغ موزه قهرمانان نصب می شود

از وان‌پلاس نورد 2 چه انتظاراتی داریم؟

افزایش ارزش ارز دیجیتال ایکس‌آرپی 11 تنها در یک روز