فکر کردن ماشین از جعبه سیاه است

برنامه های نرم افزاری انواع مختلفی از تصمیمات خودکار را به شما ارائه می دهند ، مانند شناسایی خطر اعتباری یک فرد ، اطلاع رسانی به استخدام کننده از کدام نامزد شغلی برای استخدام یا تعیین اینکه آیا کسی تهدیدی برای مردم است. در سالهای اخیر ، عناوین خبری نسبت به آینده ای که ماشینها در پس زمینه جامعه فعالیت می کنند هشدار داده اند و ضمن استفاده از منطق غیرقابل اعتماد ، مسیر زندگی انسان ها را تعیین می کنند.

بخشی از این ترس ناشی از روش مبهمی است که در آن بسیاری از مدلهای یادگیری ماشین کار می کنند. آنها به عنوان مدل های جعبه سیاه شناخته می شوند و به عنوان سیستم هایی تعریف می شوند که در آن سفر از ورودی به خروجی در کنار حتی توسعه دهندگان آنها برای درک غیر ممکن است.

جاناتان سو می گوید: "از آنجا که یادگیری ماشینی همه کاره می شود و برای برنامه های کاربردی با پیامدهای جدی تر مورد استفاده قرار می گیرد ، نیاز به درک مردم وجود دارد که چگونه پیش بینی های خود را انجام می دهند ، بنابراین آنها می توانند به آن اعتماد کنند که بیشتر از ارائه تبلیغات باشد." از اعضای کادر فنی گروه انفورماتیک و پشتیبانی تصمیم گیری آزمایشگاه MIT لینکلن.

در حال حاضر ، محققان یا از تکنیک های post hoc یا از یک مدل قابل تفسیر مانند درخت تصمیم برای توضیح چگونگی رسیدن یک مدل جعبه سیاه به نتیجه خود استفاده می کنند. محققان با تکنیک های post hoc ، ورودی ها و خروجی های یک الگوریتم را مشاهده می کنند و سپس سعی می کنند توضیحی تقریبی را برای آنچه که در جعبه سیاه اتفاق افتاده است ، بسازند. مسئله این روش این است که محققان فقط می توانند در کارهای داخلی حدس بزنند و توضیحات اغلب ممکن است اشتباه باشد. درختان تصمیم گیری ، که انتخاب نقشه ها و پیامدهای احتمالی آنها در ساخت و ساز مانند درخت است ، برای داده های دسته ای که ویژگی های آنها معنی دار است ، کار می کنند ، اما این درختان در حوزه های مهم مانند دید رایانه ای و سایر مشکلات پیچیده داده قابل تفسیر نیستند.

سو تیمی را در آزمایشگاه که با پروفسور سینتیا رودین در دانشگاه دوک همکاری می کند به همراه دانشجویان دوک چائوفان چن ، اسکار لی و آلیا بارنت رهبری می کند تا روشهای تحقیق برای جایگزینی مدلهای جعبه سیاه را با روشهای پیش بینی شفاف تر انجام دهد. پروژه آنها ، با عنوان یادگیری قابل تفسیر ماشین قابل تفسیر (AIM) ، روی دو رویکرد متمرکز است: شبکه های عصبی قابل تفسیر و همچنین لیست های قاعده بیزی قابل تنظیم و قابل تفسیر (BRL).

شبکه عصبی یک سیستم محاسباتی است که از بسیاری از عناصر پردازش بهم پیوسته تشکیل شده است. این شبکه ها به طور معمول برای تجزیه و تحلیل تصویر و تشخیص شی استفاده می شوند. به عنوان مثال ، یک الگوریتم را می توان آموخت که تشخیص دهد که آیا یک عکس شامل یک سگ است که در ابتدا به آنها عکس سگ نشان داده می شود. محققان می گویند مشکل این شبکه های عصبی این است که کارکردهای آنها غیرخطی و بازگشتی و همچنین برای انسان پیچیده و گیج کننده است و نتیجه نهایی این است که مشخص کردن اینکه دقیقاً این شبکه با عنوان "سگی" در میان عکس ها مشخص کرده است ، دشوار است. و چه چیزی منجر به این نتیجه گیری شد.

برای برطرف کردن این مشکل ، تیم در حال توسعه مواردی است که از آن به عنوان "شبکه های عصبی نمونه اولیه" استفاده می شود. اینها با شبکه های عصبی سنتی متفاوت است از آنجا که آنها به طور طبیعی توضیحات مربوط به هر یک از پیش بینی های خود را با ایجاد نمونه های اولیه ، که به ویژه بخش هایی از تصویر ورودی هستند ، رمزگذاری می کنند. این شبکه ها پیش بینی های خود را بر اساس شباهت قسمت هایی از تصویر ورودی به هر نمونه اولیه انجام می دهند.

به عنوان نمونه ، اگر یک شبکه وظیفه دارد تشخیص دهد که یک تصویر از سگ ، گربه یا اسب است ، می تواند بخش هایی از تصویر را با نمونه های اصلی قسمت های مهم هر حیوان مقایسه کند و از این اطلاعات برای پیش بینی استفاده کند. مقاله ای در مورد این اثر: "این طور به نظر می رسد: یادگیری عمیق برای تشخیص تصویر قابل تفسیر" ، اخیراً در اپیزودی از پادکست " علم داده در خانه " نمایش داده شد. مقاله قبلی ، "یادگیری عمیق برای استدلال مبتنی بر مورد از طریق نمونه های اولیه: یک شبکه عصبی که پیش بینی های آن را توضیح می دهد" ، از کل تصاویر به عنوان نمونه های اولیه استفاده می کرد نه قسمت.

حوزه دیگری که تیم تحقیق در حال بررسی آن است BRL ها هستند که درختان تصمیم گیری یک طرفه کمتری دارند و برای داده های جدولی مناسب هستند و اغلب به اندازه مدل های دیگر دقیق هستند. BRL ها از دنباله ای از عبارات شرطی ساخته شده اند که به طور طبیعی یک مدل قابل تفسیر را تشکیل می دهند. به عنوان مثال ، اگر فشار خون بالا باشد ، خطر بیماری قلبی زیاد است. سو و همکارانش از خواص BRL ها استفاده می کنند تا کاربران را قادر سازند تا نشان دهند که کدام ویژگی ها برای یک پیش بینی مهم هستند. آنها همچنین در حال توسعه BRL های تعاملی هستند ، که می توانند بلافاصله هنگام ورود داده های جدید به جای تلافی شدن دوباره از ابتدا در یک مجموعه داده رو به رشد ، سازگار شوند.

استفانی کارنل ، دانشجوی فارغ التحصیل دانشگاه فلوریدا و کارورز تابستانی در گروه انفورماتیک و پشتیبانی تصمیم گیری ، با استفاده از BRL های تعاملی از برنامه AIM به یک پروژه کمک می کند تا دانشجویان پزشکی در مصاحبه و تشخیص بیماران بهتر شوند. در حال حاضر ، دانشجویان پزشکی این مهارت ها را با مصاحبه با بیماران مجازی و دریافت نمره از اطلاعات مهم تشخیصی قادر به کشف آنها تمرین می کنند. اما این نمره توضیحی درمورد آنچه دقیقاً در مصاحبه دانشجویان برای دستیابی به نمره خود آورده اند ، ندارد. پروژه AIM امیدوار است این مورد را تغییر دهد.

کارن می گوید: "می توانم تصور کنم که بیشتر دانشجویان پزشکی از دریافت پیش بینی در مورد موفقیت بدون دلیل خاصی دلیل ناامید شدن بسیار ناامید هستند." "لیست های قانونی ایجاد شده توسط AIM باید روشی ایده آل برای دادن بازخورد قابل درک به محور دانش آموزان باشد."

برنامه AIM بخشی از تحقیقات در حال انجام در آزمایشگاه در مهندسی سیستم های انسانی یا تمرین طراحی سیستم هایی است که با نحوه تفکر و عملکرد افراد سازگارتر هستند ، مانند الگوریتم های قابل درک و نه مبهم.

هلی رینولدز ، دستیار رهبر گروه انفورماتیک و پشتیبانی از تصمیم گیری می گوید: "آزمایشگاه این فرصت را دارد که یک رهبر جهانی در جمع انسان ها و فناوری باشد." "ما در پیش رو پیشرفت های عظیم هستیم."

ملووا جیمز یکی دیگر از اعضای کادر فنی در گروه انفورماتیک و پشتیبانی تصمیم گیری است که در پروژه AIM شرکت دارد. او می گوید: "ما در آزمایشگاه پیاده سازی های پایتون را با استفاده از BRL و BRL های تعامل ایجاد کرده ایم." "[ما] به طور همزمان آزمایش خروجی برنامه های BRL و تعامل BRL بر روی سیستم عامل های مختلف و سیستم عامل های سخت افزاری را برای ایجاد قابلیت حمل و تکرارپذیری آزمایش می کنیم. ما همچنین برنامه های کاربردی دیگری از این الگوریتم ها را شناسایی می کنیم."

http://dirstop.com/story5844697/قیمت-آکومولاتور