هوش مصنوعی قابل توضیح

هوش مصنوعی توصیف پذیر یا هوش مصنوعی قابل توضیح ( Explainable Artificial Intelligence ) [ ۱] و یا یادگیری ماشین تفسیرپذیر ( Interpretable Machine Learning ) تلاش می کند تا مراحل و تصمیم هایی که یک مدل یادگیری ماشین هنگام پیش بینی می گیرد را توضیح دهد که به کاربران انسانی اجازه می دهد تا نتایج و خروجی ایجاد شده توسط الگوریتم های یادگیری ماشین را درک کرده و به آن اعتماد کنند.
هوش مصنوعی توصیف پذیر به منظور توضیح و شرح دادن یک مدل هوش مصنوعی، تأثیر مورد انتظار آن و سوگیری های محتمل آن استفاده می شود که باعث می شود دقت، انصاف، شفافیت و نتایج مدل در تصمیم گیری های مبتنی بر هوش مصنوعی بهبود یابد.
همان طور که هوش مصنوعی پیشرفته تر می شود، انسان ها برای درک نحوه به نتیجه رسیدن الگوریتم های یادگیری ماشین با چالش هایی مواجه می شوند. کل فرایند محاسبات به چیزی تبدیل می شود که معمولاً به آن جعبه سیاه یا Black box می گویند و تفسیر آن غیرممکن است. این مدل های جعبه سیاه به طور مستقیم از داده ها ساخته می شوند و حتی مهندسان یا دانشمندان داده ای که الگوریتم را ساخته اند نمی توانند آن را درک کنند و توضیح دهند که دقیقاً درون آن چه اتفاقی می افتد یا چگونه الگوریتم هوش مصنوعی به یک نتیجه خاص می رسد. درک این که چگونه یک سیستم مجهز به هوش مصنوعی به یک خروجی خاص منجر شده است، مزایای زیادی دارد، توضیح پذیری می تواند به توسعه دهندگان کمک کند تا مطمئن شوند که سیستم همان طور که انتظار می رود کار می کند.
• مراقبت های بهداشتی
• حوزه های پزشکی مانند تشخیص پزشکی
• خدمات مالی
• عدالت کیفری
• متن کاوی مانند توالی یابی دی ان ای
به طور کلی استفاده از هوش مصنوعی توصیف پذیر در زمینه های مختلف بسیار ضروری است. برای مثال در حوزه پزشکی، درک دقیق تر و شفاف تر تصمیمات هوش مصنوعی در تشخیص بیماری ها، اعتماد بیشتر پزشکان و بیماران را به همراه دارد و این قابلیت را به مدل هوش مصنوعی می دهد تا مورد استفاده بالینی قرار بگیرد. همچنین، در صنعت خودروسازی، قابلیت توضیح الگوریتم های هوش مصنوعی در فهم تصمیمات خودروهای خودران، ایمن بودن این خودروها را تضمین می کند.
برای این که انسان ها بتوانند مدل های هوش مصنوعی را بپذیرند، باید به آنها اعتماد کنند. تفسیرپذیر بودن مدل ها به ویژه در پزشکی و به ویژه در سیستم های پشتیبانی تصمیم گیری بالینی، که در آن متخصصان پزشکی باید قادر به درک چگونگی و چرایی تصمیم گیری مبتنی بر ماشین باشند، بسیار مهم است. استفاده از هوش مصنوعی توصیف پذیر ( به اختصار XAI ) در پردازش تصاویر پزشکی به چند دلیل اهمیت زیادی دارد:[ ۲]