هوش مصنوعی دوستانه ( همچنین AI دوستانه یا FAI ) یک هوش جامع مصنوعی فرضی ( AGI ) است که تاثیر مثبتی بر بشریت خواهد داشت. این بخشی از اخلاق هوش مصنوعی است و ارتباط نزدیکی با اخلاق ماشینی دارد. در حالی که اخلاق ماشینی به چگونگی رفتار یک عامل هوشمند مربوط است، تحقیقات هوش مصنوعی دوستانه بر چگونگی استفاده عملی از این رفتار و تضمین محدودیت آن به اندازه کافی متمرکز است.
این اصطلاح توسط الیزر یودکوفسکی، [ ۱] که بیش تر به دلیل محبوبیت بخشیدن به این ایده معروف است، [ ۲] [ ۳] برای بحث در مورد عوامل مصنوعی فراهوش که به صورت قابل اعتمادی ارزش های انسانی را پیاده سازی می کنند، ابداع شد. استوارت ج. راسل و پیتر نورویگ، در کتاب مشهور خود ( هوش مصنوعی؛ رویکردی نوین ) این ایده را توضیح می دهند:[ ۴]
یودکوفسکی ( ۲۰۰۸ ) جزئیات بیش تری در رابطه با طراحی هوش مصنوعی دوستانه ارائه می دهد. او ادعا می کند که دوستی ( عدم تمایل به آسیب رساندن به انسان ها، باید از همان ابتدای امر طراحی بشود، اما طراحان باید این را هم در نظر بگیرند که هم ممکن است طرح های آن ها دارای نقص باشد و هم ربات در طول زمان فراخواهد گرفت و تکامل پیدا خواهد کرد. بنابراین، چالش، یکی از طراحی های این مکانیزم است - تعریف مکانیزمی برای تکامل سیستم های هوش مصنوعی تحت یک سیستم کنترل و تعادل و دادن توابع سودمندی به سیستم تا آن را در برابر این تغییرات دوستانه نگه دارد.
واژه 'دوستانه' در این زمینه، یک اصطلاح فنی است و این منظور را می رساند که که عامل هوشمند، امن و مفید است و لزوماً به معنای محاوره ای آن نیست. این مفهوم اساساً در چارچوب مباحث مربوط به عوامل مصنوعی بازگشتی خود بهبود دهنده که به سرعت در حال پیشرفت هستند، مورد استناد قرار می گیرد، به این دلیل که این فناوری فرضی تأثیر گسترده، سریع و کنترل ناپذیری بر جامعه بشری خواهد داشت. [ ۵]
نگرانی درباره هوش مصنوعی قدمتی طولانی دارد. کوین لاگراندور می گوید که مخاطرات هوش مصنوعی را می توان در ادبیات کهن دید. او در این باره، داستان های خدمتگذاران مصنوعی انسان نما همچون گولم یا ربات های اولیه از گربرت اوریلاک و راجر بیکن را مثال می زند. در این داستان ها، هوش و قدرت بی اندازه این مخلوقات انسان نما با جایگاه آن ها به عنوان برده دچار تضاد و باعث به وجود آمدن مشکلاتی شد. [ ۶] در سال ۱۹۴۲، این پیش زمینه ها باعث شد تا ایزاک آسیموف "قوانین سه گانه رباتیک" که بسیار سختگیرانه بودند را در داستان هایش به کار گیرد تا از ایجاد آسیب توسط آن ها و یا آشوب علیه خالقشان جلوگیری کند. [ ۷]
این نوشته برگرفته از سایت ویکی پدیا می باشد، اگر نادرست یا توهین آمیز است، لطفا گزارش دهید: گزارش تخلفاین اصطلاح توسط الیزر یودکوفسکی، [ ۱] که بیش تر به دلیل محبوبیت بخشیدن به این ایده معروف است، [ ۲] [ ۳] برای بحث در مورد عوامل مصنوعی فراهوش که به صورت قابل اعتمادی ارزش های انسانی را پیاده سازی می کنند، ابداع شد. استوارت ج. راسل و پیتر نورویگ، در کتاب مشهور خود ( هوش مصنوعی؛ رویکردی نوین ) این ایده را توضیح می دهند:[ ۴]
یودکوفسکی ( ۲۰۰۸ ) جزئیات بیش تری در رابطه با طراحی هوش مصنوعی دوستانه ارائه می دهد. او ادعا می کند که دوستی ( عدم تمایل به آسیب رساندن به انسان ها، باید از همان ابتدای امر طراحی بشود، اما طراحان باید این را هم در نظر بگیرند که هم ممکن است طرح های آن ها دارای نقص باشد و هم ربات در طول زمان فراخواهد گرفت و تکامل پیدا خواهد کرد. بنابراین، چالش، یکی از طراحی های این مکانیزم است - تعریف مکانیزمی برای تکامل سیستم های هوش مصنوعی تحت یک سیستم کنترل و تعادل و دادن توابع سودمندی به سیستم تا آن را در برابر این تغییرات دوستانه نگه دارد.
واژه 'دوستانه' در این زمینه، یک اصطلاح فنی است و این منظور را می رساند که که عامل هوشمند، امن و مفید است و لزوماً به معنای محاوره ای آن نیست. این مفهوم اساساً در چارچوب مباحث مربوط به عوامل مصنوعی بازگشتی خود بهبود دهنده که به سرعت در حال پیشرفت هستند، مورد استناد قرار می گیرد، به این دلیل که این فناوری فرضی تأثیر گسترده، سریع و کنترل ناپذیری بر جامعه بشری خواهد داشت. [ ۵]
نگرانی درباره هوش مصنوعی قدمتی طولانی دارد. کوین لاگراندور می گوید که مخاطرات هوش مصنوعی را می توان در ادبیات کهن دید. او در این باره، داستان های خدمتگذاران مصنوعی انسان نما همچون گولم یا ربات های اولیه از گربرت اوریلاک و راجر بیکن را مثال می زند. در این داستان ها، هوش و قدرت بی اندازه این مخلوقات انسان نما با جایگاه آن ها به عنوان برده دچار تضاد و باعث به وجود آمدن مشکلاتی شد. [ ۶] در سال ۱۹۴۲، این پیش زمینه ها باعث شد تا ایزاک آسیموف "قوانین سه گانه رباتیک" که بسیار سختگیرانه بودند را در داستان هایش به کار گیرد تا از ایجاد آسیب توسط آن ها و یا آشوب علیه خالقشان جلوگیری کند. [ ۷]
wiki: هوش مصنوعی دوستانه