بررسی سیستم‌های چند عامله با استفاده از تئوری بازی‌ها

مشخصات فایل

مقطع:کارشناسی
رشته تحصیلی:مهندسی برق
نوع ارائه:پایان نامه
تعداد صفحات:128
قالب بندی:word قابل ویرایش

نحوه خرید

دانلود رایگان فایل
شما میتوانید تنها با یک کلید به راحتی فایل مورد نظر را دریافت کنید. 🙂

برای دسترسی به این فایل ابتدا باید اشتراک خریداری کنید. برای خرید اشتراک بر روی لینک زیر کلیک کنید.

ارتقاء عضویت

در صورت بروز هر گونه مشکل در روند خرید اینترنتی، بخش پشتیبانی کاربران آماده پاسخگویی به مشکلات و سوالات شما می باشد

چکیده

چکیده ۱

در این رساله، روش مناسبی جهت محاسبه نقطه تعادل نش در الگوریتم‌های یادگیری تقویتی چندعاملی با تعداد زیاد عامل‌ها مطرح شده‌است، که قادراست با ادغام محاسبات مربوط به نقطه تعادل نش و ایجاد مصالحه بین اکتشاف- استخراج، محاسبات را به صورت بهینه کاهش دهند. ترکیب یادگیری تقویتی تک- عاملی و تئوری بازی ایده اصلی اکثر روشهای یادگیری چندعاملی است. این روش‌ها سعی دارند تا کل فرآیند یادگیری را به تعدادی متناهی از حالت‌های تصمیم‌گیری چندعاملی با خاصیت مارکوف تقسیم کرده و با انتخاب نقطه تعادل نش در هر کدام از این مراحل به تدبیر بهینه برای هر عامل همگرا شوند. بنابراین محاسبه نقطه تعادل نش مسئله مهمی است که در حال حاضر مشکلاتی شامل پیچیدگی محاسبات در روشهای شناخته شده محاسبه نقطه تعادل نش، چندگانگی نقطه تعادل نش، و مختلط بودن نقطه تعادل نش باعث شده که اکثر روشهای پیشنهادی یادگیری تقویتی چندعاملی جایگاه مناسبی در حل مسائل دنیای واقعی پیدا نکنند. ناگفته نماند که تقریباً تمام روشهای یادگیری تقویتی چندعاملی مطرح شده، مبتنی بر روشهای off-policy بوده‌اند که نیازی به در نظر گرفتن مسئله رویه انتخاب عمل و اکتشاف در اثبات همگرایی ندارند. بنابراین در رویه‌های اجرایی پیشنهاد داده‌اند که ابتدا نقطه تعادل نش محاسبه شده و سپس با روش ϵ-greedy مصالحه بین اکتشاف و استخراج برقرار شود.

محاسبه نقطه تعادل ϵ-نش در بازی‌های نرمال در این رساله به صورت یک مسئله مینیمم‌سازی تعریف شده که جواب آن توسط الگوریتم‌های ژنتیک بدست آمده‌است. علاوه بر کاهش پیچیدگی روش محاسبه نقطه تعادل نش، با اضافه کردن جمله مناسب در محاسبه تابع برازندگی، هر عامل قادر است نقطه تعادل نش پارتو را محاسبه کند که مسئله چندگانگی نقاط تعادل نش را نیز مرتفع می‌سازد.

مقدمه ۲

محاسبه نقطه تعادل ϵ-نش در بازی‌های نرمال در این رساله به صورت یک مسئله مینیمم‌سازی تعریف شده که جواب آن توسط الگوریتم‌های ژنتیک بدست آمده‌است. علاوه بر کاهش پیچیدگی روش محاسبه نقطه تعادل نش، با اضافه کردن جمله مناسب در محاسبه تابع برازندگی، هر عامل قادر است نقطه تعادل نش پارتو را محاسبه کند که مسئله چندگانگی نقاط تعادل نش را نیز مرتفع می‌سازد.

در پایان، روشهای پیشنهادی در حل مسئله بازار برق مورد استفاده قرار گرفته‌است. در ابتدای هر روز، شرکت برق با هدف کاهش هزینه و در عین حال تأمین نیازهای مصرفی با توجه به توپولوژی شبکه، به کمک برنامه‌ریزی خطی میزان خرید برق از هر ژنراتور را با توجه به قیمت‌های پیشنهادی آنها اعلام می‌کند. علاوه بر آن در پایان هر ماه با توجه به تناسب قیمت‌های پیشنهادی، مبلغی را به عنوان پاداش به هر ژنراتور می‌دهد. ژنراتورها با توجه به میزان سودی که از فروش برق بدست می‌آورند، پارامترهای مربوط به جدول ارزش‌های خود در آن روز را اصلاح می‌کنند. این جدول‌ها منعکس کننده مسئله تعیین قیمت با توجه به خواسته‌های شرکت برق و نحوه قیمت‌گذاری سایر ژنراتورها است. ژنراتور‌ها در ابتدای هر روز با توجه به این جدول به دنبال پیدا کردن بهترین پیشنهاد به شرکت برق هستند که در واقع همان مسئله تعیین نقطه تعادل نش است. با کمک یادگیری تقویتی چندعاملی، ارزش‌های این جدول‌ها به مرور اصلاح شده و عامل‌ها قادر به جمع‌آوری سود بیشتری در طول یک ماه خواهند بود. شبیه‌سازیهای انجام شده روند صعودی افزایش میزان سود را نشان می‌دهند.

۱- عامل و سیستم‌های چند عامله ۴

۱-۱- مقدمه ۴

یکی از مهمترین مقوله هایی که انتظار می رود در باره  یک حوزه علمی جدید، مشخص شود، آشنایی با ماهیت آن حوزه است. بدین معنی که این حوزه چیست، چگونه و چرا به وجود آمده است، سعی دارد چه مسائلی را حل کند، برای حل چه مسائلی کاربرد دارد و قلمروی آن تا کجاست؟

در دو دهه اخیر، با افزایش توجه به محاسبات توزیع شده و علاقه به استفاده از تکنیک‌های هوش مصنوعی در این نوع محاسبات، شاخه جدیدی از هوش مصنوعی به نام هوش مصنوعی توزیع شدهشکل گرفته است. “هوش مصنوعی توزیع شده” عبارتی است که پژوهشگران در اولین گردهمایی رسمی، کارگاهی آموزشی در سال ۱۹۸۰ در دانشگاه ام آی تی در آمریکا پیشنهاد کردند.

در این حوزه جدید، به حل مسائل به صورت توزیع شده، توسط گروهی از موجودیت‌های خودمختار حل کننده مسئله به نام عامل پرداخته می‌شود. در اجتماع عامل‌ها، هر عامل خودمختار دارای اهداف، باورها، قابلیت‌ها و ویژگی‌های خاصی می‌باشد.

۱-۲- هوش مصنوعی توزیع شده ۴
۱-۳- حوزه‌های کاری هوش مصنوعی توزیع شده ۶
۱-۴- دلایل گرایش به هوش مصنوعی توزیع شده ۹
۱-۴-۱- پایه تکنولوژیکی ۹
۱-۴-۲- توزیع ذاتی ۱۰
۱-۴-۳- مزایای طراحی و پیاده‌سازی ۱۲
۱-۴-۴- دلایل معرفت شناسی ۱۳
۱-۴-۵- بنیاد اجتماعی ۱۴
۱-۴-۶- همجوشی (کلاس‌های جدید از مسائل) ۱۴
۱-۵- مسائل مطرح در هوش مصنوعی توزیع شده ۱۴
۱-۶- تعریف عامل و عامل‌های هوشمند ۱۷
۱-۶-۱- تعریف عامل ۱۸
۱-۷- عامل به عنوان یک سیستم نرم‌افزاری ۱۹
۱-۸- مفهوم عامل از دیدگاه عام ۲۰
۱-۹- مروری برخصوصیات عامل ۲۰
۱-۱۰- ویژگی‌های دیگر عامل‌ها ۲۵
۱-۱۱- طبقه بندی عاملها ۲۹
۱-۱۲- مقایسه عامل با شیء ۳۳
۱-۱۳- تفاوت‌های سیستم مبتنی بر عامل و سیستم‌های خبره ۳۵
۱-۱۴- انواع محیط عامل ۳۵
۱-۱۴-۱- قابل دستیابی / غیر قابل دستیابی ۳۶
۱-۱۴-۲- محیط قطعی یا غیر قطعی ۳۷
۱-۱۴-۳- محیط مقطعی یا غیر مقطعی ۳۸
۱-۱۴-۴- محیط ایستا / پویا ۳۸
۱-۱۴-۵- محیط گسسته یا پیوسته ۳۸
۱-۱۵- سیستم‌های چند عامله ۳۹
۱-۱۶- خصوصیات سیستم‌های چند عاملی: ۴۶
۱-۱۷- دلایل استفاده از سیستم‌های چندعامله ۴۷
۱-۱۷-۱- نیاز برخی دامنه‌ها به سیستم‌های چندعامله: ۴۷
۱-۱۷-۲- افزایش سرعت عمل با موازی سازی ۴۸
۱-۱۷-۳- قابلیت اطمینان ۴۸
۱-۱۷-۴- توسعه پذیری ۴۸
۱-۱۷-۵- آسانتر شدن برنامه‌سازی ۴۹
۱-۱۸- آزمون نظریه‌های سایر رشته‌های علمی ۴۹
۱-۱۹- معماری‌های ارایه شده برای سیستم‌های چندعامله ۴۹
۱-۱۹-۱- مدل OMG 50
۱-۱۹-۲- استاندارد FIPA 50
۱-۱۹-۳- استاندارد KAOS 50
۱-۱۹-۴- مدل General Magic 51
۱-۲۰- سازماندهی سیستم‌های چندعامله ۵۱
۱-۲۰-۱- ساختار سلسله مراتبی ۵۱
۱-۲۰-۲- ساختار مسطح ۵۲
۱-۲۰-۳- ساختار جزء به کل ۵۳
۱-۲۰-۴- ساختار پیمانه‌ای ۵۳
۱-۲۱- پارامترهای مطرح در ارزیابی سیستمهای چندعامله ۵۴
۱-۲۲- سیستمهای مقیاس وسیع(Large Scale systems): 55
۱-۲۳- کنترل غیر متمرکز : (Decentralized Control) 56
۱-۲۴- نتیجه‌گیری ۵۷

۲- تئوری بازی‌ها و کاربردهای آن‌ها درسیستم‌های چند عامله ۶۰

۲-۱- مقدمه ۶۰
۲-۲- نظریه بازی ‌ها چیست؟ ۶۰
۲-۳- تفاوت میان تصمیم‌گیری و بازی ۶۲
۲-۴- طبقه‌بندی نظریه بازی‌ها ۶۳
۲-۵- برخی مفاهیم و اصطلاحات ۶۸
۲-۶- موارد استفاده از نظریه بازی‌ها ۷۴
۲-۷- فرض های اساسی در نظریه بازیها ۷۵
۲-۸- شاخه‌های اصلی نظریه بازی‌ها ۷۵
۲-۹- بازی‌های ایستا ۷۷
۲-۱۰- نمایش بازی در فرم استراتژیک یا نرمال ۷۹
۲-۱۱- فرم ماتریسی بازی ۸۲
۲-۱۲- پیدا کردن جواب در بازیهای ایستا ۸۲
۲-۱۳- بازیهای رقابتی ۸۳
۲-۱۴- بازیهای تصادفی ۸۴
۲-۱۵- بازیهای پویا ۸۵
۲-۱۶- بازی پویا در فرم بسط یافته ۸۵
۲-۱۷- درخت‌ بازی ۸۷
۲-۱۸- عناصر فرم بسط یافته: ۸۸
۲-۱۹- پیشینه بازی: ۸۸
۲-۲۰- مجموعه اطلاعاتی: ۸۹
۲-۲۱- استراتژی ۹۰
۲-۲۲- پیدا کردن جواب در بازیهای پویا ۹۱

۳- بررسی روش‌های یادگیری ۹۳

۳-۱- یادگیری تقویتی ۹۳
۳-۱-۱- خط مشی ۹۴
۳-۱-۲- تابع پاداش ۹۴
۳-۱-۳- تابع مقدار ۹۴
۳-۱-۴- مدل برگرفته شده از محیط ۹۵
۳-۲- اجزای یادگیری تقویتی ۹۷
۳-۳- اهداف و پاداش ۹۸
۳-۴- Q-Learning 99
۳-۵- خاصیت مارکوف ۱۰۰
۳-۶- فرآیند تصمیم گیری مارکوف ۱۰۱
۳-۷- روشهای حل فرآیندهای تصمیم گیری مارکوف ۱۰۳
۳-۸- تابع ارزش ۱۰۴
۳-۹- تابع ارزش بهینه: ۱۰۵
۳-۱۰- فرایند تحلیل سلسله مراتبی (AHP) 106
۳-۱۱- ویژگیهای فرایند تحلیل سلسله مراتبی ۱۰۶
۳-۱۲- ساختار سلسله مراتبی ۱۰۷
۳-۱۳- اصول فرایند تحلیل سلسله مراتبی ۱۰۸
۳-۱۴- محاسبه وزن ۱۰۸
۳-۱۵- روشهای محاسبه وزن ۱۰۹
۳-۱۵-۱- روش حداقل مربعات ( least squares method ) 109
۳-۱۵-۲- روش حداقل مربعات لگاریتمی (logarithmic least squares method) 110
۳-۱۵-۳- روش بردار ویژه ( Eigenvector Method ): 111
۳-۱۵-۴- روش های تقریبی(Approximation Method) 112
۳-۱۶- سازگاری سیستم و ماتریس سازگار ۱۱۲
۳-۱۷- محاسبه نرخ ناسازگاری ۱۱۳

۴- نتیجه‌گیری ۱۱۶

در ابتدا سعی شد تا مقدمه‌ای در رابطه با هوش مصنوعی توزیع شده، حوزه‌های آن، دلایل نیاز به هوش مصنوعی توزیع شده و مزایای آن ارائه گردد. منظور یا مقصود این تعامل حل یک مسأله، انجام یک یا چند وظیفه یا دستیابی به یک یا چند هدف تعیین شده برای اجتماع عامل‌ها باشد. این تعامل نیز می‌تواند به شکل همکاری یا هماهنگی یا یک ارتباط ساده باشد. در رابطه با میزان پیچیدگی عامل‌ها یا موجودیت‌های حل مسئله نیز نظراتی ارائه شده است. بعضی از محققین اعتقاد دارند که عامل‌ها هوشمند بوده و دارای قابلیت‌هایی مانند استدلال و برنامه‌ریزی می‌باشند.

در ادامه، به بررسی نظریه بازیها پرداختیم، وبه این سوال اساسی که نظریه بازیها چه کمکی می تواند بکند و اساسا چرا نظریه بازیها بایستی مطالعه شود پاسخ گفتیم. سپس از دیدگاه کاربردی به نظریه بازی‌ها نگاه کردیم و  کاربرد های زیادی در زندگی خانوادگی و کاری، جامعه، اقتصاد، سیاست، جنگ، صلح و غیره را عنوان کردیم.

در هنگام طراحی یک عامل، که قرار است در یک محیط دینامیک و ناشناخته عمل کند، پیش بینی تمام مواردی که ممکن است به وجود بیاید، کار مشکل و شاید غیر ممکنی می باشد .این مساله وقتی که قرار است چندین عامل با یکدیگر در یک محیط عمل کنند و با یکدیگر همکاری داشته باشند، بیشتر ظاهر می شود.  برای رفع این مشکل می توان به عامل ها قابلیت یادگیری داد، در فصل سوم این مجموعه به بررسی یادگیری پرداختیم و در ادامه آن انواع یادگیری را بیان کردیم.

۵- مراجع ۱۱۸
۶- ABSTRACT 121

نحوه خرید

دانلود رایگان فایل
شما میتوانید تنها با یک کلید به راحتی فایل مورد نظر را دریافت کنید. 🙂

برای دسترسی به این فایل ابتدا باید اشتراک خریداری کنید. برای خرید اشتراک بر روی لینک زیر کلیک کنید.

ارتقاء عضویت

در صورت بروز هر گونه مشکل در روند خرید اینترنتی، بخش پشتیبانی کاربران آماده پاسخگویی به مشکلات و سوالات شما می باشد

راهنمای سایت

برخلاف سایت های دیگر که فایل ها را به صورت تکی می فروشند روال سایت ما این است که شما با عضویت در سایت ما میتوانید از تمام فایل های موجود استفاده کنید.

تمام مطالب سایت فقط برای اعضای سایت رایگان است.

نحوه عضویت در سایت