-
نرمال‌سازی دسته‌ای در شبکه‌های عمیق
چهارشنبه 30 آبان 1403 09:47
در این پست می‌آموزیم که نرمال‌سازی دسته‌ای [1] چیست، چرا به آن نیاز است، چگونه کار می‌کند و چگونه با استفاده از Keras آن را پیاده سازی کنیم. نرمال سازی دسته‌ای برای اولین بار توسط دو محقق در گوگل، سرگئی آیوف [2] و کریستین سگدی [3] در مقاله خود با عنوان «نرمال‌سازی دسته‌ای: تسریع آموزش عمیق شبکه با کاهش تغییر متغیر...
-
مجموعه داده‌های Skewed و معیارهای خطا
یکشنبه 27 آبان 1403 03:36
۱. Skewed Datasets چیست؟ هنگامی که روی یک پروژه یادگیری ماشین کار می‌کنید، ممکن است بارها با مجموعه داده‌هایی روبرو شوید که توزیع بین تعداد نمونه‌های کلاس‌های مختلف مطابقت نداشته باشد . به عنوان مثال ۱) ممکن است در حال ساخت یک مدل ML باشید تا دسته‌بندی کنید که آیا مجموعه‌ای از تصاویر قطعات موتور دارای ناهنجاری/ترک [1]...
-
قدرت یادگیری ضعیف
یکشنبه 27 آبان 1403 03:14
۱. مقدمه من تصمیم گرفتم مجموعه پست‌های بعدی خود را در مورد الگوریتم‌های تقویتی [1] شامل AdaBoost (تقویت تطبیقی) | افزایش گرادیان | XGBoost (تقویت گرادیان فوق العاده) داشته باشم. نیازی به ذکر نیست که چندین وبلاگ عالی، ویدیوهای یوتیوب و کتاب‌های درسی در این زمینه وجود دارد. با این حال، این یادداشت‌ها برای تقویت درک من...
-
ChatGPT: قسمت ۴
شنبه 19 آبان 1403 15:41
۱. مقدمه این ادامه مجموعه پست‌های من در مورد فرآیند آموزش ChatGPT و چهارمین وبلاگ از این مجموعه است. من در مورد موارد زیر در وبلاگ‌های قبلاً منتشر شده صحبت کرده‌ام : الف) وبلاگ 1 مروری بر مراحل/مبانی فرآیند آموزش ChatGPT ارائه کرد . https://ali-rouhanifar.blogsky.com/1403/08/18/post-62/ChatGPT- چیست؟ ب) وبلاگ 2 به...
-
ChatGPT: قسمت ۳
شنبه 19 آبان 1403 15:40
۱. مقدمه این وبلاگ به جزئیات دقیق مرحله 3 آموزش ChatGPT می‌پردازد و اجزای مرحله 3 را شرح می‌دهد. قبل از اینکه وارد این پیچیدگی‌ها شویم، اجازه دهید یک بار دیگر مراحل اساسی آموزش ChatGPT را مرور کنیم ! شکل: 3 مرحله در آموزش ChatGPT 2. مروری بر مراحل آموزش ChatGPT آموزش ChatGPT را می‌توان به 3 مرحله اساسی تقسیم کرد: الف)...
-
ChatGPT: قسمت ۲
شنبه 19 آبان 1403 15:39
۱. مقدمه در وبلاگ ChatGPT چیست؟ به طور مختصر مراحل مربوط به آموزش ChatGPT را مورد بحث قرار داده بودم. آموزش ChatGPT شامل 3 مرحله اساسی است که در زیر به آنها اشاره شده است : الف) تنظیم دقیق مدل ترانسفورمر از پیش آموزش‌دیده (GPT) که در آن ما برچسب‌زنان انسانی داشتیم که سریع و پاسخ را ارائه می‌دادند. این مرحله را تنظیم...
-
گراف دانش و تعبیه گراف دانش
سه‌شنبه 15 آبان 1403 07:41
1. مقدمه: این ادامه سری وبلاگ های من در گراف ها است. در مقاله: گراف های ناهمگن و گراف های رابطه ای شبکه های عصبی کانولوشن [1] ( RGCN )، در مورد گراف های ناهمگن صحبت کردم و مشخص شد که یک گراف ناهمگن توسط مجموعه ای از گره های “V” تعریف می شود - گره ها می توانند انواع مختلفی داشته باشند - مجموعه ...
-
انتخاب ویژگی و کاهش ابعاد
یکشنبه 13 آبان 1403 11:01
۱. انتخاب ویژگی در مقابل کاهش ابعاد : مجموعه داده‌ها اغلب ابعاد بالایی دارند و حاوی تعداد زیادی از ویژگی‌ها هستند، اگرچه ارتباط هر ویژگی برای تجزیه و تحلیل این داده‌ها همیشه مشخص نیست . فقط نباید همه چیز را در مدل یادگیری ماشین خود پرتاب کرد و به فرایند آموزش خود متکی است تا مشخص شود که کدام ویژگی‌ها در واقع مفید...
-
مهندسی ویژگی - پاکسازی، تبدیل و انتخاب داده‌ها
شنبه 12 آبان 1403 07:59
1. پیش‌پردازش داده‌ها: همه مدل‌های یادگیری ماشینی برای بهبود آموزش نیاز به پیش‌پردازش داده دارند. نحوه بازنمایی داده‌ها می‌تواند تأثیر زیادی بر نحوه یادگیری مدل یادگیری ماشین از آن داشته باشد. برای مثال، وقتی داده‌های عددی به‌طور مناسب مقیاس‌گذاری شوند، مدل‌ها تمایل دارند سریع‌تر و قابل اعتمادتر همگرا شوند. تکنیک‌های...
-
Regularization
جمعه 11 آبان 1403 18:10
به منظور پرداختن overfitting مدل یادگیری ماشین ، ممکن است به گزینه های زیر فکر کند : الف) دریافت داده های آموزشی بیشتر، ب) کاهش تعداد ویژگی ها، ج) منظم سازی کاهش تعداد ویژگی ها در صورت عدم وجود داده های آموزش کافی ممکن است گزینه خوبی باشد اما در عین حال منجر به از دست دادن اطلاعاتی خواهد شد که می تواند...
-
اصول اساسی یادگیری عمیق
جمعه 11 آبان 1403 09:57
۱. مقدمه این وبلاگ به جزئیات دقیق معماری ترانسفورمر می پردازد. هر بخش از این مجموعه شامل بینش نظری و همچنین بینشی از نقطه نظر کدگذاری در هر واحد/مفهومی است که معماری ترانسفورماتور را در بر می گیرد، همانطور که در زیر نشان داده شده است. هر بخش مربوطه به جزئیات موارد زیر خواهد رفت : · نشانه گذاری جمله و تعبیه ورودی...
-
راه‌اندازی وظایف پیش‌بینی شبکه عصبی گراف
پنج‌شنبه 10 آبان 1403 08:33
1. مقدمه: این ادامه مجموعه وبلاگ های گراف است و سیزدهمین وبلاگ از این مجموعه است. در این وبلاگ، یک جنبه بسیار جالب از یادگیری ماشین گراف را مورد بحث قرار خواهیم داد! این وبلاگ به تئوری شبکه‌های عصبی گراف، فراتر از بحث‌هایی که در برخی از وبلاگ‌های قبلی در حال انجام است، می‌پردازد: · مقدمه ای بر شبکه های عصبی گراف...
-
آموزش شبکه‌های عصبی گراف
پنج‌شنبه 10 آبان 1403 08:32
1 . مقدمه: این ادامه مجموعه وبلاگ های من در گراف ها است. در این مقاله، من در مورد اجزای آموزشی شبکه های عصبی کانولوشن گراف ( GCN ) صحبت خواهم کرد. توضیح داده شد که چگونه شبکه های عصبی گراف تعبیه گره ها را محاسبه می کنند، اما مقاله در مورد تعیین پیش بینی های نهایی و مراحل در خط لوله آموزشی پس از در دسترس...
-
گراف‌های ناهمگن و گراف رابطه‌ای شبکه‌های عصبی کانولوشن (RGCN)
پنج‌شنبه 10 آبان 1403 08:31
1. مقدمه: این مقاله ادامه سلسله وبلاگ های من در زمینه گراف ها است. از این مقاله به بعد، تمرکز این مجموعه بر روی گراف های ناهمگن و تعبیه گراف دانش خواهد بود. ما با جزئیات کافی در مورد مفاهیم مربوط به "تکمیل گراف دانش" بحث خواهیم کرد - که جزئیات آن با حرکت بیشتر در این وبلاگ و مجموعه مشخص خواهد شد. تا...
-
یادگیری عمیق با گراف‌ها
چهارشنبه 9 آبان 1403 05:24
1. مقدمه: پس از بحث در مورد یک نمای کلی از شبکه‌های عصبی گراف در مقاله قبلی من در اینجا: مقدمه‌ای بر شبکه‌های عصبی گراف: بخش 8 از سری گراف های من و همچنین اصول اساسی یادگیری عمیق در این مقاله، اکنون زمان آن رسیده است که به عمق بیشتری بپردازیم. مفاهیم مربوط به شبکه‌های عصبی گراف – و این موضوع تمرکز این مقاله خواهد...
-
مقدمه‌ای بر شبکه‌های عصبی گراف
سه‌شنبه 8 آبان 1403 19:44
1. مقدمه: این ادامه سری وبلاگ های من در گراف ها است و هشتمین وبلاگ از این مجموعه است. در این مقاله، من قصد دارم در مورد یادگیری عمیق برای گراف ها و به ویژه تکنیک های مربوط به شبکه های عصبی گراف ( GNN ) صحبت کنم. GNN ها یکی از محوری ترین موضوعات در گراف ها هستند و در واقع تمام مقالات قبلی من در این سری از...
-
تعبیه کل گراف‌ها یا زیر گراف‌ها
سه‌شنبه 8 آبان 1403 06:57
1. مقدمه: این ادامه سری وبلاگ های من در Graphs است و هفتمین وبلاگ از این مجموعه است. در دو مقاله اخیرم، من درباره تعبیه گره صحبت کرده ام - مقاله ۵ بر مفهوم "یادگیری بازنمایی گراف" تاکید کرد که در آن به جای استخراج ویژگی های سطح گره، سطح پیوند، سطح گراف با استفاده از مهندسی ویژگی دستی، ایده این بود که...
-
فرمولبندی تعبیه گره‌ها در گراف‌ها: الگوریتم Node2Vec
سه‌شنبه 8 آبان 1403 06:53
1-مقدمه: این ادامه مجموعه مقالات من در زمینه گراف ها و ششمین مقاله از این مجموعه است. این مقاله در مورد فرمول بندی تعبیه گره ها در گراف ها صحبت می کند و به پنج بخش اصلی تقسیم می شود: · در ابتدا، ما در مورد انگیزه بحث می کنیم - چرا ما به ترسیم ساختارهای گراف در تعبیه ها اهمیت می دهیم. بخشی از این بخش...
-
تعبیه گره‌ها در گراف‌ها
دوشنبه 7 آبان 1403 06:33
. مقدمه این ادامه سری وبلاگ‌های من در گراف‌ها است و پنجمین وبلاگ از این مجموعه است. این مقاله بر روی تعبیه گره‌ها تمرکز خواهد کرد. تا کنون، در مقاله‌های قبلی‌ام در سری‌های جاری در گراف‌ها، از یادگیری ماشینی سنتی در گراف‌ها صحبت می‌کردم که در آن ایده این بود که یک گراف ورودی داده شود: ما ویژگی‌های گره، پیوند و سطح گراف...
-
استخراج ویژگی‌های سطح گراف از گراف‌ها برای مدل‌های یادگیری ماشین
یکشنبه 6 آبان 1403 01:19
1. مقدمه خلاصه‌ای از وبلاگ اول ، دوم و سوم : این ادامه مجموعه وبلاگ‌های من در شبکه‌های گراف و چهارمین مقاله از این مجموعه است. این مجموعه با یک مقاله مقدماتی آغاز شد که تعاریف اصلی گره‌ها، لبه‌ها، گراف‌های جهت‌دار و غیرجهت‌دار را برجسته می‌کرد و نمونه‌هایی از مدل‌سازی روابط گرافیکی را برای موارد استفاده مختلف ارائه...
-
استخراج ویژگی‌های سطح پیوند از گراف‌ها برای مدل‌های یادگیری ماشین
شنبه 5 آبان 1403 17:51
1. مقدمه خلاصه ای از اولین و دومین وبلاگ من از این مجموعه: این ادامه مجموعه وبلاگ‌های من در شبکه‌های گراف و سومین مقاله از این مجموعه است. این مجموعه با یک مقاله مقدماتی آغاز شد که تعاریف اصلی گره‌ها، لبه‌ها، گراف‌های جهت‌دار و غیرجهت‌دار را برجسته می‌کرد و نمونه‌هایی از مدل‌سازی روابط گرافیکی را برای موارد استفاده...
-
استخراج ویژگی‌های سطح گره از شبکه‌های گراف برای مدل‌های یادگیری ماشین
شنبه 5 آبان 1403 17:28
۱. مقدمه این ادامه مجموعه وبلاگ های من در شبکه های گراف و دومین وبلاگ از این مجموعه است. مقاله اول برخی از مفاهیم مقدماتی برجسته شامل آناتومی یک گراف مانند: گره ها، لبه ها و تعریف گراف های جهت دار و غیر جهت دار را پوشش داد. این مقاله همچنین به جزئیات نمایش عددی یک گراف/مفهومی از: ماتریس مجاورت، فهرست...
-
مقدمه‌ای بر شبکه‌های گراف
شنبه 5 آبان 1403 17:06
۱. گراف چیست و چرا گراف؟ گراف‌ها یک زبان عمومی برای توصیف و تجزیه و تحلیل موجودیت‌ها با روابط و تعاملات هستند. این بدان معنی است که به جای اینکه یک دامنه را به عنوان نقاط داده خاص در نظر بگیریم، می‌توانیم آن را از نظر شبکه‌ها و روابط بین موجودیت‌ها در نظر بگیریم. این بدان معنی است که یک گراف زمینه‌ای از رابطه بین...
-
یک رویکرد یادگیری لایه‌ای برای مقیاس‌گذاری در سیستم‌های دسته‌بند یادگیری برای مسائل بولی
یکشنبه 4 شهریور 1403 20:07
محاسبات تکاملی ( EC ) اغلب دانش آموخته شده را به عنوان بازنشانی برای هر مسئله جدید مورد بررسی قرار می‌دهد. برعکس، انسان‌ها می‌توانند از مسائل در مقیاس کوچک درس بگیرند، این دانش را حفظ کنند (به‌علاوه عملکرد)، و سپس با موفقیت دوباره از آنها در مقیاس بزرگ‌تر و/یا مسائل مرتبط استفاده کنند. پیوند راه‌حل‌ها با مسائل از طریق...
-
روابط بین اعضا در الگوریتم تکاملی
سه‌شنبه 16 مرداد 1403 07:37
در مطالعات الگوریتم‌های تکاملی، معمولاً روابط بین اعضا نادیده گرفته می‌شود. برخی از تلاش‌ها بر روابط بین زیر مجموعه‌های جمعیت متمرکز شده است. تمرکز ما بر بررسی روابط بین اعضا است، و می‌پرسیم در طول زمان چه اتفاقی برای ویژگی‌های ساختاری شبکه‌هایی می‌افتد که جمعیت‌های در حال تکامل را نشان می‌دهند. مطالعه شبکه‌ها به...
-
حوزه الگوریتم‌های تکاملی (EAs)
سه‌شنبه 16 مرداد 1403 07:30
در زمینه هوش مصنوعی یا هوش محاسباتی، الگوریتم‌های تکاملی زیرشاخه‌ای را تشکیل می‌دهند که بر بهینه‌سازی اکتشافی، جستجو و یادگیری تمرکز دارد. فراابتکاری برای انجام این وظایف به کار می‌رود و نمونه‌سازی می‌شود. حوزه الگوریتم‌های تکاملی ( EAs ) به عنوان یک چتر عمل می‌کند که بسیاری از دسته‌‌های مختلف الگوریتم‌ها مانند...
-
مزایا (و معایب) محاسبات تکاملی نسبت به سایر رویکردها
دوشنبه 24 اردیبهشت 1403 02:58
جذابیت الگوریتم های تکاملی از بسیاری از برنامه های کاربردی موفق و تعداد زیادی از انتشارات در بخش محاسبات تکاملی آشکار است. با این حال، تلاش برای یافتن حقایق سخت در مورد مزیت های نسبی به طور کلی، اگر غیرممکن نباشد، دشوار است. یکی از دلایل این موضوع، قضیه به اصطلاح بدون ناهار رایگان [1] ( NFL ) است. قضیه بدون...
-
گویش‌های تاریخی الگوریتم تکاملی
دوشنبه 24 اردیبهشت 1403 02:55
همانطور که قبلاً نقل شد، EC از منابع مستقل برخاسته است. البته هر گویش به خودی خود تنوع زیادی دارد. توضیحات کوتاه در اینجا لزوماً به یک یا دو نوع اصلی محدود می شود. ۱. الگوریتم های ژنتیک GA استاندارد را می توان به عنوان ترکیبی از بازنمایی رشته بیت، با متقاطع تبادل بیت (که با احتمال داده شده p c اعمال می شود) و...
-
اجزای الگوریتم‌های تکاملی
دوشنبه 24 اردیبهشت 1403 02:49
اجزای الگوریتم های تکاملی 1. بازنمایی [1] حل یک مسئله معین با یک EA با مشخص کردن بازنمایی از راه حل های کاندید شروع می شود. چنین راه حل های نامزدی به عنوان فنوتیپ هایی دیده می شوند که می توانند ساختارهای بسیار پیچیده ای داشته باشند. استفاده از عملگرهای تغییر به طور مستقیم در این ساختارها ممکن است...
-
مسائل بحرانی در الگوریتم تکاملی
سه‌شنبه 18 اردیبهشت 1403 05:28
هنگام طراحی و اجرای یک الگوریتم تکاملی باید مواردی را در نظر داشت. این ملاحظات مربوط به همه "گویش‌ها" است و در اینجا به طور کلی بدون در نظر گرفتن نوع خاصی از الگوریتم تکاملی مورد بحث قرار خواهد گرفت. یکی از مسائل مهم هنگام اجرای EA این است که سعی کنید تنوع ژنتیکی [2] جمعیت را تا زمانی که ممکن است حفظ کنید....
