عنوان : توسعه‌ی ترانسفورمرها در مدل‌سازی و تحلیل داده‌های گراف                

استاد راهنما: دکتر مریم عبدالعلی

ارزیاب داخلی : دکتر حسین جوهری

ارزیاب خارجی : دکتر مهدی جوانمردی

تاریخ: چهارشنبه 13 اسفند ماه 1404 - ساعت 13:00

چکیده:

ترانسفورمر ساختارآگاه، خیراً به‌عنوان یکی از قدرتمندترین معماری‌ها برای یادگیری نمایش گراف معرفی شده است که با رمزگذاری صریح ساختارهای زیرگرافی، توانایی تمایز بالایی در مدل‌سازی گراف‌های پیچیده از خود نشان می‌دهد. با این حال، ترانسفورمر ساختارآگاه همانند بسیاری از مدل‌های پیشرفته، به‌طور ذاتی به داده‌های برچسب‌گذاری‌شده برای آموزش نظارتی وابسته است و در محیط‌هایی با کمبود برچسب یا در سناریوهای خودنظارتی، پتانسیل کامل خود را از دست می‌دهد. علاوه بر این، عدم وجود یک مکانیزم یادگیری خودنظارتی مناسب، مانع از انتقال کارآمد دانش ساختاری به وظایف پایین‌دستی می‌شود.

در این پایان‌نامه، یک چارچوب نوین برای یادگیری خودنظارتی ساختارآگاه ارائه می‌شود که با ادغام هوشمند با معماری ترانسفورمر ساختارآگاه، این شکاف را پر می‌کند.