تعریف KNN در یادگیری ماشین چیه؟!

#الگوریتمها #یادگیری_ماشین #lمنابع

💢 مطالب بیشتر ⬇️⬇️

🎙 @AI_DeepMind
🎙 @AI_Person

این مقاله یه چارچوب جدید مدل‌ های زبانی خود بازگشتی پیوسته (CALM) رو ارائه میده که با تغییر از پیش‌بینی گسسته توکن به پیش‌بینی بردارهای پیوسته، کارایی مدل‌های زبانی بزرگ رو بهتر میکنه. تو رویکرد عادی، مدل‌ها یکی‌ یکی و با پیش‌بینی هر توکن عمل میکنن که فرایندی کند و محاسباتی سنگین داره. CALM با فشرده‌سازی هر K توکن (مثلا ۴ کلمه) به یه بردار پیوسته، تعداد مراحل تولید رو K برابر کمتر میکنه و هزینه محاسباتی رو به شدت میاره پایین.

برای این کار، اول یه Autoencoder قوی و مقاوم آموزش داده میشه که بتونه با دقت بالایی توکن هارو از روی بردار بازسازی بکنه. این اتو انکودر با تکنیک‌هایی مثل dropout و جلوگیری از فروپاشی پسین یا همون Posterior Collapse ، یه فضای مخفی منظم و مقاوم درس میکنه که برای مدل‌سازی تولیدی مناسبه. بعد مدل زبانی به جای پیش‌بینی توکن، بردار بعدی را پیش‌بینی میکنه اما چون دیگه احتمال صریح وجود نداره، یه چارچوب «Likelihood-Free Framework » توسعه داده میشه.

تو این چارچوب، از تابع خطای انرژی برای آموزش مدل استفاده میشه که فقط به نمونه‌ برداری نیاز داره و مستقل از توزیع احتماله. برای ارزیابی مدل‌ ها، معیار جدید BrierLM معرفی میشه که مبتنی بر امتیاز بریره و بدون نیاز به محاسبه احتمال، کیفیت مدلو ارزیابی میکنه. این معیار با معیار سنتی Perplexity همخوانی بالایی داره و برای مقایسه درست بین مدل‌های مختلف مناسبه. همچنین، یه الگوریتم جدید برای نمونه‌برداری با دما (temperature sampling) ارایه میشه که میتونه بدون دسترسی به احتمالات، دقیقا همون رفتار کنترل‌ شده رو تولید رو شبیه‌سازی بکنه.

آزمایش‌ ها نشون میده که CALM با K=4 عملکرد خیلی نزدیک به مدل‌های پایه بزرگ داره، اما (((با هزینه محاسباتی خیلی کمتر))). این پیپر نشون میده که افزایش «ظرفیت معنایی» هر مرحله تولید، یه راهکار قدرتمند برای بهبود کارایی مدل‌های زبانیه و مسیر جدیدی رو برای توسعه مدل‌ های کارامد باز میکنه.

🔔 Continuous Autoregressive Language Models
🫂 Project

#یادگیری_عمیق #یادگیری_ماشین #مقاله

🔹 مطالب بیشتر 👇👇

✅ @AI_DeepMind
✅ @AI_Person

🔔 به اطلاع کاربران عزیز می‌رساند تمامی سرورهای IP ثابت برای استفاده از ابزارهای هوش مصنوعی بهینه شدند.

❤️ لطفا با معرفی سرویس ما به دوستان و آشنایان خود از ما حمایت کنید. 🙏

⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️
📣 Channel: @F14News
🤖 Bot: @F14PanelBot
👤 Support: @F14Sup
🆘 Help: @F14Help
⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️⚡️

بعد از عرضه ازمایشی قابلیت چتهای گروهی برای ChatGPT در چندین کشور، حالا OpenAI این قابلیت رو به صورت جهانی عرضه کرده و با اون کاربر میتونه یک گروه بسازه و تا 20 نفر رو به اون دعوت کنه. در این گروه کاربران میتونن باهم مکالمه عادی داشته باشن و مثلا برنامه خاصی بچینن و ChatGPT هر وقت تشخیص بده نیازه که به پیام خاصی جواب بده، جوابشو میفرسته. علاوه بر این میشه ChatGPT رو تگ کرد تا سوال خاصی رو جواب بده یا عکسی بسازه.

#هوش_مصنوعی

💰 مطالب بیشتر 👇👇

🔵 @AI_DeepMind
🔸 @AI_Person

💬📣🔹🔹🔹🔹
یکی از دوره های یادگیری زبان R و پایتون برای هوش مصنوعی که پیشنهاد شخصی خودم هست که یک دوره با کیفیت و خوبی از مدرس دوره‌های علم داده و آمار و اپیدمیولوژی از استاد دکتر مهدی اکبرزاده استاد دانشگاه شهیدبهشتی هست این روزا با توجه به روند تحلیل دیتا و زبان‌های برنامه نویسی گزینه R همیشه یکی از گزینه‌های مدنظر برای تحلیل دیتا هست اگر آشنایی به این‌زبان ندارید و قصد ورود به حوزه تحلیل دیتا دارید این دوره رو به شما علاقمندان توصیه میکنم.

🔔 ثبت نام و پشتیبانی دوره:
@rwithme2025

Hunyuan OCR, Tencent's new document-understanding model, is now on huggingface
🚀

- SOTA in document parsing, visual Q&A and Translation
- 1B-parameter, end-to-end
- Interactive demo available
- Tech report released

https://huggingface.co/spaces/tencent/HunyuanOCR
https://huggingface.co/tencent/HunyuanOCR

#مقاله

🔹 مطالب بیشتر 👇👇

✅ @AI_DeepMind
✅ @AI_Person

📌 دوره جامع تحلیل آماری با R، Python و هوش مصنوعی

دوره جامع تحلیل داده با هدف ارتقای مهارت‌های پژوهشی و حرفه‌ای، از مبانی آمار تا مدل‌سازی پیشرفته و یادگیری ماشین طراحی شده است. شرکت‌کنندگان در این برنامه، به‌صورت گام‌به‌گام با مفاهیم آماری، اجرای تحلیل‌ها در محیط‌های R و Python، روش‌های مدل‌سازی، تحلیل داده‌های واقعی و استفاده کاربردی از هوش مصنوعی آشنا می‌شوند.

😮آیا دوره پیش‌نیازی دارد؟

خیر! همه مباحث از ابتدا توضیح داده می‌شود. با روش vibe codeing نیازی به پیش‌زمینه برنامه نویسی نیز ندارید. کافیست نحوه کار با این شیوه را یاد بگیرید.

🎯 مخاطبان دوره

این دوره برای اساتید، پژوهشگران، دانشجویان، متخصصان علوم داده، مهندسان نرم‌افزار و داده، پزشکان و پژوهشگران حوزه سلامت، فعالان کسب‌وکار، دیجیتال مارکترها و تمامی علاقه‌مندان به تحلیل داده مناسب است.

👑 ما برای دانشجویان عزیز، شرایط ویژه‌ای را درنظر داریم.

📕 دریافت سرفصل کامل:

برای دریافت سرفصل کامل دوره‌ها به ادمین پیام دهید.

برای دریافت اطلاعات تکمیلی، شرایط ثبت‌نام، و بررسی ظرفیت، می‌توانید به اکانت پشتیبانی زیر، کلمهٔ «دوره» را ارسال نمایید:
📱 https://www.tgoop.com/rwithme2025

این مقاله یه چارچوب جدید یادگیری تو در تو یا Nested Learning رو معرفی میکنه که یه دیدگاه  متفاوت از ساختار مدل‌ های یادگیری عمیق ارائه میده. به جای اینکه معماری‌ های یادگیری عمیق رو به‌عنوان سلسله‌ مراتبی از لایه‌های پردازشی ببینیم، یادگیری تو در تو اونارو سیستمی از مسائل بهینه‌سازی تو در تو تفسیر میکنه که هر کدوم context flow خودشونو دارنو و با فرکانس‌ های مختلف بروز میشن.

این دیدگاه الهام‌گرفته از نحوهٔ عملکرد مغز ما انسانهاس ، به‌ویژه تو فرایند تثبیت حافظه که به دو شکل آنلاین ( حین یادگیری) و  آفلاین (حین خواب) انجام میشه. مقاله نیگه که مدل‌های زبانی بزرگ بعد از تموم شدن آموزش اولیشون، مثل یه فرد مبتلا به فراموشی پیش گستر (Anterograde Amnesia) عمل میکنن؛ یعنی نمیتونن دانش جدید رو تو حافظه بلند مدتشون ذخیره کنن و صرفا به اطلاعات داخل پنجره توجه کوتاه‌ مدت خود متکین.

نویسندگان  این مقاله، یادگیری تو در تو رو به‌ عنوان یه راه برای طراحی سیستم‌ های یادگیری پویاتر پیشنهاد میدن. تو این چارچوب، همه مولفه‌ های یه مدل از جمله شبکه‌ های عصبی و بهینه‌ساز ها، به‌عنوان ماژول‌های حافظه شرکت پذیر یا انجمنی (Associative Memory) دیده میشن که سعی میکنن روابط بین ورودی‌ ها (مثل توکنها یا گرادیان‌ ها) و خروجی‌ ها (مثل سیگنال‌های خطا یا مقادیر هدف) رو تو پارامترهای خودشون فشرده کنن.

به‌عنوان مثال، بهینه‌ساز هایی مثل اس جی دی با مومنتوم یا آدام هم به‌ عنوان حافظه‌هایی تفسیر میشن که گرادیان‌ های گذشته رو ذخیره میکنن. بر این اساس، نویسنده ها چندین بهبود عملکرد رو ارائه میدن: اول، بهینه‌ساز های عمیق‌ تر که از حافظه‌ های غیرخطی (مثل ام ال پی) و قوانین یادگیری قوی‌ تر (مثل قاعده دلتا) استفاده میکنن؛ دوم، یه مدل توالی جدید به اسم (خودتغییردهنده Titans) که تو زمان تست الگوریتم بروزرسانی خودش رو یاد میگیره؛ و سوم، یه سیستم حافظه پیوسته که دیدگاه سنتی حافظهٔ کوتاه‌ مدت/بلند مدت رو با طیفی از حافظه‌ها با فرکانس‌ های به‌روزرسانی مختلف جایگزین میکنه.

با ترکیب این ایده‌ها، مدل HOPE طراحی میشه که تو اون هر لایه ام ال پی با فرکانس متفاوتی بروز میشه و مدل به‌ طور همزمان از چندین سطح ابسترکت و مقیاس زمانی یاد میگیره. نتایج ارزیابی نشون میده که HOPE در مقایسه با ترنسفورمر و مدل‌های مدرن RNN تو وظایف مدل‌ سازی زبان، استدلال و یادگیری مداوم عملکرد رقابتی یا حتی بهتری داره!
🔔 Nested Learning: The Illusion of Deep Learning Architectures

#یادگیری_عمیق #یادگیری_ماشین #ماشین_لرنینگ #مقاله #شبکه_عصبی #ایده_جذاب

🔹 مطالب بیشتر 👇👇

✅ @AI_DeepMind
✅@AI_Person

پیش‌بینی‌ها از بازار هوش مصنوعی تا سال 2030

به سهم هر قسمت توجه کنید، همه چیز LLM نیست.

#مقاله #ایده_جذاب

🔸 مطالب بیشتر 👇👇

✅ @AI_DeepMind
🔸 @AI_Person
✅ @reza_jafari_ai