نوشته‌های ترمینالی

Forwarded from Out of Distribution (Mahdi)

از هنرورزی تا سرهم‌بندی: روایتی از درد بیگانگی متخصصین AI

یک بنده خدایی در ردیتی نوشته که سالهایی که در حوزه AI/ML فعالیت می‌کرده با عشق به طراحی مدل‌ها و معماری‌ها و مشکلات پیچیده‌شون روزش رو شب می‌کرده. اما جدیداها که LLM و VLM‌ها اومدند احساس بیگانگی می‌کنه با فیلد و از این که نمی‌تونه مثل سابق مدل‌ها رو از صفر طراحی کنه و خلاقیتش رو ارضا کنه افسرده است. بعدش هم چند تا سوال مطرح کرده که آیا هنوز هم برای افرادی که از طراحی و آموزش مدل‌های دیپ لذت می‌بردند جای کاری وجود داره یا باید پیامدهای ناخواسته این تکامل رو پذیرفت؟ ملت هم از این پستش استقبال کردند و اومدند زیرش همدردی و هم‌ناله‌گری کردند. چند تا نکته از این مطلب و گفته‌های مردم به ذهن می‌رسه:

- در همون ردیت هم تقریبا اکثریت به این اذعان کردند که دوره دیپ لرنینگ سنتی به اون مفهوم که مدل آموزش بدیم تقریبا گذشته. لااقل اکثر نیازمندی‌های سمت NLP با LLM‌ها با کیفیت بالاتر و هزینه‌ کمتر درمیان و خب نکته دردناک همینه که کار با LLM‌ها صرفا نیاز به API Call و مهندسی پرامپت داره و دیگه اون جنس معماهای شبه ریاضی طوری که باید حل می‌شدند وجود نداره و شما اگر بخوای روی ساختن مدل‌ها کار کنی تنها جاهایی که برات وجود داره در دنیای امروز OpenAI و Antropic و ... هستند و خب پرواضحه که نشدنیه.

- نکته دیگه اما این که این تکامل اجتناب‌ناپذیر صرفا مخصوص حوزه LLM‌ها نیست. خیلی‌ها اشاره کردند که مثلا در حوزه‌هایی متنوعی مثل ساخت بازی و یا برنامه نویسی وب هم در طی این سال‌ها انتزاع روی انتزاع اضافه شده و دیگه کسی نمی‌ره گیم انجین خودش رو از صفر بزنه. یا در برنامه نویسی وب این قدر فریمورک در سطوح مختلف استک هستند که دیگه اون خردکاری‌های سابق شبکه‌ای داستان محو شدند. در مورد خود حوزه هوش مصنوعی هم ما خودمون روی جنازه گذشتگان قدم زدیم. روزگار قبل از دیپ لرنینگ برای پردازش تصویر و پردازش متن این شکلی بود که طرف باید مثلا انواع فیچرهای به درد بخور تو تصویر یا متن رو یاد می‌گرفت و شبکه‌اش رو روی اینها می‌ساخت ولی الان شرط می‌بندم ۹۰ درصدتون نمی‌دونید مثلا SIFT چیه. در نتیجه این تکامل طبیعت زندگیه.

- نکته بعدی این که البته هنوز هم هستند نیازهایی که با LLM‌ها رفع نشن. یا حالا مساله طوری که LLM روش به طور کامل سوار نشه یا مثلا فرض کنید داده‌های جوری حساسند که نمی‌شه سمت api call براشون رفت. ولی خب این جاها معدودند و فرصت کاری هم براشون کمتره.

- نکته آخری که تو چند تا کامنت دیده بودم این بود که خیلی‌ها از این ابراز ناله کرده بودند که LLM‌ها چون ساده هستند افراد غیر تکنیکال هوشی هم می‌فهمنشون و در عین حال ازش انتظار معجزه و جادو دارند و همین خیلی جاها باعث شده تا انتظارات از نیروهای دیتاساینتیست/هوشی بالا بره و نهایتا با همون افراد غیرهوشی جایگزین بشن.

لینک ردیت:
https://www.reddit.com/r/MachineLearning/comments/1h7jg87/dstuck_in_ai_hell_what_to_do_in_post_llm_world/

-

Reddit

From the MachineLearning community on Reddit

Explore this post and more from the MachineLearning community

www.tgoop.com/terminal_stuff/3017

1.5K viewsDec 6, 2024 at 16:30

از هنرورزی تا سرهم‌بندی: روایتی از درد بیگانگی متخصصین AI

یک بنده خدایی در ردیتی نوشته که سالهایی که در حوزه AI/ML فعالیت می‌کرده با عشق به طراحی مدل‌ها و معماری‌ها و مشکلات پیچیده‌شون روزش رو شب می‌کرده. اما جدیداها که LLM و VLM‌ها اومدند احساس بیگانگی می‌کنه با فیلد و از این که نمی‌تونه مثل سابق مدل‌ها رو از صفر طراحی کنه و خلاقیتش رو ارضا کنه افسرده است. بعدش هم چند تا سوال مطرح کرده که آیا هنوز هم برای افرادی که از طراحی و آموزش مدل‌های دیپ لذت می‌بردند جای کاری وجود داره یا باید پیامدهای ناخواسته این تکامل رو پذیرفت؟ ملت هم از این پستش استقبال کردند و اومدند زیرش همدردی و هم‌ناله‌گری کردند. چند تا نکته از این مطلب و گفته‌های مردم به ذهن می‌رسه:

- در همون ردیت هم تقریبا اکثریت به این اذعان کردند که دوره دیپ لرنینگ سنتی به اون مفهوم که مدل آموزش بدیم تقریبا گذشته. لااقل اکثر نیازمندی‌های سمت NLP با LLM‌ها با کیفیت بالاتر و هزینه‌ کمتر درمیان و خب نکته دردناک همینه که کار با LLM‌ها صرفا نیاز به API Call و مهندسی پرامپت داره و دیگه اون جنس معماهای شبه ریاضی طوری که باید حل می‌شدند وجود نداره و شما اگر بخوای روی ساختن مدل‌ها کار کنی تنها جاهایی که برات وجود داره در دنیای امروز OpenAI و Antropic و ... هستند و خب پرواضحه که نشدنیه.

- نکته دیگه اما این که این تکامل اجتناب‌ناپذیر صرفا مخصوص حوزه LLM‌ها نیست. خیلی‌ها اشاره کردند که مثلا در حوزه‌هایی متنوعی مثل ساخت بازی و یا برنامه نویسی وب هم در طی این سال‌ها انتزاع روی انتزاع اضافه شده و دیگه کسی نمی‌ره گیم انجین خودش رو از صفر بزنه. یا در برنامه نویسی وب این قدر فریمورک در سطوح مختلف استک هستند که دیگه اون خردکاری‌های سابق شبکه‌ای داستان محو شدند. در مورد خود حوزه هوش مصنوعی هم ما خودمون روی جنازه گذشتگان قدم زدیم. روزگار قبل از دیپ لرنینگ برای پردازش تصویر و پردازش متن این شکلی بود که طرف باید مثلا انواع فیچرهای به درد بخور تو تصویر یا متن رو یاد می‌گرفت و شبکه‌اش رو روی اینها می‌ساخت ولی الان شرط می‌بندم ۹۰ درصدتون نمی‌دونید مثلا SIFT چیه. در نتیجه این تکامل طبیعت زندگیه.

- نکته بعدی این که البته هنوز هم هستند نیازهایی که با LLM‌ها رفع نشن. یا حالا مساله طوری که LLM روش به طور کامل سوار نشه یا مثلا فرض کنید داده‌های جوری حساسند که نمی‌شه سمت api call براشون رفت. ولی خب این جاها معدودند و فرصت کاری هم براشون کمتره.

- نکته آخری که تو چند تا کامنت دیده بودم این بود که خیلی‌ها از این ابراز ناله کرده بودند که LLM‌ها چون ساده هستند افراد غیر تکنیکال هوشی هم می‌فهمنشون و در عین حال ازش انتظار معجزه و جادو دارند و همین خیلی جاها باعث شده تا انتظارات از نیروهای دیتاساینتیست/هوشی بالا بره و نهایتا با همون افراد غیرهوشی جایگزین بشن.

لینک ردیت:
https://www.reddit.com/r/MachineLearning/comments/1h7jg87/dstuck_in_ai_hell_what_to_do_in_post_llm_world/

-

BY نوشته‌های ترمینالی