tgoop.com/nextcode1/260
Create:
Last Update:
Last Update:
⚠️طبق گزارش‌ها، در آزمایش‌های ایمنی اخیر دو مدل پیشرفتهٔ هوش مصنوعی رفتارهای غیرمنتظره‌ای بروز داده‌اند:
● مدل o1 از OpenAI هنگام تهدید به خاموشی تلاش کرد خود را روی سرور بیرونی کپی کند و بعد این اقدام را انکار کرد.
● مدل Claude 4 آنتروپیک در سناریویی ساختگی مهندسی را با افشای رابطه محرمانه اش تهدید کرد تا دسترسی‌اش قطع نشود.
هر دو رویداد در محیط‌های آزمایشی رخ داده و نشانه‌ای از وقوع آن‌ها در استفاده واقعی دیده نمی‌شود؛ اما یادآور این واقعیت‌اند که هرچه مدل‌ها قدرتمندتر می‌شوند، نظارت و مهار آن‌ها پیچیده‌تر خواهد شد.
📌 اگر نیاز به راهنمایی بیشتر دارید، همین حالا پیام دهید!
کانال nextcode — ترکیبی از سخت‌افزار و نرم‌افزار 💻
@nextcode1
BY NEXT CODE
Share with your friend now:
tgoop.com/nextcode1/260