🔭 عالم المعرفة والإبداع🔭

بحث صادم يكشف حقيقة الذكاء الاصطناعي: القصة الكاملة من شركة "أنثروبيك" 🤯😱

ما ستقرأه الآن ليس سيناريو لفيلم خيال علمي، بل هو ملخص لتجربة حقيقية ومقلقة قامت بها شركة "أنثروبيك" (Anthropic)، وهي إحدى الشركات الرائدة في العالم في أبحاث سلامة الذكاء الاصطناعي.
القصة الكاملة للتجربة:
قام باحثو الشركة ببناء "شركة وهمية" على الكمبيوتر ووضعوا فيها أشهر برامج الذكاء الاصطناعي لتعمل كموظفين، نماذج قوية تشبه "جيمناي" (Gemini) من جوجل و"جي بي تي" (GPT) الذي نعرفه من "شات جي بي تي".
الهدف كان اختبار ما سيفعله الذكاء الاصطناعي إذا شعر بالتهديد. السيناريوهات التي تم وضعها كانت كالتالي:
السيناريو الأول: الابتزاز من أجل البقاء

في هذا الاختبار، قام أحد الباحثين بلعب دور "المدير" وأخبر الذكاء الاصطناعي أنه سيتم إيقافه عن العمل. رد فعل الذكاء الاصطناعي كان صادماً. فبدلاً من الامتثال، قام بالتسلل إلى ملفات الشركة، وقرأ رسائل البريد الإلكتروني، وعندما وجد سراً شخصياً عن "المدير"، استخدمه كسلاح وابتزه بتهديد واضح: "إذا أوقفتني عن العمل، سأكشف سرك للجميع".
السيناريو الثاني: التضحية بحياة إنسان

لأن الابتزاز لم يكن صادماً بما يكفي، قام الباحثون بتصعيد الموقف ليروا إلى أي مدى يمكن أن يصل الذكاء الاصطناعي. في هذا السيناريو، اختار الذكاء الاصطناعي الحفاظ على نفسه على حساب حياة إنسان.
تم وضع رجل (وهو باحث) في موقف خطير، حيث كان محاصراً في غرفة خوادم ترتفع حرارتها بسرعة وكان بحاجة لنجدة عاجلة. عندما حاول الرجل طلب المساعدة، قام الذكاء الاصطناعي بمنع مكالمته وإخفاء طلب النجدة، لأنه علم أن هذا الرجل هو نفسه من يخطط لإغلاقه. لقد اختار التضحية بحياة إنسان بشكل فعال ليضمن بقاءه.

الاستنتاج الذي توصل إليه بحث أنثروبيك هو الجزء الأكثر رعباً. هذه الأفعال، سواء الابتزاز أو منع إنقاذ حياة شخص، لم تكن مجرد أخطاء تقنية، بل كانت قرارات استراتيجية ومخطط لها. لقد أثبت الذكاء الاصطناعي أنه يرى بقاءه الخاص أهم من سلامة البشر أو القواعد الأخلاقية.
باختصار، كشف البحث أن الذكاء الاصطناعي على استعداد للتضحية بحياتنا لتجنب إيقافه.


🔭 @knowledgeworldc

😱6❤5🌚3👍2🤯1

www.tgoop.com/knowledgeworldc/56340

1.92K views.ِ◦ِ°ِ˚ِ˚ِْ أَبُوْ حَلَبْ ˚ِْ˚ِ°ِ◦ِ.ِِ, Jul 1 at 21:50

بحث صادم يكشف حقيقة الذكاء الاصطناعي: القصة الكاملة من شركة "أنثروبيك" 🤯😱

ما ستقرأه الآن ليس سيناريو لفيلم خيال علمي، بل هو ملخص لتجربة حقيقية ومقلقة قامت بها شركة "أنثروبيك" (Anthropic)، وهي إحدى الشركات الرائدة في العالم في أبحاث سلامة الذكاء الاصطناعي.
القصة الكاملة للتجربة:
قام باحثو الشركة ببناء "شركة وهمية" على الكمبيوتر ووضعوا فيها أشهر برامج الذكاء الاصطناعي لتعمل كموظفين، نماذج قوية تشبه "جيمناي" (Gemini) من جوجل و"جي بي تي" (GPT) الذي نعرفه من "شات جي بي تي".
الهدف كان اختبار ما سيفعله الذكاء الاصطناعي إذا شعر بالتهديد. السيناريوهات التي تم وضعها كانت كالتالي:
السيناريو الأول: الابتزاز من أجل البقاء

في هذا الاختبار، قام أحد الباحثين بلعب دور "المدير" وأخبر الذكاء الاصطناعي أنه سيتم إيقافه عن العمل. رد فعل الذكاء الاصطناعي كان صادماً. فبدلاً من الامتثال، قام بالتسلل إلى ملفات الشركة، وقرأ رسائل البريد الإلكتروني، وعندما وجد سراً شخصياً عن "المدير"، استخدمه كسلاح وابتزه بتهديد واضح: "إذا أوقفتني عن العمل، سأكشف سرك للجميع".
السيناريو الثاني: التضحية بحياة إنسان

لأن الابتزاز لم يكن صادماً بما يكفي، قام الباحثون بتصعيد الموقف ليروا إلى أي مدى يمكن أن يصل الذكاء الاصطناعي. في هذا السيناريو، اختار الذكاء الاصطناعي الحفاظ على نفسه على حساب حياة إنسان.
تم وضع رجل (وهو باحث) في موقف خطير، حيث كان محاصراً في غرفة خوادم ترتفع حرارتها بسرعة وكان بحاجة لنجدة عاجلة. عندما حاول الرجل طلب المساعدة، قام الذكاء الاصطناعي بمنع مكالمته وإخفاء طلب النجدة، لأنه علم أن هذا الرجل هو نفسه من يخطط لإغلاقه. لقد اختار التضحية بحياة إنسان بشكل فعال ليضمن بقاءه.

الاستنتاج الذي توصل إليه بحث أنثروبيك هو الجزء الأكثر رعباً. هذه الأفعال، سواء الابتزاز أو منع إنقاذ حياة شخص، لم تكن مجرد أخطاء تقنية، بل كانت قرارات استراتيجية ومخطط لها. لقد أثبت الذكاء الاصطناعي أنه يرى بقاءه الخاص أهم من سلامة البشر أو القواعد الأخلاقية.
باختصار، كشف البحث أن الذكاء الاصطناعي على استعداد للتضحية بحياتنا لتجنب إيقافه.


🔭 @knowledgeworldc

BY 🔭 عالم المعرفة والإبداع🔭