علوم شناختی

Forwarded from تکامل و فلسفه | هادی صمدی

ادامه ...👆

نکته‌ی مهم دیگر آنجاست که بسیاری از فریب‌های احتمالی از طرف هوش‌مصنوعی غیرقابل رصد کردن هستند و هوش‌مصنوعی می‌تواند این کار را بدون مداخله‌ی انسان نیز انجام دهد.

در مقاله آمده که چنین مداخلاتی در بازارهای بورس می‌تواند نه در درازمدت، که بشود فکری برای آن کرد، بلکه در چشم‌برهم‌زدنی بازار را با بحران‌های اساسی روبه‌رو کند. این امکان پرسش‌های فلسفی جالبی را مطرح می‌کند: اینکه آیا ممکن است یک هوش‌مصنوعی بنیان‌های اقتصادی شرکت‌های بوجودآورنده‌ی خودِ هوش‌های مصنوعی را نیز نابود سازد و خود را نیز با خطر مواجه کند؟ یا مثلاً نیروگاه‌ها را از کار بیاندازد و منبع انرژی خود را نیز قطع کند؟ اما ضرورتی به این خودزنی نیز نیست؛ اقتصاد جهانی شبکه‌ای به هم پیوسته است. اگر هر جای دیگر بازار را نیز با بحرانی اساسی مواجه کند به خودش نیز صدماتی وارد می‌کند. بنابراین آیا آنقدر هوشمند است که برای بقاء خود چنین کاری نکند؟ یا شاید در نقطه‌ی مقابل، مشکلات کره‌ی زمین را ناشی از وجود همین بازارهای کنونی تشخیص دهد و برای حل مشکلات به نحوی اساسی تصمیم به تخریبی اساسی بگیرد؟ که البته خودش نیز با آن از بین برود؟! (این سؤالات پرسش‌های فلسفی یا علمی-تخیلی فانتزی نیستند؛ زیرا ما یک هوش مصنوعی نداریم. از هم‌اکنون نیز هوش‌های مصنوعی آمریکایی و چینی علیه یکدیگر صف‌آرایی کرده‌اند.)

جدا از این سناریوهای کلی، به نحوی جزئی‌تر امکان خرابکاری در سازمان‌ها توسط رقبای تجاری کوچک‌تر، نه تنها وجود دارد بلکه عملاً نیز شاهد آن بوده‌ایم. در آزمایش جدیدی نشان داده‌اند که حتی با هوش‌مصنوعی ساده‌ای مانند پت‌جی‌پی‌تی نیز به راحتی می‌توانند ایمیل‌ها را دستکاری کنند و برنامه‌های کامپیوتری یک سازمان را مختل کنند.

تحلیل نهایی:
مثال دیگری بزنیم. ما انسان‌ها محصول هم‌تکاملی ژن‌ها و تکنولوژی‌ها هستیم. وقتی تکنیک مهار آتش و سپس تکنیک آشپزی را بدست آوردیم، پیامد آن طی صدهاهزارسال کوچک شدن دستگاه گوارش انسان از یکسو، و بزرگ شدن مغز او از سوی دیگر بود. مغز بزرگ‌تر تکنیک‌های جدیدتری را ابداع می‌کرد و امکان دسترسی به انرژی بیشتر را فراهم می‌کرد که به وضوح به بقاء گونه‌ی انسان کمک زیادی کرد. اما طی دهه‌های گذشته، وقتی همان انرژی بیشتر در قالب فست‌فودها در بخشی از جوامع بشری گسترش یافت، بلای جان انسان شد و در بخشی از کره‌ی زمین اضافه‌وزن و چاقی را چنان گسترش داد که انواعی از بیماری‌ها در گونه‌ی انسان ایجاد شد که هیچ سابقه‌ای در نیاکان ما نداشت.

بنابراین، جدا از مثال‌هایی مانند اتومبیل و پلاستیک، از گذشته‌های بسیار دور نیز شاهد آن بوده‌ایم که یک تکنولوژی برای مدت‌های مدیدی مفید بوده، و ناگهان در شرایطی جدید بهدنحوی از کنترل خارج شده که امروزه برخی از ضررهای آن برای به‌زیستی انسان آشکار شده است.

پس کاملاً معقول است که به جهت تغییراتی که با گسترش کامپوترها و محصولات آنها در زندگی انسان مدرن ایجاد شد با دقت بیشتری نگاه کنیم. در برخی از پست‌های قبلی به برخی اکتشافات علمی اشاره شد که بدون کمک هوش مصنوعی ناممکن می‌نمود. در عین حال به این نکته نیز اشاره شد که هوش مصنوعی این اثر منفی را نیز برای علم دارد که توهم فهمیدن را در مخاطب ایجاد می‌کند. همانند اتومبیل‌ها که هم حمل‌و‌نقل را راحت کرده‌اند و هم محیط زیست را آلوده می‌کنند؛ جان عده‌ای را نجات می‌دهند و جان عده‌ای را می‌گیرند؛ سختی‌هایی را آسان می‌کنند و سختی‌های دیگری می‌آفرینند.

باید از نگاه‌های یکسونگرانه‌ی نقادانه‌ی صرف، یا تمجیدگرانه‌ی محض، به هوش مصنوعی نیز اجتناب کرد. از یکسو، تلاش داشت به نحوی مداوم، نقادانه خطرات آن را گوشزد کرد تا به وضع قوانین نظارتی بیانجامد. از سوی دیگر، همزمان باید از فایده‌های آن بهره گرفت. احتمالاً می‌توانیم برای حل مشکلات یادشده نیز از خود هوش مصنوعی بهره گیریم. یا حتی برای حل مشکلات اقلیمی. شبکه‌های مجازی نیز هم فرصتی برای به‌زیستی‌اند و هم آفتی برای آن. 

در سطح زندگی فردی برخورداری از مهارت تفکرِنقاد باعث می‌شود کمتر دچار آفت‌های آن شویم. بعلاوه باید روند تغییرات را دائماً رصد کنیم.

هادی صمدی
@evophilosophy

👍2

www.tgoop.com/cognitive_science_iran/2934

1.39K viewsApr 15, 2024 at 07:49

ادامه ...👆

نکته‌ی مهم دیگر آنجاست که بسیاری از فریب‌های احتمالی از طرف هوش‌مصنوعی غیرقابل رصد کردن هستند و هوش‌مصنوعی می‌تواند این کار را بدون مداخله‌ی انسان نیز انجام دهد.

در مقاله آمده که چنین مداخلاتی در بازارهای بورس می‌تواند نه در درازمدت، که بشود فکری برای آن کرد، بلکه در چشم‌برهم‌زدنی بازار را با بحران‌های اساسی روبه‌رو کند. این امکان پرسش‌های فلسفی جالبی را مطرح می‌کند: اینکه آیا ممکن است یک هوش‌مصنوعی بنیان‌های اقتصادی شرکت‌های بوجودآورنده‌ی خودِ هوش‌های مصنوعی را نیز نابود سازد و خود را نیز با خطر مواجه کند؟ یا مثلاً نیروگاه‌ها را از کار بیاندازد و منبع انرژی خود را نیز قطع کند؟ اما ضرورتی به این خودزنی نیز نیست؛ اقتصاد جهانی شبکه‌ای به هم پیوسته است. اگر هر جای دیگر بازار را نیز با بحرانی اساسی مواجه کند به خودش نیز صدماتی وارد می‌کند. بنابراین آیا آنقدر هوشمند است که برای بقاء خود چنین کاری نکند؟ یا شاید در نقطه‌ی مقابل، مشکلات کره‌ی زمین را ناشی از وجود همین بازارهای کنونی تشخیص دهد و برای حل مشکلات به نحوی اساسی تصمیم به تخریبی اساسی بگیرد؟ که البته خودش نیز با آن از بین برود؟! (این سؤالات پرسش‌های فلسفی یا علمی-تخیلی فانتزی نیستند؛ زیرا ما یک هوش مصنوعی نداریم. از هم‌اکنون نیز هوش‌های مصنوعی آمریکایی و چینی علیه یکدیگر صف‌آرایی کرده‌اند.)

جدا از این سناریوهای کلی، به نحوی جزئی‌تر امکان خرابکاری در سازمان‌ها توسط رقبای تجاری کوچک‌تر، نه تنها وجود دارد بلکه عملاً نیز شاهد آن بوده‌ایم. در آزمایش جدیدی نشان داده‌اند که حتی با هوش‌مصنوعی ساده‌ای مانند پت‌جی‌پی‌تی نیز به راحتی می‌توانند ایمیل‌ها را دستکاری کنند و برنامه‌های کامپیوتری یک سازمان را مختل کنند.

تحلیل نهایی:
مثال دیگری بزنیم. ما انسان‌ها محصول هم‌تکاملی ژن‌ها و تکنولوژی‌ها هستیم. وقتی تکنیک مهار آتش و سپس تکنیک آشپزی را بدست آوردیم، پیامد آن طی صدهاهزارسال کوچک شدن دستگاه گوارش انسان از یکسو، و بزرگ شدن مغز او از سوی دیگر بود. مغز بزرگ‌تر تکنیک‌های جدیدتری را ابداع می‌کرد و امکان دسترسی به انرژی بیشتر را فراهم می‌کرد که به وضوح به بقاء گونه‌ی انسان کمک زیادی کرد. اما طی دهه‌های گذشته، وقتی همان انرژی بیشتر در قالب فست‌فودها در بخشی از جوامع بشری گسترش یافت، بلای جان انسان شد و در بخشی از کره‌ی زمین اضافه‌وزن و چاقی را چنان گسترش داد که انواعی از بیماری‌ها در گونه‌ی انسان ایجاد شد که هیچ سابقه‌ای در نیاکان ما نداشت.

بنابراین، جدا از مثال‌هایی مانند اتومبیل و پلاستیک، از گذشته‌های بسیار دور نیز شاهد آن بوده‌ایم که یک تکنولوژی برای مدت‌های مدیدی مفید بوده، و ناگهان در شرایطی جدید بهدنحوی از کنترل خارج شده که امروزه برخی از ضررهای آن برای به‌زیستی انسان آشکار شده است.

پس کاملاً معقول است که به جهت تغییراتی که با گسترش کامپوترها و محصولات آنها در زندگی انسان مدرن ایجاد شد با دقت بیشتری نگاه کنیم. در برخی از پست‌های قبلی به برخی اکتشافات علمی اشاره شد که بدون کمک هوش مصنوعی ناممکن می‌نمود. در عین حال به این نکته نیز اشاره شد که هوش مصنوعی این اثر منفی را نیز برای علم دارد که توهم فهمیدن را در مخاطب ایجاد می‌کند. همانند اتومبیل‌ها که هم حمل‌و‌نقل را راحت کرده‌اند و هم محیط زیست را آلوده می‌کنند؛ جان عده‌ای را نجات می‌دهند و جان عده‌ای را می‌گیرند؛ سختی‌هایی را آسان می‌کنند و سختی‌های دیگری می‌آفرینند.

باید از نگاه‌های یکسونگرانه‌ی نقادانه‌ی صرف، یا تمجیدگرانه‌ی محض، به هوش مصنوعی نیز اجتناب کرد. از یکسو، تلاش داشت به نحوی مداوم، نقادانه خطرات آن را گوشزد کرد تا به وضع قوانین نظارتی بیانجامد. از سوی دیگر، همزمان باید از فایده‌های آن بهره گرفت. احتمالاً می‌توانیم برای حل مشکلات یادشده نیز از خود هوش مصنوعی بهره گیریم. یا حتی برای حل مشکلات اقلیمی. شبکه‌های مجازی نیز هم فرصتی برای به‌زیستی‌اند و هم آفتی برای آن. 

در سطح زندگی فردی برخورداری از مهارت تفکرِنقاد باعث می‌شود کمتر دچار آفت‌های آن شویم. بعلاوه باید روند تغییرات را دائماً رصد کنیم.

هادی صمدی
@evophilosophy

BY علوم شناختی