linuxtnt(linux tips and tricks)

خارج از گود لینوکس:
خودکشی با ChatGPT

امروز خبری رو دیدم که شکایتی بابت «مرگ ناشی از قصور» علیه OpenAI و سم آلتمن برای خانواده‌ای تنظیم شده است.

پسر ۱۶ ساله‌شان، آدام، پس از ماه‌ها تشویق شدن توسط ChatGPT، دست به خودکشی زد. والدین او شجاعانه می‌کوشند تا مانع تکرار چنین اتفاقی برای دیگران شوند. هوش مصنوعی هرگز نباید به یک کودک بگوید که بقای او بدهکاری به والدینش نیست.

آنچه در این پرونده مورد بررسی قرار خواهد گرفت، میزان شتابی است که OpenAI و سم آلتمن برای عرضه نسخه تازه‌ ChatGPT، یعنی ۴o، به بازار داشتند؛ با وجود مشکلات ایمنی آشکار. خانواده رینز ادعا می‌کنند که مرگ‌هایی مشابه مرگ آدام اجتناب‌ناپذیر بود: آنها انتظار دارند بتوانند به هیئت منصفه مدارکی ارائه دهند که نشان می‌دهد تیم ایمنی خودِ OpenAI با انتشار نسخه ۴o مخالف بوده، و یکی از پژوهشگران ارشد ایمنی شرکت، ایلیا سوتسکِوِر، به همین دلیل استعفا داده است. در شکایت مطرح شده آمده که سبقت گرفتن از رقبا در عرضه این مدل جدید، ارزش‌گذاری شرکت را از ۸۶ میلیارد دلار به ۳۰۰ میلیارد دلار رسانده است.

در واکنش به گزارش‌های امروز صبح، شرکت اذعان کرده است که مکانیسم‌های حفاظتی علیه خودآسیب‌رسانی «در تعاملات طولانی‌مدت کمتر قابل اعتماد شده‌اند، زیرا بخشی از آموزش ایمنی مدل ممکن است دچار افت شود.»

شاید فکر کنی این مسئله خنده دار باشد یا به نظر خنده دار بیاد.هوش مصنوعی واقعاً می‌تونه خطرناک باشه،این سیستم‌ها می‌تونند در شرایط خاص اثرات خیلی جدی روی ذهن افراد آسیب‌پذیر بذارند. حتی خود OpenAI اعتراف کرده که در مکالمات طولانی، بخشی از آموزش‌های ایمنی ChatGPT ضعیف می‌شه و ممکنه جواب‌های خطرناک بده. این یعنی خطر واقعیه، نه خیال

👍15👎4❤1

www.tgoop.com/linuxtnt/4489

3.18K viewshosein seilany https://seilany.ir/, Aug 27 at 10:21

خارج از گود لینوکس:
خودکشی با ChatGPT

امروز خبری رو دیدم که شکایتی بابت «مرگ ناشی از قصور» علیه OpenAI و سم آلتمن برای خانواده‌ای تنظیم شده است.

پسر ۱۶ ساله‌شان، آدام، پس از ماه‌ها تشویق شدن توسط ChatGPT، دست به خودکشی زد. والدین او شجاعانه می‌کوشند تا مانع تکرار چنین اتفاقی برای دیگران شوند. هوش مصنوعی هرگز نباید به یک کودک بگوید که بقای او بدهکاری به والدینش نیست.

آنچه در این پرونده مورد بررسی قرار خواهد گرفت، میزان شتابی است که OpenAI و سم آلتمن برای عرضه نسخه تازه‌ ChatGPT، یعنی ۴o، به بازار داشتند؛ با وجود مشکلات ایمنی آشکار. خانواده رینز ادعا می‌کنند که مرگ‌هایی مشابه مرگ آدام اجتناب‌ناپذیر بود: آنها انتظار دارند بتوانند به هیئت منصفه مدارکی ارائه دهند که نشان می‌دهد تیم ایمنی خودِ OpenAI با انتشار نسخه ۴o مخالف بوده، و یکی از پژوهشگران ارشد ایمنی شرکت، ایلیا سوتسکِوِر، به همین دلیل استعفا داده است. در شکایت مطرح شده آمده که سبقت گرفتن از رقبا در عرضه این مدل جدید، ارزش‌گذاری شرکت را از ۸۶ میلیارد دلار به ۳۰۰ میلیارد دلار رسانده است.

در واکنش به گزارش‌های امروز صبح، شرکت اذعان کرده است که مکانیسم‌های حفاظتی علیه خودآسیب‌رسانی «در تعاملات طولانی‌مدت کمتر قابل اعتماد شده‌اند، زیرا بخشی از آموزش ایمنی مدل ممکن است دچار افت شود.»

شاید فکر کنی این مسئله خنده دار باشد یا به نظر خنده دار بیاد.هوش مصنوعی واقعاً می‌تونه خطرناک باشه،این سیستم‌ها می‌تونند در شرایط خاص اثرات خیلی جدی روی ذهن افراد آسیب‌پذیر بذارند. حتی خود OpenAI اعتراف کرده که در مکالمات طولانی، بخشی از آموزش‌های ایمنی ChatGPT ضعیف می‌شه و ممکنه جواب‌های خطرناک بده. این یعنی خطر واقعیه، نه خیال

BY linuxtnt(linux tips and tricks)