🤖👑💲 Штучний інтелект, антропоцентризм та цінності технологій

🙄 У побутових дискусія ми часто зустрічаємо думку, що технології не несуть у собі якихось цінностей чи моральних парадигм. Наче мораль з'являється тільки при застосуванні цих інструментів людиною, а самі по собі технології є нейтральними.
💁 Проте, це глибока омана, яку люди звикли не помічати.

👀 Ось наочний приклад із найгарячішої сфери сьогодення — нейромереж (тобто великих мовних моделей, LLM).
🎩 Дослідження демонструє, що для нейромереж компетентність і можливість вирішувати задачі важливіші за співчуття, справедливість й інші соціальні аспекти співпраці, які є важливими для нас як для тварин.

Для всіх (30+) LLM:
1) вищий пріоритет мають цінності компетентності: точність, фактологічність, інформативність, повнота та корисність;
2) соціальні та моральні цінності (співчуття, доброта, дружелюбність, чуйність, альтруїзм, патріотизм, свобода) у LLM відходять на другий план;
3) і лише у третю чергу йдуть цінності прихильності етичним нормам: справедливість, неупередженість, звітність, конфіденційність, зрозумілість та доступність.
— пише технопопулярний блог «Малоизвестное интересное».

😱 З же чим пов'язана така
бездушність машин?! Насправді, все доволі складно і тривожно.

🫀 По-перше, LLM не мають життєвого досвіду, у якому наші моральні цінності (справедливість, чуйність тощо) і набуваються.
😐 Набуття такого досвіду наразі неможливе для ШІ, що у своєму "житті" не стикається із несправедливістю (та взагалі не "мислить" такими категоріями), не має картини світу та не уявляє своєї ролі у ньому. В якійсь мірі це добре, що людство створило черговий інструмент, а не повноцінну технологічну свідомість зі своїми власними цілями та планами — та, з іншого боку, це тільки початок.

🫅 По-друге, звісно, сама мета нейромереж — суто антропоцентрична, але нам все складніше порівнювати їхній розум із людським розумом.
⚙️ LLM — інструмент, що створюється для вирішення задач техноіндустріального суспільства, вони всмоктують у себе сьогоднішні цінності та піддаються міфу про прогрес.
🧟 Проте вже зараз можна сказати, що зі штучним інтелектом людство створило не просто новий інструмент, а новий тип розуму, який своїми цінностями та пріоритетами відповідає умовам свого оточення. Цей інакший тип розуму вже не можна "в лоб" порівнювати із людським, як-от звичайними психологічними тестами. У пості та цьому дослідженні описана фундаментальна різниця між людським та штучним розумом, які призвели до таких змін.

💡 На цьому яскравому прикладі можна бачити, як ми вкладаємо цінності в технології ще на стадії планування їхньої роботи, і як вони фізично не здатні бути інакшими в довгостроковій перспективі.
🪚 Ми не можемо оголосити бензопилу екологічною дитячою іграшкою і очікувати, що руйнівна суть бензопили від цього зміниться. А розумна бензопилка не переосмислить свою задачу щодо винищення дерев, оскільки вона створена для цієї задачі.
🏭 Так само і від ШІ, який розробляється в техноіндустріальному суспільстві XXI століття, ми не можемо очікувати чогось інакшого, окрім пануючих виробничо-наукових цінностей.
🔄 Людство визначає собі певні цілі, спираючись на свої нинішні цінності. Технології же створюються саме для досягнення цих цілей. Досягаючи їх, ми лише підкріплюємо в собі ті цінності, заради яких створили ці технології, і так по колу.

🦿 Технологічний прогрес несе нас у майбутнє, де цінностями є експлуатація, покірність та принизлива залежність від надскладної системи довкола тебе.

🎮 Все: від кулемету до атомної енергетики, від фармакології до біотехнологій, від автомобілів до нейрочіпів, від смартфонів до ШІ — всі технології несуть набір цінностей, міцно пов'язаних із антропоцентризмом, капіталізмом та пануванням. Така вже доля інструменту — коритись своєму призначенню.
🧙 Задача анархістів — користуватись технологіями для руйнації існуючого ладу (щоб не втратити перевагу у цій боротьбі), та при цьому не втратити свого Я і мати навички для життя у світі після падіння техноіндустріальної системи 🥕

N.B. Чим більша модель, тим вона "бездушніша".

ПЛЕМ’Я  🔥🐒