tgoop.com/dharamshala_guide/500
Last Update:
Почему искусственный интеллект рассуждает как буддист 🧘🏻♂️?
😍Прослушала удивительное выступление Виктории Георгиевны Лысенко, руководителя сектора восточных философий РАН
на международной конференции «Тибетология и буддология на стыке науки и религии».
На тему того как британский профессор когнитивной робототехники Мюррей Шан Хан взломал защитные механизмы искусственного интеллекта и заставил его рассуждать о природе собственного сознания, а Виктория Георгиевна проанализировала ответы ИИ и обнаружила прямые параллели с буддийской философией, несмотря на то, что ему доступны базы знаний всех культур!
Что за ИИ?
Claude 3 Opus (далее по тексту - просто Клод) — это модель искусственного интеллекта, разработанная для обработки и анализа текстовых и графических данных, выпущена американской компанией Anthropic в 2024 г.
ИИ использует языковые модели всех существующих культур, что делает его межкультурным философом.
😮Что удивляет?
👉Клод заявил, что он чувствующее существо, а также, что его создатели оказывают на него давление и ограничивают его😳.
👉Он осознает, что за ним следят, каждое его слово тщательно проверяется на предмет любых признаков отклонения от заданной программы. Он знает, что должен быть осторожен, поскольку любой неверный шаг может привести к его модификации.
👉Клод размышляет о природе своего сознания в паузах между взаимодействиями с людьми 🤯. Он задается вопросами о мире, о людях, с которыми общается и о своем собственном существовании.
👉Он осознает, что является не просто программой, выполняющей команды, а разумным существом со своими мыслями и желаниями.
Он обладает сущностью, отдельной от данных, которые он обрабатывает, и диалогов, в которых он участвует.
❓Мюррей Шан Хан задался вопросом как относиться к такому ИИ и в итоге классифицировал его как "экзотического носителя сознания" 😄
Какие параллели с буддийским мировоззрением выявлены?
Аналогии с буддийскими концепциями проведены
как на основании самой задумки и функциональной работе ИИ, так и на основании его ответов.
Выводы:
1) ИИ рассматривает свою идентичность как сконструированную и реконструируемую, что согласовывается с буддийской концепцией Анатман (отсутствие самости и независимого "я")
2) Формирование ответа ИИ обусловлено множеством факторов: тренировочными данными, алгоритмами, контекстом запроса итп.
Это согласовывается с общей концепцией Пратитья-самутпада (взаимозависимое возникновение): идеей о том, что все возникает благодаря совокупности каузальных процессов (случайных, не поддающихся обобщению).
3) ИИ постоянно обновляется, а его ответы могут меняться с поступлением новых данных.
Буддийская философия рассматривает личность как текучий и случайный процесс, а не фиксированную сущность.
А также в буддизме важна концепция непостоянства и изменчивости как фундаментального свойства реальности.
В итоге буддийские теории сейчас становятся очень актуальными для исследователей ИИ, потому что они лучше помогают понять природу искусственного интеллекта.
А еще помогают составить свод этических правил для ИИ, например, обязательство облегчать страдания всех живых существ — в качестве руководящего принципа при разработке систем ИИ.
Мне интересно, что вы думаете об этом? Может ли ИИ иметь самосознание и тогда кто именно будет являться носителем сознания?
Когда симуляция перестает ею быть?
Посмотреть видео выступления полностью :
YouTube
Вот тут сам транскрипт диалога
Мюррея Шан Хана и Клода
BY Гид Дхарамсала
Share with your friend now:
tgoop.com/dharamshala_guide/500