Santry's Singularity blog

— Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
— А ты?

Многие фантастические произведения строятся вокруг одного конфликта: люди считают, что роботы - не люди, а машины желают, чтобы к ним относились по человечески.

Скоро эти сюжеты устареют, подобно футурологический прогнозам из начала 20 века. Диалог из "Я - робот" с Уиллом Смитом, да и сам фильм иллюстрируют этот тезис. Картины и музыка оказались первым, что освоило новое поколение нейронных сетей, но ключевое заблуждение сценаристов лежит глубже.

Мы примем машины в наше общество гораздо быстрее, чем можно предположить. Просто вспомните, как вы общаетесь с LLM. Здороваетесь, благодарите, просите? Весьма вероятно.

Люди склонны приписывать человеческие качества нечеловеческому: одушевлять предметы и стихии, видеть лица в облаках, разговаривать с животными.

Поэтому неудивительно, что мы испытываем искушение антропоморфизировать искусственный интеллект. Даже разработчики и исследователи, проектирующие эти системы, попадают в эту ловушку, начиная с таких ярлыков, как "машинное обучение".

Как писал Станислав Лем в Солярисе: "Не ищем мы никого, кроме людей. Не нужно нам других миров. Нам нужно зеркало..." Это оно. LLM похожи на людей, больше всего с чем мы сталкивались.

Антропоморфизм – это будущее, хорошее или плохое. Мы очень быстро станем обращаться с ИИ, как с людьми. Так проще.

Значит ли это, что роботы не столкнутся с дискриминацией? Скорее наоборот. Антропоморфизация - причина, по которой люди будут чаще обращаться с интеллектуальными машинами, как с себе подобными - гастарбайтерами, а то и рабами. К сожалению, это тоже в нашей природе.

Вместо того, чтобы спорить, каким голосом и тоном должен разговаривать голосовой помощник, стоит задуматься о том, как безопасно и продуктивно интегрировать ИИ в наше общество. Ведь практики общения и обращения с машинами неизбежно повлияют на нравы, культуру и мораль.

#нейросеть #футурология #будущее #фантастика #гуманизм

Taylor & Francis

Anthropomorphism in AI

AI research is growing rapidly raising various ethical issues related to safety, risks, and other effects widely discussed in the literature. We believe that in order to adequately address those is...

www.tgoop.com/SantryBlog/557

1.9K viewsedited  May 23, 2024 at 13:01

— Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
— А ты?

Многие фантастические произведения строятся вокруг одного конфликта: люди считают, что роботы - не люди, а машины желают, чтобы к ним относились по человечески.

Скоро эти сюжеты устареют, подобно футурологический прогнозам из начала 20 века. Диалог из "Я - робот" с Уиллом Смитом, да и сам фильм иллюстрируют этот тезис. Картины и музыка оказались первым, что освоило новое поколение нейронных сетей, но ключевое заблуждение сценаристов лежит глубже.

Мы примем машины в наше общество гораздо быстрее, чем можно предположить. Просто вспомните, как вы общаетесь с LLM. Здороваетесь, благодарите, просите? Весьма вероятно.

Люди склонны приписывать человеческие качества нечеловеческому: одушевлять предметы и стихии, видеть лица в облаках, разговаривать с животными.

Поэтому неудивительно, что мы испытываем искушение антропоморфизировать искусственный интеллект. Даже разработчики и исследователи, проектирующие эти системы, попадают в эту ловушку, начиная с таких ярлыков, как "машинное обучение".

Как писал Станислав Лем в Солярисе: "Не ищем мы никого, кроме людей. Не нужно нам других миров. Нам нужно зеркало..." Это оно. LLM похожи на людей, больше всего с чем мы сталкивались.

Антропоморфизм – это будущее, хорошее или плохое. Мы очень быстро станем обращаться с ИИ, как с людьми. Так проще.

Значит ли это, что роботы не столкнутся с дискриминацией? Скорее наоборот. Антропоморфизация - причина, по которой люди будут чаще обращаться с интеллектуальными машинами, как с себе подобными - гастарбайтерами, а то и рабами. К сожалению, это тоже в нашей природе.

Вместо того, чтобы спорить, каким голосом и тоном должен разговаривать голосовой помощник, стоит задуматься о том, как безопасно и продуктивно интегрировать ИИ в наше общество. Ведь практики общения и обращения с машинами неизбежно повлияют на нравы, культуру и мораль.

#нейросеть #футурология #будущее #фантастика #гуманизм

BY Santry's Singularity blog