Беседин

Пример использования системы координат

Оттолкнёмся от такого тезиса: мы более-менее согласны, что у некоторых животных сознание есть, а у современных систем ИИ нет (быть может, это и не так). Приведённая выше таблица показывает, что животные и ИИ различаются по субстрату и по наличию эволюционной истории. Предположим, что животное проходит поведенческий тест Т. Этот же тест проходит воплощенная система ИИ. Но сознание мы приписываем только животному. Значит дело не в самом прохождении теста, а в биологии и/или эволюции. То есть, тест Т показывает наличие сознания только у существа, имеющего определённую биологию и/или эволюционную историю.

Я пишу «и/или», потому что мы пока не знаем, важны ли в данном случае оба фактора или только один. Для того, чтобы это узнать, нам нужно их разделить. С одной стороны, исследовать органоид или искусственный организм в сравнении с животным. Под такими искусственными организмами я имею в виду не просто, например, клонированных животных. Клонированная овца – это та же овца, несущая всю овечью эволюционную историю. Я имею в виду создание организмов «с нуля». (Не уверен, что создание органоидов или тем более искусственных организмов будет когда-нибудь возможно, по этическим соображениям. Думаю, у некоторых моих читателей уже от самой этой идеи волосы зашевелились.) С другой стороны, нужно сравнить (ещё не существующий) эволюционно развивающийся ИИ и животных. И мы можем получить разные выводы: что сознание есть только у животных и органоидов (тогда важна биология, но не эволюция), у животных и эволюционирующих систем ИИ (тогда важна эволюция, но не биология), только у животных (важна и эволюция, и биология). Таким образом мы решим, где присутствует сознание как естественный вид, а где только окрошка, показывающая те же эффекты, что и сознание.

Эта методология кажется мне достаточно ясной. Понятно, что пока мы не можем взять животное и сопоставить его с «мозгами в бочке» или эволюционирующими роботами, потому что у нас пока нет ни «мозгов в бочке», ни таких роботов. Однако при исследовании сознания животных полезно иногда задавать себе вопрос: что значили бы эти результаты, если бы (а) это существо не имело эволюционной истории и (б) не состояло бы из живых клеток. Кстати, подобный вопрос можно задать и с другой стороны. Представьте себе, что завтра вдруг выяснится, что LLM реализованы не на компьютерах, а на огромных мозговых органоидах, состоящих из живых нейронов, находящихся в питательном растворе. Мне представляется, что это будет довольно сомнительный с моральной точки зрения кейс. Но, в то же время, я не ринусь кричать, что у этого супермозга точно есть сознание: всё-таки эта куча нейронов появилась не в результате естественного отбора, не взаимодействует со средой, не решает задачи, связанные с выживанием. Хотя…

👍18❤6🤔6🤨1

www.tgoop.com/phil_besedin/529

2.59K viewsMay 19, 2024 at 15:51

Пример использования системы координат

Оттолкнёмся от такого тезиса: мы более-менее согласны, что у некоторых животных сознание есть, а у современных систем ИИ нет (быть может, это и не так). Приведённая выше таблица показывает, что животные и ИИ различаются по субстрату и по наличию эволюционной истории. Предположим, что животное проходит поведенческий тест Т. Этот же тест проходит воплощенная система ИИ. Но сознание мы приписываем только животному. Значит дело не в самом прохождении теста, а в биологии и/или эволюции. То есть, тест Т показывает наличие сознания только у существа, имеющего определённую биологию и/или эволюционную историю.

Я пишу «и/или», потому что мы пока не знаем, важны ли в данном случае оба фактора или только один. Для того, чтобы это узнать, нам нужно их разделить. С одной стороны, исследовать органоид или искусственный организм в сравнении с животным. Под такими искусственными организмами я имею в виду не просто, например, клонированных животных. Клонированная овца – это та же овца, несущая всю овечью эволюционную историю. Я имею в виду создание организмов «с нуля». (Не уверен, что создание органоидов или тем более искусственных организмов будет когда-нибудь возможно, по этическим соображениям. Думаю, у некоторых моих читателей уже от самой этой идеи волосы зашевелились.) С другой стороны, нужно сравнить (ещё не существующий) эволюционно развивающийся ИИ и животных. И мы можем получить разные выводы: что сознание есть только у животных и органоидов (тогда важна биология, но не эволюция), у животных и эволюционирующих систем ИИ (тогда важна эволюция, но не биология), только у животных (важна и эволюция, и биология). Таким образом мы решим, где присутствует сознание как естественный вид, а где только окрошка, показывающая те же эффекты, что и сознание.

Эта методология кажется мне достаточно ясной. Понятно, что пока мы не можем взять животное и сопоставить его с «мозгами в бочке» или эволюционирующими роботами, потому что у нас пока нет ни «мозгов в бочке», ни таких роботов. Однако при исследовании сознания животных полезно иногда задавать себе вопрос: что значили бы эти результаты, если бы (а) это существо не имело эволюционной истории и (б) не состояло бы из живых клеток. Кстати, подобный вопрос можно задать и с другой стороны. Представьте себе, что завтра вдруг выяснится, что LLM реализованы не на компьютерах, а на огромных мозговых органоидах, состоящих из живых нейронов, находящихся в питательном растворе. Мне представляется, что это будет довольно сомнительный с моральной точки зрения кейс. Но, в то же время, я не ринусь кричать, что у этого супермозга точно есть сознание: всё-таки эта куча нейронов появилась не в результате естественного отбора, не взаимодействует со средой, не решает задачи, связанные с выживанием. Хотя…

BY Беседин