ПОСЛЕЗАВТРА

Учёные исследуют способность ИИ к восприятию боли: шаг к пониманию сознания машин

Группа исследователей из Google DeepMind и Лондонской школы экономики и политических наук провела серию экспериментов, направленных на изучение того, могут ли большие языковые модели (LLM) искусственного интеллекта проявлять признаки сознания, включая восприятие боли и удовольствия.

В одном из экспериментов ИИ-моделям предлагалось выбрать между двумя опциями: первая приносила меньше очков, но не сопровождалась “болью”, в то время как вторая давала больше очков, но ассоциировалась с “болью”. В другом тесте модели могли получить “удовольствие” при условии набора меньшего количества очков. Целью было определить, способны ли ИИ-модели принимать решения, избегая “боли” или стремясь к “удовольствию”, что могло бы свидетельствовать о наличии у них элементов сознания.

Результаты показали, что различные модели по-разному реагировали на эти условия. Например, модель Gemini 1.5 Pro от Google последовательно выбирала варианты, избегая “боли”. Однако авторы подчёркивают, что такие реакции не обязательно указывают на наличие у ИИ истинного сознания или способности испытывать боль. Скорее, это может быть отражением алгоритмических процессов и паттернов, заложенных в ходе обучения на человеческих данных.

Профессор философии Лондонской школы экономики и соавтор исследования Джонатан Бёрч отметил: “Даже если система заявляет о своей сознательности и говорит что-то вроде ‘Я чувствую боль прямо сейчас’, мы не можем просто предположить, что она действительно испытывает боль. Она может просто имитировать то, что, по её мнению, человек сочтёт удовлетворительным ответом, основываясь на своих обучающих данных”.

Исследователи подчёркивают, что, хотя текущие модели ИИ не обладают сознанием, их работа является первым шагом к разработке поведенческих тестов для определения признаков сознания у ИИ без опоры на их собственные заявления. Это особенно важно в свете продолжающихся дискуссий о возможности создания сознательных машин и связанных с этим этических вопросов.

Таким образом, хотя современные ИИ не испытывают боли или удовольствия в человеческом понимании, подобные исследования помогают глубже понять границы и возможности искусственного интеллекта, а также подготовиться к потенциальным будущим сценариям, где такие вопросы могут стать более актуальными.

www.tgoop.com/zen_dat/1139

349 viewsFeb 1 at 08:03

Учёные исследуют способность ИИ к восприятию боли: шаг к пониманию сознания машин

Группа исследователей из Google DeepMind и Лондонской школы экономики и политических наук провела серию экспериментов, направленных на изучение того, могут ли большие языковые модели (LLM) искусственного интеллекта проявлять признаки сознания, включая восприятие боли и удовольствия.

В одном из экспериментов ИИ-моделям предлагалось выбрать между двумя опциями: первая приносила меньше очков, но не сопровождалась “болью”, в то время как вторая давала больше очков, но ассоциировалась с “болью”. В другом тесте модели могли получить “удовольствие” при условии набора меньшего количества очков. Целью было определить, способны ли ИИ-модели принимать решения, избегая “боли” или стремясь к “удовольствию”, что могло бы свидетельствовать о наличии у них элементов сознания.

Результаты показали, что различные модели по-разному реагировали на эти условия. Например, модель Gemini 1.5 Pro от Google последовательно выбирала варианты, избегая “боли”. Однако авторы подчёркивают, что такие реакции не обязательно указывают на наличие у ИИ истинного сознания или способности испытывать боль. Скорее, это может быть отражением алгоритмических процессов и паттернов, заложенных в ходе обучения на человеческих данных.

Профессор философии Лондонской школы экономики и соавтор исследования Джонатан Бёрч отметил: “Даже если система заявляет о своей сознательности и говорит что-то вроде ‘Я чувствую боль прямо сейчас’, мы не можем просто предположить, что она действительно испытывает боль. Она может просто имитировать то, что, по её мнению, человек сочтёт удовлетворительным ответом, основываясь на своих обучающих данных”.

Исследователи подчёркивают, что, хотя текущие модели ИИ не обладают сознанием, их работа является первым шагом к разработке поведенческих тестов для определения признаков сознания у ИИ без опоры на их собственные заявления. Это особенно важно в свете продолжающихся дискуссий о возможности создания сознательных машин и связанных с этим этических вопросов.

Таким образом, хотя современные ИИ не испытывают боли или удовольствия в человеческом понимании, подобные исследования помогают глубже понять границы и возможности искусственного интеллекта, а также подготовиться к потенциальным будущим сценариям, где такие вопросы могут стать более актуальными.

BY ПОСЛЕЗАВТРА