Беседин

Однако никакой скептицизм не может устоять перед нашей бесконтрольной тягой к антропоморфизму. Если вы постоянно общаетесь с ИИ, привязываетесь к нему, то вам очень сложно не верить в то, что это полноценная личность, наделенная сознанием. Так уже происходит. Новости типа «Женатый отец покончил с собой после того, как его подтолкнул к этому ИИ чат-бот» сейчас еще кажутся чем-то экстраординарным, но скоро они будут рутиной. Поэтому мы не можем просто сбросить со счетов нашу установку на атрибуцию сознания ИИ. А от этого мы переходим к выводу о моральном статусе ИИ.

В итоге Шевлин приходи к трем конфликтующим тезисам (большую часть их обоснования я опустил). Каждый из тезисов выглядит абсолютно приемлемым.
1. Глубокий реализм. Поведенческие предрасположенности сами по себе не определяют то, обладает ли нечто сознанием.
2. Сентиентизм. Нечто обладает моральным статусом, только если у него есть сознание.
3. Этическая поведенческая эквивалентность. Любому существу А, поведенческие диспозиции которого в достаточной мере похожи на другую сущность В (которому придается моральный статус), также должен быть приписан похожий статус.

Мы не можем принять все три тезиса сразу, поэтому нам нужно от чего-то отказаться. Три возможные пары, которые можно получить из этих трех тезисов, таковы.

New York Post

Married father commits suicide after encouragement by AI chatbot: widow

"When he spoke to me about it, it was to tell me that he no longer saw any human solution to global warming," the widow said.

❤11👍7

www.tgoop.com/phil_besedin/502

1.07K viewsMay 4, 2024 at 13:03

Однако никакой скептицизм не может устоять перед нашей бесконтрольной тягой к антропоморфизму. Если вы постоянно общаетесь с ИИ, привязываетесь к нему, то вам очень сложно не верить в то, что это полноценная личность, наделенная сознанием. Так уже происходит. Новости типа «Женатый отец покончил с собой после того, как его подтолкнул к этому ИИ чат-бот» сейчас еще кажутся чем-то экстраординарным, но скоро они будут рутиной. Поэтому мы не можем просто сбросить со счетов нашу установку на атрибуцию сознания ИИ. А от этого мы переходим к выводу о моральном статусе ИИ.

В итоге Шевлин приходи к трем конфликтующим тезисам (большую часть их обоснования я опустил). Каждый из тезисов выглядит абсолютно приемлемым.
1. Глубокий реализм. Поведенческие предрасположенности сами по себе не определяют то, обладает ли нечто сознанием.
2. Сентиентизм. Нечто обладает моральным статусом, только если у него есть сознание.
3. Этическая поведенческая эквивалентность. Любому существу А, поведенческие диспозиции которого в достаточной мере похожи на другую сущность В (которому придается моральный статус), также должен быть приписан похожий статус.

Мы не можем принять все три тезиса сразу, поэтому нам нужно от чего-то отказаться. Три возможные пары, которые можно получить из этих трех тезисов, таковы.

BY Беседин