Экстраполяция IT

В каментах к прошлому посту ожидаемо напомнили про GPT. Мол, с помощью этого сложно инструмента можно сильно упростить процесс обучения, задавая правильные вопросы и получая простые ответы. Давайте я вам напомню про то, чем на самом деле является (и ещё долгое время будет таким оставаться) современный ИИ в любом из его проявлений.

Представьте себе, что вы находитесь в библиотеке, где все книги и рукописи написаны на неизвестном вам языке. Пусть это будет суахили. Вы понятия не имеете как закорлючки на бумаге отражают смысл, справа налево читать ли или сверху вниз, значит ли отдельный символ что-то или обязательно нужно его совмещать с другими символами. В общем, для вас это просто последовательный набор картинок, который предположительно как-то отражает какой-то смысл. И вот вам, через почтовую щель в двери на вход подают листок бумаге с написанными на нём знаками. Ваша задача — сформулировать ответ, записать его на листке бумаги и отправить назад. Обратите внимание, что никакого перевода на понятный язык нет, есть только литература на суахили. Как вы поступите? Самым логичным решением будет перебор всей доступной литературы в поисках подобных символов и попытке систематизации и выработке правил какие символы находятся вокруг тех, что вам подсунули. Задача не из простых и требует много ресурсов, но вас никто не торопит, развлекайтесь и анализируйте в своё удовольствие.

И вот, изучив всё досконально и систематизировав, можно сформулировать и тщательно перерисовать иероглифы на лист бумаги, чтобы отправить в ответ. Вы всё ещё понятия не имеете что у вас спросили и не понимаете что же вы всё-таки ответили, но ответ сформулируете. Так даже целые беседы поддерживать можно, где собеседник будет вам возражать, спорить с вами и аргументировать свою позицию, но вы лишь будете подбирать усреднённый и наиболее вероятный ответ среди того, что у вас есть.

Этот мысленный эксперимент называют "китайской комнатой", и появился он где-то по тем же причинам, как появился знаменитый кот Шрёдингера. В ответ на возмутительную формулировку, что же считать настоящим интеллектом, а что не считать. Напомню, что Кот Шрёдингера предложил один учёный (я забыл его фамилию), в ответ на теорию, что фотон меняет состояние с волнового на корпускулярного по велению некоего наблюдателя.

В общем, нужно помнить, что современный ИИ — это всего лишь китайская комната и человечество сейчас ещё не до конца понимаем как отличить китайскую подделку от того самого сильного интеллекта. Со временем научимся, подстроимся, конечно, ведь в отличие от GPT люди всё ещё в состоянии адаптироваться под меняющиеся условия жизни, а оно не в состоянии.

Оно не понимает вас, не пытается дать новых знаний. Оно всего лишь подбирает такой ответ, который мог бы быть записан в её бесконечной библиотеке. Да, делает он это чертовски хорошо, но сути это не меняет.

www.tgoop.com/itextrapolation/707

1.7K viewsedited  Mar 21, 2023 at 14:31

В каментах к прошлому посту ожидаемо напомнили про GPT. Мол, с помощью этого сложно инструмента можно сильно упростить процесс обучения, задавая правильные вопросы и получая простые ответы. Давайте я вам напомню про то, чем на самом деле является (и ещё долгое время будет таким оставаться) современный ИИ в любом из его проявлений.

Представьте себе, что вы находитесь в библиотеке, где все книги и рукописи написаны на неизвестном вам языке. Пусть это будет суахили. Вы понятия не имеете как закорлючки на бумаге отражают смысл, справа налево читать ли или сверху вниз, значит ли отдельный символ что-то или обязательно нужно его совмещать с другими символами. В общем, для вас это просто последовательный набор картинок, который предположительно как-то отражает какой-то смысл. И вот вам, через почтовую щель в двери на вход подают листок бумаге с написанными на нём знаками. Ваша задача — сформулировать ответ, записать его на листке бумаги и отправить назад. Обратите внимание, что никакого перевода на понятный язык нет, есть только литература на суахили. Как вы поступите? Самым логичным решением будет перебор всей доступной литературы в поисках подобных символов и попытке систематизации и выработке правил какие символы находятся вокруг тех, что вам подсунули. Задача не из простых и требует много ресурсов, но вас никто не торопит, развлекайтесь и анализируйте в своё удовольствие.

И вот, изучив всё досконально и систематизировав, можно сформулировать и тщательно перерисовать иероглифы на лист бумаги, чтобы отправить в ответ. Вы всё ещё понятия не имеете что у вас спросили и не понимаете что же вы всё-таки ответили, но ответ сформулируете. Так даже целые беседы поддерживать можно, где собеседник будет вам возражать, спорить с вами и аргументировать свою позицию, но вы лишь будете подбирать усреднённый и наиболее вероятный ответ среди того, что у вас есть.

Этот мысленный эксперимент называют "китайской комнатой", и появился он где-то по тем же причинам, как появился знаменитый кот Шрёдингера. В ответ на возмутительную формулировку, что же считать настоящим интеллектом, а что не считать. Напомню, что Кот Шрёдингера предложил один учёный (я забыл его фамилию), в ответ на теорию, что фотон меняет состояние с волнового на корпускулярного по велению некоего наблюдателя.

В общем, нужно помнить, что современный ИИ — это всего лишь китайская комната и человечество сейчас ещё не до конца понимаем как отличить китайскую подделку от того самого сильного интеллекта. Со временем научимся, подстроимся, конечно, ведь в отличие от GPT люди всё ещё в состоянии адаптироваться под меняющиеся условия жизни, а оно не в состоянии.

Оно не понимает вас, не пытается дать новых знаний. Оно всего лишь подбирает такой ответ, который мог бы быть записан в её бесконечной библиотеке. Да, делает он это чертовски хорошо, но сути это не меняет.

BY Экстраполяция IT