Новости психофизиологии

Почему прав Дарио Амадеи из Anthropic и почему психология и когнитивная нейронаука уже не успевают реализовать свои амбиции в области искусственного интеллекта

Сейчас все ИИ-сообщество бурно обсуждает интервью 8 августа Дарио Амадеи из Anthropic – создателя выдающихся больших языковых моделей Claude 1/2. Среди многих интересных идей больше всего внимания привлекает его оценка в 2-3 года как времени, которое осталось до создания равного человеческому искусственного интеллекта (= "basically like a generally well educated human"). Конечно, прежде всего вызывает большие сомнения, насколько 2-3-х лет хватит, чтобы большие языковые модели начали логически и творчески именно мыслить, не допуская в мышлении "детских" ошибок и ошибок по типу "галлюцинаций", т.к. "в целом хорошо образованный человек" обычно не допускает таких ошибок. Фактически, Дарио Амадеи утверждает, что 2-3 года хватит для ликвидации этих ошибок. Каким же образом? Через простое масштабирование вычислительных мощностей и размеров моделей. Почему же он прав (кроме, возможно, слишком короткого срока в 2-3 года, но в целом, на уровне идеи, прав)?

13 марта 2019 года, как раз перед началом революции больших языковых моделей, один из самых авторитетных ученых в области ИИ мудрый Ричард Саттон написал в своем блоге очень важную заметку "The Bitter Lesson" (http://www.incompleteideas.net/IncIdeas/BitterLesson.html), см. на русском языке: "«Горький урок»: ученый рассказал о том, что 70 лет в области исследования ИИ были потрачены практически зря" (https://hi-news.ru/research-development/gorkij-urok.html). Рекомендую всем с ней ознакомиться, суть – наш разум слишком сложен, чтобы мы могли смоделировать его в ИИ, идя "сверху", от высокоуровневых психологических моделей и структуры знаний человека. Как показывает история ИИ, побеждает иной путь – "снизу", через все большее и большее техническое масштабирование вычислений, базирующихся на общих принципах поиска и обучения, которые непосредственно, в деталях, не копируют реальные психологические механизмы обработки информации мозгом человека. И поэтому Дарио Амадеи прав, и очень скоро (не через 2-3 года, а, все-таки, вероятно, до конца текущего десятилетия), потомок одной из текущих больших языковых моделей сравняется с интеллектом человека в целом.

🔥9❤5🤔2🤣2

www.tgoop.com/andrey_kiselnikov/672

864 viewsedited  Aug 11, 2023 at 19:59

Почему прав Дарио Амадеи из Anthropic и почему психология и когнитивная нейронаука уже не успевают реализовать свои амбиции в области искусственного интеллекта

Сейчас все ИИ-сообщество бурно обсуждает интервью 8 августа Дарио Амадеи из Anthropic – создателя выдающихся больших языковых моделей Claude 1/2. Среди многих интересных идей больше всего внимания привлекает его оценка в 2-3 года как времени, которое осталось до создания равного человеческому искусственного интеллекта (= "basically like a generally well educated human"). Конечно, прежде всего вызывает большие сомнения, насколько 2-3-х лет хватит, чтобы большие языковые модели начали логически и творчески именно мыслить, не допуская в мышлении "детских" ошибок и ошибок по типу "галлюцинаций", т.к. "в целом хорошо образованный человек" обычно не допускает таких ошибок. Фактически, Дарио Амадеи утверждает, что 2-3 года хватит для ликвидации этих ошибок. Каким же образом? Через простое масштабирование вычислительных мощностей и размеров моделей. Почему же он прав (кроме, возможно, слишком короткого срока в 2-3 года, но в целом, на уровне идеи, прав)?

13 марта 2019 года, как раз перед началом революции больших языковых моделей, один из самых авторитетных ученых в области ИИ мудрый Ричард Саттон написал в своем блоге очень важную заметку "The Bitter Lesson" (http://www.incompleteideas.net/IncIdeas/BitterLesson.html), см. на русском языке: "«Горький урок»: ученый рассказал о том, что 70 лет в области исследования ИИ были потрачены практически зря" (https://hi-news.ru/research-development/gorkij-urok.html). Рекомендую всем с ней ознакомиться, суть – наш разум слишком сложен, чтобы мы могли смоделировать его в ИИ, идя "сверху", от высокоуровневых психологических моделей и структуры знаний человека. Как показывает история ИИ, побеждает иной путь – "снизу", через все большее и большее техническое масштабирование вычислений, базирующихся на общих принципах поиска и обучения, которые непосредственно, в деталях, не копируют реальные психологические механизмы обработки информации мозгом человека. И поэтому Дарио Амадеи прав, и очень скоро (не через 2-3 года, а, все-таки, вероятно, до конца текущего десятилетия), потомок одной из текущих больших языковых моделей сравняется с интеллектом человека в целом.

BY Новости психофизиологии