Заметки инженера - исследователя

Sakana AI, токийская исследовательская лаборатория ИИ, основанная бывшими сотрудниками Google, опубликовала подробности о новом проекте под названием "The AI ​​Scientist".

Эта система предназначена для автоматизации всего научного процесса "путем объединения мощных возможностей больших языковых моделей, включая понимание языка, планирование, рассуждение и навыки кодирования".

В качестве примеров работы системы AI ​​Scientist лаборатория Sakana AI приводит несколько "научных статей", посвященных науке о данных.

Восторги полезных дурачков, в т.ч. русскоязычных, высказанные по этому поводу, обсуждать глупо и скучно. Давайте лучше посмотрим что по этому поводу пишут в одном из штабов внедрения "разрушающих технологий" - в инвестиционной компании ARK.

В новостом билютене компании сообщается следующее:

"Системы ИИ, похоже, достигли переломного момента в автоматизации научных открытий, - похоже, свершилась мечта сообщества исследователей ИИ. Бывший сотрудник Open AI Леопольд Ашенбреннер считает, что автоматизация исследований ИИ является ключом к раскрытию возможностей сверхразума: как только мы автоматизируем научный процесс, то, как гласит его теория, научные прорывы будут зависеть не более чем от бюджета на вычислительную мощность".

Выделенные жирным слова я считаю ключевым моментом, осью происходящего.

Что касается самого этого "The AI ​​Scientist", то наибольшее (пугающее) впечатление на меня производит этот момент описания системы:

"Мы также внедряем автоматизированный процесс рецензирования для оценки сгенерированных работ, написания отзывов и дальнейшего улучшения результатов. Он способен оценивать сгенерированные работы с точностью, близкой к человеческой".

Черт с ним, если ИИ будут писать "научные" статьи - и так 90% процентов это бессмысленные тексты. К тому же, по моим впечатлениям, очень большой процент работ (я думаю как минимум десятки процентов) даже сами авторы не потрудились внимательно прочитать. "Ученые" и сами хорошо справляются с дискредитацией публикационной активности, мы уже не один раз это обсуждали - 1, 2, 3.

А вот внедрение ИИ в систему рецензирования - это уже переворот правил игры.

(Коллеги делятся забавными наблюдениями о способности ИИ писать рецензии.)

Ну и еще один милый момент по "The AI ​​Scientist". Описывая его недостатки, авторы отмечают всякую шелуху вроде того, что он не воспринимает графики и потому криво их рисует. И где-то в середине этого раздела пишут: "AI Scientist иногда допускает критические ошибки при ... оценке результатов. Например, он испытывает трудности при сравнении величины двух чисел, что является известной патологией ИИ. Чтобы частично решить эту проблему, мы обеспечиваем воспроизводимость всех экспериментальных результатов, сохраняя все исполняемые файлы".

И кто ж это будет проверять то, все эти исполняемые файлы? Другой ИИ?

"Сверхразум", не способный сложить два числа. Звучит как издевательство. Как же тогда этот "сверхразум" "планирует" и "рассуждает"?

#наука

👍4😱2🙈1

www.tgoop.com/IngeniumNotes/1392

390 viewsAug 29, 2024 at 01:02

Sakana AI, токийская исследовательская лаборатория ИИ, основанная бывшими сотрудниками Google, опубликовала подробности о новом проекте под названием "The AI ​​Scientist".

Эта система предназначена для автоматизации всего научного процесса "путем объединения мощных возможностей больших языковых моделей, включая понимание языка, планирование, рассуждение и навыки кодирования".

В качестве примеров работы системы AI ​​Scientist лаборатория Sakana AI приводит несколько "научных статей", посвященных науке о данных.

Восторги полезных дурачков, в т.ч. русскоязычных, высказанные по этому поводу, обсуждать глупо и скучно. Давайте лучше посмотрим что по этому поводу пишут в одном из штабов внедрения "разрушающих технологий" - в инвестиционной компании ARK.

В новостом билютене компании сообщается следующее:

"Системы ИИ, похоже, достигли переломного момента в автоматизации научных открытий, - похоже, свершилась мечта сообщества исследователей ИИ. Бывший сотрудник Open AI Леопольд Ашенбреннер считает, что автоматизация исследований ИИ является ключом к раскрытию возможностей сверхразума: как только мы автоматизируем научный процесс, то, как гласит его теория, научные прорывы будут зависеть не более чем от бюджета на вычислительную мощность".

Выделенные жирным слова я считаю ключевым моментом, осью происходящего.

Что касается самого этого "The AI ​​Scientist", то наибольшее (пугающее) впечатление на меня производит этот момент описания системы:

"Мы также внедряем автоматизированный процесс рецензирования для оценки сгенерированных работ, написания отзывов и дальнейшего улучшения результатов. Он способен оценивать сгенерированные работы с точностью, близкой к человеческой".

Черт с ним, если ИИ будут писать "научные" статьи - и так 90% процентов это бессмысленные тексты. К тому же, по моим впечатлениям, очень большой процент работ (я думаю как минимум десятки процентов) даже сами авторы не потрудились внимательно прочитать. "Ученые" и сами хорошо справляются с дискредитацией публикационной активности, мы уже не один раз это обсуждали - 1, 2, 3.

А вот внедрение ИИ в систему рецензирования - это уже переворот правил игры.

(Коллеги делятся забавными наблюдениями о способности ИИ писать рецензии.)

Ну и еще один милый момент по "The AI ​​Scientist". Описывая его недостатки, авторы отмечают всякую шелуху вроде того, что он не воспринимает графики и потому криво их рисует. И где-то в середине этого раздела пишут: "AI Scientist иногда допускает критические ошибки при ... оценке результатов. Например, он испытывает трудности при сравнении величины двух чисел, что является известной патологией ИИ. Чтобы частично решить эту проблему, мы обеспечиваем воспроизводимость всех экспериментальных результатов, сохраняя все исполняемые файлы".

И кто ж это будет проверять то, все эти исполняемые файлы? Другой ИИ?

"Сверхразум", не способный сложить два числа. Звучит как издевательство. Как же тогда этот "сверхразум" "планирует" и "рассуждает"?

#наука

BY Заметки инженера - исследователя