ИИ и мир

Нам нравится современный бум нейросетей тем, что чем больше все пользуются нейронными сетями, тем важнее оказывается самому, без нейронок, разбираться в предмете.

Вот свежий пример про учёных, которые вставили в свои статьи просьбу к нейронной сети не выдавать плохих отзывов при анализе.

Но дело даже не в промпт-инъекции.

Вообще, известно что математическая статистика, которая и "работает" внутри нейронных сетей имеет контринтуитивную природу по отношению к человеческому разуму.

На вопрос "Если 10 раз идеальная монета упала орлом, то что с ней будет в 11-ый раз?", мы склонны отвечать "упадёт решкой", хотя это и не верно.

Потому, учитывая когнитивные особенности, нам придётся всегда перепроверять ИИ.

Есть и другой пример. В фильме Интерстеллар есть момент, когда главному герою нужно выполнить экстремальную стыковку. И там есть такой диалог:

ИИ: Это сделать невозможно.
ГГ: Это сделать необходимо.

И тут тоже работает контринтуитивность. Что-то можно сделать вопреки статистике.