Mathematical Models of the Real World

Проблема достоверности обучающих данных в больших языковых моделях

Имеется проблема, как отличить достоверную публикацию от недостоверной, ошибка первого рода - отвергнуть годную публикацию для обучения, ошибка второго рода - принять негодную.
Нейросети, когда их станет много будут отличаться по порогу ошибки первого и второго рода... В результате одни нейросети будут выдавать заключения лишь на основе установившихся общепризнанных знаний и не иметь представления о новых направлениях и идеях науки и техники. Другие нейросети будут все знать о последних результатах науки и техники, но при этом выдавать много ошибочной, лженаучной и фальсифицированной информации.
Может быть, уровень ошибок пользователь даже сможет выбирать в настройках некоторых нейросетей.

🤔4👍3

www.tgoop.com/MathModels/1335

190 viewsedited  Oct 12 at 12:04

Проблема достоверности обучающих данных в больших языковых моделях

Имеется проблема, как отличить достоверную публикацию от недостоверной, ошибка первого рода - отвергнуть годную публикацию для обучения, ошибка второго рода - принять негодную.
Нейросети, когда их станет много будут отличаться по порогу ошибки первого и второго рода... В результате одни нейросети будут выдавать заключения лишь на основе установившихся общепризнанных знаний и не иметь представления о новых направлениях и идеях науки и техники. Другие нейросети будут все знать о последних результатах науки и техники, но при этом выдавать много ошибочной, лженаучной и фальсифицированной информации.
Может быть, уровень ошибок пользователь даже сможет выбирать в настройках некоторых нейросетей.

BY Mathematical Models of the Real World