llm security и каланы

Индуктивные оценки основываются на наблюдениях из прошлого: если человек постоянно попадает в аварии, то страховая права, если повышает для него стоимость полиса. Страховщик может попытаться сделать вывод о риске, рассматривая частоту аварий среди людей из его возрастной группы, города и так далее - в общем, это то, чем мы занимаемся в машинном обучении. Мы предполагаем, что мы можем оценить параметры процесса, который «генерирует» аварии.

Для более уникальных событий, например, геополитических потрясений, формализовать такой процесс гораздо сложнее – но войны и эпидемии случались и будут случаться, плюс мы можем перейти к умозаключениям по аналогии. Но для AI x-риска найти подобный класс событий невозможно: вымирание биологических видов или индустриальная революция, по аналогии с которыми его пытаются оценивать, это не то же самое, что появление мыслящих машин, которые выходят из-под контроля и решают уничтожить человечество.

www.tgoop.com/llmsecurity/233

133 viewsedited  Jul 27, 2024 at 20:32

Индуктивные оценки основываются на наблюдениях из прошлого: если человек постоянно попадает в аварии, то страховая права, если повышает для него стоимость полиса. Страховщик может попытаться сделать вывод о риске, рассматривая частоту аварий среди людей из его возрастной группы, города и так далее - в общем, это то, чем мы занимаемся в машинном обучении. Мы предполагаем, что мы можем оценить параметры процесса, который «генерирует» аварии.

Для более уникальных событий, например, геополитических потрясений, формализовать такой процесс гораздо сложнее – но войны и эпидемии случались и будут случаться, плюс мы можем перейти к умозаключениям по аналогии. Но для AI x-риска найти подобный класс событий невозможно: вымирание биологических видов или индустриальная революция, по аналогии с которыми его пытаются оценивать, это не то же самое, что появление мыслящих машин, которые выходят из-под контроля и решают уничтожить человечество.

BY llm security и каланы