Структура наносит ответный удар

Forwarded from провода+болота

социолог знания Гарри Коллинз написал статью про то, почему для изучения ИИ нужна социология.

статья в двух частях, и довольно простая по идее: обучение нейросетей происходит не так, как у людей, так как нейросети «учатся» сразу на большом объёме заранее недостоверного знания, из которого вычленяют кусочки достоверного — опираясь на моделирование. вроде как это называется «обучением без учителя», хотя, конечно, учитель там скрыто присутствует, потому что в языке уже есть основания для научения. отличие от людского обучения в том, что для языковых моделей у слов должны быть точные значения из определений (границ/пределов значения). а люди учатся, указывая на вещи, которые при этом могут никакими словами не обозначаться, просто «это так». из такого консенсуса (не выраженного в грамматически выстроенных конструкциях) складывается моральная норма в конкретной группе. не то, чтобы у языковых моделей такого вовсе не было (они же организованы через сети). но групповые нормы никакими языковыми моделями невычленимы, потому что эти нормы вне языка.

в статье Коллинз сначала подробно это обясняет, а во второй части отвечает анонимному рецензенту, который указывает на то, что дед не шарит в том, насколько нейросети продвинутые. вторая часть короткая и трогательная, Коллинз деликатно объясняет, что разбираться нужно не только в нейросетях, а в том, как устроено человеческое знание, ну хотя бы для того, чтобы отличать его от «нечеловеческого».

к счастью в помощь ему и собственные исследования экспертизы разных типов, и когнитивная социология, и много ещё интересных подходов, которые позволяют понять ИИ не как зависшее понятие между инструментом и субъектом, а как сложную технологию знания: где-то между институтом и разработкой. но это уже моя интерпретация, а статья сама по себе дельная и простая.

Collins, H. (2024). Why artificial intelligence needs sociology of knowledge: parts I and II. AI & SOCIETY, 1-15.
https://link.springer.com/article/10.1007/s00146-024-01954-8

#rawreading

👍65✍3👎1👏1

www.tgoop.com/structurestrikesback/725

3.73K viewsJul 20, 2024 at 14:38

социолог знания Гарри Коллинз написал статью про то, почему для изучения ИИ нужна социология.

статья в двух частях, и довольно простая по идее: обучение нейросетей происходит не так, как у людей, так как нейросети «учатся» сразу на большом объёме заранее недостоверного знания, из которого вычленяют кусочки достоверного — опираясь на моделирование. вроде как это называется «обучением без учителя», хотя, конечно, учитель там скрыто присутствует, потому что в языке уже есть основания для научения. отличие от людского обучения в том, что для языковых моделей у слов должны быть точные значения из определений (границ/пределов значения). а люди учатся, указывая на вещи, которые при этом могут никакими словами не обозначаться, просто «это так». из такого консенсуса (не выраженного в грамматически выстроенных конструкциях) складывается моральная норма в конкретной группе. не то, чтобы у языковых моделей такого вовсе не было (они же организованы через сети). но групповые нормы никакими языковыми моделями невычленимы, потому что эти нормы вне языка.

в статье Коллинз сначала подробно это обясняет, а во второй части отвечает анонимному рецензенту, который указывает на то, что дед не шарит в том, насколько нейросети продвинутые. вторая часть короткая и трогательная, Коллинз деликатно объясняет, что разбираться нужно не только в нейросетях, а в том, как устроено человеческое знание, ну хотя бы для того, чтобы отличать его от «нечеловеческого».

к счастью в помощь ему и собственные исследования экспертизы разных типов, и когнитивная социология, и много ещё интересных подходов, которые позволяют понять ИИ не как зависшее понятие между инструментом и субъектом, а как сложную технологию знания: где-то между институтом и разработкой. но это уже моя интерпретация, а статья сама по себе дельная и простая.

Collins, H. (2024). Why artificial intelligence needs sociology of knowledge: parts I and II. AI & SOCIETY, 1-15.
https://link.springer.com/article/10.1007/s00146-024-01954-8

#rawreading

BY Структура наносит ответный удар