Ухо Гераклита

В разговорах об ИИ мне нравится как всплывают почти классические сюжеты из области лингвистики. Например, есть проблемы с прочитыванием ИИ синтаксиса в том числе в коде и из-за этого возникает идея семантического моделирования, то есть создания единого кода, который может работать как система понятий - универсальная. Но это возвращает нас к идеям универсального языка - лучший рассказ о них это книга Эко "Поиски совершенного языка в европейской культуре". Как любой универсалистский проект идея универсального языка может существовать только в узком и строго дисциплинированном сообществе и за пределами его проваливается. Вариант введения в такое сообщетво описан на примере Яндекса.

Но здесь как раз возникает пространство, где происходит стыковка технического и социального, или как материальность технологии пытается чинить социальность. Например идея блокчейна с подтверждением и авторизацией пользователей рассматривается как основа для создания распределенной семантической сети, но с валидацией вносимых знаний (в каком-то смысле такой системой в более простом и социальном варианте является вики).

Далее, возникает и возрождается вопрос о доверии - но уже не людям, а описание технооптимизма как вопроса доверия ИИ и агоритмам. И этот разговор про возможность доверительного отношения с алгоритмами работает с очень старой метафорой "белого ящика" и "черного ящика". Но если классическая наука Нового времени строится вокруг идеи "черного ящика" и экспериментов построенных с ним, то век алгоритмов показывает, что в машинах чернота - как анализ глубинных структур и непроницаемость - становятся препятствиями на пути к познанию. И это возможно уже парадигмальный сдвиг или его начало: глубина анализа и экспертность, на которой он строится, становится объектом недоверия, а не признаком знания и аналитической мощи.

И тут кажется важными возникновение двух понятий "алгоритмической прозрачности" и "объяснимый искусственный интеллект (XAI)" - последний активно возвращается в разговор в 2020-х годах с поворотом к необходимости объяснять принятие решений на основе ИИ в медицине и юриспруденции. В какой-то степени, это похоже на введение определенного уровня формализации в действия ИИ (что сложно) для получения более предсказуемых и валидных ответов, которые можно оценивать не только по тому, как они представлены, но и по возможности реконструировать цепочку рассуждений (алгоритм), который ее породил.

И кажется представление о том, что такое знание, как оно описывается и как мы можем и должны работать с экспертизой меняется на глазах. И социологам здесь есть что обсуждать - и с точки зрения новых методов, и с точки зрения теории.

Сегодня вечером мне очень везло на собеседников.

❤5🔥1

www.tgoop.com/gspec/2381

190 viewsedited  Sep 13 at 00:30

В разговорах об ИИ мне нравится как всплывают почти классические сюжеты из области лингвистики. Например, есть проблемы с прочитыванием ИИ синтаксиса в том числе в коде и из-за этого возникает идея семантического моделирования, то есть создания единого кода, который может работать как система понятий - универсальная. Но это возвращает нас к идеям универсального языка - лучший рассказ о них это книга Эко "Поиски совершенного языка в европейской культуре". Как любой универсалистский проект идея универсального языка может существовать только в узком и строго дисциплинированном сообществе и за пределами его проваливается. Вариант введения в такое сообщетво описан на примере Яндекса.

Но здесь как раз возникает пространство, где происходит стыковка технического и социального, или как материальность технологии пытается чинить социальность. Например идея блокчейна с подтверждением и авторизацией пользователей рассматривается как основа для создания распределенной семантической сети, но с валидацией вносимых знаний (в каком-то смысле такой системой в более простом и социальном варианте является вики).

Далее, возникает и возрождается вопрос о доверии - но уже не людям, а описание технооптимизма как вопроса доверия ИИ и агоритмам. И этот разговор про возможность доверительного отношения с алгоритмами работает с очень старой метафорой "белого ящика" и "черного ящика". Но если классическая наука Нового времени строится вокруг идеи "черного ящика" и экспериментов построенных с ним, то век алгоритмов показывает, что в машинах чернота - как анализ глубинных структур и непроницаемость - становятся препятствиями на пути к познанию. И это возможно уже парадигмальный сдвиг или его начало: глубина анализа и экспертность, на которой он строится, становится объектом недоверия, а не признаком знания и аналитической мощи.

И тут кажется важными возникновение двух понятий "алгоритмической прозрачности" и "объяснимый искусственный интеллект (XAI)" - последний активно возвращается в разговор в 2020-х годах с поворотом к необходимости объяснять принятие решений на основе ИИ в медицине и юриспруденции. В какой-то степени, это похоже на введение определенного уровня формализации в действия ИИ (что сложно) для получения более предсказуемых и валидных ответов, которые можно оценивать не только по тому, как они представлены, но и по возможности реконструировать цепочку рассуждений (алгоритм), который ее породил.

И кажется представление о том, что такое знание, как оно описывается и как мы можем и должны работать с экспертизой меняется на глазах. И социологам здесь есть что обсуждать - и с точки зрения новых методов, и с точки зрения теории.

Сегодня вечером мне очень везло на собеседников.

BY Ухо Гераклита