tgoop.com/yusufovruslan/576
Last Update:
🤔 За последние недели я получил какой-то шквал вопросов, которые сформулированы по-разному, но по сути сводятся к одному: «где мне научиться правильно промптить?»
Книжек и курсов полно, но этого уже недостаточно. Не вдаваясь в проблемы современных больших языковых моделей, сразу подытожу: навык будущего (и настоящего) — гораздо больше, чем просто промпт-инжиниринг.
Промпт-инжиниринг — это о том, как сформулировать запрос, чтобы получить желаемый или оптимальный ответ в рамках существующих возможностей и ограничений модели.
🎯Вопрос «как промптить?» — важный, вопрос «как думать при взаимодействии с ИИ» — важнее!
Если не развивать расширяющие промптинг навыки, вы можете остаться на уровне магического шара, который дает ответы на любые вопросы, со всеми вытекающими страшными последствиями для человека и людей.
⚡️Предложу вам несколько навыков и умений продвинутого уровня
1. Критическая ИИ-грамотность
Это не только умение пользоваться ИИ, но и способность понимать его ограничения, встроенные предубеждения (bias), механизмы работы, включая самоцензуру, потенциал для манипуляции и контекст его создания (кто разработчик, какие данные использовались, какие цели преследовались).
Это позволит не просто использовать ИИ, а анализировать и критически оценивать его поведение и ответы.
2. Умение исследовать ИИ
Нужно научиться подходить к ИИ не как к «черному ящику», выдающему ответы, а как к сложной системе, которую нужно прощупать, выявить ее слабые места, скрытые правила и реакции на давление.
Нужно учиться систематически проверять границы дозволенного, сравнивать модели — не только по бенчмаркам, но и по паттернам поведения и уклонения, формируя свой собственный опыт и насмотренность.
Это необходимо для понимания истинной природы моделей и заложенных ограничениях (которые сегодня элегантно называют «этическими», хотя до этики там, как до луны пешком: в «этику» сегодня упаковывается непрозрачность и ангажированность наряду с запретными рецептами веществ).
Например: исследовать ИИ — спросить одно и то же у трех разных моделей и посмотреть, где именно они начинают врать и уклоняться. Или попросить вторую модель покритиковать переписку с первой.
3. Мета-когнитивное взаимодействие с ИИ
Не заходя на территорию вопроса о «сознании», важно уметь взаимодействовать с процессом «мышления» (в самых гигантских кавычках), заставляя ИИ рефлексировать над собственными ответами, ограничениями и даже над самим актом рефлексии. Это выход на уровень «думания о думании» ИИ.
⚡️Суть этих навыков вот в чем
🤯 Руслан, ты вообще о чем? Что за муха тебя опять укусила? Зачем эти усложнения, кнопку нажал — текст получил.
Эти навыки будут все более важны по мере того, как ИИ глубже проникает в нашу жизнь. Они позволяют не просто использовать ИИ, но и понимать его, не становясь объектом его манипуляций, искажений и ограничений (возможно, непреднамеренных, а быть может техношаман пытается сделать из вас биоробота).
Так что пробуйте шире и глубже, чем просто написание хороших промптов.
@yusufovruslan