какая-то библиотека

Весной я побывала на конференции "Векторы" в Шанинке, где меня особенно зацепила панель, посвященная искусственному интеллекту. Полина Колозариди из DH в ИТМО высказала тезис, который заставил меня задуматься: говоря об этике ИИ, мы должны говорить и о политике, то есть о распределении власти между искусственным интеллектом и пользователем, а также о методе.

Боюсь случайно и не со зла переврать тезисы госпожи Колозариди, поэтому остановлюсь на упоминании ее доклада как импульса для собственных размышлений.

Я считаю, что использование ИИ не является по определению плагиатом. С помощью ИИ можно делать вещи без плагиата, но также и делать кое-что ещё – ошибаться, выдавать недостоверную информацию и приходить к неверным выводам.

Я не хочу душнить про то, что там этично, а что нет. Поставлю вопрос так: что я могу сделать, чтобы мой результат работы в ИИ был уникальным, достоверным и заслуживающим доверия?

Этот вопрос возникает, когда мы используем ИИ не только для формальной обработки текста, но и для получения выводов и преобразования информации.

Например:
Мы загружаем в ИИ тексты СМИ о людях с расстройствами пищевого поведения и просим его выделить ключевые образы, которыми они описываются.
Мы загружаем в ИИ таблицу с данными и просим его провести анализ методом главных компонент.

В таких случаях возникает вопрос: понимаем ли мы, что делает ИИ, когда мы его об этом просим? Можем ли мы повторить его действия и получить тот же результат?

Для себя я выработала (пока только) три принципа, которые позволяют мне повысить уровень доверия к результатам, полученным с помощью ИИ:

1. Уменьшение температуры запроса и многократная проверка.
При работе с текстовыми данными я уменьшаю температуру запроса в Google AI Studio, чтобы ИИ меньше "галлюцинировал" и придумывал то, чего нет в данных. Также я прогоняю один и тот же запрос несколько раз, чтобы убедиться в воспроизводимости результатов.

2. Использование ИИ для работы с количественными данными и апробированными методиками.
Когда мне нужны результаты для отчетов или диплома, я использую ИИ для количественного анализа, применяя уже существующие и апробированные методики, например, метод главных компонент или статистические тесты.

3. Использование методики Chain-of-Thought (CoT).
Эта техника промтинга побуждает ИИ продемонстрировать свой мыслительный процесс перед тем, как дать окончательный ответ. Это помогает мне лучше понимать, как ИИ пришел к тому или иному выводу.

👾 Как вы проверяете результаты ИИ на валидность и воспроизводимость? Насколько вы им доверяете?

❤18👍3👾1

www.tgoop.com/selfmadeLibrary/699

1.5K viewsE. K., Jul 31, 2024 at 15:40

Весной я побывала на конференции "Векторы" в Шанинке, где меня особенно зацепила панель, посвященная искусственному интеллекту. Полина Колозариди из DH в ИТМО высказала тезис, который заставил меня задуматься: говоря об этике ИИ, мы должны говорить и о политике, то есть о распределении власти между искусственным интеллектом и пользователем, а также о методе.

Боюсь случайно и не со зла переврать тезисы госпожи Колозариди, поэтому остановлюсь на упоминании ее доклада как импульса для собственных размышлений.

Я считаю, что использование ИИ не является по определению плагиатом. С помощью ИИ можно делать вещи без плагиата, но также и делать кое-что ещё – ошибаться, выдавать недостоверную информацию и приходить к неверным выводам.

Я не хочу душнить про то, что там этично, а что нет. Поставлю вопрос так: что я могу сделать, чтобы мой результат работы в ИИ был уникальным, достоверным и заслуживающим доверия?

Этот вопрос возникает, когда мы используем ИИ не только для формальной обработки текста, но и для получения выводов и преобразования информации.

Например:
Мы загружаем в ИИ тексты СМИ о людях с расстройствами пищевого поведения и просим его выделить ключевые образы, которыми они описываются.
Мы загружаем в ИИ таблицу с данными и просим его провести анализ методом главных компонент.

В таких случаях возникает вопрос: понимаем ли мы, что делает ИИ, когда мы его об этом просим? Можем ли мы повторить его действия и получить тот же результат?

Для себя я выработала (пока только) три принципа, которые позволяют мне повысить уровень доверия к результатам, полученным с помощью ИИ:

1. Уменьшение температуры запроса и многократная проверка.
При работе с текстовыми данными я уменьшаю температуру запроса в Google AI Studio, чтобы ИИ меньше "галлюцинировал" и придумывал то, чего нет в данных. Также я прогоняю один и тот же запрос несколько раз, чтобы убедиться в воспроизводимости результатов.

2. Использование ИИ для работы с количественными данными и апробированными методиками.
Когда мне нужны результаты для отчетов или диплома, я использую ИИ для количественного анализа, применяя уже существующие и апробированные методики, например, метод главных компонент или статистические тесты.

3. Использование методики Chain-of-Thought (CoT).
Эта техника промтинга побуждает ИИ продемонстрировать свой мыслительный процесс перед тем, как дать окончательный ответ. Это помогает мне лучше понимать, как ИИ пришел к тому или иному выводу.

👾 Как вы проверяете результаты ИИ на валидность и воспроизводимость? Насколько вы им доверяете?

BY какая-то библиотека