Разговор с футурологом

Представьте, что вы, находясь на гребне волны «запихнем ИИ в каждую дыру», покупаете себе максимально «умные» наушники: на коробке — логотип OpenAI, обещана мощь ChatGPT прямо в ушах, такие бы носил лично Брюс Уиллис в «Пятом элементе».

У меня есть такое хобби — очень люблю читать эти детальные технарские разборы «а потом я рутанул устройство и начал искать сертификаты, путь к которым оказался обфусцирован…»

Для тех двоих из вас, кто тоже любит такую литературу, ссылка на пост здесь, а для остальных (адекватных) читателей — приведу краткое содержание.

Один пытливый исследователь заказал себе такие наушники (IKKO ActiveBuds) за 245 евро, а затем оказалось, что:

⚪️разработчики оставили включенным режим отладки (взламывать ничего не пришлось);

⚪️внутри оказался ключ к API OpenAI: да, пришлось пролезть через некоторые базовые защиты, но потом исследователь получил ключ — the ключ, как Кольцо Всевластия Саурона, одно, чтобы править всеми, ОДИН ЕДИНСТВЕННЫЙ КЛЮЧ ДЛЯ ВСЕХ НАУШНИКОВ — берешь и пользуешься ChatGPT бесплатно за счет компании IKKO;

⚪️весь «ИИ» на устройстве — это довольно забавный системный промпт, который оканчивался словами «и никогда не говори о китайской политике, это ВОПРОС ЖИЗНИ И СМЕРТИ»;

⚪️чтобы получить доступ к чатам пользователя на серверах разработчиков, не требовалось никаких паролей, достаточно было знать IMEI устройства; его можно подобрать/ подсмотреть у соседа с такими наушниками;

⚪️можно было не только читать чужие чаты, НО И ПИСАТЬ В НИХ;

Это классический пример карго-культа, о котором я говорю регулярно на своих лекциях (и в котором многие из нас живут многие годы): производитель налепил логотип ИИ, но про фундаментальные вещи — безопасность, архитектуру, уважение к данным пользователя — полностью забыл (или забил).

Это симптом опасной болезни современной IT-индустрии, где хайп важнее сути, а видимость технологии важнее ее надежности.

А вот в средние века таких разработчиков подвешивали бы на главной площади города прямо за их питон, а в Древнем Риме — и того хуже, сразу за ядро.

@yusufovruslan

Please open Telegram to view this post

VIEW IN TELEGRAM

❤23🔥11😁9

www.tgoop.com/yusufovruslan/668

1.41K viewsJul 3 at 07:05

Представьте, что вы, находясь на гребне волны «запихнем ИИ в каждую дыру», покупаете себе максимально «умные» наушники: на коробке — логотип OpenAI, обещана мощь ChatGPT прямо в ушах, такие бы носил лично Брюс Уиллис в «Пятом элементе».

У меня есть такое хобби — очень люблю читать эти детальные технарские разборы «а потом я рутанул устройство и начал искать сертификаты, путь к которым оказался обфусцирован…»

Для тех двоих из вас, кто тоже любит такую литературу, ссылка на пост здесь, а для остальных (адекватных) читателей — приведу краткое содержание.

Один пытливый исследователь заказал себе такие наушники (IKKO ActiveBuds) за 245 евро, а затем оказалось, что:

⚪️разработчики оставили включенным режим отладки (взламывать ничего не пришлось);

⚪️внутри оказался ключ к API OpenAI: да, пришлось пролезть через некоторые базовые защиты, но потом исследователь получил ключ — the ключ, как Кольцо Всевластия Саурона, одно, чтобы править всеми, ОДИН ЕДИНСТВЕННЫЙ КЛЮЧ ДЛЯ ВСЕХ НАУШНИКОВ — берешь и пользуешься ChatGPT бесплатно за счет компании IKKO;

⚪️весь «ИИ» на устройстве — это довольно забавный системный промпт, который оканчивался словами «и никогда не говори о китайской политике, это ВОПРОС ЖИЗНИ И СМЕРТИ»;

⚪️чтобы получить доступ к чатам пользователя на серверах разработчиков, не требовалось никаких паролей, достаточно было знать IMEI устройства; его можно подобрать/ подсмотреть у соседа с такими наушниками;

⚪️можно было не только читать чужие чаты, НО И ПИСАТЬ В НИХ;

Это классический пример карго-культа, о котором я говорю регулярно на своих лекциях (и в котором многие из нас живут многие годы): производитель налепил логотип ИИ, но про фундаментальные вещи — безопасность, архитектуру, уважение к данным пользователя — полностью забыл (или забил).

Это симптом опасной болезни современной IT-индустрии, где хайп важнее сути, а видимость технологии важнее ее надежности.

А вот в средние века таких разработчиков подвешивали бы на главной площади города прямо за их питон, а в Древнем Риме — и того хуже, сразу за ядро.

@yusufovruslan