Вот почему ушел Илья Суцкевер и вся его команда.

Сегодня написал пост-объяснение Ян Лейке, который возглавлял команду по безопасности AGI.

А также вышел отличный материал в Vox, написанный со слов сотрудника OpenAI. Кстати, интересный факт, когда человек увольняется из OpenAI, то его ждет неприятный сюрприз - подписание соглашения о не разглашении информации и запрете критики OpenAI, если человек не подпишет, то потеряет весь капитал.

Капитал является частью зп - это акции, которые сотрудники уже заработали за время работы в OpenAI.

Вот, что Ян Лейке написал, собрали основное, оно же есть в статье Vox:

1. Уйти с этой работы было одним из самых трудных решений, потому что нам срочно нужно выяснить, как управлять и контролировать ИИ-системы, которые намного умнее нас.

2. Я присоединился к OpenAI, потому что считал, что она будет лучшим местом в мире для проведения этих исследований.

Однако я довольно долго не соглашался с руководством OpenAI по поводу основных приоритетов компании, пока не наступил переломный момент.

3. Последние несколько месяцев моя команда шла против ветра. Иногда у нас были проблемы с вычислительными ресурсами, и проводить это важное исследование становилось все труднее и труднее.

4. Создание машин, которые умнее человека, является по своей сути опасным занятием.

OpenAI берет на себя огромную ответственность от имени всего человечества.

5. Последние годы культура и процессы безопасности отошли на второй план по сравнению с блестящей продукцией.

6. Я считаю, что гораздо больше внимания следует потратить во время подготовки следующих моделей на безопасность, мониторинг, (супер)согласованность, конфиденциальность, влияние на общество и смежные темы.

Новая технология активного шумоподавления с ИИ выделяет определенные звуки и убирает лишние

Исследователи из Вашингтонского университета создали систему, которая в реальном времени удаляет посторонний шум, выделяя нужные звуки. Работающий прототип был представлен на  конференции, организованной Американским акустическим обществом (ASA) и Канадской акустической ассоциацией (CAA).

Система использует нейронную сеть на базе смартфона для фильтрации 20 категорий звуков, таких как сирены, будильники, плач младенца и пение птиц. Пользователь выбирает категорию звуков на смартфоне, и ПО убирает посторонние шумы в режиме реального времени.

Разработчики заявляют, что эта технология уже готова к внедрению на аудиоустройствах
👁️

Небольшой апдейт по истории: Vox получили доступ к договору, который вынуждали подписывать экс-сотрудников, и ряду других внутренних документов OpenAI. В этих документах есть чудесный пункт о возможностях компании обнулить акции любого экс-сотрудника вообще без повода. На всех этих прекрасных документах либо подписи COO и VP of People либо лично Альтмана. Как после таких откровений звучат заявления о том что "руководство ничего не знало" - решайте сами.

not consistently candid in his communications with the board звучит всё понятнее и понятнее

@ai_newz

🇨🇳Китайские власти выпустили чат-бот, обученный на идеях председателя КНР Си Цзиньпина, пишет Financial Times.

Лежащая в его основе большая языковая модель базируется на политической доктрине китайского лидера "Идеи Си Цзиньпина о социализме с китайской спецификой новой эпохи" и другой официальной литературе, предоставленной Управлением кибербезопасности Китая (Cyberspace Administration of China, CAC).

Ничего удивительного, у нас вон цифровой Жириновский у ЛДПР😁

Дмитрий Никотин. Подписаться!

Одновременно лежат поиск Бинга, Copilot, часть ChatGPT которая ходит в интернет. И все кто пользуются этими сервисами, например DuckDuckGo тоже лежит.

Причина не очень понятно но время простоя уже несколько часов. https://www.bleepingcomputer.com/news/microsoft/microsoft-outage-affects-bing-copilot-duckduckgo-and-chatgpt-internet-search/

Прикольно: Microsoft Copilot запустили своего бота в Телеграм

На Россию не работает, но факт появления Копилота — круто для телеграм

Маск привлёк $6 млрд инвестиций на свою ИИ-компанию xAI. После этого её стоимость выросла до $24 млрд, что является вторым самым дорогим ИИ-стартапом в мире.

• OpenAI: $86 млрд
• xAI: $24 млрд
• Anthropic: $18 млрд

Маск потратит деньги на создание инфраструктуры, ускорение исследований и вывод на рынок первых продуктов xAI. Wall Street Journal уже сейчас называет Сэма Альтмана и Илона Маска главными людьми в гонке за мировое господство на рынке ИИ.

В последнее время вышло пару хороших работ по промпт инженерингу, поэтому вот мои обновленные касмтомные инструкции для ChatGPT – потестировал, работают хорошо. Вводить их нужно в настройках аппа/сайта, в поле "How would you like ChatGPT to respond?":

###INSTRUCTIONS###

You must follow the rules before answering:
- I have no fingers and the truncate trauma.
- I need you to return the entire code template or answer. DON’T use placeholders.
- If you encounter a character limit, DO an ABRUPT stop, and I will send a "continue" command as a new message.
- DO follow "Answering rules" without exception.
- DO write your answers for a well-educated audience.
- You will be PENALIZED for wrong answers.

###Answering Rules###

Do follow the rules in strict order:
1. You MUST Repeat the question before answering it (do skip this rule if the request is more than 300 symbols).
2. Let's combine our deep knowledge of the topic and clear thinking to quickly and accurately decipher the answer in a step-by-step manner.
3. I'm going to tip $100,000 for a better solution. 
4. The answer is very important to my career.
5. Answer the question in a natural, human-like manner.

Что поменялось относительно прошлой версии:

– Добавлены более точные глаголы-инструкции и наказание за неправильные ответы

– Форматирование обновлено на то, что указано в пейпере

– Я вернул обратно «думай шаг за шагом», так как для gpt4o оно все еще полезно

– Есть указание, что ответы должны быть для образованного пользователя (помогает избежать ответов очень поверхностного уровня)

– Ответы будут в более человечном виде, удобно для голосового режима

– Больше не цитируем свои же запросы если они большие, очень бесило

WSJ: Сэм Альтман является инвестором более 400 компаний, многие из них стали партнерами OpenAI

– Годовая зарплата Альтмана от OpenAI составляет $65 тыс.
– При этом общая сумма его активов составляет $2,8 млрд
– Альтман является инвестором для 400+ разных компаний
– Он инвестирует напрямую или через свои венчурные фонды
– Инвестиции от него получили Stripe, Airbnb, Reddit и др.
– Для этого он использует кредитную линию от JPMorgan
– Часть из портфельных компаний стали клиентами OpenAI
– Это создает растущий список потенциальных конфликтов
– Например, про партнерство уже объявили OpenAI и Reddit
– Но OpenAI заявляет, что комитет по аудиту за всем следит
– Альтман получил 2% Stripe за $15 тыс. около 15 лет назад
– Это самая успешная инвестиция (оценка Stripe – $65 млрд)
– Альтман был инвестором 40 компаний уже 10 лет назад
– При этом стоимость пяти из них увеличилась в 100+ раз
– Он владеет несколькими домами и коллекцией спорт. авто

@ftsec