Дмитрий Савостьянов Вещает

Forwarded from Трендоскоп Lab (Александр)

Планы OpenAI на ближайшее будущее

Сэм Альтман на днях дал интервью разработчикам, вот что там интересного:

- Основной ботлнек у OpenAI сейчас — острая нехватка GPU. Из-за этого многие краткосрочные планы откладываются. Как всегда, от золотой лихорадки больше всего выигрывают продавцы «лопат»)

- Роадмап сервисов на этот год:
(i) более дешёвая и быстрая GPT-4;
(ii) увеличенное контекстное окно, возможно даже до 1М токенов;
(iii) API для файнтюнинга моделей;
(iv) Stateful API — «память» для истории диалога, чтобы GPT не приходилось каждый раз проходиться по всему чату и тратить токены.

- Главная фишка GPT-4 - мультимодальность - откладывается на следующий год, опять же из-за дефицита GPU.

- Плагины ChatGPT пока не имеют product-market fit. Поэтому в ближайшее время их не планируют включать в API.

- Обещают не копировать успешные продукты на базе их API. Фокусируются на ChatGPT, как на умном помощнике для работы — а остальные GPT-юзкейсы оставят сторонним разрабам.

Humanloop – the platform for Large Language Model applications

OpenAI's plans according to Sam Altman

Last week I had the privilege to sit down with Sam Altman and 20 other developers to discuss OpenAI’s APIs and their product plans. Sam was remarkably open. The discussion touched on practical developer issues as well as bigger-picture questions related to…

www.tgoop.com/savostyanov_dmitry/360

541 viewsJun 3, 2023 at 10:12

Планы OpenAI на ближайшее будущее

Сэм Альтман на днях дал интервью разработчикам, вот что там интересного:

- Основной ботлнек у OpenAI сейчас — острая нехватка GPU. Из-за этого многие краткосрочные планы откладываются. Как всегда, от золотой лихорадки больше всего выигрывают продавцы «лопат»)

- Роадмап сервисов на этот год:
(i) более дешёвая и быстрая GPT-4;
(ii) увеличенное контекстное окно, возможно даже до 1М токенов;
(iii) API для файнтюнинга моделей;
(iv) Stateful API — «память» для истории диалога, чтобы GPT не приходилось каждый раз проходиться по всему чату и тратить токены.

- Главная фишка GPT-4 - мультимодальность - откладывается на следующий год, опять же из-за дефицита GPU.

- Плагины ChatGPT пока не имеют product-market fit. Поэтому в ближайшее время их не планируют включать в API.

- Обещают не копировать успешные продукты на базе их API. Фокусируются на ChatGPT, как на умном помощнике для работы — а остальные GPT-юзкейсы оставят сторонним разрабам.

BY Дмитрий Савостьянов Вещает