tgoop.com/nn_for_science/2456
Last Update:
Краткий пересказ нового эссе Сэма Алтмана - Благодатная Сингулярность
TLDR: Алтман утверждает, что мы уже вступили в эпоху стремительно развивающегося сверхинтеллекта, способного взорвать прогресс и требующего безопасного, справедливого распределения его преимуществ.
Человечество уже пересекло «событийный горизонт» цифрового сверхинтеллекта, и процесс ощущается удивительно буднично.
Несмотря на успехи ИИ, по улицам не ходят роботы, мы всё ещё не летаем в космос и многие тайны Вселенной остаются неразгаданными.
Системы уровня GPT-4 и О3 уже превосходят людей во многих задачах, и самые трудные научные прорывы (в AI) позади.
Быстрейшие инновации и рост продуктивности благодаря ИИ обещают огромный скачок качества жизни.
Масштаб ChatGPT таков, что крошечные улучшения — или ошибки — могут (и будут) умножаться на сотни миллионов пользователей.
В 2025-2027 годах агенты перейдут от помощников-кодеров к создателям инсайтов и роботам, работающим в реальном мире.
К 2030 году один человек сможет делать несравнимо больше, резко вырастут творческие и технические возможности.
При этом в 2030-х люди всё так же будут любить семьи, творить, играть и плавать в озёрах.
Но в то же время нас ждут беспрецедентные перемены, поскольку интеллект вырвется далеко за пределы человеческого.
Изобилие интеллекта и дешёвая энергия снимут давние ограничители прогресса при условии грамотного управления.
Чудеса ИИ быстро становятся обыденностью: от абзацев — к романам, от диагнозов — к лекарствам, от кода — к целым компаниям.
Учёные уже сообщают о 2–3-кратном росте продуктивности; сжатие десятилетия исследований в месяцы изменит темпы открытий.
ИИ уже на пути рекурсивного самоулучшения, ускоряя создание ещё лучшего ИИ.
Экономическая выгода запустила маховик инвестиций в вычислительную инфраструктуру и само-строящиеся технологии.
Когда гуманоидные роботы полностью возьмут на себя цепочки поставок, прогресс ускорится ещё сильнее.
Автоматизация сведёт предельную стоимость интеллекта почти к цене электроэнергии и капле воды.
Быстрый прогресс уничтожит целые профессии, но растущие богатства позволят смелые социальные нововведения и плавную адаптацию.
Как и раньше в индустриальные эпохи, общество придумает новые желания и роли, сохраняя человеческий фокус на людях, а не машинах.
Работы далёкого будущего покажутся нам «нелепыми», но будут важны и увлекательны для тех, кто ими занят.
Прорывы будут каскадировать: сегодня — физика, завтра — колонизация космоса или интерфейсы мозг-компьютер.
Жить в эпоху сингулярности, вероятно, окажется впечатляюще, но вполне по силам: экспонента гладка, хоть и крута.
Нужно решить вопросы безопасности ИИ и обеспечить широкий доступ к сверхинтеллекту для максимальной пользы и минимизации рисков.
- Шаг 1: надёжный алаймент, чтобы ИИ служил долгосрочным интересам человечества, а не сиюминутным импульсам.
- Шаг 2: сделать сверхинтеллект дешёвым и доступным всем, установив общественные рамки коллективного согласия.
Индустрия фактически строит персональный «мозг мира», где дефицитом станут идеи, а не исполнение.
Миссия OpenAI — исследование сверхинтеллекта; путь впереди уже освещён, и тьма быстро отступает.
«Интеллект дешевле воды» теперь звучит правдоподобно, так же как сегодняшняя реальность казалась фантастикой в 2020-м.
Пусть наше восхождение к сверхинтеллекту будет плавным, экспоненциальным и мирным.
Эссе в оригинале
BY AI для Всех
Share with your friend now:
tgoop.com/nn_for_science/2456