tgoop.com/andre_dataist/118
Last Update:
Четыре причины, почему ИИ не похож на проект «Манхэттен» (и одна, почему похож)
Как известно, во время Второй мировой войны американцы в рамках проекта «Манхэттен» направили огромные ресурсы на разработку ядерной бомбы. Работы велись в строжайшей секретности. Все помнят, чем это закончилось, и как в результате изменился мир. Сегодня все чаще звучат призывы создать аналогичный проект для разработки искусственного интеллекта (ИИ). Например, Орен Этциони из Института ИИ Аллена предлагал такую идею. Но стоит ли сравнивать ИИ с «Манхэттеном»? Давайте рассмотрим четыре причины, почему ИИ в этом плане отличается, и одну, почему он все же похож.
1. Секретность и централизация
В отличие от Манхэттенского проекта, для создания ИИ не нужна ни секретность, ни централизация. Прямо сейчас этим занимаются частные лица и коммерческие компании. У меня самого есть собственная небольшая лаборатория с доступом к видеокартам, на которых я обучаю модели. И таких лабораторий по всему миру сотни, если не тысячи. Открытый доступ к ИИ-технологиям, несмотря на свои преимущества, увеличивает риск злоупотреблений. Проекты с открытым исходным кодом, такие как LLaMa и Stable Diffusion, демонстрируют, что любой человек с необходимыми навыками может внести свой вклад в развитие ИИ.
2. Финансирование
Проект «Манхэттен» получил беспрецедентное финансирование от государства — 2 миллиарда долларов за три года (это приблизительно 44 миллиарда в пересчете на сегодняшние цены). Современные ИИ-проекты финансируются разнообразными источниками, включая частные компании и международные организации, что затрудняет централизованное финансирование.
3. Научная база и цели
Теоретическая основа проекта «Манхэттен» была создана до его начала, проект решал одну сугубо прикладную задачу, все остальное отбрасывалось. В случае с ИИ ситуация иная. Мы до конца не понимаем принципы работы интеллекта — биологического или искусственного. Цели разработки ИИ разнообразны: от создания узких систем для решения конкретных задач до общего искусственного интеллекта (AGI).
4. Срочность и угрозы
Считалось, что реализация проекта «Манхэттен» жизненно необходима для победы во Второй мировой войне. Сейчас нет никакой экзистенциальной угрозы, для борьбы с которой необходим ИИ, он скорее сам несет новые серьезные риски. Создание AGI, способного выйти из-под контроля, может привести к катастрофическим последствиям, таким как появление ИИ-хакера, способного взломать военные сети и запустить ядерные ракеты.
Похожесть: Глобальная политика
Однако есть и сходство: и «Манхэттен», и ИИ тесно связаны с глобальной политикой. Страны, такие как США, Россия и Китай, видят в ИИ ключевой фактор роста своей военной мощи. Каждой стране выгодно производить на заводе железных солдат, у которых нет физиологических потребностей и страха.
С помощью энергии атома можно строить атомные электростанции и снабжать электроэнергией целые города, а можно эти города превратить в руины той же технологией. Страшно не само оружие, а то, как человек будет его использовать. Все зависит от нас самих. Мы стоим на пороге новой технологической эры. Важно действовать осознанно и ответственно, чтобы технологии служили на благо человечества, а не приносили вред. Только совместными усилиями мы сможем обеспечить безопасное и устойчивое развитие искусственного интеллекта.
#мысли
BY 🤖 Датаист
Share with your friend now:
tgoop.com/andre_dataist/118