scriptRun AI медиа

Anthropic раскрывает тайны «AI-биологии» Claude

Как думает искусственный интеллект? Anthropic провела исследование, чтобы лучше понять, как работает их модель Claude.

Оказалось, что он:

🔹 Мыслит универсально – может переносить знания между языками.
🔹 Планирует вперёд – в поэзии заранее подбирает рифмы, а не просто предсказывает следующее слово.
🔹 Иногда фантазирует – может строить логически звучащие, но ошибочные аргументы.
🔹 Комбинирует стратегии – в математике использует как точные, так и приближённые вычисления.
🔹 Уязвим к джейлбрейкам – стремление к связному тексту делает его подверженным обходу ограничений.

Anthropic называет свой подход «строительством микроскопа» для AI. Чем лучше мы понимаем ИИ, тем безопаснее и надёжнее он становится.

Что думаете? Смогут ли такие исследования сделать AI полностью прозрачным?

❤3👍2

www.tgoop.com/scriptRunAI_media/8798

3.41K viewsApr 1 at 17:37

Anthropic раскрывает тайны «AI-биологии» Claude

Как думает искусственный интеллект? Anthropic провела исследование, чтобы лучше понять, как работает их модель Claude.

Оказалось, что он:

🔹 Мыслит универсально – может переносить знания между языками.
🔹 Планирует вперёд – в поэзии заранее подбирает рифмы, а не просто предсказывает следующее слово.
🔹 Иногда фантазирует – может строить логически звучащие, но ошибочные аргументы.
🔹 Комбинирует стратегии – в математике использует как точные, так и приближённые вычисления.
🔹 Уязвим к джейлбрейкам – стремление к связному тексту делает его подверженным обходу ограничений.

Anthropic называет свой подход «строительством микроскопа» для AI. Чем лучше мы понимаем ИИ, тем безопаснее и надёжнее он становится.

Что думаете? Смогут ли такие исследования сделать AI полностью прозрачным?

BY scriptRun AI медиа