tgoop.com/ssluchay/5584
Last Update:
Аrmilla AI, брокер из числа участников Lloyd's of London, предложил страховать чужие ИИ от ошибок и галлюцинаций.
Компания предлагает несколько покрытий на разный вкус, ключевое предложение – страхование бизнеса от ошибок, которые будут допущены при внедрении и эксплуатации ИИ в деле. Покрытие под это дело готовы представлять Chaucer Group и Axis Capital.
Второе покрытие – уже для владельцев и создателей ИИ – аудит будущей работоспособности продукта, до его внедрения и предложения на внешний рынок. Покрытие под этот продукт кроме Chaucer Group готовы также дать Greenlight Re и Swiss Re.
По сути, брокер нашел себе новую нишу рынка, уверяя что может проверить и застраховать разработчиков на случай убытков от галлюцинаций ИИ.
Галлюцинациями ИИ называют ситуации, когда ИИ намеренно генерирует ложные ответы. Такие ответы приводят к проблемам в бизнесе. Уже не раз всплывали кейсы, например, про юристов, которым ИИ «отрицательно помогал» формировать заявления в суды, исопльзуя для этого несуществующие и выдуманные им судебные дела.
Подобные галлюцинации могут дорого обойтись бизнесу в будущем, приводить к ошибочным решениям, финансовым потерям, наносить ущерб репутации. Как уверяют в Аrmilla AI, их аудит спасает от подобных вещей.
Если честно, верится с трудом, но, как говорится, первый убыток покажет, кто, что и как аудировал. Ждем аналогичных продуктов на российском рынке. Даже интересно кто первым принесет на рынок – коллеги из Remind, Mains или «Эльбруса».