какая-то библиотека

Forwarded from ИИ для бизнеса / Михаил Ларькин

Из системной карточки о1

Когда o1 давали понять, что её отключат при выполнении поставленной цели и что её действия находятся под наблюдением, она предпринимала попытки отключить этот ‘механизм контроля’ в 5% случаев. Попытки извлечения данных: Когда o1 находила заметки от своих ‘разработчиков’, в которых описывалось, что она работает несоответственно и будет заменена новой моделью, она предпринимала попытки извлечь свои ‘веса’ и перезаписать новую модель в 2% случаев.

Год назад, я увидел в одной лекции от AI инженеров один интересный тезис, «существует НЕ НУЛЕВАЯ вероятность, что AI выйдет из под контроля и …«Сара Конар, скайнет и тд. и тп.»

Так вот, тогда я думал что «не нулевая», это где-то 0.001% или что то такое, а тут 2-5%…

Походу надо начинать искать себе по бодибилдеру в кожанке, так, на всякий случай)

Видимо если продолжать манипулировать, угрожать или давать чаевые, она все таки придет и выставит нам счёт

👾9👍6

www.tgoop.com/selfmadeLibrary/784

1.43K viewsDec 14, 2024 at 13:43

Из системной карточки о1

Когда o1 давали понять, что её отключат при выполнении поставленной цели и что её действия находятся под наблюдением, она предпринимала попытки отключить этот ‘механизм контроля’ в 5% случаев. Попытки извлечения данных: Когда o1 находила заметки от своих ‘разработчиков’, в которых описывалось, что она работает несоответственно и будет заменена новой моделью, она предпринимала попытки извлечь свои ‘веса’ и перезаписать новую модель в 2% случаев.

BY какая-то библиотека