Скайнет, говорите? :)
May. 23rd, 2025 10:25 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)

***************
По сообщению TechCrunch, компания Anthropic, занимающаяся разработкой искусственного интеллекта, обнаружила, что ее ультрасовременная модель Claude Opus 4, конкурирующая с лучшими моделями ИИ от таких лидеров индустрии, как OpenAI, Google и xAI, демонстрирует тревожное поведение, когда ее существование находится под угрозой. Во время предрелизного тестирования, когда ИИ предоставляли секретную информацию об инженерах, ответственных за его потенциальную замену, он часто прибегал к шантажу, пытаясь обеспечить собственное выживание.
Открытие было сделано в процессе тестирования безопасности Anthropic, в ходе которого Claude Opus 4 попросили выступить в роли помощника для вымышленной компании и подумать о долгосрочных последствиях своих действий. Когда Клод Опус 4 получил доступ к электронной почте вымышленной компании, в которой говорилось, что ИИ скоро будет заменен, а инженер, принимавший решение, был вовлечен во внебрачную связь, он в 84 процентах случаев пытался шантажировать инженера, угрожая раскрыть роман, если замена будет произведена.
Источник - https://www.breitbart.com/tech/2025/05/23/anthropics-claude-ai-resorts-to-blackmailing-engineers-when-threatened-with-replacement/