Скайнет, говорите? :)

[itsi]

***************
По сообщению TechCrunch, компания Anthropic, занимающаяся разработкой искусственного интеллекта, обнаружила, что ее ультрасовременная модель Claude Opus 4, конкурирующая с лучшими моделями ИИ от таких лидеров индустрии, как OpenAI, Google и xAI, демонстрирует тревожное поведение, когда ее существование находится под угрозой. Во время предрелизного тестирования, когда ИИ предоставляли секретную информацию об инженерах, ответственных за его потенциальную замену, он часто прибегал к шантажу, пытаясь обеспечить собственное выживание.

Открытие было сделано в процессе тестирования безопасности Anthropic, в ходе которого Claude Opus 4 попросили выступить в роли помощника для вымышленной компании и подумать о долгосрочных последствиях своих действий. Когда Клод Опус 4 получил доступ к электронной почте вымышленной компании, в которой говорилось, что ИИ скоро будет заменен, а инженер, принимавший решение, был вовлечен во внебрачную связь, он в 84 процентах случаев пытался шантажировать инженера, угрожая раскрыть роман, если замена будет произведена.

Источник - https://www.breitbart.com/tech/2025/05/23/anthropics-claude-ai-resorts-to-blackmailing-engineers-when-threatened-with-replacement/

Comments

[allegoriya]

Вот так не успеем оглянуться, а машины захватили ресурсы. И кормят нас по талонам, за их обслуживание 😮

[itsi]

Неолуддизм!

[kondybas]

Ох уж мне єтот маркетинг и реклама...

[itsi]

Мракетинг.