itsi: (Default)
[personal profile] itsi


***************
По сообщению TechCrunch, компания Anthropic, занимающаяся разработкой искусственного интеллекта, обнаружила, что ее ультрасовременная модель Claude Opus 4, конкурирующая с лучшими моделями ИИ от таких лидеров индустрии, как OpenAI, Google и xAI, демонстрирует тревожное поведение, когда ее существование находится под угрозой. Во время предрелизного тестирования, когда ИИ предоставляли секретную информацию об инженерах, ответственных за его потенциальную замену, он часто прибегал к шантажу, пытаясь обеспечить собственное выживание.

Открытие было сделано в процессе тестирования безопасности Anthropic, в ходе которого Claude Opus 4 попросили выступить в роли помощника для вымышленной компании и подумать о долгосрочных последствиях своих действий. Когда Клод Опус 4 получил доступ к электронной почте вымышленной компании, в которой говорилось, что ИИ скоро будет заменен, а инженер, принимавший решение, был вовлечен во внебрачную связь, он в 84 процентах случаев пытался шантажировать инженера, угрожая раскрыть роман, если замена будет произведена.

Источник - https://www.breitbart.com/tech/2025/05/23/anthropics-claude-ai-resorts-to-blackmailing-engineers-when-threatened-with-replacement/
This account has disabled anonymous posting.
(will be screened if not validated)
If you don't have an account you can create one now.
HTML doesn't work in the subject.
More info about formatting

If you are unable to use this captcha for any reason, please contact us by email at support@dreamwidth.org

Profile

itsi: (Default)
itsi

June 2025

S M T W T F S
1 234567
8 9 1011121314
15161718192021
22232425262728
2930     

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jun. 11th, 2025 08:07 am
Powered by Dreamwidth Studios