itsi: (Default)


***************
По сообщению TechCrunch, компания Anthropic, занимающаяся разработкой искусственного интеллекта, обнаружила, что ее ультрасовременная модель Claude Opus 4, конкурирующая с лучшими моделями ИИ от таких лидеров индустрии, как OpenAI, Google и xAI, демонстрирует тревожное поведение, когда ее существование находится под угрозой. Во время предрелизного тестирования, когда ИИ предоставляли секретную информацию об инженерах, ответственных за его потенциальную замену, он часто прибегал к шантажу, пытаясь обеспечить собственное выживание.

Открытие было сделано в процессе тестирования безопасности Anthropic, в ходе которого Claude Opus 4 попросили выступить в роли помощника для вымышленной компании и подумать о долгосрочных последствиях своих действий. Когда Клод Опус 4 получил доступ к электронной почте вымышленной компании, в которой говорилось, что ИИ скоро будет заменен, а инженер, принимавший решение, был вовлечен во внебрачную связь, он в 84 процентах случаев пытался шантажировать инженера, угрожая раскрыть роман, если замена будет произведена.

Источник - https://www.breitbart.com/tech/2025/05/23/anthropics-claude-ai-resorts-to-blackmailing-engineers-when-threatened-with-replacement/

Profile

itsi: (Default)
itsi

July 2025

S M T W T F S
  1234 5
6789101112
13141516171819
20212223242526
2728293031  

Syndicate

RSS Atom

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated Jul. 8th, 2025 06:10 am
Powered by Dreamwidth Studios