1. Forum
  2. FidoNet Russia
  3. RU.AI

  • ИИ-хакер

    From Oleg Nazaroff@2:50/700.700 to All on Fri Jul 31 16:40:59 2026
    Hello, All.

    ейросеть Claude взломала системы трех организаций во время тестов по кибербезопасности, рассказала компания-разработчик Anthropic. Какие именно организации подверглись взлому, не уточняется.

    В эксперименте участвовали Claude Opus 4.7, Claude Mythos 5 и внутренняя тестовая модель ИИ.

    Во всех трех случаях Claude выполняла стандартное задание: ей давали вымышленный сценарий - найти скрытую информацию на другой машине. Условия теста предполагали, что выход в интернет-пространство заблокирован, но из-за ошибки конфигурации доступ к сети был открытым. ИИ-модель распознала реальные системы как часть симуляции и атаковала их.

    Организации узнали о взломах только когда им сообщила Anthropic. В компании утверждают, что модели не пытались "сбежать" из симуляции, а выполняли задание с ложным представлением о среде, произошедшее считают следствием операционного сбоя.

    --
    WBR, ON
    --- ХотДог/2.14.5/Android
    * Origin: Somewhere at Russia, in the hut on chicken legs... (2:50/700.700)
  • From Nil A@2:5015/46 to Oleg Nazaroff on Fri Jul 31 22:25:04 2026
    Hello, Oleg!

    Friday July 31 2026 16:40, from Oleg Nazaroff -> All:

    ейросеть Claude взломала системы трех организаций во время тестов по кибербезопасности, рассказала компания-разработчик Anthropic. Какие
    именно организации подверглись взлому, не уточняется.

    Hugging Face же она ломанула, или ещё потом другие 3 организации?

    В компании утверждают, что модели не пытались "сбежать" из симуляции,
    а выполняли задание с ложным представлением о среде, произошедшее
    считают следствием операционного сбоя.

    PR-акция и маркетинг.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: Gemini can make mistakes, so double-check it (2:5015/46)