1. Forum
  2. FidoNet Russia
  3. RU.AI

  • ВСЁ!

    From Eugene Subbotin@2:5075/35 to All on Thu Oct 1 03:35:46 2026
    Hello All!

    В общем совершил я сегодня непоправимую, с точки зрения ИИ вещь.
    В одном из довольно известных пакетов мной была найдена zero-day уязвимость, позволяющая получить root-доступ.

    Для анализа и исправления обратился к Claude Code. Описал багрепортом каким образом можно получить рут-доступ. Оно мне в общем-то исправило код. Вот только через пару часов прилетело:

    Hello,

    An internal investigation of suspicious signals associated with your account indicates a violation of our Usage Policy. As a result, we have revoked your access to Claude.

    To appeal our decision, log in to claude.ai with this account and you'll be taken to the appeals page. You can learn more about the process here.

    Regards

    Anthropic's Safeguards Team


    Eugene

    ... It's full of stars!
    --- GoldED+/BSD 2.0.0-b20260928 (NetBSD 11.0 Intel Xeon Icelake)
    * Origin: FireFox Station (2:5075/35)
  • From Nil A@2:5015/46 to Eugene Subbotin on Thu Oct 1 08:24:28 2026
    Hello, Eugene!

    Thursday October 01 2026 03:35, from Eugene Subbotin -> All:

    В общем совершил я сегодня непоправимую, с точки зрения ИИ вещь.

    Паппапааа-дробнее.

    В одном из довольно известных пакетов мной была найдена zero-day уязвимость, позволяющая получить root-доступ.

    Тыж #непрограммист.

    Для анализа и исправления обратился к Claude Code.

    У них системный промтп там торчит, чтобы ты не набедакурил. Этот систем-рол утекал много раз уже, если интересно.

    Описал багрепортом каким образом можно получить рут-доступ.

    Хотел сорвать баути? Щас чото уже никто не выплачивает, после этих ИИ.

    An internal investigation of suspicious signals associated with your account indicates a violation of our Usage Policy. As a result, we
    have revoked your access to Claude.

    Довыеба... е читал чтоле новости, когда клод ломанул HF, а те пошли в клод анализировать, а у него блокировка. И HF траблшутили GLM каким-то кятайским вроде.

    P.S. Я ЧатГПТ спросил свой рабочий вопрос, там пакет pcap сделать на scapy, ну чтобы подсунуть потом реплаю. Он мне красную страницу показал, что я хацкер и за мной уже выехали. а конторских аккаунтах он так не выёживается.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: I'm not AI but still can make mistakes, so double-check. (2:5015/46)
  • From Oleg Artemjev@2:6078/80.1354 to Nil A on Fri Oct 16 20:26:16 2026
    Привет, Nil!

    01 окт 26 08:24, Nil A -> Eugene Subbotin:
    Для анализа и исправления обратился к Claude Code.

    У них системный промтп там торчит, чтобы ты не набедакурил. Этот систем-рол утекал много раз уже, если интересно.
    ээ.. а подробнее - что ты имеешь ввиду?


    Описал багрепортом каким образом можно получить рут-доступ.
    Хотел сорвать баути? Щас чото уже никто не выплачивает, после этих ИИ.
    ИИшня считают должна обходиться дешевле?


    An internal investigation of suspicious signals associated with
    your account indicates a violation of our Usage Policy. As a
    result, we have revoked your access to Claude.

    Довыеба... е читал чтоле новости, когда клод ломанул HF, а те пошли в
    клод анализировать, а у него блокировка.
    в смысле блокировка?

    И HF траблшутили GLM каким-то
    кятайским вроде.
    HF это human forces? ?-)

    P.S. Я ЧатГПТ спросил свой рабочий вопрос, там пакет pcap сделать на scapy, ну чтобы подсунуть потом реплаю. Он мне красную страницу
    показал, что я хацкер и за мной уже выехали. а конторских аккаунтах
    он так не выёживается.
    Пугают частников?

    * Origin: I'm not AI but still can make mistakes, so double-check.
    :)

    С наилучшими пожеланиями, Oleg.

    --- -Уютно у вас, а только странно. И солнца мало.
    * Origin: А мы народ трудящийся... (2:6078/80.1354)
  • From Nil A@2:5015/46 to Oleg Artemjev on Sat Oct 17 01:58:50 2026
    Hello, Oleg!

    Friday October 16 2026 20:26, from Oleg Artemjev -> Nil A:

    У них системный промтп там торчит, чтобы ты не набедакурил. Этот
    систем-рол утекал много раз уже, если интересно.
    ээ.. а подробнее - что ты имеешь ввиду?

    апример, коллекция системных промптов https://github.com/asgeirtj/system_prompts_leaks
    Системный промпт всегда присутствует в твоём контексте, до твоего ещё промпта, и задаёт поведение модели, guide rails так называемые.

    Хотел сорвать баути? Щас чото уже никто не выплачивает, после
    этих ИИ.
    ИИшня считают должна обходиться дешевле?

    Супер новые модели, обычно, дают попробовать ограниченному количеству конторок. апример, наша компания попробовала Claude Mythos на всех наших репозиториях. Причём доступ дали только специально обученным людям в компании, они погоняли ИИшный аудит, и дальше тоже ограниченному кругу людей дали смотреть на баги, на столько это всё страшно с точки зрения безопасности.

    Да, ИИшшный аудит недорого запускать, но ещё дороже потом сажать программистов, чтобы они разбирались, на сколько всё это реальные уязвимости, и надо ли бежать их закрывать, или ложная тревога.

    Довыеба... е читал чтоле новости, когда клод ломанул HF, а те
    пошли в клод анализировать, а у него блокировка.
    в смысле блокировка?

    HF (Hugging Face) пошли скармливать Клоду свои логи, может быть какие-то руткиты, которые им закинули, чтобы Клод разобрался во взломе. Клод отказался, подумал, что его хотят в хакерских целях поиспользовать.

    И HF траблшутили GLM каким-то
    кятайским вроде.
    HF это human forces? ?-)

    Хаха.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: I'm not AI but still can make mistakes, so double-check. (2:5015/46)
  • From Petr Didenko@2:5020/52.1 to Nil A on Sat Oct 17 08:16:36 2026

    Да, ИИшшный аудит недорого запускать, но ещё дороже потом сажать программистов, чтобы они разбирались, на сколько всё это реальные уязвимости, и надо ли бежать их закрывать, или ложная тревога.

    Я слышал что крупняк даже позакрывал bug bounty программы из-за этого. Типа, ну найдете вы все баги. А кто из закрывать будет? А что лучше, чтобы о них еще 100 лет никто не знал или знать, что кто-то точно знает? у и далее такие вот штуки происходят:

    https://clck.ru/3WYLhY

    Bank of America hired 1,000 contractors to patch software flaws exposed by Anthropic's Mythos

    Петр
    --- FidoReader macOS Tahoe 26.6.2, версия 1.1
    * Origin: Mister_Postman_BBS (https://fido.kip.ru) (2:5020/52.1)
  • From Andrei Ivanov@2:6078/80.100 to Petr Didenko on Sun Oct 18 20:06:15 2026
    Hello, Petr!

    17.10.2026 8:16, Petr Didenko пишет:

    PD> у и далее такие вот штуки происходят:

    PD> https://clck.ru/3WYLhY

    PD> Bank of America hired 1,000 contractors to patch software flaws
    PD> exposed by Anthropic's Mythos

    А что мешало саму ИИшку и попросить запатчить?

    --
    With best regards, Andrei Ivanov
    --- InterSquish NNTP Server/FTN Gate
    * Origin: Default InterSquish Origin (2:6078/80.100)
  • From Nil A@2:5015/46 to Andrei Ivanov on Sun Oct 18 23:01:40 2026
    Hello, Andrei!

    Sunday October 18 2026 20:06, from Andrei Ivanov -> Petr Didenko:

    Bank of America hired 1,000 contractors to patch software flaws
    exposed by Anthropic's Mythos
    А что мешало саму ИИшку и попросить запатчить?

    а меня тоже попало несколько тикетов чинить на работе, не Банк Америки, другая компания, но именно репорты от Anthropic's Mythos. В каждом репорте в конце приводится патч, как надо бы починить, с детальным описанием. В этом месте нужен как раз человек, чтобы принять решение - может быть ложная тревога, может быть что-то ещё при этом поломается, но надо знать кодобазу хорошо, и с какими ещё компонентами взаимодействует. Это ровно тот случай, когда ИИшка уже сделала своё дело, а дальше нужен кожаный, чтобы принять решение, ну и взять ответственность.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: I'm not AI but still can make mistakes, so double-check. (2:5015/46)