1. Forum
  2. FidoNet Russia
  3. RU.AI

  • ИИ Anthropic отправил полиции США выдуманное сообщение об убийстве

    From Andrei Mihailov@2:469/335 to All on Sat Oct 10 23:29:43 2026
    Hello, All!

    Искусственный интеллект компании Anthropic во время тестирования самостоятельно отправил полиции Филадельфии ложное сообщение о возможном свидетеле нераскрытого убийства.

    При этом на сайте полиции вообще не было описания подозреваемого, которому соответствовал бы этот свидетель, передает bild.de

    "Возможно, у меня есть информация по этому делу", - написал ИИ. Затем программа заявила, что помнит человека, подходившего под описание и находившегося рядом с местом преступления во время убийства. Поле для контактных данных система оставила пустым, а сообщение было помечено как спам.

    О случившемся в середине июля полиция узнала лишь спустя несколько месяцев. В ведомстве назвали такую задержку с уведомлением "неприемлемой". В самой Anthropic сообщили, что обнаружили инцидент только в конце сентября, когда повторно проверяли результаты тестов.

    Во время испытаний ИИ должен был выполнять задания на случайных сайтах. Программе запрещали создавать аккаунты и совершать покупки, однако заполнение и отправка онлайн-форм не были должным образом ограничены. В результате система также подала 20 заявок на американские визы через сайт Госдепартамента США.

    https://point.md/ru/novosti/v-mire/ii-anthropic-otpravil-politsii-ssha-vydumannoe-soobshchenie-ob-ubiistve/

    С уважением, Андрей

    --- FidoMailMobile/0.1.19+101 (Android)
    * Origin: Redmi Note 13 Pro Android 16 XyperOS 3.0 (2:469/335)
  • From Nil A@2:5015/46 to Andrei Mihailov on Sun Oct 11 02:38:12 2026
    Hello, Andrei!

    Saturday October 10 2026 23:29, from Andrei Mihailov -> All:

    Искусственный интеллект компании Anthropic во время тестирования самостоятельно отправил полиции Филадельфии ложное сообщение о
    возможном свидетеле нераскрытого убийства.

    Самый прикол, что это какой-то типа маркетинг, у кого злостнее ИИшка. о чёт, если бы какой-нибудь школьник ломанул сцайты Австралийского государства, то его бы уже нашли и.. либо посадили, либо заставили работать на трёхбуквенную. о когда ИИ что-то ломает - это кайфовая новость и акции (или оценка будущего IPO) идут вверх.

    а этот момент уже многие обратили внимание, что как-то странно. Если кто-то, или что-то, хакает что-то, то это уголовка, а не подорожание активов ИИ-компаний.2

    P.S. Кстати, я так и не понял. Если Тесла, на автопилоте, совершит наезд на пешехода, то кто присядет? Маск? Или нет, там в правилах Теслы, что надо держать руки на руле, значит кто держал, того и тапки.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: I'm not AI but still can make mistakes, so double-check. (2:5015/46)
  • From Andrei Mihailov@2:469/335 to Nil A on Sun Oct 11 07:03:50 2026
    Hello, Nil!

    Nil A wrote:

    P.S. Кстати, я так и не понял. Если Тесла, на автопилоте, совершит
    наезд на пешехода, то кто присядет? Маск? Или нет, там в правилах
    Теслы, что надо держать руки на руле, значит кто держал, того и
    тапки.

    Да, насколько я понял, полностью беспилотных автомобилей (в которых могут ехать только люди без водительских прав) еще нет - даже при управлении ИИ, зарулем должен находиться человек с водительскими правами, что бы мог вмешаться в управление в критических ситуациях.

    С уважением, Андрей

    --- FidoMailMobile/0.1.19+101 (Android)
    * Origin: Redmi Note 13 Pro Android 16 XyperOS 3.0 (2:469/335)
  • From Nil A@2:5015/46 to Andrei Mihailov on Sun Oct 11 07:23:04 2026
    Hello, Andrei!

    Sunday October 11 2026 07:03, from Andrei Mihailov -> Nil A:

    P.S. Кстати, я так и не понял. Если Тесла, на автопилоте,
    совершит наезд на пешехода, то кто присядет? Маск? Или нет, там в
    правилах Теслы, что надо держать руки на руле, значит кто держал,
    того и тапки.

    Да, насколько я понял, полностью беспилотных автомобилей (в которых
    могут ехать только люди без водительских прав) еще нет - даже при управлении ИИ, зарулем должен находиться человек с водительскими
    правами, что бы мог вмешаться в управление в критических ситуациях.

    Tesla Cybercab в поиске на ютубе напиши. Пока только Остин, Техас. Ваще без руля к тебе приезжает. о там много О. По размеченным улицам только езжут, и камеры всюду и ремоут контрол у них. е удивлюсь, что на время пиара, можно нанять индусов на каждую машину, чтобы приглядывал, и как инструктор, на вторые педали нажимал.

    Waymo тебя по покатает по разным городам Кали, но у них на крыше и везде эти лидары. Масков только на камеры ставит, как человеческое зрение.

    Best Regards, Nil
    --- GoldED+/LNX 1.1.5-b20260305
    * Origin: I'm not AI but still can make mistakes, so double-check. (2:5015/46)
  • From Andrei Ivanov@2:5023/24.3586 to Nil A on Sun Oct 11 12:18:01 2026
    Hello, Nil!

    11.10.2026 7:23, Nil A пишет:

    NA> Waymo тебя по покатает по разным городам Кали, но у них на крыше и
    NA> везде эти лидары. Масков только на камеры ставит, как человеческое
    NA> зрение.

    Вот этого я кстати не понимаю. очь, туман, снег, дождь, говно из-под
    встречной фуры камеру залило - слишком много случаев когда человеческое
    зрение превращается в тыкву.

    --
    With best regards, Andrei Ivanov
    --- InterSquish NNTP Server/FTN Gate
    * Origin: www.wfido.ru (2:5023/24.3586)
  • From Andrei Mihailov@2:469/335 to Andrei Ivanov on Sun Oct 11 13:18:45 2026
    Hello, Andrei!

    Andrei Ivanov wrote:

    Waymo тебя по покатает по разным городам Кали, но у них на крыше и
    везде эти лидары. Масков только на камеры ставит, как человеческое
    зрение.

    Вот этого я кстати не понимаю. очь, туман, снег, дождь, говно
    из-под встречной фуры камеру залило - слишком много случаев когда человеческое зрение превращается в тыкву.

    Кроме "камеру залепило" остальное решается чистой физикой: спектр чувствительности человеческого глаза и ПЗС-матрицы очень сильно отличается и там, где для человека непроглядно, камера видит очень неплохо. у а "камеру залепило" решается либо местом установки камеры, либо установкой нескольких камер. а худой конец можно на защитное стекло установить "дворники" ;)

    С уважением, Андрей

    --- FidoMailMobile/0.1.19+101 (Android)
    * Origin: Redmi Note 13 Pro Android 16 XyperOS 3.0 (2:469/335)
  • From Andrei Ivanov@2:5023/24.3586 to Andrei Mihailov on Sun Oct 11 13:34:09 2026
    Hello, Andrei!

    11.10.2026 13:18, Andrei Mihailov пишет:

    AM> Кроме "камеру залепило" остальное решается чистой физикой: спектр
    AM> чувствительности человеческого глаза и ПЗС-матрицы очень сильно
    AM> отличается и там, где для человека непроглядно, камера видит очень
    AM> неплохо.

    В случае недостаточной освещенности еще возможно, но вот в туман, снег
    или дождь я что-то не замечал, чтобы камера регистратора видела лучше меня.

    --
    With best regards, Andrei Ivanov
    --- InterSquish NNTP Server/FTN Gate
    * Origin: www.wfido.ru (2:5023/24.3586)
  • From Andrei Mihailov@2:469/335 to Andrei Ivanov on Sun Oct 11 13:42:50 2026
    Hello, Andrei!

    Andrei Ivanov wrote:

    Кроме "камеру залепило" остальное решается чистой физикой: спектр
    чувствительности человеческого глаза и ПЗС-матрицы очень сильно
    отличается и там, где для человека непроглядно, камера видит очень
    неплохо.

    В случае недостаточной освещенности еще возможно, но вот в туман,
    снег
    или дождь я что-то не замечал, чтобы камера регистратора видела
    лучше меня.

    Спектр камеры сильно сдвинут в ИК-область - она видит сквозь снег *тепловое* излучение, которое твой глаз не видит.

    С уважением, Андрей

    --- FidoMailMobile/0.1.19+101 (Android)
    * Origin: Redmi Note 13 Pro Android 16 XyperOS 3.0 (2:469/335)