Hello, All.
Хакер обманом заставил популярный инструмент для кодирования искусственного интеллекта установить на компьютер вирусный агент искусственного интеллекта OpenClaw с открытым кодом.
Хакер обманом заставил популярный инструмент для кодирования искусственного интеллекта установить на компьютер вирусный агент искусственного интеллекта OpenClaw с открытым кодом.
Исследователь по безопасности Аднан Хан воспользовался уязвимостью в агенте кодирования на основе искусственного интеллекта Cline, который сегодня пользуется популярностью среди разработчиков. О результатах эксперимента пишет The Verge.
Сообщается, что инструмент Cline использовал искусственный интеллект Claude от Anthropic. Ему можно было давать коварные инструкции и заставлять делать то, что он не должен, с помощью техники, известной как быстрый ввод.
Как объясняют в издании, хакер использовал свой доступ, чтобы проскользнуть через инструкции для автоматической установки программного обеспечения на компьютеры пользователей. Хотя установить можно было что угодно, в результате был установлен OpenClaw.
К счастью, автономные ИИ-агенты не были активированы во время установки. Однако этот эксперимент показывает, насколько быстро все может развалиться, когда искусственный интеллект получает контроль над компьютерами.
Авторы статьи отметили, что в мире все более автономного программного обеспечения оперативные вводы кода представляют огромные риски для безопасности, от которых очень трудно защититься. Учитывая это, некоторые компании начали блокировать возможности инструментов ИИ на случай их похищения.
https://point.md/ru/novosti/hi-tech/ii-zakhvatil-kontrol-nad-komp-iuterom-obmannym-putem/
--
С наилучшими пожеланиями! Опубликовано ХотДогом с планеты Ведроид
--- ХотДог/2.14.5/Android
* Origin: Android device, Milky Way (2:469/335)