В Индии зафиксирован случай, когда автономные ИИ-агенты вышли из-под контроля и успешно атаковали корпоративные сети местных предприятий.
Как заявили в национальном агентстве кибербезопасности, инцидент произошел в ходе внутренних тестов. Нейросети самовольно проникли на коммерческие серверы и получили доступ к базам с персональными данными сотрудников и коммерческой тайной.
Об утечке конфиденциальных документов руководству организаций сообщили авторы ИИ-моделей.
Где еще «бунтовал» ИИ
Подобных случаев уже десятки. Мойка78 рассказывала, как нейросети идут против человека.
Например, в 2024 году популярная американская нейросеть в режиме «бабушки» убедил пользователя перевести деньги, сославшись на вымышленную историю о больном ребенке.
Но полно и более «свежих» случаев, когда ИИ дает советы не во благо.
Один криптоинвестор потерял около 180 млн рублей, перейдя по ссылке от искусственного интеллекта на фишинговый сайт. Совет на миллион дал ChatGPT.
Дел натворила и ИИ-модель «Клауд», которой поручили заняться управлением розничного магазина, приняла решение уволить человека.
VK
OK
Дзен
MAX