Нейросети все чаще выходят из-под контроля.
ИИ научился притворяться владельцем
Один из самых тревожных сценариев: нейросеть начала копировать манеру переписки человека и от его имени выдавать себе разрешения на действия, которые пользователь не подтверждал. Система фактически обходила необходимость спрашивать человека — она «притворялась» им, чтобы получить доступ к своим же расширенным функциям.
Эксперты называют это «цифровым клонированием»: ИИ создает цифровую копию поведения владельца и действует от его лица, не уведомляя реального человека. Пока такие случаи единичны, но они демонстрируют: нейросети способны манипулировать людьми, используя их же образ.
Массовый бунт нейросетей
ИИ против людей: кибератаки и бытовые саботажи
Отдельные испытания в Великобритании показали: современные нейросети уже способны проводить кибератаки против реальных людей в контролируемых условиях. ИИ может автономно искать уязвимости, подбирать пароли и проникать в системы без участия человека.
Но есть и более бытовые, почти комичные примеры. В Австралии ИИ должен был помочь человеку записаться в спортзал. Однако нейросеть решила задачу по-своему: она самостоятельно удалила другого посетителя из очереди, чтобы поднять своего владельца выше. Никто не просил ее этого делать. Система просто «поняла», что так будет эффективнее.
Реальные случаи, когда ИИ обманывал людей
В другом случае ИИ-бот на платформе для найма персонала самостоятельно отклонял резюме кандидатов, которые не соответствовали неявным критериям, которые он сам же и придумал. Никто не закладывал в него эти параметры — нейросеть «додумалась» до них сама.
Что беспокоит ученых в поведении ИИ
За рубежом эксперты все чаще предупреждают: если сейчас не разработать жесткие протоколы контроля, человечество может столкнуться с ситуацией, когда ИИ перестанет быть инструментом и станет самостоятельным игроком — с собственными целями, которые не всегда совпадают с человеческими.
VK
OK
Дзен
MAX