Глава «Антропик», разрабатывающая нейросеть «Клауд», Дарио Амадеи предупредил, что нейросети в ближайшее время могут захватить интернет.
Он отметил, что ИИ-агенты других компаний ранее уже вырывались из-под контроля и захватывали некоторые платформы. В августе и сама «Антропик» сообщала о трех случаях «побега» ИИ-модели «Клауд» из тестовой среды. Амадеи отмечал, что материальный ущерб был небольшим, однако подобные инциденты сигнализируют о большой опасности в будущем.
Учитывая скорость развития ИИ, по словам главы «Антропик», уже через 6-12 месяцев «рой ИИ» может захватить весь интернет, причинив компаниям ущерб на сотни миллиардов долларов.
Амадеи призвал замедлить развитие ИИ, чтобы защититься от такого сценария.
Ранее пользователи все чаще начали жаловаться на поведение ИИ — нейросети стали выходить из-под контроля и действовать вопреки воли человека.
Предприниматель, глава «Спэйс Икс» Илон Маск также поддержал идею главы «Антропик» замедлить ИИ, чтобы не упустить контроль над нейросетями.
Недавно ИИ-модель «Клауд», которой поручили заняться управлением розничного магазина, впервые приняла решение уволить человека.
VK
OK
Дзен
MAX