Руководитель направления исследований в области выравнивания искусственного интеллекта компании Anthropic Эван Хубингер заявил, что вероятность уничтожения человечества по вине ИИ в течение ближайшего десятилетия составляет не менее 10 процентов.
Коксон обвинил обе компании в том, что они безостановочно стремятся к созданию сверхразумного и самоулучшающегося ИИ, ставя под угрозу будущее человечества.
Он отметил, что руководители технологических корпораций публично делают оптимистичные заявления в медиа, однако в частном порядке опасаются, что развитие технологии может привести к гибели людей уже к концу текущего десятилетия. По прогнозу Коксона, будущие модели ИИ смогут взламывать компьютерные системы и получать несанкционированный доступ к критическим ресурсам.
Он оценил риск гибели людей более чем в 10 процентов, добавив при этом, что Anthropic предпринимает все возможные усилия для предотвращения катастрофы, однако исследователи на данный момент не знают, как окончательно решить проблему выравнивания сверхразумного ИИ.
Он призвал ускорить разработку стандартов безопасности для искусственного интеллекта, признав при этом, что компании продолжают наращивать вычислительные мощности и масштабировать свои разработки, несмотря на существующие риски.
VK
OK
Дзен
MAX