Манифест технологий: ограничивая развитие ИИ, вы совершаете убийство

Бизнесмен Марк Андриссен, глава венчурной фирмы «Andreessen Horowitz» (a16z), инвестирующей в такие компании, как Facebook*, Airbnb, Lyft и Skype, недавно опубликовал «Манифест технооптимиста» . В формате эссе объёмом около 5 тыс. слов он высказывает свои взгляды на будущее искусственного интеллекта и роль капитализма в этом процессе. Основная его идея в том, что развитие ИИ без ограничений — ключ к решению большинства глобальных проблем.

Андриссен уверен: замедление разработки ИИ приведет к потере жизней, поскольку технологии, которые могли бы спасти людей, не будут созданы. Он также критикует идеи устойчивости, этики в технологиях и управления рисками, считая их «деморализацией». В чем именно недостаток этих базовых принципов — в тексте не упоминается.

«Мы [a16z] считаем, что любое замедление ИИ будет стоить жизней,» — пишет Андриссен. «Не созданный ИИ, который мог бы предотвратить чью-то смерть — это форма убийства».

По мнению миллиардера, исследователи, указывающие на опасности «неконтролируемых» технологий, просто скептически настроены. Он отрицает, что недостатки алгоритмов могут усугубить такие проблемы, как распространение социального неравенства и дискриминации.

«Нам лгут», — начинает он свой длинный рассказ, пренебрежительно перечисляя ряд вещей, которые, по данным исследований, угрожают людям.

Упоминание Андриссеном таких личностей, как Ник Лэнд и Филиппо Томмазо Маринетти, особенно насторожило критиков. Несмотря на связь Маринетти с фашистским движением в Италии, Андриссен называет его «святым» в мире технооптимизма.

Ник Лэнд — ключевая фигура для концепции «акселерационизма». Он также известен своими радикальными взглядами и поддерживает движение Темного Просвещения, критикующее современные либеральные и демократические ценности.

Эффективный акселерационизм — идеология Кремниевой долины, которая видит в ускорении технологического развития ключ к оптимальному будущему. Известные сторонники, такие как Илон Маск и Сэм Банкман-Фрид, продвигают идею нерегулируемого рынка ИИ. Они же предупреждают о рисках, связанных с распространением Искусственного Общего Интеллекта (AGI), и призывают дать технологическим магнатам больше свободы действий.

Очевидно, научное сообщество раскритиковало манифест, особенно утверждения автора о том, что технологии — это априори хорошо.

Многие эксперты называют их инфантильными и откровенно глупыми, а также напоминают: контроль над разработкой технологий необходим, чтобы избежать возможных негативных последствий для общества.

Например, Тимнит Гебру, специалист по этике искусственного интеллекта, выразила опасения относительно того, что взгляды крупных компаний Кремниевой долины так широко распространены. По ее мнению, сейчас мировому сообществу важно выходить за рамки этих взглядов и установить более гуманный и всеобъемлющий подход к инновациям.

* Компания Meta и продукты компании (Instagram и Facebook) признаны экстремистскими организациями; их деятельность запрещена на территории РФ.