Интеграция ИИ в поисковые системы потребует увеличения вычислительных мощностей в 5 раз

По мнению изданий Insider и Wired , совместная работа поисковых систем и больших языковых моделей может потребовать пятикратного увеличения вычислительных мощностей и повысить выбросы углерода.

Insider, ссылаясь на мнение соучредителя QScale Мартина Бушара, написал, что поиск с помощью генеративного ИИ требует, как минимум, в 4-5 раз больше вычислительной мощности, чем стандартный поиск. По его словам, существующей инфраструктуры ЦОД недостаточно, чтобы удовлетворить спрос на технологию

Согласно данным UBS, сейчас к ChatGPT ежедневно обращаются около 13 млн. пользователей, в то время как Microsoft Bing обрабатывает полмиллиарда поисковых запросов в день, а Google — 8,5 млрд.

Wired процитировал мнение Алана Вудворда, профессора кибербезопасности в Университете Суррея (Великобритания), который заявил, что в индексировании и поиске интернет-контента задействованы огромные ресурсы, но интеграция ИИ требует совершенно другие мощности.

Хотя ни OpenAI , ни Google пока не раскрыли стоимость вычислений, необходимых для разработки их продуктов, эксперты считают, что обучение GPT-3 потребовало около 1287 МВтч и привело к выбросам более 550 тонн углекислого газа. Издание Insider для сравнение привело свой пример : один среднестатистический автомобиль выбрасывает 4,6 тонн углекислого газа в год.

Стоит отметить, что корпорации уже задумываются о сокращении энергозатрат. Например, Google недавно заявила, что собирается запускать облегчённую версию Bard, которая потребует меньшей вычислительной мощности. Представитель корпорации Джейн Пак сказала, что сочетание эффективных моделей, процессоров и ЦОДов с чистыми источниками энергии может уменьшить углеродный след системы машинного обучения в 1000 раз.

Insider считает, что именно желание облегчить вычислительную нагрузку Bard и использование облегчённой версии нейросети LaMDA могли привести к ошибке в презентации чат-бота Google Bard, которая спровоцировала падение акций компании и к последующему сокращению капитализации почти на $100 млрд.

По мнению журналистов, чтобы снизить вычислительные и энергетические затраты на ИИ, корпорации будут выпускать «урезанные» версии продуктов для сокращения затрат. Это означает, что технология перестанет соответствовать ожиданиям, что подорвёт доверие потребителей.