25 апреля (Рейтер) — Когда лето 2022 года подошло к концу, генеральный директор Meta Марк Цукерберг собрал своих главных помощников для пятичасового анализа вычислительных мощностей компании, сосредоточив внимание на ее способности выполнять передовые работы в области искусственного интеллекта, согласно в служебной записке компании от 20 сентября, рассмотренной Reuters.
У них была непростая проблема: несмотря на громкие инвестиции в исследования ИИ, гигант социальных сетей не спешил внедрять дорогостоящие аппаратные и программные системы, совместимые с ИИ, для своего основного бизнеса, что ограничивало его способность идти в ногу с масштабными инновациями. все больше полагалась на ИИ для поддержки своего роста, согласно служебной записке, заявлениям компании и интервью с 12 людьми, знакомыми с изменениями, которые говорили на условиях анонимности для обсуждения внутренних вопросов компании.
«У нас есть значительный пробел в наших инструментах, рабочих процессах и процессах, когда дело доходит до разработки для ИИ. Нам нужно вкладывать значительные средства в это», — говорится в меморандуме, написанном новым руководителем инфраструктуры Сантошем Джанарданом, который был размещен на внутренней доске объявлений Meta. в сентябре и сообщается сейчас впервые.
Для поддержки работы ИИ потребуется, чтобы Meta (META.O) «принципиально изменила дизайн нашей физической инфраструктуры, наши программные системы и наш подход к обеспечению стабильной платформы», — добавил он.
Уже больше года Meta занимается масштабным проектом по приведению в форму своей инфраструктуры искусственного интеллекта. Хотя компания публично признала, что «немного догоняет» тенденции в области аппаратного обеспечения ИИ, подробности капитального ремонта, включая нехватку мощностей, смену руководства и свернутый проект чипа ИИ, ранее не сообщались.
Отвечая на вопрос о меморандуме и реструктуризации, представитель Meta Джон Карвилл сказал, что компания «имеет проверенный опыт создания и развертывания современной инфраструктуры в масштабе в сочетании с глубоким опытом в исследованиях и разработке ИИ».
«Мы уверены в своей способности продолжать расширять возможности нашей инфраструктуры для удовлетворения наших краткосрочных и долгосрочных потребностей, поскольку мы внедряем новые возможности на основе ИИ в наше семейство приложений и потребительских продуктов», — сказал Карвилл. Он отказался комментировать, отказалась ли Meta от своего ИИ-чипа.
Джанардхан и другие руководители не удовлетворили запросы на интервью, сделанные через компанию.
Капитальный ремонт увеличил капитальные затраты Meta примерно на 4 миллиарда долларов в квартал, согласно раскрытиям компании, что почти вдвое больше, чем расходы по состоянию на 2021 год, и привел к приостановке или отмене ранее запланированного строительства центров обработки данных в четырех местах.
Эти инвестиции совпали с периодом серьезного финансового кризиса для Meta, которая с ноября увольняет сотрудников в масштабах, невиданных со времен краха доткомов.
Между тем, поддерживаемое Microsoft приложение OpenAI ChatGPT стало самым быстрорастущим потребительским приложением в истории после своего дебюта 30 ноября, вызвав гонку вооружений среди технологических гигантов за выпуск продуктов с использованием так называемого генеративного ИИ, который, помимо распознавания закономерностей в таких данных, как другой ИИ создает человекоподобный письменный и визуальный контент в ответ на подсказки.
По словам пяти источников, генеративный ИИ поглощает огромное количество вычислительной мощности, усиливая неотложность проблемы с производительностью Meta.
ОТСТАВАЯ
По словам этих пяти источников, основной источник проблем можно проследить до запоздалого использования Meta графического процессора или графического процессора для работы ИИ.
Чипы GPU идеально подходят для обработки искусственного интеллекта, поскольку они могут выполнять большое количество задач одновременно, сокращая время, необходимое для обработки миллиардов фрагментов данных.
Тем не менее, графические процессоры также дороже, чем другие чипы, при этом производитель чипов Nvidia Corp (NVDA.O) контролирует 80% рынка и сохраняет лидерство в сопутствующем программном обеспечении, говорят источники.
Nvidia не ответила на запрос о комментариях для этой истории.
Вместо этого до прошлого года Meta в основном выполняла рабочие нагрузки ИИ, используя парк стандартных центральных процессоров (ЦП) компании, рабочих лошадок вычислительного мира, которые десятилетиями заполняли центры обработки данных, но плохо выполняли работу ИИ.
По словам двух из этих источников, компания также начала использовать собственный собственный чип, который она разработала для логического вывода, — процесс искусственного интеллекта, в котором алгоритмы, обученные на огромных объемах данных, выносят суждения и генерируют ответы на подсказки.
К 2021 году этот двусторонний подход оказался медленнее и менее эффективным, чем подход, основанный на графических процессорах, которые также были более гибкими в работе с различными типами моделей, чем чипы Meta.
Meta отказалась комментировать производительность своего ИИ-чипа.
По мере того, как Цукерберг переводил компанию в сторону метавселенной — набора цифровых миров с дополненной и виртуальной реальностью — нехватка мощностей замедляла ее способность развертывать ИИ для реагирования на угрозы, такие как рост конкурента в социальных сетях TikTok и конфиденциальность рекламы во главе с Apple. изменения, сказали четыре источника.
Спотыкания привлекли внимание бывшего члена правления Meta Питера Тиля, который ушел в отставку в начале 2022 года без объяснения причин.
На заседании совета директоров перед своим уходом Тиль сказал Цукербергу и его руководителям, что они самоуспокоены по поводу основного бизнеса Meta в социальных сетях, но слишком много внимания уделяют метавселенной, которая, по его словам, делает компанию уязвимой для вызовов со стороны TikTok, согласно двум источникам, знакомым с обмен.
Мета отказался комментировать разговор.
НАСТИГНУТЬ
По словам одного из источников, после прекращения крупномасштабного развертывания собственного специализированного чипа логического вывода Meta, которое было запланировано на 2022 год, руководители вместо этого изменили курс и в том же году разместили заказы на графические процессоры Nvidia на миллиарды долларов.
Мета отказалась комментировать заказ.
К тому времени Meta уже на несколько шагов отставала от конкурентов, таких как Google, который в 2015 году начал развертывание собственной версии графических процессоров под названием TPU.
Той весной руководители также приступили к реорганизации подразделений ИИ в Meta, назначив в процессе двух новых руководителей инженерного отдела, в том числе Джанардана, автора сентябрьского меморандума.
Согласно их профилям в LinkedIn и источнику, знакомому с увольнениями, более дюжины руководителей покинули Meta во время многомесячных потрясений, что означает почти полную смену руководства в инфраструктуре ИИ.
Затем Meta приступила к переоснащению своих центров обработки данных для размещения поступающих графических процессоров, которые потребляют больше энергии и выделяют больше тепла, чем центральные процессоры, и которые должны быть тесно сгруппированы вместе со специализированной сетью между ними.