Pre IPO Cerebras Systems - Производитель самых мощных AI чипов

Cerebras Systems - компания разрабатывает и производит собственные чипы, созданные специально для работы AI нейросетей. В 2022г компания запустила самый эффективный в мире суперкомпьютер для обучения AI алгоритмов - Andromeda, способный выдавать 1 эксафлопс на AI задачах.

1 эксафлопс - это способность компьютера выполнять миллиард миллиардов операций с плавающей точкой в секунду. Для примера, человеку, совершающему 1 операцию в секунду понадобится 32 миллиарда лет, чтобы выполнить то, что 1 эксафлопс устройство делает за секунду.

В 2022г был также введен в эксплуатацию самый мощный в мире суперкомпьютер Hewlett Packard Frontier. Он способен выдавать 6.8 эксафлопс на AI вычислениях, это в 6.8 раз больше, чем Andromeda. Однако Frontier стоит в 20 раз дороже и потребляет в 44 раза больше электричества. Cerebras удалась этого добиться благодаря собственной технологии, которая позволяет создавать большее число вычислительных ядер, чем это было принято ранее, что позволяет параллельно выполнять большее число задач, что и требуется для обучения AI нейросетей.

Andromeda содержит 13.5 млн ядер, а Frontier - 8.7 млн. Также сборка Frontier заняла 9 месяцев, а Andromeda - 3 дня, в мире, где технологии устаревают все быстрее, это становится крайне важным фактором.

Суперкомпьютер Andromeda состоит всего из 16 чипов WSE-2 производства Cerebras. Каждый из этих чипов состоит из 2,6 триллионов транзисторов по 7нм технологии, это в 13 раз больше, чем новейший чип Nvidia GH200, анонсированный в мае 2023г.

Чип Cerebras WSE-2 является самым большим чипом в истории человечества. Размер чипа важен для построения мощных систем, т.к. с увеличением числа чипов в системе падает эффективность работы. Cerebras смогла добиться линейной прогрессии увеличения мощности, т.е. 2 чипа WSE-2 будут ровно в 2 раза мощнее, чем 1. В случае с построением AI системы на большом числе чипов Nvidia, встает большая задача параллелизации вычислений, что приводит к необходимости создания большой команды разработчиков. Для примера, OpenAI использует 40 человек для тренировки GPT-3 на чипах Nvidia, а для той же задачи на чипах Cerebras нужен только 1 человек.

В марте 2023г Cerebras открыла доступ к исходному коду для 7 пред-обученных LLM нейросетей (больших языковых моделей). Google, Meta и OpenAI не открывают исходного кода, что затрудняет широкую адаптацию AI возможностей. Также архитектура работы чипов полностью открыта для разработчиков. Cerebras делает ставку на open source, что может стать важным драйвером роста компании.

Конкуренты Cerebras Systems

Nvidia, главный конкурент Cerebras, не открывает исходного кода своих чипов, что затрудняет инженерам оптимизацию систем обучения нейросетей. В эффективности чипы Cerebras обгоняют даже самое последнее поколение Nvidia. На данный момент, главным козырем Nvidia является возможность поставок огромных партий чипов для больших заказчиков. Можно сравнить чипы Cerebras для обучения AI систем с ASIC устройствами для майнинга биткоина, до появления на рынке которых все использовали видеокарты Nvidia
Intel, Google, AMD, IBM - мощные игроки рынка чипов, однако они явно отстают от Nvidia по эффективности и масштабируемости систем обучения больших нейросетей.
Среди венчурных стартапов конкурентами Cerebras являются Graphcore (запуск суперкластера ожидается только в 2024г) и SambaNova (ориентированы на строительство дата центров для решения AI задач с большим объемом входных данных). Подход Cerebras дает все предпосылки к созданию действительно прорывной и масштабируемой бизнес модели, способной догнать и обогнать Nvidia в области создания сверх производительных AI решений.

Клиенты Cerebras Systems

Фармацевтические гиганты для изобретения новых лекарств (AstraZeneca, GlaxoSmithKline, PeptiLogics)

Лаборатории по исследованию ядерной физики (Argonne National Laboratory, Lawrence Livermore National Laboratory, Sandia National Laboratories, Los Alamos National Laboratory)

Управление энергетическими системами национальных масштабов (National Energy Technology Laboratory, TotalEnergies)

Суперкомпьютерные кластеры для оптимизации вычислений (Pittsburgh Supercomputing Center, National Center for Supercomputing Applications, Leibniz Supercomputing Centre, Edinburgh Parallel Computing Centre)

Cerebras в 2022г заключила партнерство с одним из самых горячих AI стартапов JasperAI, который обучает нейросети для своих 100+ тыс клиентов на чипах Cerebras

Чипы Cerebras закупает облачный AI провайдер Cirrascale, который дает возможность обучать GPT-3 сеть с 1.3 млрд параметров за 10 часов и за $2,500, это в 2 раза дешевле и в 8 раз быстрее, чем на чипах Nvidia

В ноябре 2022г номинанты престижной премии Gordon Bell исследовали мутации вируса Covid-19. В исследовании они написали, что для создания нейросетей использовали чипы Cerebras, вместо Nvidia, что позволило сократить время обучения в 10 раз.

Большинство AI экспертов на данный момент сходятся во мнении, что будущее - не за одним универсальным AI алгоритмом, а за множеством различных моделей, натренированных для решения определенных задач.

Тоже самое верно и для производителей AI чипов - будет несколько игроков, которые будут производить железно разных архитектур, в зависимости от структурированности и объема входящих данных, ограничений бюджета и времени на обучение, и требуемой точности и скорости получаемых результатов.

Обзор рынка

Не смотря на кризис венчурного финансирования в 2022-23гг почти по всем вертикалям, инвестиции в полупроводниковые стартапы остаются на рекордных уровнях.

**Данные за 2023г представлены на основании 1 квартала.

Также, большим стимулом развития отрасли послужил принятый в 2022г в США указ CHIPS and Science, который выделяет из бюджета $50 млрд на развитие национальных производств чипов. Всего за 10 лет планируется выделить колоссальную сумму в $280 млрд. На данный момент в США идет строительство десятков новых заводов, с запусками в период 2024-30гг. В общей сложности только в 2022г анонсировано проектов на $200 млрд. Вполне возможно, что Cerebras получит часть этих денег.

На данный момент, только 12% чипов в мире производятся в США. 75% - в Китае, Южной Корее, Тайване, Японии. Однако, из-за ограничений доступа к высоким технологиям, наложенных на Китай, и из-за опасений конфликта в Тайване, этот баланс может сильно поменяться в сторону США в ближайшие годы.

По разным прогнозам, мировой рынок AI чипов будет расти в ближайшие 5 лет темпами от 35% до 65% каждый год, при этом в США рост будет диспропорционально больше.

Страна:
Привлечено инвестиций:
Год основания:
Сотрудников:
Сектор:

Сан-Франциско, США
$720 млн
2015
400+
Производство AI ориентированных чипов

Ключевые инвесторы Cerebras Systems

Benchmark Capital - Asana, Uber, DropBox, Tinder, GrubHub, Wix.com,

Twitter, Instagram, Yelp, eBay

10X Capital - Robinhood, 23&Me, DraftKings, Palantir

Coatue Management - Grab, GitLab, Rivian, DiDi, Reddit, UiPath, Plaid,

DoorDash, SnowFlake, Slack, Uber, Lyft, Spotify

Altimeter Capital - GitLab, Grab, SnowFlake, UiPath, Roblox, Uber, Twilio,

Kayak, MongoDB, 23&Me, Confluent, Okta

West Coast Equity Partners - GitLab, Rubrik, SpaceX, Robinhood,

Scopely, Coursera

Sam Altman - Neuralink, Asana, Cruise, Flexport, Reddit

Команда Cerebras Systems

5 основателей компании до этого, в 2007г, основали венчурный стартап SeaMacro, который занимался разработкой чипов и программного обеспечения для больших серверных систем. В 2012г компания была поглощена AMD за $335 млн.

Инвестиционная привлекательность Cerebras Systems

Огромный и быстрорастущий рынок
Архитектурный подход, который уже доказал свое превосходство над конкурентами
Крупные клиенты из сложнейших сфер, где применяется AI
Иррационально большая скидка на акции ввиду рыночных условий

Cerebras Systems никогда не разглашала размера своей выручки, и даже числа проданных чипов. Известно только, что у компании есть как минимум несколько десятков крупных клиентов, часть из них арендуют чипы, часть - покупают суперкомпьютерные кластеры целиком. 1 чип Cerebras последнего поколения стоит порядка $2-3 млн, аренда на год такого чипа стоит $1.65 млн.

Рынок специализированных AI чипов к 2027г может достигнуть размера $200 млрд и у Cerebras есть отличные шансы занять его весомую часть. Зависимость от Nvidia многих больших потребителей, таких как Tesla, Meta и OpenAI становится слишком сильной, и Cerebras предлагает более выгодную альтернативу. Только Tesla планирует собрать к 2024г свой AI суперкомпьютер мощностью 100 эксафлопс, что равно 1600 чипам Cerebras или 60,000 чипов Nvidia H100.

Также, за последние месяцы было несколько громких раундов инвестиций для AI стартапов, размерами до $100+ млн, где большая часть средств будет расходоваться на закупку оборудования для обучения нейросетей. С началом восстановления рынков и с продолжением внедрения AI во все сферы экономики, эта тенденция будет только нарастать.

Средняя цена 1 акции Cerebras на вторичном рынке сейчас на 30-40% выше той цены, по которой мы покупаем акции в этой сделке.

Мы ожидаем IPO в 2024-25 году с доходностью для инвесторов в 50-100% годовых.