Google анонсировала Trillium, тензорный процессор шестого поколения (TPU), специально разработанный для обучения крупномасштабных генеративных моделей ИИ. По сравнению с предыдущим поколением Cloud TPU v5p, Trillium предлагает до 1,8 раза лучшую производительность на доллар и впечатляющую эффективность масштабирования 99%. Google сосредоточилась на улучшении эффективности масштабирования сходимости, которая измеряет, насколько эффективно дополнительные вычислительные ресурсы ускоряют процесс обучения до завершения. Результаты бенчмарков показывают, что Trillium достигает сопоставимой эффективности масштабирования сходимости с Cloud TPU v5p при более низкой стоимости. Trillium предоставляет экономичное решение для обучения генеративных моделей ИИ, позволяя организациям разрабатывать более мощные и эффективные модели.
Повышение эффективности обучения LLM с помощью Trillium - анализ производительности
Google Cloud