Какво обяви Google
Google направи TorchTPU достъпен с отворен код на 20 октомври по време на PyTorch Conference. Софтуерният стек позволява задачи на PyTorch да работят нативно върху TPU на Google. Според компанията той е разработен с екипа на PyTorch в Meta и цели минимални промени в кода. Това са твърдения на доставчика за съвместимостта, а не независима оценка на производителността. [1]
Контекст: чиповете се нуждаят от екосистема
Ускорителят става полезен за организацията, когато моделите, библиотеките и работните инструменти могат да го използват. Преминаването между хардуерни платформи изисква инженерно време, а не само покупка. Познатата среда за разработка може да намали една от пречките. Това обяснява защо съобщение за отворен софтуер може да има търговско значение, подобно на премиера на хардуер.
Отвореният код не прави изчисленията безплатни
Достъпът до изходния код и достъпът до изчислителен ресурс са различни неща. Екипът трябва да осигури подходящ хардуерен капацитет, да настрои средата и да установи, че конкретната му задача работи надеждно. Нужна е и оценка на цялата цена за прехвърляне и експлоатация. Отвореният код дава повече видимост върху софтуера, но сам не решава тези практически въпроси.
Как би се доказало предимство
Съпоставимите тестове трябва да използват еднакъв модел, целево качество и предположения за натоварването. Обучението и обслужването на модел са различни задачи; резултатът в едната не се пренася непременно в другата. Следващите полезни доказателства са възпроизводим опит от внедряване и ясно описани сравнения, а не допускане, че поддръжката на дадена среда ускорява всяка задача.
