Juntament amb la seva darrera tanda de noves plataformes mòbils per a telèfons intel·ligents de gamma mitjana, Qualcomm ha fet un anunci encara més gran en el seu AI Day de San Francisco. El gegant de xip mòbil està fent un altre joc per als servidors, després d’haver abandonat la seva gamma Centriq el 2018. Aquesta vegada, l’empresa està aprofitant les seves tecnologies en el camp de la IA per posar el peu a la porta de la computació en núvol. El primer xip que va anomenar la plataforma Qualcomm Cloud AI 100.
La plataforma Cloud AI 100 no és un reembalatge de xips mòbils, sinó que és un disseny terrestre de 7nm per a tasques d'inferència de l'AI, en lloc de formació. Això vol dir que el xip aixafarà els números que passen per xarxes neuronals en lloc de fer-los servir. Sembla que permet a Qualcomm competir directament amb les sèries Tesla T4 de Nvidia i els xips d'inferència TPU de Google Edge dissenyats per a servidors i informàtica en núvol. Igual que els seus competidors, Qualcomm s’ha adonat que el processament d’AI més eficient no es fa en CPU, GPU i FGPA, sinó que requereix un accelerador d’IA dedicat.
En termes de rendiment, Qualcomm estima un augment de rendiment superior a 50x d’IA respecte a les capacitats del seu Snapdragon 855. El Snapdragon 855 ofereix al voltant de 7 TOPS de rendiment, cosa que suggereix que el Cloud AI 100 es troba dins del rang de 350TOPS. Això sens dubte li donarà un pressupost al T4 de Nvidia. Qualcomm creu que també té l'avantatge en el rendiment per watt, amb una millora de 10 vegades en comparació amb les solucions d'inferència AI més avançades de la indústria actualment implementades. Quan escriviu grans números, l'eficiència elèctrica pot estalviar grans empreses en les factures d'electricitat. A més, Qualcomm vol aprofitar la seva experiència en processament de senyal i 5G, de manera que la seva plataforma de núvols pot funcionar a l'avantguarda en futures xarxes de latència molt baixa.
Qualcomm ens preguntaria si Qualcomm no comentaria si l’arquitectura utilitzada al Cloud AI 100 era propietària o es llicenciava des d’altres llocs. Em pregunto si es tracta de la primera aparició de l'arquitectura Trillium AI de Arm, que també està dissenyada específicament per a càrregues de treball en inferència amb un pressupost de poca potència. Amb especulació suficient, Qualcomm diu que compartirà més informació sobre la seva arquitectura AI en un futur.
Finalment, per donar suport als desenvolupadors, Cloud AI 100 de Qualcomm treballa amb la majoria, si no, de les piles de programari més importants del sector. Hi ha suport per als marcs de cafe, Keras, mxnet, TensorFlow, PaddlePaddle i Cognitive Toolkit, juntament amb els temps d’execució Glow, OnnX i XLA.
Es preveu que el Qualcomm Cloud AI 100 comenci a fer mostrejos als clients
