業(yè)務(wù)布局和規(guī)劃

端云一體解決方案

  • 支持智能汽車、智能終端及IoT 等設(shè)備
  • 支持 Top30+ 開源、商用大模型，針對(duì)不同應(yīng)用場(chǎng)景
  • 提供大語言模型及多模態(tài)語言模型性能調(diào)優(yōu)
  • 支持全球主流芯片平臺(tái)及適配多操作系統(tǒng)

生態(tài)建設(shè)規(guī)劃

ArraymoAIOS 聯(lián)手芯片，模型，應(yīng)用等伙伴共創(chuàng)AIOS軟硬一體化的解決方案

AI 加速引擎 AMLightning

計(jì)算資源優(yōu)化

AI 加速引擎 AMLightning 充分發(fā)揮硬件的張量計(jì)算能力

在高通平臺(tái)上，通過量化感知訓(xùn)練、自定義操作符和操作符融合等技術(shù)，實(shí)現(xiàn)算法在主流芯片平臺(tái)上的的最優(yōu)能效

Al算法加速

成熟的 AI 算法快速遷移到硬件平臺(tái)

操作符定制

為客戶特定算法開發(fā)高效操作符

操作符融合

分析客戶算法模型并通過操作符融合加速算法推理速度

算法調(diào)優(yōu)

優(yōu)化 AI 算法在硬件平臺(tái)上的后臺(tái)調(diào)度性能，減少精度損失

AI 加速引擎 AMLightning

硬件計(jì)算單元優(yōu)化

AI芯片的廠家及型號(hào)越來越多，并且多為異構(gòu)計(jì)算單元；開發(fā)者需要進(jìn)行復(fù)雜的適配優(yōu)化，才能獲得優(yōu)質(zhì)的應(yīng)用服務(wù)。

  • 解決芯片計(jì)算單元無法快速發(fā)揮最佳性能的問題
  • 縮短AI項(xiàng)目開發(fā)周期

幫助開發(fā)者快速調(diào)度AI芯片各個(gè)計(jì)算單元的能力，讓各類推理任務(wù)運(yùn)行在最適合的計(jì)算單元，從而提升運(yùn)行效率。

  • 多任務(wù)并行計(jì)算
  • 不同任務(wù)運(yùn)行在最優(yōu)計(jì)算單元
  • 一鍵調(diào)度增強(qiáng)算力

基于高通芯片平臺(tái)已部署的大模型