Qualcommovi čipi z umetno inteligenco so v novem sklopu testnih podatkov, objavljenih 5. aprila, premagali družbo Nvidia v dveh od treh meril energetske učinkovitosti. Nvidia prevladuje na trgu za usposabljanje modelov umetne inteligence z velikimi količinami podatkov.

 

Sklepanje: ključna funkcija umetne inteligence

 

Ko so modeli umetne inteligence enkrat usposobljeni, se uporabljajo širše pri tako imenovanem “sklepanju“, pri čemer opravljajo naloge, kot sta ustvarjanje besedilnih odgovorov na poizvedbe in pravilen odgovor na vprašanje, ali je na sliki mačka.

Artificial Intelligence Hardware Market to See 30.6% Annual Growth Through  2024 | Newswire

Rastoč trg inferenčnih čipov

 

Analitiki menijo, da bo trg za inferenčne čipe v podatkovnih centrih hitro rasel, ko bodo podjetja v svoje izdelke vključevala tehnologije umetne inteligence. Vendar podjetja, kot je Google, že iščejo načine, kako zmanjšati dodatne stroške, ki bodo s tem nastali.

Deep Learning Inference Platforms | NVIDIA Deep Learning AI

Qualcommov varčen čip: Cloud AI 100

 

Qualcomm je uporabil svoje strokovno znanje pri oblikovanju čipov za naprave z baterijskim napajanjem, kot so pametni telefoni, in ustvaril čip, imenovan Cloud AI 100, katerega cilj je varčna poraba energije.

Qualcomm Cloud AI 100 | AI Inference Processor for Datacenters | Qualcomm

Rezultati testov: Qualcomm premaga Nvidio v dveh od treh meril

 

V testnih podatkih, ki jih je objavil MLCommons, je Qualcommov AI 100 premagal Nvidiin vodilni čip H100 pri razvrščanju slik in pri zaznavanju predmetov. Zaznavanje objektov se lahko uporablja v aplikacijah, kot je analiza posnetkov v trgovinah na drobno, da se ugotovi, kje kupci najpogosteje hodijo.

Qualcomm, and Nvidia Compete for AI Chip Efficiency