AI下一站：Inference

    Nvidia第二季 的业绩，喜出望外，尤其第三季的预测，更大超预期，但之后几日的股价有点反高潮，市场亦散发负面情绪，忧虑AI市场化、double booking 、估值太贵和竞争对手涌现。市场上有不同声音是好事，一方面可以降温，并且让我们静思弄清来龙去脉，当机立断。

    AI不是新鲜事，最早IBM已用超级电脑去建立人工智能（AI），并且（象）棋开得胜，那时候的AI似Motorola DynaTAC吧。今年初OpenAI推出GPT3.5，正式将AI带进生活。今天PC和移动手机已是生活的一部分，下个生活改变是AI生活化，这是事在必行，但现在仍是开发阶段。整个AI生态是包含两部份：Training和Inference。

    Training

    人类智能不是与生俱来，婴儿开始透过不断学习（Training）吸收知识，学以致用，父母为令子女出人头地，四出找好学校（LLM），希望明师出高徒，将来学有所成，一展所长，最好是成为另一个爱因斯坦或奥本海默。AI就是要训练一个超劲的LLM，好能将来谁与争锋，现时的LLM包括：GPT3.5/4、PaLM2/E、Claus v1、LLaMA等，每个都拥有海量的知识，并且 training 还在加速进行，对GPU有很大的需求。

    上年AI startup共集资46B，今年是有增无减，这些现金主要是花在人工和买算力，现在是有钱也买不到算力，CSP绝对清楚需求，有多少买多少。市场传CoreWeave再集资8亿买GPU，应付需求。

    Inference

    要将train咗的知识表达出来已不是大问题，每个LLM都会发佈自己的考试成绩。ChatGPT、Bard、BingChat就是在这方面作出贡献，留意这工作亦要GPU算力。Inference是进一步利用 LLM内的知识去举一反三，进一步演译，这是未来真正的AI。简单例子，LLM透过吸收大量的汽车图片，去判断是否真车、死车、假车、什麽车，进而在自动驾驶如何面对和处理。

    现阶段，AI developers仍然在努力training，这是非常烧钱的工作，但是必需，并且要斗快跑出，因为胜者为王。但 inference才是最关键和非常不容易，人脑的认知和应变是现在AI不可能的任务。还好是，一些简单inference 的工作已开始推出，产生收入，例如Microsoft Copilot 、Adobe Firefly。这方面需要的算力绝对不低。

    GPU

    在整个AI生态，无论是Training 或Inference ，GPU是不可或缺。现时Nvidia 佔七成，严肃讲，其实是九成以上，因为那三成是传统GPU，卽图像处理，Nvidia 的GPU是加速器。Amazon、Alphabet等亦有研发相类的芯片，但自用为主。Nvidia 盟主的地位，已很难有威胁，因为它结合linking和SDK支援，令用者称心如意，要转台绝对不是简单事情。

    Microsoft 不搅芯片，选择跟Nvidia 合作，Alphabet和Amazon有自家芯片，但亦要高调宣佈跟Nvidia 合作，因为客户需求。

    CPU 可以处理inference, 但跟GPU 一併，荣辱互见。



    Nvidia

    观乎这几季Nvidia Data Centre 的销售，对比之前是有点跨张，但事实上，部分是从Intel的份额转过来，整体Data Centre的销售增长是合理。并且也不存在盲抢或double booking，因为data centre买H100来让用户租用，现在是供不应求，未来不会突然消失，因为training 和inference 并驾齐驱，还好后者可以用RTX或L40。


    Nvidia 在$487水平 的TTM市盈率是80X，大家不要吓一跳，因为到第三季已降至59X，年尾是43X，明年第一季是低过40X，是往绩地板位。判断平与贵，一定要结合未来的盈利增长，是否有消化能力，这方面，自己做功课。

    Data Centre

    过去一段时间，三大data centre每年都在高速增长，因为硬件及算力需求，企业明白租用data centre胜过自购，情况如企业会选择租物业，取其灵活及轻资金。20年疫情爆发，WFH盛行，更加速data centre的发展。今年data centre 大量採购GPU，当然不是自用，所以这业务的前景值得看好。


    OpenAI

    当大家仍在思考究竟AI是烧钱还是有作为，这便要观察AI是否有生产力，这才可以变现。有报道OpenAI今年营销达10亿（原本目标是2亿），这原本是明年的的目标，证明是有“食”力。

    OpenAI的商业变现包括透过API/plugins 提供GPT、DALL-E和Whisper，另外是为开发者提供Chat、Embeddings、Analysis和Fine-tuning。OpenAI有财和有才，公司已表明没有打算资本化，但肯定是AI大赢家，到年底的营收肯定超过现时的每月80M。 给大家参考，META、Alphabet 和Apple上年的营收分别是114B、282B和394B。AI未来的变现数和速度，不容低估。

    FOMO

    Nvidia 和OpenAI是非常励志，给行业很大鼓舞，虽然我们知道是汰弱留强，甚至是winner takes all，但不阻止各类持份者争先恐后，因为FOMO。

    蔡光华，力高资产管理投资总监 chris.choy@legogroup.hk（香港证监会持牌人）