白海科技卢亿雷:各行各业都正在被大模型重塑丨非凡挚友

大数据
后台-插件-广告管理-内容页头部广告(手机)

嘉宾介绍

卢亿雷,白海科技创始人兼CEO。CCF大数据专委常务委员和高性能专委委员,北航特聘教授,中国大数据技术大会主席,2017年中国大数据行业领军人物。超过15年大数据和AI计算平台经验,在百度、联想、明略等公司负责高性能计算、AI基础平台等相关技术及产品,拥有丰富的产品技术架构及管理经验。
白海科技是新一代云原生AI基础软件服务商,致力于帮助开发者和企业解决AI落地过程中的效率、性能、成本等问题。白海科技核心产品为训推一体的AI云平台IDP(Intelligent Development Platform),一站式提供AI及大模型开发落地全流程工具及异构资源调度引擎,帮助企业和机构提升AI开发效率,降低AI及大模型落地门槛,提高AI计算性能和集群算力资源利用率。白海科技坚持自主创新,在核心领域已积累丰富专利、软件著作权、全球顶会论文等。

快问快答

1、能否介绍下你们的产品和核心应用场景?
我们的核心产品是AI训推云平台,为大模型应用提供高效、灵活、安全的支持。平台包括三个核心子模块:
IDP Studio: 一站式AI平台,支持全流程的AI开发生产,包括数据处理、模型开发、训练、管理和服务等。独有的自研AI IDE提供纯自主可控的开发环境。
IDP LM: 零代码大模型微调构建平台,专注于大模型领域,提供数据预处理、模型微调和部署全流程的零代码工具,降低大模型应用落地门槛。
IDP Engine: 专注AI领域的资源调度引擎,统一管理异构资源,提高集群利用率,解决GPU集群利用率不足的挑战。
我们的训推云平台已广泛落地于智算中心、能源、矿业、媒体互联网、高校等领域,服务世界500强和各领域领军企业。应用场景包括能源企业的AI中台、工业企业的AI基础平台、高校AI及大模型实训、媒体企业的DMaaS平台等。
在应用层,基于白海训推平台打造了多模态营销智能体IMC-GPT,支持海报生成、slogan生成、营销策划等多模态任务。
2、目前产品研发和市场拓展情况是什么样?2023年遇到的最大挑战和收获有哪些?
产品层面,基于两年的AI基础平台积累,我们迅速推出了针对大模型领域的微调平台。
市场拓展方面,针对大客户和中小客户,我们提供了标准化解决方案和针对性商业模型。针对中小客户的需求,我们推出了云服务,解决了灵活和低成本算力的挑战。
挑战来自于2023年的大经济环境,是大多数B2B公司面临的问题。AI技术的迅速发展也是一项巨大挑战,需要确保产品和服务能够快速适应这些变化。
谈到收获,我认为挑战和收获其实是一体两面的,新技术的挑战也带来了宝贵的收获,我们的团队能够快速响应技术和市场的变化,在大模型发展的早期就率先有些工具和落地成果。最大的收获就是团队的成长和产品上的快速创新。
3、生成式AI和大语言模型为创业者带来了哪些机遇?这波创业浪潮和过往有哪些不同?
大模型引领新的技术范式,共识是“各行各业都会被大模型重塑”。这为创业者带来了广阔机会,探索空间巨大,如智能决策支持(法律助手、投决助手)和自动化生产力提升(自动写代码、AI翻译)等。
与过往创业浪潮不同的两点是:
创新的“民主化”:生成式AI和大语言模型降低了技术门槛,使非技术创业者也能开发和部署复杂的AI应用。
应用场景的多样化:大语言模型具有广泛适用性和通用性,允许创业者在丰富多元的应用场景中创造解决实际问题的产品。
4、目前国内市场环境落地AI应用面临哪些挑战?
我们的业务就是赋能企业落地AI,在服务客户大模型落地过程中,我们发现,企业普遍面临的挑战就是"高门槛”和“不确定”。
“高门槛”是AI落地所需的算力、人力、时间成本高。具体来讲有四个方面:
算力成本高:算力资源成本高,获取难,且资源的充分利用挑战大,导致资源成本较高;
模型微调难度大:利用自有数据进行模型微调的难度较高,涉及包括数据的处理、模型的微调方法等,需要专业积累;
工程化能力弱:将算法模型从试验环境应用到生产环境,涉及到系列工程化需求,以保证模型的性能、稳定性;
建设落地周期长:企业从零开始构建AI尤其是大模型应用,落地周期较长,涉及到算力资源建设、开发平台构建等基础工作。
“不确定”是AI实际带来的业务价值存在不确定性,尤其是在面对相对较新的大模型技术时。虽然大模型被认为拥有强大能力,但确切的业务价值和ROI仍不明确。我们帮助客户澄清这一点,找到最适合大模型发挥“魔力”的场景。
5、您认为AI创业公司在产品研发和市场推广策略制定与执行方面应该考虑哪些关键因素?
首先是找准定位:找准用户需求和自己的市场定位,一方面,理解目标客户和用户的具体需求是关键,需要保证解决的是市场上真实存在的问题;另一方面是结合企业自身的优势,找准自己的定位,创业公司阶段不可能什么都做,围绕自己的优势找到切入口,做夯实。
其次是“快“,快速迭代。大模型的变化和演进是飞速的,是真正的“日新月异”,每天都有新的行业进展。创业公司更具有灵活性,能够快速响应市场和行业的变化。
生态和合伙伙伴的搭建:这一点和“找准定位”是相辅相成的。创业企业做的事情是聚焦的,但通常客户,尤其是B端客户的需求是一整套解决方案。需要找到合作伙伴,优势互补,共同满足客户的需求。
6、面对巨头可能带来的“降维打击”风险,AI创业公司应该如何保持竞争力?
1)最重要的是找准专注的领域,不是与巨头在广泛的领域进行全面直接的竞争。
2)快速的市场响应和灵活性:小型公司通常比大型企业更灵活,要充分利用这一优势,更快地适应市场变化、迭代产品。
3)建立用户社区:通过社区培养一批具有黏性的产品的用户,构建自下而上的品牌效应。我们打造 Baihai IDP 公众号的技术专栏,提供 IDP 的体验版和开源版等,都是为了服务这一目标。
4)合作与伙伴关系:与上下游的其他公司、研究机构或创业公司建立合作伙伴关系,协同为客户提供完整的解决方案。
7、一些创业者认为大语言模型目前能力还不够,限制了AI应用/产品的发展。您对此怎么看?
目前大语言模型确实还存在一些挑战,比如理解和生成的深度、推理能力、偏见和伦理问题等等。我们应该看到大语言模型,首先还是”语言“模型,它有自己最擅长的领域,就是处理文本类内容。我们不能要求它目前什么都能做,不能神话大模型。
围绕大语言模型能力优势方向,还是有很多可以探索的方向的,比如企业内部的知识库,写作助手、客服等。
8、如何看待大模型和GenAI 带来的“人机协同”新范式?企业如何适应和革新自动化流程业务升级的变化趋势?
我们追求的“人机协同”范式旨在利用AI增强人的能力,利用AI完成高效完成具体明确的任务,从而提升工作效率和创新。
对企业而言,重点需要理顺工作流程,探索最有效引入AI的环节。同时,强调高质量数据的管理,作为AI(尤其大模型)的核心基石。在帮助企业落地大模型时,我们发现数据采集和处理是耗时环节,企业需在数字化和数据准备方面提前准备。
9、2024年还有哪些新技术趋势值得关注?
从 AI 落地角度来看, 24 年会是大模型工具层的爆发元年, 比如LMOps、Agent工具等。23 年是基础大模型元年,经历了一年大模型的应用探索,大家对大模型能做什么、可以产生什么价值已经有了相对深入的认知。2024年,模型落地工具层面会是蓬勃发展的一年。

报名通道

- END -
作者:卢亿雷
编辑:Qiuping
- 推荐阅读 -
行业洞察 | 全球风险投资遇冷,AIGC赛道能否一枝独秀? | AI在金融领域:技术引领未来的同时,面临人才和数据的双重挑战 | 创意变革与市场颠覆:AIGC对广告行业的全面影响|数字人与生成式AI未来的创造力和机遇 | AIGC如何革命性提效内容营销|行业数据+场景:AI风口下,率先利好的是这样的公司|AI+金融:引领以交易为中心转向用户为中心的增长变革|探索未来:AI-Agents引领人工智能革命|从创意到收益:AIGC展现崭新商业化视角|跨境电商的AI时代:从工厂创新到客户服务的全面转型
公司调研 | 百度|寒武纪|昆仑万维|蓝色光标|科大讯飞
行业报告 | 2023年11月全球AIGC行业月报| 2023年H1全球AIGC行业半年报
行业图谱 | 2023年中国AIGC行业图谱V3.0
更多历史文章及报告合集请戳
后台-插件-广告管理-内容页尾部广告(手机)
标签:

评论留言

我要留言

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。