当前位置:首页 > 快讯

科大讯飞刘聪:AI应用落地的关键是深入场景

快讯 2024-07-31 15:31:02

来源:互联网   责任编辑:林动

  “AI大模型应用落地的第一核心是深入理解场景,用场景需求牵引着技术的发展。”7月29日,科大讯飞副总裁、研究院院长刘聪在媒体沟通会上对外表示,中国拥有独特的应用场景优势,庞大的人口基数为行业产品提供了丰富的数据和多样化的应用场景,AI应用要能够创造商业价值,核心在于对落地场景的深入理解。对于目前热议的小模型潮流,刘聪认为,模型大小的选择也应根据实际应用场景和任务需求来决定。

科大讯飞副总裁、研究院院长刘聪

  大模型落地依赖对场景需求的认知

  2024年,大模型赛道竞争更加激烈,刘聪表示,科大讯飞更关注大模型能否真正实际应用到系统中,为用户提供可衡量的价值和效果,在这个过程中对场景的认知起到关键作用。

  刘聪以科大讯飞发布的首款星火智能批阅机为例,“没有大模型时,我们也做批改,有了大模型之后,现在批改比过往厉害了很多。”他表示,该款智能批阅机目前基于星火大模型V4.0的底座能力研发,可以在对多学科、多题型作业进行智能批改,即时生成报告,以便老师在作业讲评时进行分层辅导。

  刘聪认为,这款产品之所以能迅速被市场接受,背后离不开对行业的深入理解和技术积累。科大讯飞早在十年前便提出了全学科自动阅卷的概念,通过长期的技术积累,才能够快速将大模型技术应用在产品中,并实现产品性能的快速迭代。

  正是基于对场景的深入认知,科大讯飞在执行大模型“1+N”路线时也会因地制宜。“1+N”的“1”指通用的认知智能大模型,“N”就是大模型在各个领域的落地,包括教育、办公、汽车、人机交互以及医疗等。刘聪坦言,经过实践,他们发现之前设定的“1+N”的逻辑存在冗余问题,今年,他们对“1”和“N”的划分进行了调整,“N”在落地场景中,有部分场景下的常用能力可以整合到核心业务里,不再作为独立业务存在,减少重复开发的工作。

  让场景和实际任务需求来决定模型选择

  大模型进入下半场,从技术到应用,市场对于更易本地部署的高效率、低成本模型越来越感兴趣。今年暑期,AI巨头们也密集发布小模型,既比性能,还拼价格。

  7月19日,OpenAI发布GPT-4o mini,号称是“OpenAI最智能和最实惠的小模型”,无独有偶,苹果也发布了DCLM小模型,并且发布即开源。有观点指出,这些模型参数小、占内存少,在特定场景中,经过精调后使用效果可以媲美大模型,成为性价比之选。

  在刘聪看来,大模型与小模型的选择,其实根据复杂任务规划需求而定。对于部分高难度任务包括复杂的推理任务,比如数学推理等这类任务往往需要大规模模型的支持,因为它们涉及多步骤推理和跨领域信息整合。对于简单的任务,比如特定行业的翻译或文本处理,甚至编写代码这类专业性工作,中小规模的模型可能就足够了。特别是在需要快速响应的场景下,如在个人电脑上使用,通常不需要依赖云端处理。

  “不过,小模型的不断进步需要依赖大模型的发展。”刘聪指出,无论是大模型还是小模型,最重要的是根据实际应用场景和任务需求来决定,而不是简单地追求模型的大小或复杂度。

  刘聪表示,国内拥有独特的应用场景优势,庞大的人口基数为行业产品提供了丰富的数据和多样化的应用场景,这在某种程度上是优势。尽管在通用大模型的用户活跃度上可能不及国外,但在行业应用方面,中国拥有丰富的场景和数据,这反而成为机会。

免责声明:以上内容为本网转自其它媒体,相关信息仅为传递更多信息之目的,不代表本网观点、亦不代表本网站赞同其观点或证实其内容的真实性。如有侵权请联系本网删除。
Top