3月16日下午,文心一言发布会在百度科技园举行,百度创始人李彦宏表示,文心一言是百度十几年超大规模的开发投入积累来的。
李彦宏现场演示了文心一言的多种能力。
“从文心一言的表现看,某种程度上它具有了对人类意图的理解能力,回答的准确性、逻辑性、流畅性,都逐渐接近人类水平。但整体而言,这类大语言模型还远未到发展完善的阶段,它们有时候会有很惊艳的表现,但不少场景下,细究起来还有明显的bug,进步空间很大。未来这段时间它一定会飞速发展,日新月异。”
李彦宏认为,人类进入人工智能时代,IT技术的技术栈发生了根本性变化。过去基本分为三层:芯片层,操作系统层和应用层。现在可以分为四层:芯片层、框架层、模型层和应用层。
“百度是全球为数不多、在这四层进行全栈布局的人工智能公司。”李彦宏介绍,文心一言位于模型层。2019年,百度推出了文心大模型ERNIE 1.0。目前,ERNIE 3.0每天接受数十亿次用户的搜索请求。这让文心一言能够基于一个庞大的、高效的数据池,快速地学习和改进。
“大模型训练堪称暴力美学,需要有大算力、大数据和大模型,每一次训练任务都耗资巨大。”李彦宏介绍,全栈布局的优势在于,可以在技术栈的四层架构中,实现端到端优化,大幅提升效率。尤其是,框架层和模型层之间,有很强的协同作用,可以帮助构建更高效的模型,并显著降低成本。事实上,超大规模模型的训练和推理,给深度学习框架带来了很大考验。
李彦宏还表示,芯片、框架、大模型和终端应用场景,可以形成一个高效的反馈闭环,帮助大模型不断去调优迭代,越做越好。更好的大模型,会让用户体验不断升级。
本文转自 网易新闻,原文链接:https://c.m.163.com/news/a/HVVAVP7Q0512B07B.html,如需转载请自行联系原作者