来源：创业邦(ID: ichuangyebang)作者：Bari编辑：儿子：图来源：图虫创意这几天，一个叫ChatGPT的聊天机器人彻底打破了圈子，火遍了网络。它可以写代码，可以修复bug，可以帮你写每周工作报告，可以写小说，可以回答高考，甚至可以骗它策划如何毁灭人类。虽然市面上已经有大量的聊天机器人，但马斯克仍然对此感叹道：“许多人都疯狂地陷入了ChatGPT循环，而我们离强大而危险的人工智能已经不远了。”这个看似无所不能的ChatGPT是美国OpenAI开发的大规模预训练语言模型。马斯克是这家公司的创始人之一。12月5日，OpenAI首席执行官山姆奥特曼(Sam Altman)在社交媒体上发布消息称，ChatGPT于上周三推出，迄今用户已突破100万。即使是服务器的免费测试版也很快被热情的测试用户淹没。联想集团副总裁、联想创投集团高级合伙人宋春雨向《创业邦》表示，AI预训练模式的出现，已经成为近三年AI算法创新最受关注的投资机会。据野兽分析，2022年以来，国内出现了多个大型的前期培训模型赛道，单笔融资金额达10亿元，其中不乏联想创投、君联资本、祁鸣创投、创新工场等知名投资机构。被网友爆料的ChatGPT到底是什么？背后的大规模前期培训模式是一个怎样的赛道，为什么会受到众多投资机构的追捧？融资热的背后，离真正的大规模商用还有多远？

AI如何突破人类，一个发人深省的答案

AI教你怎么找男朋友

帮你写周报对付你老板。

试试python写个闰年判词。有详细的解释，但看起来像是从某节目网站抄袭来的。

AI一本如何认真地胡说八道

什么是“新网络名人”ChatGPT？简单来说，预训练模型就是前人为了解决问题而创建的模型。后人在解决类似问题时，不需要从零开始训练一个新的模型。相反，他们可以使用之前在类似问题中训练的模型来解决现有的问题。与大家熟悉的语音助手不同，ChatGPT可以理解与人对话中更复杂的句子，比如有多层语法嵌套的句子。同时，ChatGPT具有一定的联系上下文理解上下文的能力，能够就一个问题与对方进行持续深入的交流。令人惊讶的是，ChatGPT不仅可以承认错误，质疑不正确的前提，还可以拒绝不适当的请求。这意味着ChatGPT已经可以实现围绕某个话题与人类进行对话和讨论的可能性。OpenAI官方表示，ChatGPT是在人类的帮助下创建和训练的，人类训练员对这个AI早期版本回答的方式进行排名和评级查询。然后，将这些信息反馈给系统，系统会根据训练者的喜好调整答案。这是一种训练人工智能的标准方法，称为强化学习。郭盛证券研究报告显示，ChatGPT拥有多达1750亿个模型参数，OpenAI主要使用的公开爬虫数据集是超过万亿字的人类语言数据集。研究报告指出，ChatGPT在寻找答案和解决问题的效率上已经部分超越了今天的搜索引擎。ChatGPT可能会改变我们未来获取信息和输出内容的方式，AIGC(AI生成的内容)有望成为推动数字经济时代需求爆炸的杀手级应用。

然而，ChatGPT并不是一个懂天文地理的“最好的兄弟”。据官网介绍，ChatGPT目前存在一些局限性，包括有时会给出看似正确但很荒谬的答案，微调提问方式得到完全不同的答案，有时会重复使用某些句子。网友还发现ChatGPT有两个明显的缺点：输入不能错，解释不够人性化。所以这种五天用户突破模式突然被编程问答社区Stack Overflow封禁了。目前ChatGPT的研究团队也表示会根据用户反馈不断改进模型，未来还有很长的路要走。尽管如此，OpenAI仍被视为全球AI领域的顶级组织。AI在2020年推出的上一代GPT-3在当时被称为人工智能领域的重要里程碑。之后，OpenAI也开始尝试GPT-3的商业化。目前OpenAI以API的形式向开发者提供GPT-3模型，并根据token的使用情况进行收费。目前，有超过300个基于GPT 3的应用程序。今年的AI画火也离不开OpenAI。最早的时候，OpenAI已经推出了一款DALL-E低代码工具，只要用户提出想法，输入参数，计算机就会自动生成艺术级的画作。在这一波AI绘画热潮中，也涌现出了中旅、稳AI等初创企业，部分公司成为独角兽。它预示着大模型的巨大价值。2019年，即GPT-3推出的前一年，微软向OpenAI投资了高达10亿美元。这也为微软的云战略吸引了许多客户。比如美国最大的汽车零售平台CarMax，利用OpenAI的开发工具，直接分析10万条客户评论，根据客户表达的情绪将其分为正面、中性和负面，并提取关键词摘要，对公司的战略决策有很大帮助。CarMax的首席技术官甚至表示，如果没有人工智能，人工编辑团队需要11年才能完成这项工作。可以说OpenAI给人们带来了巨大的想象空间。

火热的融资背后，离真正的大规模商用还有多远？其实不仅仅是最近破的ChatGPT，中国近两年的“练大模”“练大模”的军备竞赛热潮也是如此。其中，行业巨头和高校科研机构功不可没。百度发布了大工业知识增强模型“文心”(参数规模2600亿)，基于“文心”模型，形成了工业全景图。同时，华为、鹏程实验室也发布了盘古模型，阿里巴巴达摩院发布了汉语言模型PLUG。此外，由北京致远人工智能研究院牵头，清华、北大、人大、中科院及相关企业共同研发的超大规模预训练模型“悟道”(悟道2.0的参数规模达到1.75万亿元)，也于2021年亮相。“AI预训练模型的出现，成为近三年AI算法创新最受关注的投资机会。”联想集团副总裁、联想创投集团高级合伙人宋春雨表示，随着超大规模AI预训练模型的技术突破，在自然语言理解方面已经表现出高度的可用性，简而言之就是“机器真的懂人”。他认为，大规模的预训练模式是AI大数据要走的必然之路。从学术界和产业界来看，AI和大数据技术的变化也会非常大。未来两年，最多三年，AI会有很大的能力提升。回顾历史，从最早的深度学习到Alpha go，再到零自训练，再到《变形金刚》，再到《GPT 3》，AI发展突飞猛进，不断落地应用场景。比如AI制药和预测性化学分子，大大提高了所在行业的生产力提高。祁鸣创投合伙人周志峰也表示，过去10年人工智能的发展集中在感知智能上，尤其是视觉和语音技术的突破。未来十年，人工智能将走向认知智能。预训练大模型是其核心技术驱动力和关键基础设施，让AI吸收更多知识进行理解和思考，最终实现接近人类水平的认知。同时，预训练大模型使AI从依赖人工参数调整建模走向可大规模复制的产业化阶段。大规模的前期培训模式受到投资人的青睐，也直接体现在投融资的热情上。动物分析显示，2022年以来，尤其是下半年，大型前期训练模型领域出现了多次大规模融资。2月10日，兰州科技完成近亿元Pre-A轮融资，由联想创投和世道资本联合领投，创新工场跟投。9月26日，智普AI宣布获得数亿元B轮融资，由君联资本和祁鸣创投联合领投。11月7日，萧冰公司宣布完成10亿元新融资。12月6日，灵芯智能完成数千万天使轮融资，由联兴资本领投，图灵创投、智普AI跟投。这些企业融资后都把商业落地作为重点，只是落地重点不同。兰州科技研发的“孟子”模型，以更小的模型尺度(10亿个参数)实现了超大型模型的性能，对领域和场景具有灵活的适应性。更有利于在机器翻译、文本生成、行业搜索等场景快速低成本落地。2021年9月，由兰州科技与传神合作的首个基于孟子预训模型的“仁度”翻译引擎正式上线发布。截至目前，兰州科技已完成各行业垂直领域20多个翻译模型的开发，涵盖新闻、财经、汽车等领域。目前听智能主要集中在游戏、营销、情感三个领域。12月，灵芯智能推出图灵世界首款产品“AI乌托邦”。用户可以快速定制AI角色，只需输入简单的角色描述，就可以召唤相应人设置的AI，进行深入的dia

在宣布新一轮融资的当天，萧冰公司启动了其AI Being员工产品线的年度升级，其中一项是加强大模型对话引擎。

据艾介绍，目前的框架内有30万数字员工，包括万科集团优秀员工崔、红杉中国第一虚拟分析师洪、虚拟歌手等。萧冰框架产生的“小表妹”等几个虚拟主播，全网播放量早已过亿。虽然各种“大炼模型”在商业应用上取得了一定的成绩，但是实际应用以及所能解决的实际问题仍然受到用户的质疑。平安前沿技术部负责人王乐妍曾公开指出，目前大规模的前期培训模式，在垂直领域存在“致命”的问题。他认为，大规模预训练模型在垂直领域的性能达不到要求的原因可能是大规模预训练模型的训练语料较大，既包含了该领域的关键信息，也包含了其他无关信息，使得模型对关键信息缺乏关注。同时，目前大规模预训练模型的机制改进很少涉及关键信息的提取。与ChatGPT上网友的“自娱自乐”不同，大规模的前期训练模式一旦商业化，一旦出现失误，将会造成不可挽回的实际损失。这也是客户最大的担心。尤其是金融行业的客户对线上模型的精度要求很高，很多场景下直接使用预装的模型往往难以满足要求。也有投资者表示，“虽然可以通过置信度评估的方式提高模型的可靠性，但距离真正‘好用’投入商业使用还有很长的路要走。”