GPT
GPT
GPT 全称 Generative Pre-trained Transformer,由 OpenAI 训练与开发,核心机制是预测下一个 Token 的"文字接龙"——输入上文,模型逐层通过 Attention 整合信息、触发 FFN 中存储的知识,最终输出概率最高的下一个词。技术路线基于 Transformer 解码器,与 BERT 的编码器路径形成分野:解码器擅长生成,编码器擅长理解。
从 GPT-1 到 GPT-3,参数规模从亿级跃升至 1750 亿,"大力出奇迹"带来了上下文学习、零样本执行等涌现能力。2022 年底 ChatGPT 问世,在 GPT-3.5 基础上针对人类需求做大量微调,让模型"社会化";2023 年 3 月 GPT-4 发布,新增多模态处理能力。此后 OpenAI 推出 GPT Store,允许用户无需代码创建定制版 GPT。
GPT-4 一度被视为性能标杆,云启资本陈昱曾指出其核心壁垒在于工程优化的"秘密"。但到 2024 年,模型能力进阶速度显著放缓,从快速迭代进入渐进模式,Google Gemini 与之形成双雄格局,开源阵营 Meta 亦未缺席。国内大厂在继续追赶的同时,策略转向"结合钉子打磨锤子",将应用生态作为模型能力的实验田。
由 AI 生成,可能出现错误,请仔细核对内容。
相关报道
OpenClaw,你有一个新的订单!
你的第一个 Agent,我们为你充值。
真格基金·今年年会,我的同事被 AI “抢戏”了 | 云启尾牙手记
有 AI ,有彼此
云启资本·谷歌探索“持续学习”新范式:Nested Learning,AI 学习的"永动机"来了吗? | 云启科技 π
AI 的“失忆症” 能被治好吗?
云启资本·张涛首次回应争议,Manus 为什么没有被替代?|清华校园行
当你把智能交还给模型,魔法才会发生。
真格基金·对话 Pollo AI 朱陈彪:一个没有大厂与海外背景的「草根」创始人
游戏进入下半场,阿彪说,他想让 Pollo AI 成为 AI 时代的剪映。
真格基金·靠“稳”取胜:为什么 DeepSeek 在股市也能站住脚? | 云启科技π
一场真实世界里的 AI 竞赛
云启资本·从 Sierra 到 Jekka:AI 的边界、大规模实践与终点
未来尝试本身和时间将会是社会价值分配的锚点。
真格基金·当 AI 翻译卷到极致,创新从哪开始?深度对话 InnAIO 联合创始人 | 云启 Attent!on 播客
“翻译新物种”的产品逻辑与出海攻略
云启资本·Vol.11 AI 翻译卷到极致,创新从哪开始:一款新爆品的产品逻辑与出海“攻略”
云启资本·对话 ChatGPT 产品负责人,在 GPT-5 争议中看见了什么? | 云启科技 π
GPT-5发布以来热议和吐槽齐飞。面对"不留情面"的市场反馈,近日, ChatGPT 产品负责人 Nick Turley 接受科技媒体"The Verge"副主编 Alex Heath 采访,首次系统梳理了这场"反思"。
云启资本·模型与「壳」的价值同时被低估?真格基金戴雨森 2025 AI 中场万字复盘
2025 年,属于各行各业的「李世石时刻」才刚刚开始。
真格基金·代码之外,文科生还有AI时代的入场券吗?| 云启科技手账
每一种思考方式,都可能连接未来
云启资本·真格基金戴雨森:从「没必要付费」到「非用不可」,AI 正在冲击人类历史上最快的增长纪录
AI 的发展有点像烧开水,一旦到达沸点、蒸汽机的出现将会带来新的工业革命。
真格基金·他们还没毕业,就在用AI搭建自己的世界|五源小酒馆Vol.30 x AI Native创造者
AI Native一代在构建什么?
五源资本·现在最流行的开发者画像,可能是小红书native
新的创业缝隙。
暗涌Waves·AIGC 创意、产品与投资的三重对谈:未来的皮克斯会诞生在 AI 公司里吗?
我们离 AGI 时刻还有多远?
真格基金·对话智元首席科学家:把具身智能过度类比大模型,是对它最大的误读
必要的泡沫。
暗涌Waves·真格基金戴雨森:给年轻人的创业、投资与 AI 指南
充沛的精力、强烈的成功欲望以及无畏的创新精神。
真格基金·从OpenAI实习生到创办Perplexity,一个初创公司「挑战谷歌」的心得|Bolt荐阅
所谓“构建下一代信息交互体验”
线性资本·Synthesia CEO:我,从拿不到美签到公司估值 21 亿美元|Z Talk
一切最终都会回到两个核心:分发能力,和优秀产品。
真格基金·与 Koji 的 2025 开年对谈:AI 关键之年,Agent 开启元年|此话当真 EP35
对 AI 保持乐观。
真格基金·Bloomberg专访Altman:回顾ChatGPT两年发展,对AGI的判断|Bolt荐阅
Sam Altman 近期的一次访谈。
线性资本·Kimi 发布视觉思考模型 k1,「数理化」成绩领先 OpenAI o1|Z News
每个像素,都值得深入思考。
真格基金·三万字实录对话 Google Deepmind 研究员:拆解 OpenAI o1 及 LLM+RL 新范式|Z Talk
最硬核干货的 o1 技术解读。
真格基金·AI创业全球化:开源、机遇和挑战|五源小酒馆Vol.23【播客】
新一代AI创业者如何在开源和全球影响力中寻找机遇,应对挑战。
五源资本·黄仁勋眼中的「通用翻译器」,如何跨越视觉的坎?| 云启科技π
大模型的视觉难题
云启资本·Sam Altman谈OpenAI:艰难但正确的道路|Bolt荐阅
AI浪潮下初创企业的机遇与突围之道
线性资本·打开“黑盒”,自研模型,聊聊AI创业与创作|五源小酒馆Vol.22 x 彩云科技袁行远
如何让AI创作出比肩三体的作品?
五源资本·季逸超 Peak:迈向复现 OpenAI o1 的一小步之 Steiner 开源模型阶段性进展报告|Z Talk
从 OpenAI o1 发布以来,我就把复现 o1 作为业余时间的兴趣项目。
真格基金·明星创业者被击碎的21个月|WAVES
Good Game.
暗涌Waves·Kimi 创始人杨植麟最新分享:关于 OpenAI o1 新范式的深度思考|Z Talk
大模型下半场,新范式开启?
真格基金·万字对谈 Perplexity AI CEO:广告是最伟大的商业模式,月付 20 美元的订阅制不是 |Z Talk
价值不在于模型,价值在于创造模型的人。
真格基金·万字对谈 Scale AI 创始人 Alex Wang:为什么数据才是大模型的最大瓶颈,而非算力?|Z Talk
我们已经用尽了容易获取的所有数据。
真格基金·线性王淮:未来十年,AI浪潮下年轻人的机会在哪里
6月14-15日,36氪WAVES新浪潮2024大会在北京郎园station·仓酷顺利举办。WAVES是浪潮的意思,也正是当下年轻人勇于追梦,敢于创造精神的缩影。此次WAVES大会聚焦四大板块:理想与现实、科技与人文、探索与深耕、传统与变革,每一个板块都指向年轻人关注的热议话题。都说人生是旷野,但是
线性资本·MiniMax创始人闫俊杰:通往AGI的「第一性原理」 | 云启实干派
真正需要做的事,是让技术和产品足够快地进步
云启资本·五源刘芹:黑土地、鲜花、诗和远方 | 5Y View
与新一代创业者共同成长。
五源资本·迈向2024,我们如何思考AI创业投资 | 峰瑞年终特辑
从2023到2024,AI的进击、挑战与新机会
峰瑞资本·天之杯:AI与游戏的根源之涡丨5Y View
任何足够先进的科技,都与魔法无异。
五源资本·王冉:小公司、短公司、VC和未来的年轻人
风险投资不会消失,但会呈现非常不同的模样。
暗涌Waves·线性被投企业|帷幄 CEO 叶生晅混沌演讲:硅谷眼中的 AGI,中国企业的漫长征程
**上周,混沌学园 2023「一」思维创新嘉年华,请来了「半个 AI 圈」。「Whale 帷幄」创始人 & CEO 叶生晅(Jerry)受邀演讲,与参会嘉宾及观众畅谈 AGI 应用前景。**
线性资本·世界的参数倒影:为何GPT通过Next Token Prediction可以产生智能 | 5Y View
GPT是否已经具有类人智能?
五源资本·云启陈昱:大模型时代的“二八定律”|腾讯科技 × 踏浪AGI+
一个模型做到95分,肯定是一种壁垒。
云启资本·当一群教授走出象牙塔:富矿、鸿沟、名利场
面对鸿沟,总有人纵身一跃。
暗涌Waves·一场争论:两位不同方向的投资人如何看GPT | 峰瑞研究所
AlphaFold 2 VS ChatGPT,谁会引起更大变化?
峰瑞资本·Copy to China难以复现,中国的大模型机会在何处?
近日,线性资本资深投资总监白则人接受「甲子光年」采访,分享对 chatGPT 带来的创业机会的看法。提到国内市场大模型的创业机会,线性资本态度乐观。“虽然具体工程化的弯路和难题需要时间去攻克,但国内两三年内做出类似 ChatGPT 80% 能力的产品概率很大,即使很难超越 OpenAI 已经建立起来
线性资本·AIGC 最卷一周!AI 的 「iPhone 时刻」已经到来 | 云启ChatGPT特辑
AI又又又变天了
云启资本·「PingCAP」黄东旭:GPT-4之后,ChatGPT+数据库=?| 云启ChatGPT特辑
草稿变网站,只需要几秒?
云启资本·下一代生产力工具来了!创业者如何拥抱AIGC热潮? | 榕汇对话
“每个创业者、开发者、创作者,都应该关注AIGC的进步”。
高榕创投·ChatGPT大热硅谷,但热闹是他们的
“一些人笑了,一些人哭了。绝大多数人都沉默不语。”
暗涌Waves·
















































