SamAltman 的欧洲之行仍在进行中。前不久,在伦敦,他和 AI 公司 HumanLooop 的 CEO 进行了一次闭门讨论。HumanLoop 是一家帮助开发者在大语言模型上构建应用的公司。
HumanLoop 的 CEO Raza Habib 记录了这次谈话的要点,并公开在公司官网上。但随后在 OpenAI 的要求下,这份纪要被撤下。这反而增强了外界对这次谈话的好奇心。有人推测,是其中所涉及的 OpenAI 的一些想法有所更改。
极客公园在浏览了这份被删除的谈话纪要后,发现其中不仅涉及 Sam 眼中对OpenAI的短期规划,也隐藏着获得微软云计算资源大力支持后,OpenAI 所承担的压力。毕竟,模型的微调、推理依旧消耗大量计算资源。据 The Information 报道,Open AI 的模型已经花费了 Microsoft Azure 12 亿美元,将计算资源集中于支持 OpenAI,也让微软的其他部门可使用的服务器受限。
(相关资料图)
对此,Sam 表示降低成本是目前的首要目标。
此外,Sam 还透露:目前,开放更长的上下文窗口、提供微调 API 等服务都受到GPU资源的限制;
这场对话中,Sam Altman 回应了许多外界关心的问题,比如竞争与商业化:
尽管刚刚招聘了一位世界级的产品经理 Peter Deng,但OpenAI 不会考虑发布更多的产品;
未来的应用趋势是大模型的功能嵌入更多APPs,而不是在ChatGPT上生长出更多插件,因为现实中大多数插件并没有呈现出 PMF(Product / Market Fit,即产品市场匹配);
过去几年,OpenAI 以数百万倍的速度扩展模型规模,但这样的速度不可持续。接下来,OpenAI 会继续以 1 到 3 倍的速度,增加模型规模,以提升模型性能。
谈话纪要公开于 5 月 29 日,根据网友的记录,于 6 月 3 日左右删除。以下是通过备份获得的内容:
01
OpenAI目前受到
GPU的严重限制
随着对话扩展,
所需的计算资源呈指数增长
目前 OpenAI 的 GPU 非常有限,这拖延了他们许多短期计划。客户*的抱怨是 API 的可靠性和速度。Sam 承认他们的担忧,并解释说,大部分问题是由于 GPU 短缺。
The longer 32k context can』t yet be rolled out to more people. OpenAI haven』t overcome the O(n^2) scaling of attention and so whilst it seemed plausible they would have 100k - 1M token context windows soon (this year) anything bigger would require a research breakthrough.
更长的 32K 上下文还不能提供给更多的人。OpenAI 还没有克服注意力机制的 O (n ^ 2) 的扩展问题,尽管看起来,他们很快 (今年) 就会拥有 100k-1M Token 的上下文窗口。任何更大的窗口都需要研究突破。
注:O (n^2) 意味着,随着序列长度的增加,执行 Attention 计算所需的计算资源呈指数增长。O 用来描述算法时间或空间复杂度增长速度的上限或最坏情况;(n^2)表示复杂度与输入大小的平方成正比。
微调 API 目前也受到 GPU 可用性的限制。他们还没有使用像 Adapters 或 LoRa 这样的高效微调方法,因此,通过微调进行运行和管理(模型)非常计算密集。未来将对微调提供更好的支持。他们甚至可能主持一个基于社区的模型贡献市场。
专用容量供应受 GPU 可用性的限制。OpenAI 提供专用容量,为客户提供模型的私有副本。要获得这项服务,客户必须愿意承诺预先支付 10 万美元。
02
OpenAI的近期路线图
2023,降低智能成本;
2024,多模态的有限演示
Sam 也分享了他所看到的 OpenAI API 临时近期路线图。
2023:
更便宜更快的 GPT-4ーー这是他们的首要任务。总体而言,OpenAI 的目标是尽可能地降低「智能成本」,因此他们将努力工作,随着时间的推移继续降低 API 的成本。
更长的上下文窗口ーー在不久的将来,上下文窗口可能高达 100 万个 Token。
微调APIー微调 API 将扩展到最新模型,但具体的形式将取决于开发者表明他们真正想要什么。
一个有状态的API(stateful API)- 当今天调用聊天 API 时,你必须反复通过相同的会话历史,反复支付相同的 tokens。将来会有一个版本的 API 可以记住会话历史记录。
2024:
多模态- 这作为 GPT-4 版本的一部分进行演示,但在更多 GPU 上线之前不能扩展到所有人。
03
商业化预判和思考:
插件「没有 PMF」,
可能不会很快出现在 API 中
很多开发者都对通过 API 访问 ChatGPT 插件感兴趣,但 Sam 说他认为这些插件不会很快发布。除了 Brosing 插件 之外,其他插件的使用情况表明还没有 PMF(Product/Market Fit)。他指出,很多人认为他们希望自己的应用程序位于 ChatGPT 之内,但他们真正想要的是 ChatGPT 存在于应用中。
04
除了 ChatGPT,
OpenAI 将避免与其客户竞争
伟大的公司都有
一个杀手级应用
不少开发者表示,他们对使用 OpenAI API 开发感到紧张,因为 OpenAI 最终可能发布对他们有竞争力的产品。Sam 说,OpenAI 不会在 ChatGPT 之外发布更多的产品。他说,历史上,伟大的平台公司有一个杀手级应用。ChatGPT 将允许开发者成为自己产品的客户来改进 API。ChatGPT 的愿景是成为一个超级智能的工作助理,但很多其他的 GPT 用例,OpenAI 不会涉及。
05
需要监管,
但不是现在
「我对多少个人和公司
有能力持有大模型表示怀疑」
虽然 Sam 呼吁对未来的模型进行监管,但他认为现有模型并不危险,认为监管或禁止它们是一个大错误。他再次强调了开源的重要性,并表示 OpenAI 正在考虑将 GPT-3 开源。他们还没有开源,部分原因是他对有多少个人和公司有能力持有和服务大型语言模型(LLMs)表示怀疑。
06
规模定律仍然适用
几年数百万倍的扩展速度,
不可能一直持续下去
最近有很多文章声称「巨型 AI 模型的时代已经过去」。这并不准确。(注:在 4 月一场在 MIT 的活动中,Sam Altman 曾经表示:我们现在已经接近巨大模型时代的尾声。)
OpenAI 的内部数据表明,模型性能的规模定律仍然适用,增加模型的大小将继续提高性能。
由于 OpenAI 在短短几年内就将模型扩大了数百万倍,这样的扩展速度不可能持续下去。这并不意味着 OpenAI 不会继续尝试把模型做得更大,而是意味着,它们每年的规模可能会增加一倍或三倍,而不是增加许多数量级。
规模定律有效对 AGI 开发时间线有重要意义。规模定律的假设是我们可能已经具备构建 AGI 所需的大部分要素,并且剩下的工作,主要是将现有方法扩展到更大的模型和更大的数据集上。如果规模的时代已经过去,那么我们可能会离 AGI 更遥远。规模定律继续适用的事实,强烈暗示着更短的时间线。
相关推荐
- (2023-06-08)被删除的Sam Altman谈话纪要,讲了什么? 热头条
- (2023-06-08)电子后视镜新国标将于7月实施 行业市场规模有望超60亿
- (2023-06-08)天元股份:目前公司在手订单正常 全球独家
- (2023-06-08)海南橡胶:公司未参与投资海南万宁免税店项目
- (2023-06-08)收评:两市震荡分化沪指小涨 通信服务板块走强|环球今头条
- (2023-06-08)皖天然气提质增效一季度净利增56% 10.22亿投资新能源车充换电加速转型
- (2023-06-08)苹果Vision Pro头显会颠覆XR行业吗?HTC王雪红:重大分水岭 全球即时
- (2023-06-08)2-1逆转绝杀!日本以小打大赢了,亚洲球队3连胜,中国男足未参赛
- (2023-06-08)梅西争夺战以拼西西模式落幕!五大联赛一片寂静,涉嫌关联交易!-天天快看点
- (2023-06-08)全球快资讯:继续前进!王欣瑜晋级法网女双四强
- (2023-06-08)探访贵州遵义“中国辣椒城” 天天视点
- (2023-06-08)燃!直击贵州武警新兵实弹射击 世界速讯
- (2023-06-08)每日热讯!上好大学!江苏高校校长为高考学子打call
- (2023-06-08)俄罗斯多地发生酒精中毒事件 已致30人死亡
- (2023-06-08)当前速递!受贿1992615.31元!陈克祥一审获刑三年半
- (2023-06-08)著名经济学家徐洪才:中国新型城市化还有后半场,到2050年要建立现代化国家
- (2023-06-08)云岩区“一圈两场三改”工作专题调度会召开
- (2023-06-08)凌海市气象局发布雷雨大风黄色预警【Ⅲ级/较重】【2023-06-07】
- (2023-06-08)今天,万余名滨城学子走进考场|2023天津高考作文题出炉!_环球观点
- (2023-06-08)国内商品期货收盘 甲醇跌超3% 全球微速讯
- (2023-06-08)天天微资讯!车牌“985”警车开道!这件事他们坚持了18年,考生:警察叔叔有心了
- (2023-06-08)每日热讯!中国关心下一代工作委员会邓俊峰:近视防控工作是利在千秋万代的工程
- (2023-06-08)天天快播:注意!三角轮胎将于6月28日召开股东大会
- (2023-06-08)注意!纽威股份:纽威集团计划减持不超过约1498万股
- (2023-06-08)港交所姚嘉仁:将增加双柜台证券数目 未有港股通参与时间表 每日播报
- (2023-06-08)中国信通院和华为等产业伙伴联合发起新通话产业发展合作倡议 环球速递
- (2023-06-08)医药生物行业2023年下半年投资策略:拨开细分 追寻景气-世界今日讯
- (2023-06-08)世界今亮点!渌口区计生协多形式开展“5·29会员活动日”
- (2023-06-08)男孩背脑瘫同学10年今天一起高考:希望还能继续同窗 热推荐
- (2023-06-08)焦点热门:菏泽:是时候给你点颜色看看~
每日推荐
- ETF联接基金是什么意思?ETF基金和ETF联
- 货币基金的收益高吗?货币基金一般年收益
- 基金卖出了怎么还有收益显示?基金已经赎
- 投资的基金买了几天可以卖掉?基金入手多
- 基金终于回本了该不该赎回?基金终于回本
- 二月出境复飞航线超40条 节后部分机票价
- 重大事项变更!网易宝获批增加注册资本至
- 信达证券上市首日涨幅44%
- 总投资约486亿元 北京今年首批50个重大
- 新年北京首月二手住宅网签量再探底 价格
- 股价大涨 博云新材股东高创投拟趁机减持
- 2019华人歌曲音乐盛典在澳门举行
- 喜迎十九大•欢度中秋节—传统文化进社区
- 突发!吴敏霞夫妇挑婚戒被曝光!两百万钻
- 《钟山说事》 热点聚焦:胡鹏飞的最美乡
- 湖南御福天益生物公司被指涉嫌传销进行非
- 大同市城投公司刘建婷遭群众举报
- 鲁能集团 “一带一路”履责行动暨“海南
图片新闻
48小时频道点击排行
-
0
1被删除的Sam Altman谈话纪要,讲了 -
0
2海南橡胶:公司未参与投资海南万宁免 -
0
3苹果Vision Pro头显会颠覆XR行业吗 -
0
4全球快资讯:继续前进!王欣瑜晋级法 -
0
5当前速递!受贿1992615.31元!陈克祥 -
0
6著名经济学家徐洪才:中国新型城市化 -
0
7今天,万余名滨城学子走进考场|2023 -
0
8每日热讯!中国关心下一代工作委员会 -
0
9港交所姚嘉仁:将增加双柜台证券数目 -
0
10焦点热门:菏泽:是时候给你点颜色看 -
0
11全球热头条丨直击郑州高考现场!加油 -
0
12北京开启不动产登记“跨省通办”新模 -
0
13汽车报道:大众集团4月全球销量再下 -
0
14全球资讯:高考开战,哪台车能让考生 -
0
15华为李捷:创新引领,持续夯实5G高质 -
0
16丹东海关在进境邮件中查获金龟科幼虫 -
0
17芯塔电子获近亿元Pre-A轮融资,吴兴 -
0
18“飞机+高铁”一站式联订 天津“空 -
0
19兽不足到此人何取而自贻患耶_兽不足 -
0
202023年淄博中考英语押题试卷及答案