申请ChatGPT和新Bing们的账号,为什么都要等这么久?
上周,AIGC 的变化让世界变得疯狂,每天醒来都可能是一个「新世界」。
但从另一个角度上来说,无论 AIGC 如何智能和颠覆,我们仍然处于「旧世界」,或者准确的说,应该是「候补」世界。
(相关资料图)
不止是新 Bing,Github Copilot X,ChatGPT 的插件,Midjourney V5,以及 Adobe 的 Firefly,甚至是百度的文心一言,在你体验之前,都需要加入 Waitlist 名单进行排队等待名额。这个过程,像极了计划经济的配给制。
随着 AIGC 的服务越多,也包括原有的像是 GPT-4、Midjourney V5 的升级,Waitlist 的时间仿佛被延长。
Midjourney V5
直到如今,仍然有相当多人还存在于新 Bing 的 Waitlist 之内,更别说其他更新的生成式 AI 体验。
或许是对 Waitlist 这个潜规则的无声反抗,有人做了一个「一键进行所有排队」的网站。
不过讽刺的是,「一键加入」的功能还未做好,需要先加入 Waitlist 等待,且网站域名后缀是 wtf,怨气拉满。
候补名单的背后是为了更稳的服务
当我把这个问题丢给 Bing,Bing 从 OpenAI 官方网站的三个页面里找到了四个原因。
限制用户数量,保证服务质量和稳定性。
收集用户反馈,改进服务功能和体验。
增加用户期待和参与感,提高服务知名度和口碑。
筛选出符合目标人群的用户,提高服务转化率和留存率。
而这也更像是 OpenAI、微软、Google 等大公司针对无限期 Wait 的一些官方话术。
相对来说,最先走入大众的 ChatGPT,随着模型的升级,以及大幅度降价,ChatGPT 的服务也出现过不少的波动。
问答列表的混乱,宕过机,响应慢等等稳定性问题。
而基于 OpenAI 的新 Bing 同样也出现过过激的言辞,一直到现在,微软也在限制新 Bing 的对话次数与长度。
你可以说,限制使用 ChatGPT 和新 Bing 的人数,能够提供更稳定和快速的响应和内容生成。
但要知道这些功能和服务,已经消耗了相当的资源,几乎占用了微软 Azure 一半的算力。
目前,AIGC 还尚未迎来超级 App,仍然处于一个快速迭代的过程,甚至也可以说仍然是一个 Beta 测试版本。
通过传统的对话框与 AI 进行交互,其实是与 2023 年人手一部智能手机的状况不太相匹配。
AIGC 现在只能算是一个功能,而即将推出的 Copilot、Firefly 等才更像是个产品。
Office 365 的 Copilot 功能
但它们仍然还未向外开放,躺在一个个 Waitlist 里。
从某方面来说,微软、Google、Adobe 还在「打磨」自己的产品,而从另一个方向来看,想要对所有人敞开大门,或者说 AI 成为每个人的 Copilot,还需要突破一些「瓶颈」。
蓬勃发展的 AIGC,或许开始触及瓶颈
这里的「瓶颈」,并非是外在表现的,生成式 AI 所遇到的伦理、法律法规或者说其响应的准确度。
反而是 AI 背后提供算力的硬件,以及各种用于训练的云算力。
微软正持续在 OpenAI 上大手笔的投入,先后投入几十亿美元,也逐步出现了基于 GPT-4 的新 bing,和后续还在 Waitlist 上的新 Office。
同时,为了保证新 bing,以及后续具有 Copilot 功能的新 Office 能够稳定快速地响应。
微软也提供和预留了其 Azure 云服务的一半算力和运算容量。
如此也导致了微软内部 Azure 算力资源的紧张。The Information 就采访了微软内部员工,针对于有限的硬件运算资源,微软正在实行内部硬件 Waitlist 制度。
微软内部其他开发机器学习模型的团队和部门,想要调用 Azure 的 AI 云服务,需要逐级审批报备,并最终由一位副总裁来定夺。
就如同我们在排队体验新的生成式 AI 服务,除了新 bing 和新 Office 和 OpenAI 服务外,微软其他部门也在等待多余的 Azure 云算力。
只是,随着微软 All in OpenAI 的策略,Azure 云相关算力和容量也显得十分紧张。
除了内部调用外,Azure 也提供了各种产品和服务,包括 AI、计算、容器、混合云、物联网等。
作为云服务供应商 Azure 目前扩展到全球 60 多个区域,其对外服务器产品和云服务收入占到微软总营收的 36%。
但与微软内部团队类似,购买 Azure 的客户也受到了算力受限的影响,尤其是想要调用 Azure OpenAI 依旧需要加入 Waitlist。
大概从 2022 年底,微软就打算增加更多的硬件(GPU 或者 TPU)来扩充更多的算力。
并且也与英伟达达成协议,为 Azure 增加数万个 H100 GPU 计算卡,为后续 OpenAI 提供更高的 AI 训练和推理效率。
不过,目前微软与英伟达并未透露在 Azure 当中 H100 的部署情况,微软内部也只有一小部分团队拥有 H100 的调用权限(大概率是新 bing 和 Office),大部分的部门仍然被排除在外。
一块 H100 大概的售价可能在 24 万元上下,以此为参考的话,微软为 Azure 扩容则需要投入数亿资金。
不止是微软,Google、甲骨文这些云服务商,也在大力投入 GPU 等硬件为自己的云服务扩容,准备在 AIGC 彻底爆发之前,做好算力上的准备。
英伟达 CEO 黄仁勋与 OpenAI 联合创始人兼首席科学家 Ilya Sutskever
但从 GTC 2022 发布到现在,英伟达并没有对外公布 H100 的供应和销售情况,微软对于 Azure 的扩容计划是否成效也不得而知。
而在今年的 GTC 2023 中,英伟达并没有带来关于 H100、A100 硬件上的进展,而是一直在强调英伟达在云计算硬件上的优势。
并且其首席技术官也开始强调,「加密货币对于社会没有任何有益的贡献」,也从侧面开始强调 AIGC 领域将会是英伟达接下来 30 多年所专注的领域。
随着 AIGC 领域的持续迭代,大概从 2022 年 10 月份,英伟达的股价也随之增长,一扫此前因为加密货币衰退而导致的业务下滑颓势。
目前,英伟达的市值又达到了一个高点,几乎等同于 Intel、AMD、ARM 这三家市值之和。
但如此的高市值,似乎并没有改善硬件的供应状况,反而随着 Google、微软等大企业不计成本资源地对云计算硬件投入,按照此前英伟达的供应状况,很可能再次出现工业显卡慌的一个局面。
不止是硬件供应状况,这些高性能 GPU 组成的计算矩阵也有着很高的功率,单张 SXM 接口的 H100 计算卡功率就达到了 700W。
用于 AI 模型训练和大数据处理的计算中心的耗电量实际上也十分惊人。
在 2021 年,加州大学的 David Patterson、Joseph Gonzalez 通过研究表明,训练 GPT-3 大概需要耗费 1.287 千兆瓦时的电力,它相当于 120 个美国家庭一年的用电量。
同时,这篇论文还发现,训练 GPT-3 会产生 502 吨的碳排放,等同于 110 辆汽车的一年排放量。
他们也强调这只是一个模型的训练成本,随着它涌入市场,也会产生更多的资源消耗,可能要比训练成本还高。
OpenAI 的 GPT-3 使用了 1750 亿个参数或者变量,而 GPT-4 的参数预计在 1750 亿到 2800 亿之间。对于能耗,云计算的需求只增不减。
为此,OpenAI CEO Sam Altman 在接受 The Verge 采访时表示,OpenAI 正在寻找有效的方法来提升模型的性能和安全性。
换句话说,OpenAI 也在试图通过更高效的算法来寻找节省训练运行模型的硬件、电力资源。
Waitlist 的机制,从浅层次来看,它确保了当前 AIGC 的使用体验,以及相关服务的响应速度。
但从深层次来看,它也是一场资源角力,是 GPU、TPU 为核心的云计算中心算力和容量的互相角力,也是宏观上高投入高能耗的一场竞争。
而到目前为止,AIGC 其实仍处于一个「盲盒」阶段,对于资源的需求和占用也尚不明朗。
不过,站在各种 AI 服务的 Waitlist 队列里,确实很像在科幻电影里人们正不断排队进入 AI 控制的工厂,为其运行提供所需的资源。
Waitlist,既是虚拟世界里的候补名单,也可能是将来现实世界当中的一则为 AI 服务的队列。
- 申请ChatGPT和新Bing们的账号,为什么都要等这么久?
- 炸锅!煤老板突然宣布:溢价50%回购所有股票、退市,不玩了 全球报资讯
- 西媒:阿扎尔在与皇马B队的训练赛中表现低迷,全场毫无作为
- 【时快讯】国铁集团郑州局全力保障国民高铁生活物资运输
- 一线调研丨助力中小企业爬坡过坎 成长壮大-天天短讯
- 纪录片《江豚归来》研讨会举行
- 网络视听超即时通讯成第一大网络应用 用户规模达10.40亿
- 资讯推荐:新疆喀拉峻草原顶冰花破冰盛开 传递着春天的讯息
- 江西和合:召开人才工作会,全力招才引才
- 焦点报道:官方回应“林场主跪地求水”,林场主女儿:只求还林场应有的水源
- 求生之路2sourcemod怎么用-求生之路2sourcemod
- 宁德时代辟谣欧洲第二座工厂陷入停滞传闻:假的,正按计划进行_当前时讯
- 德国暖风机真的省电吗(德国暖风机) 世界新要闻
- 易纲:实施碳达峰碳中和需要“胡萝卜”加“大棒”|全球热文
- 热点评!全面整改 出新出彩丨让文化更好服务人民高品质生活愿景
- 头条:感动!干警替被执行人接送孩子
- 中航电测3月29日盘中跌幅达5%|快播
- 3月29日讯,我的钢铁网数据显示,昨天成交量为20.06万吨。钢银数据显示本周建材库存下降4.28% 每日讯息
- AI远水难解中国电影产业近渴
- 3月29日06时吉林延边疫情最新通报表及延边疫情最新消息实时数据_环球观热点
- 看热讯:广东15分逆转上海男篮!杜锋回应落后真因 客场赢球不容易
- 2021058左岸春风一语断蓝(有知道 左岸春风一语断蓝 出的什么吗)
- 三条退市红线全部触碰 *ST吉艾作别A股|每日动态
- 新冠疫苗昙花一现 康希诺去年净亏9亿元|当潮水褪去|世界快播报
- 今年生育率真的急了,再也不遮掩说是女的结婚晚的问题,开始承认精子下滑太厉害了_天天讯息
- WTT世界最新排名公布,中国队傲视群雄,张本伊藤仍为最大威胁
- 只有德国是实诚人?美国的坦克终于要出手,德国再一次上当 天天要闻
- 秦皇岛:志愿者进社区开展节水爱水宣传
- 每日看点!信用卡债务还不上的后果有哪些?信用卡还款逾期会有什么后果?
- 西藏墨竹工卡:加快高标准农田建设 助力农牧民增产增收