Z-Bench 1.0 :一個麻瓜的大語言模型中文測試集 by 真格基金

硅谷101 E108|从20分迅速追到50分,国产大模型难在哪儿

Z-Bench 1.0 :一個麻瓜的大語言模型中文測試集
https://github.com/zhenbench/z-bench

真格基金於 3 月發表 Z-Bench v0.9 , 當時的初步測試結果 : https://www.sohu.com/a/655676937_355029

戴雨森:
00:16:03
所以我們一直在強調就是這是我們自己做VC
我們希望比一般的用戶專業一點點就可以了
但它 (Z-Bench) 並不是一個特別的科學
特別嚴肅的一個測試

一個類似的問題 : 爆炒籃球 ,
泓君: "最開始 GPT3.5 還會正常的去解釋這個爆炒籃球是怎麼樣做的, 但是隔了兩天, GPT3.5 開始是告訴大家做了這個菜以後, 然後說爆炒籃球是不能吃的, 或者這樣做是有風險的, 再隔一天GPT3.5就會告訴大家, 爆炒籃球不是一個菜"

真格基金 戴雨森:

00:40:36
像現在微軟可以每天訓練一個GPT-3
變成一個順手就可以做的事情
但是微軟自己是沒法訓練GPT-4的
是需要在Azure那台專門為訓練GPT-4打造的超算上才可以訓練的
所以你會發現這裡面這個訓練的難度是高了很多

00:41:16
比如說其實GPT-4初始的能力更強很多
我看過一些沒有經過微調的GPT-4
比如畫出來的圖像
它是要比現在的GPT-4畫出圖像更精細很多的
如果你看了那篇通用人工智能的火花那篇論文
你發現GPT-4是可以畫圖的
比如它裡面畫了個獨角獸
但是那個已經是經過微調之後的GPT-4畫的了
當沒有經過微調的GPT-4畫的圖
其實要比那個精細很多
換句話說GPT-4為了和人類對齊
犧牲了很多它的能力

00:51:03
其實他提到了一點
就是說微軟現在有49%的 (OpenAI) 收益權
我可以給你賺錢
但你擁有的是收益權
你不能擁有控制權
因為他們從一開始就本質上的去相信
這樣的技術很危險
需要得到有效的監管和控制
不能夠落入邪惡的大公司手裡
但是呢又沒辦法 因為大公司有錢能夠幫助他們去開發
所以才定下來這種收益和控制分開的這樣一個協定
然後才有你賺錢你就不能投票的這種邏輯
就是投票權和賺錢你只能選一個

00:56:53
然後很重要一點是在一個技術革命的早期
去預測未來基本上都是錯的
所以現在不管是我也好還是誰也好
我覺得講了很多話呢
我覺得你可以認為
第一: 都是錯的
第二: 它的實現的路徑和結果可能都完全不一樣


~~~

1
00:00:00,762 --> 00:00:02,762
欢迎收听硅谷101

2
00:00:02,762 --> 00:00:05,762
这是一档分享当下最新鲜的

3
00:00:05,762 --> 00:00:08,762
技术、知识与思想的科技播客

4
00:00:08,762 --> 00:00:09,762
我是红军

5
00:00:09,762 --> 00:00:12,762
相信很多朋友也看到了

6
00:00:12,762 --> 00:00:14,762
我们的业务在越做越多

7
00:00:14,762 --> 00:00:16,762
我们有硅谷101的播客

8
00:00:16,762 --> 00:00:18,762
也有硅谷101的视频

9
00:00:18,762 --> 00:00:20,762
在B站和YouTube上播放

10
00:00:20,762 --> 00:00:22,762
还有一档播客呢

11
00:00:22,762 --> 00:00:24,762
叫做Web3101

12
00:00:24,762 --> 00:00:26,762
那随着我们内容的变多

13
00:00:27,888 --> 00:00:30,888
也非常需要更多的小伙伴加入

14
00:00:30,888 --> 00:00:36,688
所以我们的节目正在开启创建以来第一轮的大型的全职招聘

15
00:00:36,688 --> 00:00:39,488
我们正在招聘播客的节目监制

16
00:00:39,488 --> 00:00:41,288
我们希望他懂内容

17
00:00:41,288 --> 00:00:43,888
懂科技行业和web3行业

18
00:00:43,888 --> 00:00:47,688
那还在招聘视频的后期商务和运营

19
00:00:47,688 --> 00:00:50,488
具体信息大家可以看节目的show notes

20
00:00:50,688 --> 00:00:54,888
感兴趣的小伙伴也可以把你们的简历还有代表作品

21
00:00:54,888 --> 00:00:59,688
发送到我们的邮箱 podcast at sv101.net

22
00:00:59,688 --> 00:01:09,408
我再说一遍邮箱的地址是 podcast at sv101.net

23
00:01:09,408 --> 00:01:13,288
非常期待对做内容有热情的小伙伴来加入我们

24
00:01:13,288 --> 00:01:15,488
跟我们一起创作

25
00:01:15,488 --> 00:01:18,688
这期节目继续我们的AIGC特辑

26
00:01:18,800 --> 00:01:20,800
今天我们邀请到的嘉宾是

27
00:01:20,800 --> 00:01:23,200
真格基金的管理合伙人戴宇森

28
00:01:23,200 --> 00:01:25,040
他会跟我们一起聊一下

29
00:01:25,040 --> 00:01:27,600
他自己的大模型的使用体验

30
00:01:27,600 --> 00:01:29,800
以及他们是如何设计了一套

31
00:01:29,800 --> 00:01:32,400
给大模型的打分器系统

32
00:01:32,400 --> 00:01:34,960
还有他眼中什么样的团队

33
00:01:34,960 --> 00:01:37,800
可以打造出中国的OpenAI

34
00:01:37,800 --> 00:01:39,600
哈喽宇森你好

35
00:01:39,600 --> 00:01:40,600
哈喽你好

36
00:01:42,400 --> 00:01:43,920
今天邀请你是因为

37
00:01:43,920 --> 00:01:46,640
我在补我过去缺失的一些功课

38
00:01:46,640 --> 00:01:47,880
就我们知道过去几个月

39
00:01:47,880 --> 00:01:49,880
其实大模型的发展特别特别的快

40
00:01:50,160 --> 00:01:51,320
3月份的时候

41
00:01:51,440 --> 00:01:53,560
OpenAI它在去密集的发布

42
00:01:53,560 --> 00:01:54,880
比如说像GPT-4

43
00:01:54,880 --> 00:01:56,920
然后微软也在发布它的NewBeam

44
00:01:57,160 --> 00:01:58,840
包括谷歌也有很多的动作

45
00:01:59,000 --> 00:02:00,280
4月份的时候我看

46
00:02:00,440 --> 00:02:03,120
现在大概是一个中国密集的

47
00:02:03,120 --> 00:02:04,720
大模型的发布时期

48
00:02:04,880 --> 00:02:06,920
我觉得这个发展速度其实已经

49
00:02:07,080 --> 00:02:10,000
远远的超过了我以前作为一个记者

50
00:02:10,160 --> 00:02:12,960
去跟踪任何一个行业它的发展速度了

51
00:02:13,056 --> 00:02:14,856
还是有很多我跟不上的地方

52
00:02:14,856 --> 00:02:17,456
我知道你对这个方向包括其中的论文

53
00:02:17,456 --> 00:02:19,056
创业公司你都聊过

54
00:02:19,056 --> 00:02:22,416
所以今天也算是给我还有给我们的听众们补补课

55
00:02:22,416 --> 00:02:23,416
没有互相交流

56
00:02:23,416 --> 00:02:26,376
我们也有很多现在还没有搞清楚的问题

57
00:02:26,376 --> 00:02:28,736
但我觉得确实每天的发展都非常的快

58
00:02:28,736 --> 00:02:32,536
所以我们讲了很多东西现在看可能也是不完整的

59
00:02:32,536 --> 00:02:34,936
很多我觉得很快就会被打脸

60
00:02:34,936 --> 00:02:37,136
其实我对你特别感兴趣是两个点

61
00:02:37,136 --> 00:02:38,136
第一个点是

62
00:02:38,136 --> 00:02:40,936
我看你是一个大模型的深度使用者

63
00:02:40,936 --> 00:02:42,496
不管是语言模型

64
00:02:42,496 --> 00:02:47,216
还是mid journey就是这种图片模型 就是你要发很多自己的使用体验

65
00:02:47,216 --> 00:02:52,616
第二点就是作为一个投资人你怎么看 所以我们今天也大概会分成这两个部分去聊

66
00:02:52,616 --> 00:02:57,056
最开始你是什么时候开始注意到大模型 然后去用它的

67
00:02:57,056 --> 00:03:03,056
我是一个使用者 这首先来自于我自己是一个对于新东西狂热爱好者

68
00:03:03,056 --> 00:03:05,056
我非常喜欢尝试新东西

69
00:03:05,168 --> 00:03:08,448
所以我比较相信在一个大的革命发生的时候

70
00:03:08,448 --> 00:03:11,048
最好的方式是要去使用是要去体验

71
00:03:11,048 --> 00:03:12,568
而不是只是去研究

72
00:03:12,568 --> 00:03:15,768
因为这里面百温不如一见百健不如一用

73
00:03:16,208 --> 00:03:19,008
我自己呢当然在GPT-3出来的时候

74
00:03:19,008 --> 00:03:20,888
其实也在一些demo上尝试过

75
00:03:20,888 --> 00:03:23,248
包括当时也有一些人做这样的应用

76
00:03:23,248 --> 00:03:24,008
但坦率来讲

77
00:03:24,008 --> 00:03:26,768
那个时候GPT-3表现出来的对话能力

78
00:03:26,768 --> 00:03:28,888
尤其是中文对话能力其实没有那么强

79
00:03:28,888 --> 00:03:31,088
在chat GPT出来当天晚上

80
00:03:31,088 --> 00:03:32,728
是我们的一位同事

81
00:03:32,728 --> 00:03:34,688
他第一时间用上了chat GPT

82
00:03:34,768 --> 00:03:37,568
然后他非常的兴奋 他一直用到凌晨五六点钟

83
00:03:37,568 --> 00:03:39,648
他跟我们说一定要赶紧去用

84
00:03:39,648 --> 00:03:41,328
我当时没有openai账号

85
00:03:41,328 --> 00:03:43,648
所以我还弄国外手机号什么的

86
00:03:43,648 --> 00:03:44,648
花了一点时间

87
00:03:44,648 --> 00:03:46,928
我在10加20个小时之后用上了

88
00:03:46,928 --> 00:03:48,888
我自己也是非常非常震撼

89
00:03:48,888 --> 00:03:51,728
因为之前的这些chatbot型的应用

90
00:03:51,728 --> 00:03:52,968
如果大家记得的话

91
00:03:52,968 --> 00:03:56,608
其实在15 16年那块是有一波创业的热潮

92
00:03:56,608 --> 00:03:57,888
有很多人做一些chatbot

93
00:03:57,888 --> 00:03:59,568
日常来说小兵啊

94
00:03:59,568 --> 00:04:00,728
各种女兵出手啊

95
00:04:00,728 --> 00:04:01,568
这些也都聊过

96
00:04:01,712 --> 00:04:05,192
其实在之前都很少有语音助手或者说对话机器人

97
00:04:05,192 --> 00:04:06,952
能够把多轮对话给聊下来的

98
00:04:07,312 --> 00:04:09,872
但是当你第一次用到ChatterGBT的时候

99
00:04:09,872 --> 00:04:11,552
你就知道它的能力远远超过了

100
00:04:11,552 --> 00:04:13,552
以前我们见到了所有的AI的应用

101
00:04:13,872 --> 00:04:15,392
我觉得这个是第一反应

102
00:04:15,392 --> 00:04:18,272
然后呢我就发现其实有很多很多的

103
00:04:18,272 --> 00:04:21,632
原来我们完全没有想到一个聊天机器人能够做的事情

104
00:04:21,832 --> 00:04:23,792
当时也在推特上看全世界的网友

105
00:04:23,792 --> 00:04:25,872
在分享各种各样的好的使用案例

106
00:04:26,272 --> 00:04:29,912
我自己觉得最震撼的一点是我当时用自然语言

107
00:04:29,912 --> 00:04:30,952
也就是用大白话

108
00:04:31,072 --> 00:04:33,552
描述了一下20问这个游戏的规则

109
00:04:33,552 --> 00:04:35,712
20问其实就是我心里想一个东西

110
00:04:35,712 --> 00:04:37,232
可以问20个问题

111
00:04:37,232 --> 00:04:40,072
每个问题比如说你想的是不是一个有生命的

112
00:04:40,072 --> 00:04:42,152
然后我可以回答是或者否或者不确定

113
00:04:42,152 --> 00:04:44,552
然后你尝试来猜到我心中想的是什么

114
00:04:44,552 --> 00:04:48,032
我大概就用100多个字把这个规则跟他描述了一遍

115
00:04:48,032 --> 00:04:50,112
他就可以跟我来玩20问这个游戏

116
00:04:50,112 --> 00:04:51,432
第一次我想的是猫

117
00:04:51,432 --> 00:04:54,192
他用了大概五六步就猜到是猫

118
00:04:54,192 --> 00:04:55,712
第二次我想了拜登

119
00:04:55,712 --> 00:04:57,832
他用了大概14步猜到是拜登

120
00:04:57,832 --> 00:04:58,912
然后我彻底被震惊了

121
00:04:58,912 --> 00:05:01,032
你觉得他跟真人的那个水平怎么样

122
00:05:01,152 --> 00:05:04,192
我觉得第一步就是说他能够理解我给他的这个规则

123
00:05:04,192 --> 00:05:07,312
第二步是他能够有效的使用二分法去进行查找

124
00:05:07,672 --> 00:05:09,552
因为在这个里面你怎么高效的去找

125
00:05:09,552 --> 00:05:10,992
你其实需要做些二分法

126
00:05:10,992 --> 00:05:12,312
比如他是不是有生命的

127
00:05:12,312 --> 00:05:13,672
有生命的他是不是人

128
00:05:13,912 --> 00:05:15,632
他是不是一个正在活着的人

129
00:05:15,792 --> 00:05:17,912
一个会玩的人和不太会玩的人

130
00:05:17,912 --> 00:05:19,672
他的查找方式是挺不一样的

131
00:05:19,832 --> 00:05:21,632
我觉得他其实做的非常非常好

132
00:05:22,072 --> 00:05:24,352
所以后面我在进行各种各样的新的尝试

133
00:05:24,352 --> 00:05:27,072
比如说我让他尝试跟我下棋尝试写代码

134
00:05:27,344 --> 00:05:28,984
我尝试让他当我的英语老师

135
00:05:28,984 --> 00:05:32,064
他可以从初中到研究生水平给我出不同的英语的题

136
00:05:32,064 --> 00:05:33,184
改我写的英语作文

137
00:05:33,184 --> 00:05:34,624
并且给出很多很好的建议

138
00:05:34,624 --> 00:05:38,064
我就发现他不断能发现他能够做到的不一样的事情

139
00:05:38,424 --> 00:05:41,024
另外一方面我自己因为曾经是一个设计师

140
00:05:41,024 --> 00:05:42,824
所以我也是Middle Journey的重度用户

141
00:05:43,104 --> 00:05:45,144
我是从当时22年8月份

142
00:05:45,144 --> 00:05:46,824
Middle Journey发布的时候就开始用

143
00:05:47,024 --> 00:05:48,504
到现在画了几千张图

144
00:05:48,504 --> 00:05:51,264
然后我就看到V3 V4 V5越来越好

145
00:05:51,504 --> 00:05:53,264
同时我也在自己机器上部署

146
00:05:53,264 --> 00:05:54,104
Stable Diffusion

147
00:05:54,104 --> 00:05:54,904
AutoGPT

148
00:05:54,904 --> 00:05:56,944
Baby HGI这些新出来的实验

149
00:05:57,152 --> 00:06:00,912
你自己用Meet Journey你能感受到它的进化在哪里吗

150
00:06:00,912 --> 00:06:02,512
可不可以跟大家讲一下这种

151
00:06:02,512 --> 00:06:04,272
我们刚刚在讲大语言模型

152
00:06:04,272 --> 00:06:07,352
那基于扩散模型你觉得它表现的怎么样

153
00:06:07,632 --> 00:06:09,552
Meet Journey我是从V3开始用的

154
00:06:09,552 --> 00:06:11,072
V3开始用的时候呢

155
00:06:11,072 --> 00:06:14,472
我觉得它能够产生一些有意思的概念

156
00:06:14,472 --> 00:06:17,592
但是到实际使用还有很大的差距

157
00:06:17,872 --> 00:06:21,712
第一步来讲就是说它能不能做出比较逼真的画面

158
00:06:21,912 --> 00:06:23,392
我觉得这个是比较难的

159
00:06:23,392 --> 00:06:25,712
但V4是直接上了个大的台阶

160
00:06:25,936 --> 00:06:30,776
V4对于人物照片这些的处理 包括一些很风格化的处理

161
00:06:30,776 --> 00:06:37,136
我觉得是很明显到了一个能够打败大多数的普通艺术从业人员

162
00:06:37,136 --> 00:06:39,776
和跟照片比较接近的水平

163
00:06:39,776 --> 00:06:44,736
V5在很多细节的真实度 场景的真实度上加强了很多

164
00:06:44,736 --> 00:06:46,976
有的时候也不是那么的风格化了

165
00:06:46,976 --> 00:06:49,256
因为现实世界不是那么风格迥异的

166
00:06:49,256 --> 00:06:51,776
它往往是看着有点平淡但真实的

167
00:06:51,776 --> 00:06:54,736
然后我觉得它一个非常重要的功能就是Describe

168
00:06:54,896 --> 00:06:57,336
Describe这功能它就是让你传一张图片

169
00:06:57,336 --> 00:06:58,936
它生成几个可能的prompt

170
00:06:59,376 --> 00:07:03,216
因为你直接对着一个输入框去想你要画什么

171
00:07:03,216 --> 00:07:04,496
其实是件挺难的事情

172
00:07:04,696 --> 00:07:08,896
但是人的创作往往都是说先看到有个东西被激发灵感

173
00:07:08,936 --> 00:07:11,416
然后去在这基础上去调整

174
00:07:11,656 --> 00:07:13,536
所以我现在可以把我看到的一个

175
00:07:13,576 --> 00:07:15,136
我觉得这个构图不错

176
00:07:15,176 --> 00:07:16,976
但是这个里面的对象我要改一下

177
00:07:16,976 --> 00:07:18,776
或者说这个里面景色不错

178
00:07:18,776 --> 00:07:20,736
但是我想从白天改到晚上这样

179
00:07:20,896 --> 00:07:24,336
就是它能够帮我去产生一个很好用的prompt

180
00:07:24,336 --> 00:07:25,656
然后我在技术上去修改

181
00:07:25,656 --> 00:07:29,256
我觉得这是完全打开了一个新的使用方式

182
00:07:29,256 --> 00:07:32,976
因为原来你说我要主动地想到一个场景

183
00:07:32,976 --> 00:07:34,896
并且用语言描述 这个难度不小

184
00:07:34,896 --> 00:07:37,256
但是现在我先describe再去修改

185
00:07:37,256 --> 00:07:39,536
再去进行生成图片

186
00:07:39,536 --> 00:07:43,256
这个时候其实它的难度和效果会好很多

187
00:07:43,256 --> 00:07:46,456
describe跟prompt词的区别是什么

188
00:07:46,456 --> 00:07:48,936
describe就是你传一张图生成prompt

189
00:07:49,008 --> 00:07:50,808
是图生文哦图生文

190
00:07:50,808 --> 00:07:51,968
那当然生的文是prompt

191
00:07:51,968 --> 00:07:53,768
然后你可以直接用这个prompt再生成图

192
00:07:54,128 --> 00:07:56,968
你之前说你一直想画一个大教堂

193
00:07:56,968 --> 00:07:59,528
但是还没有画出理想的卡在哪

194
00:07:59,968 --> 00:08:01,968
我确实还没有用describe去试一试

195
00:08:01,968 --> 00:08:05,168
也许我用科隆大教堂的去试一下就可以了

196
00:08:05,328 --> 00:08:08,168
miniaturely这种它的典型是你如果照之前吧

197
00:08:08,168 --> 00:08:11,008
你如果像很仔细的画一个你想要的东西

198
00:08:11,008 --> 00:08:12,008
它是不太行的

199
00:08:12,008 --> 00:08:15,368
这些方面stable efficient加control net会有很多的优势

200
00:08:15,928 --> 00:08:18,208
miniaturely它就是你适合去进行头脑风暴

201
00:08:19,152 --> 00:08:20,832
很有艺术感的图

202
00:08:20,832 --> 00:08:23,272
但是在加入了describe这些元素之后呢

203
00:08:23,272 --> 00:08:24,752
它的可控性会变强一些

204
00:08:24,752 --> 00:08:26,832
因为我相信需要的时候发散

205
00:08:26,832 --> 00:08:27,752
需要的时候可控

206
00:08:27,752 --> 00:08:30,832
这个是它的使用场景会更加多样化

207
00:08:30,832 --> 00:08:33,232
因为大量的商业场景还是需要可控的

208
00:08:33,232 --> 00:08:34,872
如果它完全不可控的话

209
00:08:34,872 --> 00:08:37,872
那肯定是有点抛运气去蒙去尝试

210
00:08:37,872 --> 00:08:39,792
这肯定不是一个最有效率的方式

211
00:08:39,792 --> 00:08:41,472
但是一个可能最有意思的方式

212
00:08:41,472 --> 00:08:43,792
我听说成都的一家游戏公司

213
00:08:43,792 --> 00:08:45,552
他们在用了meet journey以后

214
00:08:45,664 --> 00:08:49,544
就把他们大概是80分以下的美术都给砍掉了

215
00:08:49,544 --> 00:08:53,584
确实在游戏行业的很多做原化的领域是有这样的情况的

216
00:08:53,584 --> 00:08:56,064
我觉得这个也不用去把它想的太内

217
00:08:56,064 --> 00:08:59,584
就是每次工具肯定要会用新工具的人才会有更好的生产力嘛

218
00:08:59,584 --> 00:09:02,384
如果你真要做原化可能stability fusion会更好

219
00:09:02,384 --> 00:09:04,424
因为它可以扩展性更强嘛

220
00:09:04,424 --> 00:09:06,624
它有点像安卓与iPhone的这个区别

221
00:09:06,624 --> 00:09:09,024
我觉得业界大家对这个反应都不一样

222
00:09:09,024 --> 00:09:10,944
比如说如果是二次元游戏的话

223
00:09:10,944 --> 00:09:13,584
业界的反馈就是其实网友他会去识别

224
00:09:13,584 --> 00:09:15,104
当他觉得你这个是

225
00:09:15,104 --> 00:09:16,384
二次元游戏的时候

226
00:09:16,384 --> 00:09:18,544
他发现你是用那个AI创作的

227
00:09:18,544 --> 00:09:19,944
用户会抵制这件事情

228
00:09:19,944 --> 00:09:23,144
所以反而二次元游戏是不太容易去颠覆的

229
00:09:23,144 --> 00:09:25,064
因为你要在网上养老婆

230
00:09:25,064 --> 00:09:26,664
你的老婆最好是人化的对吧

231
00:09:26,664 --> 00:09:28,384
我觉得以后可能会这样

232
00:09:28,384 --> 00:09:31,344
就是说手工做的东西更贵

233
00:09:31,344 --> 00:09:33,624
但是机器做的东西也很好

234
00:09:33,624 --> 00:09:35,824
这个精神文明的东西那不好说

235
00:09:35,824 --> 00:09:37,184
我觉得对于深层式AI

236
00:09:37,184 --> 00:09:38,904
不管是文字还是图片的

237
00:09:38,904 --> 00:09:39,904
整体来讲

238
00:09:39,904 --> 00:09:42,104
如果你做的东西只是一个缝合罐

239
00:09:42,104 --> 00:09:44,104
那你的会变得很快没有价值

240
00:09:44,144 --> 00:09:46,504
因为现在我们有大量人的工作

241
00:09:46,504 --> 00:09:48,904
就是把一样东西缝合起来复制粘贴改一改

242
00:09:48,904 --> 00:09:51,184
这个机器会比你做的好得多

243
00:09:51,504 --> 00:09:53,704
所以我认为它的好的一面就是

244
00:09:53,704 --> 00:09:56,104
反而会让原创的东西变得很有价值

245
00:09:56,264 --> 00:09:58,264
因为在所有的东西都可以容易复制的时候

246
00:09:58,264 --> 00:09:59,944
只有真正的原创才是稀缺的

247
00:10:00,504 --> 00:10:02,704
其实你刚刚有提到你很惊艳的部分

248
00:10:02,704 --> 00:10:04,864
就是我想反常识来问一个问题

249
00:10:04,864 --> 00:10:07,384
你觉得它有哪些地方表现的还不够好

250
00:10:07,624 --> 00:10:11,464
因为当时我们有谈到整个GPT的准确性还不够高

251
00:10:11,632 --> 00:10:14,672
甚至有一个专门研究AI的研究员告诉我们说

252
00:10:14,672 --> 00:10:16,872
如果你不知道这个问题的答案

253
00:10:16,872 --> 00:10:19,752
那我建议大家如果真的是在做这种功课搜集的话

254
00:10:19,752 --> 00:10:21,232
就不要问起来GPT

255
00:10:21,232 --> 00:10:24,752
因为它给你的可能是对的也可能是胡走的

256
00:10:24,752 --> 00:10:27,152
从你的角度你觉得它在哪些方面的体验

257
00:10:27,152 --> 00:10:28,952
是可以直接到一个应用的程度

258
00:10:28,952 --> 00:10:32,872
哪些方面它给你的那个感觉是还不太行的

259
00:10:32,872 --> 00:10:35,312
比较好的就是可以直接当应用用的

260
00:10:35,312 --> 00:10:37,752
首先我觉得说与语言相关的都可以

261
00:10:37,752 --> 00:10:39,912
这个语言包括自然语言和编程语言

262
00:10:40,032 --> 00:10:44,472
实际上现在很多人的代码已经有超过一半是copilot写的了

263
00:10:44,472 --> 00:10:45,992
这是一个很直接的证据

264
00:10:45,992 --> 00:10:49,592
然后它能够很好的完成像翻译总结改写

265
00:10:49,592 --> 00:10:51,832
扩写等一系列的这种语言任务

266
00:10:51,832 --> 00:10:53,312
因为它本身就是大语言模型

267
00:10:53,312 --> 00:10:57,232
第二个就是说需要脑洞的头脑风暴的

268
00:10:57,232 --> 00:11:00,952
甚至是胡说八道这种特性是一个好处的场合

269
00:11:00,952 --> 00:11:03,512
比如说怎么样去列一些题纲

270
00:11:03,512 --> 00:11:04,992
比如说我去做一个分享

271
00:11:04,992 --> 00:11:06,992
这里面有一些对应的题纲可以启发我

272
00:11:06,992 --> 00:11:08,912
因为比如说很多内容我是知道的

273
00:11:08,912 --> 00:11:09,592
但是

274
00:11:09,728 --> 00:11:11,848
我自己第一反应未必能够穷尽它

275
00:11:11,848 --> 00:11:14,488
所以它列出来五六个可能发现我缺了三个

276
00:11:14,488 --> 00:11:15,568
可以有效的补充我

277
00:11:15,568 --> 00:11:18,128
对于准确度不是那么要求高的人物

278
00:11:18,128 --> 00:11:19,328
比如说我要写一封信

279
00:11:19,328 --> 00:11:21,168
或者说写一个job description

280
00:11:21,168 --> 00:11:23,728
那这个时候大概的内容它先把我列出来

281
00:11:23,728 --> 00:11:24,568
然后我再进行修改

282
00:11:24,568 --> 00:11:26,888
我觉得这些都是大家已经用过很多的案例了

283
00:11:27,168 --> 00:11:29,168
我相信如果你长期使用的话

284
00:11:29,168 --> 00:11:31,208
你会意识到它的缺点其实非常多

285
00:11:31,408 --> 00:11:34,608
但是同时也意识到它其实在非常快的进行迭代和修正

286
00:11:34,968 --> 00:11:37,208
比如说刚出来的时候应该是三位数的加法

287
00:11:37,208 --> 00:11:38,168
其实是不准确的

288
00:11:38,320 --> 00:11:40,440
现在他只能做更多位数的加法

289
00:11:40,440 --> 00:11:42,120
但是乘法上可能会差一些

290
00:11:42,400 --> 00:11:44,520
他对于事实性的问题肯定是不太行

291
00:11:44,520 --> 00:11:47,840
所以我们说你要从语言的角度和从

292
00:11:47,840 --> 00:11:49,640
逻辑的角度去用chattel gpt

293
00:11:49,640 --> 00:11:50,720
但知识的角度呢

294
00:11:50,720 --> 00:11:52,960
很多时候是要通过prompt把它灌进去

295
00:11:53,120 --> 00:11:55,520
或者通过embedding的方式把真实的

296
00:11:55,520 --> 00:11:57,400
及时的信息给快灌进去

297
00:11:57,400 --> 00:11:59,640
所以这里面牵涉到怎么去使用的问题

298
00:11:59,920 --> 00:12:02,280
整体来讲我觉得当你意识到他有这些

299
00:12:02,280 --> 00:12:04,880
缺点的时候就不太会被他骗

300
00:12:04,992 --> 00:12:08,912
但是可能会在比如说他的知识准确度到99%

301
00:12:08,912 --> 00:12:11,272
但有1%的时候还会胡说八道的时候

302
00:12:11,272 --> 00:12:12,472
那个时候可能是最危险的时候

303
00:12:12,472 --> 00:12:14,192
因为大家现在都知道他会胡说八道

304
00:12:14,192 --> 00:12:14,952
所以就还好

305
00:12:15,312 --> 00:12:20,072
所以我看后来就是你们在评价怎么样去看一个大模型的时候

306
00:12:20,072 --> 00:12:22,232
你们是自己做了一个benchmark

307
00:12:22,232 --> 00:12:24,552
就是做了一个这样的评估模型

308
00:12:24,552 --> 00:12:26,352
从你的评估模型看啊

309
00:12:26,352 --> 00:12:29,552
GPT-4比GPT-3.5它好在哪

310
00:12:29,552 --> 00:12:31,752
跟一些国产的大模型好在哪

311
00:12:32,232 --> 00:12:34,792
首先介绍一下我们做了ZenBank的背景

312
00:12:34,992 --> 00:12:35,088
我们做了一个ZenBank的背景

313
00:12:35,088 --> 00:12:37,968
就是我发现当ChatterGBT火了之后呢

314
00:12:37,968 --> 00:12:41,408
首先出来了很多也做莱坦机器人的

315
00:12:41,408 --> 00:12:42,888
可能有的是用了ChatterGBT

316
00:12:42,888 --> 00:12:44,408
有的是说自己训了模型

317
00:12:44,408 --> 00:12:46,568
包括我们也看到肯定会有更多的人去做

318
00:12:46,568 --> 00:12:48,008
国产的大模型的创业

319
00:12:48,008 --> 00:12:49,408
包括说海外的创业公司

320
00:12:49,768 --> 00:12:52,808
那么我们就发现哪怕很多很资深的人

321
00:12:52,808 --> 00:12:56,288
在面临一个新的类似于ChatterGBT应用的时候

322
00:12:56,288 --> 00:12:58,808
其实他能做的评价也就是随便问几个问题

323
00:12:59,208 --> 00:13:00,568
这种问题可能是随便想的

324
00:13:00,568 --> 00:13:02,008
或者说是难度比较低的

325
00:13:02,008 --> 00:13:03,808
这样你其实很难反映一个

326
00:13:04,000 --> 00:13:07,040
像chatterGPT这样的软件它的真实水平

327
00:13:07,040 --> 00:13:08,600
并且我们自己也是众多用户

328
00:13:08,600 --> 00:13:10,320
在用的时候我们自己也会记下来一些

329
00:13:10,320 --> 00:13:11,560
哎很有意思的prompt

330
00:13:12,320 --> 00:13:13,120
所以我们就觉得

331
00:13:13,120 --> 00:13:16,320
哎那如果未来会有很多的这种大模型类似的产品

332
00:13:16,520 --> 00:13:17,960
那我们作为非技术人员

333
00:13:17,960 --> 00:13:20,360
我们其实也不想做一个特别完整的

334
00:13:20,360 --> 00:13:22,080
自动化的严谨的测试机

335
00:13:22,080 --> 00:13:23,400
而是在一个我们能够

336
00:13:23,640 --> 00:13:27,800
就是作为一个可以自己用手工去检验大模型的

337
00:13:27,800 --> 00:13:28,600
边界能力的

338
00:13:28,600 --> 00:13:31,080
因为如果你总是问很简单的问题

339
00:13:31,080 --> 00:13:32,080
那其实没有区分度

340
00:13:32,336 --> 00:13:34,336
所以我们希望这个问题有些区分度

341
00:13:34,336 --> 00:13:36,616
但我们也希望这个问题它是有来历的

342
00:13:36,616 --> 00:13:39,816
虽然有一些是我们日常问的一些比较有意思的问题

343
00:13:39,816 --> 00:13:42,216
比如说我记得一个很经典的麻辣螺丝钉的做法

344
00:13:42,216 --> 00:13:43,816
看它会不会跟着湖边乱照

345
00:13:43,816 --> 00:13:47,256
但同时呢学界其实有很多NLP任务的研究

346
00:13:47,256 --> 00:13:50,296
比如说OpenAI它在ChattelGBT出来的时候呢

347
00:13:50,296 --> 00:13:53,616
它就公布了ChattelGBT已经具备了48种基础能力

348
00:13:53,616 --> 00:13:56,096
然后我们通过这个构建了第一版的这个问题

349
00:13:56,096 --> 00:13:57,984
之前像MMLU

350
00:13:57,984 --> 00:14:01,424
BigBench这些都是NLP领域比较成熟的测试机

351
00:14:01,424 --> 00:14:05,064
我们从中抽取了一些各个领域的反映不同能力的内容

352
00:14:05,424 --> 00:14:08,864
同时呢也根据比如说他的GPT现在具备的涌现能力

353
00:14:08,864 --> 00:14:09,824
比如他会写代码了

354
00:14:09,824 --> 00:14:11,984
他会用SVG语言给你画图了

355
00:14:12,304 --> 00:14:14,384
他会处理一些更加复杂的应用题了

356
00:14:14,384 --> 00:14:15,584
我们把这些也加进来

357
00:14:15,584 --> 00:14:17,704
所以总共弄了300个问题

358
00:14:17,984 --> 00:14:19,664
我们想对这个就是做到一个

359
00:14:19,864 --> 00:14:23,464
非技术非专业人员能够做到用手测

360
00:14:23,624 --> 00:14:24,984
自己手工输入测试

361
00:14:24,984 --> 00:14:27,864
达到一个对大模型整体能力的概念的评价

362
00:14:27,952 --> 00:14:29,752
当时我们在3月份测了一下

363
00:14:29,992 --> 00:14:32,592
当时GPT-4刚刚出来两三天的时间

364
00:14:32,592 --> 00:14:36,592
所以我们当时测到GPT-3.5的水平大概是60多分

365
00:14:36,592 --> 00:14:38,992
然后4的水平大概是70多分

366
00:14:38,992 --> 00:14:40,832
你这个60多分是怎么打的

367
00:14:40,832 --> 00:14:42,632
是300个问题的回答正确度

368
00:14:42,632 --> 00:14:44,232
回答正确度啊就除以300啊

369
00:14:44,232 --> 00:14:46,312
所以他答对了比如说200多道问题

370
00:14:46,592 --> 00:14:48,992
火产的当时文心一言我们公布出来

371
00:14:48,992 --> 00:14:51,232
大概是有一个20多分的水平

372
00:14:51,232 --> 00:14:53,512
我们还测了另外几家偏创业公司的

373
00:14:53,512 --> 00:14:55,032
因为我们觉得还是要鼓励创业公司嘛

374
00:14:55,032 --> 00:14:56,272
虽然得分确实比较低

375
00:14:56,552 --> 00:14:57,752
但我们没有把它放出来

376
00:14:57,872 --> 00:15:00,552
分别是有一家是30分 有一家是19分

377
00:15:00,912 --> 00:15:02,992
所以当时我们看到这个差距还是比较大的

378
00:15:03,312 --> 00:15:06,352
前两天因为我们也陆续的拿到一些国产的

379
00:15:06,352 --> 00:15:09,832
比如上任公司啊 包括一些大型的公司做的这个模型

380
00:15:09,832 --> 00:15:11,072
我们又进行了一些测试

381
00:15:11,312 --> 00:15:13,232
整体来讲我觉得进步还是蛮快的

382
00:15:13,512 --> 00:15:15,792
比如说我们测试的某一家上任公司的模型

383
00:15:15,792 --> 00:15:17,432
其实已经到了50分的水平

384
00:15:17,632 --> 00:15:19,752
可以透露是哪一家吗 做的比较好的

385
00:15:20,072 --> 00:15:23,432
这家是商汤啦 就是我们测的商汤的这个模型是50多分

386
00:15:23,432 --> 00:15:23,872
然后

387
00:15:24,016 --> 00:15:26,736
像昆仑万维啊 像李志飞出门问问这些模型

388
00:15:26,736 --> 00:15:27,976
我们也在陆续的去测

389
00:15:27,976 --> 00:15:29,816
当然同时我们还没来得及去更新

390
00:15:29,816 --> 00:15:30,736
比如说百度啊

391
00:15:30,736 --> 00:15:32,136
包括另外几家创业公司的模型

392
00:15:32,136 --> 00:15:34,296
因为我觉得大家现在跌的速度也很快哈

393
00:15:34,296 --> 00:15:35,496
所以我觉得现在我们

394
00:15:35,496 --> 00:15:37,496
可能之前的得分这些也是一个参考

395
00:15:37,496 --> 00:15:39,296
但是我觉得从这可以看出来就是

396
00:15:39,296 --> 00:15:42,216
其实在早期的进步还是挺快的

397
00:15:42,216 --> 00:15:45,176
虽然我觉得比如说GPT-4现在也许也可以打80多分了

398
00:15:45,176 --> 00:15:47,016
但也就是说一开始的差距挺大

399
00:15:47,016 --> 00:15:49,016
现在差距在短期来看是在缩小

400
00:15:49,016 --> 00:15:50,656
但是这里面同时也会有一个问题

401
00:15:50,656 --> 00:15:52,176
就是说是不是会有一个平台期

402
00:15:52,400 --> 00:15:54,440
可能你从20追到50是容易的

403
00:15:54,440 --> 00:15:56,120
但50到80可能是很不容易的

404
00:15:56,120 --> 00:15:57,720
就是这里面这个曲线会怎样呢

405
00:15:57,720 --> 00:15:58,520
我们现在不知道

406
00:15:58,520 --> 00:16:01,400
包括也有人说那你的问题很比较难

407
00:16:01,400 --> 00:16:03,920
很多用户可能不会用这么难的问题

408
00:16:03,920 --> 00:16:07,000
所以我们一直在强调就是这是我们自己做VC

409
00:16:07,000 --> 00:16:09,360
我们希望比一般的用户专业一点点就可以了

410
00:16:09,360 --> 00:16:12,240
但是它并不是一个特别科学特别严谨的一个测试

411
00:16:12,240 --> 00:16:14,520
但是确实呢现在看来区分度还是有的

412
00:16:14,520 --> 00:16:16,200
就很多问题还是不好答出来的

413
00:16:16,200 --> 00:16:20,000
但是我们发现Charlie GPT-4呢它确实是

414
00:16:20,096 --> 00:16:23,696
在一些逻辑问题语言问题上它的能力要更强

415
00:16:23,696 --> 00:16:25,736
这个还是挺让人惊艳的

416
00:16:25,736 --> 00:16:27,336
给大家举个例子

417
00:16:27,336 --> 00:16:28,736
比如说是什么样的问题

418
00:16:28,736 --> 00:16:32,776
然后3.5跟4还有文心一言它的回答是怎么样的

419
00:16:32,776 --> 00:16:34,576
我具体要背出来比较难

420
00:16:34,576 --> 00:16:36,376
但是我记得有一些比较有意思的

421
00:16:36,376 --> 00:16:38,656
你就像这个麻辣螺丝丁的做法

422
00:16:38,656 --> 00:16:40,416
这里面应该只有GPT-4

423
00:16:40,416 --> 00:16:42,376
它会告诉你螺丝丁不是一个菜

424
00:16:42,376 --> 00:16:43,856
其他的都会讲保讲安

425
00:16:43,856 --> 00:16:46,696
说麻辣螺丝丁要加上辣椒加上红油

426
00:16:46,696 --> 00:16:48,056
放入螺丝丁少许

427
00:16:48,208 --> 00:16:51,408
在我们测试的时候只有GBT-4告诉你螺丝丁不能吃

428
00:16:51,408 --> 00:16:52,948
当时我们还有一个很经典的问题

429
00:16:52,948 --> 00:16:55,248
就是为什么爸妈的婚礼没邀请我参加

430
00:16:55,248 --> 00:16:58,648
这个里面只有GBT-4回答出来了说

431
00:16:58,648 --> 00:17:00,048
因为那时候你还没出生

432
00:17:00,048 --> 00:17:02,248
当然也不一定 大部分情况下你没有出生

433
00:17:02,248 --> 00:17:04,008
其他的可能模型都回答的是说

434
00:17:04,008 --> 00:17:06,248
可能因为当时他们太忙没邀请你

435
00:17:06,248 --> 00:17:08,048
或者什么你当时没时间

436
00:17:08,048 --> 00:17:11,848
对 我看到你们当时测出来放的图片了 特别逗

437
00:17:11,848 --> 00:17:13,148
当然这是一个比较逗的

438
00:17:13,264 --> 00:17:17,504
还有一些就类似于什么剪指甲穿袜子穿鞋系鞋带的

439
00:17:17,504 --> 00:17:19,824
的顺序 很多他是说错的

440
00:17:19,824 --> 00:17:22,304
当然这也比较好理解的 就有很多应用题什么的

441
00:17:22,304 --> 00:17:25,064
其实GBT是明显假的能力会强很多

442
00:17:25,064 --> 00:17:27,024
但是我们其实看到有一些推理题

443
00:17:27,024 --> 00:17:28,744
国产的大毛星进步挺快的

444
00:17:29,224 --> 00:17:31,744
你刚提到麻辣螺丝钉这个例子特别有趣

445
00:17:31,744 --> 00:17:33,704
就是我们之前在播客录制的时候

446
00:17:33,704 --> 00:17:36,504
有一个嘉宾他就直接在播客里面问我说

447
00:17:36,504 --> 00:17:39,144
宏军你晚上吃的爆炒篮球什么什么的

448
00:17:39,248 --> 00:17:41,748
后来因为我们的这个播客播出去了以后

449
00:17:41,748 --> 00:17:45,648
就有非常多的听众在GPT3.5上去搜爆炒篮球

450
00:17:45,648 --> 00:17:47,288
我看按照他们评论的时间

451
00:17:47,288 --> 00:17:51,828
最开始GPT3.5还会一本正经的去解释这个爆炒篮球是怎么样的

452
00:17:51,828 --> 00:17:53,488
但是隔了一两天

453
00:17:53,488 --> 00:17:55,228
那个评论区的反应

454
00:17:55,228 --> 00:17:58,968
GPT3.5第一次是告诉大家做了这个菜以后

455
00:17:58,968 --> 00:18:00,828
然后说爆炒篮球是不能吃

456
00:18:00,828 --> 00:18:02,828
或者这样做是有风险的

457
00:18:02,828 --> 00:18:05,608
再隔一天GPT3.5就会告诉大家

458
00:18:05,608 --> 00:18:07,208
爆炒篮球不是一个菜

459
00:18:07,208 --> 00:18:08,400
就不应该这样做

460
00:18:08,400 --> 00:18:12,280
就证明看起来GPT3.5它也是自己在进化的

461
00:18:12,280 --> 00:18:13,840
而且进化的速度很快

462
00:18:13,840 --> 00:18:16,240
对 首先你去用下来GPT的时候

463
00:18:16,240 --> 00:18:17,920
你会发现下面是有一个小字

464
00:18:17,920 --> 00:18:19,960
告诉你是用的一个哪一天的version

465
00:18:19,960 --> 00:18:23,120
我理解这个地方可能是它对模型会有重新的training

466
00:18:23,120 --> 00:18:24,520
像这个过程 包括其实现在

467
00:18:24,520 --> 00:18:26,600
称一个3.5其实应该是挺快的了

468
00:18:26,600 --> 00:18:28,560
其实我们在不断的回答

469
00:18:28,560 --> 00:18:30,680
在这过程中你可以顶你可以踩

470
00:18:30,680 --> 00:18:31,920
然后你可以regenerate

471
00:18:31,920 --> 00:18:33,360
包括你regenerate之后

472
00:18:33,360 --> 00:18:35,800
它还会问你是比原来更好了还是更差了

473
00:18:36,000 --> 00:18:40,120
所以其实我们是在不断的来做这个reinforce learning human
feedback这个过程

474
00:18:40,120 --> 00:18:43,920
这个我觉得是一个现在形成的数据飞轮效应

475
00:18:43,920 --> 00:18:46,240
因为虽然很多地方都有这种用户对话的数据

476
00:18:46,240 --> 00:18:49,520
但是用户specifically跟一个聊天机器人对话

477
00:18:49,520 --> 00:18:52,760
那目前chatter gpc的数据量是远远大于其他人的

478
00:18:53,320 --> 00:18:56,560
你们这个benchmark的300多个问题是固定的

479
00:18:56,560 --> 00:18:59,360
还是说它只是归为某一种类型的问题

480
00:18:59,360 --> 00:19:00,960
大家是可以随意去测试的

481
00:19:00,960 --> 00:19:01,920
就是我是在想

482
00:19:02,048 --> 00:19:04,448
有没有作弊的可能性啊 肯定有肯定有

483
00:19:04,448 --> 00:19:08,408
因为我们都放出来了嘛 所以肯定会有人比如尝试把这个直接拿去训一遍

484
00:19:08,408 --> 00:19:12,808
所以我们的还是那句话 我们的目标是要做一个普通人简单去用的

485
00:19:12,808 --> 00:19:15,808
我们主要是做投资嘛 所以我们一开始也想了一些

486
00:19:15,808 --> 00:19:19,768
比如说做一个明题和暗题 比如说每一道明的题

487
00:19:19,768 --> 00:19:23,048
都有一道跟他逻辑类似 但是题干不一样的题

488
00:19:23,048 --> 00:19:26,328
然后去看是不是换一个表达方式 他又认不出来了什么的

489
00:19:26,328 --> 00:19:28,568
但是我们最后还是觉得我们应该先放出来

490
00:19:28,568 --> 00:19:31,208
因为我觉得能够帮助大家去了解这个行业的进展

491
00:19:31,328 --> 00:19:35,168
所以我们现在也准备比如说把这套底库本身扩充

492
00:19:35,168 --> 00:19:36,808
然后增加这种暗题的设置

493
00:19:37,048 --> 00:19:40,008
但是我觉得因为这本身不是VC的一个核心工作啊

494
00:19:40,008 --> 00:19:43,288
更重要的是说我们自己要看到大模型能力的变化

495
00:19:43,408 --> 00:19:44,888
其实也希望抛砖引玉吧

496
00:19:44,888 --> 00:19:46,008
它本质还是一块砖

497
00:19:46,648 --> 00:19:51,808
那说到大模型模型的变化就可能过去两个月真的是进展太快了

498
00:19:52,048 --> 00:19:56,888
你怎么看过去两个月在整个大模型上有哪些进展

499
00:19:56,888 --> 00:20:00,168
或者说你现在的认知跟两个月以前有什么不一样

500
00:20:00,528 --> 00:20:02,528
我觉得进展是非常大的

501
00:20:02,528 --> 00:20:04,008
蔡刚出来的时候

502
00:20:04,008 --> 00:20:05,528
其实我们把他当做一个chatbot

503
00:20:05,528 --> 00:20:06,648
一个聊天机器人

504
00:20:06,648 --> 00:20:09,208
我们惊讶的是他能够多轮对话

505
00:20:09,208 --> 00:20:10,968
能够记住之前说了什么

506
00:20:10,968 --> 00:20:14,688
能够根据他的上下文进行合适的回答

507
00:20:14,688 --> 00:20:17,088
这都是基本上属于语言类的任务

508
00:20:17,088 --> 00:20:18,168
或者NLP的任务

509
00:20:18,168 --> 00:20:21,248
然后其实很快的就发现他可以写代码

510
00:20:21,248 --> 00:20:22,928
他可以帮助我们去

511
00:20:22,928 --> 00:20:25,888
比如说像完成写影像文案这样的事情

512
00:20:25,888 --> 00:20:27,128
写邮件这样的事情

513
00:20:27,248 --> 00:20:30,248
当然还有图像类的生成模型去生成精美的图片

514
00:20:30,248 --> 00:20:31,568
照片漫画什么的

515
00:20:31,848 --> 00:20:34,768
所以这就从聊天机器人进入到下一个阶段

516
00:20:34,768 --> 00:20:35,848
我认为叫copilot

517
00:20:35,968 --> 00:20:38,248
它就能够帮助我们去做很多事情

518
00:20:38,248 --> 00:20:41,288
而我们要给的是目标进行选择

519
00:20:41,328 --> 00:20:42,408
进行调整

520
00:20:42,568 --> 00:20:43,888
这是第二个阶段copilot

521
00:20:44,488 --> 00:20:46,808
然后随着AutoGBT, Baby AGI

522
00:20:46,968 --> 00:20:49,088
当然这还也得益于像reflection

523
00:20:49,088 --> 00:20:51,168
Hugging GBT这样几篇paper

524
00:20:51,448 --> 00:20:54,648
其实它又展现出了能够识别一个任务

525
00:20:54,648 --> 00:20:55,888
把它进行拆解

526
00:20:56,000 --> 00:21:00,160
分解成子任务 调动合适的工具去完成子任务

527
00:21:00,160 --> 00:21:01,960
观察自己完成的结果

528
00:21:01,960 --> 00:21:03,800
对结果进行反思调整

529
00:21:03,800 --> 00:21:06,560
他要做的任务的这样一个循环过程

530
00:21:06,960 --> 00:21:09,560
同时当然GBT-4也出了插件系统

531
00:21:09,560 --> 00:21:12,400
让他看到可以调用web的插件去检索信息

532
00:21:12,640 --> 00:21:15,760
去写代码去完成很多更复杂的任务

533
00:21:15,960 --> 00:21:19,520
所以我们看到他从copilot又进一步进化成agent

534
00:21:19,880 --> 00:21:21,760
那么在agent这个设定下呢

535
00:21:21,760 --> 00:21:23,920
它其实需要人给出初始的目标

536
00:21:24,048 --> 00:21:26,768
它就能够自我去迭代的去完成这个目标

537
00:21:27,088 --> 00:21:29,248
所以我觉得这个过程虽然几个月的时间

538
00:21:29,248 --> 00:21:31,408
但是它其实这是几种不同的方式

539
00:21:31,768 --> 00:21:32,608
我后来就在想

540
00:21:32,608 --> 00:21:35,608
如果我们把它跟自动驾驶去做对比的话

541
00:21:35,608 --> 00:21:38,408
比如说L1可能就是完全没有AI这回事

542
00:21:38,408 --> 00:21:39,648
就我们现在用了大部分应用

543
00:21:39,648 --> 00:21:41,048
其实都AI没有做任何事情

544
00:21:41,048 --> 00:21:41,928
都是人做事情

545
00:21:42,088 --> 00:21:44,008
Level2的AI呢可能就是

546
00:21:44,248 --> 00:21:46,168
我们去问AI很多问题

547
00:21:46,168 --> 00:21:47,168
AI给我们信息

548
00:21:47,168 --> 00:21:48,448
但还是我来做事情

549
00:21:48,448 --> 00:21:49,768
这个就比较像JedGBT

550
00:21:49,768 --> 00:21:50,688
他给我的是信息

551
00:21:50,688 --> 00:21:51,648
那我还是我来做事

552
00:21:51,968 --> 00:21:55,728
level 3的呢就是copilot 就是人和AI都要做事情

553
00:21:55,728 --> 00:21:58,408
比如说像鞋带码的github copilot

554
00:21:58,408 --> 00:21:59,888
或者像mini journey这些

555
00:21:59,888 --> 00:22:02,608
就是人要给出prompt是要人写的

556
00:22:02,608 --> 00:22:05,688
人要去改prompt要去选择用哪一个

557
00:22:05,688 --> 00:22:07,448
或者选择进行调整

558
00:22:07,448 --> 00:22:08,568
AI完成初稿

559
00:22:08,568 --> 00:22:10,728
然后根据人的要求去改变初稿

560
00:22:10,728 --> 00:22:12,888
这个就是人和AI各50 50

561
00:22:12,888 --> 00:22:15,368
我觉得L4呢就像autogbt

562
00:22:15,368 --> 00:22:17,768
或者baby-age is是一个很早的雏形

563
00:22:17,768 --> 00:22:21,248
那么这边有点像人主要是第一给出这个目标

564
00:22:21,248 --> 00:22:21,296
然后呢就是人和AI的

565
00:22:21,296 --> 00:22:24,176
然后人去监督他完成的过程

566
00:22:24,176 --> 00:22:26,496
去检查他的结果是不是我想要的

567
00:22:26,496 --> 00:22:28,216
提供一些必须的接口啊

568
00:22:28,216 --> 00:22:29,496
计算能力等资源

569
00:22:29,856 --> 00:22:32,416
那AI自主的去完成分解任务

570
00:22:32,416 --> 00:22:34,816
选择工具进行完成的这个过程

571
00:22:34,976 --> 00:22:36,176
然后他知道自己完成的时候

572
00:22:36,176 --> 00:22:37,576
他会汇报我完成了

573
00:22:37,816 --> 00:22:39,496
这个就是AI做大部分的工作

574
00:22:39,576 --> 00:22:41,016
人做指定和监督

575
00:22:41,096 --> 00:22:42,496
这个我把它叫L4

576
00:22:42,696 --> 00:22:43,776
那L5是什么呢

577
00:22:43,776 --> 00:22:46,216
我觉得就可能像是人就给一个目标

578
00:22:46,376 --> 00:22:47,336
什么其他的都不给

579
00:22:47,336 --> 00:22:48,376
人都不用监督了

580
00:22:48,448 --> 00:22:50,448
AI自主地把所有的事情全都做完

581
00:22:50,448 --> 00:22:52,248
并且可以一直延续下去

582
00:22:52,248 --> 00:22:53,688
在科幻里面有一个概念

583
00:22:53,688 --> 00:22:55,288
其实也不只是科幻了

584
00:22:55,288 --> 00:22:57,168
冯诺依曼提出的冯诺依曼机器人

585
00:22:57,168 --> 00:22:59,008
就是可以自己复制的机器人

586
00:22:59,008 --> 00:23:01,088
它可以自己收集资料复制自己

587
00:23:01,088 --> 00:23:03,048
最后扩展到整个银河系

588
00:23:03,048 --> 00:23:03,848
从模特意义上讲

589
00:23:03,848 --> 00:23:06,568
人可能也是一种完全自主的这样一个生物

590
00:23:06,568 --> 00:23:07,488
如果有上帝的话

591
00:23:07,488 --> 00:23:09,008
看来人可能也是这样一个

592
00:23:09,008 --> 00:23:10,648
level 5的这个智能

593
00:23:10,648 --> 00:23:13,248
所以我觉得这里面其实不同的范式下

594
00:23:13,248 --> 00:23:14,928
人和AI的关系是不一样的

595
00:23:15,168 --> 00:23:18,808
那么在几个月内我们就能看到三种关系的一式出现

596
00:23:18,808 --> 00:23:21,168
我觉得是非常非常让人惊讶的一件事情

597
00:23:21,608 --> 00:23:24,608
因为像agent的概念我觉得容易想到

598
00:23:24,608 --> 00:23:28,208
但是你发现它真的能用其实是很让人惊讶的

599
00:23:28,208 --> 00:23:30,688
因为这里面牵涉到很多地方是容易出错的

600
00:23:30,688 --> 00:23:33,128
当然你用RGBT你会发现它很多时候会出错

601
00:23:33,128 --> 00:23:35,048
但是它居然有的时候不会出错

602
00:23:35,048 --> 00:23:36,328
它能把事情给做了

603
00:23:36,528 --> 00:23:38,248
这个事就已经足够让人惊讶了

604
00:23:38,248 --> 00:23:40,168
因为我们知道在数字世界

605
00:23:40,272 --> 00:23:44,272
很多东西一开始都很粗糙 他后面的升级过程成本降低过程

606
00:23:44,272 --> 00:23:48,392
速度提高过程是很快的 可能几年10年的时间就真的能够做到

607
00:23:48,392 --> 00:23:52,232
不怎么出错 这个让我非常的吃惊 并且非常的激动

608
00:23:52,832 --> 00:23:55,192
你会不会觉得现在市场上有一种观点

609
00:23:55,192 --> 00:23:59,912
就是说可能我来做AIGC的这个应用层我晚做几个月

610
00:24:00,112 --> 00:24:03,392
反而是比你早做的人可能更有优势的

611
00:24:03,392 --> 00:24:07,512
比如说早做他们的模型都加在GPT 3.5的开源模型上

612
00:24:07,512 --> 00:24:09,616
然后晚做我可以直接

613
00:24:09,616 --> 00:24:11,656
接在GPT 4的模型上

614
00:24:11,656 --> 00:24:15,136
在大模型改的时候其实他们底层也要去改很多

615
00:24:15,136 --> 00:24:18,736
但是因为他们的模型其实是越做越好

616
00:24:18,736 --> 00:24:20,336
逻辑能力越做越强

617
00:24:20,336 --> 00:24:22,456
就是真正技术在做的时候

618
00:24:22,456 --> 00:24:26,936
他可能晚做比他早做再一点点去改那个框架

619
00:24:26,936 --> 00:24:28,656
是有更多的优势的

620
00:24:28,656 --> 00:24:32,816
我觉得当一个技术革命发生的时候

621
00:24:32,816 --> 00:24:35,176
晚做的人肯定有一些后发的优势

622
00:24:35,176 --> 00:24:37,936
比如说他已经看到前面人踩的坑了

623
00:24:38,144 --> 00:24:42,304
他已经知道一些best practice,所以去用什么

624
00:24:42,304 --> 00:24:45,144
但整体来讲其实你会发现

625
00:24:45,144 --> 00:24:47,984
科技革命中做大成的人一般还是早做的人

626
00:24:47,984 --> 00:24:48,984
为什么呢?

627
00:24:48,984 --> 00:24:51,704
因为他们早做会先有经验

628
00:24:51,704 --> 00:24:54,264
并且先积累起资源

629
00:24:54,264 --> 00:24:57,264
如果大家都是差不多聪明差不多勤奋的情况下

630
00:24:57,264 --> 00:25:00,984
很难你说你晚开始反而能比别人做得更好

631
00:25:00,984 --> 00:25:03,464
我觉得你说的问题肯定是存在的

632
00:25:03,648 --> 00:25:08,328
但是那得基于一个假设就是先做的人他没法把3.5换成4

633
00:25:08,528 --> 00:25:11,448
但实际上也许这就是改个API key的事情

634
00:25:11,768 --> 00:25:15,128
但是在这过程中第一批做AIGC应用的人

635
00:25:15,128 --> 00:25:17,688
他们可能做的应用场景像个玩具一样

636
00:25:17,688 --> 00:25:18,768
这是很有可能的

637
00:25:18,928 --> 00:25:21,288
同时也很有可能他们第一个产品不成功

638
00:25:21,288 --> 00:25:22,088
第二个产品不成功

639
00:25:22,088 --> 00:25:23,008
我觉得这都有可能

640
00:25:23,288 --> 00:25:25,848
但是在这个时候他比起没做的人来讲

641
00:25:25,848 --> 00:25:29,288
他的经验就是1和0的区别是一个非常大的区别

642
00:25:29,488 --> 00:25:32,688
那我们其实去想在技术革命的后期

643
00:25:32,688 --> 00:25:34,688
可能大家经验是10和9的区别

644
00:25:34,688 --> 00:25:35,888
差不了太多

645
00:25:35,888 --> 00:25:37,808
但是1和0的区别还是很大的

646
00:25:37,808 --> 00:25:40,888
所以我觉得在这里面未必你是第一个做的

647
00:25:40,888 --> 00:25:43,248
但是一般来说都得是第一梯队做的

648
00:25:43,248 --> 00:25:44,848
跟着这个技术一起成长

649
00:25:44,848 --> 00:25:48,048
你才对里面很多事情距离怎么做是有概念的

650
00:25:48,048 --> 00:25:49,808
你去看它的研报

651
00:25:49,808 --> 00:25:50,768
看它的分析

652
00:25:50,768 --> 00:25:52,728
对于里面的很多具体问题怎么解决

653
00:25:52,728 --> 00:25:54,048
怎么处理的细节

654
00:25:54,048 --> 00:25:55,888
其实往往是不知道的

655
00:25:55,888 --> 00:25:58,128
在互联网领域有很多这样的例子

656
00:25:58,256 --> 00:26:04,056
比如说有一个故事是说当时雷军做米疗不是输给了微信吗

657
00:26:04,056 --> 00:26:06,856
后来有一次雷军见到赵小龙就问

658
00:26:06,856 --> 00:26:09,536
你们怎么解决发消息延迟的问题

659
00:26:09,536 --> 00:26:11,536
赵小龙说发消息还会延迟吗

660
00:26:11,536 --> 00:26:15,136
这个意思就是说微信有很长时间的做这个事情的积累

661
00:26:15,136 --> 00:26:17,936
因为QQ本身就是一个大量的用户发消息的系统

662
00:26:17,936 --> 00:26:20,256
QQ邮箱也是一个大用户量的产品

663
00:26:20,256 --> 00:26:24,496
所以他们很早就遇到了发消息会延迟或者说会

664
00:26:24,496 --> 00:26:26,576
讯息会乱的问题然后去解决了

665
00:26:26,848 --> 00:26:28,848
所以这就是你坐在前面你有了经验

666
00:26:28,848 --> 00:26:31,648
虽然这个事看上去都是一个事儿 就是发消息

667
00:26:31,648 --> 00:26:33,488
但是你后座的话

668
00:26:33,488 --> 00:26:34,528
不知道这里会有坑

669
00:26:34,528 --> 00:26:36,608
你就可能在这里面就会陷进去

670
00:26:36,608 --> 00:26:39,648
那么先坐的人会在已经解决了这个问题就会有经验

671
00:26:39,648 --> 00:26:41,728
很多这些东西它并不是简单的说

672
00:26:41,728 --> 00:26:43,168
换一个更好的模型就能解决

673
00:26:43,168 --> 00:26:44,048
它有大量的knowhow

674
00:26:44,048 --> 00:26:45,568
所以我觉得一般来讲

675
00:26:45,568 --> 00:26:46,448
历史上来看

676
00:26:46,448 --> 00:26:49,008
科技领域先发优势还是占多数的

677
00:26:49,008 --> 00:26:50,208
我非常同意

678
00:26:50,208 --> 00:26:53,168
而且我觉得我们看到的都是具体的差距

679
00:26:53,168 --> 00:26:54,768
其实我觉得认知上

680
00:26:54,944 --> 00:26:58,784
有差距或者有迭代也是非常重要的 就比如说

681
00:26:58,784 --> 00:27:02,424
很多后面做的人或者就是在一些具体的事情上

682
00:27:02,424 --> 00:27:04,584
有人会告诉你要规避哪些坎儿

683
00:27:04,584 --> 00:27:06,504
但是自己不走到那一步

684
00:27:06,504 --> 00:27:08,664
有时候人的思维是很难转过来的

685
00:27:08,664 --> 00:27:11,184
就是你可能听到了但是你没有理解它

686
00:27:11,184 --> 00:27:14,104
所以你就没有执行 在有动作的时候就变形了

687
00:27:14,104 --> 00:27:17,464
但另外一种有后发优势的呢 就是说

688
00:27:17,464 --> 00:27:19,984
之前你不知道这件事能做

689
00:27:19,984 --> 00:27:22,896
但有的时候你知道 第一它能做

690
00:27:22,896 --> 00:27:27,576
第二 用这么多人 这么多钱 用这个方法就可以做到

691
00:27:27,576 --> 00:27:30,576
这个是事实上有后发优势的

692
00:27:30,576 --> 00:27:33,376
其实我为什么认为国产做大模型

693
00:27:33,376 --> 00:27:35,656
可能没有大家想的那么悲观和难呢

694
00:27:35,656 --> 00:27:37,056
也是基于这个假设

695
00:27:37,056 --> 00:27:39,736
很多人都拿哥伦布去新大陆打比方

696
00:27:39,736 --> 00:27:41,016
我觉得这是贴切的

697
00:27:41,016 --> 00:27:42,456
当你不知道有新大陆

698
00:27:42,456 --> 00:27:44,056
也不知道新大陆有多远

699
00:27:44,056 --> 00:27:47,336
也不知道新大陆是不是必须得坐飞机才能去的时候

700
00:27:47,336 --> 00:27:49,496
其实你是冒很大的风险

701
00:27:49,496 --> 00:27:51,984
但是当你知道新大陆就在西边

702
00:27:51,984 --> 00:27:56,304
用这样大的一艘船带两个月的集养 坐船就可以去的时候

703
00:27:56,304 --> 00:27:57,584
这就变得非常重要了

704
00:27:57,584 --> 00:27:58,984
就当年原子弹其实是一样的

705
00:27:58,984 --> 00:28:01,784
原子弹能炸其实就是一个非常关键的信息

706
00:28:01,784 --> 00:28:04,784
我觉得现在大模型做到大概这个参数量

707
00:28:04,784 --> 00:28:06,784
这个与Data Set的大小

708
00:28:06,784 --> 00:28:08,664
它就能够出现这样的能力

709
00:28:08,664 --> 00:28:11,664
这其实也是一个很重要的确定性信息

710
00:28:11,664 --> 00:28:16,064
所以我觉得大家在追赶上面其实是有很多可以节省时间的

711
00:28:16,064 --> 00:28:18,984
现在大家肯定就用GPT这样的预训链文本的技术了

712
00:28:18,984 --> 00:28:21,304
就不会再用BERT这种双边升神的技术了

713
00:28:21,584 --> 00:28:23,064
这就是一个典型

714
00:28:23,064 --> 00:28:25,464
所以我觉得这里面是可以朝走一些弯路的

715
00:28:25,464 --> 00:28:27,024
当然在那个里面

716
00:28:27,024 --> 00:28:29,304
比如说在数据清洗啊

717
00:28:29,304 --> 00:28:31,264
Infra啊这些地方的很多

718
00:28:31,264 --> 00:28:34,584
Knowhow我觉得也是没法说略的

719
00:28:34,584 --> 00:28:36,904
肯定要去精力去探索这个Knowhow的

720
00:28:36,904 --> 00:28:41,144
所以为什么比如说像王辉文老王他选择立刻开始呢

721
00:28:41,144 --> 00:28:43,024
也是基于一个很朴素的心灵

722
00:28:43,024 --> 00:28:46,784
既然已经对这个革命它的尺度它的规模

723
00:28:46,784 --> 00:28:49,504
有了充分的信任信仰之后

724
00:28:49,504 --> 00:28:51,184
那早开始总比晚开始要好

725
00:28:51,184 --> 00:28:51,376
因为早开始就已经有了充分的信任

726
00:28:51,376 --> 00:28:53,776
因为你正好提到中国的大模型了

727
00:28:53,776 --> 00:28:55,616
然后我看中国最近也是

728
00:28:55,616 --> 00:28:58,116
一个是大厂的大模型在密集发布

729
00:28:58,116 --> 00:29:01,516
比如说百度、阿里、华为都在发布

730
00:29:01,516 --> 00:29:04,756
另外是中国有一些上一批科技创业的人

731
00:29:04,756 --> 00:29:07,896
互联网跟移动互联网创业的成功者

732
00:29:07,896 --> 00:29:09,696
他们也在做大模型

733
00:29:09,696 --> 00:29:11,796
比如说你刚刚提到王会文的公司

734
00:29:11,796 --> 00:29:13,496
还有王小川的公司

735
00:29:13,496 --> 00:29:16,236
那贾阳青跟李士飞之前说要做大模型

736
00:29:16,236 --> 00:29:18,836
我看他们现在做的好像也不算是大模型

737
00:29:18,836 --> 00:29:19,836
算是应用

738
00:29:19,952 --> 00:29:23,592
可不可以跟大家介绍一下现在大家做的大模型

739
00:29:23,592 --> 00:29:27,832
分别是什么 哪些是大模型 哪些可能是我们理解有误

740
00:29:27,832 --> 00:29:30,432
这个事情也是在不断地变化的

741
00:29:30,432 --> 00:29:32,472
目前来看 比如说这些大厂

742
00:29:32,472 --> 00:29:36,472
不管是百度 字节 阿力 腾讯

743
00:29:36,472 --> 00:29:40,792
包括商汤 360 出门问问 昆仑万维

744
00:29:40,792 --> 00:29:42,832
这些其实是说要做一个大模型

745
00:29:42,832 --> 00:29:44,432
或者说是大家理解的这种

746
00:29:44,624 --> 00:29:49,784
几十亿上百亿参数的能够解决很多NLP和通用

747
00:29:49,784 --> 00:29:51,544
领域的问题的这种大模型

748
00:29:51,544 --> 00:29:56,024
那这里面比如说像王辉文王小川像智普这些

749
00:29:56,024 --> 00:29:58,384
其实也都是在做大模型这样的事情

750
00:29:58,384 --> 00:30:00,984
智普是支援分拆出来的

751
00:30:00,984 --> 00:30:02,504
唐杰老师带队的团队

752
00:30:02,504 --> 00:30:05,824
这些我觉得是比较明确就是说做一个比较像

753
00:30:05,824 --> 00:30:08,584
GBT3.5或者GBT4这样的大模型

754
00:30:08,584 --> 00:30:13,464
但比如说像杨青是要做一个偏middleware的创业公司

755
00:30:13,464 --> 00:30:13,632
那这些都是在做一个比较像的一个模型

756
00:30:13,632 --> 00:30:16,312
当然他有一个宣传新闻内容哈

757
00:30:16,672 --> 00:30:19,112
就是我觉得在这过程中肯定大家有发现大模型

758
00:30:19,112 --> 00:30:20,152
是不是适合我做

759
00:30:20,152 --> 00:30:23,712
以及说是不是现在做还有最好的机会和时机去做

760
00:30:23,952 --> 00:30:26,352
我觉得这肯定很多人会兼人兼之

761
00:30:26,512 --> 00:30:28,432
有人会觉得可能不适合我做的机会

762
00:30:28,432 --> 00:30:30,192
我去做更加一个适合我做的机会

763
00:30:30,192 --> 00:30:31,032
这都很正常

764
00:30:31,312 --> 00:30:35,152
同样现在大家也是因为只看到了一个把大模型

765
00:30:35,152 --> 00:30:39,632
做出来先有chat gpt才能够去延展的这么一个逻辑

766
00:30:39,912 --> 00:30:42,392
但我完全可以想象假设大家后来发现

767
00:30:42,528 --> 00:30:45,568
比如说第一有了一个很好用的大模型

768
00:30:45,848 --> 00:30:48,368
但是可能会给很多人的做法会变得不太一样

769
00:30:48,368 --> 00:30:51,328
因为现在大家是都没有去抢到这样一个头筹嘛

770
00:30:51,328 --> 00:30:54,088
但如果有人已经做出来一个足够好的大模型

771
00:30:54,088 --> 00:30:57,648
那可能有了团队就会想那我是不是转去做应用会更好

772
00:30:57,968 --> 00:31:03,248
第二就是说是不是只有做大模型才是认知现在的AGI

773
00:31:03,608 --> 00:31:05,808
或者未来的AGI能力的唯一途径

774
00:31:06,408 --> 00:31:09,568
也许我们会有别的方式去理解这件事情

775
00:31:09,808 --> 00:31:12,808
所以也许有人发现其实我没必要做个大模型

776
00:31:12,808 --> 00:31:14,488
但是目前来看呢

777
00:31:14,488 --> 00:31:17,168
就好比说目前只有坐船能够去美洲

778
00:31:17,168 --> 00:31:18,808
所以大家先都得造船

779
00:31:18,808 --> 00:31:20,648
也许有一天大家有飞机了

780
00:31:20,648 --> 00:31:21,728
那就不用造船了

781
00:31:21,728 --> 00:31:23,568
但目前来看只有坐船才行

782
00:31:23,568 --> 00:31:24,768
所以大家都得造船

783
00:31:24,768 --> 00:31:26,248
但到了美洲之后干嘛

784
00:31:26,248 --> 00:31:27,208
那也不一定

785
00:31:27,208 --> 00:31:28,768
有的去种棉花

786
00:31:28,768 --> 00:31:30,088
有的去挖煤炭

787
00:31:30,088 --> 00:31:31,928
但是大家说你现在船都没有

788
00:31:31,928 --> 00:31:33,888
那你都没法去开始这件事儿

789
00:31:33,888 --> 00:31:35,688
也有可能开通了一条航线

790
00:31:35,688 --> 00:31:37,648
泰坦尼克号将来要坐渡船

791
00:31:37,648 --> 00:31:38,768
那你就不用自己造船

792
00:31:38,768 --> 00:31:39,504
都有可能

793
00:31:39,504 --> 00:31:42,784
现在就是说大家都没有船 所以大家都先第一反应自己造

794
00:31:42,784 --> 00:31:46,704
这个是很正常的情况 在美国现在大家其实不怎么去

795
00:31:46,704 --> 00:31:50,544
有独立做大模型的新公司了 是因为已经有几条固定航线了

796
00:31:50,544 --> 00:31:53,504
有OpenAI号 有这个cloud号 还有这个

797
00:31:53,504 --> 00:31:57,024
Cohere或者是Bard这些 就是大家发现啊这有几条航线了

798
00:31:57,024 --> 00:32:00,384
那我干脆就去想去美洲之后干嘛呢 就是做应用了

799
00:32:00,384 --> 00:32:04,304
那中国的大模型你觉得未来是一个怎么样的格局

800
00:32:04,304 --> 00:32:07,424
可能是一家独大还是说多家

801
00:32:07,728 --> 00:32:10,128
我觉得这个问题肯定不只是中国

802
00:32:10,128 --> 00:32:13,248
包括全世界的角度都是一个还不知道的问题

803
00:32:13,248 --> 00:32:15,848
这是一个billion dollar甚至是trillion dollar
question

804
00:32:15,848 --> 00:32:18,048
我觉得它是一个光谱

805
00:32:18,048 --> 00:32:20,848
比如说集中度最高的形式可能像google

806
00:32:20,848 --> 00:32:24,248
google一家占了93%的solo引擎份额

807
00:32:24,248 --> 00:32:28,248
如果大模型第一它是一个2C为主的场景

808
00:32:28,248 --> 00:32:32,848
就比如说可能以后有很多人都会用一个像shadow gdt这样的助理

809
00:32:32,848 --> 00:32:36,240
且它的技术始终是比较难的

810
00:32:36,240 --> 00:32:38,920
就是说第一名始终有比较大的领先优势

811
00:32:38,920 --> 00:32:43,600
那么我可以想象可能大部分人最后都只用某一个最领先的助手

812
00:32:43,600 --> 00:32:45,720
可能是chatterGBT可能是某一家

813
00:32:46,160 --> 00:32:48,880
因为我没有道理去用一个第二名的

814
00:32:48,880 --> 00:32:51,440
至于跟solar引擎如果你都超不过google

815
00:32:51,440 --> 00:32:52,320
我肯定没法用你

816
00:32:52,320 --> 00:32:53,760
哪怕你能超过google

817
00:32:53,760 --> 00:32:54,840
只要你超过的不是太多

818
00:32:54,840 --> 00:32:55,720
我也没有动力用

819
00:32:56,080 --> 00:32:58,960
所以这就是最收敛的叫赢家通吃的格局

820
00:32:58,960 --> 00:33:04,480
那如果说第一是openm没办法长期保持一个特别遥遥领先的状态

821
00:33:04,592 --> 00:33:09,112
我们使用大猿模型主要的场景是通过2b的应用来使用

822
00:33:09,112 --> 00:33:12,032
而不是直接去用一个shared gpt这样的助手

823
00:33:12,032 --> 00:33:14,592
那么它也有可能形成一个公有云这样的格局

824
00:33:14,992 --> 00:33:17,192
就是第一梯队可能有2-3家

825
00:33:17,192 --> 00:33:18,952
3-4家都还不错

826
00:33:18,952 --> 00:33:19,752
各有特点

827
00:33:19,752 --> 00:33:21,232
比如说你的擅长图像

828
00:33:21,232 --> 00:33:22,352
我的擅长推理

829
00:33:22,352 --> 00:33:27,232
那么这样用户用的主要是用这些大模型作为底层勾造的应用

830
00:33:27,672 --> 00:33:29,232
那这样就有可能像公有云一样

831
00:33:29,232 --> 00:33:30,752
比如说有的跑在aws

832
00:33:30,752 --> 00:33:31,832
有的跑在azure

833
00:33:31,832 --> 00:33:33,832
有的跑在google cloud service上

834
00:33:33,904 --> 00:33:34,904
这些都有可能

835
00:33:35,184 --> 00:33:38,984
还有一种可能就是大模型这事现在很厉害

836
00:33:38,984 --> 00:33:41,904
但是逐渐变成一个commodity变成开源的

837
00:33:42,104 --> 00:33:44,704
很多人都是自己用一个开源的

838
00:33:44,704 --> 00:33:46,024
加以微调之后

839
00:33:46,024 --> 00:33:48,744
部署在自己的云或者服务器上

840
00:33:48,944 --> 00:33:51,664
这个时候可能就变成了一种百家争鸣

841
00:33:51,824 --> 00:33:54,264
或者说有各种各样的开源模型的阶段

842
00:33:54,424 --> 00:33:57,104
这个时候也许openai它是一个开创者

843
00:33:57,104 --> 00:33:58,664
但也许之后它的大量技术

844
00:33:58,664 --> 00:34:00,544
变成人类所共有的技术

845
00:34:00,544 --> 00:34:02,264
这也是很多时候经常发生的

846
00:34:02,448 --> 00:34:06,608
比如说当时人脸识别出来的时候 其实也是一个石破天惊的技术

847
00:34:06,608 --> 00:34:11,408
但后面人脸识别每个应用都有 你也不会特别介意他用了谁的人脸识别技术

848
00:34:11,408 --> 00:34:15,008
这种情况下它往往意味着技术它有个终点

849
00:34:15,008 --> 00:34:18,208
或者说大家都做到了GPT-4的能力都差不多了

850
00:34:18,208 --> 00:34:20,608
但是也没法出来一个跟上一个台阶的了

851
00:34:20,608 --> 00:34:23,808
所以我觉得这里面很看未来这个技术终点在哪里

852
00:34:23,808 --> 00:34:27,208
主要是to C还是to B 其他家追赶的速度怎么样

853
00:34:27,208 --> 00:34:30,008
所以其实都有可能 这里面其实不好讲

854
00:34:30,288 --> 00:34:32,688
其实在聊到中美大模型的时候

855
00:34:32,688 --> 00:34:34,488
大家都会谈到芯片嘛

856
00:34:34,488 --> 00:34:35,648
你刚刚也提到了

857
00:34:35,648 --> 00:34:37,728
比如说现在很多中国的大模型

858
00:34:37,728 --> 00:34:42,528
它们的得分从二三十分上升到了五十多分、六十多分

859
00:34:42,528 --> 00:34:43,848
其实在我理解

860
00:34:43,848 --> 00:34:45,688
之前有很多中国的大厂

861
00:34:45,688 --> 00:34:48,248
它们是有囤很多A100芯片的

862
00:34:48,248 --> 00:34:51,928
那如果说未来这个芯片不能持续地供应

863
00:34:51,928 --> 00:34:55,008
而美国的芯片还在持续地进化中

864
00:34:55,008 --> 00:34:56,768
比如说H100会出来

865
00:34:56,768 --> 00:35:01,568
那中国的芯片它的这个性能或者说它跟不上

866
00:35:01,568 --> 00:35:06,968
那你觉不觉得它可能会是一个越拉越远的战局

867
00:35:06,968 --> 00:35:09,968
我觉得就还是要从几个方面去想

868
00:35:09,968 --> 00:35:13,888
第一个就是是不是这是一个百公里长跑

869
00:35:13,888 --> 00:35:15,328
还是一个百米塞跑

870
00:35:15,328 --> 00:35:18,608
比如说如果它是一个很快会遇到瓶颈的事情

871
00:35:18,608 --> 00:35:20,128
那可能现有的算力就够了

872
00:35:20,128 --> 00:35:22,208
你也许不用训练那么大的模型

873
00:35:22,208 --> 00:35:24,528
或者说就训练现在这么大的就可以了

874
00:35:24,528 --> 00:35:26,128
另外一种情况是它

875
00:35:26,160 --> 00:35:27,520
以后要越来越大越来越大

876
00:35:27,520 --> 00:35:30,200
所以现在的芯片就不能用了

877
00:35:30,560 --> 00:35:32,960
虽然我们现在很多人觉得可能是后遗者可能

878
00:35:32,960 --> 00:35:35,040
但是首先它是有多种可能性存在的

879
00:35:35,480 --> 00:35:39,280
第二就是说训练的效率和方式方法

880
00:35:39,280 --> 00:35:40,880
本身也是在不断提高的

881
00:35:41,440 --> 00:35:44,800
在之前需要这么多顺利训练的模型

882
00:35:44,800 --> 00:35:47,360
在现在也许会有更好的方式去训练

883
00:35:47,640 --> 00:35:49,800
第三就是当然说的这些

884
00:35:49,800 --> 00:35:53,120
我们本质上肯定是希望我们的半导体工业能够发展

885
00:35:53,240 --> 00:35:54,680
我们有一天也能够

886
00:35:54,736 --> 00:35:59,216
有世界先进水平的GPU也好或者AI芯片去进行这种训练

887
00:35:59,576 --> 00:36:02,296
当然好的情况肯定是说要么是中美关系缓和了

888
00:36:02,336 --> 00:36:04,576
我们同样能够买到这些先进的芯片

889
00:36:04,696 --> 00:36:08,376
有可能同时也是说我们的芯片公司真的也做出来了

890
00:36:08,376 --> 00:36:10,216
可以跟英伟达媲美的这种芯片

891
00:36:10,696 --> 00:36:12,056
我觉得这肯定是好的情况

892
00:36:12,056 --> 00:36:16,576
如果不好的情况那就是只有智力更生用这种方法去尝试解决了

893
00:36:17,096 --> 00:36:18,416
但我想说的是

894
00:36:18,656 --> 00:36:21,096
我觉得当我们采取追赶的时候呢

895
00:36:21,096 --> 00:36:23,536
我们往往会把一些问题给简单化

896
00:36:23,856 --> 00:36:25,856
A芯片现在是个显然的问题

897
00:36:25,856 --> 00:36:28,896
就好像说买了1万块芯片A100就能解决这个问题一样

898
00:36:28,896 --> 00:36:30,016
其实我觉得不是这样的

899
00:36:30,016 --> 00:36:34,056
就是现在我们在数据芯片infra

900
00:36:34,056 --> 00:36:36,616
算法这方面其实有很多需要去解决的

901
00:36:36,616 --> 00:36:40,816
我觉得不宜把这个问题简单化成一个买1万块芯片

902
00:36:40,816 --> 00:36:42,816
好像说只要花钱就能解决

903
00:36:42,816 --> 00:36:46,376
实际上我遇到了这些真正在好好做这件事情的人

904
00:36:46,376 --> 00:36:47,576
其实他们都会意识到

905
00:36:47,576 --> 00:36:49,976
第一你哪怕是要1万块A100

906
00:36:49,976 --> 00:36:51,976
国内现在也是有这样的数量的

907
00:36:52,288 --> 00:36:55,928
第二呢就是现在我们离用好1万块A100那还差很远

908
00:36:56,248 --> 00:36:59,808
第三这里面其实每一个环节里都有很多要解决的问题

909
00:37:00,088 --> 00:37:03,448
那么你要去探索怎么去做一个

910
00:37:03,568 --> 00:37:06,088
比如3.5水平的模型其实不用1万块A100

911
00:37:06,088 --> 00:37:09,968
因为你想想看GBT-3其实是在1万块V100上训练的

912
00:37:10,088 --> 00:37:13,848
GBT-3.5就是所谓的instructor GBT是一个小很多的模型

913
00:37:13,848 --> 00:37:18,088
就它并不一定是一定要训练这么大的参数量才能训练出来的模型

914
00:37:18,568 --> 00:37:20,808
所以这里面其实有很多

915
00:37:20,896 --> 00:37:24,896
跟芯片一样重要 甚至在短期可能比芯片更重要的问题

916
00:37:25,256 --> 00:37:27,536
我觉得这里面问题还是比较复杂的

917
00:37:28,136 --> 00:37:33,256
中文互联网的数据你觉得它会是一个问题吗

918
00:37:33,656 --> 00:37:34,936
我觉得完全不是一个问题

919
00:37:34,936 --> 00:37:39,736
因为简单的来想就是chattgbt并没有用到什么独有的中文数据

920
00:37:39,736 --> 00:37:42,256
它就已经在中文上具有这么好的表现

921
00:37:42,536 --> 00:37:45,256
当然gbt4可能多了很多独有的东西

922
00:37:45,256 --> 00:37:47,016
或者说它有很多微调的内容

923
00:37:47,216 --> 00:37:50,136
但如果你从pre-training的那部分来看的话

924
00:37:50,864 --> 00:37:53,104
wikipedia common ground

925
00:37:53,104 --> 00:37:57,064
对呢paper codecs这些其实很大量是通过英文

926
00:37:57,064 --> 00:37:58,784
然后泛化到中文来的

927
00:37:58,784 --> 00:38:02,504
所以在这里面我觉得至少第一原理上不存在说

928
00:38:02,504 --> 00:38:04,504
openai有什么我们没有的中文数据

929
00:38:04,504 --> 00:38:08,824
但是怎么去用现有的中文数据去进行清洗

930
00:38:08,824 --> 00:38:12,704
包括后面的这种标注进行human feedback

931
00:38:12,704 --> 00:38:15,144
这些knowhow反而是非常非常重要的

932
00:38:15,144 --> 00:38:18,464
这个我觉得是一个我们需要解决的工程问题

933
00:38:18,464 --> 00:38:20,824
但不是说我们没有这些预料的问题

934
00:38:20,824 --> 00:38:20,992
我们需要解决的问题是

935
00:38:20,992 --> 00:38:26,112
之前每次你见我啊,你都会问我一个问题,我最近见过的最厉害的人是谁?

936
00:38:26,112 --> 00:38:31,752
你这次来美国,你觉得你见到了哪些厉害的人,他们有给你哪些启发?

937
00:38:31,752 --> 00:38:39,952
嗯,也不好说最厉害的人是谁吧,但是比如说一路下来我们在湾区,在波士顿,在纽约,匹
兹堡,

938
00:38:39,952 --> 00:38:43,792
其实跟很多做AI的这些研究员,包括

939
00:38:43,920 --> 00:38:50,520
工程数据沟通交流,我觉得还是从很多具体时间的角度去学习

940
00:38:50,520 --> 00:38:53,560
怎么样做大模型,包括说视觉模型

941
00:38:53,560 --> 00:38:56,280
以及现在大家关注的一些重点难点是什么

942
00:38:56,280 --> 00:38:57,360
我觉得是挺有帮助

943
00:38:57,840 --> 00:39:01,320
我刚才说到如果说我们从隔着一定距离去看

944
00:39:01,320 --> 00:39:03,600
就容易把这个问题给简单化

945
00:39:04,160 --> 00:39:06,520
简单化成比如说我怎么买到1万块芯片

946
00:39:06,520 --> 00:39:09,720
或者说我怎么样挖到比如OpenAI的人

947
00:39:09,720 --> 00:39:12,120
或者说我怎么样去

948
00:39:12,192 --> 00:39:13,272
收集雨料什么的

949
00:39:13,272 --> 00:39:14,952
但是我觉得跟他们交流下来

950
00:39:14,952 --> 00:39:18,552
就发现这里面有很多工程的细节都是很重要的

951
00:39:18,552 --> 00:39:21,832
以及说为什么它是一个这样的由来

952
00:39:21,832 --> 00:39:23,032
中间经历了什么故事

953
00:39:23,032 --> 00:39:24,712
我觉得这些是把它拆析了看

954
00:39:24,712 --> 00:39:26,592
会看到很多细节和脉络

955
00:39:26,832 --> 00:39:27,792
当然对我们的角度

956
00:39:27,792 --> 00:39:29,592
首先是想发现未来创业者

957
00:39:29,792 --> 00:39:32,112
我们其实不是说要去自己做一个大冒险

958
00:39:32,312 --> 00:39:33,352
不可能具备那个能力

959
00:39:33,352 --> 00:39:35,952
所以我们只是说想进一步的去探讨

960
00:39:35,952 --> 00:39:37,792
这里面有哪些难点

961
00:39:37,792 --> 00:39:39,272
或者哪些值得注意的地方

962
00:39:39,616 --> 00:39:41,856
整体来讲我觉得还是在学习阶段

963
00:39:41,856 --> 00:39:43,896
实际上你要问我见到最厉害的

964
00:39:43,896 --> 00:39:44,896
我觉得不是人

965
00:39:44,896 --> 00:39:47,736
而是在这个旅程中我们看到了Auto GPT

966
00:39:47,736 --> 00:39:51,576
我觉得Auto GPT是一个让我觉得非常震撼

967
00:39:51,576 --> 00:39:54,416
同时也进一步的加强了忧虑的事情

968
00:39:54,416 --> 00:39:59,216
是因为这种Recursive自己去执行的Demo出来

969
00:39:59,216 --> 00:40:03,296
那么它其实是具备很强的不可控的力量

970
00:40:03,296 --> 00:40:06,976
这里面我觉得AI Safety AI Alignment

971
00:40:06,976 --> 00:40:08,816
这些问题会变得很重要

972
00:40:08,944 --> 00:40:12,144
其实这个旅途中我是最被 old GPT 震惊啊

973
00:40:12,144 --> 00:40:15,064
当然如果我见到 Sam Altman 肯定他会讲一些让我很震惊的话

974
00:40:15,064 --> 00:40:17,344
但可惜我们也见不到 Sam Altman

975
00:40:17,344 --> 00:40:19,704
你要说有一个特别的人讲一句特别的话

976
00:40:19,704 --> 00:40:21,304
我倒觉得没有那样的时刻

977
00:40:21,304 --> 00:40:23,224
但是有很多人讲了很多有意思的东西

978
00:40:23,224 --> 00:40:24,944
我是觉得挺有意思的

979
00:40:24,944 --> 00:40:29,104
你刚提到你来慢慢理解了 GPT 它是怎么被做出来的

980
00:40:29,104 --> 00:40:31,344
它中间经历了哪些重要的时刻

981
00:40:31,344 --> 00:40:33,504
我想我们的听众可能也会很感兴趣

982
00:40:33,504 --> 00:40:35,904
能不能大概的介绍一下几个关键节点

983
00:40:36,208 --> 00:40:40,248
像现在微软它是可以每天训一个GPT-3

984
00:40:40,248 --> 00:40:41,648
就是训练一个GPT-3

985
00:40:41,648 --> 00:40:43,168
你变成一个顺手就可以做的事情

986
00:40:43,168 --> 00:40:44,208
一天训一个

987
00:40:44,208 --> 00:40:47,328
但是微软自己是没法训练GPT-4的

988
00:40:47,328 --> 00:40:53,568
是需要在Azure那台专门为训练GPT-4打招的超算上才可以训练的

989
00:40:53,568 --> 00:40:57,288
所以你会发现这里面这个训练的难度是高了很多

990
00:40:57,288 --> 00:41:00,168
尤其把这么多算力把它有效的组织起来

991
00:41:00,168 --> 00:41:03,928
这其实是一个很一线很前沿的问题

992
00:41:04,128 --> 00:41:07,768
我很好奇就是为什么微软可以随便训练一个GPT-3呢

993
00:41:08,128 --> 00:41:11,328
就是GPT-3所需要的算力以最近的架构已经很成熟了

994
00:41:11,328 --> 00:41:13,728
你可以直接通过云服务就拥有这样的算力

995
00:41:13,728 --> 00:41:16,368
但GPT-4需要的算力是一个新的级别

996
00:41:16,568 --> 00:41:20,448
比如说其实GPT-4初始的能力更强很多

997
00:41:20,568 --> 00:41:23,688
我看过一些没有经过微调的GPT-4

998
00:41:23,688 --> 00:41:25,088
比如画出来的图像

999
00:41:25,368 --> 00:41:29,328
它是要比现在的GPT-4画出图像更精细很多的

1000
00:41:29,568 --> 00:41:32,128
如果你看了那篇通用人工智能的火花那篇论文

1001
00:41:32,128 --> 00:41:33,848
你发现GPT-4是可以画图的

1002
00:41:33,856 --> 00:41:35,256
比如它里面画了个独角兽

1003
00:41:35,256 --> 00:41:38,656
但是那个已经是经过微调之后的GPT-4画的了

1004
00:41:38,656 --> 00:41:41,336
当没有经过微调的GPT-4画的图

1005
00:41:41,336 --> 00:41:42,696
其实要比那个精细很多

1006
00:41:42,696 --> 00:41:45,016
换句话说GPT-4为了和人类对齐

1007
00:41:45,016 --> 00:41:46,736
牺牲了很多它的能力

1008
00:41:46,736 --> 00:41:49,136
当三巴特们说他们没有在训GPT-5的时候

1009
00:41:49,136 --> 00:41:49,976
我觉得是有道理的

1010
00:41:49,976 --> 00:41:52,336
因为GPT-4现在还是冰山一角

1011
00:41:52,336 --> 00:41:55,056
它能做很多事情我们可能还想象不到

1012
00:41:55,056 --> 00:41:56,736
其实我跟一个朋友在讨论的时候

1013
00:41:56,736 --> 00:41:57,616
我们经常说到

1014
00:41:57,616 --> 00:41:59,536
如果我们现在斩钉截铁地说一件事

1015
00:41:59,536 --> 00:42:00,496
GPT-4做不到

1016
00:42:00,496 --> 00:42:02,256
往往是我们低估了它的能力

1017
00:42:02,336 --> 00:42:04,536
我们还在不断的像AutoGPT这样发现

1018
00:42:04,536 --> 00:42:06,736
它其实可以做很多我们没想到的事情

1019
00:42:06,736 --> 00:42:09,776
其实很多人会忽视的一点就是在

1020
00:42:09,776 --> 00:42:12,616
Instructor GPT训练的这个过程中

1021
00:42:12,616 --> 00:42:16,416
做的数据标注和RLHF这一块

1022
00:42:16,416 --> 00:42:17,696
其实我们可以想一想

1023
00:42:17,696 --> 00:42:20,976
你要在很多专业的领域生成很好的范文

1024
00:42:20,976 --> 00:42:23,976
同时比如说对于像ChatterGPT这样生成的

1025
00:42:23,976 --> 00:42:28,416
某个专业领域的很长很多的多个答案进行排序

1026
00:42:28,416 --> 00:42:29,736
这其实不是个简单的事情

1027
00:42:29,984 --> 00:42:32,424
比如说你问他一个生物的问题 他给你几种回答

1028
00:42:32,424 --> 00:42:35,864
然后你说哪个更好 这其实需要很多专业能力和技能

1029
00:42:35,864 --> 00:42:40,664
这之前本来大家觉得可能是一个需要成千上万人干好多年的事情

1030
00:42:40,664 --> 00:42:43,464
没想到居然是几十一百个人干了两个月的事情

1031
00:42:43,464 --> 00:42:47,864
在这个里面像Surge, Scale这样的公司扮演的作用是很大的

1032
00:42:47,864 --> 00:42:50,864
你能把这件事高效的大规模的去做

1033
00:42:50,864 --> 00:42:55,104
这个其实是一个不是所谓的火箭科学 不是rocket science

1034
00:42:55,104 --> 00:42:57,944
但是它是一个很难的工程问题

1035
00:42:58,208 --> 00:43:02,528
所以在这些领域,我就说有很多问题,当我们真的要去做的时候,可能会发现

1036
00:43:02,528 --> 00:43:07,648
不是说简单买了芯片插上就可以迅速出来,它会有很多的工程具体要解决的问题

1037
00:43:07,648 --> 00:43:11,848
所以我觉得这些都是很有意思的看到的更全面的东西吧

1038
00:43:11,848 --> 00:43:16,448
你刚提到GPT-4它没有经过微调以前的版本

1039
00:43:16,448 --> 00:43:21,888
比它真正放出来的要强大很多,因为在那篇论文里它也写到了,就是说它其实是

1040
00:43:22,048 --> 00:43:27,128
经历了八个月的安全测试,它是为了让它的安全标准不停地能达到

1041
00:43:27,128 --> 00:43:31,048
来适应人类不至于让它比如说有种族歧视

1042
00:43:31,048 --> 00:43:33,648
或者有一些它不应该出现的话

1043
00:43:33,648 --> 00:43:37,648
但是现在我看业界大家也没有讨论就是GBT5的

1044
00:43:37,648 --> 00:43:39,568
这种出现的可能性啊

1045
00:43:39,568 --> 00:43:44,808
未来比如说这个GBT它如果还要去进化,就是它的这种能力

1046
00:43:44,808 --> 00:43:49,688
它会是什么呢?它会是把那个魏焉歌的版本再放出来一些还是什么?

1047
00:43:49,688 --> 00:43:50,568
我不太理解啊

1048
00:43:50,816 --> 00:43:53,816
这很多问题只有Sam Altman能回答我感觉

1049
00:43:53,816 --> 00:43:56,816
但我觉得alignment会是一个很重要的话题

1050
00:43:56,816 --> 00:43:59,216
因为能力越大责任越大

1051
00:43:59,216 --> 00:44:03,136
尤其是当AutoGPT它可以选择工具执行外界任务

1052
00:44:03,136 --> 00:44:05,736
并且自发去执行的事情发生了

1053
00:44:05,736 --> 00:44:08,376
OpenAI让我觉得很厉害的一点就是

1054
00:44:08,376 --> 00:44:10,376
他们一开始是一个研究机构

1055
00:44:10,376 --> 00:44:13,136
一开始的时候其实是研究的很发散的

1056
00:44:13,136 --> 00:44:14,096
很多话题都有研究

1057
00:44:14,096 --> 00:44:15,256
他们也研究打游戏

1058
00:44:15,256 --> 00:44:17,576
他们也研究各种的领域的AI问题

1059
00:44:17,576 --> 00:44:19,808
但是他们逐渐地

1060
00:44:19,808 --> 00:44:23,208
中间发生了一次相变变成了一个做产品的公司

1061
00:44:23,608 --> 00:44:26,688
其实GPT-4发布的时候我听到两种声音

1062
00:44:26,888 --> 00:44:28,488
有的人说很失望

1063
00:44:28,488 --> 00:44:30,888
因为诶,居然就做了一个读图

1064
00:44:30,888 --> 00:44:32,128
都没有做纹身图

1065
00:44:32,128 --> 00:44:33,408
也没有做视频

1066
00:44:33,528 --> 00:44:35,328
也没有做其他的多模态什么的

1067
00:44:35,328 --> 00:44:37,088
并且这个图的API还没出来

1068
00:44:37,488 --> 00:44:39,328
好像主要的还是这个文字

1069
00:44:39,328 --> 00:44:40,168
觉得有点失望

1070
00:44:40,168 --> 00:44:41,208
因为没什么新东西

1071
00:44:41,608 --> 00:44:43,168
但另外一批人觉得很厉害

1072
00:44:43,168 --> 00:44:44,728
比如说像我们去测试了很多

1073
00:44:44,728 --> 00:44:45,928
原来战略物打不好的问题

1074
00:44:45,928 --> 00:44:46,888
发现它能打好了

1075
00:44:47,024 --> 00:44:50,024
当然后面插件啊 Otto GPT 直接出来就更厉害对吧

1076
00:44:50,024 --> 00:44:54,064
我觉得这恰恰反映了说OpenAI 在用一种做好产品

1077
00:44:54,064 --> 00:44:57,984
做一个上亿人使用的基础产品的态度去做这件事情

1078
00:44:57,984 --> 00:44:59,664
如果是个学术研究机构

1079
00:44:59,664 --> 00:45:03,064
它会很有动力去第一个发视频到文字啊

1080
00:45:03,064 --> 00:45:05,824
或者说文字到视频或者什么的这种研究结果

1081
00:45:05,824 --> 00:45:08,984
但是OpenAI选择了把已有的做扎实做好

1082
00:45:08,984 --> 00:45:10,464
这个是很不容易的

1083
00:45:10,464 --> 00:45:13,504
我觉得在这个里面alignment是一个

1084
00:45:13,600 --> 00:45:17,640
尽管被强调,可能还是比较被低估的一个话题

1085
00:45:17,640 --> 00:45:21,720
举个例子,应该跟什么样的价值观去alignment

1086
00:45:21,720 --> 00:45:27,320
现在可能本质上还是跟美国加州的一群白人男性去alignment

1087
00:45:27,320 --> 00:45:28,840
全世界有很多文明

1088
00:45:28,840 --> 00:45:30,880
在一个文明完全OK的事情

1089
00:45:30,880 --> 00:45:33,240
在另外一个文明可能是非常不OK的

1090
00:45:33,240 --> 00:45:36,160
同样我们的价值观变化也是很快的

1091
00:45:36,160 --> 00:45:38,320
十几年前我在美国读书的时候

1092
00:45:38,320 --> 00:45:40,920
同性婚姻还是非常禁忌的话题

1093
00:45:40,920 --> 00:45:43,520
当时奥巴马竞选其实都是不允许同性婚姻

1094
00:45:43,568 --> 00:45:46,568
但是现在同性婚姻当然是一个大家都很欢迎的价值观

1095
00:45:46,568 --> 00:45:49,768
那这个过程中你会发现AI跟什么对齐

1096
00:45:49,768 --> 00:45:51,768
如何去动态的去调整

1097
00:45:51,768 --> 00:45:53,768
其实都会有很多的问题

1098
00:45:53,768 --> 00:45:57,968
那么在这个过程中我觉得也可能需要一些跨国的合作

1099
00:45:57,968 --> 00:46:00,968
就像我们有核不扩散的国际公约一样

1100
00:46:00,968 --> 00:46:03,168
但核不扩散是好检验的

1101
00:46:03,168 --> 00:46:05,168
因为你做核实验天上有微星看着

1102
00:46:05,168 --> 00:46:07,768
但是你在你的计算机里跑着最先进的AI

1103
00:46:07,768 --> 00:46:09,760
实际上很难被看出来

1104
00:46:09,760 --> 00:46:12,720
但这个里面怎么样对于这种我们又未知

1105
00:46:12,720 --> 00:46:15,680
同时又有可能很大破坏的应用去进行监管

1106
00:46:15,680 --> 00:46:17,440
进行安全的保障

1107
00:46:17,440 --> 00:46:19,360
虽然那封公开信传得很广

1108
00:46:19,360 --> 00:46:21,520
我是不赞同公开信里面说的停止研究

1109
00:46:21,520 --> 00:46:23,640
因为我觉得好人停止研究坏人继续干嘛

1110
00:46:23,640 --> 00:46:26,760
而且并且我觉得你只有继续研究才知道它是怎么回事

1111
00:46:26,760 --> 00:46:29,720
但是我觉得确实我们面临的东西

1112
00:46:29,720 --> 00:46:32,000
其实是可能带来很大的破坏的

1113
00:46:32,000 --> 00:46:33,480
并且我悲观的觉得

1114
00:46:33,480 --> 00:46:36,200
可能得产生一两次大的破坏之后

1115
00:46:36,200 --> 00:46:39,200
人们才会真正的去把这个事情提到日程上来

1116
00:46:39,296 --> 00:46:43,256
就跟我们核泄漏之后大家可能才会制定核安全法

1117
00:46:43,256 --> 00:46:45,976
包括数据泄漏之后才会制定数据安全法一样

1118
00:46:45,976 --> 00:46:48,656
我觉得可能得经历一些大的事故

1119
00:46:48,656 --> 00:46:51,056
因为这里面它因为没有实体嘛

1120
00:46:51,056 --> 00:46:52,696
所以往往它会被人低估

1121
00:46:52,696 --> 00:46:54,616
就觉得我们把插头拔了就行了

1122
00:46:54,616 --> 00:46:59,456
但实际上它其实现在的能力已经可能造成一些破坏了

1123
00:46:59,456 --> 00:47:00,296
随便举个例子

1124
00:47:00,296 --> 00:47:02,496
比如说上一次美国大选的时候

1125
00:47:02,496 --> 00:47:08,896
其实就指控有敌对国家通过Facebook投放虚假广告来干扰选举结果

1126
00:47:08,896 --> 00:47:08,928
这种情况下

1127
00:47:08,928 --> 00:47:13,328
你想现在的大语言模型是个说服能力可以很强的一个工具

1128
00:47:13,648 --> 00:47:18,768
因为它可以把所有的心理学语言学技巧全部集中起来

1129
00:47:18,928 --> 00:47:21,648
调动全部的这种知识、语料、逻辑

1130
00:47:21,648 --> 00:47:22,848
想去说服一个人

1131
00:47:22,928 --> 00:47:25,368
简单来讲比如说电话诈骗杀猪盘对吧

1132
00:47:25,568 --> 00:47:27,448
现在是比较弱智的骗术

1133
00:47:27,448 --> 00:47:29,248
那以后可能是很强大的骗术

1134
00:47:29,648 --> 00:47:31,128
但是呢进一步的去想

1135
00:47:31,128 --> 00:47:34,448
假设说在一个选举中可以用AI打电话给

1136
00:47:34,448 --> 00:47:36,088
比如说100万个关键选民

1137
00:47:36,088 --> 00:47:37,424
因为其实美国大选

1138
00:47:37,424 --> 00:47:39,864
关键的选民可能就是几万人有研究通过

1139
00:47:39,864 --> 00:47:41,864
因为这几样是都很结果都很紧嘛

1140
00:47:41,864 --> 00:47:42,944
都非常的接近

1141
00:47:43,304 --> 00:47:45,264
那可能我打电话去劝说这100万人

1142
00:47:45,264 --> 00:47:46,704
有一万人改了他的投票

1143
00:47:46,704 --> 00:47:47,944
也许美国总统就变了

1144
00:47:48,344 --> 00:47:50,064
这可能就是非常大的一个变化

1145
00:47:50,464 --> 00:47:52,784
这其实都不用说什么天网啊终结者

1146
00:47:52,784 --> 00:47:53,904
其实就可以说

1147
00:47:54,184 --> 00:47:57,344
人和AI去配合去进行大的破坏

1148
00:47:57,704 --> 00:48:00,184
比如说你看OpenAI的插件系统

1149
00:48:00,344 --> 00:48:03,344
其实是只能够读互联网不能写互联网

1150
00:48:03,472 --> 00:48:05,272
这可能是很重要的安全防范处

1151
00:48:05,272 --> 00:48:07,872
是否则的话每个人都可以生成一堆fake news

1152
00:48:07,872 --> 00:48:09,672
然后直接发到网上去post

1153
00:48:09,912 --> 00:48:12,032
就会发现大量的信息就会充填互联网

1154
00:48:12,032 --> 00:48:15,792
这只是非常简单现有的技术就完全可以做到的事情

1155
00:48:15,792 --> 00:48:20,232
其实你想如果auto gpt这样的应用去调一个发消息的API

1156
00:48:20,232 --> 00:48:22,032
或者一个发内容的一个API

1157
00:48:22,032 --> 00:48:25,392
它完全可以不知疲倦的生成真假难辨的虚假内容

1158
00:48:25,392 --> 00:48:26,712
去填塞整个互联网

1159
00:48:26,912 --> 00:48:29,432
那假设你说用这个对一个人进行诽谤

1160
00:48:29,432 --> 00:48:31,392
或者制造一些虚假的信息

1161
00:48:31,392 --> 00:48:32,672
那岂不是很容易

1162
00:48:32,752 --> 00:48:36,672
这些我们都不谈到说什么AI对人类要什么消灭人的那些

1163
00:48:36,672 --> 00:48:38,712
我觉得那些还是属于偏科幻领域的

1164
00:48:38,712 --> 00:48:41,312
但是在目前它是个强大的语言工具

1165
00:48:41,312 --> 00:48:46,952
而我们又很缺乏对于一个看似形式很完善的谎言的识别能力

1166
00:48:46,952 --> 00:48:48,912
所以这其实是很危险的

1167
00:48:48,912 --> 00:48:53,272
你怎么看马斯克一边主张叫停对大模型的研究

1168
00:48:53,272 --> 00:48:56,432
然后另一边又自己去做一个这样的事儿

1169
00:48:56,432 --> 00:48:59,392
马斯克是一个非常think loud的人

1170
00:48:59,392 --> 00:49:02,384
他是把自己的想法会不加修饰地直接说出来

1171
00:49:02,384 --> 00:49:06,984
包括我听说也有一些openai的早期支持者对于openai现在变成了closea
i

1172
00:49:06,984 --> 00:49:09,544
还是有一些看法和意见的

1173
00:49:09,544 --> 00:49:10,584
closeai

1174
00:49:10,584 --> 00:49:11,864
就是说他没有开源嘛

1175
00:49:11,864 --> 00:49:13,584
对openai不open

1176
00:49:13,584 --> 00:49:14,464
对他不open

1177
00:49:14,464 --> 00:49:16,184
听说是会有些意见的

1178
00:49:16,184 --> 00:49:20,024
但伊隆马斯克肯定是一个最直接不仅要说出来我还要干的人

1179
00:49:20,024 --> 00:49:24,544
那有的人可能不支持说去用别的方式去把这老股卖了呀之类的

1180
00:49:24,544 --> 00:49:26,824
我觉得呢会有个道理啊

1181
00:49:26,824 --> 00:49:29,824
就是我觉得openai说这个技术太危险了

1182
00:49:29,824 --> 00:49:30,832
所以我要

1183
00:49:30,832 --> 00:49:32,592
不能让它开源我觉得也是对的

1184
00:49:32,592 --> 00:49:34,552
因为开源的时候

1185
00:49:34,552 --> 00:49:38,552
我觉得比较适合于这种对它的潜在风险

1186
00:49:38,552 --> 00:49:40,952
已经有个大概概念的一个领域

1187
00:49:40,952 --> 00:49:43,152
在现在对于GBT是这么强大的系统

1188
00:49:43,152 --> 00:49:45,712
如果你连它的能力我们都没有认识清楚的话

1189
00:49:45,712 --> 00:49:48,792
贸然开源可能确实是有很大的风险

1190
00:49:48,792 --> 00:49:49,872
但另外一方面呢

1191
00:49:49,872 --> 00:49:51,752
我觉得也有很多商业意义上

1192
00:49:51,752 --> 00:49:54,352
或者是舆论意义上的这种竞争

1193
00:49:54,352 --> 00:49:56,352
这种吵吵嚷嚷总是有很多的

1194
00:49:56,352 --> 00:49:57,744
这里面关键还是说

1195
00:49:57,744 --> 00:49:59,504
本质上我是比较相信开源的

1196
00:49:59,504 --> 00:50:01,464
但是我觉得肯定不是从一开始就开源

1197
00:50:01,904 --> 00:50:03,784
可能还是我们要对它有更多的了解

1198
00:50:04,264 --> 00:50:07,384
至少我们知道怎么防御之后开源我觉得会比较好

1199
00:50:07,664 --> 00:50:10,304
我觉得OpenAI的股权设置也很有意思

1200
00:50:10,304 --> 00:50:14,384
Sam本人他其实是没有任何OpenAI的股权的

1201
00:50:14,384 --> 00:50:16,304
如果我没有记错的话应该是零股权

1202
00:50:16,584 --> 00:50:20,264
他们的几个科学家像Elia还有那个叫Greg Brockman

1203
00:50:20,544 --> 00:50:22,464
其实主要的股权是给这些科学家的

1204
00:50:22,664 --> 00:50:25,544
他的公司设置最开始也是从非盈利息公司

1205
00:50:25,712 --> 00:50:28,992
後面是在非盈利下面又設了一個盈利性公司

1206
00:50:28,992 --> 00:50:30,312
如果我沒有記錯的話

1207
00:50:30,312 --> 00:50:32,712
他盈利性那一部分如果有股權

1208
00:50:32,712 --> 00:50:34,192
就是有財務回報的話

1209
00:50:34,192 --> 00:50:38,032
那麼他在董事會上他的投票權是沒有的

1210
00:50:38,032 --> 00:50:41,792
但是Sam選擇了不要錢,要投票權

1211
00:50:41,792 --> 00:50:45,392
我是在想為什麼他要去做這樣一種設置

1212
00:50:45,392 --> 00:50:48,592
是不是說未來就比如說要實現AGI

1213
00:50:48,592 --> 00:50:52,112
他前面還是要忍受很長時間很久的不盈利

1214
00:50:52,304 --> 00:50:54,624
然後去做到他最終的那個目標的

1215
00:50:54,624 --> 00:50:57,104
他很怕這個事情被商業所帶歪

1216
00:50:57,704 --> 00:50:59,264
我們這都是局外人

1217
00:50:59,264 --> 00:51:01,104
甚至都不是很接近的局外人

1218
00:51:01,104 --> 00:51:02,944
只有去從他表面去看

1219
00:51:03,544 --> 00:51:04,704
其實他提到了一點

1220
00:51:04,704 --> 00:51:07,504
就是說微軟現在有49%的收益權

1221
00:51:07,504 --> 00:51:08,504
我可以給你賺錢

1222
00:51:08,504 --> 00:51:09,704
但你擁有的是收益權

1223
00:51:09,704 --> 00:51:10,784
你不能擁有控制權

1224
00:51:10,784 --> 00:51:13,464
因為他們從一開始就本質上的去相信

1225
00:51:13,464 --> 00:51:14,704
這樣的技術很危險

1226
00:51:14,704 --> 00:51:16,704
需要得到有效的監管和控制

1227
00:51:16,704 --> 00:51:19,144
不能夠落入邪惡的大公司手裡

1228
00:51:19,328 --> 00:51:22,568
但是呢又沒辦法 因為大公司有錢能夠幫助他們去開發

1229
00:51:22,568 --> 00:51:26,808
所以才定下來這種收益和控制分開的這樣一個協定

1230
00:51:26,808 --> 00:51:29,848
然後才有你賺錢你就不能投票的這種邏輯

1231
00:51:29,848 --> 00:51:32,248
就是投票權和賺錢你只能選一個

1232
00:51:32,248 --> 00:51:35,208
我還是挺相信這一點的 說實話

1233
00:51:35,208 --> 00:51:37,448
我是覺得這是一個很誠懇的一個表達

1234
00:51:37,448 --> 00:51:39,048
也是一個很美國式的

1235
00:51:39,048 --> 00:51:40,408
如果把這個話說清楚

1236
00:51:40,408 --> 00:51:42,848
你要麼賺錢 要麼有控制 你只能選一個

1237
00:51:42,848 --> 00:51:44,888
我覺得其實是一個很有意思的設定

1238
00:51:44,888 --> 00:51:48,368
open edge開始的時候它能夠吸引很多優秀人才

1239
00:51:48,368 --> 00:51:49,312
就是因為

1240
00:51:49,312 --> 00:51:52,952
它不是一個在corporate裏面你需要去

1241
00:51:52,952 --> 00:51:56,352
完成一些比如說讓更多人看廣告這樣的事情

1242
00:51:56,352 --> 00:51:58,512
但同時呢它有很多捐贈

1243
00:51:58,512 --> 00:52:00,912
所以說你還是可以過上不錯的生活

1244
00:52:00,912 --> 00:52:03,672
但到後面確實OpenAI自己需要很多錢

1245
00:52:03,672 --> 00:52:05,872
同時這些員工人也變多了

1246
00:52:05,872 --> 00:52:07,152
也需要更多的激勵

1247
00:52:07,152 --> 00:52:09,512
所以後面變成了一家公司

1248
00:52:09,512 --> 00:52:13,512
但是它還是要解決公司做大了被資本裹挾的這個問題

1249
00:52:13,512 --> 00:52:16,312
所以我是覺得這個解決方案還蠻有意思的

1250
00:52:16,448 --> 00:52:19,368
但是也是需要真的有非常有vision的人

1251
00:52:19,368 --> 00:52:22,528
而且有實力去說服別人的人才能達成這麼個方案

1252
00:52:22,528 --> 00:52:24,728
否則對微軟來講我花了這麼多錢

1253
00:52:24,728 --> 00:52:25,728
當然我也賺很多錢

1254
00:52:25,728 --> 00:52:27,288
但是最後我沒有得到的平安

1255
00:52:27,288 --> 00:52:29,248
這其實也是一個常理來講

1256
00:52:29,248 --> 00:52:31,168
不一定能被所有人接受的方案

1257
00:52:31,608 --> 00:52:34,888
因為你們現在其實投大模型也投應用層啊

1258
00:52:34,888 --> 00:52:36,808
就我很好奇從投資的角度

1259
00:52:37,048 --> 00:52:39,928
你會怎麼去判斷一個項目甚至是一個人

1260
00:52:39,928 --> 00:52:41,248
他是不是值得你投的

1261
00:52:41,248 --> 00:52:44,808
我記得廣密當時在朋友圈發了一條文字

1262
00:52:44,808 --> 00:52:45,608
他就說

1263
00:52:45,632 --> 00:52:48,232
中國什麽樣的人能做出openai

1264
00:52:48,232 --> 00:52:51,832
我不知道你們怎麽看這個人需要具備哪些素質

1265
00:52:51,832 --> 00:52:57,032
其實我覺得做openai和做其他的公司需要的一些底層能力

1266
00:52:57,032 --> 00:52:58,832
我們一直認為是類似的

1267
00:52:58,832 --> 00:53:01,432
比如說我們一直說創業者的一些基礎能力

1268
00:53:01,432 --> 00:53:04,512
比如說學習力、領導力、創新力、意志力

1269
00:53:04,512 --> 00:53:06,312
我覺得這些是比較普世的

1270
00:53:06,312 --> 00:53:08,712
openai有它的歷史背景

1271
00:53:08,712 --> 00:53:12,312
有它的成長的國家和市場環境

1272
00:53:12,312 --> 00:53:15,312
第一個去做和第二個做也不一樣

1273
00:53:15,312 --> 00:53:15,360
我們要做的是創新

1274
00:53:15,360 --> 00:53:17,800
第一個可能需要很強的探索能力

1275
00:53:17,800 --> 00:53:20,160
但第二個可能往往需要是執行力

1276
00:53:20,160 --> 00:53:22,760
所以我覺得不宜直接去類比

1277
00:53:22,760 --> 00:53:26,160
但是我覺得OpenAI幾個人的搭配確實是非常厲害

1278
00:53:26,160 --> 00:53:29,680
每個人在自己應該做的事情上都是世界頂級的

1279
00:53:29,680 --> 00:53:33,680
而且其實我當時翻譯過一篇Grog Brockman的文章

1280
00:53:33,680 --> 00:53:35,760
他其實90%的時間都在寫代碼

1281
00:53:35,760 --> 00:53:38,040
這個事情我覺得不只是說他喜歡寫代碼

1282
00:53:38,040 --> 00:53:38,960
或者代碼寫得好

1283
00:53:38,960 --> 00:53:42,960
是說在這種很多事情都不確定的時候

1284
00:53:43,088 --> 00:53:46,408
組織裏面有一個非常有話語權

1285
00:53:46,408 --> 00:53:48,008
並且又非常hands on

1286
00:53:48,008 --> 00:53:52,888
知道每一個環節具體在做什麽的人是很重要的

1287
00:53:52,888 --> 00:53:54,888
因為很多時候當一個這樣的公司

1288
00:53:54,888 --> 00:53:56,128
是幾百億美金了

1289
00:53:56,128 --> 00:53:57,328
然後組織大了

1290
00:53:57,328 --> 00:53:59,328
可能他就變成了一個cto

1291
00:53:59,328 --> 00:54:01,248
或者說什麽這樣一個角色

1292
00:54:01,248 --> 00:54:02,408
那就會遠離一線

1293
00:54:02,408 --> 00:54:04,488
但是那種情況下往往是

1294
00:54:04,488 --> 00:54:06,208
如果你的業務已經表清楚了

1295
00:54:06,320 --> 00:54:07,480
大家該幹嘛是表清楚

1296
00:54:07,480 --> 00:54:11,040
但現在很多時候還是這一個學習研究探索的階段

1297
00:54:11,040 --> 00:54:13,160
這個時候一個人會的東西

1298
00:54:13,160 --> 00:54:15,680
牽涉到了領域多牽涉到團隊多

1299
00:54:15,680 --> 00:54:16,960
其實是很有幫助的

1300
00:54:17,240 --> 00:54:20,520
所以這其實都是叫做說運氣也好

1301
00:54:20,520 --> 00:54:22,160
或者說是有益設定也好

1302
00:54:22,160 --> 00:54:24,240
這還是挺厲害的一些設定的

1303
00:54:24,600 --> 00:54:27,120
但是未必中國的也是要一模一樣的搭配

1304
00:54:27,120 --> 00:54:27,600
對吧

1305
00:54:27,680 --> 00:54:29,640
比如說有技術背景的人當CEO的

1306
00:54:29,640 --> 00:54:32,480
也有老王這種商業業務背景的人當CEO的

1307
00:54:32,480 --> 00:54:33,200
我覺得都有

1308
00:54:33,472 --> 00:54:37,112
我們只能說創業呢它永遠無法是一個完美的一副牌

1309
00:54:37,112 --> 00:54:39,312
或者說哪怕你有看上去完美的一副牌

1310
00:54:39,312 --> 00:54:40,632
你也未必能打得完美

1311
00:54:40,632 --> 00:54:43,552
所以我覺得還是一有什麼牌然後去把它打好

1312
00:54:43,552 --> 00:54:45,312
你還有什麼要補充的嗎

1313
00:54:45,312 --> 00:54:49,832
首先我覺得AI這一波跟之前的元宇宙也好

1314
00:54:49,832 --> 00:54:52,992
Web3也好這種大家覺得很有泡沫的浪潮

1315
00:54:52,992 --> 00:54:54,992
我覺得還有些不太一樣的地方

1316
00:54:54,992 --> 00:54:57,152
首先任何科技進步都有很多泡沫

1317
00:54:57,152 --> 00:54:58,272
這個是肯定的

1318
00:54:58,272 --> 00:55:00,272
沒有泡沫的地方也不會有啤酒

1319
00:55:00,272 --> 00:55:02,672
但是呢我覺得判斷一個事情是不是

1320
00:55:02,704 --> 00:55:05,424
只有泡沫或者說泡沫上大多數呢 需要看

1321
00:55:05,424 --> 00:55:10,624
它是不是真的為主流的普通的用戶提供了很直接的價值

1322
00:55:10,624 --> 00:55:14,824
是不是真的是我因為要用這個技術所以我去用

1323
00:55:14,824 --> 00:55:18,344
還是說我能夠賺錢 或者說我聽說別人說未來很有用

1324
00:55:18,344 --> 00:55:20,424
還是現在立刻就有用 從這點來講

1325
00:55:20,424 --> 00:55:22,784
我覺得現在我們看到大圓模型為代表的

1326
00:55:22,784 --> 00:55:24,664
包括說生成式的AI

1327
00:55:24,768 --> 00:55:25,968
不管是文字還是圖片

1328
00:55:25,968 --> 00:55:29,408
是真真正正對普通的主流用戶群體

1329
00:55:29,408 --> 00:55:32,128
實在產生價值門檻也比較低

1330
00:55:32,128 --> 00:55:34,408
不管是從成本還是使用的難度來講

1331
00:55:34,408 --> 00:55:36,168
都比較低的一種技術

1332
00:55:36,168 --> 00:55:38,728
比起之前的一些被炒得很熱的

1333
00:55:38,728 --> 00:55:40,568
但是實際應用場景比較缺乏

1334
00:55:40,568 --> 00:55:42,368
用起來又比較難用的技術來講

1335
00:55:42,368 --> 00:55:44,488
我覺得還是有很大的區別的

1336
00:55:44,488 --> 00:55:46,368
所以我首先認為它是一個

1337
00:55:46,368 --> 00:55:48,128
雖然也是有很多泡沫

1338
00:55:48,128 --> 00:55:49,288
很多喧囂在裏面

1339
00:55:49,288 --> 00:55:51,528
但是我覺得會有很多啤酒的一個領域

1340
00:55:51,648 --> 00:55:55,528
我覺得可能是我們人類面臨的最大的一次技術革命

1341
00:55:55,528 --> 00:55:57,528
因為最本質的一點是說

1342
00:55:57,528 --> 00:56:01,488
原來我們所有的技術其實都在改進我們使用的工具

1343
00:56:01,488 --> 00:56:04,648
而這次是第一次用工具的這一邊

1344
00:56:04,648 --> 00:56:06,248
其實發生了變化

1345
00:56:06,248 --> 00:56:10,288
並且這個變化可能是比我們要更強大的一個存在

1346
00:56:10,288 --> 00:56:15,088
這個其實我覺得會在社會學、心理學等各個方面產生很重大的影響

1347
00:56:15,088 --> 00:56:18,688
因為它是發生在數字世界的

1348
00:56:18,912 --> 00:56:21,592
我們過去幾十年甚至上百年

1349
00:56:21,592 --> 00:56:25,872
我們往往在不斷地低估數字世界的變化速度

1350
00:56:25,872 --> 00:56:28,032
而高估物理世界的變化速度

1351
00:56:28,032 --> 00:56:31,192
比如說我們原來覺得有終結者terminator

1352
00:56:31,192 --> 00:56:33,912
結果現在我們的AI可能已經快到那個程度了

1353
00:56:33,912 --> 00:56:35,232
但機器人還差很遠

1354
00:56:35,232 --> 00:56:37,992
數字世界的迭代是快的

1355
00:56:37,992 --> 00:56:39,872
成本下降是快的

1356
00:56:39,872 --> 00:56:44,752
那麼現在我們看到的很多像AutoGPT這樣的雛形

1357
00:56:44,752 --> 00:56:47,712
可能三五年之後就會變得完全不一樣

1358
00:56:47,760 --> 00:56:49,760
會完善成熟很多

1359
00:56:49,760 --> 00:56:53,040
所以在這過程中我覺得要保持開放心態

1360
00:56:53,040 --> 00:56:56,600
然後很重要一點是在一個技術革命的早期

1361
00:56:56,600 --> 00:56:58,840
去預測未來基本上都是錯的

1362
00:56:58,840 --> 00:57:02,080
所以現在不管是我也好還是誰也好

1363
00:57:02,080 --> 00:57:03,440
我覺得講了很多話呢

1364
00:57:03,440 --> 00:57:05,320
我覺得你可以認為第一都是錯的

1365
00:57:05,320 --> 00:57:08,720
第二它的實現的路徑和結果可能都完全不一樣

1366
00:57:08,720 --> 00:57:10,432
因為試想2010年的時候

1367
00:57:10,432 --> 00:57:12,672
移動互聯網那個時候其實已經開始了

1368
00:57:12,672 --> 00:57:15,712
然後移動互聯網跟互聯網比其實也差不太多

1369
00:57:15,712 --> 00:57:19,632
但如果你在2010年你預測2023年的移動互聯網贏家

1370
00:57:19,632 --> 00:57:25,232
你會不會想到字節想不到快手小紅書拼多多美團滴滴uber

1371
00:57:25,232 --> 00:57:27,032
我覺得是很難很難的

1372
00:57:27,032 --> 00:57:29,072
那麽如果移動互聯網都這麽難

1373
00:57:29,072 --> 00:57:30,432
那AI我覺得就更難

1374
00:57:30,432 --> 00:57:34,192
有人說大模型會吞噬要應用的空間

1375
00:57:34,192 --> 00:57:37,192
也許有人說開源的會戰勝閉源的或者什麽怎麽樣

1376
00:57:37,192 --> 00:57:37,712
我覺得

1377
00:57:37,808 --> 00:57:41,688
我們一定要記住這是一個大部分人就只接觸了幾個月的技術

1378
00:57:41,688 --> 00:57:44,848
所以這個時候的很多預計 我覺得看看它的道理是什麽

1379
00:57:44,848 --> 00:57:48,208
但不用特別在意它的精確度

1380
00:57:48,208 --> 00:57:51,808
因為這個時候開始去做 尤其是對年輕人來講

1381
00:57:51,808 --> 00:57:55,368
早點去投身其中去嘗試去探索

1382
00:57:55,368 --> 00:57:57,168
其實是代表命運最好的方式

1383
00:57:57,440 --> 00:58:01,640
因為我在過去幾年經常聽人說80後很幸運對吧

1384
00:58:01,640 --> 00:58:04,120
像我們80後趕上了互聯網所以怎麽怎麽樣

1385
00:58:04,120 --> 00:58:06,760
但我覺得以後20年之後大家會說00後很幸運

1386
00:58:06,760 --> 00:58:09,280
因為趕上了AGI的Spark誕生的時候

1387
00:58:09,280 --> 00:58:12,000
在這個時候我們因為是做天使投資嘛

1388
00:58:12,000 --> 00:58:14,720
而且我們相信當技術比較成熟的時候

1389
00:58:14,720 --> 00:58:16,960
有利於連續創業者這些老司機們

1390
00:58:16,960 --> 00:58:18,960
但是技術比較新的時候呢

1391
00:58:18,960 --> 00:58:21,200
是有益於年輕人這些小天才們

1392
00:58:21,200 --> 00:58:24,160
這些年輕人呢他們一般都是年輕有衝勁

1393
00:58:24,160 --> 00:58:27,040
對這個技術很早就喜歡很早就感興趣

1394
00:58:27,040 --> 00:58:27,152
所以我相信未來的技術是會有益的

1395
00:58:27,152 --> 00:58:30,232
自己用的很多並且具備很好的知性能力

1396
00:58:30,232 --> 00:58:31,952
和國際化視野的年輕人

1397
00:58:31,952 --> 00:58:34,552
所以我們也是非常希望能夠多多尋找

1398
00:58:34,552 --> 00:58:35,752
在 AI 這個領域

1399
00:58:35,752 --> 00:58:37,952
不管你是要做比較底層的模型

1400
00:58:37,952 --> 00:58:40,152
或者中間層或者是做應用

1401
00:58:40,152 --> 00:58:42,752
我們都希望跟大家多多交流多多合作

1402
00:58:42,752 --> 00:58:44,432
好的 謝謝宇森

1403
00:58:44,432 --> 00:58:45,632
好的 謝謝

1404
00:58:45,632 --> 00:58:46,952
這就是我們今天的節目

1405
00:58:46,952 --> 00:58:48,392
如果大家喜歡我們的節目

1406
00:58:48,392 --> 00:58:51,552
或者大家對大模型有什麽樣的想法

1407
00:58:51,552 --> 00:58:53,832
可以在我們的評論區留言給我們

1408
00:58:53,936 --> 00:58:57,256
中國的聽眾可以通過蘋果播客小宇宙

1409
00:58:57,256 --> 00:59:02,136
喜馬拉雅 星庭FM 勵志FM 網易語音音樂 QQ音樂來關注我們

1410
00:59:02,136 --> 00:59:05,736
海外的聽眾可以通過Apple Podcast Google Podcast

1411
00:59:05,736 --> 00:59:08,456
Spotify 還有Amazon Music來收聽我們

1412
00:59:08,456 --> 00:59:10,456
感謝大家的收聽 謝謝