李东跟着姚先生上了二楼的书房。
两人刚在沙发上坐下,门就被敲响了。
一个看着四十来岁专门照料姚先生起居的生活助理端着茶走了进来。
然後把两杯热茶放在了茶几上,便不声不响地退了出去,站到了门外。
姚先生端起茶,喝了一口这才慢悠悠地开了口。
“李东啊,我这把岁数,已经很久没有过今天这种感觉了。”
“之前听老杨提起过你,说你这个人很特别,学科和学科之间,在你这儿好像没什麽边界。”
“说实话,当时我心里还是有点不太信的。”
他笑了笑。
“今天可是让我长了见识,这一下午聊得,畅快。”
李东听着这话,心里其实是有那麽一丝不好意思的。
他能一路跟着姚先生的思路往最深处走,靠的全是薪火相传进阶版那点特殊效果。
今天课上那场你来我往的切磋,说好听了是棋逢对手,说难听点那是李东开挂了。
真要论起真本事,不管是知识储备,还是这麽多年攒下来的学术直觉,他比眼前这位老人,差得可不是一星半点。
所以他赶紧摆了摆手。
“姚先生,您又谬赞了。”
“哎,没有。”姚先生摆手,然後才意味深长的说道,“你这回特地跑来听我的课,是为了田院士那边的事吧?”
李东点了点头。
“是,不知道姚先生晓不晓得,田老师最近在张罗一个东西,叫aiformath。”
“田院士来找过我。”姚先生点头,说到这里,却忍不住莞尔了一下,“准确点说,是让刘院士来找过我。”
李东先是一愣,跟着也忍不住笑了出来。
田老师这是打定了主意,这辈子都不打算来水木了呀。
笑过之後,姚先生才开始说正事。
“那你对他这个项目,是个什麽看法?”
李东也没绕弯子,实话实说。
“不太看好,市面上现在那些大模型,真要拿来给他这个平台打底子,我觉得多半会出问题。”
田钢那个“aiformath”,说到底,是想搭一个让人工智能替数学家干苦力的基础设施。
而这麽个平台,底层总得有一个大模型当基座。
问题,恰恰就出在这个基座上。
市面上眼下能见着的,说穿了全是通用大模型。
它们吃的是百家饭,陪聊、写水稿、撸代码,样样拿得出手。
可这类模型有个打娘胎里带出来的绝症,叫“幻觉(hallucination)”。
日常闲聊,这点毛病无伤大雅。
可数学不一样啊。
一道证明,前面九十九步都对,只要当中有一步是它编出来的,整座逻辑高塔瞬间就塌了。
这时姚先生似笑非笑的看着李东说道。
“所以你来上我的课,是准备自己也搭一个大模型?”
李东点了点头,跟着又摇了摇头。
“搭是要搭的,不过跟外面那些通用大厂的模型还是有哦差别的,我准备搞一个垂直跑数学的。”
他要做的,是一个专攻数学的大模型,理论界有个更硬核的叫法,叫形式化定理证明模型(formaltheoremproving)。
这套模型的核心,就是绝不惯着模型自说自话的臭毛病。
它的每一步推导,都必须翻译成极其严格的形式化语言,直接喂给lean这种交互式证明器去一行一行做typecheck(类型检查)。
对就是对,错就是错,中间不留半点含糊的余地。
这麽一来,模型再想信口胡诌也诌不下去了。
姚先生听完,笑着瞥了李东一眼。
“我明白了。”
“你这是来拉我入夥的,对吧?”
李东笑得有点腼腆。
“姚先生,被您看出来了。”
姚先生摇了摇头。
“你的意思,我懂。”
“可我现在,是真没那个精力喽。”
“年轻那会儿,恨不得一天掰成两天用。”
“到了我这岁数,脑子还转得动,可身子骨已经跟不上了。”
“一个基座大模型从头train到尾,那是拿命去填的算力黑洞,我填不动了。”
老人的语气里带着点遗憾。
“能做的也就是给你们多带几个好苗子出来,往你们这边送几点新鲜血液,栽树的人不一定坐得上树荫,这就到顶了。”
李东的脸上,适时地浮起了一抹失望。
看着他这副表情,姚先生差点没绷住。
太假了。
这小子,连演戏都不会演。
不过姚先生也没去拆穿他,而是顺着他那点失望往下说道。
“你也别失望。”
“人,我倒是还能替你介绍一个,唐杰,唐教授。”
提起唐杰这个名字,智班的学生没有不熟的。。
水木计算机系的讲席教授,头顶着acm、aaai、ieee三料大满贯fellow。
早在2006年,他就带着实验室搞出了aminer,一个能把全球学术情报连根拔起的大数据系统。
到了2019年,外面的大厂还一窝蜂卷在计算机视觉里,他偏偏押宝了当时冷门的自然语言和知识图谱,一手拉起了智谱。
真正让他在国际上封神的,是那套glm架构。
那时候外面的大模型要麽学openai搞gpt的自回归生成,要麽学谷歌搞bert的双向理解。
唐杰偏要把这俩路塞进一个壳子里,硬生生蹚出了一条“自回归填空”的野路子。
到了2022年,水木和智谱一起直接开源了千亿参数的glm-130b。
那一年斯坦福搞了个大模型硬核评测,几十个巅峰模型里,唯一杀进榜单的亚洲面孔,就是它。
在准确性、公平性这些零样本测试指标上,它硬刚gpt-3不落下风,有几项测试跑得甚至更稳当。
如今智谱都已经敲了锺,成了资本圈里逢人便提的“全球大模型第一股”,市值一度逼得国内几家老牌大厂都得回头看一眼。
一个做学问的教授,没去跟风炒概念,愣是把一件本该是矽谷巨头砸钱才玩得转的事,给做成了。
说起来这条以教授身份下场、把学术界的前沿直接干成产业界天花板的路子,几年前有个姓陆的院士也干过。
如今唐杰算是又把这条路干了一遍。
就在姚先生说完的瞬间,李东立马说道。
“好。”
这反应快得,倒让姚先生都愣了一下。
他又好气又好笑地摇了摇头。
到底是上午刚跟他过了几招的人,肚子里那股劲儿,藏都藏不住。