ChatGPT引發科研範式變革和產業變革,滬上三大模型開發者談看法

上海 45℃ 0
摘要:記者俞陶然ChatGPT問世以來,上海學術界和產業界已開發出MOSS、“曹植”和“魔力寫作”等多個大型自然語言模型。如何看待ChatGPT引發的科研範式變革和產業變革?三個大語言模型開發負責人談了他們的看法。

  記者俞陶然

  ChatGPT問世以來,上海學術界和產業界已開發出MOSS、“曹植”和“魔力寫作”等多個大型自然語言模型。其中,MOSS由復旦大學科研團隊開發,現時在校園網內測階段,計畫4月完成陞級並開源;“曹植”由達觀數據公司開發,也處於內測階段,計畫今年上半年正式發佈;“魔力寫作”由竹間智慧公司開發,多家企業用戶正在試用,其面向個人用戶的版本“靈感閃寫”和“文膽”微信小程式已上線一個多月。

  如何看待ChatGPT引發的科研範式變革和產業變革?政府、高校院所和企業可以有何作為?三個大語言模型開發負責人談了他們的看法。

  重視通用人工智慧研究

  “科研範式變革可以分為兩個層面,一個是在眾多學科領域引入人工智慧,開展AI for Science(人工智慧驅動的科學研究);另一個是在人工智慧領域內,從傳統的自然語言處理轉向以大語言模型為基座的通用人工智慧(AGI)研究。”復旦大學計算機科學技術學院教授、MOSS開發團隊負責人邱錫鵬說。

  邱錫鵬認為,國內科技界要重視通用人工智慧研究,不能只盯著GPT模型本身和這類產品的落地應用。“通用人工智慧就是人工智慧像人一樣,可以幹很多事,不再局限於某些特定任務。”他解釋,“微軟最近發表的測評論文說,GPT-4能力的廣度和深度顯示,它可以被視為AGI系統的雛形。OpenAI、穀歌、華盛頓大學等頭部機构都已轉向,研究以大模型為基座的AGI。”

  為了在這場科技革命中不被落下,我國也要加强通用人工智慧研究,包括將視覺、語音等多模態感知能力接入大語言模型,增强大模型與現實世界的互動能力,並構建以通用人工智慧為覈心的產學研合作生態。

  作為國內第一個對話式大語言模型,MOSS今年2月啟動內測後引發廣泛關注。近日,復旦科研團隊正在對它進行陞級。現時,邱錫鵬和博士生孫天祥等人一方面在提升它的中文水准,中文詞語訓練量已由內測啟動時的300億增至1000億;另一方面,他們在為MOSS添加聯網蒐索、圖片生成等功能,讓它可以上網獲取新的知識,向通用人工智慧系統演進。

  復旦科研團隊計畫4月完成陞級並開源,公佈MOSS模型參數和訓練細節,與學術界和產業界分享大語言模型開發經驗,讓企業在開源模型基礎上開發各種應用,促進產業生態繁榮。

  建立人工智慧公共算力池

  談及大語言模型產業前景,達觀數據董事長兼首席執行官陳運文預測,產業上游是算力供應商,中游是百度等開發C端通用大模型的大企業和開發B端服務大模型的企業,下游是開發各種應用的中小企業。其中,B端服務大模型的參數量是C端通用大模型的1/5至1/3,適合較大規模的企業開發。

  達觀數據研發的“曹植”就是一個B端服務大模型,參數量超過500億,公司希望它像曹植那樣有“七步成詩”的能力,成為滿足金融、政務、製造等行業需求的智慧大腦。它擁有ChatGPT的所有功能,可以生成貸後管理報告、投行申報檔案、法律文書等各類文字,也可以與用戶對話。“我們想打造垂直、專用、自主可控的國產大模型。”陳運文說,“為了能生成長篇專業文字,比如上百頁的報告,我們開發了一個能輸入複雜指令的表單介面,有望為企業員工大幅減負。”

  在研發過程中,達觀數據也有些煩惱——公司只有100張GPU(圖形處理器)卡,而要“跑”大模型,至少需要1000張GPU卡。為此,陳運文只能到處“化緣”借卡。在他看來,新型舉國體制適用於大語言模型研發和產業化,國家和地方政府可建立人工智慧公共算力池,租給企業和高校院所使用。“一張A800 GPU卡的價格是8萬元,公共算力池可配備5000—10000張卡,建設成本在10億元以內。開發大模型產品的企業可分時租用池裏部分GPU,大幅節省自購算力資源的成本。”

  新型舉國體制還可在大模型的中文預訓練中發揮作用,推動圖書館、出版社、新聞機构等擁有高品質中文語料庫的組織與人工智慧企業合作,提高大模型的中文知識水准。

  竹間智慧創始人兼首席執行官簡仁賢也表達了人工智慧企業的心聲:在這輪產業變革中,希望政府和投資機構更多地關注、支持中小企業。大模型並非只有“BAT”等巨頭才“玩得起”,事實上,OpenAI就屬於創業期的中小企業。創業公司決策效率高、創新能力强的優勢,在大模型技術創新中得到了充分體現。“就像OpenAI與微軟的合作一樣,創業公司與大企業、投資機構聯手,有望開發出顛覆性產品。”

标签: 人工智慧 範式

評論留言

  • 熱心網友
    暫時沒有留言

我要留言

◎歡迎參與討論,請在這裡發表您的看法、交流您的觀點。【所有評論需要人工稽核後才能顯示,請勿發佈垃圾資訊】