大模型重新定義應用   變身交談式人機介面

大模型重新定義應用 變身交談式人機介面

Table Of Contents
Microsoft行政總裁Satya Nadella Build
Microsoft行政總裁Satya Nadella Build展示超過50項新產品,其中Copilot採用與OpenAI的ChatGPT相同「外掛程式」(Plugin)技術標準,將大批開發「外掛程式」的應用納入Microsoft生態。

[新科技速遞]

Open AI生成式AI竄紅,各項生成式AI大模型應用有如水銀瀉地;甚至有一種說法,大模型時代,每一項產品都得重做一次。

產品結合AI功能,生成式AI無處不在。過去數月,市場百花齊放,從聊天對話的GTP-4、Claude+、Poe,以至搜尋資資訊的New Bing、Perplexity、Bard,用於圖像生成的Midjourney和Stable Diffusion,自行寫作筆記的Notion、Writesonic和Copy.AI等等,大模型衍生了無數應用。

多位業界領袖,百度李彦宏和NVIDIA黃仁勳都指出,未來所有應用都可能將基於大模型重新開發,每一行業開發出本身大模型;例如醫療、金融、能源,都有針對行業特點的大模型。

有人估計大模型遲早取代搜尋器;以Perplexity來說,可指定聊天機器人蒐集數據的來源,例如從新聞文章、學術期刊、論文、維基百科、YouTube和Reddit,以至一般互聯網等選項,日後可以有針對不同行業的聊天機器人。

大模型加持應用

不少新應用因此會誕生,但大模型率先改變是人機互動;以自然語言輸入內容至輔助操作,提示查詢的數據,建立分析以至獲得建議,Microsoft在Build開發人員大會,宣佈拓展AI輔助功能Copilot加入更多應用,降低使用門檻改進體驗。

兩年前,Microsoft推出了GitHub Copilot,透過OpenAI技術,加上GitHub內大量程式源碼,可協助開發人員開發程式給予建議,據說可節省4成開發時間。

Microsoft伸延與OpenAI合作,ChatGPT結合到Bing搜尋,如今結合到應用, Microsoft索性在所有核心產品和服務加入Copilot功能;首先是支援生產力套裝Microsoft 365 Copilot、生成程式源碼的GitHub Copilot X、商業軟件Dynamics 365 Copilot、針對銷售人員Copilot in Microsoft Viva和網絡保安Microsoft Security Copilot,此外還有包括商業智能分析Copilot in Power BI和製作網頁的Copilot in Power Pages。

MicrosoftCopilot
Windows 11的Copilot不僅以交談就可打開、關閉文件,還可通過滑鼠拖拽電腦桌面文件進入Copilot對話,進行概括總結、解讀,甚至重寫。

大模型須數據治理

企業使用大模型,必須配合內部數據,訓練出基於企業自有數據的對話模型,但前提是必須建立數據治理平台。Microsoft也推出Fabric分析平台;包括數據工程、數據整合、數據倉庫、數據科學、即時分析、可視性應用和商業智能等,再統一連接至OneLake的數據湖上。

Microsoft將Fabric定位為端到端統一分析平台,匯集數據和分析的工具;工具主要是PowerBI以及與OpenAI一同開發的Synapse,並支援集成到統一運算和數據儲存。

OneLake通過Data Factory雲端ETL服務,從不同來源集成並轉換數據,傳送同至一位置分析,遵從開放數據格式,數據載入後運算可作相同操作,無需再單獨重新處理。隨著大模型流行,近期不少企業已部署了類似方案,湖倉合一方案Databricks開源大語言模型Dolly 2.0,提供類似ChatGPT聊天對話功能,結合Databricks數據訓練大模型。

類似的湖倉合一方案,最大優點是打破數據孤島,部門之間容易分享數據。未來不同部門可能以數據各自開發AI應用,須有統一的數據體驗和數據管治。Fabric支援「數據網格」(Data mesh)概念,部門指定本身數據區域,數據分配至特定區域後,團隊可生成獨立數據方案,例如特定用途大模型。

Microsoft早有在Power BI Q&A亦有初步的自然語言查詢,靠數據標籤和同義詞完成,同樣概念伸延不是太難,OneLake亦可建立聊天對話查詢數據,再以大模型為Fabric內的數據,構建自然語言查詢。

擴大Copilot生態

當然,Microsoft亦將Copilot結合到Windows桌面作業系統;推出Windows Copilot預覽版,協助用戶操作Windows 11,包括更改設定、播放音樂清單及開啟指定應用程式,直接處理和總結文件。

Microsoft宣佈Copilot採用與OpenAI的ChatGPT相同「外掛程式」(Plugin)標準,確保ChatGPT與Microsoft一系列Copilot產品服務相互操作性。目前市場上已有大量應用,包括Shopify、Slack、Expedia、Zapier等已推出ChatGPT「外掛程式」,還有大量輪候冊上。「外掛程式」各有特殊功能,ChatGPT通過「外掛程式」也獲得資訊更新,Expedia以ChatGPT提供行程策劃的「外掛程式」,結合了最新旅行資訊;此後開發ChatGPT外掛程式,同時適用在Microsoft 365 Copilot和Dynamics 365 Copilot等,資訊可拓展至整個Microsoft生態。

共享外掛程式將Copilot生態與OpenAI的ChatGPT捆綁在一起,任何ChatGPT產生結果,直接支援Copilot應用作下一步處理,Microsoft在生產力套件和雲運算市場有優勢,OpenAI大模型和ChatGPT則技術領先,兩者攜手AI生態,將會加快在應用採用大模型的速度。

全自動泊車系統   提升車場可持續性

全自動泊車系統 提升車場可持續性

香港科學園率先試行全港首個配備電動車充電設施的自動泊車系統 「智動泊」。 新科技速遞 香港寸金尺土,經常缺乏泊車位;駕駛者則花去大量時間在停車場找空位,甚至取車時,忘記了泊車位置。另一方面,停車場營 …

了解更多
送餐「零接觸」減服務費   Uber推新功能助夥伴

送餐「零接觸」減服務費 Uber推新功能助夥伴

Uber推出新功能,用戶於結賬時選擇「放在門前」,送餐夥伴亦可要求將訂單放在用戶門前,確保「零接觸」送餐服務。 新科技速遞 香港不少餐廳關閉,Uber 香港公布措施援助合作餐廳、送餐夥伴及司機夥伴, …

了解更多
隱型傳播風險日高  全球推手機抗疫

隱型傳播風險日高 全球推手機抗疫

**[新科技速遞] [新冠肺炎][大數據 Big Data]** [caption id="attachment_11733" align="alignright" width="142"] 上星期 …

了解更多